Как дипфейки и инъекционные атаки взламывают системы проверки личности

[admin]

Рикардо Ампер, основатель и генеральный директор Incode.


Технология дипфейков развивается и больше не ограничивается кампаниями по дезинформации или вирусными манипуляциями в СМИ. Большинство групп по обеспечению безопасности уже понимают проблему дипфейков; однако более актуальным является вопрос о том, как синтетические медиа используются на практике.


Этот вектор мошенничества используется в моментах идентификации, которые обеспечивают работу интернета и экономики, — например, при регистрации клиентов в банке, регистрации водителей на платформах для работы по контракту и доставки, проверке продавцов на маркетплейсах, восстановлении учетных записей, удаленном найме, доступе к партнерам и рабочих процессах с привилегированным доступом.


Поскольку все больше работы и бизнеса ведется удаленно, идентификация стала основным контрольным пунктом — и основной целью. Злоумышленники хотят не просто обмануть проверку селфи; они хотят выдать себя за реального человека, получить надежный доступ и использовать эту возможность в потребительских и корпоративных средах.


В настоящее время команды по кибербезопасности и борьбе с мошенничеством сталкиваются с целым рядом тактических приемов, направленных на принятие одного и того же решения – в тот момент, когда система делает вывод: «Это реальный человек»:

• Высококачественные синтетические лица и голоса, способные пройти быструю проверку.
• Воспроизведены реальные видеоматериалы из украденных или собранных сессий.
• Автоматизация, позволяющая масштабно исследовать потоки верификации.
• Атаки с внедрением кода, которые компрометируют конвейер захвата и подменяют входной поток вышестоящим устройством.

Вот почему одной лишь «обнаружения дипфейков» уже недостаточно. Предприятиям необходима полная проверка сеанса: включая восприятие, целостность устройства и поведенческие сигналы… и все это в рамках единого, управляемого в режиме реального времени контроля.


Именно в этом заключается модель, лежащая в основе Incode Deepsight: подход, разработанный для сквозной проверки подлинности сеансов, а не просто для оценки медиаконтента в отрыве от контекста.


Правильный вопрос не только «Выглядит ли это лицо реалистично?», а «Можем ли мы доверять всей этой сессии от начала до конца?».

Дипфейки и внедрение вредоносного кода представляют собой проблемы корпоративной безопасности.​

В корпоративных системах успешный обход защиты — это не событие, влияющее на репутацию, а событие доступа. Когда проверка принимает сессию, подвергшуюся манипуляциям или компрометации, за реальную, злоумышленники могут:

• Создание мошеннических аккаунтов с использованием поддельных удостоверений личности.
• Захват существующих учетных записей пользователей
• Обход проверки персонала при удаленном найме
• Получение несанкционированного доступа к конфиденциальным внутренним системам.

В отличие от обмана в социальных сетях, эти атаки могут обеспечить постоянный доступ внутри доверенных сред. Последствия долговременны: сохранение учетной записи, пути повышения привилегий и возможности для горизонтального перемещения, начинающиеся с одной ложной проверки.

Где проверка личности терпит неудачу: предположение о надежности датчика.​

Большинство проверок личности основаны на двух сигналах: сходстве лиц и «живости». Оба сигнала полезны, но оба могут быть сведены на нет, если система предполагает, что входной поток является подлинным.


Злоумышленники нарушают это предположение двумя взаимодополняющими способами .


Во-первых, они имитируют реальные медиафайлы. Дипфейки и голосовые клоны совершенствуются в реальных условиях эксплуатации — короткие клипы, съемка с мобильных устройств, сжатие и несовершенное освещение. Рабочий процесс, зависящий от узкой визуальной поверхности, все чаще подвергается ложному восприятию.


Во-вторых, они полностью обходят датчик. Атаки с внедрением кода подменяют входной поток до того, как он достигнет стадии анализа. Вместо того чтобы показывать лицо камере, злоумышленники могут:

• Используйте программное обеспечение виртуальной камеры для передачи синтетического или предварительно записанного видео.
• Запускайте сеансы проверки внутри эмуляторов, предназначенных для имитации легитимных мобильных устройств.
• Работает с устройств, получивших root-права или взломанных (jailbroken), которые обходят проверки целостности.
• Замените захват в реальном времени на обработанные потоки, передаваемые по течению.

В подобных ситуациях СМИ могут выглядеть безупречно, поскольку им никогда не приходилось проходить через реальный путь захвата. Именно поэтому защита, основанная только на восприятии (даже сильная), необходима, но недостаточна.

Что показывают результаты анализа базы данных инцидентов с политическими дипфейками Университета Пердью​

Одна из практических проблем защиты от дипфейков — это обобщение: детекторы, хорошо работающие в контролируемых условиях, часто показывают ухудшение характеристик в реальных условиях.


Исследователи из Университета Пердью оценили системы обнаружения дипфейков, используя в качестве эталона реальные данные из базы данных инцидентов с политическими дипфейками (PDID).


PDID содержит реальные медиафайлы инцидентов, распространяемые на таких платформах, как X, YouTube, TikTok и Instagram, что означает, что входные данные сжимаются, перекодируются и обрабатываются постобработкой теми же способами, которые защитники часто видят в производственной среде.


Ключевые факторы включают в себя:

• Сильное сжатие и перекодирование
• Разрешение ниже 720p
• Короткие видеоролики, ориентированные на мобильные устройства.
• Конвейеры генерации гетерогенных систем

Детекторы оценивались комплексно с использованием таких метрик, как точность, AUC и частота ложных срабатываний (FAR). В процессах идентификации FAR часто является более важной метрикой, поскольку даже низкая частота ложных срабатываний может привести к устойчивому несанкционированному доступу.


Результаты, полученные в Университете Пердью, также подчеркивают практическую реальность для защитников: эффективность детекторов резко различается, как только входные данные начинают выглядеть как исходящие.


Среди коммерческих систем, протестированных в рамках бенчмарка PDID Университета Пердью, Deepsight от Incode показала лучшие результаты в задаче чисто визуального обнаружения дипфейков — оценки видеоконтента в реальных условиях инцидента.


Но это лишь первый слой проблемы.


Важно уточнить: PDID измеряет надежность обнаружения медиаконтента на основе реального содержимого инцидента. Он не моделирует внедрение кода, компрометацию устройства или атаки на целые сессии.


В реальных процессах идентификации злоумышленники не выбирают один метод за раз; они их комбинируют. Высококачественный дипфейк можно воспроизвести. Воспроизведение можно внедрить. Внедренный поток можно автоматизировать в больших масштабах.


Даже самые лучшие детекторы медиаконтента могут быть обойдены, если путь захвата ненадежен. Именно поэтому Deepsight задает еще более глубокий вопрос, чем просто «Является ли это видео дипфейком?».


Deepsight устраняет этот пробел, проверяя всю сессию на трех уровнях: восприятие, целостность и поведение, так что система может остановить атаки независимо от того, представляют ли они собой убедительный дипфейк, повторное воспроизведение или внедренный поток.

Ручная проверка не устраняет разрыв.​

Проверка человеком может снизить уровень некоторых видов мошенничества, но это не масштабируемый механизм защиты от синтетических медиафайлов.


Даже опытные эксперты испытывают трудности с различением подлинных и поддельных документов по мере совершенствования генеративных моделей.


Современные инъекционные атаки опровергают эту предпосылку и полностью подрывают человеческое суждение: сессия может казаться легитимной, в то время как входной поток подменяется вышестоящим. Даже согласованные мнения нескольких экспертов не могут установить подлинность пути захвата.


Надежная модель безопасности: доверяйте сессии, а не только пикселям.


Если злоумышленники могут одержать победу либо за счет улучшения качества медиаконтента, либо за счет обхода датчика, то средства защиты должны проверять сессию на нескольких уровнях в режиме реального времени:

• Восприятие: подвергаются ли сами СМИ манипуляциям?
• Целостность: Является ли устройство, камера и сессия подлинными?
• Поведение: Отражает ли взаимодействие поведение реального человека и стандартный процесс проверки?

Эта модель обеспечивает устойчивость. Если высококачественный дипфейк ускользает от распознавания, сигналы целостности и поведения все равно могут предотвратить успешный обход. Если медиаконтент внедряется, проверки целостности могут завершить сессию неудачей независимо от того, насколько реалистично выглядят пиксели.

Как Incode Deepsight блокирует дипфейки и инъекционные атаки в режиме реального времени​

Злоумышленники наращивают масштабы своей деятельности. Они могут быстро совершенствовать процессы проверки, исследовать граничные случаи и внедрять в практику то, что работает. Дипфейки повышают базовый риск ложного принятия, внедрение кода исключает камеру как надежный датчик, а автоматизация увеличивает количество попыток.


Предприятиям, которые рассматривают проверку личности как разовую процедуру, а не как процесс обеспечения безопасности в режиме реального времени, будет сложно идти в ногу со временем.


В основе Incode Deepsight лежит простая предпосылка: если процессы идентификации подвергаются атакам как на уровне медиафайлов, так и на уровне сессии, средства защиты должны проверять всю сессию верификации от начала до конца.


В процессе проверки в реальном времени Deepsight объединяет три слоя:

• Анализ восприятия: многомодальный ИИ, который оценивает видеосигналы, сигналы движения и глубины в нескольких кадрах для обнаружения синтетических медиафайлов и физических подделок. Deepsight также защищает системы идентификации, обнаруживая документы, сгенерированные ИИ.
• Проверка целостности: проверка подлинности камеры и устройства для выявления и блокировки внедренных источников медиаконтента, таких как виртуальные камеры, эмуляторы и скомпрометированные среды.
• Сигналы поведенческого риска: обнаружение индикаторов автоматизации и бот-подобных моделей взаимодействия, которые часто сопровождают масштабные атаки.

Именно эта многоуровневая модель обеспечивает устойчивость Deepsight на практике. Если высококачественный дипфейк ускользает от распознавания, сигналы целостности и поведения все равно могут предотвратить успешный обход. Если же внедряется медиаконтент, проверки целостности могут завершить сессию неудачей, независимо от того, насколько реалистично выглядят пиксели.


Цель проста: определить, можно ли доверять всей сессии проверки — не только тому, выглядит ли лицо реальным, но и тому, присутствует ли реальный человек на доверенном устройстве в режиме реального времени, без каких-либо изменений.

Сокращение разрыва между обнаружением и применением​

Защита рабочих процессов идентификации теперь требует средств контроля, которые учитывают наличие враждебного ИИ и ненадежных сред сбора данных.


Защита от дипфейков должна эволюционировать от выявления поддельных пикселей до проверки подлинности целых сеансов верификации. Многоуровневая защита, охватывающая подлинность медиаконтента, целостность устройства и поведенческие сигналы, является наиболее надежным способом снижения ложных срабатываний без создания ненужных препятствий для добросовестных пользователей.