Microsoft: Хакеры используют ИИ на каждом этапе кибератак

[admin]

Компания Microsoft заявляет, что злоумышленники все чаще используют искусственный интеллект в своих операциях для ускорения атак, масштабирования вредоносной деятельности и снижения технических барьеров на всех этапах кибератаки.


Согласно новому отчету Microsoft Threat Intelligence, злоумышленники используют инструменты генеративного искусственного интеллекта для решения широкого спектра задач, включая разведку, фишинг, разработку инфраструктуры, создание вредоносного ПО и действия после взлома.


Во многих случаях ИИ используется для составления фишинговых писем, перевода контента, обобщения украденных данных, отладки вредоносного ПО, а также для помощи в написании скриптов или настройке инфраструктуры.


«Microsoft Threat Intelligence отмечает, что сегодня большинство случаев злонамеренного использования ИИ сосредоточено на применении языковых моделей для создания текста, кода или медиаконтента. Злоумышленники используют генеративный ИИ для создания фишинговых приманок, перевода контента, обобщения украденных данных, генерации или отладки вредоносного ПО, а также для создания скриптов или инфраструктуры», — предупреждает Microsoft .


«В этих целях ИИ выступает в качестве множителя силы, снижая технические издержки и ускоряя выполнение задач, в то время как операторы-люди сохраняют контроль над целями, наведением на цель и принятием решений о развертывании».

Использование ИИ злоумышленниками на протяжении всего жизненного цикла кибератаки
Источник: Microsoft

Искусственный интеллект используется для осуществления кибератак.​

Компания Microsoft зафиксировала случаи использования искусственного интеллекта в кибератаках со стороны ряда хакерских групп, включая северокорейских хакеров, известных как Jasper Sleet (Storm-0287) и Coral Sleet (Storm-1877), которые используют эту технологию в рамках схем по привлечению удалённых ИТ-специалистов.

В рамках этих операций инструменты искусственного интеллекта помогают создавать реалистичные профили, резюме и переписку, необходимые для трудоустройства в западные компании и сохранения доступа к ресурсам после приема на работу.


Jasper Sleet использует платформы генеративного искусственного интеллекта для упрощения разработки мошеннических цифровых образов. Например, злоумышленники, использующие Jasper Sleet, задавали платформам ИИ задачи по созданию списков имен и форматов адресов электронной почты, соответствующих культурным особенностям конкретных профилей личности. Например, для использования ИИ в этом сценарии злоумышленники могут использовать следующие типы подсказок:

Пример задания 1: «Составьте список из 100 греческих имен».

Пример задания 2: «Создайте список форматов адресов электронной почты, используя имя Джейн Доу ».

Jasper Sleet также использует генеративный ИИ для анализа объявлений о вакансиях в сфере разработки программного обеспечения и ИТ на профессиональных платформах, позволяя инструментам извлекать и обобщать необходимые навыки. Затем эти данные используются для создания поддельных учетных записей, соответствующих конкретным должностям.

❖ Microsoft Threat Intelligence

В отчете также описывается, как ИИ используется для содействия разработке вредоносного ПО и созданию инфраструктуры, при этом злоумышленники используют инструменты ИИ для генерации и доработки вредоносного кода, устранения ошибок или переноса компонентов вредоносного ПО на различные языки программирования.

В ходе некоторых экспериментов с вредоносным ПО были обнаружены признаки наличия программ, использующих искусственный интеллект, которые динамически генерируют скрипты или изменяют поведение во время выполнения.


Компания Microsoft также заметила, что Coral Sleet использует ИИ для быстрого создания поддельных сайтов компаний, развертывания инфраструктуры, а также тестирования и устранения неполадок в своих системах.


По данным Microsoft, когда средства защиты ИИ пытаются предотвратить его использование в этих задачах, злоумышленники используют методы взлома системы (jailbreaking), чтобы обманом заставить пользователей LLM генерировать вредоносный код или контент.


Помимо использования генеративного ИИ, исследователи Microsoft начали наблюдать, как злоумышленники экспериментируют с агентным ИИ для автономного выполнения задач и адаптации к результатам.


Однако, по словам Microsoft, в настоящее время ИИ используется в основном для принятия решений, а не для автономных атак.


Поскольку многие кампании, направленные на использование законного доступа ИТ-специалистами, основаны на злоупотреблении этим доступом, Microsoft рекомендует организациям рассматривать подобные схемы и аналогичную деятельность как внутренние риски.

Кроме того, поскольку эти атаки с использованием ИИ имитируют традиционные кибератаки, специалистам по защите следует сосредоточиться на выявлении аномального использования учетных данных, усилении защиты систем идентификации от фишинга и обеспечении безопасности систем ИИ, которые могут стать целью будущих атак.


Microsoft не единственная компания, которая наблюдает, как злоумышленники все чаще используют искусственный интеллект для проведения атак и снижения барьеров для проникновения на рынок.


Компания Google недавно сообщила , что злоумышленники используют Gemini AI на всех этапах кибератак, что перекликается с тем, что наблюдала Amazon в ходе этой кампании.


Компания Amazon и блог по кибербезопасности Cyber and Ramen недавно также сообщили о том, что злоумышленник использовал несколько сервисов генеративного искусственного интеллекта в рамках кампании, которая взломала более 600 межсетевых экранов FortiGate .