Как генеративный ИИ изменил экосистему кибератак [перевод]

Не удалось прогрузить медиа

WormGPT, запущенный в июне 2023 года, принес сдвиг парадигмы в экосистему киберпреступности. Генеративный ИИ снизил барьер для атак, а инструменты взлома на базе ИИ быстро распространяются в платных подписках и бесплатных форматах с открытым исходным кодом. Кроме того, ИИ развивается не только от создания инструментов атаки, но и управляет всей операцией атаки, и новые угрозы, внедряющие ИИ в вредоносное ПО для его преобразования в реальном времени, становятся реальностью.

В этой статье всесторонне анализируется экосистема распространения инструментов взлома на базе ИИ, случаи интеграции с реальной инфраструктурой атак и вредоносным ПО, а также структурные угрозы и стратегии защиты, вызванные распространением открытого ИИ.

 

Распространение и распространение инструментов взлома на базе ИИ

С момента распространения генеративного ИИ злоумышленники начали использовать ИИ на различных этапах процесса атаки, таких как написание фишинговых скриптов, создание вредоносного ПО и автоматизация разведки. Изначально это были скорее индивидуальные инструменты или экспериментальные попытки, но в последнее время платные подписочные сервисы и инструменты с открытым исходным кодом распространились вместе, став ключевой инфраструктурой в экосистеме киберпреступности.

 

Хронология появления хакерских инструментов на базе ИИ

С момента появления WormGPT в 2023 году инструменты взлома на базе ИИ выросли до десятков всего за несколько лет и теперь стали ключевым элементом экосистемы киберпреступности.

[Таблица 1] Хронология появления инструментов взлома на базе ИИ и вредоносного ПО
 

Особенно заметный момент в приведённой выше хронологии — Evil-GPT появился на том же форуме на следующий день после окончания WormGPT. Это показывает, что экосистема инструментов взлома ИИ не исчезает так просто даже после отключения конкретных инструментов или вмешательства следственных органов, и может быть быстро заменена аналогичными инструментами благодаря их высокой устойчивости.

 
Сложная структура экосистемы распределения

Инструменты для взлома ИИ широко распространяются через платную подписку (SaaS) и с открытым исходным кодом, бесплатное распространение. Хотя методы развертывания различаются, многие инструменты не являются проприетарными моделями, а опираются на легитимные коммерческие API ИИ или неинформированные модели с открытым исходным кодом, при этом фильтрация контента убрана.

[Таблица 2] Примеры и функции по типам распространения инструментов взлома ИИ

Не удалось прогрузить медиа

[Рисунок 1] Продвижение WormGPT и рекламные цены на подписку

 


 

Структурные изменения и влияние подземных экосистем

Функции подпольных инструментов ИИ классифицируются на шесть областей: дипфейки и генерация изображений, разработка вредоносного ПО, автоматизация фишинга, разведка и исследования, генерация кода и эксплуатация уязвимостей, и работают по той же бизнес-структуре, что и обычные SaaS-сервисы. Формируются рабочие модели, такие как бесплатные пробные периоды, уровни подписки, премиум-функции, поддержка клиентов Telegram и 7-дневная гарантия возврата денег. Это даёт новичкам хакерам (Script Kiddie) мощное асимметричное преимущество, повышая общий уровень киберугроз.

Хотя инструменты ИИ действительно значительно снизили барьеры для проникновения взломских атак, это не следует трактовать как возможность для неспециалистов легко проводить сложные атаки. Точнее, это означает, что неспециалистам больше не требуется продвинутая экспертиза на определённых этапах атак, таких как написание фишинговых фраз или создание базовых скриптов вредоносного ПО. На самом деле всё ещё существуют проблемы с проведением фишинговых кампаний и внедрением вредоносного ПО, такими как создание инфраструктуры C2 и уклонение от обнаружения, которые сложно решить только с помощью ИИ.

Однако эти ограничения не означают, что угрозы, связанные с ИИ, находятся на низком уровне. ИИ — это не инструмент, который завершает весь процесс атаки в одиночку; он дополняет возможности злоумышленников, автоматизируя и оптимизируя части подготовки и выполнения атак. В недавних случаях эти изменения вышли за рамки вспомогательных ролей, таких как написание фишинговых фраз или генерация кода, на этапы, влияющие на реальный ход атак.

 

Реальные случаи использования инструментов атак на базе ИИ

Инструменты взлома на базе ИИ начали использоваться не просто как распределённые товары, но и как часть реальных операций по атаке. Недавние случаи показывают, что ИИ участвует во всём процессе атак — от разведки и эксплуатации уязвимостей до курирования учетных данных, модификации вредоносного ПО и эксплуатации инфраструктуры.

 

Случай с оркестрацией атак ИИ: Bissa Scanner

Недавно были подтверждёны случаи, показывающие, что ИИ расширяется за рамки простого вспомогательного инструмента для взлома атак до уровня организации всего потока атак. В деле Bissa Scanner злоумышленник объединил Claude Code и OpenClaw для работы в качестве инструмента оркестрации атак, автоматизируя масштабное сканирование за счёт эксплуатации уязвимости в Next.js-фреймворке (CVE-2025-55182). Это демонстрирует, что ИИ может быть напрямую использован не только для генерации кода для атак, но и при создании и выполнении конвейеров автоматизации атак.

Украденные данные включали файлы учетных данных с ИИ-платформ, таких как Anthropic, OpenAI, Google, AWS, Stripe и PayPal, а также облачных, платежных и баз данных. Среди пострадавших компаний были налоговые, финансовые консалтинговые фирмы, платёжные фирмы по цифровым активам, платформы по расчёту заработной платы и HR. Он провёл сортировку (выбор на основе значимости), классифицируя ценные финансовые и криптовалютные данные в реальном времени из украденных данных, максимизируя эффективность атаки. Злоумышленники получают результаты взломов в реальном времени через ботов Telegram, фактически создавая систему операций по киберпреступности, поддерживаемую ИИ.

 

Эволюция вредоносного ПО, встроенного на ИИ

В последнее время были случаи, когда ИИ используется в вредоносном ПО для автоматизации модификации, замаскировки и принятия решений о выполнении кода. Этот подход нейтрализует традиционное обнаружение по сигнатурам, затрудняя определение злокачественности только с помощью статического анализа. Ниже приведены основные случаи недавно обнаруженного вредоносного ПО, встроенного в ИИ.

• Promptflux: саморазрушительный дроппер, который вызывает API Gemini для периодической переработки исходного кода и обходит обнаружение статических сигнатур.
• Honestcue: самокорректируемое вредоносное ПО в точно время, которое избегает обнаружения, запрашивая техники обфускации VBScript в реальном времени через API Gemini.
• Canfail – Longstream: вредоносное ПО, используемое связанными с Россией агентами, нацелёнными на украинские цели, характеризующееся десятками тысяч строк ложного кода, генерируемых LLM для сокрытия вредоносной деятельности. В частности, при многократной вставке логики для проверки режима перехода на летнее время (DST) системы 32 раза, код создаётся так, чтобы весь код выглядел как нормальная работа, что затрудняет анализ и обнаружение.
• Promptspy: Android-бэкдор, который автоматически анализирует структуру интерфейса устройства через Gemini API и имитирует физические жесты (клики, свайпы) для автономной работы с пользовательским интерфейсом. В частности, когда жертвы пытаются удалить приложения, над кнопкой «Удалить» накладывается прозрачный наложитель, чтобы перехватить событие касания, тем самым предотвращая удаление.

 

Действующие лица, поддерживаемые государствами (APT), использующие ИИ и оружие нулевого дня

Недавние случаи показывают, что участники, стоящие за национальными государствами, также используют ИИ для анализа уязвимостей, проверки эксплойтов и развития инфраструктуры атак.

• В мае 2026 года был подтверждён первый случай уязвимости нулевого дня, вероятно, разработанного с использованием искусственного интеллекта. Эксплойт касался скрипта на Python, который обходил двухфакторную аутентификацию (2FA) в широко используемых открытых инструментах управления веб-системами и включал типичные функции обучающих данных LLM, такие как образовательные docstrings, галлюцинированные оценки CVSS и усовершенствованную структуру кода на Pythonic.
• Связанные с Китаем злоумышленники использовали экспертные техники джейлбрейка на основе персон, а также проект «wooyun-legacy». Этот проект является плагином Claude Code, основанным на более чем 85 000 реальных случаях уязвимости, поддерживающий обучение в контексте, чтобы модель могла анализировать код и выявлять логические дефекты как опытный эксперт.
• Группа APT45, связанная с Северной Кореей, была замечена в автоматизации анализа CVE и верификации кода атак с помощью тысяч повторяющихся запросов, а также значительно расширила возможности проверки эксплойтов.
• Подтверждено, что китайская система APT27 ускорила разработку приложений для управления сетями ORB (операционная релейная коробка) с использованием Gemini. Сети ORB служат инфраструктурой анонимизации для сокрытия истинных источников атак, а ИИ, по-видимому, используется для ускорения разработки связанных управляемых приложений.

 

Структурные изменения в атаках на основе ИИ и контрстратегии

Экосистема инструментов для взлома ИИ больше не является экспериментальной. Основываясь на платном SaaS, развертываниях с открытым исходным кодом и бесчисленных моделях в локальных средах выполнения, она превращается в преступную инфраструктуру, которая снижает затраты и время злоумышленников. Наши результаты мониторинга также подтверждают, что интерес к инструментам атак на базе искусственного интеллекта стабильно растёт в последние годы. Этот сдвиг способствует структурной асимметрии между атакующими и защитниками, а среды, где высокопроизводительный ИИ действует неконтролируемо, ещё больше подчёркивают ограничения существующих систем обороны. Поэтому стратегии реагирования должны выходить за рамки блокировки конкретных вредоносных инструментов и усиливать проактивную защиту на основе ИИ, безопасность личности, управление ИИ и безопасность цепочек поставок.

 

Структурная асимметрия атак на основе ИИ

Атаки на основе ИИ расширяют структурную асимметрию между атакующими и защитниками. Злоумышленники могут использовать ИИ для быстрого и быстрого создания индивидуальных фишинговых писем, создания вредоносных скриптов и анализа уязвимостей, повторяя процесс. С другой стороны, защитники должны обнаружить, проверять, блокировать, реагировать и дополнять политики для каждой попытки атаки. Хотя технологии ИИ обеспечивают масштабируемость и автоматизацию для злоумышленников, они увеличивают объём и сложность событий, на которые должны реагировать защитники.

Этот разрыв также явно заметен в оперативной скорости. Злоумышленники могут использовать высокопроизводительный ИИ, чтобы значительно сократить время поиска уязвимостей, составления эксплойтов и автоматизации процедур атак. С другой стороны, защитники должны проходить такие процессы, как анализ масштаба воздействия, проверка тестовых сред и координация операционных графиков даже при применении одного патча.

Направление эволюции угрозы также заслуживает внимания. Угрозы на базе ИИ быстро развиваются за пределы простого создания инструментов атаки; как в случае с Bissa Scanner, они проводят атаки, а само вредоносное ПО использует возможности ИИ для проведения суждений и самотрансформации в реальном времени, такие как Promptflux, Promptsteal и Promptspy. Это показывает, что ИИ стал ключевым элементом атак.

 

Возможное использование неконтролируемого высокопроизводительного ИИ

В настоящее время индустрия безопасности сосредоточена на появлении новейших передовых моделей безопасности ИИ. Хотя потенциал эксплуатации передовых моделей важен, более фундаментальная угроза заключается в том, что эти высокопроизводительные модели ИИ могут в конечном итоге выйти из-под контроля провайдера и быть напрямую использованы злоумышленниками.

В настоящее время открытые модели ИИ быстро приближаются к уровням производительности новейших высокопроизводительных моделей. Если открытые модели ИИ будут распространяться с такой скоростью, от злоумышленников ожидается, что они смогут работать с моделями современной производительности, сопоставимой с ИИ, без гарантий, условий использования или систем мониторинга непосредственно на собственном оборудовании в течение года. В конечном итоге, появление злоумышленников, работающих с высокопроизводительным ИИ на собственной инфраструктуре без ограничений со стороны поставщиков, является основной угрозой, которой мы должны быть наиболее осторожны на данный момент.

 

Основная стратегия реагирования

Угрозы, основанные на ИИ, сложно противостоять одним единственным решением безопасности или конкретным блокировкой инструмента. Поскольку злоумышленники используют ИИ для автоматизации подготовки и выполнения атак, защитникам также необходимо перестраивать системы обнаружения, реагирования, аутентификации, управления и безопасности цепочки поставок в соответствии с ландшафтом угроз ИИ. Соответственно, необходимо разработать стратегии реагирования, сосредоточенные на следующих четырёх областях.

1. Создание проактивной оборонной системы на основе агентов ИИ

По мере того как методы атак, автоматизирующие модификацию вредоносного ПО и уклонение от обнаружения с помощью агентов ИИ, статические системы защиты, ищущие известные закономерности, такие как обнаружение по сигнатурам, сталкиваются с ограничениями. Чтобы противостоять этому, защитникам также необходимо использовать агентов ИИ такого же калибра. Агенты ИИ должны заранее выявлять возможные маршруты атаки, оценивать риски каждого пути и автоматизировать конвейеры безопасности, устраняя максимальную поверхность атаки с минимальными мерами. Кроме того, интеграция агентов ИИ в задачи SOC (Security Operations Center) для автоматизации ранней оценки угроз и сбора контекста, а также для изменения структуры так, чтобы аналитики могли сосредоточиться на областях, требующих сложных оценок, является ключевым. В конечном итоге, если компания не перейдёт к парадигме активной обороны, блокирующей ИИ с помощью ИИ, она неизбежно отстанет от атакующих по скорости и стоимости конкуренции.

2. Внедрение расширенной MFA (многофакторной аутентификации)

Чтобы противостоять атакам ИИ, необходимо развивать аппаратные системы аутентификации и контекстно-ориентированные системы, которые ИИ едва ли может обойти. Поскольку существуют реальные случаи, когда ИИ выявляет и обходит ошибки 2FA, а угрозы эволюционировали до такой степени, что ИИ автономно манипулирует интерфейсами устройств и даже обходит биометрическую аутентификацию, как Promptspy, необходимо перейти от внедрения MFA к структуре безопасности, ориентированной на идентичность, которая постоянно проверяет всю систему аутентификации с помощью агентов ИИ и обнаруживает аномалии в реальном времени.

3. Создание системы управления ИИ, которая выходит за рамки блокировки отдельных инструментов

Организации должны определить, работают ли локальные AI-фреймворки, такие как Ollama, или несанкционированные неинформированные модели, и иметь систему для контроля этих проблем на уровне политики. Учитывая, что модели с открытым исходным кодом, которые сейчас считаются безопасными, могут использоваться и для будущих атак, акцент на реагировании не должен ограничиваться блокировкой конкретных инструментов; вместо этого на первом месте должна быть видна общая информация о применении моделей ИИ и создание структур управления.

Сфера управления ИИ выходит за рамки внутреннего контроля использования. Системы ИИ, внедрённые самими организациями, теперь становятся мишенью атак. Атаки с оперативным внедрением и отравлением данных могут загрязнить суждения моделей ИИ или вызвать несанкционированное поведение, приводя к утечкам данных, краже разрешений и ущербу репутации. По этой причине системы ИИ следует рассматривать не как общее программное обеспечение, а как инфраструктуру с высокими привилегиями, применяя глубокую защитную структуру, сочетающую изоляцию контейнеров, контроль доступа на основе OAuth и системы верификации ввода/вывода.

4. Обзор безопасности цепочек поставок и инфраструктуры ИИ

Ключи API и учетные данные на AI-платформах становятся основными целями для кражи. Ключи доступа к сервисам ИИ не должны быть простой информацией о аккаунтах, а должны быть классифицированы и управляться как ценные инфраструктурные активы, которые злоумышленники могут использовать для дальнейших атак. Кроме того, поскольку код, сгенерированный ИИ, широко интегрирован в открытые библиотеки и цепочки поставок программного обеспечения, необходимы отдельные процессы проверки безопасности. При одинаковом уровне проверки независимо от того, является ли исходный код человеком или ИИ, следует уделять дополнительное внимание несуществующим или плохо сгенерированным пакетам зависимостей, а также чрезмерно широким запросам разрешений, которые могут встречаться в коде, сгенерированном ИИ.

 

В заключение

Инструменты взлома на базе ИИ больше не являются экспериментальными инструментами для отдельных злоумышленников. Благодаря платным подписным сервисам, распространению с открытым исходным кодом и локальным средам выполнения в рамках модели untold он быстро распространился и зарекомендовал себя как ключевая инфраструктура в экосистеме киберпреступности. В частности, в некоторых случаях ИИ вышёл за рамки помощи в подготовке к атаке, чтобы организовать потоки атак, проверять украденные данные и заниматься модификацией вредоносного ПО.

По этой причине внимание ответов не должно ограничиваться выявлением и блокировкой конкретных вредоносных инструментов ИИ. Организациям необходимо восстанавливать свою защиту на основе автоматизации и масштабируемости, которые ИИ предоставляет злоумышленникам. Проактивная защита на основе агентов ИИ, улучшенные системы аутентификации, управление использованием моделей ИИ и безопасность цепочки поставок для ключей API и кода, сгенерированного ИИ, станут ключевыми противодействующими мерами в будущем ландшафте угроз ИИ. В конечном итоге стратегии защиты от атак на основе ИИ смещаются от вопроса «использовать ли ИИ» к тому, насколько управляемым и безопасным может использоваться ИИ.