Google Threat Intelligence Group (GTIG) в отчёте, переданном The Hacker News, сообщила: атакующие перешли от ручных запросов к большим языковым моделям к развёртыванию автономных многоагентных наступательных фреймворков. В отчёте названы ARTEX, CAIRN, CyberStrikeAI и PentAGI — с их помощью проводят многоэтапные вторжения с большей операционной скоростью.
Суть сдвига в том, что атаки идут на скорости машины. Отдельные фазы и конкретные операционные задачи автоматизируются, а разные пути атаки связываются в цепочки, хотя базовая механика остаётся прежней. По оценке Google, это позволяет масштабировать операции заметно шире, чем при ручной работе.
Обратный инжиниринг патчей через дифференциальный анализ
Второе направление — автоматизация анализа уязвимостей и создания proof-of-concept (PoC). LLM-конвейеры позволяют сократить окно между публикацией патча и активной эксплуатацией. GTIG приводит пример: в сентябре так поступили с уязвимостями в PaperCut NG/MF.
Логика атакующего здесь проста: материалов для изучения конечное множество. Можно сравнить версии исходного кода, включая предрелизные и предварительные каналы, изучить примечания к выпуску, исследования безопасности и PoC-код по конкретной уязвимости. Google формулирует это так: злоумышленникам может быть эффективнее использовать LLM, чтобы быстро вооружить исправленные n-day уязвимости.
Кто замечен и какие ещё инструменты в ходу
С фреймворками и «обвязкой» для них экспериментировали разные группы: и финансово мотивированные, и подозреваемые в шпионаже акторы, связываемые с Китаем. Атрибуция здесь — оценка GTIG, а не установленный факт.
Помимо самих агентных фреймворков, в отчёте упомянуты ZeroHollow — сервис инференса для разработки эксплойтов и маршрутизации запросов к LLM — и Agent Zero, открытый агентный фреймворк с автономным исполнением кода и динамической генерацией инструментов.
LLMjacking: кража доступа к моделям как источник дохода
Атакующие интересуются не только наступательными сценариями, но и самой ИИ-инфраструктурой. Речь о LLMjacking: краже учётных данных LLM и облачных ресурсов из скомпрометированных корпоративных сред с последующей перепродажей доступа через подпольные прокси-сервисы вроде APIMart и JetNight по сниженным ценам. Такие посредники называют LLM-микшерами.
Jieyou: фишинг на естественном языке
Снижение порога входа касается и фишинга. Китайскоязычная платформа Jieyou встроила чат-бота на LLM: клиенты настраивают фишинговые панели и правят готовые шаблоны обычными командами на естественном языке, без технических навыков.
«Эволюция платформы Jieyou отражает растущую отраслевую тенденцию, когда провайдеры фишинга как услуги используют LLM как модульный усилитель», — отмечает Google. Вместо ручного редактирования полезной нагрузки низкоквалифицированные партнёры теперь через чат-бот на ходу подстраивают легенды и интерфейсы фишинговых страниц.
Практический вывод для админа: окно между патчем и атакой сжимается, а значит откладывать установку обновлений на «после выходных» становится дороже. Смежная тема — ИИ-агенты как канал доставки малвари: там разобраны восемь схем атак. Показательна и история OpenSSH SSHole, где эксплойт пошёл в дело через несколько часов после раскрытия уязвимости.
Что делать с этим практически
- Ставьте патчи в сжатые сроки: n-day уязвимости теперь вооружают быстрее, и расчёт на «никто не заметит» не работает.
- Ограничьте доступ к облачным учётным данным и ключам LLM: их кража — самостоятельный бизнес атакующих.
- Следите за предрелизными каналами и примечаниями к выпускам: по ним тоже восстанавливают суть исправления.
- Не полагайтесь только на фильтры по тексту фишинга: шаблоны теперь генерируются под конкретную жертву.
Частые вопросы
Кого это касается в первую очередь?
Всех, кто эксплуатирует ПО с публично раскрытыми уязвимостями и патчами: задержка с обновлением теперь измеряется не неделями, а часами. Отдельная группа риска — компании, чьи облачные ключи и доступы к LLM плохо изолированы.
Что такое n-day уязвимость?
Это уязвимость, для которой патч уже выпущен, но не все системы обновлены. Именно такие дыры, по оценке Google, атакующие вооружают с помощью LLM, изучая разницу между версиями кода.
Правда ли, что эксплойты теперь делает ИИ полностью сам?
Нет. Речь об автоматизации отдельных этапов и задач в рамках вторжения: анализ патча, подготовка PoC, связывание путей атаки. Базовая механика атак при этом остаётся прежней.
Какие фреймворки названы в отчёте?
ARTEX, CAIRN, CyberStrikeAI и PentAGI — открытые агентные фреймворки для пентеста. Кроме них упомянуты ZeroHollow (инференс для разработки эксплойтов и маршрутизации LLM) и Agent Zero (автономное исполнение кода и динамическая генерация инструментов).
Что такое LLMjacking?
Кража учётных данных LLM и облачных ресурсов из скомпрометированной среды с перепродажей доступа через подпольные прокси вроде APIMart и JetNight по сниженным ценам. Таких посредников называют LLM-микшерами.
При чём здесь PaperCut?
GTIG приводит уязвимости в PaperCut NG/MF как пример: в сентябре их вооружили, автоматизировав обратный инжиниринг патчей через дифференциальный анализ.
Как изменилась фишинговая платформа Jieyou?
В неё встроили чат-бота на LLM. Клиенты настраивают панели и правят шаблоны командами на естественном языке, не имея технической подготовки.
Достаточно ли антифишинговых фильтров по ключевым словам?
Нет: шаблоны и легенды теперь подстраиваются под ситуацию на ходу. Надёжнее сочетать фильтрацию с обучением сотрудников и проверкой подозрительных писем по отправителю и ссылкам.
Источник: thehackernews.com