Google: хакеры применяют ИИ-агентов для создания эксплойтов из патчей

Google Threat Intelligence Group (GTIG) в отчёте, переданном The Hacker News, сообщила: атакующие перешли от ручных запросов к большим языковым моделям к развёртыванию автономных многоагентных наступательных фреймворков. В отчёте названы ARTEX, CAIRN, CyberStrikeAI и PentAGI — с их помощью проводят многоэтапные вторжения с большей операционной скоростью.

Суть сдвига в том, что атаки идут на скорости машины. Отдельные фазы и конкретные операционные задачи автоматизируются, а разные пути атаки связываются в цепочки, хотя базовая механика остаётся прежней. По оценке Google, это позволяет масштабировать операции заметно шире, чем при ручной работе.

Обратный инжиниринг патчей через дифференциальный анализ

Второе направление — автоматизация анализа уязвимостей и создания proof-of-concept (PoC). LLM-конвейеры позволяют сократить окно между публикацией патча и активной эксплуатацией. GTIG приводит пример: в сентябре так поступили с уязвимостями в PaperCut NG/MF.

Логика атакующего здесь проста: материалов для изучения конечное множество. Можно сравнить версии исходного кода, включая предрелизные и предварительные каналы, изучить примечания к выпуску, исследования безопасности и PoC-код по конкретной уязвимости. Google формулирует это так: злоумышленникам может быть эффективнее использовать LLM, чтобы быстро вооружить исправленные n-day уязвимости.

Кто замечен и какие ещё инструменты в ходу

С фреймворками и «обвязкой» для них экспериментировали разные группы: и финансово мотивированные, и подозреваемые в шпионаже акторы, связываемые с Китаем. Атрибуция здесь — оценка GTIG, а не установленный факт.

Помимо самих агентных фреймворков, в отчёте упомянуты ZeroHollow — сервис инференса для разработки эксплойтов и маршрутизации запросов к LLM — и Agent Zero, открытый агентный фреймворк с автономным исполнением кода и динамической генерацией инструментов.

LLMjacking: кража доступа к моделям как источник дохода

Атакующие интересуются не только наступательными сценариями, но и самой ИИ-инфраструктурой. Речь о LLMjacking: краже учётных данных LLM и облачных ресурсов из скомпрометированных корпоративных сред с последующей перепродажей доступа через подпольные прокси-сервисы вроде APIMart и JetNight по сниженным ценам. Такие посредники называют LLM-микшерами.

Jieyou: фишинг на естественном языке

Снижение порога входа касается и фишинга. Китайскоязычная платформа Jieyou встроила чат-бота на LLM: клиенты настраивают фишинговые панели и правят готовые шаблоны обычными командами на естественном языке, без технических навыков.

«Эволюция платформы Jieyou отражает растущую отраслевую тенденцию, когда провайдеры фишинга как услуги используют LLM как модульный усилитель», — отмечает Google. Вместо ручного редактирования полезной нагрузки низкоквалифицированные партнёры теперь через чат-бот на ходу подстраивают легенды и интерфейсы фишинговых страниц.

Практический вывод для админа: окно между патчем и атакой сжимается, а значит откладывать установку обновлений на «после выходных» становится дороже. Смежная тема — ИИ-агенты как канал доставки малвари: там разобраны восемь схем атак. Показательна и история OpenSSH SSHole, где эксплойт пошёл в дело через несколько часов после раскрытия уязвимости.

Что делать с этим практически

  • Ставьте патчи в сжатые сроки: n-day уязвимости теперь вооружают быстрее, и расчёт на «никто не заметит» не работает.
  • Ограничьте доступ к облачным учётным данным и ключам LLM: их кража — самостоятельный бизнес атакующих.
  • Следите за предрелизными каналами и примечаниями к выпускам: по ним тоже восстанавливают суть исправления.
  • Не полагайтесь только на фильтры по тексту фишинга: шаблоны теперь генерируются под конкретную жертву.

Частые вопросы

Кого это касается в первую очередь?

Всех, кто эксплуатирует ПО с публично раскрытыми уязвимостями и патчами: задержка с обновлением теперь измеряется не неделями, а часами. Отдельная группа риска — компании, чьи облачные ключи и доступы к LLM плохо изолированы.

Что такое n-day уязвимость?

Это уязвимость, для которой патч уже выпущен, но не все системы обновлены. Именно такие дыры, по оценке Google, атакующие вооружают с помощью LLM, изучая разницу между версиями кода.

Правда ли, что эксплойты теперь делает ИИ полностью сам?

Нет. Речь об автоматизации отдельных этапов и задач в рамках вторжения: анализ патча, подготовка PoC, связывание путей атаки. Базовая механика атак при этом остаётся прежней.

Какие фреймворки названы в отчёте?

ARTEX, CAIRN, CyberStrikeAI и PentAGI — открытые агентные фреймворки для пентеста. Кроме них упомянуты ZeroHollow (инференс для разработки эксплойтов и маршрутизации LLM) и Agent Zero (автономное исполнение кода и динамическая генерация инструментов).

Что такое LLMjacking?

Кража учётных данных LLM и облачных ресурсов из скомпрометированной среды с перепродажей доступа через подпольные прокси вроде APIMart и JetNight по сниженным ценам. Таких посредников называют LLM-микшерами.

При чём здесь PaperCut?

GTIG приводит уязвимости в PaperCut NG/MF как пример: в сентябре их вооружили, автоматизировав обратный инжиниринг патчей через дифференциальный анализ.

Как изменилась фишинговая платформа Jieyou?

В неё встроили чат-бота на LLM. Клиенты настраивают панели и правят шаблоны командами на естественном языке, не имея технической подготовки.

Достаточно ли антифишинговых фильтров по ключевым словам?

Нет: шаблоны и легенды теперь подстраиваются под ситуацию на ходу. Надёжнее сочетать фильтрацию с обучением сотрудников и проверкой подозрительных писем по отправителю и ссылкам.

Источник: thehackernews.com