Tech Threat Lab
TTL

Google предупредила об ускорении анализа патчей и атак с помощью ИИ-агентов

Google предупредила об ускорении анализа патчей и атак с помощью ИИ-агентов

Google Threat Intelligence Group (GTIG) 16 ноября сообщила, что злоумышленники начали применять автономные многоагентные системы для многоэтапных вторжений и использовать LLM для ускоренного анализа патчей и подготовки эксплойтов к недавно раскрытым уязвимостям.

ИИ-агенты в операциях

По оценке GTIG, атакующие переходят от ручного управления отдельными действиями к автономным многоагентным системам, включая ARTEX, CAIRN, CyberStrikeAI и PentAGI. Такие инструменты способны автоматизировать отдельные этапы вторжения и конкретные операционные задачи.

Речь не идёт о принципиально новых базовых механизмах атак. Изменение заключается в скорости и масштабе: ИИ-агенты позволяют выполнять операции с машинной скоростью и комбинировать различные пути атаки. GTIG наблюдала эксперименты с такими фреймворками у злоумышленников с финансовой мотивацией, а также у субъектов, которых подозревают в шпионской активности и предполагаемой связи с Китаем.

В исследовании упомянуты и ZeroHollow — сервис вывода, используемый для разработки эксплойтов и маршрутизации LLM, — и Agent Zero, открытый агентный фреймворк с автономным выполнением кода и динамическим созданием инструментов.

От патча к эксплуатации

Отдельное направление — автоматизация анализа уязвимостей и превращения proof-of-concept в рабочие средства эксплуатации. По данным Google, конвейеры на базе LLM способны сократить промежуток между публикацией исправления и активным использованием уязвимости.

Для уязвимостей класса n-day атакующим достаточно изучить ограниченный набор материалов: сопоставить версии исходного кода, включая предварительные и предрелизные ветки, проверить примечания к релизам, профильные исследования и опубликованный код PoC. Такой набор данных делает реверс-инжиниринг патчей с помощью дифференциального анализа быстрее и удобнее для последующей разработки эксплойта.

Организациям, которым не хватает внутренних ресурсов для оценки внешнего периметра, критичных систем и очередности устранения известных уязвимостей, могут понадобиться услуги ИТБ по информационной безопасности: задача связана именно с сокращением времени между выходом патча и возможной эксплуатацией проблемы.

GTIG связывает этот подход, в частности, с уязвимостями PaperCut NG/MF: в начале сентября этого года исследователи наблюдали быстрое превращение недавно раскрытых проблем в средство атак. Это не означает, что каждый опубликованный патч немедленно приведёт к массовой эксплуатации. Однако сокращение времени на анализ повышает значимость оперативного устранения уже известных уязвимостей.

Telegram · TTL NewsПродолжайте следить за темой в Telegram

Новости информационной безопасности, технологий и государственного регулирования, а также анонсы новых исследований Tech Threat Lab.

Подписаться на TTL News

Кража доступа к LLM и фишинг

Злоумышленники также атакуют ИИ-инфраструктуру ради незаконного дохода. В рамках LLMjacking они похищают учётные данные LLM и облачные ресурсы из скомпрометированных корпоративных сред, а затем перепродают доступ через подпольные прокси-сервисы — так называемые LLM-микшеры. Среди таких площадок Google назвала APIMart и JetNight; доступ на них предлагается по сниженным ценам.

Защита учётных данных остаётся важной и за пределами ИИ-сервисов: ранее Keplr сообщил об утечке ключей у части пользователей с входом через Google и Apple. В случае корпоративных LLM компрометация таких данных может означать не только несанкционированное использование ресурсов, но и их дальнейшую перепродажу.

Открытые фреймворки дополнительно снижают порог входа: они упрощают интеграцию новых эксплойтов, автономное масштабирование атак и подготовку убедительных фишинговых кампаний. В качестве примера GTIG привела китайскоязычную PhaaS-платформу Jieyou. В неё встроен чат-бот на базе LLM, через который клиенты могут на естественном языке настраивать фишинговые панели и менять шаблоны, не обладая необходимыми техническими навыками.

По оценке Google, это отражает тенденцию к применению LLM поставщиками phishing-as-a-service как модульного средства повышения эффективности. Вместо ручного редактирования полезных нагрузок менее квалифицированные партнёры могут через чат-бота в реальном времени менять приманки и интерфейсы фишинговых страниц.

Что учитывать организациям

Российским организациям стоит исходить из того, что после публикации исправлений окно до возможной эксплуатации известных уязвимостей может сокращаться. Практически это означает, что оценку и установку патчей для доступных извне и критичных систем не следует откладывать; также нужно учитывать риск анализа публичных изменений в коде и релизных материалах.

Отдельного контроля требуют учётные данные и облачные ресурсы, связанные с LLM, поскольку их компрометацию могут использовать для последующей перепродажи доступа. Фишинговые кампании, создаваемые и адаптируемые с помощью LLM, способны быстрее менять оформление и содержание. Поэтому защитные процессы не должны опираться только на узнаваемость шаблонов писем и страниц.

Главный вывод исследования GTIG: ИИ пока не отменяет привычные этапы атаки, но автоматизирует их и сокращает время на подготовку. Приоритетом остаются своевременное закрытие известных уязвимостей и защита доступа к корпоративной и ИИ-инфраструктуре.

Security Capsule SIEM · Этап 0

Риски выявлены. Проверьте обнаружение угроз

Проверьте на своей инфраструктуре сбор событий, корреляцию и расследование подозрительной активности.

Этапы тест-драйваСостав проверки и критерии пилота согласуем заранее.