Китайская правительственная хакерская группа, попавшая под санкции за атаки на критически важную инфраструктуру Америки, использовала ИИ-чат-бот Gemini от Google для автоматического анализа уязвимостей и планирования кибератак на американские организации, сообщает компания.
Хотя нет никаких признаков того, что какие-либо из этих атак увенчались успехом, «группы APT, подобные этой, продолжают экспериментировать с использованием ИИ для поддержки полуавтономных наступательных операций», — заявил The Register главный аналитик Google Threat Intelligence Group Джон Халтквист. «Мы ожидаем, что особенно китайские акторы будут продолжать разрабатывать агентские подходы для масштабирования кибернаступательных операций».
В последнем отчете группы Threat Intelligence Group «AI Threat Tracker», опубликованном в четверг и предоставленном The Register заранее, Google относит эту деятельность к APT31 — пекинской группировке, также известной как Violet Typhoon, Zirconium и Judgment Panda.
Эта банда была одной из многих, кто летом использовала серию уязвимостей Microsoft SharePoint. В марте 2024 года США ввели санкции против и предъявили уголовные обвинения семи членам APT31, обвиняемым во взломе компьютерных сетей, учетных записей электронной почты и облачных хранилищ многочисленных высокопоставленных целей.
Последние попытки APT31 использовать ИИ-инструмент Gemini от Google произошли в конце прошлого года, как нам сообщили.
«APT31 применила высокоструктурированный подход, задавая Gemini промпты с ролью эксперта по кибербезопасности для автоматизации анализа уязвимостей и генерации планов целевого тестирования», — говорится в отчете.
Принятие этой возможности злоумышленниками настолько значительно — это следующий ожидаемый шаг
В одном из случаев китайская группировка использовала Hexstrike, инструмент с открытым исходным кодом для red-teaming, построенный на Model Context Protocol (MCP), для анализа различных эксплойтов — включая удаленное выполнение кода, методы обхода межсетевого экрана веб-приложений (WAF) и SQL-инъекции — «против конкретных целей в США», написали сотрудники Google.
Hexstrike позволяет моделям, включая Gemini, выполнять более 150 инструментов безопасности с множеством функций, включая сканирование сети и уязвимостей, разведку и тестирование на проникновение. Его предполагаемое использование заключается в помощи этичным хакерам и охотникам за ошибками находить уязвимости в безопасности и собирать вознаграждения за ошибки, но вскоре после выпуска в середине августа преступники начали использовать платформу ИИ для более злонамеренных целей.
Движение к автоматизированным атакам
Интеграция Hexstrike с Gemini «автоматизировала сбор разведывательных данных для выявления технологических уязвимостей и слабых мест в организационной обороне», — говорится в отчете AI Threat Tracker, отмечая, что Google с тех пор отключил учетные записи, связанные с этой кампанией. «Эта деятельность явно стирает грань между обычным запросом на оценку безопасности и целенаправленной вредоносной операцией по разведке».
Отчет Google, который продолжает анализ от ноября 2025 года, подробно описывает, как государственные группы и киберпреступники злоупотребляют ИИ-инструментами Google, а также шаги, предпринятые «Chocolate Factory» для их остановки. И обнаруживает, что злоумышленники — как и все остальные на планете — проявляют большой интерес к возможностям агентского ИИ, чтобы облегчить свою жизнь и работу.
«Принятие этой возможности злоумышленниками настолько значительно — это следующий ожидаемый шаг», — сказал Халтквист.
Он объяснил, что есть две области, которые вызывают наибольшую обеспокоенность у Google.
«Одна — это способность действовать в рамках вторжения», — сказал он, отметив предыдущий отчет Anthropic о китайских кибершпионах, злоупотреблявших его инструментом Claude Code AI для автоматизации большинства элементов атак на высокопрофильные компании и государственные организации. «В небольшом числе случаев» им даже удалось добиться успеха.
«Другая — это автоматизация разработки эксплуатации уязвимостей», — сказал Халтквист. «Это два способа, с помощью которых злоумышленники могут получить значительные преимущества и пройти цикл вторжения с минимальным вмешательством человека. Это позволяет им действовать быстрее защитников и поражать множество целей».
Внимание на разрыв в установке исправлений
Кроме того, использование ИИ-агентов для поиска уязвимостей и тестирования эксплойтов увеличивает разрыв в установке исправлений — время между обнаружением ошибки и развертыванием и внедрением полного рабочего исправления.
«Это действительно значимая область в настоящее время», — сказал Халтквист. «В некоторых организациях внедрение защиты занимает недели».
Это требует от специалистов по безопасности иного подхода к защите, использования ИИ для реагирования и устранения уязвимостей безопасности быстрее, чем это могут сделать люди самостоятельно.
«Нам придется использовать преимущества ИИ и все больше исключать людей из процесса, чтобы мы могли реагировать на машинной скорости», — отметил Халтквист.
Последний отчет также выявил увеличение попыток извлечения моделей — так называемых «атак дистилляции» — и сообщает, что как GTIG, так и Google DeepMind выявили злоумышленников, пытающихся выполнить извлечение моделей на продуктах ИИ Google. Это тип кражи интеллектуальной собственности, используемый для получения информации о базовых процессах рассуждения и цепочке рассуждений модели.
«Это исходит от злоумышленников со всего мира», — сказал Халтквист. «Ваша модель — это действительно ценная интеллектуальная собственность, и если вы можете извлечь логику, лежащую в ее основе, существует очень реальная вероятность того, что вы сможете воспроизвести эту технологию, которая не является дешевой».
По сути, это дает преступникам и сомнительным компаниям возможность ускорить разработку моделей ИИ при значительно более низких затратах, а отчет Google ссылается на «кражу моделей и извлечение возможностей, исходящие от исследователей и частных компаний по всему миру». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
