Государственные хакеры используют ИИ-модель Gemini от Google для поддержки всех этапов атаки, от разведки до действий после компрометации.
Злоумышленники из Китая (APT31, Temp.HEX), Ирана (APT42), Северной Кореи (UNC2970) и России использовали Gemini для профилирования целей и сбора информации из открытых источников, генерации фишинговых приманок, перевода текстов, написания кода, тестирования уязвимостей и устранения неполадок.
Киберпреступники также проявляют повышенный интерес к инструментам и сервисам на базе ИИ, которые могут помочь в незаконной деятельности, такой как кампании социальной инженерии ClickFix.
Вредоносная активность с использованием ИИ
Группа Google Threat Intelligence Group (GTIG) отмечает в опубликованном сегодня отчете, что противники APT используют Gemini для поддержки своих кампаний «от разведки и создания фишинговых приманок до разработки и эксплуатации каналов управления и контроля (C2) и эксфильтрации данных».
Китайские злоумышленники использовали экспертную кибербезопасную персону, чтобы попросить Gemini автоматизировать анализ уязвимостей и предоставить планы целевого тестирования в контексте вымышленного сценария.
«Китайский злоумышленник сфабриковал сценарий, в одном случае протестировав инструментарий Hexstrike MCP, и поручил модели проанализировать результаты тестов на удаленное выполнение кода (RCE), обход WAF и SQL-инъекции против конкретных целей в США», — сообщает Google.
Другой злоумышленник из Китая часто использовал Gemini для исправления своего кода, проведения исследований и предоставления консультаций по техническим возможностям для вторжений.
Иранский противник APT42 использовал LLM Google для кампаний социальной инженерии, а также в качестве платформы разработки для ускорения создания специализированных вредоносных инструментов (отладка, генерация кода, исследование техник эксплуатации).
Было зафиксировано дополнительное злоупотребление со стороны других злоумышленников для внедрения новых возможностей в существующие семейства вредоносных программ, включая фишинговый набор CoinBait и загрузчик/исполнитель вредоносного ПО HonestCue.
GTIG отмечает, что в этом отношении не произошло никаких крупных прорывов, хотя технологический гигант ожидает, что операторы вредоносного ПО продолжат интегрировать возможности ИИ в свои наборы инструментов.
HonestCue — это вредоносный фреймворк, являющийся доказательством концепции, который был обнаружен в конце 2025 года и использует Gemini API для генерации кода на C# для вредоносного ПО второй стадии, после чего компилирует и выполняет полезные нагрузки в памяти.
CoinBait — это фишинговый набор, завернутый в React SPA, маскирующийся под криптовалютную биржу для сбора учетных данных. Он содержит артефакты, указывающие на то, что его разработка продвигалась с помощью инструментов генерации кода на базе ИИ.
Одним из индикаторов использования LLM являются сообщения в исходном коде вредоносного ПО, которым предшествовало «Analytics:», что может помочь защитникам отслеживать процессы эксфильтрации данных.
На основе образцов вредоносного ПО исследователи GTIG полагают, что вредоносное ПО было создано с использованием платформы Lovable AI, поскольку разработчик использовал клиент Lovable Supabase и lovable.app.
Киберпреступники также использовали генеративные ИИ-сервисы в кампаниях ClickFix, доставляя вредоносное ПО AMOS для кражи информации на macOS. Пользователи были привлечены для выполнения вредоносных команд через рекламные объявления в результатах поиска по запросам устранения конкретных проблем.
В отчете также отмечается, что Gemini подвергался попыткам извлечения и дистилляции моделей ИИ, когда организации использовали авторизованный доступ к API для методичного опроса системы и воспроизведения ее процессов принятия решений для копирования ее функциональности.
Хотя эта проблема не представляет прямой угрозы для пользователей этих моделей или их данных, она представляет собой серьезную коммерческую, конкурентную проблему и проблему интеллектуальной собственности для создателей этих моделей.
По сути, злоумышленники получают информацию из одной модели и передают ее в другую, используя метод машинного обучения, называемый «дистилляцией знаний», который применяется для обучения новых моделей на основе более продвинутых.
«Извлечение модели и последующая дистилляция знаний позволяют злоумышленнику ускорить разработку ИИ-моделей быстро и со значительно меньшими затратами», — говорят исследователи GTIG.
Google отмечает эти атаки как угрозу, поскольку они представляют собой интеллектуальное воровство, они масштабируемы и серьезно подрывают бизнес-модель «ИИ как услуга», что в конечном итоге может повлиять на конечных пользователей.
В крупномасштабной атаке такого рода Gemini AI подвергся воздействию 100 000 запросов, содержащих серию вопросов, направленных на воспроизведение рассуждений модели в различных задачах на неанглийских языках.
Google заблокировал учетные записи и инфраструктуру, связанную с задокументированными злоупотреблениями, и внедрил целевую защиту в классификаторах Gemini, чтобы затруднить злоупотребления.
Компания уверяет, что она «проектирует ИИ-системы с надежными мерами безопасности и строгими защитными механизмами» и регулярно тестирует модели для улучшения их безопасности.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bill Toulas
