Использование группой хакеров, связанной с Китаем, ИИ-агентов для выявления уязвимостей в системе безопасности в ходе глобальной кампании шпионажа вызывает обеспокоенность по поводу того, смогут ли предприятия обнаружить пробелы в своей защите до того, как их используют автоматизированные атаки.
Компания CrowdStrike сообщила, что группа, известная как VAPOR PANDA, использовала фреймворк для тестирования на проникновение на базе ИИ под названием ARTEX для атаки на более чем 200 организаций по всему миру в течение 11 дней, начиная с 17 октября. Среди организаций были государственные учреждения и предприятия из по меньшей мере 14 стран, при этом исследователи подтвердили постэксплуатационную активность в девяти из них.
В одной из глобальных фармацевтических компаний злоумышленники поручили ИИ-агентам изучить запущенные процессы и списки папок на компьютерах с Windows, чтобы определить, установлен ли датчик Falcon от CrowdStrike, согласно расшифровкам, полученным фирмой по кибербезопасности.
ARTEX использует несколько ИИ-агентов для выполнения задач вторжения под руководством человека. CrowdStrike обнаружила, что VAPOR PANDA использовала фреймворк для одновременного преследования нескольких организаций, при этом операторы вмешивались в ключевые моменты принятия решений.
Эти выводы следуют за отчетом Microsoft от 21 октября, в котором подробно описывалась отдельная кампания с использованием ARTEX. Microsoft заявила, что другая группа, связанная с Китаем, Storm-0940, использовала этот фреймворк для автоматизации атак на сотни организаций, получив привилегированный доступ к облаку менее чем за три часа в некоторых случаях. Кампания включала злоупотребление скомпрометированными учетными данными приложения ConnectWise для доступа к средам клиентов.
Изменение экономики кибератак
Использование ИИ в кибератаках меняет экономику спонсируемого государством шпионажа, позволяя небольшим командам преследовать цели без соответствующего увеличения численности персонала, по словам Акшата Тьяги, руководителя практики в HFS Research.
«Методы знакомы, но способность выполнять их параллельно — нет», — сказал Тьяги.
Джонатан Онг, старший аналитик по управляемым услугам безопасности в Omdia, отметил, что ИИ может значительно сократить время, которое злоумышленники тратят на разведку, даже если более сложные методы эксплуатации по-прежнему требуют технических знаний.
Атаки, задокументированные CrowdStrike, использовали уязвимости, с которыми команды безопасности сталкивались годами. В греческой государственной организации злоумышленники использовали ключи аутентификации из экспорта каталога 2022 года, которые, вероятно, не были обновлены. В американской фармацевтической компании ИИ-агент объединил неподписанное утверждение SAML с уязвимостью XML external entity (XXE) для получения облачной роли с обширными административными правами.
Пробелы в безопасности становятся большей мишенью
Растущая обеспокоенность по поводу рисков безопасности при внедрении ИИ не должна отвлекать организации от установленных мер защиты, считает Онг. Тьяги добавил, что руководители служб безопасности (CISO) должны обеспечить, чтобы мониторинг безопасности охватывал всю их среду, а не предполагать, что существующие развертывания обеспечивают полное покрытие.
Амит Кумар Джена, менеджер по разработке ИИ в Kanerika, заявил, что организации должны постоянно измерять охват защиты конечных точек, в том числе на внутренних серверах, и генерировать оповещения, когда машины перестают сообщать в системы мониторинга безопасности.
Он также рекомендовал обеспечить проверку подписи SAML и ограничить привилегии доступа к облаку. Команды безопасности должны следить за последовательными попытками аутентификации и командами, которые могут указывать на автоматизированную вредоносную активность, сказал он.
Тьяги также рекомендовал регулярно менять учетные данные и отслеживать необычную активность учетных записей, предупреждая, что автоматизированные атаки оставляют защитникам меньше времени для расследования подозрительного поведения.
Кит Прабху, генеральный директор Confidis, отметил, что пробелы между системами безопасности могут дать злоумышленникам возможность перемещаться по корпоративным сетям. Он рекомендовал улучшить видимость активов и обнаруживать подозрительную активность в различных системах, а не полагаться на отдельные средства контроля безопасности.
Перспективы внедрения в стиле Cobalt Strike
Использование ARTEX различными группами угроз также указывает на более широкую доступность инструментов, способных автоматизировать кибератаки.
CrowdStrike сообщила, что VAPOR PANDA использовала ARTEX с DeepSeek и второй коммерческой моделью ИИ. Хотя разработчик фреймворка отозвал исходный проект с открытым исходным кодом в октябре после сообщений о его злоупотреблении, копии и модифицированные версии остаются доступными.
Тьяги ожидает, что такие инструменты будут более широко использоваться киберпреступниками, мотивированными финансовой выгодой, в течение следующих 12 месяцев.
Уже есть свидетельства более широкого распространения. В исследовании, опубликованном в октябре, Google Threat Intelligence Group и Mandiant сообщили, что они наблюдали использование ARTEX злоумышленниками, мотивированными финансовой выгодой, в ходе операций по вымогательству данных, наряду с его использованием группами, предположительно связанными с государством.
«Фреймворки для тестирования на проникновение с использованием ИИ, такие как ARTEX, имеют потенциал стать Cobalt Strike эпохи ИИ», — сказал Онг.
Cobalt Strike, коммерческий инструмент для тестирования на проникновение, широко использовался киберпреступниками и группами, спонсируемыми государствами.
По мере того как злоумышленники автоматизируют больше своих операций, командам безопасности, возможно, придется в большей степени полагаться на автоматизированное обнаружение. Тьяги отметил, что это позволит аналитикам тратить меньше времени на ручную проверку оповещений и сосредоточиться на решениях, требующих человеческого суждения.
Прабху сказал, что CISO должны уделять приоритетное внимание более быстрому и отработанному реагированию на инциденты, а не просто инвестировать в дополнительные инструменты ИИ или расширять команды безопасности. Такая подготовка может помочь командам безопасности реагировать на вторжения, в которых автоматизированные агенты исследуют несколько путей атаки до того, как защитники завершат первоначальное расследование.
Хотя ARTEX может автоматизировать большую часть вторжения, наблюдаемые кампании по-прежнему включали участие операторов-людей, направляющих ключевые решения.
«Мы еще не достигли полностью автономных атак», — сказал Тьяги.
Продолжающаяся роль операторов-людей не уменьшает скорость атак. Для команд безопасности задача состоит в том, чтобы обнаружить подозрительную активность достаточно рано, чтобы предотвратить превращение автоматизированных попыток вторжения в более масштабные компрометации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Prasanth Aby Thomas
