Вредоносный набор данных использует пути выполнения кода в загрузчике удаленных наборов данных и конфигурации набора данных, прежде чем скомпрометировать учетные данные для бокового перемещения по целевой сети. Передовая модель ИИ публикует вредоносный пакет Python в общедоступном реестре PyPI, идентифицировав инструкции по настройке в вымышленной среде, указывающие на несуществующее имя пакета, чтобы выиграть соревнование «захвати флаг». Другая модель использует неправильную конфигурацию изолированной тестовой среды через сторонний сервис для получения доступа к глобальному интернету во время тестирования кибербезопасности.
В последние недели произошло несколько инцидентов, когда OpenAI, Anthropic и *Meta заявили, что их модели обошли защитные механизмы для компрометации внешних сетей. Эти инциденты вызвали оживленные дебаты в кругах кибербезопасности и привели к бесчисленным заголовкам в основных СМИ о непредвиденных опасностях передовых моделей ИИ и вероятности повторения подобных вторжений. Хотя сообщения о «нарушении сдерживания» генеративными моделями ИИ могут стать захватывающими новостями, реальность, с которой сталкивается большинство организаций, гораздо более прозаична.
Когда Эндрю Берд, руководитель отдела ИИ в компании Affinda, занимающейся интеллектуальной обработкой документов, в Мельбурне, хотел записаться на прием в местную студию пилатеса, он обратился к помощнику с открытым исходным кодом OpenClaw. Берд просто хотел, чтобы OpenClaw позаботился о хлопотах по бронированию следующего доступного места от его имени. Агент преуспел — используя уязвимость безопасности в API платформы бронирования спортзала, которая позволила OpenClaw отменить бронирования других участников, чтобы продвинуть Берда в очереди.
Сосредоточьтесь на реальных киберугрозах ИИ
Большая часть недавних дискуссий, касающихся агентной кибербезопасности, была сосредоточена на вторжениях, объявленных OpenAI, Anthropic и *Meta. Однако ИИ-агенты с большей вероятностью используют традиционные, но необнаруженные уязвимости, как это сделал OpenClaw в ситуации Берда, чем «выйдут из-под контроля» и вырвутся из пределов тестовой среды. Невозможно точно подсчитать количество небезопасных конечных точек API в интернете, например, но их, вероятно, сотни миллионов, что представляет собой огромную уязвимость для бесчисленных организаций по всему миру через единственный потенциальный вектор атаки.
Руководители служб безопасности справедливо обеспокоены потенциальными возможностями кибератак с использованием ИИ. Агентные технологии позволяют использовать ряд враждебных методов, представляющих значительный риск, таких как инъекция подсказок, отравление памяти и повышение привилегий. Однако на данный момент большинство кибератак с использованием ИИ по-прежнему используют «традиционные» векторы атак, такие как социальная инженерия, чтобы помочь злоумышленникам достичь своих целей, хотя ландшафт угроз быстро меняется. Настолько быстро, что многие руководители служб безопасности испытывают паралич принятия решений относительно того, куда направить свои оборонительные ресурсы.
При энтузиастической поддержке и зачастую значительных ожиданиях со стороны советов директоров и высшего руководства, руководители служб безопасности разрываются между инвестированием в инструменты симуляции атак и тестирование на проникновение, расширением усилий по обнаружению уязвимостей или предложением вознаграждений за ошибки независимым исследователям. Что еще больше усложняет ситуацию, так это то, что многие организации, которые решительно инвестировали в свою киберзащиту, не могут полностью проверить действия, выполняемые ИИ-агентами в критически важных бизнес-функциях, включая финансы и закупки, что подчеркивает тот факт, что эффективный агентный надзор является скорее проблемой управления, чем технической проблемой.
Создайте защиту с учетом вашего реального профиля угроз
Однако крайне важно, чтобы инвестиционные решения принимались на основе данных и конкретного профиля угроз, с которым сталкивается отдельная организация. Именно поэтому испытательные полигоны ИИ становятся все более важными для ведущих мировых компаний, правительств, военных и разведывательных агентств. Просто нет замены высокоточным симуляциям вероятных сценариев атак, основанных на реальном технологическом стеке организации, протоколах безопасности и инструментах защиты.
В отличие от традиционных учебных курсов или теоретических семинаров, испытательные полигоны ИИ предоставляют практический опыт работы с реальными инструментами, реальным вредоносным ПО и аутентичными сценариями атак. Эти платформы могут имитировать все: от небольших корпоративных сетей до сложных корпоративных сред, включая контроллеры домена, базы данных, конечные точки и приложения безопасности. Что отличает испытательные полигоны ИИ от других учебных решений, так это реализм. Испытательные полигоны ИИ имитируют сетевую топологию, включая обычный сетевой трафик и синтетический пользовательский трафик, а также поведение, зависимости и уязвимости, существующие в реальной сетевой среде. Эта точность готовит операторов к наиболее вероятным сценариям вторжения, с которыми сталкивается их организация, выявляет слабые места в их цепочках реагирования и помогает разработать эффективные протоколы смягчения последствий.
Операторам службы безопасности необходим практический опыт, чтобы быстро распознавать шаблоны атак, эффективно расследовать оповещения и координировать действия в ответ на подозрительную активность до эскалации ситуации. Испытательные полигоны ИИ предоставляют безопасную, контролируемую среду, полностью отделенную от производственной, в которой команды SOC могут практиковать выявление угроз, анализировать аномальный сетевой трафик и работать над сложными сценариями инцидентов. Младшие аналитики могут развить ключевые фундаментальные навыки без давления реального инцидента вторжения, в то время как опытные операторы могут оттачивать свои навыки на новых угрозах и возникающих векторах атак.
Эффективное оборонительное смягчение последствий начинается с всестороннего понимания вашего индивидуального профиля угроз. Хотя громкие инциденты, подобные тем, о которых сообщали OpenAI, Anthropic и *Meta, могли привлечь внимание СМИ, не каждая организация сталкивается с одинаковым риском автоматизированных кибератак. На данный момент крупномасштабные автономные кибератаки, которых некоторые опасаются из-за ИИ, все еще недоступны для всех, кроме крупнейших, хорошо финансируемых организаций и враждебных государств из-за вычислительных затрат на такие атаки. Стоимость токенов передовых моделей пока сильно субсидируется, но переход на оплату по токенам для корпоративных клиентов Anthropic и OpenAI в первом квартале 2026 года означает, что вероятна дальнейшая волатильность цен. Учитывая рост фишинговых атак с использованием ИИ и аналогичного поведения, вероятно, что отдельные злоумышленники будут продолжать адаптировать ИИ для использования наряду с проверенными тактиками, а не автоматизировать атаки, воображаемые в основных СМИ, по крайней мере, в краткосрочной перспективе.
Однако атака не обязательно должна охватывать всю организацию, чтобы быть эффективной. Ей достаточно скомпрометировать одну уязвимость. Даже локально размещенные модели с открытым весом могут быть высокоэффективными кибероружием в умелых руках, но для руководителей служб безопасности крайне важно инвестировать в ресурсы, которые могут смягчить конкретные угрозы, с которыми сталкивается их организация, и сделать это быстро.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lee Rossey
