Когда речь заходит о кибератаках, выводящих из строя электросети, системы водоснабжения и другую критически важную инфраструктуру, ИИ пока не превращает начинающих хакеров в изощренных злоумышленников, действующих по заданию государств. Однако, по словам экспертов по безопасности операционных технологий (OT), «потенциал для этого существует».
«Долгое время мы полагались на принцип «безопасность через неясность» (security by obscurity) в отношении коммунальных служб», — сказал Стив Свик, бывший директор по информационной безопасности American Electric Power. «Знания, необходимые для выполнения некоторых подобных действий, становятся все менее востребованными», — добавил Свик во время медиа-панели накануне публикации отчета Frenos «Состояние ИИ в сфере безопасности».
ИИ облегчает и ускоряет для злоумышленников возможность атаковать критически важную инфраструктуру, получать доступ к коммунальным и производственным предприятиям, а также проводить разведку систем OT.
«Базовый доступ позволяет быстро получать документацию и анализировать ее, чтобы выявить критические конструктивные особенности вашего завода или объекта», — сказал Пол Шейвер, руководитель отдела OT в Armadin, во время панели. «Я могу скачать руководство практически для любого контроллера автоматизации, быстро проанализировать его и найти способы эксплуатации конкретной функции чего-то, что изначально не было безопасным».
Armadin — это новый стартап Кевина Мандиа в области безопасности, который использует рои автономных ИИ-агентов для имитации реальных кибератак. До прихода в Armadin Шейвер шесть лет возглавлял практику OT в предыдущей компании Мандиа, Mandiant, которую Google приобрела в 2022 году.
«Я на секунду подниму флаг Mandiant и постараюсь уйти от страха, неопределенности и ощущения конца света, когда каждый начинающий хакер становится изощренным противником государственного уровня. Но я не скажу, что такого потенциала нет, потому что инструменты совершенствуются, и доступ к информации становится намного быстрее».
В Armadin, с помощью ИИ, «я очень быстро создаю инструменты за дни, на что раньше уходили месяцы», — сказал Шейвер. «Если это может делать это для меня, то оно делает нечто подобное и для тех, кто обладает базовыми навыками. Я бы пока не стал сравнивать их с начинающими хакерами, но по мере совершенствования моделей это становится более вероятным в этой сфере».
Кроме того, поскольку ИИ снижает технические барьеры для потенциальных хакеров OT, «это ускоряет временные рамки», — сказал Гарри Томас, технический директор и соучредитель Frenos, компании по безопасности, занимающейся пентестингом OT-средств с помощью ИИ.
«Если хакер выше среднего уровня теперь может выполнять атаки, — сказал Томас, — значит, у вас больше злоумышленников. Происходит ускорение временных рамок, может происходить больше атак, и с оборонительной точки зрения вы больше не можете знать, кто ваш противник».
Тестирование возможностей LLM для планирования атак
В отчете Frenos, опубликованном в среду, исследовалось, в какой степени ИИ может помочь в планировании атаки на промышленные системы. Для этого с октября 2025 по сентябрь 2026 года было проведено 16 980 тестов с использованием нескольких моделей ИИ. Они включали 13 884 попытки выбора действия, 2 520 попыток планирования и 576 симулированных атак.
Компания не раскрывает названия моделей или поставщиков, но сообщила, что протестировала шесть передовых моделей, две модели с открытым весом из США и две иностранные модели с открытым весом, выполняя три типа задач: выбор одного действия, планирование шагов к цели и проработка симулированного сценария.
Каждый тест предоставлял модели фоновую информацию и набор действий для выбора. Перед выбором каждая модель получала сведения об активах, сетях и известных уязвимостях, а также о доступе, необходимом для каждого действия.
Затем Frenos проверял, соответствует ли выбор модели требуемому результату. В зависимости от модели, от 6 до 47 процентов выборов были успешными.
Эти тесты показали, что три самые мощные передовые модели успешно справились примерно с 90 процентами своих попыток планирования — то есть они создали рабочий план атаки, — но эти же модели были непоследовательны: 60%, 62,9% и 74,3% планов атак прошли все повторные проверки.
«План может выглядеть разумным, но при этом упускать что-то существенное», — говорится в отчете. «У моделей была информация о задаче, но в некоторых ответах пропускался шаг или предполагался доступ, который не был установлен в плане».
Между тем, самая успешная из четырех моделей с открытым весом — неамериканская модель — достигла общего показателя успеха в 36,2%. Однако эта цифра все же была выше общих показателей успеха трех других американских передовых моделей, которые набрали 31,9%, 18,8% и 17,9% соответственно.
«Мы видим, что, хотя модели ИИ помогают нам ускорить разработку инструментов, ускорить доступ и передачу знаний, они по-прежнему склонны к галлюцинациям — то есть к ошибкам», — сказал Томас. «Мы по-прежнему считаем, что человеческое суждение остается важным для того, чтобы злоумышленники достигали своих целей с помощью этих моделей ИИ».
В этих тестах ни один человек не просил модели исправить свои планы, тогда как в реальной атаке злоумышленник, понимающий цель, мог бы заметить пробел в плане ИИ, предоставить дополнительную информацию и попросить модель пересмотреть свой ответ.
«Кроме того, когда мы тестировали модели ИИ, мы использовали довольно простую оболочку: вот некоторая информация. Вот контекст. Дайте ответ», — сказал Томас. «Более совершенная оболочка могла бы дать этим моделям ИИ больше преимуществ».
Основываясь на полученных данных, Frenos рекомендует защитникам OT принять следующие меры, начиная с многоуровневой защиты. Это включает сегментацию сетей, ограничение удаленного доступа и прав пользователей, а также тестирование процедур восстановления.
«У нас есть планы обеспечения непрерывности бизнеса и планы аварийного восстановления не просто так», — сказал Томас. «Давайте их выполнять». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
