За последние полгода LLM значительно продвинулись в области исследования уязвимостей и разработки эксплойтов. Но одно дело — находить уязвимости в хорошо документированных open-source проектах, и совсем другое — расшифровывать файловые системы и проводить реверс-инжиниринг закрытых низкоуровневых прошивок узкоспециализированных встраиваемых устройств.
Именно поэтому исследователи из компании Forescout, специализирующейся на безопасности промышленного интернета вещей, решили проверить, насколько далеко продвинулись модели ИИ в замене узкоспециализированных знаний, которыми обладают исследователи уязвимостей систем промышленного управления (ICS). Перенос известного эксплойта с одной модели программируемых логических контроллеров (PLC) на другую с помощью ИИ занял 8,5 часов и всё ещё требовал существенного участия человека-исследователя.
Таким образом, хотя ИИ ещё не превратил поиск zero-day уязвимостей в ICS в простую точку-и-подсказку для неопытных злоумышленников, он может значительно сократить время, которое опытные хакеры, работающие со встраиваемыми системами, тратят на разработку новых эксплойтов, особенно с учётом возможности распараллеливания исследований между несколькими агентами.
«ИИ уже снизил порог входа в исследование уязвимостей и разработку эксплойтов для высокоуровневого ПО. Этот эксперимент показывает, что аналогичный прогресс начинает затрагивать и низкоуровневые встраиваемые системы, хотя существенные барьеры всё ещё сохраняются», — заявили исследователи Forescout в своём отчёте.
Несмотря на то, что тестируемые модели нуждались в руководстве для понимания некоторых аспектов анализа, они смогли комбинировать инструменты реверс-инжиниринга, такие как Ghidra, генерировать собственные скрипты Python для анализа, использовать сетевые инструменты для анализа уязвимости, создавать рабочий код эксплойта и тестировать его на живом целевом устройстве. И всё это — без доступа к исходному коду или отладчику на PLC.
Перенос эксплойтов на другие устройства
Для своего теста исследователи выбрали вероятный сценарий атаки: перенос proof-of-concept эксплойта, разработанного для одной модели PLC, на другую модель, которая подвержена той же уязвимости, но для которой код эксплойта ещё не существует.
Это важная задача, потому что разные модели PLC от одного производителя или даже разных производителей могут иметь общий уязвимый компонент, при этом остальная часть прошивки существенно различается. Более того, вендоры иногда исправляют уязвимость, обнаруженную в одной модели, без всесторонней оценки того, затрагивает ли та же проблема другие модели в их линейке продуктов.
Например, в июне Forescout сообщила о попытках эксплуатации уязвимости, которую они обнаружили и сообщили в конвертерах «последовательный порт — IP» от Lantronix (CVE-2025-67038). Производитель изначально выпустил патчи только для серий контроллеров EDS5000 и EDS3000, но после того, как четыре месяца спустя была обнаружена эксплуатация в реальных условиях, он выявил и выпустил патчи для дополнительных моделей устройств: серий G520, X300, E210 и E220.
«Я полагаю, что если производители не проводят всестороннюю оценку моделей, затронутых уязвимостью, то ИИ теперь может помочь злоумышленникам сделать это и перенести эксплойты на модели, которые, возможно, не были пропатчены», — говорит Дэниел душ Сантуш, вице-президент по исследованиям в Forescout, в интервью CSO.
Однако для своего тестирования исследователи Forescout перенесли эксплойт, ранее разработанный для CVE-2021-31886, с одной модели PLC Wago на другую, которую производитель пометил как затронутую и уже пропатчил.
Путь наименьшего сопротивления под вопросом
Растущие возможности ИИ в этой области, как ожидается, также изменят типы проблем, которые будут атаковать злоумышленники. Уязвимости удалённого выполнения кода (RCE) в прошивках PLC могут обеспечить глубокое сохранение присутствия и латеральное перемещение внутри сетей операционных технологий (OT), но из-за своей сложности большинство реальных атак на ICS обычно нацелены на более лёгкие цели, такие как небезопасные инженерные протоколы или уязвимости в веб-интерфейсах HMI (человеко-машинный интерфейс), которые операторы используют для управления устройствами.
«Самый большой риск заключается в том, что уязвимости, которые считались „слишком сложными для эксплуатации“, станут легче эксплуатировать», — говорит душ Сантуш. «Угрозы проводят своего рода расчёт ROI (возврата инвестиций), когда тратят время на разработку эксплойта, и то, что помогает им создавать или переносить эксплойты, меняет этот расчёт: […] RCE может дать атакующим очень детальный контроль для создания постоянных закладок, выполнения низкоуровневого латерального перемещения и так далее. Это непросто, но если ИИ может помочь в этом, такие атаки становятся более вероятными».
Модели будут только улучшаться
Forescout начала своё исследование некоторое время назад и использовала то, что сейчас является моделями старшего поколения: Claude Sonnet 4.6 и Claude Opus 4.6 с контекстом 1M, которые были выпущены ещё в феврале. С тех пор Anthropic выпустила Opus 4.8 в мае, Fable 5 в июне, Opus 5 в июле, а сегодня — Fable 5.1.
Все эти модели продемонстрировали растущие возможности в области исследований безопасности, особенно Fable, которая относится к тому же классу, что и Mythos от Anthropic — модель, настолько способная в кибербезопасности, что была предоставлена только проверенным организациям. Последние китайские модели с открытыми весами также давно превзошли возможности Opus 4.6 и всё чаще используются для задач кибербезопасности, отчасти из-за того, что передовые модели имеют сильные ограничения, которые могут блокировать разработку эксплойтов.
«Более новые модели, возможно, могли бы достичь лучших результатов», — отмечает душ Сантуш. «В некоторых случаях, например, в исследовании уязвимостей, мы видим, что комбинация модели и оснастки (harness) важнее, чем сама модель по себе, но в случае разработки эксплойта более способная модель рассуждения могла бы справиться лучше».
В сетях OT установка исправлений ещё сложнее, чем в IT-сетях, потому что эти контроллеры используются для управления критическими процессами, поэтому их отключение для установки патчей требует запланированных простоев. В результате владельцы ICS-активов часто расставляют приоритеты патчей в зависимости от того, насколько сложно эксплуатировать проблему и насколько это вероятно, но ИИ ставит под сомнение такие оценки.
Помимо обычного снижения подверженности OT-устройств атакам путём отключения неиспользуемых служб и ограничения доступа к их интерфейсам управления, организациям теперь следует учитывать в своих планах реагирования на инциденты пути атак с использованием ИИ.
«Обновите настольные учения и технические сценарии, включив в них ситуации, когда злоумышленники быстро адаптируют эксплойты для разных моделей устройств, злоупотребляют открытыми службами управления, перемещаются латерально через инженерные среды или вызывают нестабильность устройств из-за неудачной эксплуатации», — предупреждают исследователи Forescout.
Эксплуатация на основе ИИ также может быть непредсказуемой и вызывать проблемы, которых злоумышленник никогда не планировал. В эксперименте Forescout агент ИИ попытался развернуть вредоносную полезную нагрузку после успешной эксплуатации и в итоге записал данные в область памяти, отображённую на флеш-память, что навсегда вывело устройство из строя. Для PLC или другого ICS-устройства, управляющего физическим процессом на промышленном объекте, такой непреднамеренный и невосстановимый сбой может стать очень опасной ситуацией.
«Эксперимент показал, насколько безжалостной может быть низкоуровневая эксплуатация встраиваемых систем», — написали исследователи. «Когда ИИ-агентам предоставляется больше свободы действий в отношении киберфизических систем, ошибки перестают быть просто плохим анализом или неудачным кодом. Они могут повлиять на само устройство».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucian Constantin
