Предприятия годами работали над улучшением времени обнаружения и реагирования перед лицом всё более изощрённых атак, основанных на ручном взломе и технике «живи за счёт земли». Теперь ИИ угрожает свести на нет эти усилия.
Всё больше злоумышленников автоматизируют все фазы атак, включая латеральное перемещение, с помощью агентов на базе LLM, что резко сокращает время от первоначального доступа до глубокого проникновения в среду.
«Реальный сдвиг — это скорость, масштаб и оркестровка: знакомые облачные техники атак выполнялись быстрее и на большем количестве поверхностей, чем защитники могли комфортно сдерживать», — написали исследователи из охранной фирмы Sygnia на прошлой неделе в отчёте об атаке на облачную среду с помощью ИИ, которую они расследовали.
Отчёт Sygnia последовал за исследованием Sysdig о кибервторжении и вымогательстве, проведённом от начала до конца автономным ИИ-агентом. Действия, предпринятые агентом, включали сбор учётных данных, картографирование внутренних сервисов и обеспечение постоянного доступа.
Оба инцидента показывают, что атаки с помощью ИИ вышли за рамки написанных LLM вредоносных скриптов и фишинговых приманок — теперь они охватывают все этапы цепочки атак, включая те части, которые ранее требовали человеческого мышления и выполнения команд вручную с адаптацией к среде.
В прошлом месяце исследователи из Университета Торонто сообщили, что им удалось создать ИИ-червя, способного к саморепликации, который автономно находит и использует уязвимости в десятках симулированных систем. Исследователи добились этого, используя модель ИИ с открытыми весами и построив обвязку для атак, чтобы удерживать её на правильном пути.
Хотя для экспертов по безопасности не будет сюрпризом, что такой уровень автоматизации атак с помощью ИИ уже происходит в реальном мире, очень маловероятно, что многие компании успели адаптировать свою защиту.
«То, что это выявляет, — это истина, с которой должны смириться все сотрудники службы безопасности: большинство взломов будет зависеть не от передового ИИ, а от неисправленных систем, открытых сервисов и слабого контроля учётных записей, — говорит Гиди Коэн, генеральный директор и сооснователь стартапа по безопасности ИИ Bonfy.ai, изданию CSO. — ИИ просто делает эти пробелы невозможными для игнорирования. Организации, которые столкнутся с трудностями, — это не те, у кого нет средств защиты от ИИ; это те, кто всё ещё полагается на безопасность на человеческой скорости в среде угроз на машинной скорости».
Нужды в zero-day нет
Как наглядно продемонстрировало исследование университета Торонто, ИИ-агентам не нужны изощрённые уязвимости нулевого дня для проникновения в среды, поскольку во многих средах есть системы и приложения с известными ошибками и общими слабостями.
Атака, задокументированная Sysdig (исследователи назвали её JadePuffer), эксплуатировала годовую уязвимость (CVE-2025-3248) в Langflow, по иронии судьбы — инструменте для создания ИИ-агентов. В новой атаке, задокументированной Sygnia, злоумышленники использовали слабость в веб-приложении, которая позволила им найти сохранённый ключ AWS. Оттуда они быстро пробрались через облачную среду жертвы с помощью автоматизации на базе ИИ.
«Злоумышленник эксплуатировал не одну единственную неверную конфигурацию; они объединяли слабости в цепочку через сервисы приложений, ресурсы AWS, репозитории контроля версий, CI/CD-конвейеры, компоненты времени выполнения и хранилища данных, одновременно быстро выполняя поиск учётных данных, сбор секретов, перебор облачных ресурсов, злоупотребление конвейерами развёртывания, модификацию среды выполнения, доступ к базам данных и нарушение работы», — сообщили исследователи.
Как и в случае с JadePuffer, злоумышленники, задокументированные Sygnia, были сосредоточены на вымогательстве денег у жертвы. Для этого они скомпрометировали как можно больше экземпляров AWS, выкрали данные, а также настроили несколько точек постоянного доступа в среде AWS. Целью было оказать давление на жертву, демонстрируя, что, несмотря на усилия по восстановлению, они всё ещё имеют доступ к среде.
Скорость — новая игра
Попав в среду, изощрённые злоумышленники часто неделями или даже месяцами медленно перемещаются к другим системам. Отчасти это связано с тем, что человеческой команде требуется время, чтобы получить полное понимание среды и найти, где находятся наиболее ценные системы.
Эта деятельность также часто носит характер проб и ошибок: злоумышленники проводят разведку, чтобы обнаружить топологию сети, найти эксплуатируемые слабости в дополнительных системах и искать в них сохранённые учётные данные, которые могут предоставить доступ к другим целям, используя при этом существующие инструменты ОС или стандартные методы системного администрирования, которые не вызовут срабатывания систем обнаружения вредоносных программ и вторжений.
Активный поиск угроз — один из способов противодействовать таким техникам, предназначенным для обхода автоматического обнаружения. При поиске угроз аналитики-люди вручную проверяют сеть и системы организации на признаки компрометации, которые могли быть пропущены инструментами. Это медленный, но эффективный оборонительный приём — но только если злоумышленники действуют в тех же временных рамках.
«Традиционное реагирование на инциденты часто опирается на предположение, что продвижение злоумышленника создаст достаточно наблюдаемых сигналов, чтобы защитники могли расследовать и сдержать активность до того, как доступ материально расширится по среде, — написали исследователи Sygnia в своём отчёте. — Наблюдаемый паттерн атаки опроверг это предположение. Криминалистические следы показали быструю, повторяющуюся активность, соответствующую автоматизированным или поддерживаемым ИИ рабочим процессам по сбору учётных данных, анализу разрешений, обнаружению уязвимостей и построению карты атак, что позволило вторжению продвинуться через несколько этапов в сжатые сроки».
И это был не случай простых автоматизированных скриптов, выполняющих сценарий атаки, а рабочие потоки, демонстрирующие явные признаки адаптации к среде. Каждый новый доступ быстро оценивался и приводил к действиям, адаптированным для этой конкретной системы — будь то экземпляр EC2, корзина S3, база данных SQL или CI/CD-раннер на GitHub.
Профилактика снова в центре внимания
Очевидный ответ на атаки с помощью ИИ — это защита с помощью ИИ. Но простое наличие функций на базе ИИ в продуктах для обнаружения и реагирования не является гарантией отражения таких быстрых и адаптивных атак. Организации должны убедиться, что все эти инструменты и рабочие процессы хорошо интегрированы в скоординированный процесс между разными командами.
Более того, эти атаки показывают ценность мер многоуровневой защиты, таких как непрерывная проверка конфигураций, быстрое развёртывание исправлений, частая ротация секретов, сегментация сети, правила контроля доступа на основе IP, реализация принципа минимальных привилегий для учётных данных, ограничение административных привилегий, включение многофакторной аутентификации и изоляция облачных рабочих нагрузок.
Sygnia также рекомендует создавать автоматизированные сценарии реагирования, которые можно быстро адаптировать и развернуть при обнаружении потенциальных признаков компрометации.
«Порог мастерства для проведения операции с программами-вымогателями снизился до стоимости запуска агента, — говорит Дрей Ага, старший менеджер по тактическому реагированию в охранной фирме Huntress, изданию CSO. — Очень посредственные киберпреступники теперь могут „прокачать“ своё влияние с помощью ИИ. Это должно беспокоить защитников больше, чем любая отдельная новая техника, поскольку это означает больше злоумышленников, чаще действующих против большего количества незащищённой, открытой инфраструктуры».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucian Constantin
