Мы не готовы к тому, что ИИ сделал с ред-тимингом

За последние полтора года в сфере наступательной безопасности произошли изменения, которые большинство организаций еще не полностью осознали. Дело не в том, что злоумышленники стали умнее. Изменилась сама экономика атак, и те из нас, кто руководит red-командами, стали свидетелями этой трансформации.

Дискуссии об ИИ в кибербезопасности обычно сосредоточены на защите: улучшенное обнаружение аномалий, ускоренная сортировка инцидентов и аналитики SOC с поддержкой ИИ. Такой подход упускает из виду более насущную проблему. Атакующая сторона уже переписала правила игры. Небольшая, хорошо оснащенная наступательная команда, использующая передовые модели ИИ сегодня, может превзойти то, что было возможно для гораздо более крупной традиционной операции всего два года назад, с таким отрывом, который должен насторожить каждого руководителя службы безопасности.

По результатам нашей работы на передовой наступательной безопасности консенсус очевиден: если вы не используете ИИ для усиления своих операций, вы уже находитесь в невыгодном положении.

Прежде чем говорить об операционных изменениях, необходимо провести фундаментальное различие, которое часто смешивается в отраслевых дискуссиях:

• AI red teaming: Это включает в себя проверку больших языковых моделей (LLM) на наличие уязвимостей, тестирование агентских конвейеров и выявление векторов prompt-injection или непреднамеренного поведения.
• Red teaming с использованием ИИ: Использование ИИ в качестве инструмента оператора для выполнения традиционных наступательных операций.

Именно во второй категории, Red Teaming с использованием ИИ, происходит наиболее немедленная, радикальная и опасная трансформация.

Потрясающие масштабы производительности

Операции с поддержкой ИИ превратились из желательной роскоши в обязательное требование. Демократизация передовых моделей создает асимметрию между хорошо оснащенными противниками и традиционными оборонительными командами, полагающимися на ручную сортировку.

Скачки производительности, которые мы наблюдаем в этой области, просто поразительны. Когда ИИ эффективно используется наступательными командами, некоторые из первоначальных выводов говорят сами за себя:

(Данные выше собраны DayBlink Consulting за последние 10 лет работы и подтверждены Робертом Пиментелем как отражающие его опыт в red-командах.)

ИИ на всех этапах тестирования

Мы больше не используем ИИ только для написания фишинговых писем. Организации и злоумышленники одинаково применяют структурированный подход к интеграции ИИ на каждом этапе цепочки атак (kill chain):

• Предварительная операция (подготовка и разведка): Фаза подготовки, занимавшая недели, теперь сокращена до нескольких минут. Сбор открытых источников разведданных (OSINT), предоставление инфраструктуры, построение организационных диаграмм и настройка серверов командно-контрольной инфраструктуры (C2) теперь могут быть делегированы агентному ИИ. Это значительно сокращает время и ручные усилия, необходимые для начала операции, хотя сложные решения по инфраструктуре по-прежнему требуют опытных операторов. Предварительная операция обычно начинается захватывающе (новая операция!), но часто заканчивается рутиной. Мы ценим ускорение, которое ИИ обеспечил здесь.
• Середина операции (перечисление и атака): во время активных тестов ИИ действует как эксперт по запросу в реальном времени. Операторы используют ИИ интерактивно для генерации пользовательских скриптов аудита, быстрого изменения стратегий и оперативного запроса незнакомых технологических стеков. Используя рабочий процесс “LLM как судья”, где вывод одной модели проверяется другой на правильность и риски перед выполнением, злоумышленники могут обеспечить высокоуверенные, автоматизированные действия. Перечисление и атака — это то, где происходит все волнение и адреналин. Мы используем ИИ для помощи здесь, но он (пока) не заменяет нас, людей.
• Пост-операция (отчетность и деконфликтизация): подготовка отчетов исторически была самой утомительной частью любой операции. Сегодня девять-десять месяцев необработанных логов C2 могут быть переданы в передовую модель для генерации исчерпывающего отчета о деконфликтизации менее чем за 20 минут. Эти инструменты могут сопоставить каждую выполненную команду с MITRE ATT&CK framework, сопоставить разведывательные данные и преобразовать высокотехничные данные в четкие, действенные повествования для руководителей высшего звена. Результат по-прежнему требует ручной проверки. ИИ позволяет получить первый черновик за минуты вместо дней, но оператор должен проверить выводы, подтвердить сопоставления ATT&CK и обеспечить точность перед предоставлением. Обработка заявок и последующие действия — бич большинства red-команд. ИИ стал отличным помощником для наших команд в создании отчетов и выполнении многих утомительных задач.

Кадровый разрыв: суждение как главный отличительный признак

Поскольку ИИ автоматизирует базовое перечисление, сканирование и создание структуры, основной набор навыков red-тестирования — критическое мышление, понимание архитектуры, оценка угроз — остается столь же ценным, как и всегда. ИИ не заменяет это. Но операторы, которые могут использовать ИИ наряду с этими навыками, будут превосходить тех, кто не может. Отличием является не ИИ против отсутствия ИИ; а наличие фундаментальных знаний для эффективного управления им и проверки того, что он предоставляет. Это фундаментально меняет требуемый профиль успешного специалиста по кибербезопасности. В результате отрасль быстро расходится на две четкие категории специалистов:

1. «Единороги» (высокопроизводительные специалисты): Это специалисты, которые применяют критическое мышление и глубокое понимание угроз к ИИ. Они точно знают, где нарушаются границы доверия и где архитектуры слабы. Они используют ИИ для эффективного выполнения этих идей, снимая с себя рутинную работу, чтобы сосредоточиться на сложной эксплуатации.
2. «Слабые исполнители»: Операторы, которые используют ИИ как бездумный ярлык для копирования и вставки. Они полностью полагаются на непроверенные результаты, не понимая лежащих в основе механизмов, производя шумную, легко обнаруживаемую работу, которая тратит время и вызывает срабатывания сигнализации.

Следовательно, практики найма должны измениться. Основным критерием отбора новых талантов больше не может быть набор устаревших сертификатов; это должно быть их практическое любопытство, их фундаментальное понимание сетевой архитектуры и их опыт создания инструментов с использованием передовых моделей ИИ. Сертификаты по-прежнему важны, но при найме также необходимо оценивать, могут ли кандидаты критически мыслить о системах и эффективно использовать инструменты ИИ, а не просто работать с ними вслепую.

Стратегические императивы на 2027 год

Для руководителей служб безопасности, стремящихся пережить этот сдвиг парадигмы, путь вперед требует немедленных действий. Основываясь на наших наблюдениях, вот критические приоритеты на следующие 18 месяцев:

• Формализация бюджетов на ИИ: Доступ к передовым моделям дорог, но это необходимая операционная стоимость. Команды без бюджета для экспериментов и разработок отстанут от противников.
• Внедрение непрерывного, программного тестирования: Поскольку предприятия развертывают тысячи собственных агентных интеграций, ручное тестирование больше не является жизнеспособным. Непрерывное, автоматизированное тестирование на основе угроз должно стать стандартной операционной процедурой.
• Подготовка к гибридным векторам угроз: По мере того как цифровые периметры укрепляются за счет автоматизированной защиты, атаки будут все чаще сочетать гипер-автоматизированные цифровые эксплойты с высокосложными физическими векторами и социальной инженерией.
• Нанимайте любопытных: Создавайте команды, основанные на специалистах, которые активно экспериментируют с ИИ и обладают суждениями высокого уровня, необходимыми для его безопасного и эффективного руководства.

Организации, которые не примут мышление с поддержкой ИИ, рискуют быть подавленными противниками, действующими быстрее, умнее и в беспрецедентных масштабах. Успех в современном киберпространстве основан на одном основном принципе: бесшовном сочетании элитного человеческого суждения с интеллектуальной автоматизацией.