ИИ может помогать киберпреступникам увеличивать скорость и масштабы своих операций, но он пока не меняет их основных целей или методов, которые они используют в своих цепочках атак.
Фишинг, вредоносное ПО и эксплуатация уязвимостей остаются основными методами, даже несмотря на то, что злоупотребление инструментами ИИ сделало атаки проще и дешевле даже для относительно неопытных злоумышленников, по словам экспертов по безопасности.
«Злоумышленники по-прежнему идентифицируют цели, проводят разведку, закрепляются, перемещаются по сети, достигают своей цели, заметают следы и переходят к следующей цели», — говорит Рональд Льюис, директор по управлению кибербезопасностью в компании Black Duck, специализирующейся на безопасности приложений. «Изменились только объем и скорость, с которыми ИИ позволяет осуществлять этот процесс».
Даже в самом громком примере атаки с использованием ИИ на сегодняшний день, когда китайские государственные акторы злоупотребили Claude Code для проведения кибершпионской кампании, оркестрованной ИИ в сентябре 2025 года, основу составили традиционные методы и процедуры атак, а ИИ использовался как средство поддержки разведки, обнаружения уязвимостей, эксплуатации, перемещения по сети, сбора учетных данных, анализа данных и эксфильтрации во время кампании GTG-1002.
JadePuffer,кампания с использованием программ-вымогателей, раскрытая в июле 2026 года, продемонстрировала, как агент на базе LLM автоматизировал большую часть цепочки вторжения. Первоначальная эксплуатация произошла через CVE-2025-3248, годичную ошибку отсутствия аутентификации в Langflow, популярном фреймворке с открытым исходным кодом для создания приложений LLM и рабочих процессов агентов.
Уязвимые экземпляры Langflow, доступные из Интернета, были использованы для кражи облачных учетных данных, ключей API и других секретов перед перемещением по сети, повышением привилегий и, в конечном итоге, шифрованием баз данных.
JadePuffer демонстрирует потенциал ИИ для автоматизации традиционных методов атак, но также подчеркивает, насколько уязвимое программное обеспечение является областью, где ИИ дает злоумышленникам наибольшее преимущество на сегодняшний день. Инструменты ИИ могут легко находить уязвимые места в коде с открытым исходным кодом быстрее, чем защитники могут их исправить, что является огромной проблемой для многих предприятий, имеющих многолетний технический долг. Эксперты по безопасности отмечают, что недостатки программного обеспечения становятся основной причиной взломов в результате этого.
Что позволяет ИИ
Помимо повышения эффективности злоумышленников в поиске уязвимостей, ИИ также позволяет им быстрее добиваться успеха или терпеть неудачу. Защитники наблюдают улучшения в скорости, масштабе и операционных возможностях злоумышленников, которые тесно коррелируют с растущими возможностями инструментов ИИ.
«Противники получают те же преимущества в скорости разработки и операционной деятельности, которые получают все остальные при внедрении ИИ», — говорит Даррен Мейер, специалист по исследованиям безопасности в компании Checkmarx, занимающейся инструментами безопасности приложений.
Льюис из Black Duck видит, что это расширяет охват злоумышленников и стимулирует большее количество экспериментов с атаками.
«Злоумышленник потенциально может исследовать больше возможностей, пробовать больше подходов и переходить к следующей цели со скоростью, которую человеческой команде трудно будет сравнять», — говорит он.
Это, в свою очередь, будет все больше менять ключевую фазу традиционных моделей атак, которая традиционно благоприятствует защитникам, отмечает Кристал Морин, старший стратег по кибербезопасности в компании Sysdig, занимающейся облачной безопасностью. «Время пребывания, которое часто составляло недели или месяцы, было тем временем, когда происходило обнаружение», — говорит она.
В то время как злоумышленники раньше проникали, некоторое время оставались и разведывали, злоумышленники с поддержкой ИИ демонстрируют признаки сокращения окон обнаружения. А агенты ИИ ждать не будут.
«Агентные APT» и специализация фаз атаки ИИ
Используя агентный ИИ в своих операциях, хакеры также могут использовать более глубокий пул знаний в предметных областях — администрирование баз данных, конвейеры CI/CD и т. д. — по сравнению с человеческими командами атакующих, где разные люди, как правило, специализируются на разных вещах, таких как безопасность веб-приложений или разработка вредоносного ПО.
«Представьте себе администратора баз данных, разработчика, ИТ-инженера, специалиста по DevOps, облачного архитектора и хакера, объединенных в одну роль», — говорит Назар Тимошик, генеральный директор и основатель компании UnderDefense, занимающейся безопасностью агентного ИИ. «Мы называем это «агентными APT», и критический сдвиг заключается в том, что это больше не является прерогативой только государственных акторов».
Тимошик добавляет: «Угроза, которая раньше требовала скоординированной команды специалистов, теперь может быть развернута одним человеком с правильным запросом и правильной моделью».
Исследователи безопасности, в том числе из UnderDefense, сообщают, что злоумышленники предпочитают китайские модели, в частности GLM и Kimi 3, которые имеют значительно меньше ограничений по контенту, по сравнению с их более ограниченными западными аналогами, в качестве платформы для проведения атак.
«Злоумышленники переключаются между моделями в зависимости от того, что требуется для задачи: одна для разведки, одна для генерации кода, одна для создания контента социальной инженерии», — говорит Тимошик. «Модульность является частью дизайна атаки».
Злоумышленники часто предпочитают использовать локальные модели как из-за преимуществ в операционной безопасности, так и потому, что некоторые модели могут иметь более слабые механизмы защиты от злонамеренного использования.
Другие эксперты предостерегают, что злоупотребление конкретными моделями трудно определить и, в любом случае, это второстепенный вопрос по сравнению с основной проблемой защиты от атак.
«Атрибуция конкретных атак к конкретным моделям, как правило, является чистой спекуляцией, основанной на очень скудных доказательствах», — говорит Мейер из Checkmarx. «Настоящая атрибуция может исходить только из проникновения в группы угроз или компрометации их инфраструктуры, что редко доступно публичным исследователям».
Текущий базовый уровень атак состоит из операций, оркестрированных ИИ, где модели находят, проверяют и выполняют пути атак. Исследователи безопасности сообщают об общем сдвиге от атак с поддержкой ИИ и ускоренных ИИ к полностью автономным атакам, с минимальным участием человека.
Экономика атак с использованием ИИ
Экономика проведения атак также меняется — и это имеет решающее значение для понимания растущего использования ИИ злоумышленниками.
«Человек-злоумышленник создает сценарий для каждой кампании и повторно использует его, поэтому каждая новая цель требует инженерного времени для внесения корректировок», — говорит Морин из Sysdig. «Агентный злоумышленник обладает контекстом о целом классе приложений и составляет свой план в реальном времени против всего, что он находит. Здесь единственной стоимостью является бюджет на инференс. И поскольку проведение сложной атаки становится дешевле, количество попыток будет расти».
Агентные атаки все еще имеют недостатки, а широта знаний является плохой заменой глубине знаний.
«Агенты галлюцинируют и шумят, поэтому их часто можно поймать», — отмечает Морин из Sysdig. «У Jadepuffer были недостатки в записке с требованием выкупа, шифровании, кошельке и эксфильтрации данных. Существует еще много областей, где человеческий анализ и навыки по-прежнему превосходят память агента».
Меры противодействия
«Основные цели злоумышленника на самом деле не изменились, но временные рамки для успешной атаки резко сократились», — говорит Натан Смоленски, CISO в компании Qualys, занимающейся управлением уязвимостями и соответствием требованиям. «Передовые инструменты ИИ ускоряют обнаружение и использование уязвимостей, сокращая окно между раскрытием и эксплуатацией почти до нуля».
Смоленски добавляет: «Защитники больше не могут полагаться на традиционные, человеческие по скорости, 30-дневные циклы исправления или ежемесячные статические электронные таблицы».
ИИ значительно меняет динамику входа, расширяя поверхность атаки — особенно через конечные пользовательские устройства, вызовы API и неуправляемые агенты ИИ.
В ответ организации, занимающиеся защитой, должны перейти от человеческого контроля к автоматизированной защите, при этом продолжая уделять внимание базовым мерам безопасности, таким как исправление уязвимостей и контроль аутентификации.
«Внедрение агентных рабочих процессов с человеческим контролем позволяет командам безопасности автоматизировать усилия по сортировке низкого уровня и сосредоточить человеческий опыт на управлении агентами, проверке результатов и принятии более критических решений по управлению рисками», — заключает Смоленски.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – John Leyden
