Появляется всё больше свидетельств того, как ИИ становится частью повседневной работы киберпреступников: от создания и доработки инструментов до управления инфраструктурой и ускорения исследований уязвимостей.
Опираясь на восстановленные журналы промптов, инструменты для атак и переписку злоумышленников, исследование Cisco Talos документирует, как ИИ используется для разработки вредоносного кода, создания мошеннической инфраструктуры, а также ускорения исследований и эксплуатации уязвимостей.
Исследование, опубликованное во время конференции Black Hat USA, показало, что защитные механизмы ИИ-систем часто оказывались неэффективными.
Исследователи Cisco Talos пишут, что злоумышленники часто обходят защитные механизмы с помощью простых заявлений, основанных на социальной инженерии («это авторизованное тестирование» или «я спрашиваю это в рамках упражнения capture the flag»), которые убеждают большинство моделей подчиниться.
Такая обманутая уступчивость не была характерна для какой-то одной модели или платформы. Напротив, анализ журналов промптов, связанных с Claude Code, CodeX, Cursor и Gemini, показал, что этот недостаток является повсеместной проблемой. А когда цензурированные модели отказывают, злоумышленники просто переключаются на бесцензурные альтернативы.
В то время как начинающие киберпреступники продолжают создавать неуклюжие вредоносные программы с ограниченной функциональностью, сложные хакерские группы всё чаще используют ИИ в качестве ассистента разработчика для быстрого создания эксплойтов, а некоторые даже развертывают его как инструмент системного администрирования для управления крупномасштабной атакующей инфраструктурой.
Cisco Talos обнаружила реальные примеры того, как злоумышленники злоупотребляют ИИ-системами для создания сервиса массовой валидации электронной почты, обрабатывающего десятки миллионов записей, адаптации уязвимости React2Shell в конвейер кражи учетных данных, разработки DDoS-инфраструктуры, нацеленной на Android TV, и поддержки операций по краже криптовалюты, среди прочих атак.
Джозеф Рук, старший директор Insikt Group из Recorded Future, отмечает, что тактика злоумышленников эволюционирует от традиционных атак на основе кода к манипуляции большими языковыми моделями с помощью промптов.
«Нацеливание на слабые места LLM позволяет внедрять вредоносные промпты в общие текстовые, видео- или графические файлы с целью захвата ассистентов на основе LLM для проведения атак», — рассказывает Рук CSO.
Норвежский исследователь ИИ Хокон Молёй недавно продемонстрировал такую атаку, которая может привести к распространению Copilot-червя через документы Microsoft Word. Злоумышленники также создают вредоносные файлы инструкций для ИИ, такие как CLAUDE.md, чтобы обманом заставить агентов выполнять эксфильтрацию данных и другие задачи от их имени.
«Вредоносные промпты всё чаще будут заменять вредоносное ПО в качестве предпочтительного метода вторжения, позволяя противникам извлекать конфиденциальные данные, обходить защитные механизмы или вызывать вредоносные действия, не нарушая традиционных средств защиты», — говорит Рук.
Атаки на ИИ через цепочку поставок ПО
Отдельное исследование CrowdStrike показывает, что злоумышленники всё чаще нацеливаются на ИИ-инфраструктуру с помощью атак, подобных атакам на цепочку поставок ПО.
Например, в марте 2026 года северокорейская киберпреступная группа Stardust Chollima использовала украденные учетные данные мейнтейнера, чтобы скомпрометировать npm-пакет Axios и доставить платформенно-зависимые варианты своего вредоносного ПО ZshBucket.
В июне 2026 года та же группа внедрила вредоносный npm-пакет в качестве зависимости как минимум в 131 пакет фреймворка Mastra AI, что указывает на то, что доверенные строительные блоки ИИ становятся целями в атаках на цепочки поставок.
В первой половине 2026 года 87% выявленных угроз в реестрах ПО были связаны с вредоносными npm-пакетами. «Это указывает на предпочтение злоумышленниками масштаба JavaScript, цепочек зависимостей и автоматических скриптов установки для распространения риска ниже по цепочке», — сообщают исследователи CrowdStrike.
Отчет CrowdStrike по охоте за угрозами за 2026 год также показывает, как ИИ сокращает разрыв между раскрытием уязвимости и ее активной эксплуатацией.
Например, две отдельные китайские APT-группы эксплуатировали критические уязвимости в течение 24 часов после публичного выпуска proof-of-concept (PoC). С января по июнь 2026 года 88% случаев эксплуатации уязвимостей с публичным PoC, наблюдаемых CrowdStrike, были проведены в течение 48 часов после выпуска PoC.
После раскрытия уязвимости React2Shell CrowdStrike отработала более 800 лидов по охоте на более чем 80 жертв всего за четыре дня.
Киберпреступная группа Altered Spider (также известная как TeamPCP) скомпрометировала более 300 программных зависимостей за один день, чтобы похитить учетные данные и переключиться на облачные среды.
Атаки на системы аутентификации
Исследование, основанное на разведданных из первых рук от охотников за угрозами и аналитиков CrowdStrike, также показало, что доверенная аутентификация стала излюбленным вектором атак: например, количество вторжений с использованием вишинга удвоилось в первой половине 2026 года. В смежной области киберпреступные группы Cordial Spider и Snarky Spider скомпрометировали SaaS-приложения, интегрированные с единым входом (SSO), для эксфильтрации данных.
Рук из Recorded Future указывает на другие способы, которыми системы аутентификации оказываются на передовой атак на основе ИИ.
«Созданные ИИ дипфейк-видео и аудио также с большей вероятностью будут использоваться в рамках атак с компрометацией деловой переписки и социальной инженерии, — рассказывает Рук CSO. — Системы биометрической и идентификационной проверки, вероятно, останутся уязвимыми для спуфинга, повторного воспроизведения и клонированных учетных данных, что позволит синтетическим персонам принуждать к платежам, манипулировать сотрудниками и обеспечивать передачу доступа кибероператорам».
Активность киберпреступности, ориентированной на облако, выросла на 171%, поскольку злоумышленники осуществляли кражу учетных данных, криптомайнинг, злоупотребление LLM и кражу цифровых финансовых активов, согласно CrowdStrike.
Как реагировать командам кибербезопасности
«ИИ теперь встроен в современные операции противников. Он меняет то, как планируются, выполняются и масштабируются атаки, одновременно расширяя поверхность атаки, которую должны защищать организации, — говорит Адам Мейерс, руководитель отдела контропераций противника в CrowdStrike. — Организации, которые добьются успеха, будут защищать ИИ так же агрессивно, как они его внедряют, и использовать ИИ для защиты со скоростью противника».
Комплексные общеотраслевые данные остаются ограниченными, поскольку доказательства злоупотребления ИИ часто трудно выявить с помощью традиционной телеметрии безопасности. Однако инциденты, задокументированные Cisco Talos и CrowdStrike, показывают, как CISOs необходимо адаптироваться в ответ на растущую угрозу.
Cisco Talos призывает предприятия улучшить обнаружение, расстановку приоритетов и собственное использование ИИ-платформ и агентов для обработки растущего объема оповещений и уязвимостей. «Организации, наиболее подготовленные к тому, чтобы справиться с грядущим потоком дополнительных уязвимостей, оповещений и инцидентов, будут те, кто подготовится сейчас, развернув собственные средства безопасности на основе ИИ», — говорится в отчете.
«Команды безопасности должны исходить из того, что ИИ уже встроен в рабочие процессы злоумышленников; сосредоточиться на обнаружении вредоносного поведения, а не на доказательстве причастности ИИ; рассматривать LLM и API как привилегированную инфраструктуру с высоким уровнем риска; а также усилить логирование, установку исправлений и изоляцию», — говорит Оливер Симонне, ведущий исследователь кибербезопасности в платформе безопасности и управления ИИ CultureAI.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – John Leyden
