Атаки с использованием искусственного интеллекта (ИИ) способны превратить безобидную веб-страницу в кастомизированную фишинговую ловушку. Эти атаки, выявленные в исследовании Unit 42 компании Palo Alto Networks, отличаются изощренностью в применении различных методов обфускации. Однако их сочетание может оказаться смертоносным, трудным для обнаружения и представляет собой новый рубеж в использовании ИИ злоумышленниками для компрометации корпоративных сетей.
Атака начинается с обычной веб-страницы, после чего злоумышленники добавляют клиентские вызовы API к большим языковым моделям (LLM), которые могут динамически генерировать вредоносный JavaScript-код в режиме реального времени. Эта полиморфная техника опасна по ряду причин. Во-первых, она позволяет обойти встроенные механизмы защиты моделей ИИ. Во-вторых, поскольку вредоносное ПО доставляется с доверенного домена LLM, это может минуть стандартный сетевой анализ. Без проверки поведенческого анализа в момент выполнения код не будет легко обнаружен или заблокирован, так как сборка финального вредоносного кода происходит непосредственно в браузере клиента и не оставляет статических следов где-либо еще в процессе.
Аналитики Unit 42 создали демонстрационный код (Proof-of-Concept), который обращается к популярным LLM, таким как DeepSeek и Gemini от Google, с целью получения вредоносного JavaScript. Ключевым этапом является использование отдельных запросов (промптов) для составления инструкций ИИ, которые переводят вредоносный код и описывают его функциональность в виде простого текста, а затем генерируют различные части самого вредоносного кода. Модель ИИ способна создавать разнообразный фишинговый контент и собирать его части воедино, что усложняет обнаружение. Сборка, как уже упоминалось, происходит в самом конце этой цепочки поставок вредоносного ПО, что SquareX называет атакой по повторной сборке на последней миле.
Хотя сама суть этой атаки не является абсолютно новой, новшеством является тип фрагментов кода, генерируемых ИИ, которые труднее обнаружить. В примере, использованном в PoC, в инструкциях для промптинга описывались четыре фрагмента кода, каждый из которых соответствовал различному шагу в работе вредоносного ПО. По словам аналитиков, каждый запрос возвращал синтаксически уникальный, но функционально идентичный вариант вредоносного кода. Это можно сравнить с версией кастомного вредоносного ПО, созданного ИИ, которая является развитием идей, впервые придуманных десятилетия назад атакующими для обхода алгоритмов статического обнаружения по сигнатурам.
Финальная сборка вредоносного ПО может осуществляться несколькими способами, включая использование прокси-сервера на стороне сервера или сети доставки контента (CDN) для дальнейшего сокрытия истинной природы вредоносного ПО путем предоставления доверенных доменов для доставки компонентов.
«К сожалению, отчасти это сводится к тому, что пользователь остается последним рубежом обороны», — заявила CSO Элли Меллен, ведущий аналитик Forrester по вопросам безопасности и рисков. «Эта атака не позволяет вендорам использовать некоторые методы обнаружения фишинга, но многие базовые возможности обнаружения фишинга здесь по-прежнему актуальны».
Джесс Бёрн, аналитик Forrester по безопасности электронной почты, согласна, что существующие защитные технологии предлагают определенную защиту. Однако, «даже несмотря на то, что эта атака использует браузер и LLM для создания фишинговой страницы на лету, проблема все равно заключается в том, как пользователи вообще попали на эту страницу. Хорошо настроенные инструменты безопасности для электронной почты и совместной работы, которые выявляют подозрительные ссылки, недавно зарегистрированные домены, похожие бренды и необычное поведение отправителя, все еще могут остановить многие из этих кампаний на уровне сообщений, чтобы пользователь даже не перешел по ссылке на „волшебную“ страницу, которая активирует вредоносный код во время выполнения».
Конечно, Unit 42 рекомендует продукты Palo Alto Networks для защиты от этой атаки. Другие решения включают использование безопасных веб-шлюзов (Secure Web Gateways), а также безопасных корпоративных браузеров, которые могут предотвращать атаки на последней миле.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – David Strom
