Мошенники нашли новое применение для техники ASCII smuggling, обычно используемой для скрытия вредоносных запросов к ИИ-моделям, в устаревшем методе атак: фишинге по электронной почте.
Компания Microsoft обнаружила масштабную фишинговую кампанию с использованием невидимых символов тегов Unicode, которая достигла пика более чем в 2,37 миллиона сообщений в конце февраля, оставалась на высоком уровне в будние дни в течение следующих трех месяцев и постепенно снижалась к середине июня.
«По мере того как методы атак эпохи ИИ становятся лучше понятными, злоумышленники могут адаптировать их для использования в более традиционных угрозах, таких как фишинг и спам», — заявили исследователи Microsoft Ноам Кохави и Сара Вольстенкрофт в своем блоге в четверг. «Этот случай иллюстрирует, как методы, появляющиеся в исследованиях безопасности ИИ, могут быстро проникать в устоявшиеся экосистемы атак, усиливая необходимость для защитников рассматривать новые угрозы с междоменной точки зрения».
ASCII smuggling включает использование невидимых или не отображаемых символов Unicode для скрытия контента внутри текста, который выглядит нормально для человека. Это делает его популярной техникой для атак с косвенным внедрением запросов. В таких атаках злоумышленник скрывает инструкции для ИИ-помощника в невидимых символах Unicode и встраивает эти вредоносные запросы в веб-страницу или документ. Человек их не видит, но модель может их декодировать как текст и затем следовать инструкциям злоумышленника для утечки данных или выполнения несанкционированных действий.
Однако вместо использования ASCII smuggling для внедрения запросов команда безопасности Microsoft обнаружила, что кто-то использовал невидимые символы — вставляя пробелы тегов Unicode между буквами — чтобы разделить слова, связанные с финансовыми приманками, в фишинговых письмах. Это, по-видимому, было попыткой обойти сопоставление по ключевым словам и другие контентные фильтры. Например, вместо того чтобы написать «funding» (финансирование) в письме, злоумышленники писали «fun⟨U+E0020⟩ding».
«Когда мы просмотрели выборку помеченных сообщений, нас удивило отсутствие внедренных инструкций для ИИ-помощника», — написали Кохави и Вольстенкрофт. «Вместо этого невидимые символы тегов были вставлены внутрь распространенных финансовых ключевых слов, разделяя их так, чтобы буквальное совпадение по сигнатуре или ключевому слову не срабатывало».
Microsoft впервые обнаружила сигнатуру ASCII smuggling в начале февраля, отметив около 21 000 сообщений 8 февраля, прежде чем число сообщений взлетело до более чем 1,3 миллиона на следующий день. Большинство этих электронных писем поступало примерно из 150 доменов отправителей на финансовую тематику, и они продолжались в течение следующих трех месяцев, резко снизившись после 15 мая, но с периодическими небольшими всплесками до середины июня.
Исследователи безопасности отметили две заметные характеристики, включая отправку огромного количества электронных писем в будние дни, а затем молчание на выходных.
Кампания также имела длительное, постепенное снижение. «После интенсивной первой фазы, с будничными объемами от 1 до 2,37 миллиона сообщений, с пиком 26 февраля, количество сообщений медленно снижалось примерно на 80 процентов в будний день к концу марта». Затем оно значительно снизилось после 15 мая, продолжая с меньшей активностью до середины июня.
По данным Microsoft, самое важное, что могут сделать защитники для защиты от блоков тегов Unicode в фишинговых письмах, — это убедиться, что конвейеры нормализации и токенизации обрабатывают символы тегов последовательно.
«Любой контент, который будет оцениваться по ключевым словам, сигнатурам или регулярным выражениям, должен сначала иметь удаленные или свернутые невидимые и не отображаемые кодовые точки Unicode, чтобы их вставка в слово больше не мешала совпадению», — написали охотники за угрозами.
Этот же контроль может также помочь снизить угрозу ASCII smuggling против ИИ-помощников, которые обрабатывают содержимое электронной почты.
Microsoft также предлагает сканировать на поведенческие индикаторы. «Наблюдаемая активность имела характерную форму: массовый объем от постоянно меняющихся одноразовых доменов на финансовую тематику, по строгому графику «будни — включено / выходные — выключено»», — предупредили Кохави и Вольстенкрофт. «Внезапный всплеск символов блокировки тегов, сконцентрированных на отправителях финансовой тематики, с еженедельным включением и выключением, является высоконадежным индикатором кампании». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
