В новом исследовательском докладе предупреждается, что в ближайшие три-пять лет правительствам и частному сектору потребуется быстро адаптировать протоколы идентификации и смягчения последствий, поскольку противники переходят от уклонения от санкций и финансирования распространения оружия (PF) с помощью ИИ к использованию ИИ для этих целей.
В докладе под названием Algorithms of Evasion: The Rise of AI-Enabled Proliferation Financing, подготовленном Королевским объединенным службой обороны и безопасности (RUSI), британским аналитическим центром в области обороны и безопасности, PF определяется как использование денежных средств или финансовых услуг для приобретения, разработки или иной деятельности, связанной с оружием массового уничтожения (ОМУ). В нем говорится: «Северная Корея и Иран в настоящее время разрабатывают и развертывают модели ИИ для содействия деятельности по уклонению от санкций».
Ключевые выводы включают тот факт, что ИИ теперь способен массово производить высококачественные поддельные документы, а также автоматизировать то, что в докладе описывается как «административная рутина управления обширными сетями подставных компаний». Утверждается, что системы на базе ИИ также могут «анализировать паттерны блокчейна в режиме реального времени для динамической корректировки стратегий смешивания криптовалют, эффективно обходя инструменты обнаружения».
Кроме того, в докладе говорится, что «инструменты, такие как генеративный ИИ, которые могут создавать сложные поддельные идентификационные документы, например, помогли Северной Корее совершать фишинговые атаки на западные компании».
Доктор Аарон Арнольд, старший научный сотрудник Центра финансов и безопасности при RUSI, автор доклада, сообщил в электронном письме, что поводом для его написания послужил рост использования ИИ Северной Кореей за последний год для содействия и усиления своих киберопераций в виде фишинговых схем, направленных на получение дохода для программ баллистических ракет и ядерного оружия страны.
Он посоветовал ИТ-менеджерам предприятий, которым необходимо защитить свои организации от того, чтобы стать жертвами деятельности по уклонению от санкций, что «это означает в значительной степени адаптацию к ландшафту, где традиционные границы безопасности, ориентированные на человека, обходятся автоматизированными технологиями».
По словам Арнольда, для ИТ-менеджеров «это может потребовать внедрения защитного ИИ, использования поведенческой аналитики, применения «предохранителей» при интенсивном использовании API или MCP, обновления обучения персонала и усиления верификации личности, особенно при удаленном найме».
Различие между помощью ИИ и использованием ИИ является «центральным»
Санчит Вир Гогиа, главный аналитик Greyhound Research, заявил, что доклад RUSI важен, «поскольку он указывает на правильный структурный сдвиг. ИИ не создает уклонение от санкций из ниоткуда, он сжимает и масштабирует методы, которые уже работают».
Он отметил, что ни одна из техник уклонения от санкций, таких как поддельные документы, синтетические удостоверения личности, подставные компании, скрытое бенефициарное владение, отмывание криптовалюты и другие, не является новой. «Меняются скорость, качество, объем и координация, с которой эти методы могут быть собраны сейчас», — сказал он.
По мнению Гогиа, «различие между помощью ИИ и использованием ИИ является центральным. Уклонение с помощью ИИ использует ИИ для дискретных задач: написание лучшего электронного письма, создание более чистого документа, генерация более убедительного ложного профиля, перевод презентации, обобщение нормативных актов или подготовка правдоподобного заявления о приеме на работу. Уклонение с использованием ИИ более серьезно».
«Структурная асимметрия»
По его словам, эта тактика «начинает координировать саму систему. Она связывает личность, документы, структуры собственности, платежные маршруты, облачный доступ, криптокошельки, вызовы API и время. Разница не в том, помогает ли ИИ кому-то подделать документ. Разница в том, начинает ли ИИ оркестровать обман».
Вот почему выводы доклада должны волновать руководителей предприятий, отметил он: «Многие организации по-прежнему предполагают, что злоумышленник в основном является человеком, в основном линеен и в основном медлителен. Это предположение устаревает. ИИ позволяет противникам проводить больше попыток, с меньшим количеством ошибок, по большему количеству каналов, на большем количестве языков, с лучшей документацией и большим терпением, чем могут выдержать большинство процессов проверки на предприятии. Это не история о гениальных преступниках, открывших магию. Это история о том, как обычные средства контроля сталкиваются с индустриализованной правдоподобностью».
Он указал, что на сегодняшний день самые сильные доказательства касаются таких тактик, как мошенничество с удостоверениями личности, подделка документов, синтетические личности, обман удаленных работников, фишинг, социальная инженерия, сокрытие криптовалюты и злоупотребление рабочими процессами. «Полностью автономные сети уклонения находятся на горизонте», — сказал он. «Они серьезны, но пока не являются повседневной нормой».
Это различие имеет значение, сказал Гогиа: «Если предприятия будут зациклены на кинематографических сценариях с автономными агентами, оставляя при этом дыры в удаленном найме, привлечении поставщиков, утверждении платежей и проверке документов, они проиграют самым прозаичным образом, какой только можно себе представить».
По его словам, доклад также верно определяет «асимметрию». «Наступательные субъекты могут учиться в рамках всей экосистемы», — сказал он. «Они могут собирать открытую информацию, повторно использовать утечки данных, изучать схемы правоприменения, тестировать формы регистрации, анализировать данные о государственных закупках, просматривать судебные документы, проверять пороговые значения соответствия и [использовать эту информацию для] уточнения своего поведения».
Защитники, напротив, ограничены правилами конфиденциальности, фрагментированными данными, требованиями к объяснимости, юрисдикционными границами, консервативными операционными моделями и разрозненными технологическими активами. «Наступательный ИИ учится широко», — сказал он. «Защитный ИИ часто учится на фрагментах. В этом и заключается структурная асимметрия».
Он пояснил, что нормативно-правовая база также усугубляет проблему, поскольку регулирующие органы «все еще говорят на разных диалектах. [Например] Закон ЕС об ИИ возлагает на организации более строгие обязательства в отношении ИИ высокого риска. Фреймворки в стиле NIST продвигают управление рисками, прозрачность и управление».
Проблема архитектуры доверия
Он отметил, что ожидания Группы разработки финансовых мер борьбы с отмыванием денег (FATF) предписывают национальную оценку рисков и меры по борьбе с распространением оружия, в то время как банковские регуляторы сосредоточены на риске моделей, подотчетности и операционной устойчивости. «Ни одно из этих направлений не является нерелевантным. Проблема в том, что преступники не организуют свою деятельность вокруг рабочих потоков регулирования. Они организуют ее вокруг результатов».
По словам Гогиа, это означает, что «предприятие не может ждать чистого глобального свода правил. Он не появится вовремя. Руководителям ИТ-отделов, директорам по информационной безопасности, сотрудникам по комплаенсу и советам директоров нужна работающая модель управления уже сейчас. Им необходима аналитика с сохранением конфиденциальности, контролируемые среды данных, аудиторские следы, правовые гарантии и четкая подотчетность за риск моделей».
Он сказал, что ИТ-менеджерам предприятий следует рассматривать ситуацию как проблему архитектуры доверия, а не как узкую проблему скрининга санкций. «Неудобная правда заключается в том, что ИИ не просто помогает злоумышленникам писать лучшие фишинговые письма или подделывать более аккуратные документы», — отметил он. «Он помогает им создавать легитимность в цепочке рабочих процессов предприятия».
Вероятный исход — «гонка вооружений ИИ»
Автор доклада Арнольд также отметил, что есть признаки того, что киберпреступники открыли для себя новые технологии и возможности ИИ, которые легитимные предприятия могли бы использовать в законных целях.
По его словам, история «изобилует примерами [преступников], разрабатывающих новые решения сложных проблем, [которые] впоследствии принимаются правоохранительными органами. Большая часть нашей политики по борьбе с финансовыми преступлениями фактически является реакцией на то, что злоумышленники используют системы или технологии новыми способами для совершения преступлений. В этом сценарии, я думаю, наиболее вероятным исходом является «гонка вооружений ИИ» между правоприменительными органами и злоумышленниками».
Гогиа добавил: «Злодеи не учат предприятия изобретать ИИ. Они учат предприятия тому, где утекает доверие. Это тот урок, который стоит воспринять всерьез».
Эта статья первоначально была опубликована на CIO.com.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Barker
