Американские законодатели представили всеобъемлющее двухпартийное предложение по борьбе с быстро растущим мошенничеством с использованием искусственного интеллекта, реагируя на серию громких случаев атак с использованием подмены личности и всплеск автоматизированной преступной деятельности, которая в настоящее время распространяется на финансовые и криптовалютные рынки.
Законопроект о сдерживании мошенничества с использованием ИИ, представленный во вторник конгрессменом Тедом Лье (демократ от штата Калифорния) и конгрессменом Нилом Данном (республиканец от штата Флорида), направлен на ужесточение наказаний за преступления, совершенные с помощью искусственного интеллекта.
Новый законопроект предусматривает до 30 лет тюрьмы за мошенничество с использованием ИИ
Согласно законопроекту, банковское мошенничество, совершенное с использованием инструментов ИИ, может повлечь за собой тюремное заключение на срок до 30 лет и штрафы в размере до 2 миллионов долларов.
Мошенничество с использованием электронных переводов, почтовое мошенничество и отмывание денег с использованием ИИ также повлекут за собой более строгое наказание, со штрафами до 1 миллиона долларов и сроками до 20 лет.
Законодательство также направлено против подмены федеральных должностных лиц, преступления, которое теперь будет караться тремя годами тюремного заключения и штрафом в размере 1 миллиона долларов.
Предложение появилось после волны тревожных инцидентов в Вашингтоне, где мошенники использовали модели ИИ для имитации голосов высокопоставленных правительственных чиновников.
В одном случае злоумышленники взломали мобильный телефон главы аппарата Белого дома Сьюзи Уайлс и использовали сгенерированный ИИ звук, чтобы звонить законодателям и бизнес-лидерам.
Два месяца спустя мошенники клонировали голос госсекретаря Марко Рубио, чтобы связаться с министрами иностранных дел и официальными лицами США в попытке получить конфиденциальную информацию.
Законодатели говорят, что эти эпизоды показывают, как быстро ИИ изменил среду рисков. «ИИ снизил барьер для входа для мошенников», — предупредил Лье.
В законопроекте используется определение искусственного интеллекта из Национального закона об инициативе в области ИИ 2020 года и включены положения о защите Первой поправки, которые освобождают сатиру, пародию и другой выразительный контент с четким раскрытием информации.
Данн заявил, что эта мера призвана соответствовать быстрым техническим изменениям, и предупредил, что кража личных данных и мошенничество с использованием ИИ требуют более суровых последствий.
Федеральные дебаты разворачиваются, поскольку Белый дом рассматривает указ, который отменит лоскутное одеяло правил ИИ на уровне штата, даже несмотря на то, что более 200 законодателей штата призывают Конгресс отклонить положение о вытеснении ИИ из законопроекта о национальной обороне.
Аналогичный федеральный мораторий рухнул в июле после голосования в Сенате 99–1, но проект указа, распространяющийся в Вашингтоне, показывает, что администрация изучает свой собственный путь к восстановлению контроля над правилами ИИ.
Количество мошенничеств с использованием ИИ выросло на 456%, поскольку дипфейки приводят к многомиллиардным убыткам
Призыв к новому законодательству возник на фоне резкого увеличения количества мошенничеств с использованием ИИ по всей стране.
Федеральные данные показывают, что в прошлом году граждане США потеряли 9,3 миллиарда долларов из-за криптовалютных мошенничеств, а отчет TRM Labs показал рост на 456% мошенничеств с использованием ИИ в 2024 году.
Генеративные модели теперь используются для создания дипфейк-видео, клонированных голосов, реалистичных чат-ботов и автоматизированных схем токенов в масштабе, который следователи описывают как беспрецедентный.
Аналитики говорят, что ИИ превращает мошенничество в автоматизированную операцию, способную перемещать средства по сотням кошельков за считанные секунды.
Государственные и федеральные агентства пытаются не отставать. Новые законы, такие как закон TAKE IT DOWN, теперь требуют от платформ удалять интимные изображения, полученные без согласия, включая контент, сгенерированный ИИ, в течение 48 часов.
Агентства, такие как NIST и DARPA, разрабатывают стандарты обнаружения, а FTC начал использовать существующие правила для борьбы с мошенничествами, основанными на ИИ.
Криптосектор сталкивается с аналогичным давлением. Исследование Chainalysis показывает, что примерно 60% всех депозитов в мошеннические кошельки сейчас осуществляются с помощью схем на основе ИИ.
Преступные группы используют дипфейк-трансляции, синтетические Zoom-звонки и клонированных общественных деятелей для привлечения инвесторов.
В недавнем отчете Bitget, SlowMist и Elliptic подсчитано, что мошенничества с криптовалютой с использованием ИИ привели к убыткам в размере 4,6 миллиарда долларов в 2024 году.
Следователи говорят, что тактика продолжает развиваться: мошенники используют поддельные приложения, предложения работы с троянскими программами и методы отмывания денег в разных сетях, которые перемещаются быстрее, чем могут отслеживать люди.
Автор – Hassan Shittu
