Google любит рассказывать обо всех способах, которыми люди используют его генеративные ИИ-продукты для создания нового, развития бизнеса и спасения мира. Предположительно. Конечно, люди также используют ИИ в преступных целях. Google объявила о новом юридическом наступлении, направленном против китайской группы под названием Outsider Enterprise, которая предположительно несет ответственность за масштабную кампанию мошенничества с использованием ИИ. Google заявляет, что сотрудничает с правоохранительными органами и мобильными операторами для противодействия.
Согласно юридическому иску Google, Outsider Enterprise действует через Telegram. Группа предлагает услуги фишинга как услуги (phishing-as-a-service) лицам, которые могут быть недостаточно технически подкованы для самостоятельной настройки мошеннических веб-сайтов и текстовых кампаний. В своих каналах Telegram Outsider Enterprise, как сообщается, предоставляла инструкции по использованию Gemini от Google для создания веб-сайтов, имитирующих сайты Google, YouTube и государственных учреждений, таких как E-ZPass Нью-Йорка. Группа предлагала около 300 шаблонов мошенничества.
Google заявляет, что мошенничество, организованное Outsider Enterprise, привело к отправке более 2,5 миллионов текстовых сообщений пользователям Android. Около 55 000 этих сообщений были отправлены за двухнедельный период в прошлом месяце. В общей сложности Google отследила 9 000 поддельных веб-сайтов и 1 миллион URL-адресов, связанных с мошеннической сетью.
Текстовые сообщения часто содержали информацию о проблемах с учетной записью или с доставкой посылки. Когда пользователи переходили по ссылкам, они попадали на один из этих мошеннических веб-сайтов, созданных Gemini так, чтобы выглядеть легитимно. Киберпреступники использовали эти сайты для кражи личных данных и банковской информации. В иске Google не приводится оценка суммы денег, украденной в результате мошенничества Outsider Enterprise, но в блоге отмечается, что сотни людей потеряли некоторую сумму денег.
Google сотрудничала с AT&T, Verizon и T-Mobile для блокировки многих из этих вредоносных текстовых сообщений, и Google отмечает, что встроенная в устройства функция обнаружения мошенничества в Google Messages, вероятно, также помогла сократить количество успешных фишинговых атак. Эта функция на базе ИИ, по-видимому, останавливает 10 миллиардов мошеннических текстов каждый месяц, поэтому можно ожидать, что она зафиксировала по крайней мере часть деятельности Outsider Enterprise.
,
Законы против угроз ИИ
Google подавала иски против мошенников и ранее, но это первый случай, когда компания предприняла прямые действия против группы, которая, как утверждается, использует Gemini в рамках своих мошеннических схем. Google обсуждает меры безопасности, которые она встраивает в Gemini при анонсе каждой новой модели, но они могут вступать в противоречие с общей необходимостью чат-ботов следовать инструкциям и угождать пользователям. И в итоге мы получаем тысячи мошенников, использующих Gemini для создания поддельных веб-сайтов.
Помимо гражданского иска, Google оказывает содействие отделу по киберпреступности ФБР в параллельном уголовном расследовании. Однако никто не знает, кто стоит за Outsider Enterprise, и даже если бы у Google были имена, мало что можно сделать, когда преступники находятся в Китае. Компания может преследовать мошеннические домены и учетные записи Telegram в надежде нарушить деятельность Outsider Enterprise, но мошенничество может просто изменить форму.
Google считает, что эпоха ИИ требует новых подходов к правоприменению, поэтому она использует эту возможность, чтобы возобновить публичную поддержку ряда законодательных инициатив. Компания выделила семь различных потенциальных федеральных законов, таких как Закон о национальной стратегии по борьбе с мошенничеством (National Strategy for Combating Scams Act), Закон о стратегической целевой группе по предотвращению мошенничества (Strategic Task Force on Scam Prevention Act) и Закон о плане ИИ (AI Plan Act).
Большинство законов, которые продвигает Google, призывают одно или несколько федеральных правоохранительных органов создать целевые группы для противодействия угрозе мошенничества и манипулирования рынком с помощью ИИ. Один из них (Закон о кампании по повышению осведомленности общественности и обучению в области искусственного интеллекта — Artificial Intelligence Public Awareness and Education Campaign Act) направлен на повышение способности общественности распознавать вредоносное использование ИИ. Однако общеотраслевая цель достижения человекоподобного интеллекта в системах ИИ только усложнит людям обнаружение этого контента, даже при наличии всего благонамеренного государственного законодательства в мире.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ryan Whitwam
