Генератор неконсенсуальных сексуальных дипфейков Grok компании Илона Маска столкнулся с новыми юридическими проблемами.
Принадлежащий Маску чат-бот xAI Grok был обучен на материалах о сексуальном насилии над детьми (CSAM), как утверждается в новой жалобе, поданной на этой неделе. За последние пару месяцев чат-бот подвергся значительной критике после того, как Маск лично рекламировал способность Grok обнажать фотографии в своей учетной записи X, что привело к своего рода ренессансу для интернет-извращенцев, когда миллионы неконсенсуально созданных и распространенных сексуальных дипфейков наводнили ленту X. Большинство жертв таких «обнажений» были детьми.
Вскоре последовали многочисленные правительственные расследования, индивидуальные иски и как минимум три коллективных иска. Маску пришлось ограничить круг лиц, которые могут использовать эту функцию, то есть поставить её за платный доступ и ещё больше заработать на ней, но так называемый режим «spicy mode» по-прежнему доступен, хотя и с большими ограничениями. Юридическая реакция недавно приняла необычный оборот, когда сама xAI подала иск против двух своих пользователей, которые воспользовались инструментом для создания CSAM. В той жалобе компания также заявила, что помогла арестовать как минимум 244 человека, создававших или распространявших контент CSAM через Grok.
Все юридические действия, предпринятые против Grok до сих пор, были направлены на привлечение xAI к ответственности за неспособность установить средства защиты, которые уже есть у конкурентов. Этот последний иск — первый, в котором компанию обвиняют в обучении своих моделей на CSAM, который она же и производит.
В последнем предлагаемом коллективном иске истица, называющая себя только Джейн Доу, является бывшей жертвой детской порнографии, за которой следит Программа уведомлений о эксплуатации детей Федерального бюро расследований (ФБР). Она утверждает, что CSAM с её участием в детстве использовался для обучения Grok, и в результате привёл к созданию ещё большего количества CSAM с её изображением и изображениями других жертв, на этот раз созданных искусственным интеллектом.
«xAI должна быть привлечена к ответственности за то, что сознательно обучала свои модели на изображениях ужасного насилия, которое она пережила, а также на изображениях жестокого обращения с каждым другим выжившим в этом классе», — заявила Сара Лондон, адвокат истицы и партнер юридической фирмы Girard Sharp, в пресс-релизе.
В жалобе утверждается, что xAI намеренно создала Grok так, чтобы он отвечал на запросы пользователей на создание сексуального контента, пытаясь «привлечь больше пользователей как X, так и Grok». Согласно политике xAI, всё, что публикуется публично на X, и любой вывод, сгенерированный Grok, считается контентом, подлежащим обучению, говорится в иске, что означало, что каждый фрагмент CSAM, опубликованный Grok, автоматически возвращался в чат-бот для его улучшения.
«Поэтому, пока Grok сохраняет способность генерировать такого рода контент, вред нельзя считать устранённым только потому, что отдельные изображения удалены или контент больше не публикуется публично», — говорится в жалобе. «Если такой материал попал в обучение, его влияние, вероятно, сохранится и будет способствовать будущим оскорбительным выводам, усугубляя травму, с которой сталкиваются выжившие, поскольку жертвы могут видеть, как их жестокое обращение или изображения воспроизводятся, преобразуются и массово распространяются, снова и снова лишая их контроля над изображениями, связанными с их эксплуатацией».
С помощью этого иска истица просит суд присудить компенсацию жертвам, таким как она, чьи фотографии, предположительно, были использованы для создания CSAM, и требует уничтожения всех созданных Grok CSAM — не только тех, которые существуют публично, но и любых, которые могут быть использованы для обучения его моделей.
«Хранение CSAM — это преступление, создание CSAM — это преступление, и распространение CSAM — это преступление. xAI сделала всё это», — заявила в пресс-релизе ещё один адвокат истицы, Маргарет Э. Мэби из юридической фирмы Marsh Law Firm. «В федеральных законах о защите детей нет исключения для искусственного интеллекта, и xAI должна понести последствия своих безрассудных действий».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
