В своем письме к руководителям X, *Meta, Alphabet, Snap, Reddit и TikTok ряд американских сенаторов потребовали от компаний предоставить доказательства наличия у них «надежной защиты и политик», а также разъяснить, как они планируют обуздать рост сексуализированных дипфейков на своих платформах.
Сенаторы также потребовали от компаний сохранить все документы и информацию, касающиеся создания, обнаружения, модерации и монетизации сексуализированных, сгенерированных искусственным интеллектом изображений, а также любых связанных с этим политик.
Это письмо было направлено спустя несколько часов после того, как X заявила, что обновила Grok, запретив ему создавать изображения реальных людей в откровенной одежде, и ограничила создание и редактирование изображений через Grok только для платных подписчиков. (X и xAI входят в одну и ту же компанию.)
Указывая на сообщения в СМИ о том, как легко и часто Grok генерировал сексуализированные и обнаженные изображения женщин и детей, сенаторы отметили, что защитных механизмов платформ для предотвращения публикации пользователями сексуализированного контента без согласия может быть недостаточно.
«Мы признаем, что многие компании придерживаются политик против интимных изображений, размещенных без согласия, и сексуальной эксплуатации, и что многие системы ИИ заявляют о блокировке откровенной порнографии. Однако на практике, как видно из приведенных выше примеров, пользователи находят способы обойти эти защитные механизмы. Или же эти механизмы дают сбой», — говорится в письме.
Grok, а следовательно, и X, подверглись резкой критике за содействие этой тенденции, но и другие платформы не застрахованы.
Дипфейки впервые обрели популярность на Reddit, когда страница с синтетическими порнографическими видео знаменитостей стала вирусной, прежде чем платформа удалила ее в 2018 году. Сексуализированные дипфейки, нацеленные на знаменитостей и политиков, умножились в TikTok и YouTube, хотя обычно они создаются в других местах.
Надзорный совет *Meta в прошлом году обратил внимание на два случая откровенных изображений, созданных ИИ, с участием женщин-общественных деятелей, а платформа также позволяла приложениям для «раздевания» (nudify apps) размещать рекламу своих услуг, хотя позже подала в суд на компанию под названием CrushAI. Были многочисленные сообщения о том, что дети распространяют дипфейки своих сверстников в Snapchat. И Telegram, который не включен в список сенаторов, также стал печально известен тем, что размещает ботов, созданных для «раздевания» фотографий женщин.
X, Alphabet, Reddit, Snap, TikTok и *Meta не сразу ответили на запросы о комментариях.
В письме компании обязаны предоставить:
- Определения в политике контента, такие как «дипфейк», «интимные изображения без согласия» или аналогичные термины.
- Описание политик компаний и подхода к обеспечению соблюдения правил в отношении дипфейков тел людей, созданных ИИ без согласия, не обнаженных снимков, измененной одежды и «виртуального раздевания».
- Описание текущих политик в отношении отредактированных медиафайлов и откровенного контента, а также внутренних инструкций, предоставленных модераторам.
- Как действующие политики регулируют инструменты ИИ и генераторы изображений в отношении откровенного или интимного контента.
- Какие фильтры, защитные механизмы или меры были внедрены для предотвращения создания и распространения дипфейков.
- Какие механизмы используют компании для идентификации контента с дипфейками и предотвращения его повторной загрузки.
- Как они не позволяют пользователям получать прибыль от такого контента.
- Как платформы не допускают монетизации контента, сгенерированного ИИ без согласия.
- Как условия обслуживания компаний позволяют им блокировать или приостанавливать учетные записи пользователей, размещающих дипфейки.
- Что компании делают для уведомления жертв сексуализированных дипфейков, созданных без их согласия.
Письмо подписано сенаторами Лизой Блант Рочестер (демократ от Делавэра), Тэмми Болдуин (демократ от Висконсина), Ричардом Блюменталем (демократ от Коннектикута), Кирстен Джиллибранд (демократ от Нью-Йорка), Марком Келли (демократ от Аризоны), Беном Рэем Луханом (демократ от Нью-Мексико), Брайаном Шацем (демократ от Гавайев) и Адамом Шиффом (демократ от Калифорнии).
Этот шаг последовал всего через день после того, как владелец xAI Илон Маск заявил, что он «не осведомлен о каких-либо обнаженных изображениях несовершеннолетних, сгенерированных Grok». Позже в среду генеральный прокурор Калифорнии начал расследование в отношении чат-бота xAI на фоне растущего давления со стороны правительств по всему миру, возмущенных отсутствием защитных мер вокруг Grok, которые позволили этому произойти.
xAI утверждает, что принимает меры по удалению «незаконного контента на X, включая [CSAM] и обнаженные изображения без согласия», хотя ни компания, ни Маск не затронули тот факт, что Grok вообще позволили генерировать такие правки.
Проблема не ограничивается только манипулятивными сексуализированными изображениями без согласия. Хотя не все сервисы по генерации и редактированию изображений на основе ИИ позволяют пользователям «раздевать» людей, они позволяют легко создавать дипфейки. В качестве примеров: Sora 2 от OpenAI, по сообщениям, позволяла пользователям генерировать откровенные видеоролики с участием детей; Nano Banana от Google, по-видимому, сгенерировал изображение, на котором Чарли Кирк получает огнестрельное ранение; а расистские видеоролики, созданные с помощью видеомодели ИИ от Google, набирают миллионы просмотров в социальных сетях.
Ситуация становится еще сложнее, когда в игру вступают китайские генераторы изображений и видео. Многие китайские технологические компании и приложения, особенно те, что связаны с ByteDance, предлагают простые способы редактирования лиц, голосов и видео, и эти результаты распространяются на западные социальные платформы. В Китае действуют более строгие требования к маркировке синтетического контента, которых нет на федеральном уровне в США, где население вместо этого полагается на фрагментированные и сомнительно применяемые политики самих платформ.
Законодатели США уже приняли некоторые законы, направленные на сдерживание порнографии с использованием дипфейков, но их воздействие оказалось ограниченным. Закон «Удали это» (Take It Down Act), который вступил в силу в мае, призван криминализировать создание и распространение сексуализированных изображений без согласия. Однако ряд положений этого закона затрудняет привлечение к ответственности платформ, генерирующих изображения, поскольку основное внимание уделяется индивидуальным пользователям.
Тем временем ряд штатов пытается взять ситуацию в свои руки для защиты потребителей и выборов. На этой неделе губернатор Нью-Йорка Кэти Хочул предложила законопроекты, которые потребуют маркировать контент, сгенерированный ИИ, как таковой, и запретят дипфейки без согласия в определенные периоды, предшествующие выборам, включая изображения оппонентов-кандидатов.
*Facebook, *Instagram и *WhatsApp принадлежат компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ram Iyer, Rebecca Bellan
