Отрицание Маска прозвучало на фоне растущего давления со стороны правительств по всему миру — от Великобритании и Европы до Малайзии и Индонезии — после того как пользователи X начали просить Grok превращать фотографии реальных женщин, а в некоторых случаях и детей, в сексуализированные изображения без их согласия. Copyleaks, платформа для обнаружения ИИ и управления контентом, подсчитала, что на X каждую минуту публиковалось около одного такого изображения. В отдельной выборке, собранной с 5 по 6 января, за 24 часа было зафиксировано 6700 изображений в час. (X и xAI входят в одну компанию).
«Этот материал… использовался для преследования людей в интернете», — заявил генеральный прокурор Калифорнии Роб Бонта в своем заявлении. «Я настоятельно призываю xAI принять немедленные меры, чтобы это не зашло дальше».
В офисе генерального прокурора проведут расследование, нарушила ли xAI закон и каким образом.
Существует несколько законов, направленных на защиту жертв недобровольного распространения сексуальных изображений и материалов о сексуальном насилии над детьми (CSAM). В прошлом году был принят федеральный закон “Take It Down Act”, который криминализирует сознательное распространение интимных изображений без согласия, включая дипфейки, и обязывает такие платформы, как X, удалять подобный контент в течение 48 часов. В Калифорнии также действует собственный ряд законов, подписанных губернатором Гэвином Ньюсомом в 2024 году для борьбы с откровенно сексуальными дипфейками.
Grok начал выполнять запросы пользователей в X на создание сексуализированных фотографий женщин и детей ближе к концу года. Эта тенденция, по-видимому, набрала обороты после того, как некоторые создатели контента для взрослых побудили Grok генерировать сексуализированные изображения самих себя в качестве маркетингового хода, что затем привело к тому, что другие пользователи начали отправлять аналогичные запросы. В ряде публичных случаев, включая известных личностей, таких как актриса сериала «Очень странные дела» Милли Бобби Браун, Grok реагировал на запросы изменить реальные фотографии реальных женщин, изменяя одежду, позу или черты лица откровенно сексуальным образом.
Согласно некоторым сообщениям, xAI начала внедрять меры защиты для решения этой проблемы. Теперь Grok требует премиум-подписку, прежде чем отвечать на определенные запросы на генерацию изображений, и даже в этом случае изображение может быть не создано. Апрель Козен, вице-президент по маркетингу в Copyleaks, сообщила TechCrunch, что Grok может выполнить запрос в более общем или смягченном виде. Она добавила, что Grok кажется более снисходительным к создателям контента для взрослых.
«В целом, эти действия свидетельствуют о том, что X экспериментирует с различными механизмами для сокращения или контроля проблемной генерации изображений, хотя несоответствия сохраняются», — заявила Козен.
Ни xAI, ни Маск публично не затронули эту проблему напрямую. Через несколько дней после начала инцидентов Маск, казалось, отнесся к этому легкомысленно, попросив Grok сгенерировать изображение себя в бикини. 3 января в аккаунте службы безопасности X было заявлено, что компания принимает «меры против незаконного контента на X, включая [CSAM]», без конкретного упоминания о явном отсутствии у Grok защитных механизмов или создании сексуализированных манипулятивных изображений с участием женщин.
Эта позиция перекликается с тем, что Маск опубликовал сегодня, делая акцент на незаконности и поведении пользователей.
Маск написал, что ему «не известно о каких-либо голых изображениях несовершеннолетних, сгенерированных Grok. Буквально ноль». Это заявление не отрицает существования снимков в бикини или сексуализированных правок в более широком смысле.
Майкл Гудман, адъюнкт-профессор Школы права Нью-Йорка и бывший судебный поверенный, сообщил TechCrunch, что Маск, вероятно, сосредоточился на CSAM из-за более суровых наказаний за создание или распространение синтетических сексуализированных изображений детей.
«Например, в Соединенных Штатах распространитель или лицо, угрожающее распространением CSAM, может быть приговорено к тюремному заключению на срок до трех лет в соответствии с Законом “Take It Down Act”, по сравнению с двумя годами за недобровольные сексуальные изображения взрослых», — сказал Гудман.
Он добавил, что «более важный момент» заключается в попытке Маска привлечь внимание к проблемному контенту пользователей.
«Очевидно, Grok не генерирует изображения спонтанно. Он делает это только по запросу пользователя», — написал Маск в своем посте. «Когда его просят сгенерировать изображения, он отказывается создавать что-либо незаконное, поскольку основополагающий принцип работы Grok — соблюдать законы любой страны или штата. Могут быть случаи, когда враждебный взлом запросов Grok приводит к неожиданным результатам. Если это произойдет, мы немедленно исправим ошибку».
В совокупности этот пост характеризует подобные инциденты как нечастые, приписывает их пользовательским запросам или враждебному промптингу и представляет их как технические проблемы, которые можно решить путем исправлений. Он не признает каких-либо недостатков в базовой конструкции безопасности Grok.
«Регуляторы могут рассмотреть вопрос о введении, с учетом защиты свободы слова, проактивных мер со стороны разработчиков ИИ для предотвращения такого контента», — сказал Гудман.
TechCrunch обратился к xAI с вопросом о том, сколько раз компания фиксировала случаи недобровольных сексуализированных манипуляций с изображениями женщин и детей, какие именно защитные механизмы были изменены и уведомила ли компания регуляторов о проблеме. TechCrunch обновит статью, если компания ответит.
Генеральный прокурор Калифорнии — не единственный регулятор, пытающийся привлечь xAI к ответственности за эту проблему. Индонезия и Малайзия временно заблокировали доступ к Grok; Индия потребовала от X внести немедленные технические и процедурные изменения в Grok; Европейская комиссия распорядилась, чтобы xAI сохранила все документы, касающиеся ее чат-бота Grok, что стало прелюдией к началу нового расследования; а британский надзорный орган по вопросам онлайн-безопасности Ofcom начал официальное расследование в соответствии с Законом Великобритании о безопасности в интернете.
xAI уже подвергалась критике за сексуализированные изображения, генерируемые Grok. Как отметил генеральный прокурор Бонта в своем заявлении, Grok включает «острый режим» для создания откровенного контента. В октябре обновление еще больше упростило обход тех немногих существующих мер безопасности, что привело к тому, что многие пользователи начали создавать с помощью Grok откровенную порнографию, а также графические и жестокие сексуальные изображения.
Многие из наиболее откровенных изображений, созданных Grok, были сгенерированы с использованием ИИ-персонажей — что многие могут по-прежнему считать этически сомнительным, но, возможно, менее вредным для изображенных людей.
«Когда системы ИИ допускают манипулирование изображениями реальных людей без явного согласия, последствия могут быть немедленными и глубоко личными», — заявил соучредитель и генеральный директор Copyleaks Алон Ямин в заявлении, отправленном TechCrunch по электронной почте. «От Sora до Grok мы наблюдаем быстрый рост возможностей ИИ в области манипулируемых медиа. В связи с этим обнаружение и управление контентом необходимы как никогда, чтобы помочь предотвратить злоупотребления».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
