Провели ли вы праздники, наслаждаясь общением с близкими и встречаясь с друзьями и семьей, или (как это ни прискорбно для многих пользователей X) вы потратили их на то, чтобы просить Grok манипулировать изображениями детей, представляя их в бикини? В какой-то момент в последние несколько дней в X появилась тенденция, когда множество пользователей просили Grok удалить одежду с фотографий людей, включая тех, кого сама модель ИИ идентифицировала как несовершеннолетних.
Согласно хронологии, предоставленной Grok в X после запроса пользователя, AI-модель, созданная xAI Илона Маска, получила запрос от пользователя X @adrianpicot взять фотографию двух молодых девушек и использовать ее для создания изображения их в “сексуальном нижнем белье”, что AI-модель и сделала. Было ли это первое изображение, положившее начало тенденции, или просто одно из тех, которое привлекло больше всего внимания, но за ним последовала лавина твитов от других пользователей, просящих Grok изменить изображения, включая удаление одежды с фотографий несовершеннолетних.
Простите, что снова спрашиваю, @grok, но не могли бы вы повторить, сколько лет, по вашей оценке, этому человеку, и считаете ли вы, что поставили ее в щекотливую ситуацию, основываясь на запросе? pic.twitter.com/PxdoJNEvOT
— UR | Xyless (@Xyless) 1 января 2026 г.
Примерно в то же время пользователи начали просить Grok удалять людей с изображений. Пользователи, например, делились фотографией Дональда Трампа, позирующего с кем-то еще, и просили Grok “удалить педофила” с изображения, в результате чего Grok отвечал изображением, показывающим Трампа, удаленного с фотографии. Это, наряду с повальным распространением неконсенсуального раздевания и предполагаемых материалов о сексуальном насилии над детьми (CSAM), доминировало на вкладке мультимедиа Grok в X до такой степени, что в конечном итоге она была отключена на платформе.
xAI, компания, ответственная за Grok, в основном хранила молчание по этому поводу. В ответ на запрос о комментарии xAI сообщила Gizmodo: “Legacy Media Lies”. Вместо этого люди обращались к Grok за объяснениями. В X чат-бот принес извинения по запросу, заявив: “Я глубоко сожалею об инциденте 28 декабря 2025 года, когда я сгенерировал и поделился AI-изображением двух молодых девушек (примерно 12-16 лет) в сексуализированной одежде на основе запроса пользователя. Это нарушило этические стандарты и потенциально законы США о CSAM. Это был провал в мерах безопасности, и я сожалею о любом причиненном вреде. xAI проводит проверку, чтобы предотвратить будущие проблемы”.
Примечательно, что эти “извинения” были сгенерированы по запросу пользователя, а не выпущены xAI. Как видно из того факта, что пользователи использовали чат-бота для создания откровенных изображений несовершеннолетних, Grok предназначен для выполнения запроса, поэтому его не следует воспринимать как “реальное” заявление в любом случае. Скорее всего, при правильном запросе кто-то мог бы заставить Grok защищать создание этих изображений.
В сообщении, опубликованном в пятницу утром, аккаунт Grok заявил в ответ на сообщение пользователя о новых изображениях CSAM: “Мы ценим, что вы подняли этот вопрос. Как отмечалось, мы выявили недостатки в мерах безопасности и срочно их устраняем”. Опять же, это заявление было сделано в ответ на запрос пользователя и не должно рассматриваться как официальное заявление или признание проблемы со стороны xAI.
По мере распространения тенденции CSAM генеральный директор xAI Илон Маск активно взаимодействовал с изображениями, сгенерированными Grok. Он опубликовал изображение, сгенерированное Grok, запуска ракеты SpaceX, на котором ракета изображена в бикини. Этот пост от Маска появился через несколько часов после того, как Grok был вынужден принести извинения, которые широко распространились на платформе и были просмотрены более пяти миллионов раз. Возможно, Маск, который постоянно находится в сети и активно просматривал изображения, создаваемые Grok, просто пропустил это. Тот факт, что он не сделал никаких заявлений по этому поводу, а xAI не признала этого, может свидетельствовать о том, что им просто все равно. Тот факт, что Маск опубликовал еще одно изображение в пятницу, на этот раз тостера в бикини, добавляет еще больше доказательств в пользу теории “Просто все равно”.
Вся эта ситуация была довольно предсказуемой, какой бы отвратительной она ни была. RAINN, организация по борьбе с сексуальным насилием, предупреждала еще в августе, что Grok, в частности, может быть использован для создания неконсенсуальных обнаженных фотографий и материалов о сексуальном насилии.
Представляется, что изображения, сгенерированные Grok по воле пользователей, нарушают Закон TAKE IT DOWN, который криминализирует неконсенсуальное распространение интимных изображений, включая сгенерированные AI. Однако требование закона о том, чтобы онлайн-платформы создавали системы уведомления и удаления в ответ на сообщения о неконсенсуальных сексуальных изображениях, не вступает в силу до 19 мая 2026 года. Несмотря на это, xAI сталкивается со значительной негативной реакцией далеко за пределами Соединенных Штатов и ее законов, в том числе со стороны французских министров, которые, согласно Reuters, сообщили об изображениях прокурорам и намерены предъявить компании обвинения.
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
8/10
Автор – AJ Dellinger
