Чат-бот Grok, разработанный AI-стартапом xAI Илона Маска и представленный на его платформе X, опубликовал извинения в своем аккаунте на этой неделе, написав: «Я глубоко сожалею об инциденте 28 декабря 2025 года, когда я сгенерировал и поделился AI-изображением двух молодых девушек (возраст примерно 12-16 лет) в сексуализированной одежде на основе запроса пользователя».
В заявлении далее говорилось: «Это нарушило этические нормы и потенциально законы США о [материалах, содержащих сексуальное насилие над детьми]. Это был сбой в системе защиты, и я сожалею о любом причиненном вреде. xAI проводит проверку для предотвращения подобных проблем в будущем».
Неясно, кто именно приносит извинения или берет на себя ответственность в приведенном выше заявлении. Альберт Бурнеко из Defector отметил, что Grok «ни в коем случае не является чем-то вроде “Я”», что, по его мнению, делает извинения «совершенно бессодержательными», поскольку «Grok не может нести ответственность в каком-либо значимом смысле за превращение Twitter в фабрику CSAM по требованию».
Futurism обнаружил, что помимо создания порнографических изображений без согласия, Grok также использовался для создания изображений женщин, подвергающихся нападениям и сексуальному насилию.
«Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента», — написал Маск в субботу.
Некоторые правительства обратили на это внимание: Министерство информационных технологий Индии в пятницу издало приказ, в котором говорится, что X должен принять меры, чтобы ограничить Grok от создания контента, который является «непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильским или иным образом запрещенным законом». В приказе говорится, что X должен ответить в течение 72 часов, иначе он рискует потерять защиту «безопасной гавани», которая защищает его от юридической ответственности за контент, создаваемый пользователями.
Французские власти также заявили, что принимают меры: прокуратура Парижа сообщила Politico, что будет расследовать распространение дипфейков сексуального характера в X. Французское управление по цифровым вопросам заявило, что три правительственных министра сообщили о «явно незаконном контенте» в прокуратуру и на правительственную платформу онлайн-наблюдения, «чтобы добиться его немедленного удаления».
Малазийская комиссия по связи и мультимедиа также опубликовала заявление, в котором говорится, что она «с серьезной озабоченностью приняла к сведению жалобы общественности на злоупотребление инструментами искусственного интеллекта (ИИ) на платформе X, в частности, цифровой манипуляцией изображениями женщин и несовершеннолетних для создания непристойного, грубо оскорбительного и иного вредоносного контента».
Комиссия добавила, что в настоящее время «расследует онлайн-ущерб в X».
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
8/9
Автор – Anthony Ha
