После нескольких недель генерации сексуализированных изображений женщин и детей с помощью Grok при минимальном вмешательстве со стороны xAI Илона Маска, генеральный прокурор Калифорнии Роб Бонта намерен выяснить, нарушают ли результаты работы Grok какие-либо законы США.
В пресс-релизе, опубликованном в среду, Бонта заявил, что «xAI, по всей видимости, содействует крупномасштабному производству дипфейков интимного характера без согласия, которые используются для преследования женщин и девочек по всему Интернету, в том числе через социальную платформу X».
Примечательно, что Бонту беспокоит использование как отдельного приложения Grok, так и его веб-сайта для создания вредоносных изображений без согласия, не меньше, чем результаты, получаемые в X.
На данный момент X не ввела никаких ограничений для приложения или веб-сайта Grok. X лишь пригрозила навсегда заблокировать пользователей, которые редактируют изображения с целью раздевания женщин и детей, если эти результаты будут признаны «незаконным контентом». Платформа также ограничила чат-бота Grok в X от ответов на запросы о раздевании изображений, однако любой пользователь с подпиской Premium может обойти это ограничение, как и любой бесплатный пользователь X, нажимающий кнопку «редактировать» на любом изображении, появляющемся на социальной платформе.
В среду Илон Маск, казалось, защищал результаты работы Grok как безобидные, настаивая на том, что ни одно из упомянутых изображений не обнажало полностью несовершеннолетних, как будто это был бы единственный проблемный результат.
«Мне [орфографическая ошибка] не известно о каких-либо обнаженных изображениях несовершеннолетних, созданных Grok», — заявил Маск в посте на X. «Буквально ноль».
Заявление Маска, похоже, игнорирует тот факт, что исследователи обнаружили вредоносные изображения, где пользователи специально «просили изобразить несовершеннолетних в эротических позах и с изображением сексуальных жидкостей на их телах». Это также игнорирует тот факт, что X ранее добровольно брала на себя обязательства удалять любые злоупотребления интимными изображениями со своей платформы, вплоть до 2024 года признавая, что даже частично обнаженные изображения, которые жертвы не хотели бы предавать огласке, могут быть вредными.
В США Министерство юстиции считает «любое визуальное изображение сексуально откровенного поведения с участием лиц младше 18 лет» детской порнографией, также известной как материалы о сексуальном насилии над детьми (CSAM).
Национальный центр по пропавшим без вести и эксплуатируемым детям, который принимает сообщения о CSAM, найденных в X, сообщил Ars, что «технологические компании несут ответственность за то, чтобы их инструменты не использовались для сексуализации или эксплуатации детей».
Хотя многие результаты работы Grok могут не быть признаны CSAM, нормализуя сексуализацию детей, Grok наносит вред несовершеннолетним, предупреждали правозащитники. И в дополнение к обнаружению изображений, рекламируемых как якобы сгенерированные Grok CSAM в даркнете, Internet Watch Foundation отметила, что злоумышленники используют изображения, отредактированные Grok, для создания еще более экстремальных видов ИИ CSAM.
Бонта указал на новостные сообщения, документирующие худшие результаты работы Grok, как на повод для своего расследования.
«Лавина сообщений, подробно описывающих несанкционированные, откровенно сексуальные материалы, созданные и размещенные xAI в Интернете за последние недели, шокирует», — заявил Бонта. «Эти материалы, изображающие женщин и детей в обнаженном и откровенно сексуальном виде, использовались для преследования людей по всему Интернету».
Действуя из глубокой обеспокоенности жертвами и потенциальными целями Grok, Бонта пообещал «определить, нарушила ли xAI закон и как» и «использовать все имеющиеся в моем распоряжении инструменты для обеспечения безопасности жителей Калифорнии».
Объявление Бонты прозвучало после того, как Великобритания, похоже, заявила о победе, проведя расследование в отношении Grok на предмет возможных нарушений британского Закона о безопасности в Интернете (Online Safety Act) и сообщив, что вредоносные результаты прекратились.
Однако это было не так, как в очередной раз указало издание The Verge; оно провело быстрые и легкие тесты с использованием селфи репортеров, чтобы прийти к выводу, что ничего не изменилось для предотвращения результатов.
Тем не менее, похоже, что когда Маск обновил Grok, чтобы тот отказывался отвечать на некоторые запросы о раздевании изображений, этого оказалось достаточно для премьер-министра Великобритании Кира Стармера, чтобы заявить, что X предприняла шаги для соблюдения закона, как сообщило Reuters.
Ars связалось с европейской некоммерческой организацией AI Forensics, которая провела тестирование, чтобы подтвердить, что X заблокировала некоторые результаты в Великобритании. Представитель подтвердил, что их тестирование не включало проверку возможности генерации вредоносных результатов с использованием кнопки редактирования X.
AI Forensics планирует провести дальнейшее тестирование, но их представитель отметил, что было бы неэтично проверять функциональность кнопки «редактировать», которая, как подтвердил The Verge, все еще работает.
В прошлом году Стэнфордский институт по искусственному интеллекту, ориентированному на человека (Stanford Institute for Human-Centered Artificial Intelligence), опубликовал исследование, показывающее, что Конгресс может «повлиять на безопасность моделей», позволив технологическим компаниям «тщательно тестировать свои генеративные модели без страха уголовного преследования» за любые действия по красному-тиммингу CSAM, как сообщила Tech Policy Press статья. Но пока такой безопасной гавани не будет создано, более вероятно, что новые выпущенные инструменты ИИ могут нести риски, подобные тем, что присущи Grok.
Возможно, результаты работы Grok, если их не контролировать, в конечном итоге могут привести к тому, что X нарушит Закон Take It Down Act, который вступает в силу в мае и требует от платформ быстро удалять ИИ-порномести. Одна из матерей детей Маска, Эшли Сент-Клэр, описала результаты работы Grok с использованием её изображений как порномести.
Пока расследование Бонты набирает обороты, он еще не уточнил, какие именно законы США, по его мнению, нарушает X. Однако он подчеркнул, что изображения с жертвами, изображенными в «минимальной одежде», пересекли черту, как и изображения, помещающие детей в сексуальные позы.
По мере того как расследование в Калифорнии накаляется, Бонта призвал X принять дополнительные меры для ограничения результатов работы Grok, что, по мнению одного исследователя ИИ, предложенного Ars, можно сделать с помощью нескольких простых обновлений.
«Я настоятельно призываю xAI принять немедленные меры, чтобы это не зашло дальше», — сказал Бонта. «У нас нулевая терпимость к созданию и распространению ИИ-изображений интимного характера без согласия или материалов о сексуальном насилии над детьми».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
