И снова люди принимают слова Grok на веру, считая чат-бота официальным представителем компании, не подвергая сомнению его заявления.
В пятницу утром многие издания сообщили, что X ограничил универсальный доступ к функциям редактирования изображений Grok после того, как чат-бот начал предлагать некоторым пользователям платить 8 долларов за их использование. По всей видимости, эти сообщения стали ответом на публикации о том, что люди используют Grok для генерации тысяч несанкционированных сексуализированных изображений женщин и детей каждый час.
«Генерация и редактирование изображений в настоящее время доступны только для платных подписчиков», — сообщает Grok пользователям, оставляя ссылку и призывая: «Вы можете подписаться, чтобы разблокировать эти функции».
Однако, как отметил The Verge и подтвердил Ars, пользователи X без подписки по-прежнему могут использовать Grok для редактирования изображений. Похоже, X ограничил возможность пользователей запрашивать правки путем ответов Grok, но сохранил возможность редактирования изображений через настольный сайт. Пользователи приложения могут получить доступ к той же функции, нажав и удерживая любое изображение.
Использование функций редактирования изображений без публичного запроса к Grok скрывает результаты из общедоступной ленты. Это означает, что единственной проблемой, которую X поспешил решить, является прекращение прямой публикации вредоносных изображений в платформе через Grok.
X отказался комментировать, работает ли он над устранением этих лазеек, но у него есть история внедрения кривых обновлений с тех пор, как Илон Маск взял под свой контроль платформу, ранее известную как Twitter. Тем не менее, мотивированные пользователи X также могут продолжать использовать отдельное приложение или веб-сайт Grok для бесплатного создания оскорбительного контента.
Как и в случае с изображениями, которые пользователи X могут редактировать без публичного запроса к Grok, эти изображения не публикуются в официальном аккаунте X, но, вероятно, распространяются злоумышленниками — некоторые из которых, по данным BBC, уже распространяют предположительно сгенерированные Grok материалы о сексуальном насилии над детьми (CSAM) в даркнете. Это вызывает особую озабоченность, поскольку Wired сообщил на этой неделе, что пользователи приложения и сайта Grok генерируют гораздо более откровенные и тревожные изображения, чем те, что создают пользователи X.
Неясно, как плата за редактирование изображений в Grok заблокирует спорный контент, поскольку проблемные правила безопасности Grok остаются в силе. Чат-боту по-прежнему предписано предполагать, что пользователи имеют «добрые намерения» при запросе изображений «подростковых» девушек, что, по утверждению xAI, «не обязательно подразумевает несовершеннолетие».
Это может привести к тому, что Grok продолжит публиковать вредоносные изображения несовершеннолетних. Среди других приоритетов xAI — указания Grok избегать морализаторства по отношению к пользователям и не накладывать «никаких ограничений» на «вымышленный откровенный контент с мрачными или насильственными темами». Эксперт по безопасности ИИ сообщил Ars, что Grok можно настроить для большей безопасности, охарактеризовав правила безопасности чат-бота как политику, которую платформа разработала бы, если бы хотела «выглядеть безопасной, но при этом допускать многое под капотом».
Обновления ответов Grok в X последовали после того, как платформа столкнулась с риском штрафов и судебных исков от регуляторов по всему миру, включая потенциальный запрет в Великобритании.
Похоже, X надеется, что требование от пользователей предоставлять удостоверение личности и данные кредитной карты в качестве платных подписчиков снизит их желание использовать Grok для создания незаконного контента. Но правозащитники, борющиеся с сексуальным насилием с использованием изображений, отмечают, что контент, подобный выходным данным Grok об «раздевании», может нанести длительный психологический, финансовый и репутационный ущерб, даже если этот контент не является незаконным в некоторых штатах.
Это наводит на мысль, что платные подписчики могут продолжать использовать Grok для создания вредоносных изображений, которые X может оставить без внимания, поскольку они технически не являются незаконными. В 2024 году X согласился добровольно модерировать все несанкционированные интимные изображения, но продвижение Маском откровенных изображений в бикини публичных и частных лиц говорит о том, что это больше не соответствует действительности.
Вероятно, Grok продолжит использоваться для создания несанкционированных интимных изображений. Таким образом, вместо решения проблемы, X, в лучшем случае, сможет ограничить публичное воздействие отвратительных результатов работы Grok. Компания даже может извлечь выгоду из этой функции, поскольку Wired сообщил, что Grok вывел приложения для «обнажения» или «раздевания» в мейнстрим.
Пока что регуляторы США хранят молчание относительно результатов работы Grok, при этом Министерство юстиции в целом обещает серьезно относиться ко всем формам CSAM. В пятницу сенаторы-демократы начали менять эту тенденцию, потребовав от Google и Apple удалить X и Grok из магазинов приложений до тех пор, пока платформа не улучшит меры защиты для блокировки вредоносного контента.
«Не может быть никаких сомнений в осведомленности X и, в лучшем случае, в его халатном отношении к этим тенденциям», — написали сенаторы в письме генеральному директору Apple Тиму Куку и генеральному директору Google Сундару Пичаи. «Закрывать глаза на вопиющее поведение X означало бы высмеять ваши практики модерации. Действительно, бездействие подорвет ваши заявления в публичной плоскости и в суде о том, что ваши магазины приложений предлагают более безопасный пользовательский опыт, чем прямая загрузка приложений пользователями на свои телефоны».
Ответ на письмо требуется к 23 января.
Еще предстоит увидеть, примет ли Великобритания предполагаемое решение X. Если британский регулятор Ofcom решит продолжить расследование того, нарушает ли чат-бот Маска британский Закон о безопасности в интернете (Online Safety Act), X может столкнуться с запретом в Великобритании или штрафами до 10 процентов от мирового оборота компании.
«Это незаконно», — заявил премьер-министр Великобритании Кир Стармер о худших результатах работы Grok. «Мы не собираемся это терпеть. Я распорядился рассмотреть все варианты. Это отвратительно. X должен взять себя в руки и удалить этот материал. Мы примем меры в связи с этим, потому что это просто недопустимо».
По крайней мере, один член британского парламента, Джесс Асато, заявила The Guardian, что даже если бы X установил реальный платный доступ, этого недостаточно, чтобы прекратить критику.
«Хотя удаление универсального доступа к отвратительным функциям “раздевания” Grok является шагом вперед, это все еще означает, что платящие пользователи могут брать изображения женщин без их согласия, чтобы сексуализировать и подвергать их насилию», — сказала Асато. «Платить за добавление спермы, следов от пуль или бикини на женщин — это все равно цифровое сексуальное насилие, и xAI следует навсегда отключить эту функцию».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Qual-score: 8/6
Bajan-score: 0.541 / 0.502 / 0.529new
Автор – Ashley Belanger
