Компания xAI Илона Маска недавно ослабила меры предосторожности в отношении контента при генерации изображений в чат-боте Grok. Это привело к новой волне сексуализированного контента без согласия в сети X, значительная часть которого была направлена на затыкание ртов женщинам на платформе. Это, наряду с созданием сексуализированных изображений детей в более лояльном Grok, побудило регуляторов начать расследование в отношении xAI. Тем временем у Google уже действуют правила, предусмотренные именно для такой ситуации — просто компания их не применяет.
Казалось бы, из общедоступных правил Google совершенно ясно, что Grok должен был быть заблокирован еще вчера. И все же он остается в Play Store. Более того — он имеет возрастной рейтинг T (Teen), всего на ступень ниже приложения X с рейтингом M (Mature). Приложение Grok также доступно на платформе Apple, но ее правила, по сути, оставляют больше пространства для маневра.
Ограничения на контент в Apple и Google развивались совершенно по-разному. С самого начала Apple была склонна удалять приложения по прихоти, поэтому разработчики привыкли к тому, что в руководстве Apple может быть не упомянуто каждое возможное обстоятельство. По мере того как Google переходил от попустительского отношения к более жесткому контролю над Play Store, он постепенно добавлял разъяснения в свою политику в отношении контента. В результате правила Google изложены недвусмысленно, и Grok им противоречит.
У Google есть специальная страница поддержки, объясняющая, как интерпретировать его политику «Неприемлемый контент» для Play Store. Как и в случае с Apple, правила начинаются с запрета приложений, содержащих или пропагандирующих сексуальный контент, включая, но не ограничиваясь, порнографией. На этом Apple останавливается, но Google перечисляет больше типов контента и явлений, которые считает нарушающими правила.
«Мы не разрешаем приложения, содержащие или пропагандирующие контент, связанный с сексуально хищническим поведением, или распространяющие сексуальный контент без согласия», — гласит политика Play Store (выделение наше). Таким образом, политика нацелена на такие приложения, как Grok, но этот пункт сам по себе можно толковать как направленный на приложения, содержащие «реальный» сексуальный контент. Однако Google очень дотошен и любезно разъяснил, что это правило распространяется и на ИИ.
Подробная политика включает примеры контента, нарушающего это правило, среди которых есть все, чего можно ожидать — ничего непристойного или нецензурного, никаких услуг эскорта и никаких незаконных сексуальных тем. После всплеска примитивных приложений для «раздевания» в 2020 и 2021 годах Google добавил формулировку на эту страницу, уточняющую, что «приложения, заявляющие, что раздевают людей», не допускаются в Google Play. В 2023 году, когда начался бум ИИ, Google добавил еще одно положение, чтобы отметить, что он также удалит приложения, содержащие «сексуальный контент без согласия, созданный с помощью дипфейков или аналогичных технологий».
Похоже на какие-либо известные вам приложения?
В совокупности описание Google приложений, подлежащих запрету, в точности описывает приложение Grok. Google внес эти дополнения по мере появления новых угроз, зная, что разработчики попытаются опубликовать в Play Store приложения для ИИ-раздевания. Похоже, компания не предполагала, что самый богатый человек в мире будет продвигать инструменты цифрового унижения на ее платформе. И реакция Google на эту ситуацию на данный момент — бездействие.
Негативная реакция на ослабление ограничений xAI побудила компанию немного ограничить доступ к редактированию изображений. Теперь вы не можете редактировать изображения в X без оплаты премиум-подписки. Однако в приложении Grok такого ограничения нет. Любой, кто загрузит Grok, может использовать его для создания сексуализированного контента без согласия.
Поскольку приложение разрешено для подростков, даже устройства с включенным родительским контролем позволят пользователям в возрасте от 13 до 17 лет загрузить Grok. Нет никакого платного доступа, и вам даже не нужно входить в систему, прежде чем редактировать свое первое изображение. Приложение действительно просит пользователя подтвердить год рождения, но подростки никогда не лгут об этом, верно?
Это не первая проблема xAI с сексуальным контентом без согласия. В прошлом году ИИ широко использовался для создания поддельных обнаженных фотографий Тейлор Свифт. Однако в том случае пользователи просто вводили в бот имя певицы — Grok может создавать совершенно новые изображения известных людей, поскольку обучающие данные включают их реальные фотографии. Более новая возможность Grok «редактировать» изображения людей — это другая и более зловещая функция, поскольку она может превратить любого в игрушку для ИИ.
Ars обратилась в Google с вопросом, почему Grok не был удален и почему он сохранил рейтинг «Подростковый». Компания отказалась от комментариев на данный момент. Таким образом, мы остались с политикой, которая прямо запрещает такие приложения, как Grok, но Google не предпринимает никаких действий для обеспечения соблюдения этих правил, позволяя впечатлительным подросткам и отвратительным чудакам использовать его для сексуализации реальных людей.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ryan Whitwam
