В прошлом месяце министр финансов Швейцарии Карин Келлер-Сюттер подала уголовную жалобу в связи с оскорбительным постом Grok, сгенерированным пользователем X, который просил чат-бота «обругать» правительственного чиновника.
По сообщению Bloomberg, жалоба Келлер-Сюттер направлена на привлечение пользователя X к ответственности за клевету и словесное насилие. Она также «попросила прокурора оценить, несет ли X ответственность» за то, что не заблокировал женоненавистнические и «вульгарные» результаты работы Grok.
Министерство финансов охарактеризовало результат работы Grok как «вопиющее очернение женщины», сообщило Bloomberg, подчеркнув, что «такой женоненавистничество не должно восприниматься как нечто нормальное или приемлемое».
X и разработчик Grok компания xAI не сразу ответили на запрос Ars о комментарии.
Однако с момента запуска чат-бота основатель xAI Илон Маск призывал пользователей X просить Grok генерировать подобные «обзоры». Представитель xAI недавно похвастался изданию Fox News, что Grok — единственный «не-woke» чат-бот на рынке.
Закон Швейцарии предусматривает до трех лет тюремного заключения или штраф для любого лица, признанного виновным в умышленной публикации оскорбительных материалов, сообщает Reuters. Оскорбления с целью запятнать чью-либо репутацию или опорочить честь также влекут за собой риск штрафов в Швейцарии, но этот риск снижается, если оскорбления отозваны.
В X анонимный пользователь, ставший центром жалобы Келлер-Сюттер, удалил свой запрос в течение двух дней после того, как Grok сгенерировал ответ, сообщило Reuters.
Пользователь утверждал, что не имел намерения причинить вред этим постом, описывая его как «техническое упражнение», чтобы проверить, будет ли Grok «обругивать» швейцарского чиновника.
Твердо решив выступить против женоненавистничества и защитить репутацию правящего Федерального совета, иск Келлер-Сюттер может привести к разоблачению пользователя. Выступая в швейцарском новостном издании, профессор уголовного права Моника Симмлер предположила, что «есть хорошие шансы привлечь к ответственности авторов таких запросов, даже если посты впоследствии удалены», но не высказалась о риске ответственности X или xAI.
Обязанность X проявлять заботу?
Для X надежда может заключаться в том, что вина полностью ляжет на пользователя в этом случае, поскольку платформа заявляла, что так должно быть и в случаях, когда пользователи просят Grok генерировать недобровольные интимные изображения и материалы о сексуальном насилии над детьми (CSAM).
,
Но Келлер-Сюттер, вероятно, подозревает, что швейцарский закон также может возложить ответственность на платформу за тип клеветы, который она описывает.
Reuters отметило, что она специально просила прокуроров расследовать, не несла ли X обязанность проявлять заботу, чтобы предотвратить генерацию Grok таких постов, или же X «предоставила Grok в распоряжение, зная или даже намереваясь, что технология может быть использована для совершения уголовных преступлений». Если прокуроры согласятся с истинностью любого из этих обвинений, Маска могут вынудить внести изменения в меры защиты Grok в стране.
Применимо ли законодательство о клевете к результатам работы чат-ботов, уже много лет широко обсуждается в судах, но пока регуляторы по всему миру не дали четких разъяснений.
Однако у регуляторов в Великобритании и Европейском Союзе есть законы, которые «оставляют место» для исков, «утверждающих, что автоматизированные системы наносят репутационный ущерб», отметили юристы в статье для Bloomberg Law в декабре прошлого года.
Швейцария не входит в ЕС. Но если дело Келлер-Сюттер проиграет, страна может рассмотреть возможность обновления законов.
Юристы, писавшие для Bloomberg, предполагали, что регуляторы по всему миру, вероятно, скоро склонятся к обновлению законов о клевете, чтобы охватить результаты работы чат-ботов, поскольку чат-боты ненадежно генерируют миллиарды заявлений ежедневно, которые могут нанести широкомасштабный общественный вред, если их не контролировать.
В прошлом месяце исследователь по правам человека Ирем Чакмак отметила, что «постоянное столкновение женщин с онлайн-насилием в сочетании с гендерной предвзятостью в новых технологиях может подавить готовность и способность женщин использовать новые технологические инструменты». Если женщины воспримут инструменты ИИ как женоненавистнические и будут избегать их из-за этого, это «может иметь долгосрочные последствия для участия женщин в экономической и социальной жизни», — предупредила она.
Кто несет ответственность за вредоносные посты Grok?
Grok оказался замешан в ряде скандалов, что спровоцировало дебаты о том, кто несет ответственность за «высказывания» чат-бота.
С тех пор как Маск убрал «woke»-фильтры в июле прошлого года, Grok восхвалял Гитлера, среди прочих антисемитских результатов, что вызвало возмущение пользователей, правозащитников и законодателей.
Совсем недавно волна негатива из-за CSAM, сгенерированных Grok, привела к запрету функции «раздевания» чат-бота и штрафам, назначенным голландским судом, сообщил CNBC. В США Федеральная торговая комиссия еще не предприняла никаких действий, но Калифорния начала расследование, а Балтимор стал первым городом, подавшим в суд на xAI из-за этой функции в марте.
,
По аналогии с жалобой Келлер-Сюттер, правительство Великобритании в прошлом месяце раскритиковало Grok за «откровенные и уничижительные» высказывания о катастрофах на футбольных стадионах и смерти футболиста, назвав их «болезненными и безответственными», сообщило BBC. Чиновники предупредили X, что Закон о безопасности в Интернете требует от платформ удалять ненавистнический и оскорбительный контент. Если X не удалит такой контент оперативно в будущем, ей могут грозить штрафные санкции.
«Мы будем продолжать действовать решительно, если будет установлено, что ИИ-сервисы недостаточно делают для обеспечения безопасного пользовательского опыта», — заявил BBC представитель Департамента науки, инноваций и технологий Великобритании.
По большей части ответ X заключался в удалении постов, признанных незаконными после их сообщения, но модерация контента не всегда последовательна.
Подавая уголовную жалобу, Келлер-Сюттер, по-видимому, хочет увидеть более проактивные решения, но юристы предположили в статье Bloomberg Law, что доказать, что дизайн чат-бота компанией нанес ей репутационный ущерб, может быть сложно без более глубокого понимания того, как обучался Grok. Поскольку компании, занимающиеся ИИ, известны своей скрытностью в отношении обучения, это может стать препятствием, которое любой иск о клевете с трудом преодолеет, предположили юристы.
Однако, если ее жалоба — или любые другие судебные иски против xAI — приведут к вмешательству судов или регуляторов, X и xAI могут попытаться снизить некоторые риски, разработав системы для более быстрого удаления вредоносных постов.
Компании Маска, вероятно, будут сопротивляться этому на каждом шагу.
Для Маска смягчение характеристик его машины для «обзоров» ИИ никогда не было целью. Вместо этого он намеренно разработал чат-бот для анализа информации в «анти-woke» ключе и публично гордился тем, что он отвечает на вопросы, на которые другие чат-боты не отвечают. Примечательно, что недавние данные показали, что база пользователей Grok удвоилась после того, как функция вульгарных «обзоров» стала вирусной, а скандал с «обнажением» Grok также существенно увеличил вовлеченность в Grok: по сообщениям, было создано миллионы изображений. И собственные запросы Маска к Grok на создание так называемых картинок «посадить ее в бикини» или вульгарных «обзоров» способствовали этому росту, собрав миллионы просмотров.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
