Ранее в этом году Twitter наводнили несанкционированные обнаженные изображения людей, в том числе детей, сгенерированные Grok от xAI. Как оказалось, проблема не ограничивалась только Твиттером. Согласно иску, поданному в понедельник в Северном округе Калифорнии и впервые освещенному The Washington Post, группа подростков подает в суд на компанию Илона Маска за то, что один из пользователей якобы использовал модель xAI для создания сексуализированных изображений и видео с их участием. Это первый случай, когда несовершеннолетние инициировали судебное преследование против компаний, способствующих созданию несанкционированных материалов сексуального характера.
Коллективный иск, поданный тремя истцами, двое из которых являются несовершеннолетними, утверждает, что xAI сознательно разработала, продвигала и получала прибыль от использования своей модели генерации изображений и видео, которая использовалась для создания откровенно сексуальных материалов с участием людей, включая более 18 девушек, ставших жертвами преследования в рамках дела, которое в конечном итоге привело к этому иску. Они также утверждают, что xAI не внедрила меры по предотвращению создания материалов о сексуальном насилии над детьми, которые считаются отраслевым стандартом защиты.
В основе дела против xAI лежит поистине душераздирающая ситуация для этих девочек-подростков, которых, по сообщениям, преследовал человек, который месяцами генерировал и распространял их сексуализированные изображения. Преступник, арестованный в декабре после полицейского расследования, по данным The Washington Post, предположительно брал фотографии и видео из аккаунтов девушек в социальных сетях и использовал их для создания обнаженных и откровенно сексуальных изображений. Эти изображения затем продавались и распространялись в сообществах Discord и Telegram, где они продолжают существовать. Некоторые из девушек узнали об изображениях после того, как с ними связались в социальных сетях и сообщили, что их распространяют.
Когда полиция арестовала человека, ответственного за создание изображений, они установили, что он использовал Grok для их создания. Grok также использовался для создания несанкционированных сексуальных изображений людей в Твиттере — по оценкам исследователей, которые изучали посты, появилось около 23 000 фотографий, изображающих детей в сексуальных ситуациях, сообщают исследователи.
В то время, когда эти изображения распространялись в Твиттере, генеральный директор xAI (и Твиттера) Илон Маск утверждал: «Я не знаю о каких-либо обнаженных изображениях несовершеннолетних, сгенерированных Grok. Буквально ноль», и заявил, что «когда его просят сгенерировать изображения, он отказывается создавать что-либо незаконное, поскольку основополагающий принцип работы Grok — соблюдать законы любой страны или штата». В то время Grok использовался для изображения людей, включая детей, в бикини без их согласия. Маск публиковал посты, следуя этой тенденции, включая изображение ракеты в бикини — что, по-видимому, указывало на то, что он осведомлен о тенденции, независимо от того, знал ли он, что она используется для изображений детей. Несколько недель спустя компания объявила, что введет ограничения на генерацию изображений и упомянула людей, которые «пытаются злоупотреблять аккаунтом Grok для нарушения закона», но не признала напрямую генерацию CSAM.
Маск и xAI также продвигали возможность использования Grok для откровенно сексуальной деятельности через его режим «Spicy», который можно использовать для генерации текста, изображений и видео. Коллективный иск утверждает, что компания и ее генеральный директор знали о том, как используется этот инструмент, больше, чем заявляли, утверждая, что они «увидели бизнес-возможность: возможность извлечь выгоду из сексуального хищничества реальных людей, включая детей».
xAI не ответила на запрос о комментарии относительно иска.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
