Компанию xAI обвинили в обучении Grok на материалах о сексуальном насилии над детьми (CSAM), в то время как регуляторы и суды продолжают расследовать масштабы проблемы, а некоторые пользователи Grok были арестованы.
В жалобе, поданной в среду, истица, известная как Джейн Доу, объяснила, что в начале 2000-х годов, когда она была дошкольницей, взрослые мужчины неоднократно насиловали её, чтобы создать CSAM для продажи педофилам в интернете. С тех пор изображения Доу были захэшированы такими организациями, как Национальный центр по проблемам пропавших и эксплуатируемых детей (NCMEC) и Канадский центр защиты детей (CCCP).
Ради своей безопасности Доу решила получать уведомления от Системы оповещения потерпевших Министерства юстиции США каждый раз, когда она может оказаться жертвой в новом уголовном расследовании. Хотя она получила бесчисленное количество оповещений, она была шокирована, когда CCCP уведомил её о том, что выявил созданный ИИ CSAM на платформе xAI с её изображением. Это повторно травмировало Доу, чья жалоба утверждает, что на онлайн-форумах были найдены сообщения «между преступниками, обсуждающими создание сгенерированного ИИ CSAM с изображением Истицы и других известных жертв CSAM, переживших насилие в прошлом».
Теперь Доу опасается, что xAI не только упростила создание новых нарушающих закон изображений самого ужасного периода её жизни, но и, предположительно, хранит изображения, которые генерирует Grok, и использует эти результаты для дальнейшего обучения Grok. Из-за этого она считает, что Grok был обучен как на первоначальном наборе изображений, которые преследуют её более 20 лет, так и на более поздних, созданных ИИ.
Это первый случай, когда xAI обвиняют в обучении на CSAM, и жалоба не вдаётся в подробности этого утверждения. Ранее Ars сообщала о спорном наборе данных, который позднее был очищен после того, как исследователи обнаружили в обучающих данных CSAM, однако нет никаких указаний на то, что xAI обучалась на этих данных. В пресс-релизе адвокатов, представляющих Доу, объясняется, что изображения Доу были включены в список хэшей CSAM, поддерживаемый NCMEC, и «тот же самый материал» предположительно «был частью набора данных, который xAI использовала для создания возможностей Grok по генерации изображений и видео». В жалобе также лишь утверждается, что «CSAM с изображением Истицы с его давно известными хэш-значениями использовался как часть набора данных, применяемого xAI».
Однако больше подробностей приводится в утверждениях о том, что Grok обучается на AI CSAM.
«Поскольку условия Grok по умолчанию рассматривают публичные посты X и собственные выходные данные Grok как обучающие данные, публикация изображения не просто делает его доступным для просмотра, но и напрямую передаёт его в конвейер, который xAI использует для обучения и улучшения своей модели и, таким образом, для генерации дальнейших изображений», — говорится в жалобе Доу.
В иске также отмечается, что, хотя xAI отфильтровывает жестокий контент из выходных данных Grok, чтобы исключить его из обучающих данных, в условиях xAI прямо не указано, являются ли CSAM, изображения интимного характера без согласия (NCII) или материалы NSFW «исключёнными категориями».
«Поскольку полное удаление влияния обучающего примера из уже обученной модели технически сложно и не является чем-то, что xAI публично заявляла о выполнении, любой CSAM, поглощённый в процессе обучения до удаления, вероятно, продолжал влиять на выходные данные модели даже после того, как исходные изображения были удалены из публичного доступа», — говорится в жалобе Доу.
Уничтожить весь Grok CSAM, требует Доу
В своём предлагаемом коллективном иске Доу стремится положить конец вредоносным выходным данным Grok. В случае одобрения класс будет представлять всех жертв, чьи детские изображения были использованы для генерации Grok CSAM.
Иск обвиняет X в нарушении федеральных законов о детской порнографии, а также Закона Маши, оба из которых дают пережившим CSAM право подавать в суд по обвинениям в производстве, хранении и распространении. Адвокат Доу, Маргарет Э. Мэйби, предположила в пресс-релизе, что все три являются преступлениями, и «xAI совершила все три».
Если Доу выиграет дело, xAI может быть обязана выплатить денежную компенсацию каждой жертве, которая сможет доказать, что Grok сгенерировал CSAM на основе их реальных фотографий. Доу также попросила суд обязать xAI уничтожить весь сгенерированный Grok CSAM, который может храниться на её серверах и использоваться для обучения моделей Grok. Кроме того, она требует, чтобы xAI заблокировала возможность Grok когда-либо генерировать CSAM, что, как предполагается в её жалобе, потребует блокировки любых сексуализированных выходных данных Grok, включая NCII и NSFW «фотографии в бикини», которые продвигал Маск.
Сара Лондон, одна из адвокатов Доу, заявила в пресс-релизе, что Доу «живёт почти два десятилетия, зная, что изображения худшего, что когда-либо с ней случалось, циркулируют среди хищников в интернете и могут всплыть в любой момент. xAI должна понести ответственность за то, что сознательно обучала свои модели на изображениях ужасного насилия, которое она пережила, и на изображениях насилия каждого другого выжившего в этом классе».
X не ответил на запрос Ars о комментарии.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
