Один из самых ужасающих случаев предполагаемого создания Grok изображений с детской порнографией был изложен в предлагаемом коллективном иске, который был расширен во вторник. Теперь молодые девушки не только обвиняют X и xAI в создании токсичных инструментов ИИ для «раздевания», но и в укрывательстве хищников, препятствуя полицейским расследованиям в отношении материалов с детской сексуальной эксплуатацией (CSAM), сгенерированных Grok.
В марте отчим одной из девочек покончил с собой после того, как полиция обнаружила, что он использовал Grok для создания 7000 откровенно сексуальных изображений с использованием одной фотографии, сделанной, когда его падчерице было 11 лет, утверждается в дополненной жалобе.
Grok позволил мужчине создавать экстремальные изображения, изображающие инцест и изнасилование, не помечая никакого вредоносного поведения, говорится в жалобе. По-видимому, система безопасности детей xAI вмешалась только после того, как мужчина ввел запрос на «групповое изнасилование». Этот запрос отправил CyberTip в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC), который уведомил правоохранительные органы об ИИ CSAM.
Однако вред не был остановлен и тогда. Несмотря на обязательные требования отчетности о предоставлении такой информации, как IP-адрес пользователя, при обнаружении CSAM, xAI неоднократно отказывалась помогать полиции или NCMEC в идентификации пользователя, утверждается в жалобе. В течение нескольких недель xAI якобы «препятствовала этому расследованию на каждом шагу» и затрудняла «усилия правоохранительных органов по поиску, идентификации и задержанию преступника».
В конце концов, отчим был арестован после того, как полиция получила ордер на изъятие его устройств. Именно тогда «судебно-медицинская экспертиза выявила около 7000 изображений и видео, сгенерированных ИИ», изображающих его падчерицу, которые, как утверждается, были созданы с помощью Grok. Если бы Grok не предоставил пользователям легкий доступ к возможностям «раздевания», его семья сомневается, что он когда-либо стал бы создавать вредоносные изображения, которыми он, как утверждается, торговал в Интернете в обмен на «CSAM, созданные другими хищниками, эксплуатирующими детей».
,
Через два дня после того, как мужчину выпустили под залог, он застрелился, говорится в жалобе, ввергнув юную девушку — известную в жалобе как Джейн Доу 4 — в «период крайнего личного кризиса». Среди прочего, она теперь страдает от тревоги и депрессии, а также «борьбы с суицидальными мыслями».
«В одночасье вся реальность Джейн Доу 4 была разрушена двойной трагедией сексуальной эксплуатации детей и самоубийства», — утверждается в иске. «Ее семья была разорвана, а ее жизнь превратилась в кошмар».
xAI якобы укрывала хищников
В пресс-релизе юридические команды девочек из Lieff Cabraser Heimann & Bernstein и Baehr-Jones Law заявили, что случай Джейн Доу 4 не является исключением. Они отметили, что NCMEC обнаружил в начале 2026 года, что 90 процентов отчетов CyberTipline от xAI «не могли быть использованы правоохранительными органами, поскольку xAI отказывалась включать информацию о пользователе, которая позволила бы правоохранительным органам отслеживать и находить преступников». Как объяснили юристы:
«Случай Джейн Доу 4 показывает, как проявилась эта закономерность: обязательный отчет xAI в NCMEC включал только оригинальную фотографию, не являющуюся CSAM, исключал все сгенерированные ИИ изображения CSAM и не содержал IP-адреса, по которому были созданы эти изображения. Несмотря на неоднократные запросы следователей об этой информации о местоположении, критически важной для идентификации и ареста преступников, xAI не отвечала, сдерживая расследование в течение нескольких недель».
Предположительно, xAI избегает делиться этой информацией, чтобы ставить прибыль выше безопасности детей. В пресс-релизе Джейн Доу 4 обвинила X в том, что она «замолчала» после того, как Grok превратил «мою фотографию маленькой девочки, спящей на диване в слишком большой пижаме с пандой», в «тысячи откровенно сексуальных изображений меня — настолько ужасающих, что я даже не могу начать их описывать».
,
«У них было все необходимое, чтобы помочь правоохранительным органам остановить ответственного и добиться справедливости. Вместо этого они хранили молчание и позволили этому человеку использовать Grok, чтобы украсть мое детство», — сказала Джейн Доу 4. «Эта технология — бесплатное, легкодоступное оружие, попавшее в руки худших людей в мире. Опасно то, что нет способа помешать хищнику взять любую фотографию — не только фотографию в Интернете, — но и любую фотографию ребенка и использовать эту технологию для создания изображений из ваших худших кошмаров. Никто не в безопасности — ни взрослые, ни дети, никто».
Другая девушка, выступившая во вторник, Джейн Доу 5, также стала жертвой известного знакомого, взрослого друга семьи, который аналогичным образом распространял предполагаемые изображения, сгенерированные Grok, в Интернете. Об этой девушке стало известно только после того, как полиция арестовала преступника и обвинила его в «обширном хранении и распространении контента CSAM», который «ограничивался CSAM, не сгенерированным ИИ», говорится в жалобе.
Ее мать винит xAI в злоупотреблении в отношении Джейн Доу 5, заявляя, что из-за Grok «моя дочь полна тревоги и чувствует полную потерю контроля над тем, кто видел эти изображения. Ни один ребенок не должен через это проходить».
Основатель xAI Илон Маск отрицал, что Grok когда-либо использовался для создания изображений с детской порнографией.
Однако исследователи подсчитали, что слабые меры безопасности Grok — которые позволяют пользователям делать «пикантные» запросы на раздевание изображений — нанесли вред десяткам тысяч детей без значительного вмешательства. Пока что единственным действием xAI была плата за эту функцию, что, как утверждается в жалобе, лишь гарантирует, что xAI получает прибыль от всех CSAM, сгенерированных Grok.
,
X и xAI не ответили на запрос Ars о комментарии.
Stability AI втянута в борьбу xAI
Помимо добавления новых жертв в жалобу, юристы также добавили Stability AI в качестве ответчика.
Согласно дополненной жалобе, модели с открытым весом Stability AI были обучены на CSAM и, как утверждается, «служат основой для сторонних приложений для „раздевания“», на которые пользователи Grok предположительно полагаются для дальнейшего изменения откровенных результатов Grok.
Как и X и xAI, Stability AI обвиняется в преднамеренном ослаблении мер безопасности для захвата рынка путем разрешения генерации контента, неприемлемого для работы (NSFW). В иске утверждается, что «насколько известно», предыдущие меры безопасности, предотвращающие вывод NSFW, были удалены после того, как использование модели Stability AI снизилось из-за жалоб пользователей на то, что модель стала слишком ханжеской.
Похоже, что после первоначальной подачи иска полиция обнаружила, что у двух преступников, нацеленных на несовершеннолетних, подавших иск, были приложения на телефонах, использующие «инструменты для создания изображений Stability AI». Поэтому жалоба была дополнена утверждением, что некоторые преступники могли использовать либо Grok, либо инструменты, связанные со Stability AI, либо, возможно, оба.
Поскольку так много приложений для «раздевания» полагаются на модели Stability AI, в иске утверждается, что «без моделей Stability производные приложения не существовали бы в их нынешнем виде и не обладали бы возможностями генерации изображений и видео, которые позволяют создавать CSAM». В качестве доказательства своих утверждений дополненная жалоба цитирует июньский отчет, в котором исследователи обнаружили, что «семейство Stable Diffusion является основным двигателем визуального „раздевания“» в Интернете и составляет 42,7 процента таких изображений.
Stability AI не ответила на запрос Ars о комментарии.
Тысячи жертв могут присоединиться к иску
Поскольку Stability AI была добавлена в качестве ответчика, иск теперь направлен на охват двух классов, по одному классу на каждую технологическую компанию, а также подклассов штата Теннесси для каждого класса.
,
Класс xAI охватывает всех лиц в США, чьи «реальные изображения их самих в несовершеннолетнем возрасте» были изменены с помощью Grok «для создания изображений или видео сексуально откровенного поведения или контента с их лицами и/или другими отличительными чертами, которые можно разумно идентифицировать». А класс Stability AI включает лиц в США, пострадавших аналогичным образом с помощью «приложения, созданного на основе модели Stability AI».
Юристы оценивают, что тысячи несовершеннолетних могут иметь право присоединиться к классам и продолжают искать жертв, пострадавших от ИИ CSAM.
NCMEC не ответил на запрос Ars о комментарии.
Однако группа призвала платформы, законодателей, организации по защите детей и правоохранительные органы работать сообща для решения «растущей срочности скоординированных действий».
В марте NCMEC предупредил о «резком росте» «сообщений, связанных с генеративным ИИ» (GAI) в 2025 году. По данным NCMEC, в прошлом году было подано более 1,5 миллиона сообщений CyberTipline, «указывающих на связь с GAI и сексуальной эксплуатацией детей». Тревожно, но в более чем 133 000 случаев NCMEC «не хватало достаточной информации для определения того, как использовалась технология».
В этом отчете не упоминались X или xAI, но он предполагал, что для ИИ-компаний, вероятно, распространено избегать обмена информацией о CSAM, созданных ИИ, которую полиция может использовать для арестов. В качестве другого примера NCMEC отметил, что Amazon AI services предоставила подавляющее большинство сообщений (1,1 миллиона), и ни одно из этих сообщений не содержало «действенной информации», которую правоохранительные органы могли бы использовать для идентификации преступников.
По мере того как внимание к вреду, наносимому детьми ИИ-компаниями, усиливается, активисты надеются, что компании доработают модели, чтобы блокировать всю наготу. Девушки, подавшие иск против X, утверждали, что это единственное решение, «поскольку, если у вас есть модель, допускающая любой сексуальный или оскорбительный контент, невозможно предотвратить создание такой моделью контента с участием несовершеннолетних».
В пресс-релизе одна из юристов, представляющих несовершеннолетних, Анника К. Мартин, резко раскритиковала xAI и Stability AI за то, что они якобы сознательно создавали модели, «способные производить дипфейки CSAM», с «полным пренебрежением к опустошению, которое, как они знали, последует».
«CSAM, сгенерированный ИИ, — это бич общества, который затрагивает каждую общину и каждую демографическую группу», — сказала Мартин. «Масштаб вреда ошеломляет, и компании, чьи продукты это позволяют, должны нести ответственность».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
