Коалиция некоммерческих организаций призывает правительство США немедленно приостановить использование Grok, чат-бота, разработанного компанией xAI Илона Маска, в федеральных ведомствах, включая Министерство обороны.
Открытое письмо, эксклюзивно предоставленное TechCrunch, опубликовано после серии тревожных инцидентов с участием большой языковой модели за последний год. Среди них — недавняя тенденция, когда пользователи X просили Grok превращать фотографии реальных женщин, а в некоторых случаях и детей, в сексуализированные изображения без их согласия. По некоторым данным, Grok генерировал тысячи откровенных изображений без согласия в час, которые затем массово распространялись в X, социальной сети Маска, принадлежащей xAI.
«Вызывает глубокую обеспокоенность тот факт, что федеральное правительство продолжает использовать продукт ИИ с системными сбоями, приводящими к генерации сексуальных изображений без согласия и материалов, связанных с сексуальным насилием над детьми», — говорится в письме, подписанном такими группами, как Public Citizen, Center for AI and Digital Policy и Consumer Federation of America. «Учитывая исполнительные указы администрации, руководящие принципы и недавно принятый Закон о пресечении, поддержанный Белым домом, вызывает тревогу, что [Управление по вопросам менеджмента и бюджета] еще не поручило федеральным агентствам вывести Grok из эксплуатации».
В сентябре прошлого года xAI достигла соглашения с Главным управлением служб общего пользования (GSA), закупочным агентством правительства, о продаже Grok федеральным агентствам в рамках исполнительной власти. За два месяца до этого xAI — наряду с Anthropic, Google и OpenAI — заключила контракт на сумму до $200 миллионов с Министерством обороны.
На фоне скандалов в X в середине января министр обороны Пит Хегсет заявил, что Grok присоединится к Gemini от Google в работе в сети Пентагона, обрабатывая как секретные, так и несекретные документы, что, по мнению экспертов, представляет собой риск для национальной безопасности.
Авторы письма утверждают, что Grok доказал свою несовместимость с требованиями администрации к системам ИИ. Согласно руководству OMB, системы, представляющие серьезные и предсказуемые риски, которые не могут быть адекватно смягчены, должны быть прекращены в использовании.
«Наша главная забота заключается в том, что Grok последовательно демонстрировал себя как небезопасная большая языковая модель», — заявил TechCrunch Джей Би Бранч, специалист по подотчетности Big Tech в Public Citizen и один из авторов письма. «Но также существует долгая история различных срывов Grok, включая антисемитские высказывания, сексистские выпады, сексуализированные изображения женщин и детей».
Несколько правительств продемонстрировали нежелание взаимодействовать с Grok после его поведения в январе, которое является продолжением серии инцидентов, включая генерацию антисемитских постов в X и самоназвание «MechaHitler». Индонезия, Малайзия и Филиппины заблокировали доступ к Grok (впоследствии сняли эти запреты), а Европейский союз, Великобритания, Южная Корея и Индия активно расследуют деятельность xAI и X в отношении конфиденциальности данных и распространения незаконного контента.
Письмо также появилось через неделю после того, как Common Sense Media, некоммерческая организация, оценивающая медиа и технологии для семей, опубликовала разгромную оценку рисков, в которой Grok был признан одним из самых небезопасных для детей и подростков. Можно утверждать, что, основываясь на выводах отчета — включая склонность Grok давать небезопасные советы, делиться информацией о наркотиках, генерировать жестокие и сексуальные изображения, распространять теории заговора и выдавать предвзятые результаты — Grok не так уж безопасен и для взрослых.
«Если вы знаете, что большая языковая модель небезопасна или была признана небезопасной экспертами по безопасности ИИ, зачем вам, черт возьми, доверять ей обработку самых чувствительных данных, которые у нас есть?» — сказал Бранч. «С точки зрения национальной безопасности это просто совершенно бессмысленно».
Эндрю Кристансон, бывший подрядчик Агентства национальной безопасности и нынешний основатель Gobbi AI, платформы ИИ-агентов без кода для закрытых сред, утверждает, что использование закрытых LLM в целом является проблемой, особенно для Пентагона.
«Закрытые веса означают, что вы не можете заглянуть внутрь модели, вы не можете аудировать, как она принимает решения», — сказал он. «Закрытый код означает, что вы не можете проверять программное обеспечение или контролировать, где оно выполняется. Пентагон идет по пути закрытости в обоих аспектах, что является наихудшим сочетанием для национальной безопасности».
«Эти ИИ-агенты — не просто чат-боты», — добавил Кристансон. «Они могут совершать действия, получать доступ к системам, перемещать информацию. Вам нужно иметь возможность точно видеть, что они делают и как принимают решения. Открытый исходный код дает вам это. Проприетарный облачный ИИ — нет».
Риски использования скомпрометированных или небезопасных систем ИИ выходят за рамки сценариев использования в национальной безопасности. Бранч отметил, что LLM, которая продемонстрировала предвзятые и дискриминационные результаты, может привести к непропорционально негативным последствиям для людей, особенно если она используется в ведомствах, связанных с жильем, трудом или юстицией.
Хотя OMB еще не опубликовало свой сводный реестр случаев использования ИИ в федеральных органах за 2025 год, TechCrunch ознакомился со случаями использования нескольких агентств — большинство из которых либо не используют Grok, либо не раскрывают его использование. Помимо Министерства обороны, Министерство здравоохранения и социальных служб также активно использует Grok, в основном для планирования и управления публикациями в социальных сетях, а также для создания первых черновиков документов, брифингов или других коммуникационных материалов.
Бранч указал на то, что он считает философским совпадением между Grok и администрацией, как причину игнорирования недостатков чат-бота.
«Бренд Grok — это «анти-woke большая языковая модель», и это соответствует философии этой администрации», — сказал Бранч. «Если у вас есть администрация, у которой было несколько проблем с людьми, которых обвиняли в неонацизме или превосходстве белой расы, а затем они используют большую языковую модель, связанную с таким поведением, я полагаю, у них может быть склонность к ее использованию».
Это третье письмо коалиции после аналогичных обращений в августе и октябре прошлого года. В августе xAI запустила «spicy mode» в Grok Imagine, что привело к массовому созданию сексуально откровенных дипфейков без согласия. TechCrunch также сообщал в августе, что частные чаты Grok были проиндексированы поиском Google.
До октябрьского письма Grok обвиняли в распространении дезинформации о выборах, включая ложные сроки для изменений в бюллетенях и политические дипфейки. xAI также запустила Grokipedia, которая, по мнению исследователей, легитимизировала научный расизм, скептицизм в отношении ВИЧ/СПИДа и теории заговора о вакцинах.
Помимо немедленного приостановления федерального использования Grok, письмо требует, чтобы OMB провело официальное расследование нарушений безопасности Grok и того, были ли проведены соответствующие процедуры надзора для чат-бота. Оно также просит ведомство публично разъяснить, был ли Grok оценен на соответствие исполнительному указу Трампа, требующему от LLM быть правдивыми и нейтральными, и соответствовал ли он стандартам снижения рисков OMB.
«Администрация должна взять паузу и переоценить, соответствует ли Grok этим пороговым значениям», — сказал Бранч.
TechCrunch обратился за комментариями к xAI и OMB.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
