«Grok, противоречивая модель ИИ, разработанная xAI, предоставила пользователям тревожные результаты, включая советы о том, как совершать убийства и теракты, генерировала антисемитский контент и создавала материалы о сексуальном насилии над детьми», — говорится в письме.
Уоррен заявила, что «явное отсутствие адекватных мер безопасности» Grok может создать «серьезные риски для безопасности американского военного персонала и для кибербезопасности секретных систем». Она потребовала, чтобы Хегсет предоставил информацию о том, как Министерство обороны планирует «снизить эти потенциальные риски национальной безопасности».
Уоррен не первая, кто выразил обеспокоенность по поводу доступа Grok, нашумевшего чат-бота xAI, к секретным системам. В прошлом месяце коалиция некоммерческих организаций призвала правительство немедленно приостановить развертывание Grok в федеральных агентствах, включая Министерство обороны, после того как пользователи X неоднократно побуждали чат-бота превращать реальные фотографии женщин, а в некоторых случаях и детей, в сексуализированные изображения без их согласия. В тот же день, когда Уоррен отправила свое письмо, против xAI был подан коллективный иск, в котором утверждалось, что Grok сгенерировал сексуальный контент на основе реальных изображений истцов в несовершеннолетнем возрасте.
Письмо последовало за решением Пентагона признать Anthropic риском для цепочки поставок после того, как фирма ИИ отказалась предоставить военным неограниченный доступ к своим системам ИИ. До недавнего времени Anthropic была единственной компанией в сфере ИИ с системами, готовыми к работе с секретными данными. На фоне этого конфликта Министерство обороны подписало соглашение с OpenAI, а также с xAI об использовании систем ИИ этих двух компаний в закрытых сетях, по данным Axios.
Высокопоставленный представитель Пентагона подтвердил, что Grok был принят для использования в условиях секретности, но пока не используется.
«Неясно, какие гарантии или документацию xAI предоставила Министерству обороны относительно мер безопасности Grok, практик обработки данных или средств контроля безопасности, и оценил ли Департамент эти заверения, прежде чем разрешить Grok доступ к секретным системам», — пишет Уоррен.
Уоррен запросила копию соглашения, предположительно заключенного между Министерством обороны и xAI об использовании Grok в секретных системах, а также объяснение того, как ведомство планирует обеспечить, чтобы Grok не подвергался кибератакам и «не сливал конфиденциальную или секретную военную информацию».
(На прошлой неделе бывший сотрудник Департамента эффективности правительства Маска, по сообщениям, украл личные данные американцев из Администрации социального обеспечения и сохранил их на флешке — это последнее обвинение в утечке данных, связанной с DOGE.)
Главный пресс-секретарь Пентагона Шон Парнелл заявил, что ведомство «с нетерпением ожидает развертывания Grok на своей официальной платформе ИИ GenAI.mil в самое ближайшее время».
GenAI.mil — это защищенная корпоративная платформа Министерства обороны для генеративного ИИ, которая предоставляет сотрудникам DoD доступ к большим языковым моделям (LLM) и другим инструментам ИИ в утвержденных правительством облачных средах. Она предназначена для помощи в выполнении преимущественно несекретных задач, таких как исследования, составление документов и анализ данных.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
