Пентагон утверждает, что «Soul» от Anthropic создает угрозу для цепочки поставок. Это абсурд

ии пентагон Anthropic Claude цепочка поставок безопасность gizmodo.com

Заместитель министра обороны Эмил Майкл объяснил на CNBC, почему Anthropic признана риском для цепочки поставок, несмотря на использование Claude: «У их модели есть душа, ‘конституция’ — не Конституция США». — gizmodo.com

Эмил Майкл, заместитель министра обороны по исследованиям и разработкам, выступил в четверг на канале CNBC, где ему задавали вопросы о присвоении Пентагоном компании Anthropic статуса риска для цепочки поставок. Майкл пытался доказать, что Anthropic представляет собой уникальную угрозу национальной безопасности Америки, что является совершенно запутанной позицией, учитывая, что вооруженные силы США до сих пор используют модель ИИ Claude от Anthropic.

«Мы не можем допустить, чтобы компания, чьи предпочтения в политике заложены в модель через ее конституцию, ее душу, ее политические предпочтения, загрязняла цепочку поставок так, что наши военнослужащие получают неэффективное оружие, неэффективную броню, неэффективную защиту», — заявил Майкл на CNBC.

Слово «душа» является отсылкой к руководящему документу «Обзор души» (Soul overview), заложенному в Claude, который влияет на его взаимодействие с пользователями и его «личность». В конце прошлого года одна из версий этого документа была обнаружена пользователем и ненадолго попала в заголовки новостей. Она содержала такие указания, как «быть по-настоящему полезным для людей — одна из самых важных вещей, которые Claude может сделать как для Anthropic, так и для мира». Позднее стартап в области ИИ подтвердил подлинность документа, заявив, что он находится в стадии разработки, а в январе документ был полностью опубликован как «Конституция Claude».

В конце февраля Пентагон выдвинул ультиматум Anthropic: либо компания снимет ограничения, запрещающие использование Claude для массовой внутренней слежки и полностью автономного оружия, либо столкнется с маркировкой как риск для цепочки поставок. Anthropic отказалась, и Пентагон присвоил компании этот статус, который никогда ранее не применялся в отношении американских компаний.

Сейчас Anthropic подает в суд, а Пентагон отвел себе шесть месяцев на вывод Claude из своих систем. Эндрю Росс Соркин из CNBC спросил Майкла о противоречии в том, что военные США заявляют о серьезной угрозе национальной безопасности со стороны Claude, но при этом не отключают его немедленно.

«Если это действительно и является реальным риском для цепочки поставок, разве вы не должны немедленно прекратить использование этой услуги во всем Пентагоне?» — спросил Соркин. Затем ведущий CNBC указал, что Claude все еще используется «прямо сейчас» в Иране, и есть сообщения от Reuters и других источников о том, что Пентагон и другие ведомства правительства США рассматривают «период продления» для его дальнейшего использования.

«Если это реальный риск для цепочки поставок, и это не является частью более крупных переговоров, которые некоторые считают политическим шантажом, почему бы вам не убрать его немедленно?» — спросил Соркин.

По сообщениям ряда источников, Майкл крайне враждебно настроен по отношению к генеральному директору Anthropic Дарио Амодеи, но настаивал, что это не является карательной мерой, и что вывод Claude займет время.

«Если бы они никогда не проникали в системы ведомства, это не было бы проблемой, и они могли бы двигаться дальше. Но они встроены в наши системы. А как вы знаете, Эндрю, нельзя просто вырвать систему, которая глубоко интегрирована, за одну ночь».

Майкл продолжил утверждать, что «мы внимательно следим за этим, обеспечивая контроль, чтобы модель не могла быть скомпрометирована или чтобы инсайдерская угроза не могла использовать ее в своих целях», имея в виду возможность того, что Claude может совершить что-то опасное и противоречащее интересам военных.

«Но угроза для цепочки поставок реальна, и мы также должны от нее избавиться, а это не происходит за одну ночь. Это не просто Outlook, который можно удалить с рабочего стола», — возразил Майкл.

Этот аргумент может показаться некоторым людям, которые не вникают в детали, убедительным. Но он обходит тот факт, что для этого и не предназначено обозначение риска для цепочки поставок. Когда истеблишмент национальной безопасности США называет китайских производителей оборудования, таких как Huawei, риском для цепочки поставок, их беспокоит, что правительство Китая может получить доступ к американским устройствам через какую-либо лазейку.

Когда швейцарская кибербезопасная компания с российскими связями получила от Управления директора национальной разведки (ODNI) в 2025 году статус риска для цепочки поставок, это также было связано с опасением, что данные, защищаемые компанией, могут быть скомпрометированы. Правительство США не хотело, чтобы какие-либо данные, находящиеся в распоряжении разведывательного сообщества, попали не в те руки, и любое нарушающее ПО должно было быть сообщено в течение трех дней и удалено «незамедлительно».

Если бы нечто, представляющее реальную угрозу национальной безопасности США, находилось на американском военном оборудовании прямо сейчас, его бы удалили немедленно, и для ведения этой войны они начали бы использовать ручку и карандаш, а не рисковать реальной потенциальной угрозой. По крайней мере, так поступили бы разумные военные.

Разница с Anthropic заключается не в том, что они на самом деле представляют угрозу; а в том, что они установили защитные барьеры, которые не позволят использовать две очень специфические области применения, которые, по мнению компании, создадут опасную среду или нарушат Конституцию США.

Anthropic заявляет, что причина, по которой компания не желает использовать автономное оружие, даже не в принципе, а в том, что они не верят, что Claude может делать это безопасно. Но Хегсету и гениям из Пентагона это безразлично, и они собираются наказать Anthropic за отказ подчиниться.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: