Anthropic отказывается разрешать использование своих моделей ИИ для массовой слежки за американцами или для полностью автономного оружия, которое наносит удары без участия человека. В то же время, секретарь Хегсет утверждает, что Министерство обороны не должно быть ограничено правилами поставщика, заявляя, что любое «законное использование» технологии должно быть разрешено.
В четверг Амодей публично заявила, что Anthropic не отступает — несмотря на угрозы, что в результате её компанию могут признать угрозой для цепочки поставок. Но поскольку новостной цикл движется быстро, стоит вернуться к тому, что именно поставлено на карту в этой борьбе.
По сути, эта борьба ведется за то, кто контролирует мощные системы ИИ — компании, которые их создают, или правительство, которое хочет их развернуть.
Что беспокоит Anthropic?
Как мы упоминали выше, Anthropic не хочет, чтобы её модели ИИ использовались для массовой слежки за американцами или для автономного оружия без участия человека в принятии решений о целях и открытии огня. Традиционные оборонные подрядчики, как правило, мало влияют на то, как будут использоваться их продукты, но Anthropic с самого начала утверждала, что технология ИИ представляет собой уникальные риски и поэтому требует особых мер безопасности. С точки зрения компании, вопрос заключается в том, как сохранить эти меры безопасности, когда технологией пользуются военные.
Вооруженные силы США уже полагаются на высокоавтоматизированные системы, некоторые из которых являются летальными. Решение о применении смертоносной силы исторически оставалось за людьми, но существует мало правовых ограничений на военное применение автономного оружия. Министерство обороны США не запрещает категорически полностью автономные системы вооружения. Согласно директиве Министерства обороны от 2023 года, системы ИИ могут выбирать и поражать цели без вмешательства человека, при условии, что они соответствуют определенным стандартам и проходят проверку старших должностных лиц Министерства обороны.
Именно это и беспокоит Anthropic. Военные технологии по своей природе секретны, поэтому, если бы Вооруженные силы США предпринимали шаги по автоматизации принятия летальных решений, мы могли бы узнать об этом, только когда это уже будет введено в строй. И если бы они использовали модели Anthropic, это могло бы считаться «законным использованием».
Позиция Anthropic заключается не в том, что такое использование должно быть навсегда исключено. А в том, что их модели пока недостаточно способны для безопасной поддержки таких операций. Представьте, что автономная система ошибочно идентифицировала цель, эскалировала конфликт без разрешения человека или приняла скоропалительное летальное решение, которое никто не сможет отменить. Если поручить менее способному ИИ управление оружием, вы получите очень быструю и очень уверенную машину, которая плохо справляется с принятием решений в критических ситуациях.
ИИ также способен в тревожной степени усилить законную слежку за американскими гражданами. Согласно действующему законодательству США, слежка за американскими гражданами уже возможна, будь то сбор текстов, электронной почты и других сообщений. ИИ меняет ситуацию, позволяя автоматизированное крупномасштабное обнаружение закономерностей, сопоставление сущностей в наборах данных, прогнозирование оценки рисков и непрерывный поведенческий анализ.
Чего хочет Пентагон?
Аргумент Пентагона заключается в том, что он должен иметь возможность развертывать технологию Anthropic для любого законного использования, которое сочтет необходимым, а не быть ограниченным внутренней политикой Anthropic в отношении таких вопросов, как автономное оружие или слежка.
В частности, секретарь Хегсет утверждает, что Министерство обороны не должно быть ограничено правилами поставщика и что оно будет заниматься «законным использованием» технологии.
Шон Парнелл, главный пресс-секретарь Пентагона, заявил в посте в X в четверг, что у ведомства нет интереса к проведению массовой внутренней слежки или развертыванию автономного оружия.
«Вот что мы просим: позволить Пентагону использовать модель Anthropic для всех законных целей», — сказал Парнелл. «Это простое, здравое требование, которое не позволит Anthropic поставить под угрозу критически важные военные операции и потенциально подвергнуть риску наших военнослужащих. Мы не позволим НИКОКОЙ компании диктовать условия того, как мы принимаем оперативные решения».
Он добавил, что у Anthropic есть время до 17:01 по восточному времени в пятницу, чтобы принять решение. «В противном случае мы расторгнем наше партнерство с Anthropic и признаем их угрозой для цепочки поставок для DOW», — сказал он.
Несмотря на позицию Министерства обороны о том, что оно просто не считает, что его должны ограничивать политики использования корпорации, опасения секретаря Хегсета по поводу Anthropic порой казались связанными с культурным недовольством. В выступлении в офисах SpaceX и xAI в январе Хегсет обрушился с критикой «прогрессивного ИИ» в речи, которую некоторые восприняли как прелюдию к его вражде с Anthropic.
«ИИ Министерства войны не будет прогрессивным», — заявил Хегсет. «Мы строим боеготовое оружие и системы, а не чат-боты для гостиной Лиги плюща».
Что дальше?
Пентагон угрожает либо объявить Anthropic «угрозой для цепочки поставок» — что фактически наложит на Anthropic вето на ведение бизнеса с правительством, — либо применить Закон о производстве в сфере обороны (DPA), чтобы заставить компанию адаптировать свою модель под нужды военных. Хегсет дал Anthropic время до 17:01 в пятницу для ответа. Но по мере приближения крайнего срока никто не может угадать, сдержит ли Пентагон свою угрозу.
Это та борьба, из которой ни одна из сторон не может легко выйти. Сачин Сет, венчурный капиталист из Trousdale Ventures, специализирующийся на оборонных технологиях, говорит, что маркировка Anthropic как угрозы для цепочки поставок может означать «полное закрытие» для компании.
Однако, по его словам, если Anthropic исключат из Министерства обороны, это может стать проблемой национальной безопасности.
«[Ведомству] придется ждать шесть-двенадцать месяцев, пока OpenAI или xAI догонят», — сказал Сет TechCrunch. «Это оставляет окно до года, в течение которого они могут работать не с лучшей моделью, а со второй или третьей по качеству».
xAI готовится к работе с секретными данными и замене Anthropic, и справедливо будет сказать, учитывая риторику владельца Илона Маска по этому вопросу, что у компании не возникнет проблем с предоставлением Министерству обороны полного контроля над своими технологиями. Недавние сообщения указывают на то, что OpenAI может придерживаться тех же «красных линий», что и Anthropic.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
