Это последовало за громким противостоянием между ведомством — также известным при администрации Трампа как Министерство войны — и конкурентом OpenAI компанией Anthropic. Пентагон настаивал на том, чтобы ИИ-компании, включая Anthropic, разрешили использовать свои модели «во всех законных целях», в то время как Anthropic стремилась провести красную черту в отношении массовой внутренней слежки и полностью автономного оружия.
В длинном заявлении, опубликованном в четверг, генеральный директор Anthropic Дарио Амодей заявил, что компания «никогда не высказывала возражений против конкретных военных операций и не пыталась ограничить использование наших технологий в ad hoc порядке», но утверждал, что «в узком круге случаев мы считаем, что ИИ может подорвать, а не защитить, демократические ценности».
Более 60 сотрудников OpenAI и 300 сотрудников Google подписали открытое письмо на этой неделе с просьбой к своим работодателям поддержать позицию Anthropic.
После того как Anthropic и Пентагон не смогли прийти к соглашению, президент Дональд Трамп раскритиковал «левых чудаков из Anthropic» в посте в социальной сети, который также предписывал федеральным агентствам прекратить использование продуктов компании по истечении шестимесячного периода постепенного отказа.
В отдельном посте министр обороны Пит Хегсет заявил, что Anthropic пытается «захватить право вето на оперативные решения вооруженных сил Соединенных Штатов». Хегсет также сообщил, что присваивает Anthropic статус риска для цепочки поставок: «Немедленно вступает в силу запрет для любого подрядчика, поставщика или партнера, ведущего дела с вооруженными силами США, на ведение любой коммерческой деятельности с Anthropic».
В пятницу Anthropic заявила, что «еще не получила прямого сообщения от Министерства войны или Белого дома о статусе наших переговоров», но настаивала на том, что будет «оспаривать любое определение риска для цепочки поставок в суде».
Удивительно, но Альтман заявил в посте на X, что новый оборонный контракт OpenAI включает меры защиты, касающиеся тех же вопросов, которые стали камнем преткновения для Anthropic.
«Два наших важнейших принципа безопасности — это запрет на массовую внутреннюю слежку и ответственность человека за применение силы, в том числе в отношении автономных систем вооружения», — сказал Альтман. «Министерство войны согласно с этими принципами, отражает их в законах и политике, и мы закрепили их в нашем соглашении».
Альтман заявил, что OpenAI «создаст технические средства защиты, чтобы гарантировать, что наши модели ведут себя должным образом, чего также хотел Департамент войны», и что компания задействует инженеров совместно с Пентагоном, «чтобы помочь с нашими моделями и обеспечить их безопасность».
«Мы просим Министерство войны предложить те же условия всем ИИ-компаниям, которые, по нашему мнению, каждый должен быть готов принять», — добавил Альтман. «Мы выразили наше твердое желание увидеть снижение напряженности в сторону разумных соглашений, а не юридических и государственных мер».
Шэрон Голдман из Fortune сообщает, что Альтман сообщил сотрудникам OpenAI на общем собрании, что правительство позволит компании создать собственный «стек безопасности» для предотвращения неправомерного использования, и что «если модель откажется выполнять задачу, то правительство не будет принуждать OpenAI заставить ее выполнить эту задачу».
Пост Альтмана вышел незадолго до того, как стало известно, что правительства США и Израиля начали бомбардировки Ирана, а Трамп призвал к свержению иранского правительства.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anthony Ha
