Пентагон выдвинул ультиматум разработчикам Claude компании Anthropic: предоставить военным неограниченный доступ к их модели ИИ, даже если потенциальное использование нарушает собственные меры безопасности компании, или столкнуться со значительными санкциями. Anthropic отказалась, а генеральный директор Дарио Амодей заявил, что компания «не может с чистой совестью согласиться» на требования Министерства обороны. Теперь Сэм Альтман, генеральный директор OpenAI, хочет, чтобы вы знали, что он тоже действовал бы принципиально, если бы ему пришлось.
В служебной записке, распространенной среди сотрудников OpenAI в четверг вечером — и, конечно же, цинично слитой в прессу, чтобы все знали, какой Сэм Альтман храбрый мальчик, — основатель и генеральный директор заявил своей фирме: «Мы давно верим, что ИИ не должен использоваться для массовой слежки или автономного летального оружия, и что люди должны оставаться вовлеченными в принятие критически важных автоматизированных решений. Это наши главные «красные линии»».
Это, разумеется, те самые «красные линии», которых придерживается Anthropic и которые, по сообщениям, вызвали проблемы у Пентагона, несмотря на его настойчивые заявления о том, что он хочет использовать ИИ только для «всех законных целей». Наилучшая трактовка этой позиции заключается в том, что в настоящее время нет законов, запрещающих использование автономного оружия, и Пентагон хотел бы использовать Claude для развертывания своего арсенала в той или иной форме. Сообщается, что Anthropic уже создала исключение в своей политике «красных линий», которое позволило бы Министерству обороны использовать Claude для «оборонительного оружия», но этого явно было недостаточно для ведомства, иначе этот тупик уже разрешился бы.
Принятие Альтманом политики «недопустимости» Anthropic даже не ставит его на второе место после Амодея в отстаивании своей позиции перед военными. Более 100 сотрудников Google опередили его, подписав и отправив письмо руководству с требованием принять те же «красные линии», что и Anthropic, если компания собирается продолжать вести дела с Пентагоном. Но это, по крайней мере, должно было стать достаточно сильным порывом, чтобы Альтман почувствовал, куда дует ветер, и водрузил свой флаг.
Следует отдать должное Anthropic: им действительно пришлось противостоять давлению Пентагона, подробности которого продолжают просачиваться в течение недели. Последняя деталь, опубликованная Washington Post, включала в себя гипотетические вопросы от Министерства обороны, например, можно ли использовать Claude для перехвата межконтинентальной баллистической ракеты, запущенной в сторону Соединенных Штатов. (По сообщениям, генеральный директор Anthropic посоветовал Министерству обороны позвонить и спросить, что не удовлетворило Пентагон, хотя Anthropic это отрицает. Недавнее исследование показало, что чат-боты, включая Claude, запускают ядерное оружие в 95% военных игр, так что звонок кажется наименьшей из потенциально проблематичных последствий.)
Компания не дрогнула, даже несмотря на то, что Пентагон угрожал расторгнуть государственные контракты с Anthropic, объявить Anthropic «риском для цепочки поставок» и/или применить Закон о производстве в сфере обороны, чтобы заставить компанию создать модель для желаемых военными целей. Похоже, эти угрозы были скорее блефом, чем чем-то реальным, что Anthropic, вероятно, и предвидела, судя по тому, что Bloomberg сообщил, что Пентагон все еще открыт для переговоров. У компании также больше рычагов влияния, чем можно было бы подумать, учитывая, что облачная инфраструктура фаворита Министерства обороны Palantir зависит от работы модели Anthropic.
Не сумев заставить Anthropic уступить с помощью своих самых весомых аргументов, Пентагон прибег к новому подходу: мелочным оскорблениям. Заместитель министра обороны Эмиль Майкл провел большую часть четверга, обрушиваясь на Anthropic в Twitter, называя Амодея «лжецом» с «комплексом Бога» и утверждая, что генеральный директор Anthropic хочет «лично контролировать Вооруженные силы США». Он также заявил, что конституция Claude от Anthropic, документ, определяющий поведение чат-бота, на самом деле является попыткой компании навязать свои правила вместо Конституции США, что совершенно не соответствует действительности.
Трудно представить, что Министерство обороны выиграет это противостояние в суде общественного мнения, учитывая, что позиция Anthropic заключается в «давайте договоримся не шпионить за американцами и не позволять ИИ применять ядерное оружие», а ответ Пентагона был «Нет». Но похоже, что ведомство хочет устроить эту битву на всеобщее обозрение, по какой-то причине.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
