Читать переписку о разрыве отношений кажется подглядыванием, но обычно в нем не замешана AI-лаборатория с миллиардной оценкой и крупнейшее агентство федерального правительства, так что ваш интерес заглянуть туда можно понять. Во вторник были обнародованы судебные документы, включающие электронные письма, которые привели к разрыву отношений между Anthropic и Министерством обороны в начале этого года, и они читаются именно так, как можно было ожидать, исходя из публичного описания ситуации.
В ходе обмена мнениями генеральный директор Anthropic Дарио Амодей ясно дал понять, что его главной заботой было то, что Министерство обороны будет использовать модели ИИ его лаборатории для целей, с которыми он и компания были не согласны, — а именно, для интеграции технологии в системы автономного оружия и инструменты внутреннего надзора. Как уже отмечалось ранее, позиция Пентагона заключается в том, что он может использовать технологию для «всех законных целей», что оставляет значительное пространство для маневра.
Письма действительно показывают, что семена разрыва были посеяны в январе, когда заместитель министра обороны по исследованиям и разработкам Эмиль Майкл связался с Амодеем после нескольких недель молчания. В нем Майкл заявил, что «надеется, что мы ближе к тому, чтобы начать взаимодействие с вашей пересмотренной точкой зрения» — по сути, надеялся, что Anthropic готова пойти на уступки требованиям Пентагона. Амодей ответил, подтвердив свою позицию о необходимости наличия ограничений для использования ИИ, включая запрет на его применение для полностью автономного оружия и внутреннего надзора.
Майкл заявил, что это «просто не сработает», и предупредил, что есть «еще один шанс согласовать основные принципы, которые приведут к юридическому оформлению», прежде чем принять решение о расставании. Затем он отметил, что «в нашем мире нет различия между оружием, которое является оборонительным или наступательным» (деталь, которая кажется примечательной, учитывая продолжающиеся дебаты о продаже «оборонительного» оружия Израилю), поэтому попытки Амодея провести различие в том, как может быть использована технология его компании, будут тщетными.
Амодей указал, что стандарт «всех законных целей» не подойдет для Anthropic, поскольку законодательство США допускает внутренний надзор. В ответ на некоторые явные предложенные формулировки от Пентагона Амодей отметил Майклу, что департамент, похоже, «полностью убрал наши красные линии». На следующий день министр обороны Пит Хегсет объявил, что его ведомство признает Anthropic риском для цепочки поставок, что, по сути, положило конец всем переговорам.
Если что-то и можно сказать, так это то, что Амодей выглядит довольно достойно в письмах, учитывая, что он придерживался своих убеждений. Менее впечатляющим выглядел Майкл, который сделал все возможное, чтобы добиться уступок, которых добивалось его ведомство. Но Майкл и так выглядел скомпрометированным в этой ситуации, учитывая, что он владел крупным пакетом акций конкурента Anthropic, компании xAI, среди других инвестиций в AI-фирмы. Даже если обогащение было лишь на заднем плане его мыслей во время обмена мнениями с Амодеем, на переднем плане у него было желание понять, как сохранить возможность использовать ИИ для убийства людей и слежки за гражданами, так что в любом случае это не тот человек с сильным моральным компасом.
Мы загрузили полный 346-страничный судебный документ для ознакомления здесь.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
