Письмо подписали представители крупнейших технологических и венчурных фирм, включая OpenAI, Slack, IBM, Cursor, Salesforce Ventures и другие. Это произошло после спора между Министерством обороны США (DOD) и Anthropic, когда на прошлой неделе AI-лаборатория отказалась предоставить военным неограниченный доступ к своим системам искусственного интеллекта.
Двумя «красными линиями» Anthropic в переговорах с Пентагоном были отказ от использования своих технологий для массовой слежки за американцами или для создания автономного оружия, принимающего решения о выборе цели и открытии огня без участия человека. Министерство обороны заявило, что не планирует ни того, ни другого, но не считает, что должно быть ограничено правилами поставщика.
В ответ на отказ генерального директора Anthropic Дарио Амодеи уступить угрозам Хегсета, президент Дональд Трамп в пятницу поручил федеральным агентствам прекратить использование технологий Anthropic по истечении шестимесячного переходного периода. Хегсет заявил, что доведет свои угрозы до конца и признает Anthropic риском для цепочки поставок — это обозначение обычно применяется к иностранным противникам и фактически запретило бы AI-фирме работать с любым агентством или компанией, ведущей дела с Пентагоном.
В < посте в пятницу Хегсет написал: «С немедленным вступлением в силу ни один подрядчик, поставщик или партнер, работающий с Вооруженными силами США, не может вести никакой коммерческой деятельности с Anthropic».
Однако пост в X не делает Anthropic автоматически риском для цепочки поставок. Правительству необходимо провести оценку рисков и уведомить Конгресс, прежде чем военные партнеры будут обязаны разорвать связи с Anthropic или ее продуктами. Anthropic заявила в < блоге, что такая мера является как «юридически необоснованной», так и такой, которую компания «оспорит в суде в случае присвоения статуса риска для цепочки поставок».
Многие в отрасли рассматривают обращение администрации с Anthropic как суровое и явное возмездие.
«Когда две стороны не могут договориться об условиях, обычный порядок — разойтись и работать с конкурентом», — говорится в открытом письме. «Эта ситуация создает опасный прецедент. Наказание американской компании за отказ принять изменения в контракте посылает четкий сигнал каждой технологической компании в Америке: соглашайтесь на любые условия, которые требует правительство, или столкнетесь с ответными мерами».
Помимо озабоченности по поводу жесткого обращения правительства с Anthropic, многие в отрасли по-прежнему обеспокоены потенциальным превышением полномочий правительства и использованием ИИ в злонамеренных целях.
Боаз Барак, исследователь OpenAI, < написал в социальной сети в понедельник, что блокирование правительств от использования ИИ для массовой слежки также является его «личной красной линией», и «это должно быть нашей общей линией».
Через несколько минут после того, как Трамп публично атаковал Anthropic, OpenAI объявила о < заключении собственной сделки о развертывании своих моделей в закрытых средах Министерства обороны. Генеральный директор OpenAI Сэм Альтман на прошлой неделе заявил, что у фирмы те же «красные линии», что и у Anthropic.
«Если из событий прошлой недели может получиться что-то хорошее, так это то, что мы в индустрии ИИ начнем рассматривать проблему использования ИИ для злоупотреблений со стороны правительства и слежки за собственным народом как катастрофический риск самого по себе», — написал Барак. «Мы хорошо поработали над оценками, смягчением последствий и процессами для таких рисков, как биологическое оружие и кибербезопасность. Давайте применим аналогичные процессы и здесь».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
