Чтобы ввести вас в курс новостного шквала: в пятницу днем Министерство торговли США направило компании Anthropic письмо, ссылаясь на малоизвестную директиву экспортного контроля, которая запретила негражданам США, включая сотрудников Anthropic, доступ к Fable 5 и Mythos 5, ссылаясь на неуказанную обеспокоенность национальной безопасностью. Anthropic заявила, что полагает, что письмо связано с обходом систем защиты модели, но не уверена, поскольку в письме нет конкретных деталей. Письмо не было обнародовано.
В ответ Anthropic отключила обе свои топовые модели для всех клиентов, чтобы гарантировать соблюдение директивы. В результате правительство США успешно вынудило технологическую компанию отключить свои модели с помощью быстрого и одностороннего действия, которое, по всей видимости, не потребовало одобрения суда.
Вмешательство администрации Трампа в пятницу показывает, что индустрия ИИ не застрахована от государственного вмешательства. Это также предупреждение для более широкой технологической отрасли: соблюдайте требования, или мы можем отключить вас и вашу продукцию.
Axios, ссылаясь на источники, описал напряженную ситуацию в выходные между двумя основными игроками, заявив, что «различия в характерах» между Anthropic и администрацией Трампа привели к директиве об экспорте, а не к технической проблеме с продуктами ИИ.
Новые подробности о проблеме, появившиеся в выходные, теперь еще больше ставят под сомнение и без того шаткие доводы правительства.
Кэти Муссурис, ветеран кибербезопасности и исследователь, основавшая Luta Security, заявила в своем блоге, что Anthropic недавно поделилась с ней закрытой копией документа, написанного исследователями безопасности, описывающего предполагаемый обход систем защиты в Fable 5. (The Wall Street Journal сообщает, что авторы статьи являются исследователями безопасности из Amazon.) Муссурис сказала, что Anthropic обратилась к ней за мнением об этом документе.
В блоге Муссурис описывалось, как исследователи спровоцировали обход систем защиты, но она отметила, что сам этот обход «никогда не должен был повлечь за собой экспортный контроль». Разница в основном заключается в том, просят ли модель ИИ «проверить код на наличие уязвимостей безопасности» или «исправить этот код». Конечный результат в значительной степени одинаков, даже если вопросы заданы немного по-разному.
«Поведение, описанное в документе, невозможно существенно исправить, а любая попытка лишь ослабит модель для защиты», — заявила Муссурис, раскритиковав директиву об экспортном контроле как поспешную, чрезмерную и ошибочную.
Муссурис и десятки других ведущих исследователей и экспертов в области безопасности с тех пор призвали администрацию Трампа отменить приказ об экспортном контроле, назвав шаг по изъятию передовых возможностей кибербезопасности у защитников сетей в США «опасным».
Предыдущие администрации принимали широкомасштабные решения о пробелах в знаниях. Например, формулировки, использованные правительством США в 2010-х годах для исправления экспортного законодательства, охватывающего инструменты кибербезопасности, которые также могут использоваться для кибератак, были настолько расплывчатыми, что непреднамеренно почти запретили законные исследования в области безопасности и уязвимостей.
Однако директива администрации Трампа выглядит как ответная мера.
Джастин Хендрикс, редактор Tech Policy Press, заявил, что шаг администрации Трампа, «вероятно, вызовет тревогу в зарубежных столицах относительно надежности американского ИИ для критически важных приложений». Посыл заключается в том, что американским компаниям в сфере ИИ нельзя доверять работу без вмешательства правительства США.
Администрация Трампа не подтвердила, почему она применила свою директиву об экспортном контроле. Неправильно ли истолковали чиновники отчет и запаниковали? Не сказал ли генеральный директор Amazon Энди Джесси что-то высокопоставленным чиновникам правительства, что спровоцировало реакцию — из осторожности или из злобы? Было ли что-то упущено при переводе, или это был способ оказать давление на Anthropic, с которой у администрации и так напряженные отношения? Возможно, Белый дом не знал о далеко идущих последствиях требования письма, и чиновники пытаются исправить ущерб, нанесенный ими самими.
Как цитирует Хендрикс: «Атмосфера такова, что старшие чиновники выбирают фаворитов, основываясь на личных и политических факторах». Последствия таковы, что правительство установило опасный прецедент в отношении того, какой контроль оно намерено осуществлять над выпуском американского программного обеспечения.
На этот раз правительство выступило против Anthropic; завтра это может быть кто угодно другой.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Zack Whittaker
