В апреле этого года компания Anthropic представила передовую модель Claude Mythos Preview с передовыми возможностями в области кибербезопасности и кодирования для ограниченного круга компаний по всему миру. После внедрения соответствующих мер защиты в начале этой недели Anthropic выпустила Claude Fable 5 и Mythos 5 — свои самые мощные модели ИИ. Claude Fable 5 предназначена для широкого круга пользователей и имеет строгие меры безопасности, в то время как Mythos 5 разработана с меньшим количеством ограничений для сценариев использования в области кибербезопасности и биологии.
Сегодня Anthropic внезапно приостановила доступ к своим моделям ИИ Fable 5 и Mythos 5 для всех клиентов после получения директивы об экспортном контроле от правительства США. Компания получила директиву сегодня в 17:21 по восточному времени, и в полученном письме не было предоставлено никаких подробностей относительно озабоченности национальной безопасностью. Anthropic полагает, что правительство узнало о методе обхода, или «джейлбрейка», Fable 5, что и могло стать причиной директивы.
Приказ был издан на основании полномочий в области национальной безопасности и требует от компании приостановить весь доступ к Fable 5 и Mythos 5 для любых иностранных граждан, находящихся как на территории США, так и за их пределами. Ограничение также распространяется на сотрудников Anthropic, являющихся иностранными гражданами. В результате компания отключила обе модели для всех клиентов, чтобы обеспечить соблюдение требований. Доступ к предыдущим моделям Anthropic, таким как Opus и Sonnet, данный государственный приказ не затронул.
Компания подчеркнула, что разработала надежные меры защиты для снижения вероятности неправомерного использования Fable в задачах, связанных с кибербезопасностью. Фактически, многие разработчики жалуются, что эти меры избыточны. Кроме того, компания сотрудничала с правительством США, британским AISI, множеством сторонних частных организаций и внутренними командами для многочасового тестирования защиты Fable на уязвимости. Наконец, Anthropic отметила, что ни одному тестировщику пока не удалось найти универсальный «джейлбрейк» для Fable 5.
Как и ожидалось, Anthropic не согласна с тем, что незначительный потенциальный «джейлбрейк» должен привести к отзыву коммерческой модели, используемой сотнями миллионов людей. Компания предупредила, что применение этого стандарта ко всей индустрии ИИ может фактически остановить развертывание новых передовых моделей.
В заключение Anthropic сообщила, что работает над скорейшим восстановлением доступа к Fable 5 и Mythos 5 и планирует предоставить более подробную информацию в течение следующих 24 часов.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pradeep Viswanathan
