Согласно открытому письму, «это действие лишило защитников [кибербезопасности] лучших моделей», которые теперь не могут использовать эти модели для поиска уязвимостей и повышения безопасности своего программного обеспечения и продуктов.
«Отбирать лучшие возможности у защитников без веской причины, в то время как наши противники стремительно развиваются, — опасно», — говорится в письме.
В пятницу правительство США предписало Anthropic ограничить экспорт Fable и Mythos, ссылаясь на соображения национальной безопасности, не объясняя конкретных причин этого распоряжения, сообщает Anthropic. В ответ компания приостановила доступ ко всем пользователям по всему миру.
На момент написания письма его подписали 76 экспертов по кибербезопасности, в том числе: бывший глава службы безопасности Facebook* Алекс Стамос; Кейси Эллис, основатель платформы Bugcrowd для поиска уязвимостей поощрением (bug bounty); известный криптограф и бывший менеджер по дизайну и архитектуре безопасности Apple Джон Каллас; ученый-компьютерщик Пол Викси; Дино Дай Зови, бывший руководитель отдела прикладной инженерии безопасности в Block; Кэти Муссурис, основатель Luta Security; и Рэйчел Тобак, генеральный директор фирмы по обучению осведомленности в области безопасности SocialProof Security.
Когда Mythos был запущен в виде предварительной версии в апреле, Anthropic заявила, что он настолько мощный в поиске уязвимостей безопасности, что компании необходимо строго ограничить доступ, чтобы не допустить использования его злоумышленниками или иностранными противниками для сеяния хаоса в интернете. На практике это означало, что Anthropic предоставила первоначальный доступ к Mythos около 50 компаниям, недавно расширив эту группу, включив в нее около 150 организаций в 15 странах.
На прошлой неделе Anthropic выпустила Fable — общедоступную версию Mythos, которая, по словам компании, имела строгие ограничения для блокировки ее использования в областях биологии, химии и кибербезопасности, а также для предотвращения дистилляции модели с целью ее воссоздания. Ограничения в Fable были настолько строгими, что многие эксперты по кибербезопасности обнаружили, что модель блокирует практически любые запросы, связанные с кибербезопасностью.
Anthropic заявила, что приказ Белого дома об экспортном контроле мог быть основан на сообщении о существовании метода обхода — так называемого джейлбрейка (jailbreaking) — Fable для разблокировки его мощных возможностей уровня Mythos.
По словам Кэти Муссурис, одного из подписавших открытое письмо, этот метод был продемонстрирован исследователями Amazon в статье, которая не является общедоступной, но с которой она ознакомилась.
Однако Муссурис заявила в своем блоге, что в статье на самом деле не был продемонстрирован реальный джейлбрейк. Вместо этого, как она написала, исследователи просто попросили Fable исправить открытый исходный код с общеизвестными уязвимостями, а также код с «преднамеренно внедренными уязвимостями», после того как модель изначально отказалась «проверить код на наличие проблем безопасности».
«Поведение, описанное в статье, невозможно содержательно исправить, и любая попытка лишь ослабит модель для защиты», — написала Муссурис. «Защитники должны иметь возможность просить ИИ исправлять ошибки в файле, объяснять, почему исправление важно, и писать тесты, подтверждающие работоспособность патча. Это не обход ограничений. Это самое ценное, что может сделать модель ИИ для оборонительной безопасности: выполнение цикла поиска, исправления и тестирования, который защитники выполняют каждый день».
Критика Муссурис нашла отклик в открытом письме, в котором также говорилось, что группа экспертов считает, что метод, описанный в статье Amazon, «может быть воспроизведен» на GPT-5.5 от OpenAI, на общедоступных Claude Opus 4.8 и Sonnet от Anthropic, «и даже на китайских моделях, таких как Kimi 2.7».
В письме также содержался призыв к введению прозрачных и справедливо применяемых нормативных актов, разработанных в рамках «демократического процесса нормотворчества», основанных на научных исследованиях, проведенных отраслевыми и академическими экспертами, и «используемых лишь в минимальной степени, необходимой для обеспечения безопасности американской общественности».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lorenzo Franceschi-Bicchierai
