Дэвид Сакс, сопредседатель Консультативного совета президента по науке и технологиям и бывший «царь по ИИ» администрации, заявил, что правительство США предупредило Anthropic о взломе (jailbreak) модели Claude Fable 5, а генеральный директор Дарио Амодей отказался устранить уязвимость или отозвать модель. В сообщении в X в субботу Сакс изложил версию администрации спустя день после того, как она распорядилась отключить Fable 5 и Mythos 5 по всему миру. Сакс сообщил, что администрация «неохотно» ввела экспортный контроль после этого отказа, что она хочет отмены ограничений, как только уязвимость будет устранена, и что «мяч на стороне Anthropic». Сакс утверждает, что доверенный партнер Anthropic и правительства США, тестировавший Fable, сообщил о взломе защитных механизмов, отделяющих потребительскую модель от неограниченных кибервозможностей Mythos, на которой она основана. Он заявил, что администрация просила Амодея исправить обходной путь или вывести модель из эксплуатации, но Амодей отказался. Вместо этого Anthropic поставила в приоритет сохранение работы своей потребительской модели, а не безопасность, написал Сакс, назвав это несовместимым с позиционированием компании как лаборатории, ставящей безопасность на первое место, которая сама лоббировала регулирование Mythos как кибероружие. Сакс также постарался отделить это действие от предыдущих разногласий Anthropic с правительством, написав, что те, кто связывает экспортный контроль с этими спорами, ошибаются, и что администрация ценит технологии Anthropic и считает проблему легко разрешимой. Источник, близкий к Белому дому, сообщил изданию Semafor, что Amazon уведомила правительство о взломе, и что генеральный директор Amazon Энди Джесси связывался с администрацией по этому поводу. Amazon, инвестировавшая миллиарды в Anthropic и поставляющая большую часть ее облачных вычислений, не подтвердила подробности; представитель сообщил Semafor, что правительства часто обращаются к ней за советом по рискам безопасности, и что компания не обсуждает эти беседы. Это не первый случай утечки доступа к Mythos; это произошло еще в апреле, когда неавторизованные третьи стороны получили доступ к ограниченной модели, используя информацию об утечке данных. Публичная позиция Anthropic заключается в том, что обходной путь является узконаправленным и не универсальным, что он сводится к просьбе к модели прочитать кодовую базу и выявить программные уязвимости, и что тот же результат может быть достигнут на других общедоступных моделях, включая GPT-5.5 от OpenAI. Компания заявила, что не согласна с мнением, что узконаправленный взлом должен требовать отзыва модели, используемой сотнями миллионов людей. Сакс отвергает это, утверждая, что обходной путь, позволяющий использовать кибероружие, трудно определить как нечто иное, кроме как серьезный. Semafor, ссылаясь на осведомленный источник, сообщает, что Белый дом действовал отчасти из подозрения, что группа, связанная с Китаем, получила доступ к Mythos, что поднимает вопрос о возможности обратного проектирования или дистилляции модели. Представитель Anthropic сообщил изданию, что Белый дом «не поднимал вопрос о доступе Китая к Mythos в своих беседах о взломе Fable», и что Anthropic блокирует доступ к своей продукции из Китая. Anthropic также подает в суд на Пентагон из-за разногласий по поводу использования ее моделей в автономном оружии и выступает против федеральных усилий по опережению регулирования ИИ на уровне штатов.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Luke James
