В конце прошлой недели компания Anthropic вывела из эксплуатации свои новые модели ИИ Claude Fable 5 и Mythos 5 после директивы правительства США об экспортном контроле, запрещающей «любым иностранным гражданам» пользоваться этими сервисами. Компания с пятницы ведет переговоры с Белым домом, но пока не смогла добиться соглашения, которое позволило бы возобновить предоставление услуг.
С момента дебюта Mythos в апреле Anthropic заявляла — и предупреждала, — что модель обладает продвинутыми возможностями не только находить уязвимости в программном обеспечении для помощи защитникам в их устранении, но и определять способы их эксплуатации, которые могут быть использованы злоумышленниками. Сама Anthropic отметила этот палка о двух концах при запуске Mythos 5 и Claude Fable 5. «Многие передовые способы использования моделей ИИ являются двойного назначения: те же запросы, которые полезны в руках специалистов по кибербезопасности и биологов-исследователей, могут быть опасны, если попадут к злоумышленникам», — написала компания в своем блоге на прошлой неделе.
С учетом этого компания изначально выпустила версию под названием Mythos Preview для избранного консорциума в рамках рабочей группы, известной как Project Glasswing. Mythos 5 также была частным образом выпущена для этой группы на прошлой неделе, в то время как Claude Fable 5, являющаяся моделью уровня Mythos, была выпущена для широкой публики с определенными ограничениями на ее способность давать ответы на вопросы о биологии и кибербезопасности.
Затем, в конце прошлой недели, администрация Трампа предприняла шаги по ограничению обеих моделей, поскольку считает, что защитные механизмы Fable 5 могут быть отключены для обеспечения полного доступа к возможностям Mythos 5, что, по утверждению властей, представляет угрозу национальной безопасности.
Однако эксперты утверждают, что это институциональное столкновение лишь отсрочивает или маскирует суровую правду: Anthropic может быть на острие атаки в данный момент, но возможности ИИ в целом и моделей от множества компаний и разработчиков с открытым весом почти наверняка в ближайшем будущем будут схожи с Mythos 5 — если они уже не достигли этого уровня.
,
«Крайне близоруко полагать, что никакие другие конкуренты Anthropic не разработают возможности, схожие с Mythos, или что они еще не сделали этого», — говорит Тара Уилер, главный специалист по безопасности в специализированной консалтинговой фирме по кибербезопасности TPO Group. «Есть и другие компании, которые идут по пятам за Anthropic и, вероятно, тоже обладают такими возможностями, держа их в резерве, пока наблюдают, как обращаются с Anthropic в текущей регуляторной среде».
Сама Anthropic подчеркивала этот момент с момента запуска Mythos Preview. «Главный посыл в том, что дело не в модели или Anthropic», — сказал Логан Грэм, руководитель команды по передовым «красным командам» компании, изданию WIRED, когда Mythos Preview была запущена в апреле. «Нам нужно готовиться сейчас к миру, где эти возможности будут широко доступны через 6, 12, 24 месяца».
Например, OpenAI также провела частный выпуск модели, ориентированной на кибербезопасность, в середине апреля и объявила о расширении стратегии в области кибербезопасности.
Исследователи отмечают, что даже до появления этого нового поколения моделей существующие предложения ИИ могут быть использованы для усовершенствованного поиска уязвимостей и разработки эксплойтов с помощью доработанного инструментария. Большая группа лидеров в области кибербезопасности подчеркнула это администрации в открытом письме в воскресенье, утверждая, что директива Белого дома об экспортном контроле была ошибочной.
«Дело не в одной модели; это общая тенденция развития технологий», — говорит Брюс Шнайер, исследователь из Гарвардского университета и Университета Торонто, который анализирует ситуацию. «Меньшие, более дешевые, модели с открытым исходным кодом, иногда сами по себе, а иногда и в сочетании друг с другом, могут соответствовать производительности Mythos/Fable при более изощренном промптинге. И мы должны ожидать, что другие модели достигнут креативности и настойчивости Mythos/Fable в течение нескольких месяцев — немного дольше для моделей с открытым исходным кодом».
По мнению экспертов, Белому дому и правительствам по всему миру необходимо сосредоточиться на демократичной разработке гораздо более широких и прозрачных планов по противодействию неизбежным достижениям в области возможностей ИИ в сфере кибербезопасности и других чувствительных областях.
«Политический вопрос не в том, несет ли технология риск», — говорит Крис Высопал, соучредитель фирмы по облачной безопасности Veracode. «Вопрос в том, снижает ли конкретное ограничение этот риск существенным образом, или оно в основном замедляет тех, кто пытается сделать системы более безопасными».
Эта статья изначально была опубликована на wired.com.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lily Hay Newman, WIRED.com
