Несмотря на опасения, что продвинутые модели ИИ, способные находить ошибки, позволят злоумышленникам использовать больше недавно обнаруженных CVE, менее 0,5 процента уязвимостей, связанных с Anthropic или Project Glasswing, активно эксплуатируются, согласно исследователю безопасности VulnCheck Патрику Гаррити.
Гаррити начал отслеживать CVE, приписываемые Project Glasswing — инициативе Anthropic по предоставлению избранным партнерам доступа к своей модели Claude Mythos Preview — вскоре после того, как ИИ-компания объявила о программе в апреле.
В то время Anthropic заявила, что новая модель слишком рискованна для публичного выпуска, поскольку ее навыки поиска и эксплуатации ошибок превосходят навыки всех, кроме самых опытных специалистов. Поэтому Anthropic ограничила доступ к Mythos Preview проверенным участникам Glasswing, которые используют модель для оборонительной безопасности, включая поиск и исправление уязвимостей в собственных программных продуктах и зависимостях с открытым исходным кодом.
Гаррити отслеживает CVE Anthropic, поддерживая список уязвимостей, приписываемых команде Anthropic и/или Project Glasswing, а также проверяет эти CVE по индексу известных эксплуатируемых уязвимостей компании, «чтобы лучше понять реальный «фактор опасности» Glasswing».
По состоянию на понедельник, количество CVE составляет 225, и только одна из них — критическая SQL-инъекция в Ghost (CVE-2026-26980) — была эксплуатирована в реальных условиях.
«Существует большая разница между обнаружением уязвимостей и тем, насколько они действительно полезны для злоумышленников и будут ли ими использоваться», — сказал Гаррити The Register. «Главное, что показывают эти данные, — это то, что обнаруженные и раскрытые Anthropic уязвимости имеют ограниченное влияние и, насколько мы можем судить, не приводят к иным результатам с точки зрения угроз, чем случайный набор других уязвимостей».
Anthropic не ответила немедленно на наши вопросы, но мы обновим эту статью, если получим ответ.
Гаррити говорит, что не оспаривает способность ИИ находить ошибки.
Действительно, любой, кто следит за раскрытием информации о безопасности за последние несколько месяцев, с трудом будет утверждать, что модели ИИ не выявляют значительно больше уязвимостей, чем когда-либо прежде. Показательный пример: недавние массовые выпуски исправлений от Microsoft, Apple, Palo Alto Networks, и не будем даже упоминать проекты с открытым исходным кодом.
Кроме того, как отметил Гаррити, эти навыки поиска уязвимостей «не являются уникальной возможностью одной модели или одного инструмента».
«Множество истерии, которую мы наблюдаем, предполагает, что каждая уязвимость или ошибка, скорее всего, будет использована злоумышленниками», — сказал он The Register. «Но реальность такова, что лишь небольшая доля когда-либо используется в кампаниях эксплуатации. Исторически этот показатель колебался от чуть менее одного процента до двух процентов уязвимостей, которые становятся оружием и используются в реальных условиях».
Кроме того, хотя современные модели ИИ преуспевают в поиске ошибок, они по-прежнему не очень хорошо их исправляют, на что указывают несколько недавних исследований.
В одном из таких исследований команда исследователей 1Password сгенерировала и проанализировала 6 080 исправлений, разработанных двумя передовыми моделями: ChatGPT-5.5 от OpenAI и Opus 4.8 от Anthropic. Модели успешно устранили уязвимость только в 26 процентах случаев, в то время как около 54 процентов либо не устранили уязвимость, либо внесли новую, либо сделали и то, и другое.
Другое исследование, проведенное компанией Veracode, специализирующейся на безопасности приложений, показало, что среди более чем 100 моделей и 80 задач по написанию кода средний показатель безопасности для кода, сгенерированного ИИ составил всего 56 процентов.
Все это означает, что работа по разработке и применению исправлений безопасности по-прежнему требует участия людей.
«С ИИ планка для обнаружения уязвимостей намного ниже, но реальный разрыв лежит ниже по цепочке: в координации, сортировке, устранении и развертывании исправлений, что по-прежнему остается трудоемкой работой, как признала сама Anthropic», — сказал Гаррити. «Похоже, они могли не осознавать этого до запуска проекта».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
