Project Glasswing выявил 10 000 уязвимостей: данные Anthropic

Anthropic сообщает, что она и более 50 партнеров, участвующих в Project Glasswing, обнаружили около 10 000 критических уязвимостей или уязвимостей высокого уровня серьезности в своих программных продуктах.

Компания запустила эту инициативу в области кибербезопасности, основанную на Claude Mythos Preview, в апреле, заявив, что ее партнеры-участники будут использовать ее в рамках своей работы по оборонительной безопасности.

Anthropic заявила, что создала Project Glasswing, когда возможности ее новой передовой модели «выявили суровый факт: модели ИИ достигли такого уровня навыков кодирования, что могут превзойти всех, кроме самых опытных людей, в поиске и использовании уязвимостей программного обеспечения». В то время компания также указала, что выделяет более 100 миллионов долларов в виде кредитов на использование, а также дополнительные 4 миллиона долларов в виде пожертвований организациям по безопасности с открытым исходным кодом.

В обновлении, опубликованном в конце прошлой недели, Anthropic заявила: «В течение последних нескольких месяцев мы использовали Mythos Preview для сканирования более 1000 проектов с открытым исходным кодом, которые коллективно лежат в основе значительной части интернета — и значительной части нашей собственной инфраструктуры».

В ходе этого процесса Mythos Preview обнаружила 6 202 уязвимости высокого или критического уровня серьезности в этих проектах, 1 752 из которых с тех пор были оценены шестью независимыми фирмами по исследованию безопасности.

Поддерживающие проекты сталкиваются с наплывом отчетов об ошибках

Из них, по данным Anthropic, 90,6% (1 587) «оказались действительными истинно положительными результатами, а 62,4% (1 094) были подтверждены как имеющие высокий или критический уровень серьезности. Это означает, что даже если Mythos Preview не обнаружит больше уязвимостей, при наших текущих показателях истинно положительных результатов после триажа она выявит почти 3 900 уязвимостей высокого или критического уровня серьезности в коде с открытым исходным кодом — в дополнение к тем, которые она обнаружила для партнеров Project Glasswing».

Авторы отчета отметили, что, помимо обычных проблем с поддержкой программного обеспечения с открытым исходным кодом, «поддерживающие проекты сталкиваются с наплывом низкокачественных отчетов об ошибках, сгенерированных ИИ. Действительно, несколько поддерживающих сторон сообщили нам, что в настоящее время они испытывают серьезные ограничения по пропускной способности, а некоторые даже просили нас замедлить темпы раскрытия информации, поскольку им требуется больше времени для разработки исправлений».

Anthropic подсчитала, что на данный момент она раскрыла поддерживающим сторонам 530 ошибок высокого или критического уровня серьезности и планирует раскрыть еще 827. Из этих 530 ошибок 75 были исправлены, и было выпущено 65 публичных уведомлений. Компания заявила, что относительно низкое число обусловлено тремя факторами: во-первых, 90-дневный период, установленный в ее политике скоординированного раскрытия уязвимостей, еще не истек; во-вторых, она, вероятно, недооценивает, поскольку некоторые недостатки были устранены без раскрытия информации; и, наконец, экосистема безопасности уже перегружена.

«Относительная легкость обнаружения уязвимостей по сравнению с трудностью их исправления представляет собой серьезную проблему для кибербезопасности», — отметили авторы отчета.

Тем не менее, успехи Glasswing на данный момент побудили компанию выпустить Claude Security в бета-версии для своих корпоративных клиентов и начать программу верификации кибербезопасности (Cyber Verification Program), чтобы позволить легитимным специалистам по безопасности использовать ее модели в своей работе без некоторых ее защитных механизмов.

Марк Таушек, выдающийся аналитик Info-Tech Research Group, заявил, что решение Anthropic ограничить доступ к Claude Mythos Preview через Project Glasswing является одним из самых явных сигналов того, что передовые возможности ИИ пересекли реальный порог в кибербезопасности.

По его словам, компания «заслуживает некоторой похвалы за прозрачность своей системной карты и структуру Project Glasswing. Но быть прозрачным в отношении проблемы — это не то же самое, что решить ее».

По словам Таушека, «обновление подтверждает практическую реальность того, что руководители ИТ и служб безопасности теперь должны иметь дело с тем фактом, что стоимость обнаружения уязвимостей программного обеспечения резко упала. Если одна модель ИИ может выявить тысячи серьезных уязвимостей в базовом программном обеспечении за считанные недели, окно между обнаружением уязвимости и ее использованием будет продолжать сжиматься».

Он добавил, что организации, которые по-прежнему рассматривают установку исправлений как ежеквартальное мероприятие, подвергаются значительно большему риску, чем еще недавно.

Таушек отметил, что тот факт, что некоторые поддерживающие стороны просили Anthropic замедлиться, не следует рассматривать как сопротивление лучшей безопасности. «Скорее, это указывает на проблему пропускной способности, которая назревала годами», — сказал он. «Многие проекты с открытым исходным кодом, на которые полагаются предприятия, поддерживаются небольшими командами или волонтерами, часто людьми, у которых есть основная работа».

Ключевое узкое место сместилось

Между тем, по его словам, «организации, зависящие от этого кода, работают в огромных масштабах. ИИ может ускорить обнаружение, но он не создает человеческого потенциала, необходимого для проверки результатов, разработки безопасных исправлений, их тестирования и развертывания. Это также заставляет переосмыслить эшелонированную защиту».

Келман Мегу, технический директор DeepCove Cybersecurity, добавил, что в обновлении Project Glasswing для него нет ничего удивительного. «Наша компания почти два года назад поняла, что в руках компетентного исследователя способность [ИИ] находить и использовать уязвимости значительно ускорилась», — отметил он. «Я думаю, что сейчас изменение заключается в том, что барьер входа для ввода запросов в большую языковую модель значительно снизился. Это будет только улучшаться, и это наша новая реальность».

По его словам, DeepCove «пришлось ускорить оценку исправлений и контроля, которая теперь включает использование больших языковых моделей для помощи в выявлении и исправлении или создании компенсирующих мер контроля для наших сервисов и инфраструктуры наших клиентов».

По мнению Мегу, «находить ошибки теперь дешево, но исправлять их во многих случаях по-прежнему медленно и зависит от человека. У клиентов есть процессы управления изменениями, окна нормативного тестирования и периоды запрета на изменения, которые делают усвоение этого темпа по-настоящему трудным».

Он указал, что обновление Anthropic на самом деле показывает, что «узкое место в кибербезопасности сместилось с поиска уязвимостей на усвоение исправлений и быструю адаптацию защиты клиентов, чтобы не отставать».

Его мнение перекликается с мнением Anthropic, которая отметила, что «узким местом в исправлении таких ошибок является человеческий потенциал для триажа, отчетности, разработки и развертывания исправлений для них».

Операционное давление нового графика установки исправлений «так же насущно, как и наступательная угроза», — сказал Мегу. «Мы отреагировали, внедрив аудит с помощью ИИ в наш собственный конвейер разработки и ужесточив SLA по установке исправлений для критических зависимостей у клиентов. Но это не простой в управлении процесс. Мы не слепо доверяем LLM или агентам действовать автономно, и это привело к значительным изменениям в процессах, где оператор помогает при интеграции LLM».

Как также отметил Дэвид Шипли, генеральный директор Beauceron Security, «заголовок, который привлекал всеобщее внимание, — это 10 000 потенциальных уязвимостей, которые он обнаружил, а затем, из них 6 000 оказались критическими, но когда вы на самом деле сокращаете цифры, вы приближаетесь к 1 500, которые на самом деле проверены человеком и являются законными, и это довольно большое падение».

«[Anthropic также заявила, что] 90% из 1 752 уязвимостей с более высоким критическим рейтингом, которые были проверены человеком, оказались точными», — сказал он. «Отлично, но это означает, что это все еще около 15% от общего числа, которое он нашел».

По словам Шипли, критический вопрос, на который еще предстоит ответить, — это стоимость обнаружения каждой из этих уязвимостей. «Сколько токенов вы сжигаете? Я слышал, что это около 500 долларов в минуту, поэтому мне очень интересно узнать, какова стоимость», — сказал он. «Конечно, если они могут сказать нам, ‘как мы это нашли’, [они могут ответить] сколько вычислительных ресурсов это стоило?»

Он добавил, что единственное окончательное решение — «сделать создателей программного обеспечения ответственными за свое программное обеспечение. Это единственный выход из этой передряги, потому что это фундаментальное несоответствие, которое привело нас сюда».