Гигант в области ИИ Anthropic представил Project Glasswing — инициативу в сфере кибербезопасности, построенную вокруг Claude Mythos Preview, модели, которую компания описывает как «кибербезопасность в эпоху ИИ» и которая способна автономно выявлять уязвимости программного обеспечения в больших масштабах.
Вместо публичного выпуска модели Anthropic ограничивает доступ закрытым консорциумом из более чем 40 компаний, в который входят Amazon, Microsoft, Apple, Google (принадлежит Alphabet) и Linux Foundation, а также небольшая группа поставщиков решений по безопасности, таких как CrowdStrike, Palo Alto Networks и Cisco.
«Mythos делает первый шаг более очевидным: как только передовые ИИ смогут проводить поиск ошибок в больших масштабах, логика оплаты людям за рутинное обнаружение начинает рушиться», — говорит Джефф Уильямс, основатель OWASP и технический директор Contrast Security.
По словам Anthropic, цель состоит в применении этих возможностей в контролируемой оборонительной среде, что позволит участвующим организациям тестировать и улучшать безопасность широко используемого программного обеспечения и инфраструктуры.
Сдвиг в экономике поиска уязвимостей
В ходе раннего тестирования, по утверждению Anthropic, модель выявила тысячи критических уязвимостей в операционных системах, браузерах и другом широко используемом ПО. Некоторые из них сохранялись, несмотря на обширный предварительный анализ — включая 27-летнюю уязвимость в OpenBSD, долгое время считавшейся одной из самых защищенных операционных систем и широко используемой в критической инфраструктуре.
Как и во многих ранних заявлениях о возможностях ИИ, результаты в значительной степени основаны на самоотчетах и лишь частично поддаются внешней проверке, но они указывают на четкое направление: обнаружение уязвимостей становится более автоматизированным и масштабируемым.
Этот сдвиг поднимает вопросы о том, как организуется и оценивается работа в сфере безопасности.
Для Уильямса из OWASP подрыв начинается с экономики. Если системы ИИ могут выполнять поиск уязвимостей в больших масштабах, обоснование опоры на поиск ошибок, управляемый человеком, — особенно рутинное обнаружение — ослабевает.
Но последствия выходят за рамки программ поощрения за обнаружение ошибок (bug bounty programs). «Это угрожает не только баг-баунти», — говорит он. «Это угрожает самой идее, что безопасность может оставаться запоздалой мыслью по принципу «найти и исправить». Эра отставания в области безопасности подходит к долгожданному концу».
От управления бэклогом к риску окна воздействия
Проблема, как формулирует Уильямс, заключается не просто в количестве существующих уязвимостей, а в том, как ими управляют. «Mythos делает одну вещь болезненно очевидной», — говорит он. «Это не проблема приоритизации. Это проблема окна воздействия».
Традиционное управление уязвимостями строилось на приоритизации — ранжировании проблем по степени критичности, возможности эксплуатации и влиянию на бизнес, а затем поэтапном устранении.
Уильямс утверждает, что ограничивающим фактором является уже не то, насколько хорошо организации расставляют приоритеты, а то, как долго уязвимости остаются незащищенными.
Адаптация к киберзащите на базе ИИ
Энтони Гриеко, старший вице-президент и главный специалист по безопасности и доверию в Cisco, помещает это развитие в более широкий операционный контекст. В записи в блоге Гриеко утверждает, что организации должны «подняться на уровень эпохи киберзащиты на базе ИИ», что отражает сдвиг как в ландшафте угроз, так и в возможностях, необходимых для реагирования.
Cisco входит в число организаций, участвующих в Project Glasswing, присоединяясь к тому, что Anthropic описывает как совместные усилия по применению передовых возможностей ИИ для оборонительных сценариев безопасности. Гриеко подчеркивает, что программы безопасности должны будут развиваться параллельно с быстро развивающимися возможностями ИИ.
«Возможности ИИ будут продолжать расти, поверхность угроз будет меняться, и организациям, защищающим интернет, придется работать со скоростью машин и в масштабах сетей», — говорит Гриеко. «Многое из того, что мы наблюдаем сейчас, было бы невообразимо всего несколько лет назад. Нет финишной черты, есть только обязательство делать все возможное, чтобы опережать противников».
Для руководителей служб безопасности это сочетание — более масштабируемое обнаружение и необходимость действовать быстрее — ставит под сомнение давние предположения о том, как управляются риски. Бэклоги, долгое время считавшиеся неизбежной операционной реальностью, становится труднее оправдать, если уязвимости могут быть выявлены быстрее и полнее.
Сдвиг к истокам — и открытые вопросы о контроле
«Будущее принадлежит программным фабрикам, которые могут надежно производить безопасный код и подтверждение этого», — говорит Уильямс, указывая на модель, в которой безопасность встраивается в процессы разработки, а не устраняется в основном после развертывания.
Акцент Гриеко на адаптации к угрозам на базе ИИ соответствует этому направлению, подчеркивая необходимость для организаций развивать как свои инструменты, так и свои представления о том, как быстро могут меняться условия, связанные с безопасностью.
В то же время остаются вопросы о том, насколько широко распространятся эти возможности. Anthropic решила ограничить доступ к Mythos Preview, что отражает двойственный характер систем, которые могут выявлять уязвимости ПО в больших масштабах, но также могут ускорить их эксплуатацию.
«Весьма сомнительно, что Anthropic сможет ограничить злонамеренное использование этой модели», — говорит Уильямс.
Anthropic выделила 100 миллионов долларов в виде кредитов на использование модели для Project Glasswing, при этом от участников ожидается дополнительное использование в ходе предварительного исследования. Claude Mythos Preview будет доступен через Claude API, Amazon Bedrock, Google Cloud Vertex AI и Microsoft Foundry.
Компания также пообещала финансирование для усилий по обеспечению безопасности с открытым исходным кодом, включая пожертвования Alpha-Omega, OpenSSF и Apache Software Foundation для поддержки мейнтейнеров, реагирующих на эти изменения. Мейнтейнеры, заинтересованные в доступе, могут подать заявку через программу Claude for Open Source.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cynthia Brumfield
