Предварительная версия Claude Mythos, похоже, оправдывает ожидания, по крайней мере, с точки зрения кибербезопасности. Модель, которую Anthropic выпустила для небольшой группы пользователей, включая разработчика Firefox компанию Mozilla в начале этого месяца, обнаружила 271 уязвимость в 148-й версии браузера. Mozilla подчеркнула, что все они были устранены в релизе Firefox 150 на этой неделе.
Эти находки устанавливают новый прецедент в способности ИИ обнаруживать ошибки и могут ускорить усилия по обеспечению кибербезопасности.
«Ничего из того, что нашел Mythos, не смог бы найти опытный человек», — заявил Дэвид Шипли из Beauceron Security. «ИИ не находит новый класс сверхошибок, эксклюзивных для ИИ. Он просто находит много того, что было упущено».
Однако новость появляется на фоне того, что Anthropic, по сообщениям, расследует несанкционированное использование Mythos небольшой группой лиц, которые, по сообщениям, получили доступ через среду стороннего поставщика, что выявляет обоюдоострый характер ИИ.
Закрывая разрыв в фаззинге
Ранее Firefox направлял инструменты ИИ, в частности Claude Opus 4.6 от Anthropic, на свой браузер в поисках уязвимостей, но Opus обнаружил всего 22 уязвимости, влияющие на безопасность, в Firefox 148, в то время как Mythos выявил более чем в десять раз больше.
Технический директор Firefox Бобби Холли описал чувство «головокружения», которое испытала его команда, когда увидела это число. «Для хорошо защищенной цели всего одна такая ошибка была бы сигналом «красной тревоги» в 2025 году», — написал он в сообщении в блоге, — «а такое их количество заставляет задуматься, вообще возможно ли угнаться».
Firefox использует стратегию эшелонированной обороны, при которой внутренние red team применяют множество уровней «перекрывающейся защиты» и методов автоматизированного анализа, пояснил он. Команды запускают каждый веб-сайт в отдельном процессе-песочнице.
Однако ни один уровень не является непроницаемым, отметил Холли, и злоумышленники комбинируют ошибки в коде рендеринга с ошибками в песочницах, пытаясь получить привилегированный доступ. Хотя его команда теперь перешла на более безопасный язык программирования Rust, разработчики не могут позволить себе остановиться и переписать многолетний существующий код на C++, «особенно учитывая, что Rust смягчает только определенные (очень распространенные) классы уязвимостей».
Хотя методы автоматизированного анализа, такие как фаззинг, который выявляет уязвимости или ошибки в исходном коде, полезны, некоторые участки кода труднее подвергнуть фаззингу, чем другие, «что приводит к неравномерному покрытию», указал Холли. Человеческие команды могут находить ошибки, которые ИИ не может, путем логического анализа исходного кода, но это отнимает много времени и ограничивается нехваткой человеческих ресурсов.
Теперь Claude Mythos Preview закрывает этот разрыв, обнаруживая ошибки, которые не выявляет фаззинг.
«Компьютеры были совершенно неспособны делать это еще несколько месяцев назад, а теперь они преуспевают в этом», — отметил Холли. Mythos Preview «столь же способен», как и исследователи-люди, утверждал он, и не существует «категории или сложности» уязвимостей, которые люди могут найти, а Mythos не может.
Защитники теперь могут победить «решительно»?
Разрывы между ошибками, обнаруживаемыми людьми, и ошибками, обнаруживаемыми ИИ, играют на руку атакующим, которые могут позволить себе сосредоточить месяцы человеческих усилий на поиске всего одной уязвимости, которую можно использовать, отметил Холли. Закрытие этого разрыва с помощью ИИ может помочь защитникам подорвать это долгосрочное преимущество.
Индустрия в основном вела борьбу за безопасность «в ничью», признал он, и безопасность была «доминирующей в наступлении» из-за размера поверхности атаки, что давало противникам «асимметричное преимущество». В свете этого и Mozilla, и поставщики решений по безопасности «давно втайне признавали», что свести эксплойты к нулю было «нереалистично».
Но теперь с Mythos (и, вероятно, последующими моделями) у защитников есть шанс победить, «решительно», утверждал Холли. «Дефекты конечны, и мы вступаем в мир, где мы наконец сможем найти их все».
Что сейчас должны делать команды по безопасности
Обнаружение 271 уязвимости в зрелой кодовой базе, такой как Firefox, иллюстрирует тот факт, что управляемое ИИ обнаружение уязвимостей теперь работает в масштабе и глубине, которые могут превзойти традиционный человеческий обзор, отметил Энсар Секер, CISO в компании SOCRadar, занимающейся разведкой киберугроз.
«Головокружение» Холли, по его словам, было вызвано тем, что защитники осознают, что поверхность атаки больше и «быстрее обнаруживается, чем предполагалось ранее».
Команды по безопасности должны отреагировать, перейдя от периодического тестирования к непрерывной проверке, посоветовал Секер. Это означает интеграцию анализа кода с помощью ИИ в конвейеры непрерывной интеграции/непрерывной поставки (CI/CD), приоритизацию «скорости установки исправлений над совершенством» и допущение того, что любой внешний доступный путь к коду в конечном итоге будет обнаружен и использован.
«Цель состоит уже не просто в том, чтобы первыми найти уязвимости, а в сокращении окна между обнаружением и устранением», — сказал он.
Шипли согласился с тем, что любая компания, разрабатывающая программное обеспечение, должна оценить ресурсы, чтобы иметь возможность быстро и проактивно находить и устранять уязвимости. «Но что-то обязательно случится», — признал он. Поэтому, помимо проактивной работы, предприятия должны регулярно отрабатывать свои планы реагирования на инциденты.
«Следующие несколько лет будут марафоном, а не спринтом», — сказал Шипли.
Двойственное назначение ИИ — это вызов
Однако двойственное назначение этих систем представляет собой большую проблему. Секер отметил, что та же самая возможность, которая помогает защитникам выявить сотни ошибок, может быть обращена против них, если модель или ее результаты будут скомпрометированы.
Сообщения о несанкционированном доступе к Mythos «подтверждают, что сами системы ИИ теперь являются целями высокой ценности, фактически становясь частью поверхности атаки», — сказал он.
Шипли согласился, что совсем не удивительно, что люди нашли способ получить доступ к Mythos; это было неизбежно. «И у Anthropic нет какой-то уникальной, непреодолимой или эксклюзивной возможности ИИ для взлома», — сказал он, отметив, что OpenAI уже догоняет в этом отношении, а другие «догонят и превзойдут» Mythos.
Секер отметил, что достижение баланса требует рассматривать модели ИИ как привилегированную инфраструктуру. Предприятиям необходимы строгий контроль доступа, мониторинг вывода и изоляция конфиденциальных рабочих процессов. Разработчики тем временем должны адаптироваться, создавая код, устойчивый к автоматизированной проверке; это требует более строгой проверки входных данных, более безопасных настроек по умолчанию и «меньшего количества предположений об обфускации».
«В этой парадигме безопасность заключается не просто в защите систем; она заключается в защите инструментов, которые теперь способны ломать их в масштабе», — подчеркнул Секер.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Taryn Plumb
