Сразу после объявления о расширении мощностей и быстром росте доходов крупный разработчик ИИ Anthropic заявляет, что его новая передовая большая языковая модель (LLM) Claude Mythos обладает функциями кибербезопасности нового уровня и объявила о создании Проекта Glasswing с рядом громких партнеров, чтобы протестировать Mythos в контролируемой среде, прежде чем выпустить ее в мир.
Когда мы говорим громкие имена, мы имеем в виду гигантов — среди участников Проекта Glasswing, цель которого — «обеспечить безопасность самого критически важного программного обеспечения в мире», — Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks. Вы можете ознакомиться с мнением Cisco об этой инициативе в этом блоге.
Anthropic также сообщает, что «расширила доступ для группы из более чем 40 дополнительных организаций, которые создают или поддерживают критически важную программную инфраструктуру, чтобы они могли использовать модель для сканирования и защиты как собственных, так и систем с открытым исходным кодом», и предлагает до 100 миллионов долларов в виде «кредитов на использование Mythos Preview» для поддержки таких усилий.
Anthropic заявляет, что сформировала эту инициативу «из-за возможностей, которые мы наблюдали в новой передовой модели, обученной Anthropic, которые, по нашему мнению, могут коренным образом изменить кибербезопасность. Claude Mythos Preview — это общецелевая, невыпущенная передовая модель, которая выявляет суровый факт: модели ИИ достигли такого уровня возможностей кодирования, что могут превзойти всех, кроме самых опытных людей, в поиске и использовании уязвимостей программного обеспечения». Anthropic предоставляет много информации о своих заявлениях относительно Mythos и ее относительных возможностей в различных тестах в этом длинном посте на своем веб-сайте.
Компания считает, что мы достигли переломного момента в роли ИИ в кибербезопасности. «Многие недостатки в программном обеспечении остаются незамеченными годами, потому что их поиск и использование требовали экспертизы, которой обладают лишь немногие опытные специалисты по безопасности. С новейшими передовыми моделями ИИ стоимость, усилия и уровень экспертизы, необходимые для поиска и использования уязвимостей программного обеспечения, резко снизились. За последний год модели ИИ стали все более эффективными в чтении кода и рассуждении о нем — в частности, они демонстрируют поразительную способность обнаруживать уязвимости и находить способы их использования. Claude Mythos Preview демонстрирует скачок в этих кибернавыках — обнаруженные ею уязвимости в некоторых случаях пережили десятилетия человеческого обзора и миллионы автоматизированных проверок безопасности, а разрабатываемые ею эксплойты становятся все более изощренными».
В результате этих глубоких возможностей Anthropic заявляет, что Mythos Preview «уже обнаружила тысячи уязвимостей высокой степени серьезности, в том числе в каждой крупной операционной системе и веб-браузере». Компания добавляет: «Учитывая темпы прогресса ИИ, скоро такие возможности распространятся, потенциально за пределы тех, кто стремится безопасно их развернуть… Проект Glasswing — это срочная попытка направить эти возможности на оборонительные цели».
Отмечается: «Хотя риски от кибератак с использованием ИИ серьезны, есть повод для оптимизма: те же возможности, которые делают модели ИИ опасными в чужих руках, делают их бесценными для поиска и исправления недостатков в важном программном обеспечении — и для создания нового ПО с гораздо меньшим количеством ошибок безопасности. Проект Glasswing — это важный шаг к предоставлению защитникам прочного преимущества в наступающую эпоху кибербезопасности, управляемой ИИ».
Но поскольку такие модели могут использоваться как во благо, так и во зло, Anthropic заявляет, что не планирует делать Claude Mythos Preview общедоступной. Вместо этого ее «конечная цель — дать нашим пользователям возможность безопасно развертывать модели класса Mythos в масштабе — для целей кибербезопасности, а также для бесчисленных других преимуществ, которые принесут такие высокопроизводительные модели. Для этого нам необходимо добиться прогресса в разработке мер кибербезопасности (и других) защиты, которые обнаруживают и блокируют наиболее опасные результаты работы модели. Мы планируем выпустить новые средства защиты вместе с предстоящей моделью Claude Opus, что позволит нам улучшать и дорабатывать их с помощью модели, которая не представляет такого же уровня риска, как Mythos Preview».
Компании, участвующие в Проекте Glasswing, будут использовать Mythos Preview в рамках своей оборонительной работы по безопасности, при этом Anthropic обязуется «делиться тем, что мы узнаем, чтобы вся отрасль могла извлечь выгоду».
Anthropic отмечает: «Партнеры Проекта Glasswing получат доступ к Claude Mythos Preview для поиска и устранения уязвимостей или слабых мест в своих базовых системах — системах, которые составляют очень большую часть глобальной поверхности кибератак. Мы ожидаем, что эта работа будет сосредоточена на таких задачах, как локальное обнаружение уязвимостей, тестирование бинарных файлов в режиме черного ящика, защита конечных точек и тестирование систем на проникновение».
Компания заключила: «Мы надеемся, что Проект Glasswing сможет послужить отправной точкой для более масштабных усилий в промышленности и государственном секторе, когда все стороны будут помогать решать самые большие вопросы, касающиеся влияния мощных моделей на безопасность. Мы приглашаем других участников индустрии ИИ присоединиться к нам в установлении стандартов для отрасли. В среднесрочной перспективе идеальным домом для продолжения работы над этими крупномасштабными проектами в области кибербезопасности может стать независимый орган третьей стороны, который сможет объединить организации из частного и государственного секторов».
Но по крайней мере один отраслевой аналитик скептически относится к тому, что Mythos — это все, чем ее представляет Anthropic. Опытный наблюдатель технологического сектора Ричард Уиндзор отмечает в своем последнем блоге Radio Free Mobile, что в прошлом было много заявлений о том, что базовые модели настолько мощны и функциональны, что представляют угрозу для мира, если станут общедоступными, но в конечном итоге они выпускаются как раз тогда, когда намечаются раунды финансирования.
«Anthropic снова нагнетает ажиотаж, заявляя, что ее модель Mythos настолько хороша, что ее слишком опасно делать общедоступной, и она разрешает доступ к ней лишь нескольким предварительно проверенным компаниям», — пишет Уиндзор. «Я предполагаю, что на самом деле Mythos находится в бета-версии и проходит мягкий запуск у нескольких доверенных партнеров, чтобы можно было устранить неполадки и ошибки перед ее общим выпуском… Я думаю, этот комментарий — просто очередной обычный хайп, и Mythos будет выпущена, когда будет готова к выходу на рынок, поскольку нет никаких шансов, что она сможет командовать армией роботов для уничтожения человечества. На самом деле, более вероятно, что она сделает что-то непоправимо глупое, что навредит ее пользователю из-за потери данных или взлома, и именно эту опасность Anthropic и пытается устранить».
Возможно, это так, но если объединенные силы, стоящие за Проектом Glasswing, смогут помочь устранить эти неполадки и ошибки и сдвинуть с мертвой точки возможности оборонительной кибербезопасности, это может помочь выиграть время и помочь коллективному технологическому сектору найти наилучший способ предотвратить использование злоумышленниками квантовых компьютеров для обхода мировой киберзащиты.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ray Le Maistre
