Anthropic не планировала представлять Mythos именно таким образом. Подробности о том, что компания называет своей самой мощной на данный момент моделью ИИ, просочились в Сеть в результате утечки данных из ее системы управления контентом (CMS), раскрыв LLM с заметно улучшенными навыками рассуждения и кодирования.
Утечка данных, ставшая результатом случайного обнародования сотрудниками компании материалов о LLM, включая черновик сообщения в блоге о ней, через общедоступное хранилище данных, была впервые обнаружена независимыми исследователями безопасности на прошлой неделе.
После обнаружения проблемы Anthropic ограничила публичный доступ к хранилищу данных, а затем объяснила утечку ошибкой конфигурации в своей CMS и подтвердила существование модели изданию Fortune, которое первым сообщило об утечке.
Инсайдер, специализирующийся на утечках, связанных с Apple, M1Astra также сигнализировал об утечке, заархивировав копию черновика статьи Anthropic в блоге о Mythos в X до того, как доступ был ограничен.
В этом черновике сама Anthropic придерживалась осторожного тона, выражая обеспокоенность по поводу потенциальных последствий работы модели для кибербезопасности.
«Готовясь к выпуску Claude Mythos, мы хотим действовать с особой осторожностью и понимать риски, которые она несет — даже помимо того, что мы узнаем в ходе нашего собственного тестирования», — написала компания, добавив, что особое внимание уделяется оценке краткосрочных рисков кибербезопасности.
В блоге далее говорилось, что Anthropic хочет сначала внедрить Mythos в команды корпоративной безопасности и уже тестирует возможности модели в области кибербезопасности с «небольшим числом клиентов раннего доступа».
Логика кажется очевидной: если сегодняшние модели уже могут выявлять и даже помогать использовать уязвимости программного обеспечения, то более мощная система, такая как Mythos, может значительно ускорить как обнаружение, так и неправомерное использование, повышая ставки как для защитников, так и для злоумышленников.
Парикх Джайн, ведущий аналитик Pareekh Consulting, считает, что Mythos может сыграть двоякую роль для CISO и команд корпоративной безопасности, сокращая разрыв между кибернаступлением и защитой.
В то время как с одной стороны модели вроде Mythos могут трансформировать безопасность за счет автоматизации обнаружения уязвимостей, непрерывного red-teaming, более быстрой сортировки и крупномасштабного поиска угроз, с другой стороны, они могут упростить кибератаки, позволяя агентам ИИ действовать автономно с высоким уровнем мастерства, сказал Джайн.
Этот риск для CISO не является теоретическим, добавил Джайн, поскольку модели предыдущего поколения были быстро перепрофилированы в инструменты для разработки вредоносного ПО.
Риск с Mythos еще выше из-за таких ее возможностей, как «рекурсивное самоисправление», — написал Владимир Беломестнов, старший технический специалист HCLTech, в посте в LinkedIn.
«В файлах утечки подчеркивается способность ИИ автономно выявлять и исправлять уязвимости в собственном коде. Даже если в настоящее время это ограничено ассистированным использованием, это говорит о сужающемся разрыве между человеческой и машинной разработкой программного обеспечения», — написал Беломестнов.
Однако, по-видимому, Anthropic еще далека от полноценного выпуска модели.
«Mythos — это также большая, ресурсоемкая модель. Ее обслуживание очень дорого для нас, и ее использование будет очень дорогим для наших клиентов. Мы работаем над тем, чтобы сделать модель намного более эффективной до какого-либо общего выпуска», — говорится в копии черновика статьи в блоге.
Однако ясно одно: компания уже планирует поэтапное развертывание с акцентом на сценарии использования в области кибербезопасности.
«В ближайшие недели мы будем постепенно расширять доступ к Claude Mythos для большего числа клиентов, использующих Claude API. Поскольку мы особенно заинтересованы в применении в кибербезопасности, именно здесь мы планируем первоначально расширить EAP», — написала компания в черновике статьи в блоге.
Существует еще одна копия статьи в блоге, в которой модель также называется Capybara. Anthropic не дала четкого ответа, каким будет окончательное название модели.
Однако неопределенность с названием модели не помешала ей всколыхнуть рынки на прошлой неделе. Акции поставщиков решений в области кибербезопасности, включая CrowdStrike, Palo Alto Networks, Zscaler и Fortinet, упали, поскольку инвесторы оценивали, что более мощные модели в рамках Claude Code Security могут означать для конкурентной среды.
Тем не менее, директор по исследованиям Avasant, Гаурав Деван, был более оптимистичен в отношении влияния Mythos на поставщиков: «Мощные модели не заменят платформы кибербезопасности».
Скорее, Деван предполагает, что поставщики будут все чаще встраивать передовые модели от Anthropic, OpenAI и других в свои стеки для обнаружения уязвимостей, управления состоянием кода и облачных сред, а также автоматизации расследования инцидентов и реагирования на угрозы.
«Можно ожидать партнерств и контролируемой интеграции, а не устранения посредников. Наибольшую выгоду получат поставщики, которые уже владеют телеметрией, рабочими процессами и механизмами принуждения», — добавил Деван.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anirban Ghoshal
