Вместо того чтобы выпустить Mythos в открытый доступ, передовая лаборатория поделится им с группой крупных компаний и организаций, управляющих критически важной онлайн-инфраструктурой, от Amazon Web Services до JPMorgan Chase. По сообщениям, OpenAI также рассматривает аналогичный план для своего нового инструмента кибербезопасности. Предполагается, что это позволит крупным предприятиям опередить злоумышленников, которые могут использовать передовые LLM для проникновения в защищенное ПО.
Однако слово «предполагается» в предыдущем предложении намекает на то, что в этой стратегии выпуска может быть нечто большее, чем просто кибербезопасность — или преувеличение возможностей модели.
Дэн Лахав, генеральный директор лаборатории кибербезопасности в сфере ИИ Irregular, еще в марте, до выпуска Mythos, заявил TechCrunch, что, хотя обнаружение уязвимостей инструментами ИИ имеет значение, конкретная ценность любой слабости для атакующего зависит от множества факторов, включая то, как эти уязвимости могут быть использованы в комбинации.
«Вопрос, который всегда занимает мой ум, — сказал Лахав, — заключается в том, нашли ли они нечто, что можно использовать сколь-нибудь значимым образом, будь то по отдельности или в составе цепочки?»
Anthropic утверждает, что Mythos способен эксплуатировать уязвимости гораздо лучше, чем их предыдущая модель Opus. Но неясно, является ли Mythos действительно панацеей среди моделей кибербезопасности. Стартап в области кибербезопасности Aisle заявил, что смог воспроизвести многое из того, что, по утверждению Anthropic, сделал Mythos, используя меньшие модели с открытым весом. Команда Aisle утверждает, что эти результаты показывают, что не существует единой модели глубокого обучения для кибербезопасности; все зависит от конкретной задачи.
Учитывая, что Opus уже считался прорывом в области кибербезопасности, есть еще одна причина, по которой передовые лаборатории могут захотеть ограничить выпуск крупными организациями: это создает маховик для заключения крупных корпоративных контрактов, одновременно затрудняя конкурентам копирование их моделей с помощью дистилляции — техники, которая использует передовые модели для дешевого обучения новых LLM.
«Это маркетинговое прикрытие для того факта, что самые передовые модели теперь доступны только по корпоративным соглашениям и больше не доступны для дистилляции небольшим лабораториям», — предположил в посте в социальной сети Дэвид Кроушоу, инженер-программист и генеральный директор стартапа exe.dev. «К тому времени, когда вы и я сможем использовать Mythos, появится новая топовая версия, доступная только для предприятий. Этот конвейер помогает поддерживать приток корпоративных денег (а это большая часть денег), оттесняя компании, занимающиеся дистилляцией, на второй план», — сказал Кроушоу.
Этот анализ совпадает с тем, что мы наблюдаем в экосистеме ИИ: гонка между передовыми лабораториями, разрабатывающими самые большие и мощные модели, и такими компаниями, как Aisle, которые полагаются на несколько моделей и рассматривают открытые LLM, часто из Китая и часто, как утверждается, разработанные путем дистилляции, как путь к экономическому преимуществу.
В этом году передовые лаборатории заняли более жесткую позицию в отношении дистилляции: Anthropic публично раскрыла то, что она называет попытками китайских фирм скопировать их модели, а три ведущие лаборатории — Anthropic, Google и OpenAI — объединились для выявления и блокировки дистилляторов, согласно сообщению Bloomberg.
Дистилляция представляет угрозу для бизнес-модели передовых лабораторий, поскольку она устраняет преимущества, получаемые за счет использования огромных капиталовложений для масштабирования. Блокирование дистилляции, таким образом, уже является стоящим начинанием, но избирательный подход к выпуску также дает лабораториям возможность дифференцировать свои корпоративные предложения по мере того, как эта категория становится ключом к прибыльному развертыванию.
Остается увидеть, действительно ли Mythos или любая новая модель угрожает безопасности интернета, и осторожный поэтапный запуск технологии — это ответственный путь вперед.
Anthropic не ответила на наши вопросы о том, связано ли это решение также с проблемами дистилляции на момент публикации, но, возможно, компания нашла хитрый способ защитить интернет — и свою прибыль.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
