Компания Anthropic начала расширять доступ к своей модели для поиска уязвимостей Mythos, позволив Cisco и IBM включить ее в состав своих продуктов безопасности.

Cisco объявила об интеграции сегодня на мероприятии в Мельбурне, Австралия, где было представлено, что инструменты красной команды в ее пакете AI Defense, который ищет слабые места и ненадлежащее поведение в моделях ИИ, агентах и приложениях, которые они поддерживают, смогут использовать Mythos для тестирования конфигураций клиентов.

«На очень высоком уровне AI Defense способен анализировать модели и находить в них уязвимости», — заявил Джефф Шульц, старший вице-президент Cisco по стратегии портфеля и маркетингу. Он добавил, что инструмент теперь «суперзаряжен Mythos» и сможет выявлять больше угроз, с которыми затем будет бороться AI Defense.

AI Defense уже использует красную команду на основе ИИ для поиска уязвимостей. Mythos станет еще одним вариантом. Cisco предоставит его в рамках существующих лицензий пользователей без дополнительной платы.

Натали Мид, руководитель отдела прикладного ИИ Anthropic в Азиатско-Тихоокеанском регионе, заявила, что у компании большая очередь покупателей, желающих использовать Mythos, и сотрудничество с Cisco облегчит удовлетворение этого спроса.

Изначально Anthropic предоставляла Mythos в рамках «Project Glasswing», программы, которая давала проверенным организациям доступ к модели для тестирования их кодовых баз, но с тех пор расширила доступ через другие контролируемые программы. Это разумное решение, поскольку в недобросовестных руках Mythos может помочь злоумышленникам использовать уязвимости программного обеспечения.

Сделка с Cisco раскрывает функциональность Mythos для конечных пользователей, не позволяя им использовать саму модель.

«The Register» спросил Мид, есть ли у Anthropic аналогичные сделки с другими третьими сторонами, но она уклонилась от ответа. Возможно, это связано с тем, что через несколько часов после того, как Cisco рассказала нам об использовании Mythos, IBM объявила, что также интегрирует модель Anthropic в свой продукт — инструмент Concert, который использует ИИ для сканирования приложений на предмет рисков и уязвимостей.

IBM заявляет, что будет использовать Mythos «для выявления уязвимостей, которые упускают традиционные сканеры, определения тех, которые представляют реальный риск, и генерации исправлений для утверждения разработчиками».

Мы обратились к Anthropic с вопросом, означают ли эти интеграции решение открыть Mythos для большего числа пользователей и в большем количестве сценариев. Мы обновим эту статью, если получим существенный ответ.

Также в понедельник Anthropic представила версии 5.2 Mythos и Fable, которые, по утверждению компании, генерируют выходные данные до 30 % быстрее, чем версия 5.1, при этом стоят дешевле: 8 долларов за миллион входных токенов и 40 долларов за миллион выходных токенов.

Пользователи могут выбрать режим «быстрой работы» для обеих моделей, который ускоряет генерацию токенов до 2,5 раз и удваивает цены до 16 долларов за миллион входных токенов и 80 долларов за миллион выходных токенов.

Anthropic заявляет, что «провела обширное предварительное тестирование безопасности модели, лежащей в основе Fable 5.2 и Mythos 5.2. Это включало разработку новых оценок, которые дают более глубокое представление о конкретных вызывающих беспокойство поведением, таких как побег из песочницы».

После этих тестов компания пришла к выводу, что «высокорисковые угрозы, связанные с несоответствием, остаются низкими, и модель показала себя так же хорошо или лучше, чем наши последние модели, по большинству показателей соответствия».

«Защитные механизмы Fable 5.2 в области кибербезопасности и биологии так же надежны, как и у Fable 5.1, но производят меньше ненужных блокировок, и мы внедрили наши самые сильные на сегодняшний день меры защиты от атак дистилляции».

Последнее является показательным признанием, учитывая, что Anthropic считает, что китайские ИИ-лаборатории используют дистилляцию для эффективного клонирования ее моделей без дорогостоящей работы по обучению. ®

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.