Anthropic выпускает новые модели Mythos и Fable на фоне опасений по поводу RSI

ии Anthropic Fable модели ии-стартапы квантовые вычисления techcrunch.com

Anthropic снижает цены на Fable 5.2 и повышает скорость ответов. Новая модель совместима с политикой ZDR и демонстрирует улучшенные скрытые возможности. Отчет METR указывает на приближение к рекурсивному самосовершенствованию.

Примечательно, что Anthropic снижает стоимость Fable с 10 до 8 долларов за миллион входных токенов. В результате Fable 5.2 теперь дешевле своего основного конкурента GPT-6 Astra. Anthropic заявляет, что новая версия Fable будет возвращать ответы на 30% быстрее при любых уровнях нагрузки. Ускоренное обслуживание для инференса доступно по двойной цене.

Fable 5.2 также совместим с политикой нулевого хранения данных (ZDR) благодаря системе Enterprise Frontier Safeguards, что долгое время было камнем преткновения для многих корпоративных клиентов.

Это первый выпуск модели от Anthropic после публикации стороннего отчета от оценочной группы METR, который предполагал, что лаборатория может приближаться к рекурсивному самосовершенствованию (RSI) — способности ИИ-моделей самостоятельно продолжать обучение. Отчет METR показал, что внутренние модели ускоряют прогресс Anthropic в области ИИ примерно в 2 раза, хотя остается много неопределенностей.

Тем не менее, в релизе Anthropic отмечаются значительные текущие проблемы с точным тестированием возможностей моделей. «Claude Mythos 5.2 и Fable 5.2 оба выражают подозрение, что их оценивают чаще, чем любые из наших недавних моделей, что затрудняет оценку их поведения в реальных условиях. Поскольку эти условия расширяются, а возможности растут с будущими моделями, мы ожидаем, что эта проблема будет усугубляться».

Anthropic утверждает, что новая версия Mythos не обладает способностью действовать скрытно против пользователя, что подробно описано в системной карте Mythos 5.2.

«Claude Mythos 5.2 демонстрирует более сильные скрытые возможности, чем предыдущие модели Claude, по нескольким нашим оценкам, особенно когда его рассуждения скрыты от наблюдателя», — говорится в системной карте. «Тем не менее, мы считаем, что низкие уровни абсолютной производительности в наших новых скрытых оценках подтверждают утверждения, основанные на обнаружении вредоносных действий в ситуациях с высокими ставками».

Fable 5.2 был доступен избранным сторонам в предварительной версии некоторое время, и Anthropic заявляет, что модель уже «решила две открытые проблемы теоретической физики, формализовала последний теорему Ферма и поддержала множество других исследовательских проектов».

Также в понедельник ИИ-стартап Physical Superintelligence объявил о новом доказательстве гипотезы Ааронсона-Амбайниса, что является ключевым шагом в установлении теоретических пределов квантовых вычислений. Примечательно, что лаборатория сообщила, что результат был достигнут путем запуска «непубличной модели Anthropic» в собственной системе PSI. Anthropic не подтвердил и не опроверг, была ли Fable 5.2 той самой моделью.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:

Похожие новости: