Во вторник компания Anthropic представила свою новейшую модель ИИ под названием Claude Mythos. Эта «универсальная, невыпущенная передовая модель» настолько впечатляюще мощная, что Anthropic опасается выпускать ее для широкой публики.
Предварительная версия Claude Mythos «превосходит всех, кроме самых опытных специалистов, в поиске и использовании уязвимостей программного обеспечения», и у нее есть доказательства, подтверждающие это. Всего за последние несколько недель она смогла обнаружить тысячи ранее неизвестных уязвимостей нулевого дня, в том числе:
- 27-летняя уязвимость в OpenBSD (одной из самых безопасных операционных систем в мире, используемой для критической инфраструктуры), которая позволяла злоумышленникам удаленно вызвать сбой любой машины OpenBSD просто путем подключения к ней.
- 16-летняя уязвимость в FFmpeg, фреймворке с открытым исходным кодом, используемом тысячами приложений для кодирования и декодирования видео.
- Несколько уязвимостей в ядре Linux, которые позволяли злоумышленникам повышать привилегии и полностью контролировать машину.
Предварительная версия Claude Mythos обнаружила все эти проблемы безопасности автономно, доказывая, насколько бесценной она может стать для будущего кибербезопасности. Идея состоит в том, что Anthropic хочет, чтобы Claude Mythos использовалась во благо, а не во зло, для защиты от всех дополнительных угроз безопасности, которые возникли (и продолжают возникать) с повсеместным распространением генеративного ИИ.
Мы не планируем делать предварительную версию Claude Mythos общедоступной, но наша конечная цель — дать нашим пользователям возможность безопасно развертывать модели класса Mythos в масштабе. […] Для этого нам необходимо добиться прогресса в разработке мер кибербезопасности (и других) защиты, которые обнаруживают и блокируют наиболее опасные результаты работы модели.
Claude Mythos является частью новой инициативы Project Glasswing — крупной программы по обеспечению безопасности, в которой участвуют 11 партнеров Anthropic: Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, The Linux Foundation, Microsoft, Nvidia и Palo Alto Networks.
Дальнейшее чтение:Советы по Claude, которые помогут избежать превышения лимитов использования
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mikael Markander
