*Meta Muse использует агентов на хостах AMD EPYC Turin с двумя ядрами и 8 ГБ памяти

Meta Muse Amd Epyc ии безопасность аппаратное обеспечение tomshardware.com

Новый ИИ Muse от *Meta работает на AMD EPYC Turin. Каждый пользователь получает частную песочницу с 2 vCPU и 8 ГБ ОЗУ. Узнайте о возможностях и рисках безопасности!

Новый ИИ-агент *Meta Muse работает на базе систем AMD EPYC Turin, каждая песочница оснащена двумя выделенными ядрами и 8 ГБ памяти. Блогер Эван Хоффман и аналитик Тэ Ким обнаружили, что Muse может выполнять некоторые базовые команды Ubuntu по запросу, передавая вывод для идентификации таких вещей, как характеристики хост-системы. Более тревожным является то, что Muse, похоже, способен выполнять потенциально небезопасные команды: Хоффман утверждает, что Muse предложил настроить SSH для частной виртуальной машины Muse. Оба, Ким и Хоффман, спрашивали Muse о характеристиках виртуальной машины, и в обоих случаях Muse сообщил, что работает на процессорах AMD EPYC 9D25, чипе Turin высокой плотности с до 128 ядрами. Виртуальные машины работают под управлением Ubuntu 24.04 и используют ядро Linux 7.0. Системы, на которых работает Muse, не включают GPU. ИИ-агент сообщил, что *Meta использует отдельные серверы GPU для инференса, изолируя агент в песочницы только на CPU. Агент предполагает, что каждый пользователь получает свою собственную частную песочницу, которая является постоянной, что позволяет нам провести некоторые расчеты того, сколько людей может разместить один лоток. Предполагая 2P-систему, предлагающую до 512 vCPU с 2 ТБ памяти, она может разместить до 256 пользователей Muse. По сообщениям, Muse превысил 500 000 активных пользователей в день несколько дней назад, что составит около 2000 серверных лотков с двумя процессорами EPYC 9D25 и 2 ТБ памяти. Это лишь грубые расчеты, не воспринимайте их как истину в последней инстанции. Возможно, *Meta развернула серверы только на CPU с несколькими различными чипами для размещения Muse, и также возможно, что в конфигурации есть накладные расходы. Например, чипы Turin поддерживают до 6 ТБ памяти с модулями DIMM высокой плотности. Тем не менее, хосты EPYC, похоже, популярны для этого варианта использования, в основном из-за их плотности ядер, поскольку даже песочница с двумя ядрами может быстро увеличиться при умножении на сотни тысяч (или даже миллионы) пользователей. Muse не полностью открыт. Хоффман поделился примером, когда попытка команды завершилась неудачей из-за неправильных разрешений, когда Muse пытался запросить буфер ядра. Предположительно, команды sudo (администраторские) также будут заблокированы. Однако могут оставаться некоторые уязвимости безопасности. Хоффман говорит, что Muse предложил настроить SSH в частную виртуальную машину Muse. С помощью обратного SSH-туннеля, при котором целевая машина инициирует соединение, обходя брандмауэр, злоумышленник может выполнить более разрушительные команды. Однако этого пока не произошло. Muse в настоящее время доступен в виде приложения для Android, iOS и MacOS. Другие платформы могут получить доступ к нему в браузере с учетной записью *Meta.

*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: