У исследователей машинного обучения появился новый и дорогостоящий вариант для локального ИИ. Компания AMD, покопавшись в своих запасах комплектующих, собрала конкурента DGX Station, оснащенного до 576 ГБ памяти HBM3e, который она назвала Threadripper Halo.
Система, анонсированная на IFA 2026 и намеченная к выпуску в следующем году, впервые предлагает ускорители AMD Instinct в форм-факторе рабочей станции.
Однако, как и AI Halo, который мы рассматривали ранее в этом году, Threadripper Halo не предлагает ничего принципиально нового. Система с жидкостным охлаждением оснащена 96-ядерным процессором Threadripper PRO 9995WX, который, как вы, возможно, помните, дебютировал в 2025 году. Процессор дополнен до 2 ТБ оперативной памяти DDR5 и до 2,6 ТБ общей системной памяти.
Как вы, вероятно, уже догадались, AMD позиционирует эту систему как локальную ИИ-рабочую станцию для исследователей. Насколько нам известно, система может быть оснащена до четырех графических процессоров Instinct на базе PCIe — хотя на выставке IFA были представлены системы только с двумя установленными.
MI350P, выпущенный в мае, представляет собой половину MI350X, упакованную в форм-фактор PCIe. Каждый ускоритель содержит 144 ГБ быстрой памяти HBM3e с пропускной способностью 4 ТБ/с и производительностью до 4,6 петафлопс при вычислениях FP4. Однако стоит отметить, что это в конфигурации мощностью 600 Вт. Ожидается, что при установке в Threadripper Halo AMD будет использовать карты в более скромной конфигурации мощностью 450 Вт.
В совокупности Threadripper Halo обещает до 576 ГБ HBM3e и 16 ТБ/с пропускной способности памяти, что позволит системе полностью загружать в память GPU модели размером более триллиона параметров (при четырехбитной точности). Выгружая часть модели в системную память, система сможет запускать крупнейшие модели с открытым весом, такие как Kimi K3 от Moonshot.AI с 2,8 триллионами параметров Kimi K3.
Возможность запускать большие модели передового класса на вашем столе обойдется недешево и может быть доступна не на всех рынках, по крайней мере, без модернизации электросети. AMD не раскрывает цены, но в данной конфигурации ожидается, что стоимость составит от 100 000 до 150 000 долларов США.
Система с четырьмя MI350P будет работать на пределе возможностей стандартной североамериканской розетки, если только AMD не снизит тактовую частоту карт с 600 Вт до 300 Вт или не потребует использования 20-амперной цепи. Это может объяснить, почему система, представленная AMD на IFA, имела только два ускорителя.
При такой цене и уровне энергопотребления система сможет успешно конкурировать с высокопроизводительной ИИ-рабочей станцией Nvidia — DGX Station. Анонсированная на GTC в 2025 году, DGX Station оснащена графическим процессором B300 объемом 252 ГБ и 72-ядерным процессором Grace, а также 496 ГБ памяти LPDDR5x и продается по цене около 100 000 долларов США, если ее удастся найти в наличии.
Компания AMD заявляет, что система предлагает до 3,4 раз больший общий объем системной памяти и более чем вдвое большую пропускную способность памяти по сравнению с DGX Station, что должно дать преимущество в инференсе LLM, при условии, что тензорные параллельные операции не будут ограничены шиной PCIe процессора.
AMD сообщает, что Threadripper Halo будет доступен со следующего года. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tobias Mann
