Компания Nvidia адаптирует свою популярную платформу DGX Spark и SoC GB10 к реалиям современных моделей ИИ и дефициту кремниевых компонентов. Компания представляет версию Spark с 64 ГБ памяти, которая будет более доступной для локальных разработчиков ИИ, которым не требуется 128 ГБ ОЗУ.
Когда мы впервые начали изучать возможности DGX Spark и аналогичных систем, общепринятым мнением было то, что для самых интеллектуальных моделей потребуется большой объем ОЗУ. Поэтому унифицированные системы памяти на базе AMD Strix Halo, Nvidia GB10 и чипов Apple M-серии могли быть сконфигурированы с 128 ГБ памяти или более.
Но область ИИ развивается стремительно. Высокоинтеллектуальные плотные модели, такие как Qwen 3.8 27B, теперь могут комфортно размещаться в 32 ГБ ОЗУ (хотя и с ограниченным контекстом), поэтому 128 ГБ памяти оригинальной Spark не являются обязательными для локального инференса. А стремительный рост цен на ОЗУ означает, что чип, постоянно сопряженный со слишком большим количеством дорогостоящей LPDDR5X, является скорее препятствием для входа, чем преимуществом. Таким образом, более доступная Spark с меньшим объемом ОЗУ имеет смысл для тех, кому нужны возможности и поддерживающий стек программного обеспечения Nvidia GB10 Superchip, и кто может обойтись меньшим объемом памяти.
«Более доступная» DGX Spark, конечно, понятие относительное на современном рынке. Системы GB10 с 64 ГБ от Acer, Asus, Dell, Gigabyte, HP и MSI должны поступить в продажу 23 октября по цене от 4999 долларов США. Учитывая постоянно меняющиеся цены на память и хранилища данных, они могут не остаться на этом уровне надолго. Если предположить, что вы сможете найти систему GB10 с 128 ГБ в наличии, то сейчас она обойдется вам примерно в 7000–9000 долларов США, что значительно выше даже скорректированной рекомендованной розничной цены Nvidia.
Помимо изменения объема памяти, 64 ГБ Spark сохранят тот же сетевой адаптер ConnectX 7 RDMA NIC, что и их 128 ГБ аналоги. Это означает, что их по-прежнему можно объединять в кластеры для увеличения объема памяти и производительности инференса, если пользователь в конечном итоге превысит пределы 64 ГБ ОЗУ. Тот же 20-ядерный процессорный комплекс Arm от оригинальной Spark остается без изменений, как и 273 ГБ/с общей пропускной способности памяти для ЦП и ГП.
Чтобы помочь использовать этот сетевой адаптер ConnectX 7 NIC, Nvidia также упрощает объединение Spark в кластеры с помощью нового программного инструмента Nvidia Sync Cluster Assistant, который автоматизирует процесс их совместной работы. (Sync — это приложение для удаленного подключения и управления Spark, которое позволяет пользователям использовать вычислительную мощность Spark для ИИ с других компьютеров Mac и ПК).
Этот инструмент дополняет различные утилиты, разработанные сообществом, которые появились за последний год, чтобы сделать кластеризацию более бесшовным процессом, как мы использовали в наших экспериментах по объединению двух систем Dell GB10 в начале этого года.
Nvidia также добавляет в Sync функцию Model Launcher, которая автоматически загружает и запускает модели, такие как упомянутый Qwen 3.8 27B, на одной или нескольких системах и связывает их с браузерным агентом кодирования OpenCode, чтобы пользователи могли немедленно начать использовать свои локальные фабрики токенов для агентных рабочих процессов.
128 ГБ DGX Spark и аналогичные системы останутся доступными для тех, кому требуется место для более крупных моделей и для масштабирования в кластерах, или для более требовательной к памяти локальной работы с ИИ, такой как дообучение моделей. Таким образом, добавление 64 ГБ Spark в линейку DGX Spark не имеет никаких недостатков. На сегодняшнем волатильном рынке полезно иметь выбор, и 64 ГБ Spark предоставляет энтузиастам локального ИИ еще один вариант, лучше соответствующий их бюджету и рабочим процессам.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jeffrey Kampman
