Непрерывная оптимизация NVIDIA своего DGX Spark AI Mini PC обеспечивает прирост производительности до 2,5 раз, что ускоряет создание контента GenAI и многое другое.
NVIDIA DGX Spark AI Mini PC продолжает ускорять генеративный ИИ и ИИ-нагрузки, обеспечивая 2,5-кратный прирост в LLM, 8-кратный в генерации ИИ-видео и многое другое
NVIDIA DGX Spark, мини-суперкомпьютер, разработанный для ИИ-нагрузок, был представлен 15 октября, и с тех пор устройство привлекло большое внимание в этом сегменте. После запуска NVIDIA DGX Spark получил различные обновления и оптимизации, включая последнее OTA-обновление, еще больше повышающее производительность и стабильность.
Сегодня NVIDIA объявила, что с поддержкой NVFP4 DGX Spark обеспечивает 2,5-кратный прирост в модели Qwen 235B (в паре два DGX Spark). Благодаря оптимизациям CUDA, Spark получает 2-кратное улучшение в Omniverse Issac Sim, в то время как другие модели, такие как Qwen3 30B, Stable Diffusion 3.5, демонстрируют прирост более 30%, а обновления PyTorch также показывают хороший прирост.
NVIDIA также расширяет новые руководства DGX Spark Playbooks, которые помогают разработчикам создавать и запускать ИИ-нагрузки. Новые обновления включают семь новых руководств и четыре основных обновления, которые включают:
- vLLM для инференса
- SGLang для инференса
- TRT-LLM для инференса Speculative Decoding
- Запуск Nemotron-3-Nano локально
- Single Cell RDA Sequencing
- Quantitative Portfolio Optimization
- Live VLM WebUI
- Robotics Workflow в Issac Sim и Issac Lab
NVIDIA также выделяет несколько интересных вариантов использования системы DGX Spark, которые можно использовать в качестве разгрузочного блока для ускорения рабочих процессов создателей контента. Один из примеров показывает, как DGX Spark можно объединить с MacBook Pro и ускорить генерацию ИИ-видео в 8 раз. В примере используются возможности DGX Spark FP4 (NVFP4) и FP8 (NVFP8), а также RTX Video Super Resolution для создания видео 4K всего за одну минуту, в отличие от стандартного времени в 8 минут, которое потребовалось бы для этого на MacBook Pro.
Другой пример показывает, как DGX Spark используется для задач 3D-моделирования, таких как RTX Remix. Здесь пользователи могут использовать DGX Spark в системе с RTX GPU и разгружать рабочие процессы, такие как генерация текстур, в то время как RTX 5090 работает над более ресурсоемкими задачами создания, высвобождая ресурсы. Как вычислительные, так и требующие большого объема памяти задачи могут быть перенесены на системы Spark с 128 ГБ для более быстрого и точного улучшения модов.
Кроме того, NVIDIA DGX Spark также может предложить автономную разработку CUDA с использованием Nsight Copilot AI, что из-за его размера в настоящее время возможно только в облаке. Благодаря 128 ГБ унифицированной памяти и 1 PFLOP вычислительной мощности, Nsight Copilot бесперебойно работает на DGX Spark.
В целом, эти обновления доказывают, что DGX Spark — идеальный выбор для разработчиков ИИ и создателей контента, которые хотят ускорить свои ИИ-задачи.
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
8/6
Автор – Hassan Mujtaba
