Новости: кластер

ModelSphere объединяет кластерное обслуживание, KV-кэширование и AutoTune под лицензией Apache 2.0 с заявленной поддержкой Ascend, Iluvatar, Moore Threads и Hygon DCU. Разверните ИИ-модели эффективно!

Запустите 120B LLM на бюджетном оборудовании! Узнайте, как объединить ПК и смартфон для работы с ИИ, и оцените компромиссы в скорости. Экспериментируйте с моделями ИИ без дорогостоящих комплектующих.

Первый отечественный кластер TPU развернут в Ханчжоу: 1024 чипа, 400 PFLOPS. Планируется расширение до 10 000+ PFLOPS. Узнайте о технологии PD-разделения и преимуществах TPU второго поколения Xuyu.

Узнайте о полной экосистеме космических вычислений в Чэнду: 102 предприятия, объем 13 млрд юаней, пул фондов 350 млрд юаней и первая в мире орбитальная группировка ИИ из 12 спутников.

Компания Sugon представила бескабельную супернодовую систему scaleX40, призванную заполнить нишу между малыми серверами и крупными ИИ-кластерами. Система предлагает конфигурацию на 40 GPU с энергопотреблением на 40–70% ниже, ориентирована на корпоративные ИИ-развертывания стоимостью от $1–2 млн. — pandaily.com