28 октября компания Iluvatar CoreX на своем медиа-дне в Шанхае впервые продемонстрировала в работе на реальном оборудовании универсальный графический процессор Tiangai 300. До этого момента публичные материалы компании о чипе были сосредоточены на архитектуре и дорожных картах, а не на работающих системах.
Главный показатель — сравнение производительности. Iluvatar CoreX утверждает, что Tiangai 300 — первый отечественный универсальный GPU, измеренная производительность которого достигла уровня NVIDIA H200, а сторонние тесты, после пересчета, ставят общую пропускную способность карты в 1,05 раза выше, чем у H200. Это заявление компании. Iluvatar CoreX не опубликовала методику тестирования, использованные модели или условия нагрузки, поэтому результат пока нельзя проверить независимо.
Чип предназначен для установки в суперноду IXL144, которую компания ранее представила на Китайской международной промышленной выставке. Один стойка IXL144 объединяет 144 GPU с 18 ЦП и около 10,1 ТБ памяти GPU, что, по описанию Iluvatar CoreX, является самой плотной в отрасли одностоечной супернодой GPU. По собственной оценке компании, такая конфигурация снижает стоимость миллиона эффективных токенов на 40% по сравнению с основными международными решениями.
На открытом дне также были представлены новости о гетерогенном развертывании. Iluvatar CoreX заявляет, что реализовала первую отечественную схему дисагрегации AFD между GPU и XPU, сократив задержку инференса на 60%. Дисагрегация AFD обычно относится к разделению этапов вычислений модели, таких как слои внимания и полносвязные слои, между различными типами процессоров, чтобы каждый из них выполнял работу, с которой справляется лучше всего.
На периферийном уровне компания сообщила, что ее чип Tongyang TY1200 превосходит NVIDIA Thor T5000 в ее тестах, опять же без публикации подробностей. TY1200, ранее анонсированный с 300 TOPS плотных вычислений для ИИ-ПК и воплощенного интеллекта, также заявлен как первый отечественный периферийный продукт, способный выполнять ускоренное GPU моделирование физики на основе MuJoCo-Warp, что важно для обучения роботов в симуляции.
В совокупности эти демонстрации выводят следующее поколение продуктов Iluvatar CoreX из стадии бумажных спецификаций к работающим системам. Независимые бенчмарки с раскрытыми рабочими нагрузками станут следующим шагом для наблюдения.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
