Компания Cerebras, разработчик ИИ-чипов, представила CS-4 — стоечное решение, включающее три недавно выпущенных процессора Wafer Scale Engine 3 Turbo (WSE-3T).
Как заявляет компания, CS-4, первый представитель архитектуры стоечных платформ Cerebras Nexus, в два раза быстрее предыдущего поколения CS-3 и обеспечивает преимущество в 30 раз по количеству токенов в секунду на пользователя по сравнению с решениями на базе GPU.
CS-4 имеет модульную конструкцию, ориентированную на вычисления, питание и ввод-вывод (I/O). Он оснащен «задним ранцем», который крепится вертикально к силовому массиву и поддерживает преобразование питания, прямое жидкостное охлаждение и высокоскоростной ввод-вывод в едином корпусе, встроенном непосредственно вокруг пластины.
По словам Cerebras, разделение вычислительного модуля и источников питания упрощает производственный процесс, а время развертывания сокращается с дней до часов.
CS-4 обеспечивает 750 петафлопс ИИ-вычислений, пропускную способность ввода-вывода 7,2 терабит в секунду и пропускную способность памяти 129,6 петабайт в секунду. Cerebras отмечает, что стоечное решение поддерживает «создание очень больших кластеров» для моделей с более чем 50 триллионами параметров.
В свою очередь, чип WSE-3T, лежащий в основе решения, обеспечивает 250 петафлопс ИИ-вычислений на пластину, пропускную способность памяти 43,2 петабайта в секунду и 44 ГБ статической памяти SRAM. Содержа 4 триллиона транзисторов и 900 000 оптимизированных для ИИ ядер на площади 46 225 квадратных миллиметров (71,6 квадратного дюйма) кремния, Cerebras заявляет, что WSE-3T, как и его предшественник WSE-3, является «крупнейшим из когда-либо созданных ИИ-процессоров».
«В сфере ИИ скорость — это производительность», — заявил Эндрю Фельдман, генеральный директор и сооснователь Cerebras. «Раньше быстрый вывод означал использование меньших и менее мощных моделей. Cerebras CS-4 обеспечивает лидирующую в отрасли скорость работы с крупнейшими frontier-моделями, принципиально меняя парадигму. Каждый аспект конструкции оптимизирован для достижения максимальной скорости при огромной пропускной способности. С CS-4 ИИ настолько быстр, что фундаментально меняет восприятие продукта».
Первые поставки CS-4 ожидаются в текущем квартале.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Charlotte Trueman
