Qualcomm объявила, что ее кремний первого поколения High Bandwidth Compute (HBC) прошел проверку в лаборатории компании в Сан-Диего, предоставив ранние аппаратные доказательства для разработки памяти, ориентированной на инференс ИИ. Чип, по-видимому, выполнил полный путь чтения-записи памяти и вычисления вблизи памяти в производственных размерах, используя стандартное отраслевое автоматизированное тестовое оборудование со случайными весами и активациями.
Ожидается, что Dragonfly AI250 от производителя чипсетов поступит в образцы в первой половине 2027 года
Цель — пропускная способность памяти, которую Qualcomm называет основным ограничением для инференса LLM, поскольку каждый сгенерированный токен требует подачи данных модели в вычислительные блоки. При работе в масштабе дата-центра энергия и задержка этого перемещения влияют на пропускную способность, энергопотребление и общую стоимость владения. HBC призван решить эту проблему, размещая вычисления ближе к памяти, чтобы сократить перемещение данных и увеличить эффективную пропускную способность.
Конструкция HBC от Qualcomm объединяет маломощные кристаллы LPDDR поверх активного кристалла ускорителя ИИ с использованием соединения кристалл-к-кристаллу, что сокращает расстояние перемещения данных с миллиметров до микрометров. Как сообщает HotHardware, этот подход обеспечивает 18-кратное увеличение эффективной пропускной способности памяти по сравнению с LPDDR5X и более чем 5-кратное увеличение пропускной способности на ватт по сравнению с прогнозируемыми спецификациями HBM4.
Однако улучшения эффективности оказались немного ниже 6-кратного ориентира, который Qualcomm прогнозировала ранее. В сноске самой компании из Сан-Диего указано, что эти цифры являются оценками, основанными на измеренных результатах кремния, нормализованных к целевым условиям эксплуатации и сравниваемых с опубликованными спецификациями конкурирующих продуктов, и что окончательная производительность может варьироваться в зависимости от реализации, рабочей нагрузки и конфигурации системы.
Qualcomm также описывает поэтапную программу, охватывающую архитектуру, разработку процессов, тестовые образцы, проверку кремния и интеграцию продуктов, и заявляет, что работала с партнерами по литью и сборке для квалификации соединения кристалл-к-кристаллу. Для устранения дефектов в своих стекированных слоях конструкция включает резервирование и переназначение, позволяя обходить неисправную память. Производитель чипсетов также указывает на более чем десятилетний опыт работы с памятью на логике, включая коммерческое прямое соединение DRAM с логикой и участие в формировании стандартов JEDEC LPDDR.
Ожидается, что коммерческие продукты от Qualcomm будут использовать четырехслойный стек DRAM, вместо двухслойного. Говоря о продуктах, Dragonfly AI250 нацелен на выпуск образцов в первой половине 2027 года и будет интегрирован в инфраструктуру инференса Qualcomm Dragonfly Rack. Что касается спецификаций, то аппаратное обеспечение включает полнофункциональный стоечный сервер с жидкостным охлаждением, 38,6 ТБ памяти и эффективной пропускной способностью 7,4 петабайт в секунду.
Внутренняя стратегия запуска Qualcomm будет смещаться в сторону серверов, поскольку компания планирует развернуть свой серверный ЦП C1000 на базе Oryon в 2027 году, а затем следующее поколение HBC в Dragonfly AI300 в 2028 году. Хотя это, безусловно, улучшение, важно помнить, что эти результаты получены в лаборатории Qualcomm на ранних образцах кремния, и существует вероятность, что независимые тесты покажут другую картину, о чем мы сообщим читателям в будущем.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Omar Sohail
