Хотя широко распространено мнение, что чипы гиганта в области ИИ-GPU компании NVIDIA предлагают превосходную совокупную стоимость владения (TCO) по сравнению с альтернативными специализированными ИИ-чипами, аналитики Evercore ISI считают, что инженеры ИИ не впечатлены ими. Генеральный директор NVIDIA Дженсен Хуанг неоднократно отстаивал ценовую политику своей компании в отношении ИИ-чипов, заявляя, что они обеспечивают лучшую энергоэффективность по сравнению с конкурентами. Однако, согласно отчету Evercore, при выборе продуктов инженеры ИИ также обращают внимание на другие метрики, такие как стоимость охлаждения чипов.
Потребление энергии и охлаждение важны для оценки стоимости ИИ-чипов NVIDIA, заявляет банк
Обсуждение Evercore о стоимости использования ИИ-чипов NVIDIA происходит вскоре после того, как заметка Morgan Stanley затронула этот вопрос. В своем обзоре Morgan Stanley утверждал, что, хотя строительство дата-центра с использованием графических процессоров Blackwell от NVIDIA обходится вдвое дороже, чем с использованием специализированных ИИ-чипов, производительность Blackwell на ватт была в восемь раз выше.
Однако в своем обзоре Evercore отмечает, что инженеры ИИ рассматривают факторы, отличные от производительности на ватт, при оценке ИИ-чипов. Цитируя инженеров ИИ и других представителей индустрии гиперскейлеров, финансовая фирма указывает, что пользователи чипов также смотрят на другие факторы при использовании чипов NVIDIA.
Стремление улучшить экономику подталкивает инженеров к альтернативам NVIDIA, заявляет фирма
По данным Evercore, переход от «режима, ориентированного на обучение» к «режиму, ориентированному на инференс» «усиливает акцент на стоимости за токен, ROI и TCO, что ускоряет интерес гиперскейлеров к собственным ASIC и альтернативным ускорителям». Это утверждение перекликается с заявлениями эксперта из провайдера инфраструктуры ИИ-вычислений Nebius. Эксперт отмечал, что графические процессоры оцениваются по таким метрикам, как стоимость за миллион сгенерированных токенов.
Финансовая фирма также указывает, что переход к инференсу смещает «критерии покупки от максимальной пропускной способности/BW к стоимости за токен, энергопотреблению, охлаждению, утилизации, TCO». Она добавляет, что «заявления NVIDIA о 35-кратном увеличении не находят отклика у среднего инженера ИИ на фоне убеждения, что 70% валовой прибыли являются чрезмерными. В результате, Evercore отмечает, что средний инженер «готов использовать ASIC или «достаточно хорошие» альтернативы для улучшения экономики»».
Эксперт Nebius указал, что спрос на инференс составляет до 95% всех рабочих нагрузок предприятий. По мнению эксперта, чипы Groq также предпочитают из-за их более высокой пропускной способности.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ramish Zafar
