Новости: инференс

Стартап Baseten, по сообщениям, близок к завершению раунда на 1,5 млрд долларов при оценке в 13 млрд долларов на фоне продолжающейся «золотой лихорадки инференса». — techcrunch.com

Прорывной анализ SemiAnalysis выявил, что DeepSeek V4 и ускоритель Huawei Ascend 950DT были спроектированы совместно, что объясняет резкое снижение цен DeepSeek и рост доли рынка, бросая вызов доминированию NVIDIA. — pandaily.com

Аналитики Wells Fargo предполагают, что Qualcomm углубит партнерство с AWS по AI-чипам, что поможет AWS улучшить маржу и снизить затраты на инференс. Ожидается, что AWS станет ключевым партнером для будущих чипов AI200. — wccftech.com

Если те же рабочие нагрузки ИИ могут быть решены более дешевыми моделями без ущерба для качества, это будет означать массовый сдвиг в экономике ИИ. Рост затрат заставляет пользователей искать более доступные модели. — techcrunch.com

В гонке за доминирование в сфере аппаратного обеспечения для ИИ долгое время господствовала простая мудрость: больше вычислительной мощности — лучше. Модели с триллионом параметров требуют инфраструктуры триллионного масштаба, и индустрия добросовестно создавала всё более крупные кластеры NVIDIA. — pandaily.com

Воздушное охлаждение GPU для рабочих нагрузок инференса. Intel анонсировала GPU Crescent Island на архитектуре Xe3P с памятью LPDDR5X. — datacenterdynamics.com

Сервис Zerogrid от Zero Latency направляет рабочие нагрузки инференса ИИ на граничные мощности, создавая сеть с низкой задержкой для ИИ-приложений. — datacenterdynamics.com

Производитель чипов Groq стремится привлечь 650 миллионов долларов внутреннего финансирования, переключаясь с аппаратного обеспечения на более активное развитие инференса ИИ — процесса уточнения ответа моделей ИИ на запросы, по данным Axios. — techcrunch.com

General Compute делает ставку на то, что SambaNova станет следующим прорывным производителем чипов, привлекая $15 млн для своего неооблачного сервиса инференса ИИ. — techcrunch.com

Китайский разработчик ИИ-чипов Moffett AI, пионер в области разреженных вычислений, привлек почти 1 млрд юаней в раунде Серии C для коммерциализации своей карты SparsePrime. — pandaily.com