Новости: инференс

Когда AMD Helios встречается с гигантскими пластинами Cerebras, это не встреча Одиссея с лестригонами, а коллаборация для создания дата-центра будущего. Узнайте, как новая платформа объединяет EPYC и WSE для ускорения инференса ИИ в 5 раз.

Три гарвардских dropout создали чипы и память для ускорения инференса любых ИИ-моделей без GPU. Etched привлекла $500 млн при оценке $10 млрд, удвоив её за 7 месяцев. Узнайте, как низковольтный инференс и кластерная память меняют рынок.

Узнайте о серверном чипе Frozen v2 от Google, встраивающем архитектуру Gemini прямо в кремний. Оцените прирост в 6–10 раз больше токенов на ватт по сравнению с TPU и снижение задержек для новых ИИ-приложений. Поймите, как Google обходит дефицит ИИ-вычислений и готовит запуск к 2028 году.

Ищите альтернативы Nvidia? Кредит под залог чипов на $400 млн от Upper90 финансирует недорогой инференс на чипах SambaNova. Узнайте, как General Compute строит неоклауд для открытых моделей, бросая вызов монополии. Откройте для себя фрагментацию рынка ИИ-инфраструктуры.

Запускайте ИИ-модели прямо в браузере без сервера: LiteRT.js (9 июля 2026) ускоряет вывод до 3× быстрее TensorFlow.js и до 60× на GPU — без затрат на облако и без утечки данных с устройства. Используйте WebGPU, WebAssembly и XNNPACK для vision, аудио и эмбеддингов. Начните с @litertjs/core на npm.

Узнайте, как Furiosa AI готовится удвоить производство чипов до 50 000 единиц и выпустить 2-нм чип «Stork», чтобы бросить вызов доминированию NVIDIA в инференсе. Читайте о планах, характеристиках и сроках.

SambaNova привлекла $1 млрд в раунде Серии F. JPMorganChase развернет аппаратное обеспечение RDU для локального инференса.

Французский ИИ-стартап ZML, поддержанный Янном ЛеКуном, выпустил ZML/LLMD — ПО, которое может сделать запуск ИИ менее затратным, позволяя использовать разные чипы на максимальной скорости.

Ведущая китайская ИИ-фирма DeepSeek работает над собственным чипом — ускорителем инференса, что может снизить зависимость от NVIDIA и Huawei. Китай стремится к отечественным ИИ-решениям, несмотря на ограничения на импорт GPU.

DeepSeek и Zhipu AI присоединяются к OpenAI и Anthropic в разработке собственных чипов для инференса, что сигнализирует о структурном сдвиге, когда ведущие ИИ-лаборатории стремятся к созданию собственного кремния для снижения затрат и уменьшения зависимости от GPU.