Новости: инференс

Zhipu AI подтверждает, что анонимный флагман GLM-5.3-Flash (Ox Alpha) взлетел на первое место по еженедельному объему вызовов ИИ-моделей в мире. Китайские модели удерживают лидерство 18 недель подряд. Узнайте, как модель обогнала конкурентов и почему инференс-трафик смещается в сторону Китая.

Огромные средства вливаются в бизнес бесплатных ИИ-моделей. Узнайте, почему Nvidia, Stripe и другие гиганты скупают разработчиков открытых LLM, как это меняет рынок и стоит ли вашему бизнесу переходить на open-weight модели.

Хвастаться генерацией одного токена — все равно что хвастаться максимальной скоростью автомобиля. Узнайте, почему пиковые показатели Nvidia Groq-3 и Cerebras CS-4 в 3400 ток/с — это маркетинг, а не реальная производительность, и какой бенчмарк действительно важен для премиального инференса.

Zhipu AI раскрыла, что анонимная модель Ox Alpha — это GLM-5.3-Flash, работающая исключительно на кластере из более 100 000 отечественных чипов с эффективностью, сопоставимой с Nvidia. Узнайте, как модель обогнала DeepSeek по трафику и бросила вызов CUDA.

OpenAI представила чип Jalapeño: 128 ускорителей, 1,7 эксафлопс и 27,5 ТБ HBM4 в одной стойке. Узнайте, как новый ИИ-ускоритель превосходит Nvidia и AMD по пропускной способности и задержке, и почему он не заменит GPU.

Пекинский AI-бар раздает бесплатные токены DeepSeek с напитками, запуская модели локально на двух Nvidia DGX Spark. Узнайте, как заведение теряет деньги, автоматизирует работу агентами и планирует внедрить роботов, а также почему выставочные мини-ПК стоят дороже, чем весь бизнес.

Узнайте, почему оценка ИИ-стартапа Etched выросла с $10,3 млрд до $21 млрд за месяц: Jane Street протестировала чип, установила кластер в свой дата-центр и возглавила новый раунд. Читайте о технологиях prefill и decode, которые ускоряют инференс и снижают затраты.

Alibaba запускает поддержку модели Qwen-3.8 27B на собственном чипе XuanTie C950 с первого дня. Узнайте, как RISC-V процессор с 64 ядрами и встроенными ускорителями обеспечивает 30 токенов/с и TTFT 1,9 с, создавая конкурентное преимущество на рынке ИИ.

Groq привлек $350 млн при оценке $3,5 млрд — бывший производитель AI-чипов переходит в неооблачный бизнес, расширяя инфраструктуру Nvidia до 13 дата-центров. Узнайте, как компания планирует масштабировать инференс и конкурировать с CoreWeave.

Французский стартап Kog обещает 30-кратное ускорение LLM-инференса на стандартных датацентровых GPU за счет оптимизации ПО. Компания уже получила 200 коммерческих лидов и планирует в сентябре продемонстрировать 10-кратное ускорение на крупной модели, чтобы привлечь клиентов и закрыть раунд A.