Новости: инференс

Несмотря на заявления о 80% простаивающих дата-центров, ландшафт вычислительных мощностей ИИ в Китае сталкивается со структурным несоответствием, когда фактическая мощность значительно отстает от заявленной.

Alibaba Cloud ускоряет глобальную экспансию, открывая новые дата-центры в Париже и Джохоре, используя рост спроса на инференс ИИ для конкуренции с AWS и Azure на международных рынках.

DeepSeek анонсирует официальный релиз V4 в середине июля, вводя пиковое ценообразование API в 2 раза выше стандартных тарифов с 9:00 до 12:00 и с 14:00 до 18:00, что сравнивают с тарифами на электроэнергию по времени суток.

Система инференса DSpark от DeepSeek и Пекинского университета получила всесторонний технический анализ от основного мейнтейнера PyTorch Дмитрия Джулгакова, который выделил ее полупараллельное черчение и инженерную проработку для продакшена.

Фреймворк спекулятивного декодирования DSpark от DeepSeek знаменует собой стратегический сдвиг, поскольку конкуренция в сфере ИИ переходит от масштабов обучения к эффективности инференса и реальному развертыванию.

DeepSeek выпускает фреймворк спекулятивного декодирования DSpark, ускоряющий генерацию на 85% в первой статье Ляна Вэньфэна после раунда финансирования компании на $7 млрд.

Un0 — это инструмент для генерации изображений, который впервые показывает, как технология компании может воспроизводить возможности традиционных систем ИИ.

OpenAI анонсировала свой первый специализированный чип Jalapeño для инференса ИИ, созданный в партнерстве с Broadcom. Этот чип, представленный Сэмом Альтманом и Хоком Таном, знаменует начало стратегии компании по созданию собственных ИИ-ускорителей для эпохи агентного ИИ.

Названный Jalapeño, новый процессор был разработан специально для уникальных потребностей систем инференса OpenAI. Он обещает лучшую производительность на ватт, снижая зависимость от Nvidia.

Платформа Agentic MaaS от Infinigence демонстрирует скачок объема вызовов токенов более чем в 20 раз, поскольку расходы на инференс превышают расходы на обучение; компания позиционирует себя как нейтральный инфраструктурный уровень между чипами и моделями. — pandaily.com