Новости: инференс

Китайский стартап DeepSeek разрабатывает собственные AI-чипы. Это ранний этап, но план состоит в снижении зависимости от Nvidia и Huawei.

Модель NVIDIA Nemotron TwoTower на основе диффузии достигает 2,42-кратного увеличения пропускной способности LLM без полного переобучения, сохраняя 98,7% качества авторегрессионного базиса путем разделения моделирования контекста и шумоподавления токенов на две специализированные башни, построенные на одном замороженном базисе. Веса и код обучения открыты.

Возможно грядущее разделение уровня ChatGPT Pro: в геномной статье OpenAI от 30 июня перечислены GPT-5.6 Luna Pro, Terra Pro и Sol Pro — впервые в официальном документе названо более одной конфигурации Pro. Это будет самое большое изменение в плане за $200/мес с момента запуска. OpenAI не подтвердила.

Несмотря на заявления о 80% простаивающих дата-центров, ландшафт вычислительных мощностей ИИ в Китае сталкивается со структурным несоответствием, когда фактическая мощность значительно отстает от заявленной.

Alibaba Cloud ускоряет глобальную экспансию, открывая новые дата-центры в Париже и Джохоре, используя рост спроса на инференс ИИ для конкуренции с AWS и Azure на международных рынках.

DeepSeek анонсирует официальный релиз V4 в середине июля, вводя пиковое ценообразование API в 2 раза выше стандартных тарифов с 9:00 до 12:00 и с 14:00 до 18:00, что сравнивают с тарифами на электроэнергию по времени суток.

Система инференса DSpark от DeepSeek и Пекинского университета получила всесторонний технический анализ от основного мейнтейнера PyTorch Дмитрия Джулгакова, который выделил ее полупараллельное черчение и инженерную проработку для продакшена.

Фреймворк спекулятивного декодирования DSpark от DeepSeek знаменует собой стратегический сдвиг, поскольку конкуренция в сфере ИИ переходит от масштабов обучения к эффективности инференса и реальному развертыванию.

DeepSeek выпускает фреймворк спекулятивного декодирования DSpark, ускоряющий генерацию на 85% в первой статье Ляна Вэньфэна после раунда финансирования компании на $7 млрд.

Un0 — это инструмент для генерации изображений, который впервые показывает, как технология компании может воспроизводить возможности традиционных систем ИИ.