Компания DeepSeek незаметно выпустила значительное обновление оптимизации инференса для своего семейства моделей V4, представив фреймворк спекулятивного декодирования DSpark, который обеспечивает прирост скорости генерации от 60% до 85% без изменения базовой архитектуры модели. Наблюдатели в отрасли рассматривают это как поворотный сигнал о том, что центр тяжести конкуренции в сфере ИИ смещается от гонки вооружений в области масштабов обучения к совершенству в инженерии инференса.
Спекулятивное декодирование, лежащее в основе DSpark, работает путем сопоставления легковесной черновой модели с основной моделью. Черновая модель генерирует длинную последовательность токенов за один прямой проход, а затем основная модель проверяет ее пакетом. Такое отделение черновой генерации от верификации значительно снижает задержку на токен. Инновация DSpark заключается в механизме верификации с планированием по степени уверенности, который динамически регулирует длину черновика в зависимости от текущей вычислительной нагрузки, минимизируя напрасную проверку токенов, которые, вероятно, будут отклонены.
Практическое влияние существенно. В производственных средах модели ИИ все чаще обслуживают сложные рабочие процессы агентов, требующие множественных вызовов инструментов, длинных цепочек рассуждений и взаимодействия в реальном времени с внешними системами. Медленный инференс напрямую приводит к плохому пользовательскому опыту — длительному ожиданию, неполному выполнению задач и снижению надежности агента. Ускорение, обеспечиваемое DSpark, напрямую решает эту проблему, делая сложные многоэтапные рабочие процессы агентов жизнеспособными в масштабе.
Стратегический выбор DeepSeek опубликовать в открытом доступе не только DSpark, но и весь стек обучения DeepSpec, заслуживает внимания. DeepSpec поддерживает модели конкурентов, такие как Qwen3 от Alibaba, фактически позиционируя инструментарий оптимизации инференса DeepSeek как отраслевой стандарт. Предоставляя инструменты бесплатно по лицензии MIT, DeepSeek укрепляет влияние бренда и привязку к экосистеме — разработчики, которые обучают свои черновые модели на DeepSpec, знакомятся с философией и инфраструктурой оптимизации DeepSeek.
Время выбрано стратегически. Поскольку индустрия ИИ все больше осознает, что стоимость и задержка инференса — а не только возможности модели — определяют реальное внедрение, фокус DeepSeek после привлечения финансирования на оптимизацию инференса позволяет ей привлекать корпоративных клиентов, которым необходимы быстрое и экономически эффективное развертывание. Хотя это не крупное обновление версии модели, реальное значение DSpark может затмить значение выпуска новой модели, поскольку оно напрямую затрагивает экономику развертывания ИИ в масштабе.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
