Китайская академия информационных и коммуникационных технологий (CAICT) опубликовала свой отчет за 2026 год о производительности сервисов токенов больших моделей. Отчет подготовлен совместно с ключевой лабораторией Министерства промышленности и информационных технологий по оценке больших моделей и аппаратного и программного обеспечения, а также с Альянсом индустрии искусственного интеллекта. В нем используются данные мониторинга за период с января по август 2026 года и сравниваются официальные платформы моделей с сторонними поставщиками, обслуживающими четыре модели с открытым исходным кодом: DeepSeek, Qwen, GLM и Kimi.

Использование быстро растет. По данным CAICT, в июне 2026 года ежедневное потребление токенов в Китае достигло примерно 500 триллионов, что почти в четыре раза больше, чем в декабре 2025 года. Все больше платформ «модель как услуга» продают токены через публичные облачные API, но отчет показывает, что пользователям по-прежнему не хватает четких способов оценки качества услуг, и они часто испытывают трудности с выбором поставщика.

Скорость улучшилась. Средняя пропускная способность вывода для отечественных моделей достигла 78,23 токенов в секунду в августе, что примерно вдвое больше среднего показателя за 2025 год — 38,25. Задержка изменилась в противоположном направлении: среднее время до первого токена составило 1,26 секунды в августе, по сравнению с 0,78 секунды в 2025 году. CAICT утверждает, что это не просто снижение производительности. Более крупные модели, более длинные контексты и больший объем вызовов одновременно увеличили задержку, и отчет выявил ту же тенденцию в типичных моделях с других рынков.

Цены выросли после двух лет снижения. CAICT сообщает, что нормализованная средняя цена отечественных моделей составила 6,8 юаня во второй половине 2025 года и 13,46 юаня на данный момент в 2026 году, что означает увеличение почти на 100 процентов. Типичные модели с других рынков, выпущенные в 2026 году, в среднем стоили около 117,8 юаня на той же нормализованной основе.

Контекстные окна продолжают увеличиваться. Среди отслеживаемых моделей 47,8 процента теперь поддерживают 1 миллион токенов, а 95,7 процента поддерживают не менее 200 000, что более чем на 76 процентных пунктов выше, чем в конце 2025 года.

Производительность также сильно зависит от платформы. Пропускная способность четырех моделей с открытым исходным кодом продолжала расти после обновлений версий в мае. В августе DeepSeek-V4-Pro достигла вдвое большей пропускной способности, чем DeepSeek-V3.2. Тем не менее, пропускная способность, задержка и процент успешных запросов одной и той же модели значительно различались между платформами, с разрывами в пропускной способности почти в 2 раза, причем некоторые сторонние платформы превосходили официальные. CAICT объясняет эти различия различиями в ускорении инференса, оптимизации и контроле затрат. Все данные взяты из отчета CAICT.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.