Компания Zhipu AI представила GLM-5.1-highspeed — высокоскоростной API-вариант своей большой языковой модели GLM-5.1, обеспечивающий скорость 400 токенов в секунду и, по сообщениям, устанавливающий новый мировой ориентир по скорости инференса среди ведущих поставщиков LLM.
Изначально компания предлагает API GLM-5.1-highspeed избранным корпоративным клиентам, позиционируя его для сценариев использования, требующих генерации текста в реальном времени или близком к реальному в больших масштабах.
При скорости 400 токенов в секунду модель может сгенерировать объем текста, эквивалентный примерно одному дню человеческой работы, примерно за одну минуту, согласно описанию продукта компании. Компания утверждает, что с помощью этой же возможности можно выполнить задачи по разработке, которые обычно требуют трехдневной работы инженера-программиста, за один перерыв на кофе.
API ориентирован на корпоративные приложения, включая автоматизированную генерацию контента, помощников по кодированию и системы взаимодействия с клиентами в реальном времени, где задержка является критически важным показателем производительности.
Zhipu AI, работающая под международным брендом Z.ai, является одной из крупнейших в Китае компаний, занимающихся разработкой ИИ-моделей, и, по анализу International Data Corporation, считается третьим по значимости игроком на китайском рынке LLM.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
