METASTONE запускает мультимодальный сервис инференса и заявляет об ускорении видео в 2,48 раза в собственных тестах

Metastone ии видеогенерация мультимодальность оптимизация pandaily.com

Мультимодальный сервис METASTONE объединяет адаптивное кэширование, сжатие токенов и Context Engine. Ускорение видео в 2,48 раза и заявленное качество — результаты внутренних тестов поставщика.

Китайский провайдер вычислительной инфраструктуры METASTONE представил сервис мультимодальной модели, объединяющий ускорение генерации видео, управление кэшем и памятью, сжатие токенов и Context Engine для преобразования справочных материалов в структурированные инструкции по генерации, сообщает китайское технологическое издание QbitAI 16 ноября.

Компания заявляет, что сервис ориентирован на производственные рабочие процессы, где быстрая генерация одного видео — лишь часть проблемы. Давление памяти, одновременные задачи и переход от понимания исходного материала к созданию готового ролика также влияют на пропускную способность и надежность.

Метод ускорения видео использует остаточную информацию из исторических кэшей для определения того, какие вычисления могут быть повторно использованы. Там, где оценочный риск низок, он повторно использует предыдущие результаты; там, где ошибки могут накапливаться, он обновляет и перекалибрует вычисления. METASTONE представляет это как альтернативу простому пропуску большего количества шагов генерации.

При условиях, показанных в релизе, компания сообщает о среднем ускорении от начала до конца в 2,48 раза по сравнению с базовой линией с плотными вычислениями при сохранении качества генерации. Это собственные тесты поставщика, а не независимо проверенные результаты. Ноябрьское сообщение не устанавливает, что такой же прирост или сохранение качества будут сохраняться на различном оборудовании, моделях и рабочих нагрузках.

Сама цифра не нова: в сентябрьских китайских отчетах упоминался результат в 2,48 раза для движка *Meta-Infer от METASTONE в тесте преобразования изображений в видео MiniMax H3. Текущая новость касается более широкого мультимодального сервиса и его компонентов рабочего процесса, а не нового рекорда ускорения или напрямую сравнимого свежего бенчмарка.

Для управления ресурсами компания объединяет свои решения по кэшированию с SGLang, используя повторное использование, фрагментацию, сжатие и планирование для уменьшения избыточной работы и ненужных накладных расходов на видеопамять. Утверждается, что обратная связь во время выполнения корректирует решения о повторном использовании по мере выполнения задач.

В части понимания METASTONE описывает метод сжатия токенов, не требующий обучения и адаптивный к модальности, с использованием осведомленности о модальности на основе AudioCLIP. Компания сообщает об ускорении в 1,33 раза на WorldSense и благоприятной производительности на VideoMME и DailyOmni. Эти заявления также исходят из собственной оценки поставщика, а не из независимого воспроизведения.

Context Engine связывает эти этапы. Он извлекает персонажей, голоса и ограничения из изображений, видео, аудио и текста, а затем организует кадры, действия и диалоги в структурированные инструкции. Привязка материалов, проверка временных шкал и исправление ошибок предназначены для сохранения взаимосвязей между ссылками.

METASTONE заявляет, что архитектура сервиса охватывает доступ по API, оркестрацию задач, маршрутизацию моделей, инференс и доставку, с управлением параллелизмом и механизмами восстановления. Таким образом, запуск объединяет несколько уровней оптимизации в производственный сервис; это само по себе не доказывает неизменное качество при каждой настройке ускорения.

Источники: QbitAI Service Release · QbitAI September *Meta-Infer Report · METASTONE Official Chinese Site.

*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: