Компания ModelBest представила MiniCPM-V 4.7 — новое поколение своих мультимодальных моделей для работы на устройствах. Модели доступны в двух размерах: 35B-A3B и 1B. Версия 35B-A3B является первой моделью типа mixture-of-experts (MoE) в серии MiniCPM-V. Веса, код и документация опубликованы в репозитории OpenBMB на GitHub под лицензией Apache-2.0.
Основное преимущество — эффективность на смартфонах. ModelBest утверждает, что модель 35B-A3B, активирующая около 3 миллиардов параметров на токен, работает на iPhone 17 Pro Max, используя всего около 3 ГБ памяти и обрабатывая более 13 токенов в секунду. Компания связывает это с новой техникой ускорения инференса под названием LES (lookahead expert scheduling). ModelBest описывает модель как первую модель MoE с открытым исходным кодом, которая может работать без потерь и плавно на устройстве.
По результатам тестов, представленных командой разработчиков, модель 35B-A3B набрала 91,72 балла в MMBench, 91,2 балла в OCRBench и 90,21 балла в CMMLU. В режиме Instruct, по данным ModelBest, она превосходит Qwen3.6 35B-A3B по общему количеству баллов при меньшем времени обработки. Версия 1B улучшает показатели MiniCPM-V 4.6 в базовых возможностях и, по заявлению компании, опережает Qwen3.5 0.8B как по общему результату, так и по эффективности инференса.
В ходе практических тестов, опубликованных QbitAI, модель обрабатывала запросы на основе диаграмм и конвертировала научные статьи в Markdown в автономном режиме на смартфоне. Этот сценарий использования ориентирован на работу с локальными документами в условиях конфиденциальности.
MiniCPM-V 4.7 поддерживает iOS, Android и HarmonyOS, а также адаптирована для чипсетов от Intel, AMD, Arm, Rockchip и Houmo AI, охватывая как мобильные устройства, так и локальные ПК. Вместе с моделью ModelBest открыла доступ к Self-Replay Fine-Tuning (SRFT) — методу дообучения, предназначенному для помощи разработчикам в добавлении новых возможностей с минимальными затратами и ограничением забывания существующих навыков.
Выпуск модели продолжает последовательную работу над линейкой MiniCPM, вслед за MiniCPM-V 4.6 в мае и текстовой моделью MiniCPM5-2B в сентябре.
СМОТРИТЕ ТАКЖЕ:MiniCPM-V 4.6: Tsinghua Spinoff открывает исходный код 1.3B мультимодальной модели, работающей на одной RTX 4090 · OpenBMB выпускает MiniCPM5-2B как открытую SOTA-модель для устройств с параметрами менее 4B
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
