Лаборатория LionRock AI при Исследовательском институте передовых технологий China Merchants Group 4 ноября представила Lion-ER-35B-A3B — модель обработки визуальной информации и языка с элементами рассуждений, предназначенную для помощи роботам в понимании трехмерного пространства, состояний объектов и прогресса выполнения задач, сообщает QbitAI. Веса модели доступны на Hugging Face под лицензией Apache 2.0.
Lion-ER, сокращение от LionRock Embodied Reasoner, представляет собой модель типа «смесь экспертов» с примерно 35 миллиардами общих параметров и около 3 миллиардами активных на токен. Согласно описанию модели, она была дообучена на основе Qwen3.6-35B-A3B. Лаборатория утверждает, что модель превзошла свою базовую версию по всем десяти общедоступным бенчмаркам для оценки пространственных рассуждений и понимания действий, достигнув среднего взвешенного показателя 65,29, при этом каждый результат усреднялся по четырем выборкам ответов на каждый вопрос.
Среди индивидуальных результатов лаборатория сообщает показатель Where2Place для пространственного размещения 64,28, что на 9,30 пункта выше, чем у базовой модели, и 64,38 на бенчмарке ERQA для оценки рассуждений, что на 6,19 пункта выше. На бенчмарке SAT для пространственных рассуждений модель показала 89,33, а подкатегория ERQA, связанная с пониманием траекторий, улучшилась на 12,12 пункта до 68,18.
Лаборатория утверждает, что большее количество данных для роботов не означает автоматически большую функциональность. Вместо сбора данных в больших масштабах команда создала то, что они называют движком данных, ориентированным на возможности. Сначала команда разделила рассуждения о действиях на восемь основных областей, включая сущности, пространство, время, физику, возможности взаимодействия, задачи, социальный контекст и доказательства, а также 39 более мелких навыков. Каждый навык затем был преобразован в конкретные обучающие вопросы, уточняющие сцены, наблюдения, вопросы и доказательства, необходимые для проверяемого ответа, при этом вопросы отбрасывались, если визуальные доказательства были недостаточны. Люди-рецензенты проверяли сложные случаи, с которыми модели продолжали ошибаться.
Набор данных для обучения с учителем содержит 312 380 примеров, взвешенных по потребностям в функциональности, а не по объему источников. Затем цикл, управляемый оценкой, возвращает ошибки в процесс производства данных: после исключения ошибок разметки или оценки команда извлекает новый материал с тем же шаблоном рассуждений из пула примерно 4,3 миллиона записей из 31 источника данных. В одном из примеров модель путала положение выше на изображении с положением выше в трехмерном пространстве, поэтому команда добавила сцены с многоуровневыми поверхностями.
В описании модели отмечается, что Lion-ER предназначена для исследований, не была проверена на безопасность при принятии критически важных решений или автономном управлении роботами, и что результаты бенчмарков могут не переноситься на новые среды. Лаборатория также применила тот же подход к меньшим моделям с базой 4B и 9B.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
