Компания Tongyan Lingzhi, созданная на базе платформы Beijing Institute for General Artificial Intelligence (BIGAI), представила свой подход к так называемому персональному ИИ: моделям, которые продолжают обучаться на основе данных конкретного человека, проекта или компании, а не только на основе запросов и извлечения информации.
Большинство современных корпоративных ИИ адаптируются к пользователям извне. Запросы устанавливают правила, извлечение информации подтягивает документы, память сохраняет состояние, а пакеты навыков содержат многократно используемые шаги, но собственные веса модели редко меняются после взаимодействия. Tongyan Lingzhi утверждает, что стабильные привычки, такие как инженерные соглашения команды или дисциплина управления рисками инвестиционной группы, могут быть вместо этого обучены в параметрах.
Архитектура компании включает общую базовую модель для общих знаний и рассуждений, а также добавляет легкие адаптеры Personal LoRA для каждого человека, проекта или организации. Компания заявляет, что цель состоит в том, чтобы эти персональные возможности сохранялись при смене базовой модели.
Для обеспечения постоянного обучения этих адаптеров команда разрабатывает рекурсивное самосовершенствование, или RSI. Траектории задач, исправления, внесенные человеком, и результаты становятся кандидатами для обучающих данных. Оценщик, настроенный на стандарты каждого пользователя или компании, фильтрует сигналы, из которых стоит учиться, перед инкрементальным обновлением LoRA. Обновленная модель перезапускается на тех же задачах, что и старая версия, и в продакшн выходят только улучшения, а откаты отменяются. Главный технический директор Чу Бинбин отметил, что один отклоненный совет — это всего лишь сигнал, и только повторяющиеся закономерности должны становиться обучающими данными.
Компания также работает над инфраструктурой, чтобы сделать тысячи адаптеров доступными по цене. TIP выполняет обучение и инференс параллельно на одних и тех же GPU, а Paged LoRA управляет памятью адаптеров по страницам. В одном из этапов тестирования с Qwen2.5-72B-Instruct на восьми GPU Nvidia H800 и бюджете памяти адаптера 5,79 ГБ Paged LoRA показал лучшую задержку и поведение в хвосте по сравнению с плоской компоновкой, когда запросы LoRA составляли от 1% до 30% трафика, но производительность снизилась при 50%.
Tongyan Lingzhi открыто признает, что работа находится на ранней стадии. Компания заявляет, что технический маршрут RSI и архитектура продукта определены, модули разрабатываются, но полностью автоматизированный цикл обучения все еще находится в разработке, а нерешенными проблемами остаются катастрофическое забывание, загрязнение обратной связи и дрейф модели.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
