Пекинская академия искусственного интеллекта (BAAI) подробно описала FlagOS 2.2 — последнюю версию своего открытого программного стека для запуска моделей ИИ на разных архитектурах чипов. Релиз вышел 30 сентября и был представлен на конференции AI Open Computing Conference 2026 в Пекине 17 октября. В BAAI описывают обновление как переход от адаптации моделей под множество чипов к оптимизации общего кода для них.
Главная цифра — масштаб. FlagOS 2.2 охватывает девять библиотек операторов, а число публичных операторов в FlagGems и связанных библиотеках выросло с 564 до 1454 — прирост составил 890. Новая библиотека FlagGems-SGLang добавляет 40 мультичиповых операторов, охватывающих attention, обновления состояний Mamba, mixture-of-experts, LoRA, сэмплирование и квантизацию. BAAI сообщает, что на более чем тысяче операторов для 10 видов ИИ-оборудования общая производительность операторов выросла примерно на 27%.
Значительная часть роста обусловлена автоматизацией. KernelGen — автоматический генератор операторов от BAAI — теперь поддерживает девять ИИ-чипов и за этот квартал создал 765 новых операторов, 416 из которых прошли проверку точности как минимум на пяти отечественных чипах, достигнув более 80% производительности нативных операторов. FlagPrism — унифицированный инструмент отладки и профилирования — связывает исходный код Triton, промежуточное представление компилятора и данные о выполнении на устройстве, а также поддерживает Huawei Ascend, Iluvatar CoreX, Moore Threads, Nvidia и Enflame.
Релиз также добавляет FlagOS-Compressor для межчипового преобразования весов и квантизации. BAAI сообщает, что применение W8A8 к Qwen3.5-397B-A17B сократило файлы модели с 751,41 ГБ до 382,45 ГБ, то есть на 49,1%, при этом результат на GPQA-Diamond составил 84,85%. В сочетании с плагинами для фреймворков vLLM, Megatron-LM, SGLang и других новые модели были адаптированы к 12 чиповым платформам в течение дня после релиза.
Практические примеры сфокусированы на более старом оборудовании. На серверах Ascend 910B, по данным BAAI, логическая пропускная способность сервинга GLM-5.3-Flash в тесте воспроизведения агентных сценариев выросла в 2,04 раза по сравнению с уровнем до оптимизации — с 8,52k до 17,36k токенов в секунду. Модель Xing4.0-29B-A4B от China Telecom была адаптирована для 10 чиповых платформ, при этом время до первого токена в тестах с длинными входными данными снизилось на 19,87% по сравнению с нативными операторами.
В BAAI считают, что проблема заключается в сроках: более 80% развернутых вычислительных мощностей ИИ не относятся к новейшему поколению, а модели быстро меняются. Все цифры получены в ходе собственных тестов BAAI, и в организации отмечают, что реальная производительность сервинга по-прежнему зависит от рабочей нагрузки.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
