Новости: moe

Stepfun открывает исходный код Step 3.7 Flash — разреженной LLM на 196B параметров с архитектурой MoE, оптимизированной для рабочих процессов агентов, со скоростью 400 токенов/с и нативным вызовом инструментов. — pandaily.com

Sphere AI Lab открыла исходный код Orbit — фреймворка постобучения RL, который позволяет моделям с триллионом параметров, таким как DeepSeek-V4, проходить тонкую настройку на одном узле 8xB200. — pandaily.com

DeepSeek V4: новая LLM с открытыми весами, снижающая затраты на инференс в разы по сравнению с R1, с поддержкой ускорителей Huawei. — theregister.com

DeepSeek представила API V4 с окном контекста в 1 млн токенов для снижения стоимости обработки ИИ в длинных текстах и расширения доступа разработчиков к мощным моделям. — pandaily.com

Tencent только что открыла исходный код Hy3 preview — модели Mixture-of-Experts с 295 млрд параметров и окном контекста 256K, завершив неделю, которая также принесла 3D-мировую модель и глобальную бету потребительского агента QClaw. Этот всплеск раскрывает продуманную ставку на слой «обвязки» — инженерный каркас инструментов, памяти и рабочих процессов — как на реальную арену, где будет выиграна эра агентов. — pandaily.com

Alibaba открывает исходный код Qwen3.6-35B-A3B, демонстрируя высочайшую производительность в агентном кодировании всего с 3 млрд активных параметров. — pandaily.com

Meituan представила LongCat-Next — мультимодальную модель с 68,5 млрд параметров, способную обрабатывать текст, изображения и аудио в единой среде. Система демонстрирует конкурентоспособную производительность в задачах OCR, генерации изображений и речи, оставаясь на стадии исследований. — pandaily.com

LLM на 400 млрд параметров обычно требуют 200 ГБ ОЗУ, но энтузиаст смог запустить такую модель на iPhone 17 Pro, используя проект Flash-MoE и SSD для потоковой передачи данных на GPU. Скорость генерации — всего 0,6 токена/с. — wccftech.com

StepFun полностью открывает исходный код Step 3.5 Flash, включая базовые веса, веса промежуточного обучения и фреймворк Steptron. Модель MoE на 196B для агентов преодолела отметку в 300 тыс. загрузок. — pandaily.com

Honor открыла исходный код MagicAgent — 30-миллиардной MoE-модели агента, созданной для передового планирования задач и гетерогенной оркестрации. — pandaily.com