Китайская компания iFLYTEK, занимающаяся искусственным интеллектом, значительно расширила окно памяти для локальных больших моделей. 1 сентября её дочерняя компания со стопроцентным владением запустила и открыла в открытом доступе Spark X2.5-4B и Spark X2.5-1.7B — две периферийные модели, которые iFLYTEK называет первыми в категории устройств с поддержкой до одного миллиона токенов контекста. Обе модели используют гибридную архитектуру внимания и оптимизированы для работы с агентами, кодом, математикой и выполнения инструкций. Компания утверждает, что их производительность превосходит аналогичные открытые модели сопоставимого размера.
Это достижение направлено на решение реальной проблемы локального ИИ: предыдущие периферийные модели часто вынуждали разбивать длинные документы на фрагменты и обрабатывать их по частям, теряя контекст и рискуя получить неверные ответы. Благодаря окну в один миллион токенов, обученному на высококачественных данных, включающих длинные документы и технические материалы, модели могут единовременно обработать целое руководство по послепродажному обслуживанию. В демонстрации компании после загрузки полного руководства модель объединила правила возврата, обработки неисправностей и исключения из разных глав, чтобы ответить, подлежит ли замене устройство, купленное десять дней назад, с использованием расходных материалов сторонних производителей.
Помимо чтения, модели способны действовать. В офисных сценариях Spark X2.5-4B может написать скрипт для агрегации данных о продажах, извлечь ключевые показатели, сгенерировать примерно 3000-значный двуязычный отчёт по отделу и проверить его структуру и оформление — переходя от необработанных данных к готовому отчёту без выхода за пределы локальной машины. В программировании модель с четырьмя миллиардами параметров превосходит облачные модели в два-три раза большего размера по реализации алгоритмов и завершению кода, обеспечивая при этом низкую задержку, работу без подключения к интернету и локальное управление активами кода. Разработчики могут интегрировать её в платформы с открытым исходным кодом, такие как DeepSeek Harness, OpenCode, Codex и Pi.
Умный дом и робототехника также подходят для сценариев использования этих устройств. На тестовом наборе Domux умного дома модель 1.7B достигла 90,3% точности выполнения команд управления от начала до конца со средним временем отклика 0,85 секунды. Модели могут быть развернуты на корпусах роботов или периферийных устройствах для манипулирования, отслеживания и навигации, снижая зависимость от облачных соединений.
Обе модели были обучены на полностью отечественной вычислительной платформе с использованием примерно 20 триллионов токенов и работают на оборудовании Nvidia, Huawei, Hygon и других с поддержкой vLLM, SGLang и llama.cpp. Веса и код доступны на Hugging Face и GitHub, а API моделей работают на платформе iFLYTEK Spark MaaS и временно бесплатны.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
