Признавая отставание отечественных вычислительных мощностей от ведущих, iFLYTEK на конференц-звонке по итогам квартала 21 августа изложил стратегию: вместо того чтобы ждать, когда аппаратное обеспечение догонит, компания использует инженерные решения, чтобы выжать больше из имеющихся чипов.
Генеральный директор Лю Цинфэн признал, что компания выглядела отсутствующей в недавней волне, ориентированной на код и агентов, отчасти из-за того, что отечественные вычислительные мощности ограничивают чрезвычайно длинные контекстные окна. iFLYTEK сообщает, что его отечественные ускорители отстают от Nvidia H200 по эффективности обучения примерно в пять раз, причем это отставание сосредоточено на обучении с контекстом более 256 тысяч токенов. Но в развертываниях в сфере образования, здравоохранения, автомобилестроения и государственных предприятий, по его словам, 90–95% случаев использования не требуют контекста в миллион токенов.
Поэтому компания проводит оптимизацию по всем направлениям: архитектура моделей, операторы, коммуникация, память и фреймворки обучения. Она подтвердила методы вывода длинных последовательностей и построила полностью отечественный конвейер полного стека — от чипа до модели и приложения. Этот подход виден в линейке продуктов: Spark X2 запущен в феврале, а Spark X2-Flash в апреле стала первой моделью Mixture-of-Experts с 30 миллиардами параметров, обученной и развернутой исключительно на кластерах Huawei Ascend 910B. В июне последовала мультимодальная Spark X2-VL, а новая полностью отечественная флагманская модель общего назначения ожидается в конце августа и на ежегодном фестивале разработчиков 1024.
Инженерная ставка выходит за рамки моделей. В июле iFLYTEK разделил национальную первую премию за проект Pengcheng Cloud Brain — крупномасштабный отечественный проект интеллектуальных вычислений под руководством Национальной лаборатории Пэнчэн. В коммерческом плане выручка от LLM API и MaaS выросла примерно на 70% год к году в первом полугодии, и компания объединяет облачные модели триллионного масштаба с устройствами, чтобы продавать результаты, а не токены, вместо того чтобы в лоб гнаться за самой большой передовой моделью — подход, который, по словам Лю, защищает маржу и фокус.
Лю считает, что отставание iFLYTEK в вычислительных мощностях сравняется с отечественными конкурентами в течение двух лет — возможно, превратившись в преимущество — по мере созревания экосистем чипов.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
