Модель ИИ Kimi K3 от Moonshot внезапно покорила мир, взлетев на вершину рейтингов фронтенд-кода Arena, казалось бы, из ниоткуда.
Однако под поверхностью растет количество анекдотических свидетельств того, что Kimi K3 была дистиллирована из Claude от Anthropic, причем модель даже идентифицировала себя как такую в как минимум одном разговоре, который распространяется в социальных сетях.
Эффективность затрат на обучение и инференс модели Kimi K3 различается кардинально, что указывает на скрытое несоответствие
Как мы объяснили в недавнем посте, Moonshot только что представила свою новую модель Kimi K3 с открытым исходным кодом, которая насчитывает 2,8 триллиона параметров и предназначена специально для интеллекта пограничного масштаба.
Модель является мультимодальной, имеет окно контекста около 1 миллиона токенов и предлагает конкурентную и более быструю производительность, чем многие из ее аналогов.
Критически важно, что Kimi K3 соответствует производительности многих передовых моделей в США, несмотря на доступ к гораздо меньшей вычислительной мощности. И, что крайне аномально, ее потребление вычислений для инференса соответствует тому, что ожидается от GPT 5.5 и Claude 4.8 Opus High. Вы не можете иметь одно без другого. Если ваш процесс обучения заметно эффективен, это должно отразиться на затратах на инференс вашей модели. Однако, как мы объясняем здесь, последние остаются на тех же уровнях эффективности, что предполагает, что Moonshot применила старые добрые методы дистилляции для разработки Kimi K3.
Что касается пресловутой улики, Kimi K3 была замечена в том, что идентифицирует себя как «Claude, AI-ассистент, созданный Anthropic» как минимум в одном разговоре. Конечно, некоторые будут утверждать, что дистилляция невозможна просто потому, что модель превзошла многие LLM, из которых ее якобы дистиллировали. Однако этот ход мыслей игнорирует силу post-distillation reinforcement learning.
Конечно, все это по-прежнему прочно находится в туманном мире обоснованных догадок. Но имеющиеся анекдотические свидетельства, похоже, согласуются с тезисом о том, что Moonshot действительно дистиллировала Kimi K3 из Claude от Anthropic.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rohail Saleem
