7 июля агентство Reuters сообщило, что компания DeepSeek разрабатывает собственный ИИ-чип, специально предназначенный для инференса (вывода) больших моделей. Проект, запущенный около года назад, тихо расширял свою команду по разработке чипов и вступал в переговоры с фирмами по проектированию чипов, литейными производствами и производителями памяти.
В тот же день в заголовках новостей оказалась и Zhipu AI. Издание The Information сообщило, что по мере роста спроса на её модели серии GLM компания Zhipu AI оценивает целесообразность разработки собственных ИИ-чипов.
Это не только китайская история. 24 июня OpenAI публично представила свой первый собственный чип для инференса под кодовым названием Jalapeño, разработанный совместно с Broadcom. Образцы уже работают в лаборатории, а развертывание запланировано к концу года. В апреле сообщалось, что Anthropic рассматривает возможность разработки чипов собственными силами, а в июне компания наняла ключевого инженера из чипового проекта OpenAI.
Проявляется примечательная закономерность: ведущие компании, занимающиеся разработкой ИИ-моделей в Китае и США, независимо от стратегий открытого или закрытого исходного кода, одновременно выходят на капиталоемкий бизнес по производству чипов.
Экономика проста. Обучение передовых моделей дорого, но затраты на инференс постоянно накапливаются с каждым взаимодействием с пользователем, каждым запущенным Агентом и каждым сгенерированным токеном. DeepSeek и Zhipu AI отдают приоритет чипам для инференса, чтобы оптимизировать их под свои специфические архитектуры MoE, управление KV-кэшем и пути вычислений с низкой точностью.
Для китайских ИИ-компаний разработка собственных чипов также решает стратегическую уязвимость. Экспортные ограничения США ограничивают поставки передовых GPU от NVIDIA, что делает отечественные альтернативы и собственные кремниевые решения вопросом операционного контроля, а не только экономии средств.
Однако разработка чипов сопряжена с огромным риском. По оценкам экспертов отрасли, проектирование передового ИИ-чипа стоит около 500 миллионов долларов, и успех далеко не гарантирован. Спектр разрабатываемых ИИ-чипов варьируется от подхода Google с полным стеком TPU до определения архитектуры компаниями-разработчиками моделей при партнерстве с устоявшимися производителями чипов, такими как Broadcom, — путь, который демонстрирует OpenAI с Jalapeño.
Разделение аппаратного обеспечения для обучения и инференса ускоряется. Google разделила свой TPU восьмого поколения на 8t для крупномасштабного обучения и 8i для инференса с низкой задержкой. Huawei аналогичным образом разделила свою серию Ascend 950. Шаги DeepSeek и Zhipu AI отражают более широкое осознание в отрасли: на переднем крае оптимальный путь вперед требует контроля над всем стеком — от кремния до модели.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily




