OpenAI и Broadcom представили Jalapeño — новый ИИ-чип для инференса LLM

Openai Broadcom Jalapeño Llm ии чипы neowin.net

Готовится ли ведущая мировая компания в области ИИ-ПО бросить вызов крупнейшим производителям оборудования в технологической индустрии? OpenAI и Broadcom анонсировали Jalapeño — первый собственный «Интеллектуальный процессор».

Благодаря экспоненциальному росту ChatGPT и других приложений на базе больших языковых моделей (LLM) компания NVIDIA превратилась из компании с капитализацией в 200 миллиардов долларов в первую публичную компанию, достигшую рыночной капитализации в 5 триллионов долларов.

Несмотря на то, что у гиперскейлеров, таких как Google и Amazon, есть собственные отлаженные ИИ-ускорители, NVIDIA по-прежнему доминирует на рынке инфраструктуры искусственного интеллекта благодаря нескольким поколениям графических процессоров. Microsoft, OpenAI и Meta* остаются одними из крупнейших клиентов NVIDIA, в то время как Google и Amazon продолжают быть значимыми заказчиками NVIDIA, поскольку они обслуживают рабочие нагрузки ИИ для клиентов на своих облачных платформах.

Сегодня OpenAI и Broadcom объявили о создании Jalapeño — первого собственного «Интеллектуального процессора» OpenAI, разработанного специально для инференса больших языковых моделей. Новый чип является первым продуктом многопоколенческой вычислительной платформы, разрабатываемой OpenAI. OpenAI подчеркнула, что Jalapeño был создан с нуля для текущих и будущих рабочих нагрузок LLM, а не является универсальным ускорителем, адаптированным для ИИ.

Несмотря на жесткую конкуренцию со стороны Gemini, Claude, Copilot и других, ChatGPT остается самой используемой ИИ-платформой в мире. OpenAI упомянула, что при разработке этого нового чипсета она использовала свои знания о том, как масштабируются ее модели и продукты, включая ChatGPT, Codex, API и будущие агентурные ИИ-системы. Архитектура чипа снижает перемещение данных, одновременно балансируя вычислительные ресурсы, память и сетевые ресурсы.

Jalapeño будет внедрен в производственные системы начиная с конца 2026 года; однако инженерные образцы уже выполняют рабочие нагрузки машинного обучения в лабораториях OpenAI с целевой частотой и энергопотреблением, соответствующими производственным. Согласно внутреннему тестированию, OpenAI заявляет, что этот чип может обеспечить «существенно лучшую» производительность на ватт, а подробный технический отчет ожидается в ближайшие месяцы.

В то время как OpenAI занималась разработкой чипа, Broadcom отвечала за кремниевую реализацию и сетевые технологии, включая сетевой кремний Tomahawk, а Celestica оказывает содействие в интеграции на уровне плат, стоек и систем.

OpenAI отметила, что разработка Jalapeño от первоначального замысла до выпуска в производство заняла всего девять месяцев, что, по ее утверждению, является самым быстрым циклом разработки ASIC для передового высокопроизводительного полупроводника. Компания объяснила такую скорость разработки использованием собственных LLM в процессе проектирования и оптимизации чипа.

Генеральный директор Broadcom Хок Тан заявил, что компания планирует развернуть платформу Jalapeño в гигаваттном масштабе совместно с Microsoft и другими партнерами начиная с 2026 года.

С Jalapeño OpenAI присоединяется к Google, Microsoft и Amazon в качестве полноценного игрока в области ИИ. Компания уже разрабатывает модели и продукты, а теперь углубляется в инфраструктуру, включая чипы, ядра, сети, планирование и системы развертывания.

Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: