Nvidia намерена заложить технологический фундамент для развертываний следующего поколения телекоммуникационных сетей на периферии/доступа. Ее первым шагом стал AI-RAN, в рамках которого функции базовой станции радиодоступа должны выполняться на графических процессорах (GPU) — предложение, которое медленно набирает обороты в сообществе операторов мобильной связи.
Теперь, во время своей конференции GTC (GPU Technology Conference), Nvidia расширила свое предложение и объединилась с шестью операторами связи, в основном из США, чтобы представить архитектуру, которую она называет AI grids (ИИ-сетями) — распределенные инфраструктуры ИИ, использующие любой тип сетевого узла, будь то часть фиксированной сети, беспроводной сети или сети доставки контента.
Nvidia предельно ясно заявляет о той важной роли, которую, по ее мнению, будет играть телекоммуникационная инфраструктура в эпоху ИИ, описывая это в этом анонсе как «следующий рубеж для распределения ИИ».
Операторы связи, уже поддержавшие концепцию AI grids: американские телеком-операторы AT&T и T-Mobile US — которые уже активно участвуют в разработках AI-RAN, как мы сообщали на этой неделе; американские кабельные операторы Comcast и Charter Communications (которая представляет себя клиентам под брендом Spectrum); мировой гигант сетей доставки контента (CDN) Akamai; и прогрессивный азиатский телеком-оператор Indosat Ooredoo Hutchison (IOH), еще один сторонник AI-RAN, который также давно разрабатывает инфраструктуру AI factory в Индонезии в партнерстве с Nvidia (см. Indosat привлекает Nvidia для усиления ИИ).
Они разрабатывают AI grids таким образом, чтобы это имело смысл для их существующих сетевых архитектур и их бизнес-потребностей. Некоторые «начинают с активации существующих проводных периферийных узлов в качестве AI grids, которые они могут монетизировать уже сегодня», а другие начинают с существующих развертываний AI-RAN и/или AI factory. Ключевым моментом, конечно, является то, что отдельные узлы/площадки действуют как сетки только в том случае, если они соединены высокоскоростными каналами передачи данных, что есть в арсенале всех этих сетевых компаний.
Эти операторы связи также имеют доступ к другому ценному ресурсу — электроэнергии. «Телеком-операторы и провайдеры распределенного облака [такие как Akamai] управляют одной из самых обширных инфраструктур в мире: около 100 000 распределенных сетевых центров обработки данных по всему миру, охватывающих региональные узлы, офисы мобильной коммутации и центральные офисы, с достаточным запасом мощности для предоставления более 100 гигаватт новой мощности ИИ с течением времени», — отмечает Nvidia. И это огромный объем мощности, если его использовать в полной мере.
И вот суть предложения Nvidia: «AI grids превращают эту существующую недвижимость, электроэнергию и связь в географически распределенную вычислительную платформу, которая выполняет инференс ИИ ближе к пользователям, устройствам и данным, где лучше всего соотносятся отклик и стоимость за токен. Это больше, чем просто модернизация инфраструктуры — это структурное изменение в том, как доставляется ИИ, ставя телекоммуникационные сети в центр масштабирования ИИ, а не просто в центр переноса его трафика».
Звучит отлично, но, конечно, чтобы это было финансово оправдано, должен существовать отложенный спрос со стороны клиентов (предприятий, правительств и даже частных лиц), готовых платить за инференс ИИ, и этот бизнес-кейс еще предстоит доказать.
Тем не менее, это выглядит (по крайней мере, для этого редактора) как очень значительный шаг вперед для взаимодействия Nvidia с сообществом операторов связи, поскольку он затрагивает больше возможностей, вариантов использования и шансов для сотрудничества, чем AI-RAN как отдельный вариант.
И, как обычно, Nvidia предлагает специализированные технологии и множество партнеров. Она разработала AI Grid Reference Design, который определяет технологические строительные блоки для развертывания и оркестровки ИИ на распределенных площадках, в то время как такие компании, как Cisco, HPE (которая представила свою платформу HPE AI Grid), Armada, Rafay и Spectro Cloud предлагают поддерживающие системы для создания сетей и управления рабочими нагрузками ИИ и их оркестровки.
Итак, что делают операторы связи?
AT&T
AT&T, которая может похвастаться более чем 100 миллионами подключений Интернета вещей (IoT), объединилась с Nvidia и Cisco для создания AI grid для IoT. «Работая с ИИ на выделенном ядре IoT и приближая инференс ИИ к месту создания данных, AT&T может поддерживать критически важные приложения реального времени, такие как сценарии общественной безопасности с использованием Linker Vision» — стартапа в области ИИ-программного обеспечения, в который Nvidia инвестирует, — «обеспечивая более быстрое обнаружение, оповещение и реагирование, помогая при этом сохранять конфиденциальную информацию под контролем клиента на периферии сети», — отмечает Nvidia.
Этот подход сочетает выделенное ядро IoT от AT&T с платформой мобильных сервисов Cisco — «для поддержки локального распределения трафика, детерминированной производительности и безопасности с нулевым доверием для регулируемых и критически важных сценариев использования» — и соответствующей Cisco AI Grid с Nvidia, которую Cisco описывает в этом блоге как «полнофункциональную архитектуру ИИ, которая позволяет поставщикам услуг предоставлять услуги инференса ИИ в реальном времени в распределенных сетях». Эта комбинация «обеспечивает высокозащищенный, сквозной путь от периферийных устройств через сеть AT&T и к вычислениям с ускорением Nvidia», по словам AT&T. «Этот сетевой подход снижает сложность, улучшает производительность и обеспечивает операционный масштаб, необходимый для перехода от пилотных проектов периферийного ИИ к полномасштабному производству», — добавил телеком-оператор.
Шон Хакл, старший вице-президент по продуктам в AT&T Business, который недавно обсуждал влияние ИИ на сектор связи во время недавнего интервью TelecomTV, заявил: «Масштабирование услуг ИИ, которые являются одновременно высокозащищенными и доступными для предприятий и разработчиков, является основным столпом нашей стратегии подключения IoT. Объединяя бизнес-класса связь AT&T, локализованные вычисления ИИ и безопасность с нулевым доверием, работая с членами программы Nvidia Inception и используя инфраструктуру Cisco AI Grid с Nvidia и платформу мобильных сервисов Cisco, мы приближаем инференс ИИ в реальном времени к месту генерации данных — ускоряя цифровую трансформацию и открывая новые бизнес-возможности».
Партнеры недавно успешно продемонстрировали сценарий использования общественной безопасности в AT&T Discovery District в Далласе, представив платформу Physical AI и Reasoning AI от Linker Vision, работающую на пилотной платформе Cisco, GPU Nvidia и Video Intelligence от AT&T.
Масум Мир, старший вице-президент и генеральный менеджер по мобильности провайдеров в Cisco, заявил: «Physical AI ускоряет переход от централизованного интеллекта к распределенному принятию решений на периферии сети. Наше партнерство с Nvidia объединяет полный стек — от GPU Nvidia до сетевых возможностей и возможностей мобильной связи Cisco — позволяя операторам обеспечивать работу критически важных приложений, предоставлять инференс в реальном времени и участвовать в цепочке создания стоимости ИИ».
T-Mobile US
T-Mobile US и Nvidia объявили о своем последнем сотрудничестве на базе AI-RAN на этой неделе — см. Nvidia и T-Mobile делятся видением AI-RAN, — хотя тогда они не использовали термин «AI grid» для описания того, что они разрабатывают. Nvidia отмечает, что «разработчики, включая Linker Vision, Levatas, Vaidio, Archetype AI и Serve Robotics, уже проводят пилотные испытания приложений для умных городов, промышленности и розничной торговли на этой сети, подключая камеры, роботов-доставщиков и агентов в масштабах города к интеллекту в реальном времени на периферии сети».
Comcast
Comcast использует архитектуру своей кабельной широкополосной сети для разработки собственной AI grid, работая с Nvidia, разработчиком моделей ИИ Decart, разработчиком малых языковых моделей Personal AI и HPE. (Более подробную информацию о Decart, Personal AI и Linker Vision и их роли в AI grid можно найти в этом блоге Nvidia.)
Гигант кабельных услуг стремится «приблизить обработку ИИ с использованием GPU Nvidia к клиентам, чем когда-либо прежде, чтобы ускорить разработку приложений ИИ следующего поколения по всей Америке», — говорится в этом анонсе.
Оператор проводит полевые испытания, которые «используют общенациональную, глубоко распределенную архитектуру Comcast, охватывающую 65 миллионов домов и предприятий и специально созданную для обеспечения низкой задержки и высокой пропускной способности». Цель состоит в том, чтобы «показать, как запуск ИИ на периферии сети может обеспечить более быстрые, интеллектуальные и отзывчивые возможности. Для потребителей и предприятий это означает более быстрые приложения, более релевантные рекомендации, более плавный игровой процесс и инструменты на базе ИИ, которые реагируют мгновенно».
В частности, Comcast отмечает, что ее сеть «разработана для того, чтобы физически приблизить больше вычислительной мощности к клиентам, создавая одну из самых больших и мощных платформ в США для предоставления инференса ИИ в реальном времени со значительно сниженной задержкой, энергопотреблением и стоимостью. Благодаря передовым узлам DOCSIS 4.0 FDX [full duplex], интеллектуальным усилителям и интеллектуальным шлюзам в зоне покрытия Comcast может поддерживать инференс ИИ в реальном времени в масштабе — с чем не могут сравниться традиционные централизованные, чисто оптоволоконные или беспроводные сети», — утверждает кабельная компания. «По мере того как все больше рабочих нагрузок ИИ перемещаются из удаленных центров обработки данных в локальные периферийные узлы, архитектура Comcast позиционирует компанию как ключевого участника зарождающейся AI Grid», — добавляет она.
Charter/Spectrum
Charter/Spectrum нацелена на конкретный сценарий использования в своих испытаниях, который задействует ее инфраструктуру периферийных вычислений (ECI), которая «размещает сотни мегаватт мощности… менее чем в 10 миллисекундах от 500 миллионов устройств в домах и на предприятиях», — отметил оператор в этом анонсе.
Spectrum будет выполнять рендеринг графики высокого разрешения для медиапроизводства с использованием удаленных GPU (RTX6000 PRO Blackwell Server Edition), встроенных по всей ее оптоволоконной широкополосной сети. «Решение позволяет художникам-аниматорам выполнять рендеринг блокбастерной CGI с использованием вычислительных ресурсов GPU, расположенных поблизости, на периферии оптоволоконной широкополосной сети Spectrum. Близость ECI компании Spectrum к студиям в сочетании с оптоволоконной сетью с низкой задержкой 100 Гбит/с расширяет возможности Nvidia AI Grid на удаленные рабочие станции», — добавлено в сообщении.
Akamai
Гигант CDN Akamai совершенствует и расширяет свою глобально распределенную AI grid, Akamai Inference Cloud, на более чем 4400 периферийных узлах по всему миру с тысячами GPU Nvidia RTX PRO 6000 Blackwell Server Edition.
«Интегрируя инфраструктуру Nvidia AI в инфраструктуру Akamai и используя интеллектуальную оркестровку рабочих нагрузок в своей сети, Akamai намерена вывести отрасль за рамки изолированных AI factories к единой, распределенной сети для инференса ИИ», — отметила компания в этом анонсе.
Адам Карон, главный операционный директор и генеральный менеджер Cloud Technology Group в Akamai, отметил: «AI factories созданы специально для обучения и рабочих нагрузок пограничных моделей — и централизованная инфраструктура продолжит обеспечивать лучшую токеномику для этих сценариев использования. Но видео в реальном времени, физический ИИ и высококонкурентные персонализированные впечатления требуют инференса в точке контакта, а не обратного пути к централизованному кластеру. Наша интеллектуальная оркестровка AI grid дает AI factories способ масштабировать инференс наружу — используя ту же распределенную архитектуру, которая произвела революцию в доставке контента, для маршрутизации рабочих нагрузок ИИ через 4400 местоположений, по правильной цене, в нужное время».
Indosat Ooredoo Hutchison (IOH)
Indosat Ooredoo Hutchison соединяет свою суверенную AI factory в Индонезии с распределенными периферийными узлами и узлами AI-RAN по всей стране для создания AI grid для местных инноваций. Запуская Sahabat-AI — платформу на бахаса-индонезийском языке — в этой сети в пределах границ Индонезии, IOH может «приблизить локализованные услуги ИИ к сотням миллионов индонезийцев на тысячах островов, предоставляя местным разработчикам и стартапам суверенную платформу для создания приложений ИИ, которые являются быстрыми, культурно релевантными и соответствующими требованиям по дизайну», — отмечает Nvidia.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ray Le Maistre
