Компания Xeal, занимающаяся зарядкой электромобилей, планирует использовать свою существующую сеть в США для развертывания «первой в мире сети граничных вычислений для инференса, использующей незадействованные мощности зарядки электромобилей». Основная идея заключается в том, что у компании уже есть более 1600 объектов и 200 МВт разрешенной и установленной электрической инфраструктуры, поэтому она намерена «развернуть более 100 000 графических процессоров NVIDIA» на этих объектах. Для этого Xeal разработала Latient Pods (на изображении), каждая из которых содержит до 48 графических процессоров Nvidia Hopper или Blackwell Ultra. Мы надеемся, что безопасность зарядных станций будет достаточной, чтобы уберечь воров от этих шкафов, поскольку каждый из них, вероятно, стоит более 2 миллионов долларов.
Никхил Бхарадвадж, соучредитель и генеральный директор Xeal, пояснил, что Latient Pods могут обеспечить вычисления для инференса уже сегодня, пока новые центры обработки данных еще строятся. «Latient — это самый быстрый способ ввести новые вычислительные мощности в эксплуатацию, используя уже разрешенную и подключенную к сети, но незадействованную энергетическую мощность, расположенную именно там, где она необходима для сверхнизкой задержки, без необходимости подключения к водопроводу», — подчеркнул руководитель. Подключение к сети является одной из самых сложных задач для тех, кто хочет ввести новые вычислительные мощности в эксплуатацию, но зарядные станции Xeal, которые «обычно работают менее чем на 10% от разрешенной мощности», могут обеспечить вычислительную мощность через распределенную сеть в пределах мегаполиса.
Представитель Nvidia также высоко оценил предстоящую сеть Latient Pods как инновационный способ приблизить инференс с низкой задержкой к пользователям, одновременно улучшая использование уже построенной инфраструктуры.
На рендере от Xeal Latient Pod выглядит очень похоже на шкаф для оптоволоконной связи, который можно увидеть на вашей улице. Один такой модуль будет обладать следующими характеристиками/функциями:
Если у Xeal более 1600 объектов, а один Latient Pod содержит до 48 графических процессоров, то заявленная цель закупки 100 000 графических процессоров Nvidia предполагает, что на некоторых объектах будет установлено более одного модуля. Или, возможно, компания намерена построить больше зарядных станций, до почти 2100 в общей сложности.
Компания утверждает, что расположение ее модулей в городских районах, функция под названием Metro Edge, обеспечивает задержку менее 20 мс, что значительно быстрее, чем инференс, расположенный в удаленном центре обработки данных.
Ранее мы сообщали об электромобилях и распределенных вычислениях, но в несколько ином контексте. В прошлом году мы обсуждали предложение Илона Маска использовать неиспользуемый актив в виде миллионов автомобилей Tesla. Он назвал это «100 гигаваттами инференса», которые можно было бы использовать, когда автомобили «скучают».
Между тем, нельзя забывать, что зарядные станции для электромобилей уже становятся мишенью для воров. Мы сообщали о «чуме» краж кабелей зарядных устройств для электромобилей, вызванной исключительно стоимостью медного лома в массивных кабелях, используемых на объектах. Представьте себе, какая безопасность потребуется, если и когда будут развернуты Latient Pods, набитые чрезвычайно дорогими графическими процессорами. По данным на 2024 год, 48 графических процессоров Blackwell стоили бы около 2 000 000 долларов — так что, безусловно, гораздо больше к настоящему времени.
Первый Latient Pod будет запущен к концу года, сообщает Xeal.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mark Tyson
