Компания Runware заявляет, что Pod может обеспечить инференс более высокого качества при меньшей стоимости по сравнению с другими бессерверными платформами инференса и GPU-облаками. Модульная конструкция означает, что легко быстро нарастить мощность, создавая новые поды, вместо того чтобы расширять фиксированный дата-центр. В некотором смысле это будущее, рассказал TechCrunch Флавиу Радулеску, сооснователь и генеральный директор Runware.
«Мы считаем, что в долгосрочной перспективе победит распределенный инференс, расположенный ближе к конечным пользователям для более быстрого вывода», — сказал он, приведя свою компанию в качестве примера. Помимо более низкой цены, Радулеску отметил, что система Runware может масштабироваться и быстро наращивать мощность, разворачиваться в любом месте, где есть электроэнергия, и быстро адаптироваться к выходу нового оборудования. Поды Runware также не используют воду, а применяют систему охлаждения замкнутого цикла, которую можно построить за несколько дней, по сравнению с месяцами или даже годами, необходимыми для строительства традиционных дата-центров.
«Спрос на инференс растет быстрее, чем строятся объекты», — сказал Радулеску. «Мы хотим обеспечить энергией интеллект мира, стать основой, на которой работают все ИИ-модели, с мощностью, которая поспевает за спросом, а не ограничивает его».
В настоящее время Runware развернула 10 подов в США, Европе и Азиатско-Тихоокеанском регионе, сообщил Радулеску. Компания уже предоставляет инференс нескольким компаниям, включая Higgsfield AI и Wix, и прямо сейчас располагает 160 площадками для размещения своих подов. В декабре Runware объявила о привлечении $50 млн в рамках раунда Series A для создания инфраструктуры, необходимой компаниям для генерации изображений. Расширение за счет подов они рассматривают как часть основной миссии компании: предоставление инференса компаниям, а не отдельный продукт.
Такие ИИ-лаборатории, как OpenAI и SpaceX, все еще соревнуются в строительстве дата-центров по всей территории США. Например, OpenAI близка к заключению сделки на $500 млрд, в рамках которой планируется построить дата-центр в Огайо, согласно сообщениям. Но Радулеску не считает эти проекты угрозой для Sonic Inference Pods, называя гибкость подов ключевым отличием.
«Каждый под работает как часть единой сети, поэтому запросы направляются туда, где есть мощность, ближе к пользователям, и если один под выходит из строя, трафик переходит на другой», — добавил он, отметив, что отказ системы означает выход из строя одного пода, а не целого фиксированного объекта. «Клиенты, которым нужно выделенное оборудование, получают целые поды в свое распоряжение».
Он также не слишком обеспокоен тем, что другие компании будут строить это для себя, просто отметив, что оборудование устаревает медленно, а найти специалистов, способных создавать и обслуживать эту технологию, сложно.
«Ошибка в проектировании печатной платы стоит месяцев между перепроектированием, моделированием, изготовлением, тестированием и поставкой», — сказал он. «Для каждого из этих этапов нужен человек, который точно понимает, что делает каждый компонент и что сломается, если его убрать».
Строительство ИИ-дата-центров, однако, является спорной темой, особенно из-за того, сколько ресурсов они потребляют. Сообщества, где расположены дата-центры, уже сообщают о росте коммунальных расходов. Однажды Runware видит мир, в котором сможет работать на возобновляемой энергии и не потреблять ресурсы, необходимые сообществам, но этот день наступит не обязательно сегодня.
Радулеску сказал, что потребление энергии ИИ в любом случае будет расти, «движимое спросом на инференс, а не тем, кто его обеспечивает». Сейчас Runware сосредоточена на том, как удовлетворить этот спрос, сказал он. «Никаких потерь при передаче, никакой воды для охлаждения, и мы используем уже существующую мощность, вместо того чтобы требовать строительства новых сетевых мощностей. Чем больше инференса построено таким образом, тем меньше нужно новых сетей и меньше воды для того же объема вычислений».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Dominic-Madori Davis
