Даже если вы решите проблему с обеспечением графических процессоров (GPU), сетевых коммутаторов и систем хранения данных, вам все равно придется настраивать, запускать все это и обеспечивать возможность удовлетворения различных потребностей клиентов. Подготовка центра обработки данных к предоставлению облачных услуг, а также услуг по выводам (inference) и обучению моделей ИИ может занять месяцы работы. И чем дольше вы выходите на рынок, тем выше стоимость простоя этих драгоценных GPU.
Стартап в области сетевой автоматизации Netris заявляет, что может избавить от этой проблемы операторов неооблаков (neoclouds). Компания предоставляет программное обеспечение, которое работает на сетевых коммутаторах, а также предлагает платформу, подключающуюся к коммутаторам, чтобы помочь операторам неооблаков сократить время выхода на рабочий режим за счет автоматизации установки, настройки и эксплуатации. Платформа также обеспечивает сетевую абстракцию, позволяя изменять аппаратные конфигурации по мере необходимости, и изолирует серверы и ресурсы на аппаратном уровне, чтобы неооблака могли обслуживать нескольких клиентов (мультитенантность).
Если это звучит как решение очевидной проблемы, вы не ошибаетесь. До недавнего времени центры обработки данных в основном были сферой деятельности крупных инфраструктурных операторов, таких как Equinix, NTT, Digital Realty, Oracle, Microsoft, AWS или Google. Эти компании в значительной степени решили для себя задачи настройки сети, конфигурации и мультитенантности, нанимая множество инженеров или создавая автоматизацию самостоятельно. У малого бизнеса в сфере неооблаков редко есть такие ресурсы.
«Как оператору кластера GPU вам нужно вносить изменения в конфигурацию каждого соединения каждый день. В традиционных центрах обработки данных для этого использовали нечто под названием SDN [программно-определяемые сети], но SDN не справляется, потому что это программная технология», — сказал TechCrunch генеральный директор Netris Алекс Сароян. «Для ИИ программное обеспечение не подходит, потому что объем трафика настолько велик, что все должно быть аппаратно ускорено. Таким образом, вам нужно нечто вроде SDN, но полностью аппаратно ускоренное. Это то, что мы делаем, и это то, что мы делаем уже восемь лет».
Сароян отметил, что платформа Netris не зависит от поставщика и совместима с сетевым оборудованием и стандартами, используемыми в центрах обработки данных как для серверов Nvidia, так и для AMD.
Обещание стартапа нашло множество сторонников, один из которых — Nvidia. Два года назад гигант по производству чипов был настолько впечатлен демонстрацией технологии Netris, что порекомендовал компанию нескольким клиентам. Сегодня Netris работает более чем в 35 GPU-кластерах по всему миру (около миллиона GPU в общей сложности), управляемых такими компаниями, как Lightning AI, Foxconn, Visionbay, Hewlett Packard Enterprise, Tensorwave, Telus и другими.
Чтобы закрепить этот успех, Netris привлекла 15 миллионов долларов в рамках раунда Серии А от Andreessen Horowitz, как эксклюзивно узнал TechCrunch.
Примечательно, что здесь не используется ИИ. Сароян сказал, что компания использует только ранее разработанные ею алгоритмы для управления и настройки автоматизации и операций.
«Мы начали задолго до эпохи ИИ. Мы поняли проблему рано и начали разрабатывать этот алгоритм тоже рано. ИИ не детерминирован, верно? Иногда он любит делать вещи самостоятельно. Это хорошо для творческой работы, но для изменения конфигурации тысяч коммутаторов вам не нужно быть креативным. Вам нужно быть очень настойчивым и повторяемым».
Партнер a16z Гвидо Аппенцеллер войдет в совет директоров компании. В дальнейшем Netris планирует использовать финансирование для найма большего числа инженеров и сотрудников отдела продаж, добавления поддержки большего числа поставщиков оборудования и внедрения большего количества функций в свой алгоритм.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ram Iyer
