«В этих фабриках ИИ тратится колоссальная мощность», — заявил генеральный директор Nvidia Дженсен Хуанг во время основной речи на ежегодной клиентской конференции GTC компании. «Каждый неиспользованный ватт — это потерянная выручка», — провозгласила компания во время ежегодной презентации.
Сегодня стартап Niv-AI вышел из тени, получив $12 миллионов начального финансирования для решения этой проблемы путем точного измерения энергопотребления графических процессоров с помощью новых датчиков и разработки инструментов для более эффективного управления им.
Базирующийся в Тель-Авиве стартап был основан в прошлом году генеральным директором Томером Тимором и техническим директором Эдвардом Кизисом. Его поддерживают Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward и Aurora Capital Partners. Компания отказалась раскрывать свою оценку.
Поскольку передовые лаборатории задействуют тысячи графических процессоров в унисон для обучения и запуска передовых моделей, возникают частые скачки спроса на электроэнергию в масштабе миллисекунд, когда процессоры переключаются между вычислительными задачами и связью с другими графическими процессорами.
Эти скачки затрудняют центрам обработки данных управление энергией, потребляемой из сети. Чтобы избежать нехватки достаточного количества электроэнергии, центры обработки данных платят за временное хранение энергии для покрытия пиковых нагрузок или ограничивают использование своих графических процессоров. Оба случая снижают окупаемость инвестиций в дорогостоящие чипы.
«Мы просто не можем продолжать строить центры обработки данных так, как строим их сейчас», — заявил Лиор Хэндлсман, партнер Grove Ventures, входящий в совет директоров Niv.
Первый шаг в дорожной карте Niv — понять, что происходит; компания сейчас развертывает датчики на уровне стоек, которые обнаруживают потребление энергии на уровне миллисекунд на принадлежащих ей графических процессорах и совместно с партнерами по разработке. Цель состоит в том, чтобы понять специфические профили энергопотребления различных задач глубокого обучения и разработать методы смягчения последствий, которые позволят центрам обработки данных высвободить больше своей существующей мощности.
Естественно, инженеры планируют создать модель ИИ на основе собранных данных с целью обучить ее прогнозировать и синхронизировать нагрузки на электроэнергию по всему центру обработки данных — своего рода «второго пилота» для инженеров ЦОД.
Niv планирует запустить рабочую систему в нескольких центрах обработки данных США в ближайшие шесть-восемь месяцев. Это привлекательная идея, поскольку гиперскейлеры, пытающиеся строить новые ЦОД, сталкиваются с проблемами землепользования и сбоями в цепочках поставок. Основатели видят свой конечный продукт как недостающий «интеллектуальный уровень» между центрами обработки данных и электросетью.
«Сеть на самом деле опасается, что центр обработки данных потребит слишком много энергии в определенный момент», — сказал Тимур TechCrunch. «Проблема, которую мы рассматриваем, имеет две стороны. Одна — помочь центрам обработки данных использовать больше графических процессоров и, надеюсь, получить больше отдачи от энергии, за которую они уже платят. С другой стороны, можно также создать гораздо более ответственные профили энергопотребления между центрами обработки данных и сетью».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
