Сэм Альтман, генеральный директор OpenAI, недавно сравнил объем энергии, потребленной человечеством за тысячелетия, с энергопотреблением инференса искусственного интеллекта (ИИ). В интервью на Саммите по ИИ в Индии он предложил задуматься об энергии, необходимой человеку для выполнения одного запроса инференса. «Требуется 20 лет жизни — и вся пища, которую вы съедаете за это время — прежде чем вы станете умным». Подразумевается, что ИИ является существенным шагом в эволюции человеческой расы, позволяющим человеку в современном обществе принимать взрослые решения. Однако дата-центры прожорливы в плане энергии, что обусловлено потребностью в более мощном ИИ. Международное энергетическое агентство (МЭА) прогнозирует, что к 2030 году спрос на энергию со стороны дата-центров более чем удвоится, а спрос на электроэнергию со стороны оптимизированных под ИИ дата-центров, по прогнозам, вырастет более чем в четыре раза к 2030 году. Это имеет реальные последствия. Энергетические рынки работают по-разному по всему миру, но в США на спрос дата-центров и требуемые ими модернизации сетей напрямую возлагают вину за рост цен, с которым сталкиваются бытовые потребители, согласно анализу Consumer Affairs отчета Ежемесячного отчета об электроэнергии Управления энергетической информации США. Энергопотребление — одна из многих причин, по которым сообщества выступают против строительства дата-центров. И потребление энергии будет расти по мере совершенствования технологий чипов: графические процессоры (GPU), на которые полагаются разработчики моделей ИИ, станут еще более энергоемкими. Дорожная карта Nvidia предполагает, что стойка мощностью 1 МВт не за горами, в то время как компания выступает за переход от питания постоянным током 48 В или 54 В на уровне стойки к питанию постоянным током 800 В для дата-центров. Хотя этот переход в конечном итоге может привести к более эффективному использованию энергии, он также означает более масштабный пересмотр инфраструктуры дата-центров: более мощные GPU потребуют большего объема хранения данных, больше сетевых ресурсов и большего охлаждения. Все это указывает на рост энергопотребления, даже несмотря на повышение эффективности GPU. Итак, что это означает для предприятий, стремящихся развивать свои возможности в области ИИ, не нанося ущерба своей репутации в области устойчивого развития и не отталкивая конечных потребителей? Пожалуй, самая большая проблема для ИТ-руководителей и бизнес-лидеров — это общая негативная реакция на дата-центры, а не на их собственное использование ИИ, которое, как отмечает Рабих Башруш, профессор цифровой инфраструктуры в Университете Восточного Лондона, относительно невелико. «Предприятия не являются крупнейшими потребителями рабочей нагрузки ИИ», — говорит он. Тем не менее, спрос на энергию со стороны ИИ формирует подходы к развитию инфраструктуры.
Питание чего именно?
Для Nscale, одного из европейских фаворитов среди операторов неооблаков, доступ к электроэнергии так же важен, как и доступ к GPU, от которых зависит ИИ. «Это самое большое ограничение, которое мы видим», — заявил директор по доходам Nscale Том Бёрк на мероприятии Vast Data’s Vast Forward в феврале. Сеть дата-центров Nscale сосредоточена в Норвегии, чей холодный климат и обильная гидроэнергетика дают явные преимущества при эксплуатации энергоемкой, тепловыделяющей инфраструктуры ИИ. Бёрк отметил, что энергопотребление GPU привело к более широким инфраструктурным изменениям. «Мы смотрим на требования к теплопередаче чипов. Вы видели переход от дата-центров с воздушным охлаждением к дата-центрам с жидкостным охлаждением, и вместе с этим двухлетние циклы выпуска продукции от Nvidia сократились до шестимесячных из-за скорости инноваций», — сказал он. Это говорит о том, что сочетание централизации и инженерного опыта облачных провайдеров помогает снизить энергопотребление. Но Башруш из Университета Восточного Лондона утверждает, что централизованная ИИ-инфраструктура — не единственный вариант. «Существует много ИИ с открытым исходным кодом, который компании загружают и запускают локально. Я знаю, что многие компании так поступают. Каково же направление движения?» В то же время предприятия стремятся использовать специализированные модели, которые намного эффективнее универсальных моделей, предлагаемых такими компаниями, как ChatGPT. И стремление к суверенитету данных также будет формировать спрос, поскольку оно еще больше укрепит позиции распределенной инфраструктуры и специализированных моделей. «Мне нужно дважды подумать, прежде чем говорить, что предприятия будут потреблять много облачного ИИ», — добавляет он. Поставщики ИТ-оборудования смещают фокус своей продукции, чтобы удовлетворить спрос на децентрализацию. Карим Абу Захаб, руководитель направления устойчивой трансформации в HPE, говорит: «Предприятия все чаще смотрят на то, где работает ИИ и насколько эффективно его можно развернуть ближе к своим данным и операциям». Существующие периферийные узлы также будут иметь уже имеющуюся электроэнергию — бум дата-центров означает, что получение нового подключения к сети требует многолетних ожиданий. Но, по словам Захаба, это также означает, что лица, принимающие ИТ-решения, должны рассматривать эффективность с самого начала: «Программная оптимизация имеет решающее значение для обеспечения полной утилизации вычислительных ресурсов и предотвращения потерь энергии из-за простаивающей или избыточно выделенной инфраструктуры». Это означает рассмотрение всего ИТ-ландшафта, говорит он: «Данные, подаваемые в модели, программное обеспечение, используемое для взаимодействия с ними и их обучения, правильное оборудование, ресурсы дата-центра и источники энергии, питающие их». Это может означать удвоение усилий в экосистеме Nvidia. Выступая на Vast Forward, соучредитель Vast Джефф Денворт подчеркнул влияние Smart NIC Nvidia Bluefield 4, которые могут поддерживать программную платформу хранения данных Vast. «На каждые 1100 GPU вам не нужно развертывать еще 256 физических серверов узлов Vast C», — сказал он аудитории. «Таким образом, ваша экономия затрат зашкаливает. Ваша экономия энергии также весьма существенна. Мы можем сократить энергопотребление вашей инфраструктуры примерно на 75%». В качестве альтернативы, лица, принимающие ИТ-решения, могут захотеть рассмотреть новые модели. Джеймс Стуррок, директор по системной инженерии в Nutanix, говорит, что оптимизация рабочей нагрузки имеет ключевое значение, поэтому компаниям необходимо модернизировать инфраструктуру для снижения энергопотребления и повышения утилизации, чтобы избежать избыточного выделения ресурсов. «Например, организации, использующие современную программно-определяемую инфраструктуру, сообщили о снижении энергопотребления примерно на 50% по сравнению с устаревшими средами», — добавляет он.
Отталкивающий фактор?
Но есть и более простые стратегии для повышения эффективности и оптимизации при запуске небольших моделей с использованием меньшего объема данных, вдали от инфраструктуры гиперскейлеров, говорит Башруш. «Как только вы запускаете его таким образом, вы его выключаете, когда в офисе никого нет». Но есть и другие способы взглянуть на эффективность. Как отмечает Башруш, это влияет на рабочую силу. ИИ может сократить штат сотрудников, что повышает производительность и устраняет потребность в ресурсах, связанных с поддержкой большого штата. Он говорит: «В конечном счете, в корпоративном секторе чистый эффект от ИИ очень позитивен с экономической точки зрения». Также важно учитывать, что именно мы подразумеваем под вычислениями ИИ. Захаб из HPE указывает, что, по оценкам МЭА, в 2024 году на ИИ приходилось всего 15% энергопотребления дата-центров. Большая часть спроса по-прежнему приходится на стандартные вычислительные нагрузки. Тем не менее, он говорит, что потребление энергии для инференса, как ожидается, опередит обучение. По словам Захаба, прогнозируется, что к 2030 году инференс почти удвоится, достигнув 162,5 ТВт⋅ч. Для Захаба это дает возможность — и пространство для маневра — для снижения затрат и углеродного следа, если эффективность будет приоритетом на всех этапах: от проектирования до развертывания. Конечно, все это вызывает парадокс Джевонса. В то время как английский экономист Уильям Стэнли в 1865 году использовал экономическую теорию парадокса Джевонса, чтобы объяснить, почему при повышении эффективности паровых двигалей будет использоваться больше угля, а не меньше, чем более эффективной становится инфраструктура ИИ, тем больше мы, вероятно, будем потреблять. И это снова поднимает вопрос о том, что мы на самом деле потребляем. Как говорит Башруш, рабочие нагрузки корпоративного ИИ составляют лишь малую долю от общих рабочих нагрузок в облаке и дата-центрах. Общеизвестно, что кошачьи видео являются крупнейшим потребителем ресурсов дата-центров. Но какой процент видео, загружаемых на YouTube, основан на ИИ? «ИИ делает много хорошего. Мы проводим много исследований. Он ускоряет многие процессы, экономит нам много времени», — говорит он. «Но на самом деле, какой процент электроэнергии тратится на эти вещи? Гораздо меньше, чем на видео, изображения и медиа». Это означает, что те же люди, которые могут жаловаться на разработку дата-центра ИИ по соседству, должны задуматься о собственном медиапотреблении, подпитываемом ИИ, и его влиянии на выбросы углерода. «Как нам сделать это влияние более прозрачным?» Сравнивая эту проблему с маркировкой продуктов питания, он добавляет: «Мы не заставляем людей есть меньше сахара, но мы даем им возможность принять обоснованное решение».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Joe Fay
