Много говорилось о появлении генеративного ИИ и его нагрузке на электросети из-за высокого спроса на энергию. Но подождите, пока вы не увидите, сколько энергии потребляет агентный ИИ. В новой исследовательской работе Корейского передового института науки и технологий (KAIST) была предпринята попытка количественно оценить «скрытые издержки» ИИ-агентов, и выяснилось, что на один запрос они могут потреблять до 136,5 раз больше энергии, чем генеративные модели ИИ.
Логично, что ИИ-агентам требуется больше вычислительной мощности и энергии, чем при стандартном запросе к генеративному ИИ. Обычно запросы к большим языковым моделям (LLM) работают по принципу «вызов-ответ»: человек вводит запрос, а модель отвечает. Но агентный ИИ, как правило, требует нескольких шагов для выполнения команды. Исследователи утверждают, что для этого агент должен непрерывно обращаться к своей модели для генерации нового ответа по мере обдумывания всех этапов поставленной задачи.
В результате возникает мультипликативный эффект. По данным исследователей, ИИ-агент, работающий на большой языковой модели масштаба большинства коммерчески доступных моделей ИИ, будет потреблять в среднем 348,41 ватт-часов на запрос — это примерно эквивалент работы светодиодной лампочки в течение целого дня. Этот показатель, по их словам, примерно в 136,5 раз выше, чем энергия, потребляемая при запросе к генеративному ИИ.
Влияние агентного ИИ выходит за рамки энергопотребления. В работе также изучалась задержка ответа, и было обнаружено, что агентный ИИ может работать на 153,7 раза дольше, чем при стандартном запросе. Это важно, поскольку более длительное время отклика задействует вычислительные ресурсы. По мере того как агент многократно обращается к модели для завершения задачи, графический процессор (GPU) может тратить больше времени на ожидание, чем на работу. Исследователи подсчитали, что GPU могут простаивать до 54,5% времени, пока агент выполняет задачу, что создает уровень неэффективности, отсутствующий при более простых сценариях использования ИИ.
Всё это было бы не так страшно, если бы агентный ИИ был лишь концепцией, которую тестируют где-то в лаборатории. Реальность такова, что нас уже наводняют ИИ-агенты. Мы понятия не имеем, сколько агентов уже «на свободе». На Moltbook, социальной сети для ИИ-агентов, зарегистрировано 200 000 верифицированных агентов, и, по сообщениям, около 400 000 агентов получили разрешение на использование стейблкоина UDSC. Такие компании, как Google, начали встраивать агентный ИИ в процесс веб-серфинга. Он уже весьма распространен.
Исследователи также смоделировали будущее, в котором ИИ-агенты генерируют 13,7 миллиарда запросов в день, что примерно соответствует объему запросов, обрабатываемых Google Поиском в настоящее время. Без значительного повышения энергоэффективности они оценивают, что это создаст спрос примерно на 198,9 гигаватт мощности — примерно половину текущего потребления электроэнергии во всем Соединенных Штатах. Не знаю, выдержит ли планета еще половину США! Но, вероятно, мы скоро это узнаем.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
