Растущая стоимость использования больших языковых моделей (LLM) заставляет предприятия задуматься. По мере усложнения моделей искусственного интеллекта (ИИ) запросы стали обходиться бизнесу значительно дороже в «токенах», а в некоторых случаях приводить к катастрофически большим счетам. А их присущая изменчивость означает, что теперь невозможно предсказать, сколько будет стоить каждая задача. Один и тот же запрос в один день может дать мгновенный ответ, а почти идентичный запрос в другой день может занять пять минут и сжечь 10% вашего месячного бюджета токенов, — говорит Дон Шуэрман, технический директор (CTO) компании Pegasystems. Предприятия стимулировали сотрудников максимально использовать ИИ, не до конца осознавая выгоду, которую это приносит организации. Такой «токенмаксинг» оставил компании с неожиданными счетами. Например, в прошлом месяце Axios сообщила, что одно неназванное предприятие потратило более 500 миллионов фунтов стерлингов на токены ИИ для платформы Claude AI от Anthropic за один месяц, не установив лимита на использование ИТ сотрудниками. А в апреле технический директор Uber сообщил, что компания по вызову такси и доставке израсходовала весь свой бюджет на Claude Code на 2026 год за первые три месяца года.
Рост стоимости токенов ИИ
Коммерческое давление, связанное с финансированием дата-центров ИИ, и рост цен на энергоносители привели к тому, что поставщики ИИ в последние месяцы повысили цены, заставляя организации сомневаться в ценности расходов на ИИ. В некоторых случаях, по словам Шуэрмана, компании заменили людей ИИ, только чтобы понять, что ИИ обходится им дороже, чем люди, которых они заменили. На прошлой неделе Мэри Дейли, президент и генеральный директор Федерального резервного банка Сан-Франциско, кратко выразила это в интервью Bloomberg. «Рост производительности наблюдается повсюду, кроме данных», — сказала она. «Произошло то, что модели стали более изощренными», — говорит Шуэрман Computer Weekly. «Модель рассуждает сама с собой, иногда она отправляет других агентов выполнять другие задачи, и по мере этого она постоянно задействует счетчик токенов».
Предприятия начинают осознавать затраты на ИИ
Он утверждает, что предприятия начинают понимать, что стоимость ИИ не увеличивается линейно с количеством вычислений, выполняемых моделью. «Каждый шаг квадратично увеличивает стоимость процесса», — говорит он. Если вы используете ИИ для отработки бизнес-процесса, первый шаг может потребовать 500 токенов, но контекст первого шага должен быть сохранен, поэтому второй шаг потребует 1000 токенов. Третий шаг будет использовать 1500 токенов и так далее, — говорит Шуэрман. По мере усложнения вычислений и увеличения потребности в контексте не только возрастает стоимость, но и риск галлюцинаций ИИ или непредсказуемого поведения. «Наилучшее применение ИИ — помочь мне наладить этот повторяющийся процесс — помочь мне его определить, помочь мне его спроектировать, помочь мне убедиться, что он соответствует лучшим практикам. И оказывается, что для этого мне не нужно много ИИ»Дон Шуэрман, PegasystemsОтвет Pegasystems для контроля затрат на ИИ заключается в более стратегическом использовании этой технологии. Pega поставляет компаниям из списка Fortune 500 платформы с низким кодом для автоматизации их бизнес-процессов и управления взаимоотношениями с клиентами. На этой неделе компания объявила, что будет взимать с клиентов плату за бизнес-результаты, а не за количество используемых токенов ИИ. Шуэрман утверждает, что по крайней мере 60–70% критически важных для бизнеса процессов, в которых нуждаются предприятия, могут быть автоматизированы с помощью подходов, основанных на правилах. «Наилучшее применение ИИ — помочь мне наладить этот повторяющийся процесс — помочь мне его определить, помочь мне его спроектировать, помочь мне убедиться, что он соответствует лучшим практикам», — говорит он. «И оказывается, что для этого мне не нужно много ИИ».
Проектирование рабочих процессов
Например, программное обеспечение Blueprint от Pega использует ИИ, чтобы помочь людям проектировать автоматизированные рабочие процессы для своих организаций. Поскольку ИИ выполняет основную часть работы на этапе проектирования, агентам ИИ не нужно каждый раз переосмысливать процесс с нуля при его запуске. Однако рабочие процессы могут вызывать агентов ИИ для выполнения конкретных задач — например, обобщения документа или запроса ввода от человека, — предоставляя предприятиям возможность использовать рассуждения ИИ в контролируемом режиме. Pega теперь сделала свои автоматизированные рабочие процессы совместимыми с протоколом Model Context Protocol (MCP) с открытым исходным кодом. Это означает, что компании могут предоставить агентам ИИ, созданным на других платформах — таких как Anthropic Claude, Google Gemini, OpenAI, AWS AgentCore и других, — доступ к процессам Pega. Шуэрман говорит, что для Pega добавление MCP было «относительно легкой задачей». Pega безразлична к тому, как организации получают доступ к ее рабочим процессам. Организации уже могут получать доступ к рабочим процессам Pega через другое программное обеспечение, например Salesforce, без необходимости использовать Pega в качестве фронтенда. Но для бизнеса это огромное изменение, говорит он. Они могут взять своих существующих агентов ИИ и использовать их для следования рабочим процессам Pega. «Как только я подключу Pega MCP, этот агент будет следовать правилам, он будет делать это без излишних рассуждений [делая] этот относительно простой вызов для поиска нужного рабочего процесса и нахождения нужного навыка», — говорит Шуэрман.
От банков до пиццы
Компании, включая голландский банк Rabobank, используют вызовы MCP для преобразования чат-ботов в интеллектуальных агентов, которые выполняют задачи для клиентов, например, проверяют баланс счета или потенциально совершают платеж. Blueprint открыла дверь для большего числа компаний, чтобы быстрее стать клиентами Pega. В прошлом Pega могла потратить несколько лет на разработку прототипов рабочих процессов, а компаниям — на принятие решения об использовании программного обеспечения Pega. «Часто требовался долгий цикл обсуждений и действительно квалифицированные продавцы, чтобы помочь клиенту понять, как его бизнес-проблема вписывается в нашу платформу», — говорит он. С помощью Blueprint программное обеспечение может принять описание того, чем компания занимается, просканировать материалы с веб-сайта компании и в течение нескольких минут разработать рабочие процессы, которые имеют смысл для бизнеса. Шуэрман не называет конкретных цифр, но говорит, что Pega приняла сознательное решение продавать свою платформу более широкому кругу компаний, отчасти напрямую, а отчасти работая через бизнес-партнеров. Ранее Pega специализировалась на поставках своих платформ высокорегулируемым отраслям, таким как банки, страховые компании и здравоохранение. Но теперь она видит возможности в таких компаниях, как Papa John’s, сеть пиццерий, которая была замечена среди участников ежегодной конференции Pega.
ИИ не может создавать нечто выдающееся
Шуэрман убежден, что ИИ не заменит человеческое творчество по мере автоматизации предприятий. В отличие от людей, ИИ не создает ничего выдающегося и не проявляет подлинного творчества. «Он просто усредняет все, что прочитал в прошлом», — говорит он. «Наша цель — постоянно сокращать время от идеи до того момента, когда эта идея внесет значимые изменения в то, как работают мои сотрудники и как клиенты взаимодействуют с нами». Это оставляет людям возможность сосредоточиться больше на стратегии, идеях и творчестве. По мнению Шуэрмана, слишком много внимания уделяется следующей версии ChatGPT или Claude, тогда как версия прошлого года была вполне достаточной. «Самая сложная работа заключается в том, чтобы превратить весь этот потенциал ИИ в реальность для людей, и именно здесь, по моему мнению, заключается самое интересное».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bill Goodwin
