Эпоха «экономии токенов» наступает для PDF-файлов

ии токены Accenture расходы Llm gizmodo.com

Наступил «токенокалипсис»: компании, поощрявшие массовое использование ИИ, теперь ограничивают доступ из-за нецелевого сжигания токенов нетехническим персоналом. Вы достигли лимита.

Наступил токенокалипсис, и он настигает нетехнический персонал. Многие крупные компании подталкивали сотрудников использовать ИИ практически для всего, отчасти чтобы оправдать огромные суммы, вложенные в эту технологию без четкой стратегии интеграции. Однако новый отчет 404 Media показывает, что некоторые из этих же фирм теперь ужесточают доступ, обнаружив, что сотрудники сжигают токены на задачах, которые изначально вообще не требовали ИИ.

По сообщениям, издание получило аудиозапись совещания в гиганте консалтинга Accenture, где сотрудникам заявили, что они наблюдают «стремительный рост расходов токенов», вызванный бессмысленными задачами, такими как преобразование PDF-файлов в слайды презентаций. Эти случаи использования фактически начинают сжигать больше токенов, чем работа, выполняемая техническими специалистами. «Мы видим по некоторым внутренним данным, по крайней мере, что не наши инженеры являются драйверами потребления токенов», — сказал сотрудник Accenture на аудиозаписи, сообщает 404 Media. «Это в основном неинженеры, которые ведут себя подобным образом».

Хотя может показаться абсурдным полагать, что работники, сосредоточенные на «заполнении пустот» в презентациях, используют больше токенов, чем их коллеги из инженерного отдела, PDF-файлы — это чрезвычайно неэффективный способ подачи информации в системы ИИ. В зависимости от инструмента и документа, модель может извлекать и интерпретировать не только текст, но и макет каждой страницы, изображения, диаграммы и другие визуальные элементы. Этот формат файла может быть лучшим другом начальника, но ситуация может измениться, как только начнут расти счета за токены.

Несложно понять, как Accenture оказалась в этой ситуации. Согласно отчету, опубликованному Financial Times ранее в этом году, консалтинговая компания из списка Fortune 500 приложила все усилия, чтобы побудить людей использовать инструменты ИИ, вплоть до отслеживания входов сотрудников и привязки повышений к использованию чат-ботов. В служебной записке для сотрудников компания, как сообщается, заявила, что продвижение по службе будет требовать «регулярного освоения» ИИ, сигнализируя о том, что использование этой технологии не будет необязательным.

Accenture, конечно, далеко не единственная компания, использующая удивительно некритичные метрики для продвижения использования ИИ. Крупные технологические компании, такие как Meta* и Amazon, создали таблицы лидеров для отслеживания того, какие сотрудники сжигают больше всего токенов, и поощряли их стремиться попасть в этот список. Это, конечно, просто приводит к тому, что люди выполняют с помощью ИИ рутинные задачи, которые они могли бы выполнить сами, просто ради сжигания токенов.

Такой подход глуп, но был приемлем в эпоху «бесплатных денег» для ИИ, когда затраты не были привязаны к потреблению токенов. Но по мере того, как крупные лаборатории ИИ приближаются к IPO, они перешли на модель ценообразования, основанную на использовании. Результатом стали некоторые абсурдно высокие счета. Это менее устойчиво, и теперь компании начинают просить своих сотрудников сократить использование ИИ, а не наращивать его.

Странно, что компания, которая учит другие бизнесы работать более эффективно и результативно, не смогла предвидеть столь очевидный и предсказуемый обвал токенов. Наверное, это ничего не значит.

Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: