Искусственный интеллект быстро стал главным приоритетом для крупных технологических компаний. Вкладывая миллиарды в разработку и внедрение ИИ, многие организации также ищут способы мотивировать сотрудников использовать инструменты ИИ в своей повседневной работе. Однако недавний скандал, связанный с Amazon, высветил риски измерения внедрения ИИ с помощью простых статистических данных об использовании.
По сообщениям, Amazon столкнулась с растущей проблемой, известной как токеномаксинг (tokenmaxxing), после того как внутренняя таблица лидеров ИИ побудила сотрудников активизировать свою деятельность в области ИИ. Эта ситуация спровоцировала более широкие дискуссии о метриках использования ИИ в Amazon, стимулах на рабочем месте и о том, действительно ли текущие метрики производительности ИИ отражают значимые результаты.
Эта история привлекает внимание, поскольку она отражает проблему, с которой могут столкнуться многие организации по мере более глубокой интеграции ИИ в повседневные рабочие процессы.
Токеномаксинг — это термин, используемый для описания практики максимизации потребления токенов ИИ, часто для улучшения статистики использования или рейтингов, а не для получения лучших результатов.
Модели ИИ обрабатывают текст с помощью токенов, которые представляют собой части слов, предложений и запросов. Каждое взаимодействие с системой ИИ потребляет токены. Чем больше запросов отправляет пользователь, тем больше токенов используется.
Согласно сообщениям Business Insider, некоторые сотрудники Amazon, как сообщается, начали наращивать свою активность в области ИИ, чтобы подняться в рейтинге внутренней таблицы лидеров, созданной для отслеживания внедрения ИИ. Вместо того чтобы сосредоточиться исключительно на повышении производительности, некоторые работники, по-видимому, руководствовались самими показателями использования.
Эта тенденция отражает более широкую проблему, которая может возникнуть всякий раз, когда организации уделяют большое внимание измеримым статистическим данным. Сотрудники могут естественным образом оптимизировать отслеживаемую метрику, даже если эта метрика лишь косвенно связана с фактической производительностью.
Таблица лидеров ИИ Amazon была создана, чтобы стимулировать внедрение технологий ИИ по всей компании.
Как и многие технологические фирмы, Amazon вложила значительные средства в искусственный интеллект. От сотрудников все чаще ожидается понимание и использование систем на базе ИИ в рамках своей работы. Отслеживание темпов внедрения может помочь руководству определить, насколько широко используются эти инструменты.
Таблица лидеров предназначалась для поощрения вовлеченности в использование инструментов ИИ Amazon и стимулирования экспериментов с новыми технологиями. Однако, по сообщениям, система могла непреднамеренно побудить сотрудников сосредоточиться на увеличении объема использования, а не на достижении значимых результатов.
По мере того как работники соревновались за более высокие места, потребление токенов становилось видимым показателем участия. Эта среда способствовала возникновению условий для токеномаксинга.
Согласно материалам CNET, руководство Amazon в конечном итоге обеспокоилось тем, что сотрудники используют ИИ просто для улучшения позиций в таблице лидеров, а не для решения бизнес-задач.
Измерение внедрения ИИ звучит просто. Если сотрудники чаще используют ИИ, это может свидетельствовать об успешной реализации.
Однако метрики использования ИИ в Amazon выявляют ограничения опоры исключительно на измерения, основанные на активности.
Статистика использования может показать:
- Как часто сотрудники взаимодействуют с системами ИИ
- Количество отправленных запросов
- Общее потребление токенов
- Уровень внедрения в разных командах
Что эти метрики не всегда могут показать, так это то, создало ли взаимодействие с ИИ значимую ценность.
Например, сотрудник может увеличить показатели использования, делая следующее:
- Разделяя простые задачи на несколько запросов к ИИ
- Генерируя резюме, которые никогда не используются
- Задавая ИИ повторяющиеся вопросы
- Запуская ненужные черновики, сгенерированные ИИ
- Используя инструменты ИИ для малозначимых действий
Каждое действие увеличивает количество токенов, но может мало способствовать производительности.
Именно поэтому многие эксперты утверждают, что одно лишь использование не должно считаться надежным показателем эффективности.
Ситуация с Amazon возобновила дискуссии о метриках производительности ИИ и о том, как организациям следует оценивать успех ИИ.
Многие компании предпочитают количественные измерения, поскольку их легко отслеживать и сравнивать. Панели мониторинга могут мгновенно отображать показатели использования, проценты внедрения и уровни вовлеченности.
Проблема в том, что активность не всегда равна производительности.
Работник, который отправляет десятки запросов к ИИ, не обязательно выполняет больше работы, чем тот, кто стратегически использует ИИ для нескольких высокоценных задач.
Несколько проблем могут возникнуть, когда организации слишком сильно полагаются на метрики, основанные на использовании:
Количество не гарантирует Качество
Больше взаимодействий с ИИ автоматически не приводит к лучшим результатам. Эффективное использование ИИ часто зависит от качества запросов, критического мышления и тщательной проверки.
Метрики могут влиять на Поведение
Когда сотрудники знают, что их производительность измеряется, они могут изменять свои действия для улучшения этих показателей.
Затраты могут быстро Расти
Системы ИИ требуют значительных вычислительных ресурсов. Более высокое потребление токенов может увеличить операционные расходы без пропорциональной отдачи.
Производительность остается Сложной для Измерения
Статистика использования показывает, как часто используется ИИ, но она не обязательно показывает, быстрее ли завершаются проекты, лучше ли обслуживаются клиенты или достигаются ли бизнес-цели.
Ситуация подчеркивает, почему многие организации начинают переосмысливать, как они оценивают эффективность ИИ.
Amazon продолжает расширять свои инвестиции в искусственный интеллект посредством широкого спектра продуктов и услуг.
Эти инструменты ИИ Amazon поддерживают такие функции, как:
- Разработка программного обеспечения
- Автоматизация обслуживания клиентов
- Облачные вычисления
- Анализ данных
- Генерация контента
- Автоматизация бизнес-процессов
По мере того как ИИ все больше интегрируется в рабочие процессы, измерение его внедрения становится естественным образом важным. Организации хотят, чтобы сотрудники понимали технологию и использовали ее эффективно.
Задача состоит в том, чтобы найти метрики, которые поощряют продуктивное поведение, а не чрезмерную активность.
Многие эксперты считают, что успешное внедрение ИИ должно быть сосредоточено на таких результатах, как:
- Более быстрое завершение проектов
- Повышение эффективности
- Улучшение принятия решений
- Сокращение рутинной работы
- Более высокое качество результатов
Эти показатели часто труднее отслеживать, чем потребление токенов, но они дают более четкое представление о реальной ценности ИИ.
Amazon — не единственная компания, пытающаяся стимулировать внедрение ИИ. В технологической отрасли предприятия внедряют инициативы в области ИИ, учебные программы и внутренние показатели производительности.
Скандал с токеномаксингом дает несколько уроков для организаций, разрабатывающих собственные стратегии в области ИИ.
Некоторые лучшие практики включают:
- Измерять результаты, а не объем использования.
- Сосредоточиться на повышении эффективности.
- Отслеживать результаты проектов наряду с активностью ИИ.
- Поощрять значимое внедрение.
- Оценивать качество, а также количество.
В недавнем отчете Financial Times отмечалось, что опасения по поводу чрезмерного использования ИИ растут в некоторых частях технологического сектора, поскольку предприятия пытаются обосновать крупные инвестиции в ИИ.
Главный урок заключается в том, что успешное внедрение ИИ требует большего, чем просто поощрение сотрудников часто использовать эту технологию. Это требует обеспечения того, чтобы технология приносила измеримую пользу.
Скандал с таблицей лидеров ИИ Amazon — это больше, чем изолированная проблема на рабочем месте. Он высвечивает проблему, с которой могут столкнуться многие организации по мере того, как ИИ становится стандартной частью профессиональной жизни.
Предприятия все чаще хотят получать данные, демонстрирующие внедрение ИИ и рост производительности. Однако рост токеномаксинга показывает, как легко метрики могут стать целями, а не полезными индикаторами.
Поскольку организации продолжают инвестировать в технологии ИИ, акцент может постепенно смещаться от простой статистики использования к измерениям, основанным на результатах. Вместо того чтобы спрашивать, как часто сотрудники используют ИИ, руководители могут все чаще спрашивать, помогает ли ИИ командам работать более эффективно и достигать лучших результатов.
Дебаты вокруг метрик использования ИИ в Amazon предлагают ранний взгляд на то, как компании могут усовершенствовать свой подход к метрикам производительности ИИ в ближайшие годы.
1. Что такое токеномаксинг?
Токеномаксинг относится к практике максимизации использования токенов ИИ, часто для улучшения рейтингов, статистики использования или показателей производительности, а не для достижения лучших рабочих результатов.
2. Какова была цель таблицы лидеров ИИ Amazon?
Таблица лидеров ИИ Amazon, по сообщениям, была разработана для того, чтобы побудить сотрудников внедрять и экспериментировать с технологиями ИИ путем отслеживания активности использования.
3. Почему метрики производительности ИИ вызывают споры?
Метрики производительности ИИ могут вызывать споры, поскольку высокий уровень использования не всегда приводит к значимому повышению производительности или лучшим бизнес-результатам.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gio Farley
