Чем больше вы используете ИИ, тем сложнее им управлять и получать от него прибыль, предупреждает аналитическая фирма Gartner.
Такой пессимистичный взгляд на ИИ был представлен на ежегодном IT Symposium, первая часть которого прошла в Австралии, а затем продолжится в Европе и США.
На австралийском мероприятии вице-президенты Gartner Дэрил Пламмер и Кристин Мойер заявили, что ИИ и его ведущие разработчики пока остаются незрелыми.
Отвечая на вопрос о работе с ведущими ИИ-лабораториями, Пламмер сказал: «Доверять этим поставщикам пока не стоит. Они не готовы к корпоративному использованию. Они не понимают корпоративных условий и положений. Они не понимают корпоративной ответственности. Они не понимают корпоративной, знаете ли, последовательности и непрерывности».
Он указал на практику ИИ-компаний, которые часто меняют свои модели, по-видимому, не задумываясь о том, как эти обновления могут повлиять на приложения, зависящие от их вывода, или сломают ли они их вовсе.
«Это неконтролируемый темп инноваций, и печально то, что вы не можете позволить себе не следовать ему», — сказал Пламмер, поскольку ИИ-компании еще не проявили готовности поддерживать устаревшие технологии, хотя срок службы их моделей составляет около шести месяцев. «Если вы решите остаться с первой версией модели, они не будут уделять вам особого внимания. Это само по себе говорит о том, что они не готовы к корпоративному использованию», — добавил он.
Мойер процитировала исследование Gartner, согласно которому 86% ИТ-директоров считают, что риски, создаваемые ИИ, растут быстрее, чем создаваемая им ценность, отчасти потому, что ранние успехи с ИИ создают больший спрос на использование технологии, чем ИТ-отделы могут безопасно удовлетворить.
Часть этого спроса Мойер назвала «бездумным потреблением» — когда работники используют ИИ бездумно, когда это не необходимо или неуместно. Она сослалась на исследование, согласно которому 40% работников сталкивались с «мусором» от ИИ, и расшифровка такого контента обычно занимает два часа — или работу стоимостью 9 миллионов долларов в год для организации из 1000 человек.
«Удачи в остановке бездумного потребления, — сказала Мойер, — потому что трудно даже понять, сколько у вас агентов. ИИ вторгается в ваше предприятие через продукты, которые вы уже владеете».
Мойер считает, что у предприятий должен быть некоторый опыт контроля над бездумным потреблением, поскольку они потратили десятилетие на то, чтобы обуздать предпочтение разработчиков использовать самые мощные и дорогие облачные вычислительные ресурсы, к которым они могут получить доступ.
Пламмер привел еще один пример контроля над использованием ИИ: вспомнить альтернативные и проверенные технологии автоматизации. Он сказал, что создавать агент для взаимодействия с базой данных глупо, потому что обычный вызов функции может отлично справиться с этой задачей.
Он также возложил часть вины за бездумное использование ИИ на поставщиков, которые, по его словам, «отчаянно пытаются монетизировать ИИ», продавая вам продукты, которые его включают, или просто заставляя вас покупать больше токенов. «Поставщики хотят, чтобы вы использовали агентов повсюду», — сказал он.
The Register спросил аналитиков об эффективности AIOps — подхода, при котором поставщики используют агентов для обнаружения источника проблем и рекомендации решения в один клик.
Пламмер назвал такие предложения нечестными. «Они движутся в правильном направлении, но у них неправильные мотивы, — сказал он. — Их мотивы — продать вам что-то и заставить купить, а не предложить правильное решение, потому что их продукт, вероятно, не является правильным решением».
По его словам, такое поведение типично для цикла продаж новых технологий и, похоже, разворачивается по мере того, как поставщики создают инструменты управления, которые, по их словам, позволят безопасно использовать ИИ. Пламмер отметил, что рынок этих продуктов «один из самых фрагментированных, которые мы когда-либо видели».
Безопасность как в банке
Оба аналитика рекомендовали несколько действий для укрощения ИИ.
Одно из них — создание «центрального банка ИИ», который будет отвечать за надзор за использованием ИИ в организации, обеспечивая его постоянную работоспособность путем рассмотрения системного воздействия технологии.
Ключевая роль этого центрального банка — обеспечение подотчетности, фактора, который, по словам аналитиков, легко установить с помощью обычных ERP или CRM-приложений, оставляющих аудиторский след того, кто выполнил или санкционировал действия.
ИИ не всегда оставляет такие доказательства, отметила Мойер.
«Нелегко понять, кто отправится в тюрьму, — пошутила она. — Если у вас нет системы цифровых доказательств для ИИ, подумайте об этом!»
Фирма также считает, что пользователям ИИ необходима возможность отключать неконтролируемые ИИ с помощью «агентов-хранителей» — ИИ, задача которых — наблюдать за другими агентами, чтобы гарантировать, что их поведение остается в установленных пределах. Пламмер сказал, что эти агенты должны иметь возможность «убивать» неконтролируемые агенты.
Третья рекомендация — создать группы аварийного восстановления, занимающиеся устранением проблем, вызванных ИИ.
«Если вас привлекут к ответственности, и ваш ответ будет «это сделал ИИ», вы в беде», — сказал он. «ИТ-директора будут нести ответственность за сбои в работе ИИ». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Simon Sharwood
