Исследование, опубликованное в среду компанией Gravitee, поставщиком платформы управления API, показывает, что более половины из трех миллионов агентов, используемых в настоящее время организациями в США и Великобритании, «не имеют управления и рискуют выйти из-под контроля».
По результатам опроса 750 ИТ-руководителей и специалистов, проведенного компанией Opinion Matters в декабре 2025 года, выяснилось, что ИИ-агенты развертываются быстрее, чем службы безопасности успевают за ними следить. По словам Рори Бланделла, генерального директора Gravitee, в настоящее время в корпорациях работает более трех миллионов ИИ-агентов, что, по его словам, превышает общее число сотрудников Walmart по всему миру.
Цифра в три миллиона основана на экстраполяции результатов опроса, исходя из государственных оценок в 8 250 британских и 77 000 американских компаний, насчитывающих 250 и более сотрудников. Среднее количество ИИ-агентов, развернутых на одну компанию, составляет 36,9. На вопрос, сталкивалась ли их организация «с инцидентом, связанным с ИИ-агентом, или подозревала его, касающимся безопасности или конфиденциальности данных за последние 12 месяцев», 88% респондентов ответили утвердительно.
Средний процент агентов, которые активно не отслеживаются и не защищены, согласно полученным данным, составил 53%.
Отвечая на вопрос о причине проведения исследования, Бланделл написал в электронном письме: «Мы все знакомы с историями о том, как ИИ-агенты выходят из-под контроля: удаляют кодовые базы, утекают конфиденциальную информацию, генерируют фальшивые данные. Рабочей гипотезой, которая побудила к этому исследованию, было то, что, хотя развертывание агентов достигает захватывающего этапа, компании еще не догнали управление агентами. Исследование это подтверждает».
Глобальная проблема
По его словам, агенты «могут обеспечить огромный прирост производительности для бизнеса, но мы должны быть реалистами в отношении рисков: без управления и надзора они легко могут стать обузой и опасностью как для потребителей, так и для бизнеса».
Кроме того, по словам Бланделла, несмотря на то, что респонденты были только из Великобритании и США, «это абсолютно глобальная проблема. Компании по всему миру используют ИИ-агентов, и повсеместно существует разрыв между уровнем развертывания и уровнем управления. У нас сильная клиентская база в ЕС, где мы видим те же проблемы».
Дэвид Шипли, руководитель канадской компании Beauceron Security, специализирующейся на обучении в области безопасности, заявил: «Меня шокирует только то, что люди думают, что только 53% агентов не контролируются. На самом деле их больше».
Он сравнил результаты исследования Gravitee с «уроком о Титанике, который все в сфере технологий продолжают игнорировать. Катастрофа Титаника произошла не потому, что они не знали, что на пути будут айсберги. Они знали, что это пик сезона айсбергов, они знали, что идут слишком быстро».
Шипли отметил, что капитан и экипаж корабля «думали, что обнаружат [айсберг]; если нет, и они столкнутся с ним, то их технологические средства защиты помогут им восстановиться». Они положились на так называемые водонепроницаемые отсеки, которые, как оказалось, не были водонепроницаемыми сверху, но, что самое важное, они доверились новой технологии беспроводной связи, которую могли использовать для вызова помощи в случае беды. Аналогия сегодня: «Ну, ИТ и служба безопасности смогут все исправить, если у нас возникнут проблемы с нашими агентами».
«Тогда это было неверно, сейчас — вдвойне неверно», — сказал он.
Он добавил: «Мы знаем, что ИИ-агенты по своей природе опасны и ненадежны. Существуют математические доказательства этого. Итак, мы знаем, что есть айсберги. Повторю для тех, кто сидит на галерке: 100% ИИ-агентов имеют потенциал выйти из-под контроля. Если поставщик уверяет вас, что это невозможно, а его основная технология — это LLM, он лжет. Мы знаем, что мы движемся слишком быстро в плане принятия, учитывая существующие риски».
Шипли добавил: «Теперь самое смешное: представьте, что Титаник все равно принял бы те же решения, зная, что водонепроницаемые отсеки не работают (то есть 53% ИИ-агентов не контролируются), мы знаем, что к тому времени, как ИТ и служба безопасности разберутся с риском ИИ-агента, ущерб будет нанесен (корабль тонет слишком быстро, и радио не поможет, потому что помощь придет слишком поздно). И мы все равно принимаем те решения, которые принимаем».
Настоящая проблема — неконтролируемый ИИ, а не вышедший из-под контроля ИИ
Маниш Джайн, директор по исследованиям в Info-Tech Research Group, заявил, что по мере продолжения «экспоненциального» темпа развития ИИ его фирма, основываясь на опыте общения с CIO и CDO, прогнозирует, что к 2028 году в мире будет больше ИИ-агентов, чем людей-сотрудников. «Это будет одной из самых больших проблем для бизнес-руководителей и ИТ-специалистов — управлять ими, не ограничивая инновации, которые приносят эти ИИ-агенты», — сказал он.
Даже сегодня, отметил он, «мы видим, что большинство корпоративных ИИ-агентов работают без надзора. Многие организации даже не знают, сколько у них агентов, где они работают или к чему могут получить доступ. Если вы не знаете, сколько мулов в сарае, не удивляйтесь, когда один из них выбьет дверь».
Джайн указал, что ИИ-агенты ничем не отличаются. «Неучтенные агенты часто появляются через санкционированные низкоуровневые инструменты и неформальные эксперименты, обходя традиционный ИТ-контроль до тех пор, пока что-то не сломается. Вы не можете управлять тем, чего не видите. Поэтому мы должны понимать, что реальная проблема — это не «вышедший из-под контроля ИИ», а «невидимый ИИ».
Info-Tech, добавил он, «твердо убеждена, что управление ИИ-моделями или предварительное одобрение агентов больше недостаточно, потому что невидимые, вышедшие из-под контроля агенты будут устраивать тандаву (танец разрушения) во время выполнения. Это связано с тем, что, когда речь идет об управлении этими ИИ-агентами, их число настолько велико, что этапы одобрения не будут устойчивыми без остановки инноваций. Непрерывный надзор должен быть приоритетом для управления ИИ после установки первоначальных правил в рамках стратегии ИИ».
Перспектива, по его словам, также должна измениться: «ИИ-агенты — это больше не просто полезные боты. Они часто действуют с делегированными, но широкими полномочиями, постоянным доступом и неопределенной подотчетностью. Это может стать дорогостоящей ошибкой, поскольку агенты с избыточными привилегиями представляют собой новую внутреннюю угрозу. Нам необходимо определить многоуровневый доступ для ИИ-агентов. Хотя мы не можем избежать того, чтобы дать нескольким людям ключи от нашего дома для ускорения процессов, если вы доверяете ключи от своего дома каждому незнакомцу, мы не сможем винить слесаря, когда что-то пропадет».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Barker
