На фоне бушующего бума ИИ компании наперебой говорят о том, как важно внедрять ИИ-агентов для достижения беспрецедентного уровня производительности. Однако мы еще далеки от того, чтобы ИИ-агенты стали безупречными. Хотя они и оказывают полезную помощь, порой они могут вызывать серьезные проблемы у тех, кто их использует.
Один из таких случаев произошел в декабре 2025 года, когда Amazon поручила своему внутреннему ИИ-боту Kiro исправить некоторые проблемы в AWS. Вместо того чтобы выполнить работу должным образом, Kiro вывел из строя часть инфраструктуры Amazon Web Services, вызвав сбой в работе конкретного сервиса. Сбой продлился 13 часов и затронул в основном пользователей в некоторых регионах материкового Китая.
Издание Financial Times сообщает, что инженеры Amazon попросили Kiro устранить незначительную программную ошибку в Cost Explorer – инструменте Amazon для анализа затрат на услуги AWS. Вместо того чтобы просто исправить конкретный баг, Kiro приступил к «удалению и воссозданию среды».
Кроме того, FT сообщает, что это был не единичный случай. Другие инженеры AWS рассказали о еще одном инциденте, когда внутренний инструмент Amazon вызвал проблемы в работе сервисов компании. Инцидент затронул Amazon Q Developer – ИИ-чат-бот Amazon, разработанный для помощи инженерам в написании кода, который вызвал очередное нарушение работы внутреннего сервиса.
Amazon обратилась к India Today с заявлением, в котором говорится, что первопричиной проблемы стала человеческая ошибка:
«Это было крайне ограниченное событие, произошедшее в прошлом году, когда пострадал только один сервис (AWS Cost Explorer) в одном из наших двух регионов в материковом Китае. Первопричиной стала ошибка пользователя — конкретно инженер, использовавший роль с более широкими полномочиями, чем ожидалось — а не проблема автономии ИИ. После декабрьского инцидента AWS внедрила многочисленные меры безопасности».
Подобные случаи заставляют нас ставить под сомнение готовность ИИ-агентов к работе в бизнес-среде, независимо от того, действует ли человек в связке с ИИ или ИИ работает автономно. Если компания с ресурсами и опытом Amazon сталкивается с подобными проблемами, пусть даже незначительными, риски для более мелких компаний или, что еще хуже, для отдельных лиц растут в геометрической прогрессии.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ivan Jenic
