United Airlines стала последней компанией, введшей ограничения на использование неавторизованных сторонних ИИ-агентов, предупредив, что боты могут совершать непреднамеренные покупки, раскрывать данные клиентов или обходить проверки, требующие подтверждения человеком.
Авиакомпания объявила об ограничениях, охватывающих как собственные цифровые платформы, так и косвенный доступ через турагентства и агрегаторы, с изменениями в политике бронирования, оформления билетов и дистрибуции.
United утверждает, что автоматизированные действия могут нарушать авиационные правила, ссылаясь на требование подтверждения человеком при регистрации багажа на предмет отсутствия запрещенных веществ. Бот, бодро отмечающий галочкой, — это не то подтверждение от пассажира, которое они имеют в виду.
Кроме того, существует опасение, что «предоставление учетных данных учетной записи личным сторонним ИИ-помощникам может привести к раскрытию конфиденциальной информации, а действия, предпринятые этими инструментами, могут привести к непреднамеренным покупкам, изменениям в учетной записи или использованию миль MileagePlus».
United также предпочла бы, чтобы клиенты использовали собственное приложение, а не предоставляли сторонним помощникам доступ к своим системам.
ИИ-агенты позиционируются как способ делегирования мелких жизненных задач, и трудно обойти веб-пространство, не наткнувшись на восторженного инфлюенсера, объясняющего, почему вам нужен один, десятки или сотни виртуальных личных помощников.
Дело в том, что работа с этими помощниками требует осторожности и продуманности. Ранее в этом году британский математик, профессор Ханна Фрай провела показательный эксперимент, в ходе которого она дала ИИ-агенту банковскую карту и немного больше свободы действий, чтобы посмотреть, что он будет делать. Были раскрыты пароли и совершены некоторые необдуманные покупки. Тем не менее, как сказала Фрай об агенте по прозвищу Кассандра: «Не позволяйте ее некомпетентности вас обмануть, потому что эти вещи быстро совершенствуются».
В прошлом месяце появились сообщения о том, что крупные американские банки блокируют сторонних ИИ-агентов от работы в учетных записях и совершения действий от имени клиента. В этом месяце несколько британских банков, как сообщается, последовали этому примеру.
United заявила: «Руководители корпораций в банковской и розничной отраслях предприняли аналогичные действия в отношении ИИ-агентов, и мы призываем других рассмотреть меры, которые сохраняют данные и безопасность своих клиентов и повышают безопасность».
The Register спросил United Airlines, как они планируют реализовать блокировку. Существует несколько вариантов, включая физическое биометрическое подтверждение действий или проверку на признаки автоматизированного управления браузером. Amazon также выступила против неавторизованных ИИ-агентов, в сентябре заблокировав Muse от *Meta (по словам *Meta, «ИИ, который все делает»).
Авиакомпания пока не ответила. ®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Richard Speed
