В документе, опубликованном во вторник, шесть крупных мировых банков, включая Bank of America и Capital One, предупредили, что автономный шопинг несет «риски, связанные с прозрачностью, безопасностью, конфиденциальностью и данными, выбором и интероперабельностью», которые возрастают «по мере предоставления большей автономии ИИ-агентам».
Разработчики ИИ, а также различные ритейлеры и крупные платежные системы работают над запуском чат-ботов для автономной коммерции, или ИИ-агентов, которые обещают полностью автоматизировать процесс онлайн-покупок. Однако масштабы внедрения измерить сложнее. Некоторые потребители используют ИИ-чат-боты для поиска товаров или получения информации о том, что купить при онлайн-шопинге, но многие по-прежнему неохотно позволяют агентам свободно перемещаться по интернету с доступом ко всему их состоянию.
«Потребители не уверены, будут ли ИИ-агенты действовать в их интересах, — говорится в отчете. — Они обеспокоены тем, что ИИ-агенты могут купить не то, потратить слишком много или, что еще хуже, потерять их деньги из-за мошенничества и обмана».
Многие технические эксперты также, похоже, не полностью верят в будущее автономной коммерции.
Рон Джонсон, бывший руководитель Apple, стоявший за созданием первых розничных магазинов Apple Store, в недавнем интервью TechCrunch заявил, что, по его мнению, ИИ «улучшит опыт онлайн-покупок», но на самом деле не изменит «способ, которым мы совершаем покупки».
«ИИ никогда не сможет дать вам физически ощутить продукт, — сказал Джонсон. — Покупатели просто станут более информированными, когда придут в магазин».
Шесть банков, совместно написавших отчет под названием «Построение доверия в автономной коммерции», похоже, согласны с тем, что многие проблемы и вопросы по-прежнему омрачают этот сценарий использования ИИ-агентов.
ИИ-агенты могут отдавать предпочтение определенным продуктам или способам оплаты просто из-за стимулов, таких как более высокие комиссии и низкая стоимость токенов, вместо того чтобы выбирать то, что лучше для клиента.
Автономная коммерция также имеет «потенциал для более высокого уровня мошенничества, обмана и споров», говорится в отчете, и любая утечка данных поставит под угрозу особенно конфиденциальные данные потребителей и продавцов, полагающихся на этих агентов.
Показательный пример: *Meta только что объявила, что обнаружила и исправила уязвимость нулевого дня в своем новом ИИ-ассистенте Muse, который среди своих заявленных возможностей включает автономный шопинг. Эта уязвимость могла позволить злоумышленнику практически захватить ИИ-ассистента и воспользоваться любыми разрешениями, которые пользователь ему предоставил. Объявление последовало всего через день после того, как Amazon попросил Muse прекратить использовать свой сайт электронной коммерции, заявив, что агент *Meta не смог идентифицировать себя при совершении покупок на платформе, и это вызвало опасения относительно того, как Amazon обрабатывает учетные данные клиентов и данные аккаунтов.
Однако банки не отвергают идею автономной коммерции полностью и даже утверждают, что она потенциально может стать «основным способом совершения транзакций потребителями и продавцами».
«Мы тоже воодушевлены перспективами автономной коммерции и готовы работать с клиентами, отраслью и заинтересованными сторонами для ее развития», — говорится в документе.
Но сначала автономной коммерции необходимо завоевать доверие посредством отраслевых стандартов, политик и мер защиты потребителей, которые в настоящее время отстают от технологических разработок, заявляют банки. Консорциум в настоящее время работает над последующим документом, в котором будет подробно описано, как пять ключевых принципов, изложенных в этом отчете — прозрачность, безопасность, конфиденциальность и данные, выбор и интероперабельность — могут быть фактически реализованы для обеспечения максимальной безопасности любого развертывания автономной электронной коммерции под управлением ИИ.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
