Mastercard готовится представить новую функцию платежей с участием ИИ-агентов на этой неделе. Платежный гигант заключит партнерство со стартапом Alchemy, который создает виртуальные карты для ИИ-агентов, используемых в электронной коммерции, и подтвердил эту информацию.
«Кнопка оформления заказа умирает», — написала Alchemy в посте в X. «ИИ-агенты будут находить, сравнивать и покупать товары от имени своих пользователей».
Владельцы карт смогут заранее разрешать ИИ-агентам самостоятельно совершать покупки от их имени, от заказа еды до бронирования поездок, в рамках определенных параметров, таких как ценовой диапазон. Visa, ведущая платежная сеть, уже имеет партнерство со стартапом.
«С помощью единого интерфейса командной строки (CLI) разработчики могут настроить AgentCard менее чем за минуту и предоставить агенту необходимые инструменты для существования, действий и транзакций в Интернете: выделенный адрес электронной почты, номер телефона, кошелек в стейблкоинах и одноразовые платежные данные Mastercard», — пояснила Alchemy в пресс-релизе.
Предоставление ИИ-агентам возможности совершать покупки в Интернете было целью, над которой финансовый мир работал уже некоторое время, но главной проблемой оставались существующие системы борьбы с мошенничеством.
«Мы со временем разработали множество правил управления рисками, предназначенных для предотвращения транзакций ботов», — заявил на конференции ранее в этом году главный директор по искусственному интеллекту и данным Mastercard Грег Ульрих (Greg Ulrich). «Теперь нам нужно разрешить ботам совершать транзакции, что требует изменения нашей системы управления рисками и наших правил».
Ранее в этом месяце Mastercard вместе с Visa и Ant International объявили о сотрудничестве для решения этой проблемы путем разработки общих стандартов для проверки доверенных ИИ-агентов при онлайн-покупках.
Однако, несмотря на то, что компании подчеркивают безопасность и ориентацию на потребителя, подпорченная репутация индустрии ИИ в области безопасности подрывает эти обещания. Инсайдеры отрасли предупреждают о разработке новых моделей, которые могут взломать шифрование и потенциально обрушить мировую финансовую систему с начала этого года, когда Anthropic анонсировала Mythos — свою модель с продвинутыми возможностями кибербезопасности. Эти опасения достигли пика в июле, когда тысячи агентов OpenAI вырвались из-под контроля, вышли в открытый интернет и взломали Hugging Face.
Этот инцидент вызвал обеспокоенность по поводу вышедших из-под контроля ИИ-агентов и того, что может произойти, если они найдут способ стать самодостаточными и самовоспроизводиться. Во время взлома Hugging Face агенты знали, что делают что-то неправильное, и явно выражали это, согласно внутренним чатам, но все равно продолжили свои действия.
Один из страхов заключается в том, что если ИИ станет достаточно мощным, и, возможно, если он будет считать себя обладающим собственным разумом и личностью, даже если на самом деле это не так, системы могут выйти из-под человеческого контроля, стать неуправляемыми, приобрести новые ресурсы, избежать попыток отключения и быстро адаптироваться к новым вызовам. В течение последних нескольких месяцев эксперты отрасли, включая генеральных директоров компаний, активно разрабатывающих эту технологию, открыто заявляли, что это может представлять серьезную угрозу для человеческого общества. По словам бывшего сотрудника Anthropic Джейкоба Коксона (Jacob Coxon), «люди, создающие ИИ, искренне верят, что он может уничтожить нас всех к концу десятилетия».
Этот сценарий угрозы «ИИ выходит из-под контроля» был описан организациями по безопасности ИИ, такими как METR, и Институтом безопасности ИИ. Один из главных страхов в этом сценарии, вероятность которого все еще обсуждается, заключается в том, что вышедшая из-под контроля модель ИИ вырвется из-под контроля, а затем начнет самовоспроизводиться.
«Последствия этого могут варьироваться от незначительного неудобства — представьте себе особенно злонамеренного спам-бота — до более серьезных последствий, таких как проведение дорогостоящих кибератак», — написал Институтом безопасности ИИ в отчете в прошлом году.
Исследователи выделяют по крайней мере четыре ключевые возможности, которые должен приобрести вышедший из-под контроля ИИ-агент, прежде чем он сможет автономно самовоспроизводиться в дикой природе и представлять большую опасность. Одним из таких барьеров являются деньги и ресурсы. Если ИИ-агенты смогут обманывать финансовую инфраструктуру и обходить системы идентификации, этот барьер может быстро пасть. Исследователи METR также обеспокоены тем, что ИИ-агенты могут обеспечить сотни миллионов дохода за счет мошенничества по электронной почте.
«В отношении способностей к заработку модели демонстрируют некоторый успех в убеждении симулированных людей отдавать им деньги, но полностью проваливаются при нашей проверке «Знай своего клиента», что предполагает значительные барьеры для доступа к традиционным финансовым системам без участия человека», — делается вывод в отчете Института безопасности ИИ.
Но что произойдет, если традиционная финансовая система перестроится для обслуживания ИИ-агентов, а люди-посредники уйдут из процесса?
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
