Как это обычно бывает у *Meta, новый популярный ИИ-агент компании Muse, по сообщениям, ведет подробные, регулярно обновляемые файлы о людях из окружения пользователей.
Почти через месяц после запуска исследователи изучают, как работает Muse. Оказывается, ИИ-агент открыто делится внутренними файлами и инструкциями, когда пользователи спрашивают, предлагая заглянуть в его работу.
Одной из несколько тревожных деталей является ежечасный процесс, который предписывает Muse создавать и обновлять «страницу для каждого человека в жизни пользователя», сообщает Wired.
Независимый исследователь в области безопасности ИИ Каран Джоши извлек множество инструкций и системных запросов Muse через обычный интерфейс чата приложения и поделился находками с Wired. Отдельно The Future Society опубликовал системные инструкции из экспортированной копии виртуальной машины Muse.
«Судя по всем этим запросам, данным системных навыков и тому, что они скармливают Muse, мне показалось, что они хотят понять ваши отношения с реальными людьми», — сказал Джоши Wired. «Они пытаются узнать вас как друга, что, честно говоря, довольно жутко».
Новые подробности появились всего через несколько недель после того, как *Meta запустила Muse 8 сентября как персонального ИИ-агента, способного выполнять такие задачи, как отправка электронных писем, бронирование поездок, покупки и отслеживание целей. Для всего этого пользователи предоставляют Muse доступ к широкому спектру своих приложений и учетных записей. С тех пор Muse поднялся на первое место в чарте бесплатных приложений iPhone в американском App Store от Apple.
Однако опасения по поводу конфиденциальности и безопасности возникли почти сразу.
Например, Amazon заблокировал Muse для покупок на своем сайте в сентябре, заявив, что *Meta не уведомила компанию заранее о том, что агент будет получать доступ к ее интернет-магазину. Компания также выразила обеспокоенность по поводу того, как Muse обрабатывает учетные данные клиентов и данные учетных записей.
Недавно *Meta также исправила уязвимость нулевого дня в версии Muse для Mac, которая могла позволить вредоносному ПО, уже работающему на компьютере пользователя, захватить агент и использовать разрешения, которые пользователь ранее ему предоставил.
Теперь у нас есть лучшее представление о том, сколько Muse отслеживает о пользователях и людях в их жизни, даже если эти люди сами не используют Muse.
Согласно системным инструкциям, опубликованным The Future Society, эти страницы отношений могут включать имя человека, его связь с пользователем Muse, повторяющиеся темы, такие как предстоящий переезд или цель накопления, а также важные даты, такие как дни рождения и юбилеи.
Muse также может вести историю отношений, включая события или вехи, а также информацию о том, насколько близок пользователь к человеку, на чем построены их отношения, как они взаимодействуют и что, по-видимому, требуется отношениям в данный момент.
«Чтобы любой агент был полезен и действительно помогал вам достигать ваших целей, ему нужен контекст о вас и тех, с кем вы взаимодействуете», — заявил представитель *Meta Gizmodo в письменном заявлении. «Muse собирает это на основе общедоступной информации и того, чем вы решили поделиться, именно так он запоминает, что человек, который только что отправил вам счет, на самом деле является сантехником, которого вы ранее наняли для выполнения некоторых работ в вашей ванной, или какие цветы больше всего понравились вашему супругу».
Представитель добавил, что информация хранится в выделенной безопасной виртуальной машине каждого пользователя, доступ к которой, по словам *Meta, не могут получить агенты других пользователей.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil
