Muse, новый универсальный ИИ-агент от *Meta, может раскрывать конфиденциальную информацию при обмене пользователями бесед через веб-ссылки, сообщили в понедельник исследователи.
Как и многие онлайн-сервисы, Muse позволяет пользователям делиться поисковыми запросами, беседами, изображениями и подобным контентом с другими людьми. Такие функции обмена обычно включают нажатие опции для создания уникального URL-адреса, который любой может использовать для загрузки страницы с контентом. Чтобы потенциально конфиденциальная информация не была доступна непреднамеренным лицам, URL-адреса обычно содержат длинную последовательность текста, которую трудно угадать.
Достаточно одного запроса
Muse, который, как заявил в прошлом месяце генеральный директор *Meta Марк Цукерберг, «был создан с нуля для обеспечения конфиденциальности и безопасности», похоже, принимает те же меры предосторожности. Однако ключевое решение в дизайне формирования URL-адресов сделало ссылки легко обнаруживаемыми. В результате исследователи из охранной фирмы Claroc заявили, что им удалось перечислить 6 800 ссылок, созданных пользователями Muse для обмена беседами с другими. Открыв несколько сотен из них, исследователи обнаружили информацию, которая явно не предназначалась для публичного доступа, включая:
- заметки кандидата, подготовленные к конфиденциальному звонку с руководством по поиску персонала для передового ИИ-лаборатории, с указанием внутреннего контакта лаборатории и времени встречи
- внутренний обзор доходов национальной маркетинговой компании, предназначенный для ее генерального директора
- заявку на получение кредита от владельца малого бизнеса с указанием запрашиваемой суммы
- список дел, включающий оповещение о банковском мошенничестве, с частичным номером счета, суммой и временем транзакции
- внутренний отчет о производительности инвестора в сфере недвижимости с указанием адресов двух объектов и точных показателей доходности, прибыли и ипотеки
- полный календарь отпусков сотрудников на год, с указанием десятков сотрудников и недель, когда каждый из них будет отсутствовать
«Если бы вы спросили нас заранее, мы бы предположили, что сбор этих данных потребует реальных усилий, — написали исследователи. — Потребовался один запрос».
Самый простой способ обнаружить URL-адреса — выполнить пассивный поиск DNS через один из многих доступных коммерческих сервисов. Пассивные DNS-записи хранят исторические данные о разрешении доменных имен в IP-адреса, а также записи DNS-серверов и почтовых серверов с течением времени. Пассивные DNS-системы обычно собирают DNS-ответы от датчиков, расположенных на рекурсивных DNS-резолверах или другой инфраструктуре. Пассивная DNS-запись обычно создается, когда система мониторинга обнаруживает DNS-ответ. В данном случае, как только предполагаемая сторона нажимает ссылку для обмена, информация DNS записывается в базу данных с возможностью поиска.
Исследователи Claroc смогли обнаружить ссылки для обмена Muse, поскольку все они используют доменное имя cf.metaaiusercontent.com. Обнаружение еще больше упрощается благодаря решению добавить имя беседы в URL-адрес вместе с длинной строкой текста. Упрощенные примеры таких ссылок: home-sale-budget-9f21c8a3.cf.metaaiusercontent.com, q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com и loan-application-draft-a4c9e2.cf.metaaiusercontent.com. Именно это последнее решение — включение заголовка беседы в URL-адрес — делает возможным публичное обнаружение.
,
«Многие ИИ-помощники делятся через публичные ссылки, — заявили в Claroc. — Что делает ссылки Muse легко находимыми, так это заголовок, расположенный в веб-адресе, где публичные DNS-записи сохраняют его для поиска кем угодно. Мы называем это GhostShares: страницы, которые открываются для людей, которым ссылка никогда не передавалась, и которые эти люди могут найти самостоятельно».
Muse быстро взлетел на одну из верхних позиций в App Store от Apple. Ассистент автоматически заполняет формы, бронирует встречи, совершает покупки, создает документы и выполняет всевозможные другие действия. Для корректной работы Muse требуется доступ к большинству учетных записей пользователя. *Meta активно продвигает ассистента как платформу, достойную исключительного доверия, необходимого для его работы.
Через три недели после запуска Muse эксперт по безопасности macOS Патрик Уордл обнаружил уязвимость нулевого дня, которая позволяла любому другому приложению, установленному на том же устройстве, получить полный контроль над учетной записью пользователя Muse. *Meta преуменьшила серьезность уязвимости, заявив, что ее эксплуатация невозможна, если устройство уже не было скомпрометировано. Компания не признала вывод Уордла о том, что для угона учетной записи достаточно простой атаки ClickFix. Легкость обнаружения ссылок для обмена еще больше оправдывает вопрос, заслуживает ли Muse доступа, который он требует.
Представитель *Meta не смог немедленно ответить на вопросы, отправленные по электронной почте. Соучредитель и технический директор Cloroc Асаф Апрозпер заявил в электронном письме, что его компания связалась с *Meta и не получила ответа.
«После проверки аналогичных платформ, консультаций с отраслевыми коллегами и повторного изучения документации *Meta Muse мы пришли к выводу, что такое поведение является преднамеренным, — написал он. — Однако пользователи должны знать, что при запросе Muse на обмен чатом с кем-либо создается публичная ссылка, которую можно обнаружить с помощью методов пассивного DNS, описанных нами».
Пользователям Muse следует проявлять осторожность при обмене ссылками. Это означает ограничение объема личной информации, обсуждаемой в беседах, и скорейшее удаление ссылок.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Dan Goodin
