Signal, приложение для зашифрованных сообщений, запретило Google Gemini, Apple Siri и другим ИИ-агентам доступ к сообщениям, если пользователь явно не предоставил разрешение, ссылаясь на опасения по поводу конфиденциальности.
Ссылаясь на блокировку снимков экрана, реализованную в прошлом году для защиты от Microsoft Recall, генеральный директор Signal Мередит Уиттакер заявила, что подобные меры стали необходимы для предотвращения доступа агентного программного обеспечения, доступного в iOS и Android, к коммуникациям, предназначенным для частного использования.
«Google и Apple глубоко интегрируют в свои операционные системы агентные возможности, такие как Gemini Intelligence с Google Gemini и Onscreen Awareness с Siri AI», — написала Уиттакер в своем блоге.
«Чтобы получить доступ к информации о вас, эти ИИ-агенты ОС «сканируют» информацию, которая находится на вашем экране. При этом ваши данные Signal захватываются, а затем становятся доступны этим агентным системам, чтобы позволить им отвечать на ваши вопросы и выполнять ваши поручения».
В результате частные сообщения, обрабатываемые этими агентными системами, могут оказаться на сервере другого лица, где они перестанут быть конфиденциальными.
Обновления приложений Signal для iOS и Android теперь включают элементы управления, которые по умолчанию блокируют Siri на iOS, а также Gemini и других агентов на Android от создания снимков экрана, которые ИИ-агенты обрабатывают с помощью оптического распознавания символов для извлечения текста.
Уиттакер говорит, что те, кто хочет делать снимки экрана своих сообщений, могут отключить эту защиту через меню настроек Signal, но предупреждает, что это сопряжено с риском раскрытия вашего контента Signal (и контента, отправленного вашими контактами) ИИ-агентам.
Уиттакер признает, что блокировка снимков экрана является лишь частичным решением, поскольку ИИ-агенты могут иметь другие способы доступа к данным приложений через файловую систему устройства.
«Мы хотим быть предельно ясными: это серьезная проблема, что Signal — и разработчики приложений в целом — не имеют надежных инструментов для предотвращения подрыва конфиденциальности на уровне приложений со стороны ИИ-агентов», — сказала она.
«Даже там, где нам удается обнаруживать и блокировать доступ к данным ИИ, Google, Apple, Microsoft и другие не предоставляют разработчикам возможности легко ограничить такой доступ к данным ИИ, не идя на радикальные компромиссы в основном пользовательском опыте. Это также причина, по которой мы в настоящее время не можем реализовать эти меры защиты на macOS».
Apple предпринимает некоторые шаги для защиты от ИИ-агентов на macOS, хотя это делается в основном для защиты от доступа третьих лиц к данным, а не для ограничения собственной службы Siri. Siri можно отключить отдельно.
С выходом macOS 27.3, которая в настоящее время находится в стадии публичного бета-тестирования, настольная операционная система Apple получит более детальные элементы управления двумя API: Device Control and Data Access, и Full Disk Access. В результате пользователи приложений macOS, запрашивающих доступ к пользовательским данным, будут получать больше запросов на разрешение, а также неудобства, связанные с подачей заявки на получение разрешения от Apple для получения Full Disk Access для резервного программного обеспечения и вспомогательных технологий, использующих API доступности.
«По мере того как ИИ-агенты становятся все более способными и автономными, риски, связанные с таким уровнем доступа, будут существенно возрастать», — заявила Apple, представляя изменение Full Disk Access. «Мы стремимся к тому, чтобы пользователи четко понимали эти риски, прежде чем предоставлять такой доступ, чтобы они могли принимать обоснованные решения относительно своих данных и конфиденциальности».
Apple также, по сообщениям, работает над собственным ИИ-агентом, стремясь конкурировать с Anthropic и OpenAI. Пока неясно, будет ли Apple использовать свое владение операционной системой в качестве конкурентного рычага против ИИ-компаний, которые угрожают ее контролю, как это было с веб-браузерами.
Сначала наводнение, потом дамбы
В то время как Apple позиционирует себя как союзника, помогающего защитить клиентов устройств от любопытных ИИ-агентов, решение Signal заблокировать Siri показывает, что ИИ-агенты усложнили решения о доверии и конкурентную среду. ИИ-агенты должны служить пользователю, но когда они уносят данные в облако и встают между клиентами и продавцами, они теряют свою привлекательность.
ИИ-агенты также угрожают деловым отношениям между потребителями и продавцами.
Amazon заблокировал торговых агентов, таких как Meta Muse, со своего сайта электронной коммерции (хотя не AWS Marketplace), в то время как Walmart пригласил сторонних агентов для взаимодействия через свой AI Gateway. Anthropic заблокировал подписчиков от использования сторонних инструментов. United Airlines запретила транзакции от неавторизованных ИИ-ботов. Аналогичные барьеры или ограничения, связанные со сторонними ИИ-агентами, были установлены Target, Home Depot, Etsy, eBay, JPMorgan Chase, Charles Schwab, Citigroup и Wells Fargo, среди прочих.
Тем временем растет индустрия обнаружения и смягчения последствий работы ботов, возглавляемая такими компаниями, как Cloudflare, Akamai и DataDome, и другими.
Веб-браузер иногда называют пользовательским агентом, исходя из идеалистического представления о том, что он служит своему пользователю. Это видение было омрачено онлайн-рекламой и сбором данных, а также настройками по умолчанию, которые часто служат интересам разработчиков браузеров, а не конфиденциальности.
Теперь ИИ-агенты сталкиваются с таким же пристальным вниманием, поскольку люди задаются вопросом, действительно ли их агенты служат им или кому-то другому. После года или двух, когда поставщики ИИ-агентов настаивали на доступе ко всем цифровым данным ради персонализации и контекста, последовала негативная реакция. ®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn




