Компания Brave Software создала безопасное пространство, чтобы пользователи её браузера могли конфиденциально общаться с ИИ-ассистентом компании.
В то время как ИИ-агенты, такие как Muse от *Meta, запрашивают обширный доступ к личной информации, а ИИ-компании перерабатывают диалоги для обучения, это можно считать движением против течения.
В развитие эксперимента, запущенного в ноябре прошлого года, по созданию конфиденциального канала для LLM-диалогов с помощью доверенной среды выполнения (TEE) от NEAR AI, разработчик браузера подключил своего ИИ-ассистента Leo к модели GLM 5.3 Flash от Z.ai под защитой сквозного шифрования.
В результате пользователи Brave могут отправлять Leo запросы, которые шифруются на устройстве и передаются по сети с использованием Oblivious HTTP — протокола, отделяющего сетевые запросы от связанного контента. AI Gateway от Brave перенаправляет зашифрованный запрос в TEE, не передавая IP-адрес пользователя.
После того как Brave проверит аттестацию анклава, браузер зашифрует запрос ключом, привязанным к TEE. TEE расшифрует запрос, обработает его с помощью ИИ-модели и отправит обратно зашифрованный ответ, который будет расшифрован принимающим браузером.
«В 2014 году в статье «Доверяй, но проверяй» я утверждал, что пользователи не должны слепо доверять программному обеспечению, которым они пользуются, — заявил Брендан Айк, соучредитель и генеральный директор Brave, в заявлении. — Они должны иметь возможность проверить его; это принцип, ориентированный на пользователя. ИИ повысил ставки, но слишком многое из него по-прежнему работает на обещаниях «доверяй мне, бро», часто за счет пользователя».
Конфиденциальный конвейер ИИ от NEAR AI построен на базе Intel TDX и Nvidia Confidential Compute. Он включает сквозное шифрование, которое не позволяет Brave узнать, что было запрошено, а NEAR AI — кто сделал запрос во время сетевого обмена. Изоляция данных предотвращает чтение запроса или ответа во время обработки. Ответы подписываются в TEE, и существует аттестация, позволяющая пользователям убедиться в отсутствии подмены модели.
Хотя «мозг» Leo GLM 5.3 Flash может быть изолирован в этом сценарии, ИИ-бот Brave по-прежнему может выполнять поиск из TEE через конечную точку контекста LLM API Brave Search. Любые поисковые запросы, выполненные таким образом, проходят через TEE, а не через браузер пользователя, что исключает IP-адрес пользователя из процесса.
Реализация ещё не полностью завершена: Brave намерена работать над переносом шага проверки в браузер, опубликовать журнал ключей TEE и предоставить аттестацию анклава для точных весовых коэффициентов модели, загруженных в память, среди прочего.
Brave — не единственная компания, пытающаяся снизить риски утечки данных при использовании ИИ. Apple, AWS, Google, Nvidia и Microsoft имеют ту или иную форму инфраструктуры частных облачных вычислений для ИИ.
Есть также Prem AI, которая обещает зашифрованное инференс, не говоря уже о поставщиках, рекламирующих нулевое хранение данных, что не так легко проверить.
Один из способов обеспечить конфиденциальность при использовании ИИ — это выполнять инференс на локальном оборудовании с использованием модели с открытыми весами, при условии, что модель и машина, на которой она работает, не были скомпрометированы. ®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
