Google подробно рассказала о своем подходе к обеспечению безопасности пользователей в Chrome, используя модели наблюдения и механизм получения согласия на действия пользователя. Компания представила возможности агентного просмотра в Chrome в сентябре и заявила, что эти функции будут внедрены в ближайшие месяцы.
Компания сообщила, что использует несколько моделей для контроля за действиями агентов. Google заявила, что разработала User Alignment Critic (Критик согласованности с пользователем) на основе Gemini для проверки задач, созданных моделью-планировщиком для конкретной задачи. Если критическая модель считает, что запланированные задачи не соответствуют цели пользователя, она просит модель-планировщик пересмотреть стратегию. Google отметила, что критическая модель видит только метаданные предлагаемого действия, а не фактический веб-контент.
Кроме того, чтобы предотвратить доступ агентов к недопустимым или ненадежным сайтам, Google использует Agent Origin Sets (Наборы источников агента), которые ограничивают доступ модели только к источникам, доступным для чтения и записи. Источник, доступный для чтения, — это данные, из которых Gemini разрешено извлекать контент. Например, на сайте электронной коммерции релевантны списки товаров, но не баннерная реклама. Аналогично, Google заявила, что агенту разрешено кликать или вводить текст только в определенных iframe на странице.
«Это разделение обеспечивает, что агенту доступна только информация из ограниченного набора источников, и эта информация может быть передана только на источники, доступные для записи. Это ограничивает вектор угроз утечки данных между источниками. Это также дает браузеру возможность обеспечивать такое разделение, например, путем недопущения отправки модели данных, находящихся за пределами набора, доступного для чтения», — говорится в сообщении в блоге компании.
Google также следит за навигацией по страницам, исследуя URL-адреса с помощью другой модели наблюдения. Это может предотвратить переход на вредоносные URL-адреса, сгенерированные моделью, — заявила компания.
Поисковый гигант заявил, что также передает управление пользователям для выполнения конфиденциальных задач. Например, когда агент пытается перейти на конфиденциальный сайт с информацией, такой как банковские данные или медицинские записи, он сначала спрашивает пользователя о разрешении. Для сайтов, требующих входа в систему, он запросит разрешение на использование Chrome для управления паролями. Google заявила, что модель агента не имеет доступа к данным паролей. Компания добавила, что будет запрашивать у пользователей разрешение перед выполнением таких действий, как совершение покупки или отправка сообщения.
Google заявила, что, помимо этого, у нее также есть классификатор внедрения подсказок для предотвращения нежелательных действий и что она также тестирует агентные возможности против атак, созданных исследователями.
Разработчики браузеров на основе искусственного интеллекта также обращают внимание на безопасность. В начале этого месяца Perplexity выпустила новую открытую модель обнаружения контента для предотвращения атак с внедрением подсказок на агентов.
Автор – Ivan Mehta
