Многие люди надеются — нет, молятся — что потенциальный пузырь ИИ скоро лопнет.
Но, судя по Google, генеративный ИИ — это будущее, и продукты компании должны меняться, чтобы соответствовать технической реальности. В результате Gemini проникает во все уголки экосистемы Google. Генеративный ИИ питается данными, а у Google их много, в таких продуктах, как Gmail и Drive. Что это значит для вашей конфиденциальности и что произойдет, если вы не хотите, чтобы Gemini заглядывал вам через плечо? Что ж, это своего рода беспорядок.
Объем данных, которые сохраняет Gemini, зависит от того, как вы получаете доступ к ИИ, а отказ от сбора данных может привести к столкновению с так называемыми «темными паттернами» — элементами пользовательского интерфейса, которые работают против интересов пользователя.
Это будущее?
Google не обучает ИИ на ваших данных, за исключением тех случаев, когда обучает
Обеспокоенность по поводу того, как Google использует ваши личные данные, возникла задолго до бума генеративного ИИ. Когда Google активизировал рекламу в Gmail, компания уточнила, что не использует содержимое ваших писем для показа рекламы. Вместо этого персонализация рекламы (которую можно отключить) является глобальной функцией, использующей вашу активность в Интернете и жизненно важные статистические данные для таргетинга. Большинство людей смирились с этим, но в сфере ИИ ситуация становится более туманной.
По мере того как Google внедряет все больше функций Gemini в знаковые продукты, такие как Gmail, ему снова пришлось уточнять, когда он использует ваши данные, а когда нет. В недавней записи в блоге (и сопутствующем ролике на YouTube) Google попытался прояснить, что ваши письма не передаются напрямую в Gemini. Вместо этого Gemini получает доступ к вашим данным для «изолированных задач». Когда вы взаимодействуете с функциями Gemini в приложениях Workspace, таких как Gmail или Drive, ИИ обрабатывает ваши данные, но не сохраняет их.
«Защита конфиденциальности пользователей и контроль над их данными являются основополагающими для того, как мы разрабатываем и внедряем ИИ в Google Workspace», — заявил представитель Google. «Контент, который вы вводите в Workspace, например, ваши личные файлы в Drive, принадлежит вам, и при использовании Gemini в Workspace мы не используем этот личный контент для обучения наших базовых генеративных моделей ИИ».
,
Итак, Google не сканирует ваш почтовый ящик или документы для обучения Gemini. Отлично. Но Gemini может использовать инструменты для подключения к Workspace и другим продуктам Google, когда это уместно, на основе вашего запроса. Google заявляет, что его модели ИИ могут обучаться на входах и выходах Gemini. И угадайте, что могут включать эти выходы — да, ваши данные.
Выводы Gemini могут включать резюме и фрагменты писем или файлов, и эти данные затем могут стать пищей для обучения ИИ. Google заявляет, что цель состоит в том, чтобы обучить Gemini быть лучшим помощником, и то, как люди взаимодействуют с ботом, является ключевым элементом, но он пытается «фильтровать и сокращать» личную информацию, попадающую в наборы данных для обучения ИИ. Однако у нас нет возможности узнать, насколько хорошо работает этот автоматизированный процесс.
Google поспешно указывает, что пользователи контролируют эти функции. Если вы хотите сохранить свои личные данные по-настоящему конфиденциальными, вы можете никогда не позволять Gemini взаимодействовать с вашими файлами или отказаться от предоставления любых данных для обучения ИИ. К сожалению, Google не облегчает отказ от Gemini.
В чат-боте, мрачно
Есть несколько способов, некоторые из которых более прямолинейны, чем другие, гарантировать, что ваши личные данные не попадут в обучающий набор ИИ Google. Самый простой способ — сохранять взаимодействие с Gemini кратким и безличным: не позволяйте Gemini получать доступ к другим приложениям Google и используйте временные чаты для всего, что хоть отдаленно конфиденциально. Таким образом, у Gemini не будет личных данных в выводах для извлечения. Конечно, это делает Gemini гораздо менее полезным — знакомая тема для тех, кто пытается сохранить свою конфиденциальность.
Чтобы полностью заблокировать обучение ИИ на ваших данных, вам необходимо отключить функцию под названием Активность приложений Gemini. Эта эзотерическая страница настроек позволяет отключить историю Gemini или отключить ее и удалить существующие данные Gemini. Если вы не сохраняете активность, Google на ней не обучается. Однако это также означает, что вы теряете историю чатов. Таким образом, вам придется выбирать между отсутствием чатов ИИ для справки в будущем и разрешением на использование содержимого этих чатов для обучения ИИ.
,
Компании, как правило, не признаются в разработке интерфейса для манипулирования пользователями, но намерение не определяет, является ли дизайн пользовательского интерфейса темным паттерном. «Неважно, преднамеренно это или нет», — сказала Мари Потель из Fair Patterns, стартапа, создающего модели ИИ для обнаружения темных паттернов и хищнического дизайна. «Важно то, уважается ли автономия — агентность — пользователей и противоречит ли дизайн тому, что пользователи хотят делать».
Если единственный способ отказаться от обучения ИИ — это навсегда отключить историю чатов, такое положение, похоже, не уважает агентность пользователя — это принудительное действие. Даже найти нужный пункт меню для отказа от обучения может быть непросто. В настройках приложения Gemini есть скрытая ссылка, но она помечена только как «Активность», а прямые ссылки также доступны, если вы поищете в статьях поддержки Google.
Интересно, что элементы управления Gemini отсутствуют в настройках конфиденциальности учетной записи Google, где их следовало бы ожидать. Представитель компании заявил, что в Элементах управления активностью должна быть ссылка, наряду с подменю для Android, Карт, Поиска, Ассистента и других. После проверки нескольких учетных записей мы так и не увидели ссылки на меню конфиденциальности Gemini.
Переключатель, столь важный для конфиденциальности пользователей, даже если он существенно ухудшает работу, не должен быть так трудно найти. К сожалению, это не первый случай, когда Google, по-видимому, теряет опцию конфиденциальности. Мари Потель отметила, что скрытые и неработающие ссылки — это темный паттерн, почти такой же старый, как Интернет.
«У Google есть история сокрытия функций, особенно настроек конфиденциальности, за множеством кликов, которые явно призваны отпугнуть людей от их использования», — сказала Потель.
ИИ — это новый опыт по умолчанию
Накопление обучающих данных — не единственная цель Google с Gemini — компания также хочет сделать генеративный ИИ частью вашей жизни. Чем больше людей используют функции Gemini, тем легче Google оправдать огромные инвестиции в эту технологию (ожидается 185 миллиардов долларов только в 2026 году). Естественно, основные продукты Google используют функции ИИ более агрессивно, и предполагается, что вы их хотите.
,
В Gmail Gemini может создавать и настраивать письма, обобщать цепочки писем, организовывать ваш почтовый ящик и создавать Обзоры электронной почты с помощью ИИ. Объем ИИ, который вы получаете, зависит от того, платите ли вы за более высокие лимиты ИИ, но каждый получает что-то, и эти функции постоянно расширяются. Но, возможно, вы не хотите, чтобы ИИ генерировал галлюцинаторные резюме в вашей почте. Отключение этой функции — это упражнение в разочаровании, потому что нет гранулярности — у множества функций есть простые переключатели в настройках Gmail, но не у Gemini.
Чтобы отключить функции Gemini в Gmail, вам придется отключить их все через то, что Google называет «Умные функции», и есть два способа сделать это. Один из них уничтожает множество функций Gmail, и ни один из них не объяснен должным образом.
В настройках Gmail есть переключатель для «Умных функций», который отключает Gemini, но он также отключает ряд популярных функций, которые предшествовали буму ИИ. Использование этого варианта означает отказ от фильтрации входящих сообщений (вкладки для основных, социальных, рекламных и т. д.), «Умной записи», отслеживания посылок и многого другого. Возможно, вы думали, что у вас всего 20 непрочитанных писем, но теперь у вас их 500, потому что все эти игнорируемые обновления из социальных сетей внезапно загромождают ваш основной почтовый ящик. После отключения Gemini и потери всех этих функций Gmail предлагает вам второй шанс с всплывающим напоминанием, которое снова включает все эти функции, включая Gemini.
Другой переключатель «Умных функций», на один клик глубже в настройках, — это версия для Workspace. Он отключает Gemini в дополнение к персонализированному поиску в Drive, копированию карт лояльности в Wallet и извлечению событий календаря из Gmail. Это должно отключить Gemini и в Drive, но вы можете не увидеть никаких изменений после переключения тумблера, потому что элементы пользовательского интерфейса Gemini не исчезают. Нажатие на любой из них приведет к появлению запроса на повторное включение «Умных функций» (и Gemini).
Таким образом, отключение функций Gemini означает борьбу с расплывчатыми формулировками меню и потерю несвязанных функций, что выглядит как сочетание темных паттернов «препятствование» и «принудительное действие». «Очевидно, это неприемлемо», — сказала Потель. «Тот факт, что это меняет ваши параметры использования при отключении Gemini, явно призвано помешать вам отключить его».
,
Настройки по умолчанию мощны даже без хищнического дизайна, но то, как управляются настройки по умолчанию, может легко скатиться в темную сторону. По словам доктора Гарри Бригналла, который ввел термин «темный паттерн» в 2010 году, компании давно полагаются на настройки по умолчанию, чтобы увлечь пользователей за собой.
Говоря о технологической индустрии в целом, Бригналл сказал, что компании в полной мере осознают этот эффект и преимущества, которые он может дать. «Мы могли бы говорить об этом как о темном паттерне предварительного выбора», — сказал он. «Если вы хотите, чтобы люди согласились на что-то, вместо того чтобы спрашивать их на этапе регистрации явно со ссылкой для получения дополнительной информации, вы можете взять это и сделать предварительно выбранным. Поместите это в настройки на три-четыре клика вглубь, и тогда вы можете почувствовать, что у вас есть средства утверждать, что пользователям предоставляется выбор, хотя на самом деле вы знаете по своей статистике, что, спроектировав это таким образом, очень немногие люди даже доходят до этой страницы».
У Google миллиарды пользователей, привязанных к его продуктам, и это дает ему большую власть, чтобы представить новые функции пользователям, поскольку люди редко меняют настройки по умолчанию. По этой причине Google щедро платил за установку настроек по умолчанию на таких устройствах, как iPhone. Эта проблема неоднократно возникала в недавних антимонопольных делах Google, и правительственные юристы использовали это, чтобы представить компанию как антиконкурентную.
То, что мы видим как в бесплатных, так и в платных учетных записях Google, — это сила настроек по умолчанию в эпоху ИИ. По умолчанию — предоставление данных для обучения ИИ. По умолчанию — сводки ИИ в вашей почте. По умолчанию — создание документов с помощью ИИ. Вы можете изменить эти настройки, но Google должен знать, что большинство людей этого не сделают, потому что опции трудно найти и они работают не так, как должны.
Добро пожаловать в будущее.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ryan Whitwam
