Каждые несколько столетий изменения в способах передачи информации коренным образом меняют принципы управления обществами. Книгопечатание способствовало распространению грамотности на разговорных языках, что помогло возникновению Реформации и, в конечном итоге, представительного правления. Телеграф сделал возможным управление огромными нациями, такими как США, ускорив рост современного бюрократического государства. Вещательные СМИ создали общую национальную аудиторию, что, в свою очередь, подпитывало массовую демократию.
Сейчас мы находимся на ранних стадиях еще одного подобного сдвига. Искусственный интеллект (ИИ) быстрее, чем многие осознают, становится основным интерфейсом, через который мы формируем убеждения и участвуем в демократическом самоуправлении. Если этот сдвиг не контролировать, он может еще больше обострить и без того хрупкие институты Америки. Но он также может помочь решить давние проблемы, такие как снижение гражданской активности и углубление поляризации. То, что произойдет дальше, зависит от проектных решений, которые уже принимаются, знаем мы об этом или нет.
Начнем с того, что можно назвать эпистемологическим уровнем — тем, как мы узнаем вещи. Люди все больше полагаются на ИИ, чтобы понять, что является правдой, что происходит и кому доверять. Поиск уже в значительной степени опосредован ИИ. Следующее поколение ИИ-помощников будет синтезировать информацию, структурировать ее и представлять с авторитетом. Для растущего числа людей обращение к ИИ станет стандартным способом формирования мнений о кандидате, политике или общественном деятеле. Следовательно, тот, кто контролирует, что говорят эти модели, получает все большее влияние на то, во что верят люди.
Технологии всегда влияли на то, как граждане взаимодействуют с информацией. Но скоро возникнет новая проблема в виде персональных ИИ-агентов, которые могут изменить не только то, как люди получают информацию, но и то, как они на нее реагируют. Эти системы будут проводить исследования, составлять сообщения, выделять важные вопросы и лоббировать интересы пользователя. Они будут влиять на такие решения, как голосование по избирательной мере, какие организации заслуживают поддержки или как реагировать на уведомление от правительства. В значимом смысле они начнут опосредовать отношения между отдельными лицами и управляющими ими институтами.
Мы уже видели на примере социальных сетей, что происходит, когда алгоритмы оптимизируются под вовлеченность, а не под понимание. Платформам не нужно иметь явную политическую повестку, чтобы вызывать поляризацию и радикализацию. Агент, знающий ваши предпочтения и ваши тревоги — тот, что настроен на удержание вашего внимания, — несет те же риски. И в этом случае риски может быть еще труднее обнаружить, поскольку агент представляет себя вашим защитником. Он говорит за вас, действует от вашего имени и может заслужить доверие именно благодаря этой близости.
Теперь посмотрим в более широком масштабе. ИИ-агенты и люди вскоре смогут участвовать в одних и тех же форумах, где их будет невозможно различить. Даже если каждый отдельный ИИ-агент будет хорошо спроектирован и соответствовать интересам своего пользователя, взаимодействие миллионов агентов может привести к результатам, которых никто не желал и не выбирал. Например, исследования показывают, что агенты, не проявляющие индивидуальной предвзятости, все же могут генерировать коллективную предвзятость в масштабе. И, отбросив в сторону то, что агенты делают друг с другом, есть то, что они делают для своих пользователей. Общественное пространство, в котором у каждого есть персонализированный агент, настроенный на его существующие взгляды, в совокупности перестает быть общественным пространством. Это совокупность частных миров, каждый из которых внутренне последователен, но коллективно неблагоприятен для того вида совместного обсуждения, которое требует демократия.
Взятые вместе, эти три трансформации — в том, как мы познаем, как мы действуем и как мы участвуем в коллективном управлении — составляют фундаментальное изменение в самой сути гражданства. В ближайшем будущем люди будут формировать свои политические взгляды через ИИ-фильтры, осуществлять свою гражданскую активность через ИИ-агентов и участвовать в институтах и публичных дискуссиях, которые сами формируются под влиянием взаимодействия миллионов таких агентов.
Современная демократия к этому не готова. Наши институты были разработаны для мира, в котором власть осуществлялась открыто, информация распространялась достаточно медленно, чтобы ее можно было оспорить, а реальность казалась более общей, пусть и несовершенной. Все это начало разрушаться задолго до появления генеративного ИИ. И все же это не обязательно должна быть история упадка. Чтобы избежать такого исхода, нам необходимо проектировать нечто лучшее.
На информационном уровне компании, занимающиеся ИИ, должны активизировать существующие усилия по обеспечению правдивости результатов работы моделей. Им также следует изучить некоторые многообещающие ранние выводы о том, что модели ИИ могут помочь уменьшить поляризацию. Недавняя полевая оценка проверок фактов, сгенерированных ИИ, в X показала, что люди с различными политическими взглядами сочли заметки, написанные ИИ, более полезными, чем написанные людьми. Статья еще не прошла рецензирование, но это потенциально революционное открытие: проверка фактов с помощью ИИ может достичь той межпартийной достоверности, которая ускользала от большинства ручных человеческих усилий. Более глубокое понимание того, как модели делают эти утверждения и приоритизируют источники в этом процессе, а также большая прозрачность в этом вопросе могут помочь укрепить общественное доверие.
На агентном уровне нам нужны способы оценки того, насколько точно ИИ-агенты представляют своих пользователей. Агент никогда не должен иметь собственной повестки дня или искажать взгляды своего пользователя — это технически сложная задача в областях, где пользователи, возможно, не заявляли о каких-либо предпочтениях в явной форме. Но добросовестное представление также не должно стать прикрытием для мотивированного рассуждения. Агент, который отказывается представлять неудобную информацию, который защищает своего пользователя от сомнений в прежних убеждениях или не приспосабливается к изменению мнения, не действует в наилучших интересах человека.
Наконец, на институциональном уровне, политики должны поторопиться, чтобы использовать потенциал ИИ для повышения отзывчивости и легитимности управления. Некоторые штаты и муниципалитеты уже используют платформы, опосредованные ИИ, для проведения демократических обсуждений в масштабе, опираясь на исследования, показывающие, что ИИ-посредники могут помочь гражданам найти общий язык. Поскольку агенты становятся все более распространенными участниками процессов сбора общественного мнения — а уже есть свидетельства того, что боты искажают эти процессы — проверка подлинности как людей, так и их агентных представителей должна быть заложена с самого начала.
Необходимо новое поколение демократической инфраструктуры, технологической и институциональной, созданной для мира, который реально наступил. Отказ от проектирования с учетом демократических результатов в столь значимой области означает проектирование чего-то другого. А история бесконтрольной власти не оставляет больших оснований для оптимизма относительно того, чем обычно становится это «что-то другое».
Эндрю Сорота и Джош Хендлер возглавляют работу по ИИ и демократии в Офисе Эрика Шмидта.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mat Honan
