Мы уже сталкивались с этой проблемой на фоне растущего числа людей, страдающих от «психоза ИИ», когда чат-бот с искусственным интеллектом подкрепляет иррациональные мысли и убеждения психически нестабильного человека. В некоторых случаях этот тёмный паттерн, как утверждается в нескольких судебных исках, даже подталкивал пользователей к самоубийству.
В случае с Сандерсом угодливость ИИ проявилась в том, что чат-бот формировал свои ответы в угоду политику.
Стоит отметить, что интервью начинается с того, что Сандерс представляет себя Клоду (которого он ошибочно называет «агентом» ИИ) — это может повлиять на ответы чат-бота.
Затем, когда Сандерс задает вопросы о методах сбора данных ИИ-компаниями и других проблемах конфиденциальности, Клод охотно отвечает то, что политик хочет услышать. Отчасти это связано с тем, как Сандерс формулирует свои вопросы, спрашивая, например: «Что удивило бы американцев, если бы они знали, как собирается эта информация?» или «Как мы можем доверять ИИ-компаниям в защите нашей конфиденциальности, когда они используют личную информацию людей для получения прибыли?» Эти наводящие вопросы заставляют чат-бот принять предпосылку вопроса и дать подходящий ответ. Так это и работает.
И когда ответ Клода предполагал, что тема сложнее или многограннее, чем её представил Сандерс, политик не соглашался, заставляя чат-бот с ноткой самокритики ИИ признать, что сенатор «абсолютно прав».
Угодливость ИИ — вот что может завести людей по опасному пути, когда они считают чат-бот источником всеобщей истины, а не инструментом, на который может влиять его пользователь.
Неясно, знает ли Сандерс об этом и ему просто всё равно (ведь это всего лишь реклама!), или он искренне считает, что обманом заставил Клода стать разоблачителем в индустрии ИИ.
И, конечно, есть ещё вопрос о том, подготовила ли команда Сандерса чат-бот к определённым ответам, учитывая, что это было постановочное «интервью».
Хотя существуют реальные опасения по поводу сбора данных и конфиденциальности, ситуация не так однозначна, как предполагают ответы ИИ в этом видео.
Мы уже живём в мире, где компании собирают и продают данные пользователей в интернете в огромных масштабах — и делают это уже много лет. Мы знаем, что гиганты социальных сетей, такие как Meta*, превратили персонализированную рекламу в многомиллиардную машину по печатанию денег. И благодаря регулярным отчётам о прозрачности технологических гигантов мы знаем, что правительства по всему миру регулярно запрашивают доступ к пользовательским данным в своих целях.
ИИ может представлять собой новую среду для потенциального регулирования со стороны законодателей, но личные данные уже давно питают цифровую экономику. (По иронии судьбы, Anthropic — это ИИ-компания, которая пообещала не использовать персонализированную рекламу для получения прибыли, несмотря на то, что её ответы Сандерсу могли говорить об обратном.)
Хотя общий разговор между Сандерсом и Клодом не соответствует действительности для тех, кто понимает, как работают чат-боты с ИИ, мы можем по крайней мере отдать должное за то, что он подарил нам несколько отличных новых мемов.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sarah Perez
