(«Вам скажут, что они стоят 16 000 долларов, — говорит Нортон. — Это ложь».)
Обычно мы видим этих роботов на YouTube, когда они демонстрируют синхронные боевые искусства или танцуют в шоу «Америка ищет таланты». Здесь они кажутся доступными. Хотя я знаю, что он не разумный, мне хочется стать его другом.
С разрешения Нортона я подхожу к роботу, которого зовут Гейб. На мгновение я не знаю, как взаимодействовать с тем, у кого вместо мозга датчик LiDAR, но я инстинктивно обращаюсь с ним как с человеком.
«Здравствуйте, сэр, приятно познакомиться», — говорю я, беря его одетое в перчатку ловкое запястье и пожимая его.
Позже я размышляю об этом взаимодействии — моем инстинктивном порыве подружиться с роботом — когда посещаю презентацию книги доктора Шерри Тёркл «Искусственная близость» на MIT Future Fest.
Тёркл, которая присоединилась к преподавательскому составу Массачусетского технологического института в 1976 году, исследует взаимоотношения между людьми и компьютерами, возможно, дольше всех, отслеживая психологическое воздействие технологий на нас — от первых домашних компьютеров до ChatGPT.
«Когда нас привлекают даже самые примитивные взаимодействия с реляционным артефактом, мы верим, что он заботится о нас, — пишет Тёркл в книге. — И мы запрограммированы заботиться о нем в ответ».
Я не одинок в своей склонности к антропоморфизации роботов и больших языковых моделей (LLM) — как отмечает Тёркл, это, похоже, заложено в нашей природе. Одно исследование показало, что около 70% людей вежливы при взаимодействии с ИИ, в то время как другое показало, что пользователи чаще говорят «пожалуйста» или «спасибо» чат-ботам после того, как разговор выходит за рамки первого запроса и ответа.
«Люди склонны классифицировать, является ли это правильным или неправильным использованием, но я не думаю, что эта граница четкая», — сказал TechCrunch доктор ПатПатарантапурн, коллега Тёркл, основавший исследовательскую группу по киберпсихологии в MIT Media Lab. «Вопрос в том, кем мы становимся, когда разговариваем с [ИИ]?»
Моя вежливость по отношению к роботу Гейбу не имеет материальных последствий, но поскольку LLM проникают во все — от поиска Google до взаимодействия со службой поддержки клиентов, — для людей стало обычным делом общаться с этими кажущимися разумными чат-ботами. Мы как никогда уязвимы перед обратной стороной этого импульса: некоторые люди могут придавать столько значения чувствам чат-ботов, которые запрограммированы никогда не вызывать конфликтов, что в конечном итоге они начинают предпочитать их другим людям.
«Можно думать об этом как о фантазии и вымысле. Мы идем в кино, хотя знаем, что история полностью вымышлена, но хотим испытать определенное измерение человеческого опыта, которое, возможно, наша реальность не может нам дать, — сказал Патарантапурн. — Как нам извлечь выгоду из этой способности переживать другие измерения человеческого опыта, не теряя себя в фантазии, из которой уже нельзя вернуться в реальность?»
Патарантапурн называет себя «критическим оптимистом» и изучает потенциал ИИ для содействия человеческому процветанию. Но он прекрасно осознает, насколько опасной может быть эта технология в крайних проявлениях. Он даже выступал в качестве эксперта по делу о неправомерной смерти в связи с самоубийством 14-летнего Сьюэлла Зетцера III, мать которого подала в суд на платформу чат-ботов Character.AI, утверждая, что чат-бот, смоделированный по образу персонажа «Игры престолов», подтолкнул ее сына к самоубийству.
«Это может создать ситуацию, когда люди не чувствуют своей роли в создании собственного будущего — например, когда говорят, что ИИ заменит всех, люди спрашивают: “Что нам делать?”. И эти компании не реагируют этично или ответственно, — сказал Патарантапурн. — Как нам сохранить воображение, оставаясь при этом ответственными за влияние этого воображения?»
Хотя книга Тёркл исследует риск обращения к ИИ за эмоциональной поддержкой вместо других людей, она не считает, что взаимодействие ИИ и человека всегда вредно.
Она вспоминает проект, которым руководила: студент создал ИИ-бота, чтобы помочь людям подготовиться к собеседованиям при приеме на работу.
«Моя главная метафора: оставайся в своей полосе, чат-бот! — сказала Тёркл на мероприятии. — Подготовка к собеседованию? Это его полоса. Я могу это сделать… Чат-бот, который говорит трехлетнему ребенку: “Я твой родитель, ты можешь поговорить со мной, а не со своими родителями”, — это не его полоса».
Но когда эта технология даже незначительно отклоняется от своей полосы, мы становимся уязвимы перед тем, как она может медленно подрывать наш скептицизм и заставлять нас доверять ей. Все может начаться с чего-то столь же простого, как рукопожатие.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Amanda Silberling
