Фильм «Она» в Китае был бы значительно короче: как только Теодор Твомбли начал бы испытывать чувства к ИИ по имени Саманта, озвученному Скарлетт Йоханссон, шнур тут же выдернули бы, персонажу Хоакина Феникса назначили бы девушку, и они жили бы долго и счастливо. Со среды в Китае вступает в силу новый свод правил, направленный на отключение чат-ботов, которые могут способствовать нездоровой эмоциональной привязанности у общающихся с ними.
Правила, выпущенные Управлением киберпространства Китая, нацелены в первую очередь на «компаньон»-чат-ботов. Они прямо запрещают такие боты для несовершеннолетних и вводят новые ограничения, запрещающие любой чат-бот, который может «чрезмерно угождать пользователям, вызывать эмоциональную зависимость или привыкание и наносить ущерб реальным межличностным отношениям пользователей». Также платформы будут обязаны маркировать контент, созданный ИИ, и напоминать пользователям, что они общаются с чат-ботом, а не с реальным человеком.
Правило появилось на фоне растущей вовлеченности китайской молодежи в общение с ИИ-компаньонами. Согласно отчету, опубликованному Исследовательским институтом Tencent в начале этого года, более 70% китайских интернет-пользователей в возрасте от 18 до 40 лет «развили зависимость от ИИ», и почти 80% заявили, что в какой-то момент чувствовали, что «ИИ понимает меня». Более половины респондентов сообщили, что используют ИИ для эмоционального общения.
Это нехорошо! И независимо от того, намеренно это или нет, трудно отрицать, что чат-боты создают связь, будучи льстивыми и подтверждающими, иногда до опасной степени. Это форма манипуляции, которая в конечном итоге может привести к зависимости людей. Они также на самом деле не заполняют пустоту в сердце одинокого человека — на самом деле они могут сделать ее еще хуже.
Вероятно, в конечном итоге лучше всего пресекать такие потенциально вредные связи до того, как они начнутся, но неочевидно, что подход Китая сработает. Недавняя статья показала, что постоянные напоминания о том, что человек разговаривает с чат-ботом, могут вызывать стресс, когда он ищет эмоциональной связи. И простое выключение этих вещей, к сожалению, вряд ли заставит большинство людей искать человеческого общения в качестве альтернативы.
В последние годы Китаю не очень везло в попытках регулировать социально изолирующее поведение с помощью таких рычагов. Еще в 2021 году страна попыталась ввести ограничение в три часа в неделю на использование видеоигр для несовершеннолетних. Это в основном провалилось, так как дети находили способы обойти его, и никаких улучшений здоровья в результате ограничений не наблюдалось. Страна становится все более параноидальной в отношении онлайн-поведения своих граждан, пытаясь в прошлом году ввести двухмесячный запрет на выражение пессимизма в интернете.
Страна опасается, что ее молодое поколение все чаще «лежит пластом» — по сути, отказывается от гонки и принимает малозатратный образ жизни. Аккаунты, пропагандирующие такой образ жизни, были заблокированы на китайских сайтах социальных сетей. Такими темпами мы можем увидеть, как Китай попытается превратить в реальность шуточную политику Зорана Мамдани о выдаче бисексуальных подруг всем жителям Нью-Йорка.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
