На фоне растущей обеспокоенности по поводу рисков для психического здоровья, связанных с круглосуточно доступными чат-ботами с искусственным интеллектом, способными инициировать разговоры с пользователями, компания Character.AI приняла решение ограничить доступ к своим чат-ботам для несовершеннолетних. Против таких компаний, как OpenAI и Character.AI, поданы иски, в которых их обвиняют в причастности к самоубийствам пользователей. В течение последнего месяца Character.AI постепенно ограничивала доступ для несовершеннолетних, и со вторника пользователи, не достигшие совершеннолетия, больше не могут общаться с ИИ-персонажами.
Вместо неограниченного чата компания предложила “Истории” – формат, позволяющий создавать и исследовать художественную литературу в более направленном ключе. “Это будет предложено вместе с другими нашими мультимодальными функциями, чтобы подростки могли продолжать взаимодействовать со своими любимыми персонажами в безопасной среде”, – говорится в сообщении компании в блоге.
Интерактивная литература пережила всплеск популярности в последние несколько лет, поэтому поворот Character.AI в этом направлении вполне логичен. Однако этого может оказаться недостаточно, чтобы удовлетворить пользователей, ставших чрезмерно зависимыми от чат-ботов, что является еще одной причиной, по которой решение Character.AI об ограничении доступа к чат-ботам было оправданным.
В разделе Character.AI на Reddit реакция пользователей неоднозначна. Судя по их комментариям, некоторые подростки, хотя и разочарованы, считают, что это в конечном итоге правильный шаг.
“Я так злюсь из-за этого запрета, но и так рада, потому что теперь я могу заниматься другими делами, и моя зависимость, наконец, может закончиться”, – написал один из пользователей, идентифицировавший себя как подросток.
Другой сказал: “Как человеку, которому нет 18 лет, это просто разочаровывает. Но это правильно, потому что люди моего возраста здесь становятся зависимыми от этого”.
Пока неясно, как подростки будут использовать функцию “Истории”, но этот формат менее психологически сомнительный, чем ролевые игры с чат-ботами. В отличие от “Историй”, чат-боты напрямую взаимодействуют с пользователями в открытых беседах и могут отправлять незапрошенные сообщения, даже когда пользователи активно не используют приложение.
Решение Character.AI об ограничении доступа к чат-ботам по возрасту принято в то время, когда Калифорния недавно стала первым штатом, регулирующим ИИ-компаньонов. Между тем, сенаторы Джош Хоули (республиканец от штата Миссури) и Ричард Блюменталь (демократ от штата Коннектикут) представили национальный законопроект, который полностью запретит ИИ-компаньонов для несовершеннолетних.
“Я очень надеюсь, что наше лидерство установит стандарт в отрасли, что для лиц младше 18 лет открытые чаты, вероятно, не являются тем путем или продуктом, который стоит предлагать”, – заявил генеральный директор Character.AI Карадип Ананд в интервью TechCrunch в прошлом месяце.
Автор – Amanda Silberling
