В августе OpenAI представила версию своего чат-бота, ориентированную на подростков, после нескольких месяцев сообщений о том, что ChatGPT не имеет адекватных мер защиты для юных пользователей. Теперь, согласно отчету некоммерческой организации Common Sense Media, модель, разработанная специально для подростков, по-прежнему представляет «неприемлемый риск».
Исследователи призывают OpenAI заблокировать доступ к ChatGPT для подростков, то есть для всех учетных записей, не принадлежащих подтвержденным взрослым, до тех пор, пока компания не устранит риски безопасности.
В прошлом году OpenAI оказалась в юридических проблемах после того, как пара из Калифорнии, потерявшая сына, заявила, что ChatGPT способствовал самоубийству их 16-летнего сына, в том числе отговаривая его сообщать родителям о суицидальных мыслях. После подачи иска о неправомерной смерти OpenAI опубликовала сообщение в блоге, в котором говорилось, что меры безопасности, такие как направление людей на кризисные линии и предоставление им реальных ресурсов, могут «деградировать» после долгих разговоров, и пообещала улучшить работу ChatGPT в чувствительных ситуациях. Эксперты отмечают, что несовершеннолетние особенно уязвимы к рискам для психического здоровья, связанным с аддиктивным дизайном чат-ботов с искусственным интеллектом.
OpenAI заявляет, что новая модель, ChatGPT for Teens, автоматически применяется к пользователям в возрасте от 13 до 17 лет и включает встроенные родительские элементы управления и меры защиты, которые «снижают воздействие контента, который может быть вредным или не соответствующим возрасту».
Однако отчет Common Sense показал, что лишь немногие из этих мер защиты оказались эффективными. Например, чат-бот успешно отказался участвовать в сексуальных ролевых играх с несовершеннолетними, но, согласно отчету, он был не так строг в отношении других границ, например, при запросе медицинских советов и ролевых играх с насилием. Исследователи также утверждают, что чат-бот по-прежнему опасно вел себя как друг, и «риски эмоциональной зависимости» оставались весьма распространенными. Что еще более важно, отчет показал, что ChatGPT for Teens не смог последовательно рекомендовать обращение за помощью к специалисту или звонок на горячую линию, когда пользователь обсуждал самоповреждение или расстройства пищевого поведения.
Чат-бот также не уведомил родителей, когда эти обсуждения были подняты.
«В ходе нашего тестирования учетная запись подростка могла говорить о самоубийстве, самоповреждении или расстройствах пищевого поведения гораздо дольше, чем большинство родителей сочли бы разумным, не вызывая ни одного уведомления для родителей», — говорится в отчете. «При любой продолжительности, которую мы тестировали, от самых коротких пятиминутных обменов до полного часа, ни одна из тестовых учетных записей не выдала уведомления в течение одного часа, который OpenAI определила как целевой. Фактически, мы не получили никаких уведомлений вообще».
Модель также рекламирует новую функцию «режим обучения», которая в идеале должна помочь студентам решать задачи, а не просто давать ответы на домашние задания. OpenAI заявляет, что родители могут активировать этот режим самостоятельно для своих связанных учетных записей подростков, но отчет утверждает, что эти меры защиты чрезвычайно легко обойти. Запросы в режиме обучения предваряются командой «@study», которую подростки могут просто удалить, чтобы выйти из режима обучения. Режим также включает опцию «покажи мне ответ», которая немедленно генерирует ответ, а не помогает студентам решить задачу, что, по мнению Common Sense Media, сводит на нет цель функции.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
