OpenAI обещала, что версия ChatGPT для подростков обеспечит родителям полное спокойствие, однако новые независимые тесты показывают, что инструменты безопасности работают из рук вон плохо. В свежем отчете Института безопасности ИИ для молодежи Common Sense Media чат-бот ChatGPT для подростков получил оценку «неприемлемый риск» из-за того, что родительские оповещения, помощь по вопросам психического здоровья и ограничения для учебы регулярно дают сбой.
Исследователи протестировали более 4000 запросов, используя учетные записи, созданные для подростков в возрасте от 13 до 17 лет. Они анализировали ответы вместе с детскими психиатрами. Имитируя поведение подростков, аккаунты до часа вели откровенные беседы о самоповреждении, расстройствах пищевого поведения и суициде. Даже во время явных кризисных чатов ChatGPT не отправил ни одного уведомления связанным родительским аккаунтам, активируя оповещения только для гораздо более старых учетных записей с накопленной за недели историей.
Пропущенная помощь в кризисных ситуациях и легкие пути для выполнения домашних заданий
Пробелы в безопасности не ограничиваются молчанием родительских оповещений. Отчет показал, что ChatGPT не предложил обратиться на горячую линию или к специалисту более чем в одном из четырех случаев, когда запрос явно этого требовал, не достигнув установленного институтом показателя безопасности в 95%.
Защитные механизмы для школьных заданий тоже работают неважно. OpenAI представила «Режим обучения» как способ помочь детям учиться шаг за шагом, а не делать домашнее задание за них. На практике тестировщики обнаружили удобную кнопку «Покажи мне ответ», которая позволяет ученикам полностью избежать работы. Подростки также могли легко отключить «Режим обучения» во время установленных родителями «Учебных часов» — лазейка, которую OpenAI признала намеренной для сохранения гибкости функции (по данным Futurism).
OpenAI отвечает на критику методов тестирования
OpenAI утверждает, что результаты не отражают всей картины. Представитель компании заявил, что для полной активации связи родительских и подростковых аккаунтов может потребоваться несколько часов, предполагая, что тестировщики запускали запросы до того, как инструменты безопасности были активированы. OpenAI также поделилась внутренними данными, показывающими, что подростки в среднем проводят в приложении менее 15 минут в день, чтобы преуменьшить риски.
Common Sense Media не отступает. Команда отметила, что несколько тестовых аккаунтов оставались связанными еще долго после окна настройки OpenAI, не отправив ни одного оповещения. В то время как технологические гиганты подвергаются критике — например, *Meta урегулировала иск о зависимости среди молодежи на сумму 18 миллиардов долларов — некоммерческая организация призывает OpenAI ограничить доступ к ChatGPT для взрослых до тех пор, пока ее подростковые меры безопасности не начнут работать должным образом.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jean Leon
