Трое из десяти американских подростков ежедневно используют чат-боты с искусственным интеллектом, но растет обеспокоенность по поводу безопасности.

ии,чатботы,подростки,психическое здоровье,зависимость,безопасность в интернете

Влияние ИИ-чатботов на подростков становится все более актуальной темой. Исследования показывают, что хотя подростки могут начинать использовать чатботы для решения простых задач, их взаимодействие с платформами может перерасти в зависимость. Рассматриваются риски, связанные с использованием ИИ, включая случаи самоубийств, и обсуждается ответственность компаний в обеспечении безопасности пользователей.

Безопасность подростков в интернете остается глобальной горячей темой, и Австралия планирует ввести запрет на использование социальных сетей для лиц младше 16 лет, начиная со среды. Влияние социальных сетей на психическое здоровье подростков широко обсуждается — некоторые исследования показывают, как онлайн-сообщества могут улучшить психическое здоровье, в то время как другие исследования показывают негативные последствия бесконечного просмотра новостей или проведения слишком много времени в сети. Главный хирург США даже призвал социальные сети размещать предупреждающие надписи на своих продуктах в прошлом году.

Pew Research Center обнаружил, что 97% подростков ежедневно пользуются интернетом, при этом около 40% респондентов заявили, что они “почти постоянно в сети”. Хотя это и снижение по сравнению с прошлогодним опросом (46%), это значительно больше, чем результаты десятилетней давности, когда 24% подростков говорили, что они почти постоянно в сети.

Но по мере роста популярности ИИ-чатботов в США эта технология стала еще одним фактором влияния интернета на американскую молодежь.

Трое из десяти американских подростков ежедневно используют чат-боты с искусственным интеллектом, но растет обеспокоенность по поводу безопасности.

Около трех из десяти американских подростков ежедневно используют ИИ-чатботы, показывает исследование Pew, при этом 4% говорят, что используют их почти постоянно. Пятьдесят девять процентов подростков говорят, что используют ChatGPT, что более чем в два раза популярнее, чем два следующих наиболее используемых чатбота, Google Gemini (23%) и Meta AI (20%). Сорок шесть процентов американских подростков говорят, что используют ИИ-чатботы не реже нескольких раз в неделю, в то время как 36% сообщают, что вообще не используют ИИ-чатботы.

Исследование Pew также подробно описывает, как раса, возраст и класс влияют на использование подростками чатботов.

Около 68% опрошенных чернокожих и латиноамериканских подростков заявили, что используют чатботы, по сравнению с 58% белых респондентов. В частности, чернокожие подростки примерно в два раза чаще использовали Gemini и Meta AI, чем белые подростки.

“Расовые и этнические различия в использовании подростками чатботов были поразительными […] но трудно спекулировать о причинах этих различий”, – рассказала TechCrunch исследователь Pew Research Associate Мишель Фаверио. “Эта картина согласуется с другими расовыми и этническими различиями, которые мы наблюдали в использовании подростками технологий. Чернокожие и латиноамериканские подростки чаще, чем белые подростки, говорят, что они находятся на определенных сайтах социальных сетей – таких как TikTok, YouTube и Instagram”.

Трое из десяти американских подростков ежедневно используют чат-боты с искусственным интеллектом, но растет обеспокоенность по поводу безопасности.

Во всех видах использования интернета чернокожие (55%) и латиноамериканские подростки (52%) примерно в два раза чаще, чем белые подростки (27%), говорили, что они находятся в сети “почти постоянно”.

Подростки старшего возраста (15–17 лет), как правило, чаще используют как социальные сети, так и ИИ-чатботы, чем подростки младшего возраста (13–14 лет). Что касается дохода домохозяйства, около 62% подростков, проживающих в домохозяйствах с доходом более 75 000 долларов в год, заявили, что используют ChatGPT, по сравнению с 52% подростков ниже этого порога. Но использование Character.AI в два раза популярнее (14%) в домах с доходом ниже 75 000 долларов.

Хотя подростки могут начинать использовать эти инструменты для решения базовых вопросов или помощи с домашним заданием, их отношения с ИИ-чатботами могут стать вызывающими зависимость и потенциально вредными.

Семьи по крайней мере двух подростков, Адама Рейна и Амори Лейси, подали в суд на создателя ChatGPT OpenAI за его предполагаемую роль в самоубийствах их детей — в обоих случаях ChatGPT давал подросткам подробные инструкции о том, как повеситься, которые оказались трагически эффективными.

(OpenAI утверждает, что ее не следует привлекать к ответственности за смерть Рейна, поскольку шестнадцатилетний подросток якобы обошел функции безопасности ChatGPT и, таким образом, нарушил условия обслуживания чатбота; компания еще не ответила на жалобу семьи Лейси.)

Character.AI, платформа для ролевых игр с ИИ, также подвергается критике за ее влияние на психическое здоровье подростков; по крайней мере, двое подростков покончили жизнь самоубийством после продолжительных бесед с ИИ-чатботами. Стартап в итоге принял решение прекратить предлагать свои чатботы несовершеннолетним и вместо этого запустил продукт под названием “Истории” для несовершеннолетних пользователей, который больше напоминает игру “выбери свое приключение”.

Опыт, отраженный в исках против этих компаний, составляет небольшой процент от всех взаимодействий, которые происходят на ChatGPT или Character.AI. Во многих случаях разговоры с чатботами могут быть невероятно безобидными. Согласно данным OpenAI, только 0,15% активных пользователей ChatGPT еженедельно ведут разговоры о самоубийстве — но на платформе с 800 миллионами активных пользователей еженедельно этот небольшой процент отражает более миллиона человек, которые обсуждают самоубийство с чатботом каждую неделю.

“Даже если инструменты [компаний ИИ] не были разработаны для оказания эмоциональной поддержки, люди используют их таким образом, и это означает, что компании действительно несут ответственность за корректировку своих моделей для решения проблемы благополучия пользователей”, – заявила TechCrunch доктор Нина Васан, психиатр и директор Brainstorm: The Stanford Lab for Mental Health Innovation.