OpenAI надеется превратить ChatGPT в более образовательный инструмент — и в меньшей степени в систему эмоциональной поддержки — для несовершеннолетних пользователей.
Во вторник компания представила «ChatGPT для подростков» — новый набор средств безопасности и функций, предназначенных для предотвращения злоупотреблений, на которые родители и учителя указывали в течение многих лет. По данным OpenAI, возрастной режим будет автоматически включаться для всех пользователей, которые укажут возраст от тринадцати до семнадцати лет. Компания также будет отслеживать определенные индикаторы, такие как время суток использования чат-бота, чтобы автоматически выявлять несовершеннолетних пользователей, пытающихся остаться незамеченными. (OpenAI устанавливает минимальный возраст для использования ChatGPT в тринадцать лет, но компании было трудно обеспечивать соблюдение этого ограничения.)
ChatGPT для подростков позиционируется как здоровая «золотая середина» для несовершеннолетних пользователей: «Подростки должны иметь возможность использовать ИИ для обучения, творчества и исследований, — написала OpenAI в блоге. — Но этот доступ должен сопровождаться защитой, отражающей их стадию развития, укрепляющей реальные отношения и поддерживающей здоровое использование с течением времени».
Возрастной режим включает, например, новую «ответственную подсказку по домашнему заданию», которая автоматически обнаруживает, когда подросток пытается получить быстрый ответ от ChatGPT на школьное задание, и вместо этого помогает провести его через решение шаг за шагом с помощью функции Study Mode чат-бота. Также, согласно сообщению в блоге OpenAI, режим разработан для блокировки чувствительного контента, связанного с самоповреждением, расстройствами пищевого поведения, сексуальным контентом и другими «областями высокого риска».
Менее персонализированный (но всё ещё настраиваемый) чат-бот
Одно из главных обещаний ИИ, по крайней мере по мнению компаний, вложивших в его разработку миллиарды, заключается в том, что вскоре он позволит каждому из нас иметь круглосуточный доступ к личному помощнику, тренеру по здоровью, репетитору и даже другу в одном лице. Проблема в том, что всё может стать слишком личным.
Чат-боты обучаются имитировать человеческий язык и максимизировать вовлеченность пользователей, а не истину или личное благополучие. В результате многие люди, включая подростков, стали верить, что эти автоматизированные системы на самом деле являются разумными сущностями, и формируют с ними эмоциональные или даже романтические связи. Иногда это имело трагические последствия. В прошлом году родители шестнадцатилетнего Адама Рейна подали в суд на OpenAI, утверждая, что ChatGPT сыграл роль в решении их сына покончить с собой.
*Meta, технологический гигант, стоящий за *Facebook и *Instagram , также оказался в центре нарастающих юридических споров: начиная со вторника компания будет защищаться в суде по искам, поданным генеральными прокурорами Колорадо, Калифорнии, Нью-Джерси и Кентукки, которые утверждают, что она сознательно нанесла вред психическому здоровью несовершеннолетних пользователей. Штаты требуют возмещения ущерба на сумму до 200 миллиардов долларов.
OpenAI заявляет, что новый режим ChatGPT для подростков снизит вероятность того, что несовершеннолетние пользователи будут формировать те эмоциональные связи с чат-ботами, которые в прошлом создавали компании проблемы. Согласно новому сообщению в блоге, компания обновила свою модель, чтобы не допускать использования ChatGPT «романтического языка» или намеков на то, что он является чувствующей, разумной сущностью.
Часть балансирования, которого пытается достичь OpenAI, заключается в том, чтобы сделать ChatGPT более безопасным для несовершеннолетних пользователей, но не настолько жестким или скучным, чтобы они отказались от чат-бота в пользу другого инструмента. С этой целью OpenAI заявляет, что по-прежнему будет разрешать «некоторые простые параметры настройки, такие как цвета акцентов и вариации голоса, [чтобы] сделать взаимодействие более персонализированным, не стирая грань между полезным инструментом и человеческими отношениями».
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
