Искусственный интеллект все активнее проникает в нашу повседневную жизнь. Порой стираются даже границы между инструментом для повышения продуктивности и личным доверенным лицом. Многие пользователи теперь обращаются к чат-ботам на базе ИИ в самые уязвимые моменты, и эта тенденция побудила OpenAI внедрить важный новый уровень безопасности: функцию «Доверенный контакт» (Trusted Contact).
Как работает функция «Доверенный контакт» в ChatGPT
Функция «Доверенный контакт», которая развертывается по всему миру в этом месяце, позволяет совершеннолетним пользователям ChatGPT назначить друга или члена семьи, которого уведомят, если ИИ обнаружит признаки кризиса психического здоровья. По данным команды по безопасности OpenAI, система использует автоматический мониторинг для выявления разговоров, связанных с членовредительством или суицидом.
Однако, в отличие от многих полностью автоматизированных систем, эта функция включает в себя важнейший человеческий элемент. Когда разговор помечается, его проверяет команда обученных специалистов. Если они считают, что существует реальная угроза безопасности, они отправляют уведомление назначенному контакту по электронной почте или в виде текстового сообщения.
Конфиденциальность в деликатный момент
Одной из главных проблем при внедрении подобной функции является конфиденциальность. OpenAI уточнила, что эти оповещения разработаны так, чтобы быть минимальными. Доверенный контакт получит общее сообщение о проблеме безопасности, но не получит расшифровок чата, снимков экрана или каких-либо конкретных деталей разговора.
Чтобы активировать функцию, пользователи должны зайти в настройки и пригласить человека старше 18 лет (или 19 лет в Южной Корее). Контакт должен явно принять приглашение, чтобы функция стала активной. Кроме того, любая из сторон может отказаться от участия или изменить настройки в любое время.
Текущая роль ИИ
В настоящее время компании, занимающиеся разработкой ИИ, испытывают растущее давление, требующее учитывать эмоциональное воздействие их продуктов. Ряд судебных исков и исследований выявил случаи, когда чат-боты не давали полезных советов, а в некоторых случаях усугубляли стресс у уязвимых пользователей. С помощью «Доверенного контакта» OpenAI признает, что ИИ не может заменить реальное социальное взаимодействие.
Этот вариант является частью более широких усилий по превращению ChatGPT из простого помощника в более ответственную «эмоциональную инфраструктуру». Некоторые критики опасаются, что это может переложить ответственность на личные контакты. Однако OpenAI настаивает на том, что социальная связь является одним из важнейших защитных факторов в снижении рисков.
Для пользователей, которые полагаются на ChatGPT как на площадку для обсуждения своих проблем, это обновление предоставляет тихую систему подстраховки — ту, которая призвана преодолеть разрыв между цифровым чатом и реальной поддержкой, которую может оказать только другой человек.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jean Leon
