Meta* добавляет систему, которая может оповещать родителей, если разговор подростка с Meta* AI указывает на то, что он может думать о суициде или самоповреждении. Компания заявляет, что Meta* AI уже перенаправляет подростков, обсуждающих эти темы, на кризисные линии и призывает их поговорить с родителем, консультантом или другим взрослым, которому они доверяют. Теперь некоторые из таких разговоров также могут привести к отправке уведомления родителю, осуществляющему надзор.
Meta* сообщает, что работала с родителями и экспертами в области психического здоровья, чтобы определить, какие разговоры должны вызывать предупреждение. Это включает ситуации, когда подросток явно упоминает причинение себе вреда, даже если формулировка неявная. Специализированная система AI будет искать такие сигналы. Однако Meta* заявляет, что перед отправкой предупреждения каждый отмеченный системой разговор будет проверяться человеком.
Если ситуация неясна, Meta*, по ее словам, будет действовать с осторожностью и уведомит родителя. Это может означать, что некоторые родители получат предупреждение, когда непосредственной опасности нет, но tech-гигант считает, что это правильный подход, пока система продолжает совершенствоваться. Это дополняет существующую систему Instagram* , которая уже может предупреждать родителей, если их подросток многократно ищет термины, связанные с суицидом или самоповреждением в течение короткого периода времени.
Кроме того, компания также работает над системой, которая может связываться со службами экстренной помощи, если разговор с Meta* AI указывает на то, что кто-то может находиться в непосредственной опасности совершения самоубийства. Более того, еще одна область, на которой Meta* фокусируется, — это то, как AI отвечает, прежде чем перенаправить пользователя к ресурсам поддержки.
Вместо того чтобы резко завершать разговор, Meta* заявляет, что чат-бот должен признавать чувства подростка, одновременно призывая его обратиться за помощью. Компания сообщает, что продолжает консультироваться со своим Экспертным советом по благополучию AI, Консультативной группой по суициду и самоповреждению, а также с Молодежными советниками.
Кроме того, Meta* расширяет действие более строгой настройки «Ограниченный контент» на разговоры с Meta* AI. Аккаунты для подростков по умолчанию уже используют настройку контента 13+. При этой настройке Meta* AI должен избегать определенных типов взаимодействий, таких как сексуальные или романтические разговоры с подростками, а также отклонять запросы, например, рецепты алкогольных напитков. Родители, которые включают более строгую настройку «Ограниченный контент» для подросткового аккаунта в Instagram* , теперь также применят эти дополнительные ограничения к Meta* AI.
Предупреждения в настоящее время доступны родителям, использующим инструменты родительского надзора Instagram* в США, Великобритании, Австралии и Канаде, и будут доступны родителям-наблюдателям по всему миру к концу 2026 года.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Fiza Ali
