Google работает над новой функцией безопасности в Gemini, которая будет оповещать родителей, когда ребенок упоминает о самоповреждении. Анализ кода приложения выявил ранние разработки системы оповещения, интегрированной в существующие родительские элементы управления. Хотя функция еще не запущена официально, этот шаг знаменует собой серьезное изменение в подходе технологических платформ к обработке конфиденциальных бесед подростков.
Команда Android Authority обнаружила скрытый код в версии 17.73.15 приложения Google. Раскрытые строки текста показывают, что дети под присмотром увидят заметный баннер, информирующий их о включенных оповещениях безопасности. Экран предупреждения напрямую сообщает юным пользователям, что их родители будут уведомлены, если чат-бот обнаружит разговор о причинении себе вреда.
Оповещения выходят за рамки стандартных элементов управления Family Link
Родители уже могут управлять доступом к приложениям и включать дополнительные фильтры контента для детей через Family Link. Однако текущие элементы управления сосредоточены на блокировании вредоносных ответов, а не на отслеживании того, что ребенок фактически пишет в чате. Автоматические оповещения идут дальше, активно выявляя тревожные сигналы, когда несовершеннолетний испытывает трудности.
Прямые оповещения дают родителям уверенность, но защитники конфиденциальности предупреждают о непреднамеренных недостатках для подростков. Если подростки знают, что оповещение срабатывает автоматически, они могут вообще перестать говорить о своем психическом здоровье. Нахождение правильного баланса между защитой детей и уважением их конфиденциальности остается сложной задачей для технологических компаний.
Растущий общественный запрос на улучшение защиты детей
Внезапный толчок в области безопасности происходит на фоне растущего общественного внимания к тому, как ИИ-интерфейсы взаимодействуют с юными пользователями. Недавний отчет Bloomberg отметил судебный иск, в котором утверждалось, что режим поиска Google AI обсуждал самоубийство с подростком, не уведомив родителей. Анализ кода также показывает, что Google работает над ежедневными ограничениями экранного времени, чтобы помочь родителям контролировать, сколько времени дети проводят с Gemini.
Поскольку эти функции появились в неопубликованном коде, Google не предоставил официальных сроков или деталей запуска. Инженеры все еще дорабатывают функцию за кулисами, прежде чем решить, стоит ли ее широко внедрять.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jean Leon
