Этот шаг предпринят за несколько дней до начала суда над *Meta в Нью-Мексико, где компанию обвиняют в недостаточном усердии по защите детей от сексуальной эксплуатации в её приложениях. Как сообщило издание Wired в четверг, *Meta добивалась ограничения раскрытия информации, касающейся влияния социальных сетей на психическое здоровье подростков, а также историй.
В октябре *Meta внедрила новые функции родительского контроля, сосредоточившись на адаптации взаимодействия подростков с искусственным интеллектом (AI) в своих приложениях. Эти новые функции, вдохновленные рейтингом фильмов PG-13, ограничили доступ подростков к определённым темам, таким как крайнее насилие, нагота и откровенное употребление наркотиков.
Несколько дней спустя компания также представила элементы управления для AI-персонажей, позволяющие родителям и опекунам отслеживать темы и блокировать доступ к определённым персонажам. В *Meta тогда заявили, что родители смогут полностью отключать чаты с AI-персонажами. Планировалось, что эти функции будут запущены в этом году, но теперь *Meta занимает более жёсткую позицию, полностью отключая AI-персонажей. В *Meta пояснили, что, получив отзывы от родителей, желающих больше информации и контроля над взаимодействием подростков с AI-персонажами, они решили приостановить доступ.
«Начиная со следующих недель, подростки больше не смогут получать доступ к AI-персонажам в наших приложениях до тех пор, пока не будет готова обновлённая версия. Это коснётся всех, кто указал возраст подростка, а также тех, кто заявляет, что является взрослым, но, по нашим технологиям прогнозирования возраста, мы подозреваем, что это подростки», — говорится в обновлённом блоге компании.
*Meta добавила, что когда новые AI-персонажи, ориентированные на подростков, будут наконец запущены, у них будут встроенные функции родительского контроля. Компания заявила, что новые персонажи будут давать ответы, соответствующие возрасту, и придерживаться таких тем, как образование, спорт и хобби.
Компании социальных сетей находятся под пристальным вниманием регуляторов. Помимо упомянутого дела в Нью-Мексико, на следующей неделе *Meta также предстанет перед судом по обвинению в том, что её платформа вызывает зависимость от социальных сетей. Ожидается, что генеральный директор Марк Цукерберг даст показания по этому делу, как только начнётся судебный процесс.
Помимо платформ социальных сетей, компаниям, занимающимся разработкой AI, также пришлось скорректировать свой продукт для подростков после исков, обвиняющих их в содействии самоповреждению. В октябре Character.AI, стартап, позволяющий пользователям общаться с различными AI-аватарами, запретил неограниченные беседы с чат-ботами для пользователей младше 18 лет. В ноябре стартап объявил, что будет создавать интерактивные истории для детей. За последние несколько месяцев OpenAI добавила новые правила безопасности для ChatGPT, касающиеся подростков, а также начала прогнозировать возраст пользователя для применения ограничений контента.
*Facebook, *Instagram и *WhatsApp принадлежат компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ivan Mehta
