Компания *Meta заявила, что более 97% контента, с которым она работала, был обнаружен ее системами до того, как пользователи сообщили о нем. В Индии за тот же период *Meta отреагировала на 5,3 миллиона случаев сексуальной эксплуатации детей, причем более 98% было обнаружено до сообщений пользователей.
*Meta сообщила, что ее новейшие инструменты на базе ИИ нацелены на людей, использующих рекламу, которая выглядит безобидно, для перенаправления пользователей на незаконный контент за пределами платформ *Meta.
Компания внедрила новую систему большой языковой модели (LLM) для обнаружения того, что она называет «сигнализацией». Это относится к рекламе, которая может выглядеть нормально, но подозревается в направлении пользователей на незаконный контент или другую вредоносную деятельность в Интернете. *Meta утверждает, что это тактика, которую злоумышленники стали использовать в последнее время, поскольку они продолжают менять свои методы, чтобы избежать обнаружения. Хотя сама реклама может не содержать незаконных материалов, она все же может служить «воротами» на веб-сайты, где размещены материалы, связанные с сексуальным насилием над детьми.
В связи с этим *Meta заявила, что теперь она анализирует, куда реклама направляет пользователей, а не только то, что она содержит. Компания может использовать эту информацию для блокировки веб-сайтов или других ресурсов, нарушающих ее правила, и принятия мер в отношении учетных записей, стоящих за ними.
*Meta также использует дополнительные сканирования на основе ИИ для поиска контента, связанного с эксплуатацией детей, который мог быть упущен предыдущими системами. Компания заявила, что продолжит добавлять новые сигналы по мере того, как будет лучше понимать, как работают эти сети.
Еще одним новым инструментом является «агент ИИ для красного тестирования», который проверяет собственные меры безопасности *Meta. Он ищет уязвимости, которые злоумышленники могут использовать для обхода защитных мер компании. *Meta заявила, что это поможет ей находить новые методы злоупотреблений до того, как они станут более распространенными.
Кроме того, компания совершенствует свои системы для поиска людей, которые возвращаются на ее платформы с новыми учетными записями после удаления предыдущих.
Новые меры принимаются на фоне продолжающегося давления на *Meta в связи с безопасностью детей на ее платформах. Компания столкнулась с судебными исками и критикой со стороны законодателей из-за рисков, которые ее социальные сети могут представлять для молодых пользователей. В августе *Meta достигла соглашения о выплате до 18 миллиардов долларов (16,4 миллиарда евро) для урегулирования иска о безопасности детей, поданного 29 штатами США, в связи с опасениями по поводу защиты детей в Интернете.
В этом году *Meta представила несколько функций безопасности для детей, включая родительский контроль для *Meta AI, учетные записи для детей младше 13 лет в *WhatsApp и оповещения для родителей, когда дети ищут в *Instagram контент, связанный с самоповреждением.
В сентябре *WhatsApp добавил больше средств контроля для родителей. Они могут ограничивать использование подростками каналов, контролировать, кто может видеть их обновления статуса, и решать, кто может добавлять их детей в группы. Родители также могут получать уведомления о действиях в определенных группах.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lauren Forristal
