Компания Meta* сообщила, что протестировала использование ИИ для задач модерации контента и обнаружила, что он работает лучше людей.
Гигант социальных сетей в четверг объявил о начале глобального развертывания Meta* AI support — инструмента, который берет на себя такие задачи, как сброс паролей, сообщение о подозрительном контенте, разъяснение случаев удаления контента и предоставление возможности апелляции, а также управление настройками конфиденциальности.
Компания также заявила: «В течение следующих нескольких лет мы внедрим более совершенные системы ИИ во все наши приложения, чтобы трансформировать наш подход к обеспечению соблюдения правил в отношении контента, более точно выявляя и удаляя серьезные нарушения, такие как мошенничество и незаконный контент, чтобы пользователи видели их меньше».
Первые эксперименты дали многообещающие результаты: один инструмент ИИ ежедневно обнаруживал и пресекал 5000 попыток мошенничества с целью кражи паролей пользователей. По словам Meta*, ее команды людей не смогли обнаружить эти схемы мошенничества.
Другой ИИ помог сократить количество жалоб пользователей на фейковые профили знаменитостей более чем на 80 процентов. Другие тесты удвоили выявление контента, связанного с сексуальными домогательствами для взрослых, что нарушает правила Meta*.
Meta* утверждает, что ее ИИ также может «предотвратить захват учетной записи, заметив внезапный вход из нового местоположения, смену пароля и изменения в профиле». Компания заявляет, что эти изменения «выглядят безвредными для человека, просматривающего учетную запись, но ИИ смог распознать в них угрозу».
Это странное замечание, учитывая, что многочисленные корпоративные продукты безопасности могут обнаруживать «невозможное путешествие» (impossible travel), например, вход одного пользователя из Лондона и запрос на сброс пароля через час из Сан-Франциско, и помечать это как вероятную атаку.
Meta* также с воодушевлением сообщила, что ИИ может «обнаруживать поддельный сайт, маскирующийся под законный веб-адрес и выдающий себя за популярный магазин спортивных товаров, замечая использование настоящего логотипа с необычно низкими ценами и подозрительным веб-адресом», поскольку ИИ «снизил количество просмотров рекламы с мошенничеством и другими серьезными нарушениями на семь процентов, что дает многообещающие результаты и лучшую защиту для пользователей и брендов».
Опять же, это хороший результат, но также немного странный, поскольку поддельная реклама — это известная проблема, к которой Meta* часто оставалась равнодушной.
Ваш корреспондент однажды заметил подозрительную рекламу бренда, который публикует списки своих легитимных URL-адресов. Реклама вела на поддельный сайт, поэтому я отправил жалобу в Meta*, которая ответила, что фейковый сайт не нарушает ее правил. Компания проигнорировала мой ответ, в котором указывалось, что URL-адрес отсутствует в списке официальных сайтов бренда.
Уход из метавселенной
Шаги Meta* в сторону ИИ совпали с отказом от метавселенной — ее видения иммерсивных онлайн-сообществ.
В среду компания объявила о закрытии Horizon Worlds, своей платформы метавселенной.
Это решение означало, что владельцам VR-очков Meta* Quest останется гораздо меньше контента для просмотра. Позже компания отменила это решение и пообещала продолжать предлагать некоторые из своих иммерсивных сред, но заявила, что не будет создавать новые.
Meta* приняла свое нынешнее название, чтобы отразить убежденность основателя Марка Цукерберга в том, что метавселенная станет следующим большим прорывом, и потратила более 80 миллиардов долларов на свои амбиции за пять лет — период, в течение которого, как мы теперь видим, модерация контента для Facebook* и Instagram* шла плохо, а дети часто страдали от продуктов компании.
Теперь компания планирует разработать нечто, что она называет «суперинтеллектом», и тратит на это еще десятки миллиардов. ®
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Simon Sharwood
