Reddit заявляет, что разработала инструменты на базе больших языковых моделей (LLM) для сокращения спама, значительная часть которого создается именно с помощью LLM. Это несколько иронично, но в эпоху ИИ у платформ нет другого выбора, кроме как бороться с огнем с помощью огня. По данным платформы, Reddit блокирует 23 миллиона просмотров спама ежедневно и отлавливает около 25 000 новых спам-постов и комментариев в день.
Социальные платформы годами создавали автоматизированные инструменты для борьбы со спамом, но Reddit утверждает, что обновленные инструменты справляются с ним с более высоким процентом обнаружения.
«Мы используем LLM для выявления тонких, скоординированных паттернов фейкового поведения и искусственного ажиотажа, которые старые системы раньше пропускали», — говорится в блоге Reddit. Компания заявляет, что с января по март сократила воздействие спама на пользователей на 20% по сравнению с тремя предыдущими месяцами.
Платформы, такие как YouTube, Meta* и Instagram* , разрешают пользователям публиковать контент, сгенерированный ИИ, при условии его обязательного раскрытия, а TikTok даже позволяет пользователям настраивать, какой объем контента, созданного ИИ, они хотят видеть.
Если платформы смогут быстрее обнаруживать контент, сгенерированный ИИ, это также означает, что они потенциально могут быстрее помечать нарушающий контент, например, разжигание ненависти. Однако эксперты по платформам постоянно напоминают нам, что модерация контента на базе ИИ должна сочетаться с человеческой модерацией для достижения наиболее эффективных результатов.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Amanda Silberling
