Компания подтвердила, что проблема затрагивала учетные записи с мая, при этом еще 200 пользователей были заблокированы за выходные до того, как ее команда выявила и устранила неполадку. Все затронутые аккаунты в настоящее время восстанавливаются.
Этот инцидент высвечивает одну из растущих проблем, связанных с модерацией с помощью ИИ, поскольку многие платформы все больше полагаются на автоматизированные системы для выявления незаконного или оскорбительного контента в больших масштабах.
В подробной ветке в X Discord объяснила, что ее автоматизированная система безопасности работает путем сопоставления загруженного контента с базами данных известного вредоносного материала. Хотя технология предназначена для обнаружения незаконного контента, компания признала, что иногда она может давать ложные срабатывания. Контент просматривает модератор-человек, но ошибка привела к немедленной блокировке затронутых аккаунтов системой.
«Мы работаем над улучшением мер защиты, чтобы это не повторилось», — написала компания.
Our systems flag content by matching it against known harmful material. This kind of similarity matching can produce false positives, which is why a member of our Trust & Safety team always reviews flagged content before any action is taken.
The intended behavior is to…
— Discord Support (@discord_support) July 7, 2026
Пользователи в X и на Reddit утверждали, что их аккаунты были заблокированы навсегда просто за загрузку изображений, содержащих квадратные сетчатые узоры. Некоторые пользователи предположили, что инструменты модерации ИИ Discord стали более чувствительны к сетчатым структурам, поскольку ранее они использовались в попытках скрыть или замаскировать контент NSFW и материалы о детской эксплуатации от систем автоматического обнаружения.
Затронутые пользователи выражают свое недовольство в социальных сетях, некоторые утверждают, что постоянные блокировки аккаунтов, основанные исключительно на автоматическом обнаружении, могут иметь серьезные последствия, особенно для пользователей, которые полагаются на Discord для работы, игровых сообществ или поддержания социальных связей на расстоянии.
«Потерять аккаунт в Discord из-за такой несправедливости может быть крайне разрушительно и серьезно сказаться на пользователях, а каждый день миллионы пользователей страдают от ложных банов ИИ. Это необходимо остановить», — написал один из пользователей X.
My account was wrongfully banned from your platform due to a bug in your AI automod detecting my GAME TEXTURES as CSAM. I need my account back as I’m a game director and use Discord for all my communication. I have requested a review of my suspension.@discord@discord_supportpic.twitter.com/QfAkCIJo6S
— JDBRYANT 🎂 TODAY (@jdbryantdev) July 4, 2026
Discord не одинок в проблемах с модерацией из-за автоматизированных систем. В прошлом году пользователи Instagram* и Facebook Groups сообщали о массовых необъяснимых блокировках аккаунтов, в которых многие винили системы модерации на базе ИИ. Хотя пользователи указывали на автоматизацию как на вероятную причину, Meta* никогда публично не подтверждала, были ли виноваты ошибки ИИ. Теперь Наблюдательный совет Meta* настаивает на повышении прозрачности.
В прошлом году Tumblr также столкнулся с жалобами пользователей на массовые блокировки аккаунтов без четких объяснений.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lauren Forristal
