Новости: модерация

Компания Discord подтвердила, что с мая сбои в работе затронули аккаунты, а еще 200 пользователей были заблокированы из-за ошибки в системе модерации на базе ИИ, которая давала ложные срабатывания.

В эпоху ИИ платформам приходится бороться с огнем с помощью огня для искоренения спама. Reddit использует LLM для блокировки миллионов спам-просмотров ежедневно.

Обзоры ИИ от TikTok столкнулись с негативной реакцией после неточных описаний ИИ и вирусных ошибок ИИ TikTok, что побудило к изменениям в инструментах модерации ИИ для социальных сетей. — techtimes.com

Rave, кроссплатформенный сервис для совместного просмотра фильмов и сериалов, подал серию антимонопольных исков против Apple после удаления приложения из App Store в августе 2025 года. Apple сослалась на «неуточненные обвинения в мошенничестве и расплывчатые опасения по поводу модерации контента». Rave утверждает, что Apple атаковала сервис из-за конкуренции с SharePlay и желания монополизировать рынок. — macrumors.com

Модератор YouTube на базе ИИ отреагировал на ошибочное удаление по DMCA, затронув почти все видео, содержащие фрагменты трейлера DLSS 5, включая собственный ролик Nvidia на YouTube. — tomshardware.com

Moonbounce привлекла $12 млн для развития своего управляющего движка ИИ, который преобразует политики модерации контента в последовательное, предсказуемое поведение ИИ. — techcrunch.com

Похоже, YouTube просит пользователей помочь модерировать контент, сгенерированный ИИ, используя термин «AI slop». Пользователям предлагают оценить, насколько видео похоже на «мусор от ИИ», по пятибалльной шкале. — pcworld.com

Криптограф Надим Кобеисси обвиняет сопровождающих безопасности Rust в игнорировании и бане после обнаружения критических уязвимостей. : Rust security maintainers contend Nadim Kobeissi’s vulnerability claims are too much. — theregister.com

Meta* заявляет, что ИИ превосходит людей в модерации контента, блокируя тысячи попыток фишинга. При этом корпоративные инструменты давно обнаруживают невозможные входы в систему, а модераторы Цукерберга не замечали очевидного. — theregister.com

Если вам не нравится, когда создают дипфейки, это, честно говоря, мало поможет. Но это исправит хотя бы самые очевидные уязвимости. — gizmodo.com