Новости: модерация

Узнайте, как кнопка «похоже на AI-мусор» в LinkedIn помогла сократить просмотры AI-спама на 40%. Платформа также предупредит авторов, если их контент сочтут подозрительным. Читайте о новых инструментах борьбы с некачественным контентом.

Умные очки Ray-Ban Meta* AI породили волну скрытых съемок в Instagram* . Meta* обещала бороться с «пикаперами», но спустя месяц платформа по-прежнему кишит нарушающим правила контентом. Узнайте, почему модерация терпит неудачу.

Reddit расширяет AI-модерацию: Rules Hub на LLMs заменяет жёсткий Automod контекстным анализом. Узнайте о протестах модераторов, будущем Old Reddit и ограничениях для сторонних разработчиков.

ИИ-модерация соцсетей приводит к массовым ложным блокировкам. Узнайте, почему без человеческого контроля не обойтись и как это влияет на пользователей.

Reddit намекает на закрытие Old Reddit из-за злоупотреблений. Узнайте о грядущих изменениях, новых ограничениях API и их влиянии на сторонние приложения и модерацию.

Узнайте, как «вымогатель удаления» разместил ИИ-модифицированные материалы с сексуальным насилием над детьми (CSAM), чтобы заставить Apple убрать Telegram из App Store. Apple удалила Telegram примерно на 40 минут в понедельник вечером после обнаружения CSAM, но восстановила приложение после удаления контента.

LinkedIn внедряет кнопку «Похоже на AI slop» для борьбы с низкокачественным AI-контентом. Узнайте, как платформа заменяет AI-функцию написания на корректор и блокирует ботов.

Многие годы пользователи обходились лайфхаками вроде Reaction Roles для скрытия спойлеров. Эта эпоха закончена: Discord сделал спойлерные каналы официальной функцией. Настройте их в пару кликов — защитите участников от нежелательного контента.

Компания Discord подтвердила, что с мая сбои в работе затронули аккаунты, а еще 200 пользователей были заблокированы из-за ошибки в системе модерации на базе ИИ, которая давала ложные срабатывания.

В эпоху ИИ платформам приходится бороться с огнем с помощью огня для искоренения спама. Reddit использует LLM для блокировки миллионов спам-просмотров ежедневно.