Reddit полностью перестраивает свою инфраструктуру модерации с помощью нового масштабного набора инструментов на базе AI под названием Rules Hub. Работающий на LLMs, новый инструмент призван помогать волонтерам-модераторам управлять сабреддитами, интерпретируя реальные намерения, стоящие за постами и комментариями, а не просто сканируя точные текстовые триггеры.
Сейчас функция расширяется на все недавно созданные сообщества в преддверии более широкого запуска позднее в этом году. Однако долгосрочный план Reddit постепенно отказаться от устаревшего инструмента Automod уже вызывает сопротивление со стороны опытных модераторов.
Как Rules Hub добавляет нюансы AI в правила сабреддитов
Более десяти лет сообщества Reddit полагались на Automod. Это классический бот, основанный на правилах, который автоматически помечает спам или удаляет запрещенный контент с помощью точного сопоставления ключевых слов и регулярных выражений. Однако генеральный директор Reddit Стив Хаффман отметил в официальном обновлении, что жесткая настройка Automod делает его сложным в изучении, трудным в обслуживании и подверженным сбоям.
Rules Hub призван устранить эти ограничения, используя LLMs для понимания естественного языка, пограничных случаев и контекста — например, отличия настоящего личного оскорбления от безобидной цитаты из фильма. По словам компании, инструмент позволяет модераторам определять собственные правила и выбирать автоматические действия, сохраняя при этом полный контроль над правоприменением (через TechCrunch).
Реакция модераторов и опасения по поводу замены Automod
Некоторые менеджеры сообществ скептически относятся к заверениям Reddit в том, что Rules Hub облегчит нагрузку на модерацию. В обсуждениях на форумах по модерации волонтеры выражали разочарование планами по постепенному отказу от Automod. Они утверждают, что текущие модели AI не обладают надежностью, необходимой для выявления злоумышленников или управления сложными сабреддитами с высоким трафиком.
Отвечая на опасения, о которых сообщил Mashable, вице-президент Reddit по сообществам Лора Нестер признала, что Rules Hub пока не может делать всё, что умеет Automod. Она заверила модераторов, что Automod останется активным в обозримом будущем. Более того, Reddit не будет отказываться от существующих инструментов, пока заменители на AI не докажут свою полную эффективность на практике.
Более масштабные изменения для сторонних разработчиков и Old Reddit
Внедрение Rules Hub происходит на фоне более широких изменений платформы, направленных на защиту экосистемы данных Reddit. Компания объявила, что постепенно ограничит доступ к публичному API. Они потребуют, чтобы все новые сторонние приложения и инструменты сообщества работали непосредственно на платформе разработчиков Reddit.
Reddit также работает над дополнительными ограничениями для своего устаревшего десктопного интерфейса «Old Reddit». Этим шагом они намерены заблокировать несанкционированный сбор данных компаниями, обучающими AI. Хотя Reddit уже ограничил доступ к Old Reddit только для авторизованных пользователей, будущие обновления могут включать перенос ключевых рабочих процессов модерации или перестройку устаревшего сайта на современную инфраструктуру.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jean Leon
