Reddit будет требовать от аккаунтов, демонстрирующих «автоматизированное или иное подозрительное поведение», подтверждения того, что ими управляет человек, заявил сегодня генеральный директор Reddit Стив Хаффман в посте на Reddit. Процесс верификации направлен на борьбу с нежелательными ботами, наводняющими Reddit в то время, когда боты на базе ИИ готовы захватить Интернет.
«Поскольку ИИ становится всё большей частью Интернета, мы хотим убедиться, что, находясь на Reddit, вы знаете, когда общаетесь с человеком, а когда — нет», — сказал Хаффман.
Проверка человека будет проводиться только в том случае, если Reddit заподозрит, что аккаунт является ботом. Хаффман подчеркнул, что это «редко» и не коснется «большинства пользователей». Если аккаунт не сможет доказать, что он человеческий, он «может быть ограничен», — добавил он.
Reddit будет проверять, управляется ли аккаунт человеком, с помощью сторонних инструментов, которые, по словам Хаффмана, не раскроют истинную личность пользователей, их никнеймы на Reddit или активность на платформе. Среди текущих методов, которые изучает Reddit, — passkeys (ключи доступа), которые Хаффман назвал отличной отправной точкой, но они не дают «никаких доказательств индивидуальности или чего-либо, кроме того, что „это, вероятно, сделал человек“».
Reddit также рассматривает сторонние биометрические сервисы, такие как World ID, использующий технологию сканирования радужной оболочки глаза.
«Я думаю, что Интернету нужны такие решения для верификации, где информация о вашем аккаунте, данные об использовании и личность никогда не смешиваются», — сказал Хаффман.
Крайним средством могут стать сторонние государственные службы идентификации, которые Reddit уже обязан использовать в некоторых регионах, например, в Великобритании. Хаффман назвал это «наименее безопасным, наименее приватным и наименее предпочтительным» методом верификации человека на Reddit.
«Когда нас вынуждают это делать, мы разрабатываем интеграции таким образом, чтобы мы никогда не видели информацию о вашем удостоверении личности, поэтому ваши данные Reddit не могут быть связаны с вами», — добавил он.
,
Кроме того, Хаффман объявил, что аккаунты, использующие ботов в разрешенных целях, получат метку «Приложение» (App label). Reddit опубликовал информацию о том, как разработчики могут получить метки для своих приложений.
Объявление прозвучало на фоне опасений некоторых отраслевых комментаторов, что трафик ботов на базе ИИ в Интернете может скоро превысить человеческий трафик. Веб-агенты становятся всё более распространенными и стекаются на сайты социальных сетей. Например, перезапущенный Digg закрыл свою открытую бету через три месяца из-за «беспрецедентной проблемы с ботами», вызванной «сложными ИИ-агентами и автоматизированными аккаунтами», — сказал генеральный директор Джастин Меццелл в марте.
Обеспечение того, чтобы боты не захватили Reddit, отвечает финансовым интересам Reddit. Платформа позиционирует себя для пользователей как место для бесед с реальными людьми о человеческих темах и интересах. Социальная сеть также всё активнее продает себя рекламодателям как способ продвижения продуктов реальным людям. А Reddit заработал миллионы, разрешив компаниям, занимающимся ИИ, обучать большие языковые модели на своих многолетних данных, созданных людьми. Reddit подал в суд и заблокировал компании, которые, по его мнению, незаконно собирали контент без оплаты.
По словам Хаффмана, Reddit уже ежедневно удаляет в среднем 100 000 аккаунтов, использующих вредоносных ботов и размещающих спам, причем удаление часто происходит до того, как пользователи увидят эти аккаунты. Reddit также планирует упростить для пользователей возможность сообщать об аккаунтах, которые, по их мнению, являются ботами.
Контент, созданный ИИ, по-прежнему разрешен
Reddit изучает способы ограничения ботов на платформе, но воздерживается от преследования людей, использующих чат-ботов для создания постов и комментариев. Reddit не подтвердил, какая доля контента на сайте создана ИИ, но борьба с «мусором от ИИ» на Reddit оказалась сложной для модераторов, даже когда сабреддиты запрещают использование генеративного ИИ.
«Мы будем следить за его использованием и посмотрим, что произойдет, когда мы усилим давление на автоматизированные аккаунты. Как всегда, сообщества могут устанавливать свои собственные стандарты, если захотят», — сказал Хаффман о контенте, созданном ИИ.
Раскрытие информации: Advance Publications, владеющая Condé Nast, материнской компанией Ars Technica, является крупнейшим акционером Reddit.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Scharon Harding
