Модель ИИ для принятия решений Jev нашла новую работу: она помогает расширению для Chrome выявлять и помечать низкокачественные тексты в LinkedIn.
Энтузиаст ИИ, автор и бизнес-консультант Том Фрейзер выпустил Slop Mop в виде расширения для Chrome во вторник, а также опубликовал его код на GitHub для тех, кто хочет покопаться в нем самостоятельно. Фрейзер заявил, что оно полностью бесплатное, не требует регистрации и фильтрует не только «мусор» от ИИ, но и откровенно плохие тексты, написанные людьми.
Расширение основано на девяти признаках из исследования SEO-компании Graphite Growth, которые непропорционально часто встречаются в текстах, сгенерированных ИИ. Эта проблема особенно актуальна для LinkedIn. Компания Pangram, занимающаяся обнаружением ИИ, классифицировала 41 процент постов в LinkedIn длиной более 250 слов в своей выборке как полностью сгенерированные ИИ, не считая постов, которые люди улучшали с помощью ИИ. Проблема стала настолько серьезной, что LinkedIn недавно добавил кнопку на платформу, позволяющую пользователям сообщать о постах как о «похожих на мусор от ИИ».
Slop Mop обобщает обширное исследование Graphite до девяти признаков: посты останавливают прокрутку, содержа один абзац текста и пробел, требующий развертывания поста; используются много хвалебных слов; содержатся обещания без подводных камней; текст написан цветистым языком; присутствует подозрительно аккуратный урок; используется приманка для вовлечения; присутствуют пустые похвалы; термины определяются через контраст; текст написан скованно.
Эти девять признаков Slop Mop использует для идентификации потенциально низкокачественных текстов. Чтобы избежать попадания качественного контента в «чистку» Jev, задаются еще два вопроса: звучит ли написанное как речь конкретного человека и содержит ли оно что-либо полезное для читателей. Оба этих вопроса снижают оценку, как объясняет Фрейзер на веб-сайте Slop Mop. Двенадцатый вопрос касается вероятности того, что пост был составлен моделью, но этот ответ может только снизить оценку «мусора» для текста, который в противном случае читается как написанный человеком, и сам по себе не может привести к пометке поста.
Ни один из этих факторов сам по себе не отличает текст, написанный ИИ, от текста, написанного человеком, — отмечаем мы, как и Фрейзер. Он описывает Slop Mop не столько как детектор ИИ, сколько как фильтр для устранения интернет-мусора, независимо от того, кто или что его написал.
«Slop Mop одинаково помечает плохой человеческий контент и плохой контент от ИИ», — сказал Фрейзер The Register. «Я считаю, что это правильное решение, потому что контент от ИИ может быть хорошим, а человеческий контент — плохим».
Ключевой вопрос, лежащий в основе Slop Mop, как пишет Фрейзер в разделе часто задаваемых вопросов на веб-сайте расширения, заключается в том, стоит ли пост вашего внимания.
Slop Mop будет помечать или скрывать посты, соответствующие его порогу «мусора», будь то написанные ИИ или человеком, что означает, что они фактически не будут удалены из ленты LinkedIn и все равно могут быть помечены с помощью кнопки «Похоже на мусор от ИИ».
С Jev он, возможно, нашел что-то стоящее!
Вместо того чтобы расстраиваться из-за «мусора» в LinkedIn и искать способ перестать его видеть, Фрейзер рассказал нам, что его основной мотивацией при создании Slop Mop было экспериментирование с Jev — новой вероятностной моделью ИИ для принятия решений от TypeSafe, которая была выпущена на прошлой неделе.
Jev — это не чат-бот, и с ним нельзя взаимодействовать как с чат-ботом. Вместо этого он предназначен для принятия вероятностных решений для других программных систем и доступен через API. Он быстро стал хитом в интернете, разработчики находят множество новых применений для этой дешевой и быстрой модели.
Slop Mop, другими словами, — это еще одна попытка другого разработчика протестировать Jev. Проект с открытым исходным кодом, чтобы другие могли сделать то же самое, если захотят, и, возможно, захотят: все работает на аккаунте Фрейзера в Jev, и, следовательно, запросы проходят через его API-ключ, так что, если проект станет хитом, ему, возможно, придется столкнуться с немалыми счетами.
Фрейзер реализовал ежедневные лимиты постов для пользователей, чтобы они не увеличивали его расходы. До 250 постов могут быть проанализированы на установку в день, что, по его словам, значительно превышает то, как большинство людей используют LinkedIn.
«По моим данным от первых пользователей, стоимость на пользователя составляет около 0,005 доллара в день», — сказал нам Фрейзер. «Если этот проект станет вирусным, я могу пересмотреть бесплатную часть обслуживания, но пока я рад покрыть эти расходы, чтобы понять параметры настройки и построить набор данных».
Если достаточное количество людей найдет это полезным и это не разорит его, Фрейзер также сказал, что может расширить возможности за пределы LinkedIn на другие платформы, но пока он рассматривает это исключительно как эксперимент с Jev. Говоря об этом, он доволен первыми результатами, отмечая, что проект демонстрирует возможности Jev как «нового класса инфраструктуры ИИ, который останется надолго».
«Контекстно-зависимое принятие решений с оценкой уверенности принесет больше пользы для корпоративных рабочих процессов, чем LLM на сегодняшний день», — прогнозирует Фрейзер.
Вы можете получить свою копию Slop Mop на GitHub или установить ее из Chrome Web Store. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Brandon Vigliarolo
