Привлечение средств Pangram, возглавляемое Menlo Ventures при участии Haystack, ScOp, Script Capital и Cadenza, происходит одновременно с запуском стартапом своей модели нового поколения для обнаружения AI-текста — Pangram 4, а также модели для обнаружения AI-изображений — Pangram Image.
По словам Pangram, новая модель обнаружения текста более чем на 99% точна в выявлении текстов, написанных с помощью ИИ, и смешанного человеко-AI контента, а также может легче обнаруживать программы-«очеловечиватели» AI. Детектор AI-изображений пока доступен только в режиме исследовательской предварительной версии; Pangram планирует выпустить его в широкий доступ в ближайшие недели.
Выпускники Стэнфорда по специальностям «ИИ и машинное обучение» Макс Сперо и Брэдли Эми запустили Pangram около двух лет назад, после того как запуск ChatGPT открыл шлюзы для интернета, заполненного ботами, AI-сгенерированным SEO-мусором и тем, что Сперо называет «кампаниями российской дезинформации на базе LLM и кампаниями под влиянием ОАЭ в Twitter».
«Я думаю, невероятно ценно знать, является ли то, на что вы смотрите, созданным ИИ или нет», — сказал Сперо TechCrunch. «Особенно текст, который вы читаете, потому что это меняет то, как люди к нему относятся. Это то, где мне нужно следить за галлюцинациями и относиться скептически, или это то, чему я могу доверять как хорошо исследованному материалу от настоящего журналиста?»
Система обнаружения AI от Pangram — это, по сути, большая модель машинного обучения, обученная на десятках миллионов известных человеческих документов. Затем стартап создал «синтетическое зеркало» для каждого документа, повторяющее тему, длину и тон голоса, но написанное передовой LLM.
«Наша модель изучает стилистические различия и выбор, который ИИ делает последовательно, и может использовать это, чтобы с высокой уверенностью определять, что делает что-то созданным ИИ», — сказал Сперо, добавив, что детектор AI не полагается на метаданные копирования-вставки или скрытые водяные знаки.
Для Pangram обнаружение AI — это не только вопрос того, написан ли текст полностью ИИ. Это также различие между уровнями помощи AI — например, когда кто-то пишет что-то сам, а затем просит AI отредактировать или улучшить это. Сперо считает, что помощь AI может быть приемлемой, при условии, что автор раскрывает использование ИИ.
Появление Pangram происходит в то время, когда использование ИИ становится все более распространенным. В некоторых случаях, как канадский политик, случайно зачитавший вслух AI-промпт во время речи перед законодателями, ошибки приводят к насмешкам. В других случаях, как с некоторыми юристами, использующими в суде поддельные цитаты, созданные ChatGPT, последствия могут быть санкциями и штрафами.
Эта негативная реакция обходится не только в смущение или санкции для отдельных лиц — она начинает проявляться и в институциональных правилах.
Архив открытого доступа arXiv в этом году ввел новую политику принудительного исполнения, согласно которой материалы, содержащие доказательства того, что авторы не проверили вывод LLM (например, галлюцинаторные ссылки или мета-комментарии вроде «Не хотите ли вы внести какие-либо изменения?»), могут привести к годичному запрету на подачу.
Pangram — не единственный, кто делает ставку на то, что обнаружение AI станет более востребованным. Конкуренты, такие как Winston AI, Originality.ai, Copyleaks и GPTZero, стремятся удовлетворить тот же спрос, каждый создавая свой собственный детектор.
Технология Pangram, хоть и не идеальная, может помочь подпитывать сопротивление принятию AI-сгенерированного контента, наводняющего интернет, залы судов и академические работы.
Пользователи могут получить доступ к Pangram через подписку за 20 долларов в месяц в вебе или загрузить расширение для Chrome, которое автоматически маркирует посты в реальном времени на X, LinkedIn, Substack, Reddit и Medium. Оно также предоставляет оценку здоровья ленты с процентным соотношением человеческого и AI-контента на вашем экране.
Pangram также предлагает свою технологию через API. Примечательно, что Substack недавно интегрировал технологию Pangram в свою платформу, чтобы показывать читателям, какие из их любимых авторов пишут свои рассылки с помощью ИИ. Другие клиенты API включают Quora, школы и университеты, издателей и агентов, а также рекрутеров, по словам Сперо.
Работает ли Pangram?
Сперо сказал, что примерно один из 10 000 человеческих документов ошибочно маркируется моделью Pangram как AI, поэтому я решил проверить это. Модель обнаружения текста была очень впечатляющей, но не идеальной. Она легко помечала полностью AI-сгенерированные новостные статьи, написанные как ChatGPT, так и Claude, и редко обманывалась моими попытками отредактировать AI-текст, чтобы он звучал более по-человечески. В то же время Pangram помечал предложения, которые я полностью переписал, как написанные ИИ. Pangram также ни разу не обманулся моими попытками заставить ChatGPT и Claude избегать AI-детекторов при генерации контента.
Я также дал ChatGPT и Claude одну из моих собственных статей и попросил их отшлифовать ее. Pangram присвоил ей 13% балла помощи AI, что, вероятно, было близко к истине, но модель смогла обнаружить тонкие изменения в выборе слов в некоторых предложениях и проигнорировала их в других. Она также пометила некоторые предложения как созданные с помощью AI, хотя они были написаны человеком. Это было заметно, потому что, когда я дал Pangram ту же самую статью целиком, как я ее написал, она получила 100% человеческий балл.
Возможно, проблема была в том, что новостные статьи могут быть немного сухими и легко звучать как AI. Поэтому я попробовал другую тактику. Я протестировал Pangram на своем собственном более голосистом, личном контенте рассылки Substack, вставив первую половину текста в Pangram, а затем попросив ChatGPT и Claude скопировать мой стиль и написать вторую половину. По большей части Pangram легко обнаруживал текст, написанный человеком, в отличие от текста, написанного ИИ.
Мое ограниченное тестирование новой модели обнаружения изображений Pangram оказалось столь же впечатляющим.
Система обнаружения AI-изображений Pangram обещает обнаруживать AI-сгенерированные изображения в разных AI-моделях, в отличие от проверок на основе водяных знаков OpenAI или Google DeepMind, которые в основном обнаруживают только свой собственный вывод. Она работает на уровне распределения пикселей, изучая тонкие статистические различия между реальными фотографиями и AI-сгенерированными изображениями. Сперо говорит, что модель может даже обнаружить AI-изображение, которое появляется внутри реальной фотографии.
В моем тестировании модель легко обнаруживала AI-сгенерированные изображения, будь то фотореалистичные или мультяшные. Я также могу подтвердить, что модель могла обнаружить AI-изображение, появляющееся на реальной фотографии — тепловая карта, которую предоставляет Pangram, четко подсвечивалась над изображением — хотя в одном случае она ошибочно пометила фотографию AI-сгенерированного изображения как человеческий контент.
Сперо говорит, что не хочет, чтобы его технология разжигала охоту на ведьм против людей, использующих ИИ для письма, но что должен быть какой-то механизм для противодействия мусору.
«Будущее, которое я вижу, — это то, что AI-контент будет продолжать распространяться», — сказал Сперо. «Мы получаем новые GPU быстрее, чем рождаются новые люди. Если мы активно не будем отдавать предпочтение человеческому контенту, то мы будем видеть все больше и больше AI, и он просто заглушит любой человеческий сигнал, который у нас есть».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
