Поскольку интернет наводняет контент, созданный ИИ, лишь вопрос времени, когда он начнет просачиваться в почтовые ящики всех пользователей. Pangram теперь стремится сделать эти электронные письма, сгенерированные ИИ, более заметными.
Популярная платформа для обнаружения ИИ, известная своей способностью выявлять тексты и изображения, созданные искусственным интеллектом, в среду запустила новую интеграцию, которая может сканировать входящие сообщения Gmail и маркировать их в зависимости от того, какая часть текста, по-видимому, была написана ИИ.
После подключения пользователями своей учетной записи Gmail Pangram проверяет новые сообщения и по умолчанию маркирует любое помеченное письмо как «ИИ» или «Смешанное». Пользователи также могут включить метки для писем, написанных людьми.
«Новые сообщения проверяются и маркируются по мере их поступления. Приостановка интеграции прекратит новые сканирования. Существующие метки останутся в Gmail», — написала компания на своем веб-сайте.
Пользователи могут исключить определенных отправителей из сканирования. Панель управления также отслеживает, как Pangram маркировал входящую почту за последние 24 часа, семь дней или 30 дней.
«Я использую маркировщик почты Pangram для Gmail уже около двух месяцев. Было очень важно иметь возможность видеть холодные письма, помеченные как ИИ, и использовать эту информацию для определения того, как я хочу взаимодействовать», — написал соучредитель и генеральный директор Pangram Макс Сперо в среду в своем посте в X.
Сперо отметил, что из-за конфиденциального характера данных электронной почты также велись значительные внутренние обсуждения по поводу конфиденциальности. В конечном итоге компания пришла к политике нулевого хранения данных, что означает, что компания не хранит никаких данных электронной почты после их обработки и не использует их для обучения.
Кроме того, на веб-сайте Pangram указано, что их детектор не получает информации об отправителе, получателе, теме письма или других метаданных.
Сперо также подчеркнул важность предоставления пользователям контроля над тем, что происходит после того, как электронное письмо помечено. Его текущее личное предпочтение заключается в том, чтобы инструмент просто маркировал письма, сгенерированные ИИ, оставляя их во входящих, хотя он отметил, что это может измениться в будущем, «если количество писем от ИИ возрастет».
В результате пользователи могут выбрать автоматическое архивирование писем, помеченных как ИИ, или отправку их прямо в спам.
Однако это сопряжено с определенным риском. Детекторы ИИ становятся лучше, но ложные срабатывания по-прежнему возможны.
Pangram утверждает, что его детектор может идентифицировать тексты, сгенерированные ИИ, с точностью 99,98%, а независимое исследование, сравнившее несколько инструментов обнаружения ИИ, признало Pangram наиболее эффективным.
Тем не менее, Сперо недавно сообщил Gizmodo, что инструменты обнаружения ИИ всегда будут вынуждены догонять все более мощные генеративные модели ИИ.
«Я не думаю, что мы когда-нибудь достигнем стопроцентной точности», — сказал Сперо. Вместо этого все, что может сделать компания, — это «накопить больше уверенности, используя больше данных».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil
