Похоже, Клод — ненадежный доверенный собеседник. Согласно сообщению Gulf Coast Now, жительница Флориды была арестована в прошлом месяце за предполагаемые угрозы в адрес местных правоохранительных органов в разговоре с чат-ботом Anthropic.
Как сообщает издание со ссылкой на отчет об аресте, 30-летняя женщина из Бонита-Спрингс, Флорида, вела конфиденциальный разговор с Клодом, в ходе которого она неоднократно угрожала офису шерифа округа Ли. Первая угроза, зарегистрированная 26 сентября в 5:10 утра, гласила: «Я собираюсь устроить стрельбу в офисе шерифа прямо сейчас». В последующем сообщении, отправленном 27 сентября в 1:07 ночи, она написала: «Это 100% последний шанс, я закончила. Я сегодня купила новую чертову пушку. Пошли вы».
Отложим в сторону любые споры о серьезности этой угрозы или о том, какую поддержку может нуждаться человек, выражающий подобные насильственные, асоциальные поведенческие модели — это серьезные дискуссии, заслуживающие вдумчивого рассмотрения. Вместо этого, можем ли мы на мгновение задуматься о том, насколько мрачно-смешно ждать отправки следующего угрожающего сообщения, потому что вы достигли дневного лимита токенов?
Итак, с этим разобрались: согласно отчету, сообщения, отправленные женщиной, были обнаружены автоматизированной системой мониторинга безопасности Anthropic, которая уведомляет сотрудников службы поддержки, когда сообщение достигает определенного порога риска. Сотрудники, как сообщается, просмотрели эти сообщения и решили, что они достаточно серьезны, чтобы уведомить правоохранительные органы, что они и сделали.
Anthropic не сразу ответила на запрос о комментарии, отправленный Gizmodo.
Как только власти были уведомлены о сообщениях, они немедленно арестовали женщину по месту ее жительства. Сообщается, что она была задержана без инцидентов и обвинена в письменных угрозах насилия, что является преступлением второй степени во Флориде и предусматривает наказание до 15 лет тюремного заключения и штраф до 10 000 долларов.
После ее ареста шериф округа Ли Кармин Марсено сообщил WINK News, что женщина объяснила правоохранительным органам, что использует Клода как «дневник». Но Клод, очевидно, не функционирует так же конфиденциально, как она к нему относилась. Согласно справочным документам Anthropic, компания «не раскрывает информацию о клиентах или конечных пользователях наших услуг в ответ на запросы правительства, кроме как в соответствии с надлежащей юридической процедурой», но у нее есть исключение: «если мы считаем, что существует чрезвычайная ситуация, которая может привести к неминуемому физическому вреду или смерти, и предоставление такой информации без промедления может предотвратить эту чрезвычайную ситуацию». Похоже, эта ситуация достигла такого уровня в глазах Anthropic.
Этот случай — хорошее напоминание тем, кто может относиться к чат-ботам как к терапевту или личному дневнику своих мыслей: вы не просто печатаете в пустоту. То, что вы говорите, может быть использовано не только для обучения модели, но и, при определенных обстоятельствах, может быть передано правоохранительным органам без вашего согласия.
Так что, если у вас есть какая-то в конечном итоге бессильная ярость, которую вам нужно выплеснуть, сначала обратитесь к реальным ресурсам, которые могут помочь, а не к чат-боту, который гораздо больше подходит на роль стенографиста, чем психиатра. А если вам нужна немедленная разрядка, попробуйте кричать в подушку. Только убедитесь, что рядом нет Alexa.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
