Жительница округа Ли, штат Флорида, была арестована по обвинению в тяжком преступлении после того, как в правоохранительные органы поступило сообщение об угрозе, связанной с разговором в чат-боте Anthropic Claude, или «дневником», по ее учетной записи, сообщает WINK News. В отчете об аресте содержится заявление от 26 сентября от пользователя, идентифицированного как «Карли», в котором она заявила, что «устроит стрельбу» в офисе шерифа округа Ли (LCSO), а на следующий день якобы было упомянуто новое ружье. Этот разговор стал как минимум третьим подобным случаем, дошедшим до полиции с августа.
Anthropic отслеживает чаты на наличие ключевых фраз и контента, который может быть сочтен угрожающим, говорится в отчете об аресте, и в зависимости от серьезности, они могут быть переданы для проверки человеком. В данном случае команда решила сообщить о своих выводах правоохранительным органам. Женщина из Бонита-Спрингс была задержана дома без происшествий, и детектив по разведке LCSO взял дело под свой контроль. Отчет об аресте еще не внесен в судебное дело, но наша собственная проверка показывает, что в судебных записях от 30 сентября указано обвинение в тяжком преступлении по статье 836.10 законодательства Флориды: письменная или электронная угроза массового расстрела или акта терроризма.
В настоящее время нет никаких комментариев от Anthropic по данному делу. Публичная политика конфиденциальности Anthropic, вступившая в силу 10 сентября, гласит, что раскрытие информации правоохранительным органам может произойти, если компания добросовестно полагает, что «раскрытие информации разумно необходимо для… предотвращения серьезного вреда любому лицу или имуществу». В отчете о запросах от государственных органов за вторую половину 2025 года используется более узкий стандарт для экстренных раскрытий — «опасность смерти или серьезной физической травмы для человека», и в нем указано ноль экстренных запросов от правоохранительных органов за этот период, хотя он не учитывает обращения, которые Anthropic делает самостоятельно.
Как было зарегистрировано, обвинение указано как «УГРОЗА-ТЕРРОРИСТИЧЕСКАЯ-ГОСУДАРСТВЕННЫЕ ПРЕСТУПЛЕНИЯ-ПИСЬМЕННАЯ/ЭЛЕКТРОННАЯ УГРОЗА МАССОВОГО РАССТРЕЛА/АКТА ТЕРРОРИЗМА», что охватывает половину статьи, касающуюся массовых расстрелов/терроризма. Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, которым ее может увидеть другое лицо». Сообщения, найденные командой проверки Anthropic, включая упоминание нового ружья на следующий день, вероятно, являются подтверждающими доказательствами для ареста и предъявления обвинения. В реестре не указан адвокат, и на момент предъявления обвинения был назначен государственный защитник.
Этот инцидент следует за серией недавних случаев, связанных с использованием чат-ботов от Anthropic и конкурента OpenAI. Один инцидент в Сан-Антонио связан с запросами от 11 августа в «чат Anthropic AI» о стрельбе в близлежащей начальной школе. Полиция, предупрежденная ФБР, арестовала 22-летнего мужчину по обвинению в террористической угрозе. Через несколько дней в Сан-Франциско пользователь угрожал генеральному директору Anthropic Дарио Амодеи в чате Claude 14 августа, заявив, что купил AR-15. Anthropic уведомил полицию, но в итоге пользователь не был арестован или обвинен. Оба случая были подробно описаны в региональных новостных сообщениях.
OpenAI также столкнулась с аналогичными проблемами во Флориде из-за сообщения в марте своему чат-боту ChatGPT, где пользователь Даррен Чжоу говорил об убийстве своей бывшей девушки, и OpenAI сообщил о нем в ФБР, по данным Palm Beach Post. Чжоу признал себя виновным в августе по обвинениям, включая письменные угрозы убийством, по той же статье 836.10, и был приговорен к восьми годам испытательного срока.
Генеральный прокурор Флориды также подал иск против компании в июне, ссылаясь на стрельбу во Флоридском государственном университете в 2025 году, а в прошлом месяце попросил судью вынести временный запрет. OpenAI также был привлечен к суду Британской Колумбией в прошлом месяце за то, что не предупредил полицию о стрелке из Тамблер-Риджа, чей аккаунт ChatGPT, как утверждается в иске, был идентифицирован за восемь месяцев до нападения. Эти и другие инциденты демонстрируют тенденцию, когда компании, занимающиеся ИИ, должны соблюдать конфиденциальность, но в то же время несут ответственность, когда они не сообщают об угрозах правоохранительным органам.
Усиливающееся внимание как к вопросам конфиденциальности, так и к вопросам безопасности, связанным с продуктами ИИ, привело к призывам к осторожности со стороны экспертов, таких как Криссанн Рюле из Университета Южной Флориды, которая беседовала с WINK News. Это происходит на фоне требований более строгих, независимо утвержденных руководящих принципов, подобных тем, которые запросил генеральный прокурор Флориды.
Для пользователей это напоминание о том, что то, чем вы делитесь со своим любимым ИИ-компаньоном, «никогда не является по-настоящему анонимным», как сказал шериф округа Ли Кармин Марсено WINK News. Отмеченный разговор может служить «дневником» для проверяющих лиц, и это может привести к неприятностям, как обнаружила женщина, идентифицированная как «Карли». Более подробная информация по делу должна быть доступна после первого слушания 2 ноября.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Shane Downing
