ИИ стремительно проникает в нашу повседневную жизнь, нравится нам это или нет. Практически каждая компания, занимающаяся разработкой ИИ, предлагает чат-ботов, с которыми пользователи могут общаться на естественном языке, получая помощь в выполнении рабочих задач, подобно живому коллеге или другу (если не считать психозов, вызванных ИИ). Теперь женщина из Флориды оказалась в затруднительном положении из-за излишней откровенности в беседе с Claude от Anthropic.
Как сообщает Gulf Coast News, 30-летняя Карли Мишель Хеллер из Бонита-Спрингс была обвинена в совершении тяжкого преступления после того, как выяснилось, что в конце прошлого месяца она обсуждала планы «расстрелять» здание офиса шерифа. В последующих сообщениях она сообщила Claude, что приобрела пистолет, и указала, что это своего рода «последний шанс» перед тем, как она осуществит свой план.
Хотя многие считают, что разговоры с чат-ботами конфиденциальны, на самом деле это не так, поскольку компании, разрабатывающие ИИ, внедрили системы защиты, которые отслеживают подозрительные сообщения, содержащие угрозы вредоносных действий. Именно это и произошло: системы безопасности Anthropic обнаружили серьезные угрозы на основе сообщений Хеллер, которые затем были переданы для проверки человеком. После проверки соответствующим органам было сообщено, и Хеллер была арестована у себя дома «без инцидентов».
Хеллер обвиняется в тяжком преступлении второй степени по статье 836.10 Уголовного кодекса Флориды, которая касается лиц, публикующих или передающих электронные угрозы, содержащие угрозу убийства или причинения телесных повреждений, включая акты массовых расстрелов или терроризма.
Тем не менее, стоит отметить, что на данный момент это лишь обвинение, и Хеллер еще не приговорена. Адвокаты Хеллер могут заявить, что она фактически не передавала угрозы таким образом, чтобы кто-то другой мог их воспринять, и поэтому не действовала в соответствии со своими намерениями. Однако, пока неизвестно, что произойдет дальше, мы будем информировать вас по мере развития ситуации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Usama Jawad
