18-летняя девушка, которая, предположительно, совершила массовое убийство восьми человек в Тумблер-Ридж, Канада, по сообщениям, использовала ChatGPT от OpenAI способами, которые вызвали беспокойство у сотрудников компании.
Чаты Джесси Ван Рутселаар, описывающие оружейное насилие, были отмечены инструментами, отслеживающими злоупотребление LLM компании, и заблокированы в июне 2025 года.
Сотрудники компании обсуждали, стоит ли обращаться в правоохранительные органы Канады по поводу такого поведения, но в итоге не стали этого делать, согласно The Wall Street Journal. Представитель OpenAI заявил, что деятельность Ван Рутселаар не соответствовала критериям для сообщения правоохранительным органам; компания связалась с канадскими властями после инцидента.
Транскрипты ChatGPT были не единственной вызывающей беспокойство частью цифрового следа Ван Рутселаар. Она, по-видимому, создала игру на Roblox, платформе симуляции мира, популярной среди детей, которая имитировала массовое расстрел в торговом центре. Она также публиковала сообщения об оружии на Reddit.
Нестабильность Ван Рутселаар была также известна местной полиции, которую вызывали в дом ее семьи после того, как она устроила пожар под воздействием неуказанных наркотиков.
LLM-чатботы, разработанные OpenAI и ее конкурентами, обвиняются в провоцировании нервных срывов у пользователей, которые теряют связь с реальностью во время разговоров с цифровыми моделями. Многочисленныеискибыли поданы, ссылаясь на транскрипты чатов, побуждающие людей к самоубийству или предлагающие помощь в этом.
Если вы находитесь в кризисной ситуации или у вас есть мысли о самоубийстве, позвоните или отправьте SMS на номер 988, чтобы связаться с Линией помощи по предотвращению самоубийств и кризисных состояний 988.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
