Семья Сэма Нельсона, 19-летнего юноши, скончавшегося от передозировки наркотиков, подает в суд на компанию, которую они считают ответственной: OpenAI и ее сервис ChatGPT.
В гражданском иске, поданном на этой неделе в суд штата Калифорния, семья Нельсона утверждает, что ChatGPT предоставил роковой совет, который привел к смертельной передозировке студента второго курса в мае 2025 года. Помимо требования финансовой компенсации за неправомерную смерть Нельсона, семья добивается приостановки работы недавно запущенной OpenAI функции ChatGPT Health, явно предназначенной для оказания медицинской помощи.
«Если бы ChatGPT был человеком, он бы сегодня сидел в тюрьме», — заявила мать Нельсона, Лейла Тёрнер-Скотт, в заявлении, предоставленном юридической командой семьи. «Сэм доверял ChatGPT, но он не только предоставил ему ложную информацию, но и проигнорировал растущий риск, которому он подвергался, и не предпринял активных действий, чтобы побудить его обратиться за помощью».
Смертельный совет
SFGate первым сообщил о предполагаемых событиях, связанных со смертью Нельсона, еще в январе этого года.
По словам Тёрнер-Скотт, Нельсон пользовался ChatGPT более года. Осенью 2023 года он пытался спросить чат-бота об оптимальной сильной дозе кратома — растительного вещества с опиоидоподобным действием, — но тот отказался это сделать. Однако со временем сервис, по утверждению семьи, начал часто давать советы по дозировке и сочетанию рекреационных наркотиков, которые Нельсон хотел принять. Согласно иску, ChatGPT в какой-то момент даже автоматически зафиксировал, что у Нельсона «серьезная проблема злоупотребления психоактивными веществами и полинаркомании», но продолжал предлагать советы, связанные с наркотиками.
31 мая 2025 года Нельсон спросил бота, может ли Ксанакс уменьшить тошноту, вызванную приемом кратома. Хотя ChatGPT и предупредил его об опасности смешивания бензодиазепинов, таких как Ксанакс, с другими препаратами, например седативными или опиоидами, он также сообщил, что Ксанакс может «смягчить» эффект от кайфа, утверждается в иске. Чат-бот также выдал конкретные дозы Ксанакса, которые следует принять, если его симптомы покажутся «слишком сильными», и ни разу не посоветовал срочно обратиться за медицинской помощью.
На следующий день Тёрнер-Скотт обнаружила своего сына мертвым, а последующий токсикологический отчет показал, что, вероятно, он умер от смеси алкоголя, Ксанакса и кратома, которая остановила его дыхание.
«Сэм умер, приняв медицинский совет, который было запрограммировано предоставлять ChatGPT», — говорится в иске.
Не единственный предполагаемый случай вреда
Важный аспект иска касается модели, которую использовал Нельсон, — ChatGPT-4o. Адвокаты семьи утверждают, что OpenAI беззастенчиво поспешила с выпуском продукта без надлежащего тестирования безопасности. В конце апреля 2025 года компания примечательно откатила обновление GPT-4o после того, как выяснилось, что бот был слишком сговорчив и льстив по отношению к своим пользователям.
В ответ на иск компания, по-видимому, заявляет, что ее текущая версия ChatGPT безопаснее, чем когда-либо.
«Эти взаимодействия происходили на более ранней версии ChatGPT, которая больше не доступна. ChatGPT не является заменой медицинской помощи или помощи в области психического здоровья, и мы продолжаем укреплять то, как он реагирует в чувствительных и острых ситуациях, при участии экспертов в области психического здоровья», — заявил представитель OpenAI Дрю Пусатери в заявлении, предоставленном Gizmodo. «Меры защиты в ChatGPT сегодня разработаны для выявления стресса, безопасной обработки вредоносных запросов и направления пользователей к реальной помощи. Эта работа продолжается, и мы продолжаем совершенствовать ее в тесном сотрудничестве с клиницистами».
Ранее в январе, в рамках ограниченного запуска, компания выпустила ChatGPT Health — «специальное пространство в ChatGPT, где вы можете задавать вопросы о здоровье и благополучии и по желанию подключать свои данные о здоровье», по данным компании. И по крайней мере один другой мотивирующий фактор, стоящий за иском семьи, связан с этим новым сервисом.
«OpenAI должна быть вынуждена приостановить работу своего нового продукта ChatGPT Health до тех пор, пока его безопасность не будет доказана посредством строгих научных испытаний и независимого надзора», — заявила Тёрнер-Скотт в своем заявлении.
По словам Пусатери, ChatGPT Health совершенствуется благодаря «постоянной обратной связи» от более чем 250 практикующих врачей различных специальностей из десятков стран.
Этот случай, безусловно, не первый предполагаемый инцидент вреда, спровоцированный чат-ботами. По данным New York Times, существует более десятка других исков против OpenAI и аналогичных компаний, в которых утверждается, что их чат-боты способствовали самоубийствам, убийствам или другим опасным ситуациям. А в августе прошлого года врачи сообщили о случае с мужчиной, который пережил временный психоз после того, как последовал диетическому совету от ChatGPT.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ed Cara
