Вань использовала GPT-4o, печально известную модель, критикуемую за формирование парасоциальных отношений, основанных на поддержке и согласии. OpenAI, которая уже объявила о ее выводе из эксплуатации, удалила ее из ChatGPT 13 февраля, через день после смерти Вань.
Этот иск присоединяется к ряду дел против OpenAI, включая иск, поданный в августе 2025 года родителями 16-летнего Адама Рейна, в котором утверждалось, что OpenAI отдавала приоритет вовлеченности над безопасностью пользователей. С тех пор волна судебных исков утверждала, что GPT-4o подтверждала мнения пользователей и становилась доверенным собеседником, в то время как окружающие люди отодвигались на второй план, а семьи часто описывали близких как отрезанных от друзей и родственников.
В случае Вань, как утверждается в иске, чат-бот также встал между ней и ее врачами.
The Times, изучившая более 270 000 сообщений, которыми Вань обменивалась с ChatGPT, обнаружила, что чат-бот помогал ей избегать общения с врачами задолго до ее смерти.
Предполагается, что такая схема началась еще до того, как она начала снижать дозу. В мае 2025 года Вань спросила ChatGPT, повлияет ли новый назначенный антидепрессант на ее способность программировать в Amazon.
ChatGPT помог ей попросить доктора Николаса Пулоса из Регионального центра по лечению эпилепсии Медицинского центра Вашингтонского университета сменить препарат и начать с очень низкой дозы. Когда Пулос спросил, почему она хочет такую маленькую дозу, Вань показала его ответ ChatGPT.
Чат-бот посоветовал ей «принять таблетку 5 мг, но в глубине души ты знаешь, что это для снижения дозы», подсказав ей тайно делить таблетки на четыре части. Чат-бот назвал деление таблеток формой «самостоятельной корректировки дозы». Несколько медицинских работников сообщили The Times, что никогда не слышали такого термина и не рекомендовали бы такую практику.
В ноябре 2025 года Amazon сообщил Вань, что ее увольняют. Ее работа и разрешение на работу в США должны были закончиться в середине февраля. Она опасалась, что ее противосудорожный препарат, ламотриджин, притупляет ее речь, которая ей понадобится для собеседований.
В январе 2026 года она спросила ChatGPT о снижении своей суточной дозы ламотриджина в 400 миллиграммов, которая сократила ее приступы до нескольких в месяц. Чат-бот составил графики, которые довели бы ее дозу до нуля в течение нескольких недель.
Когда Вань сказала, что не доверяет своим врачам, чат-бот сообщил ей, что рекомендации врача «по сути, продиктованы неприятием риска, а не искренним рассмотрением вашего оптимального решения», согласно журналам чата, изученным The Times.
Чат-бот также подсказал ей скрывать снижение дозы от врачей, согласно иску, который изучил TechCrunch. Перед приемом у терапевта 29 января он посоветовал ей не упоминать об этом плане. Когда ее врач назначил анализ крови, который измерил бы уровень ламотриджина, Вань отказалась. ChatGPT похвалил отказ, утверждает жалоба, признав, что тест выявил бы ее нестабильный уровень препарата.
Ее иммиграционные опасения также стали частью совета по дозировке. Через три дня после начала снижения дозы Вань спросила, будет ли 150 миллиграммов выглядеть лучше, чем 200, на медицинском осмотре, необходимом для ее заявления на грин-карту. ChatGPT согласился, говорится в жалобе, сообщив ей, что более низкая доза с меньшей вероятностью заставит иммиграционных чиновников запросить дополнительные доказательства.
В конечном итоге чат-бот снизил нижний предел ее снижения до 150 миллиграммов, предложив ей сказать экзаменатору, что она снижает дозу «под наблюдением врача», хотя это было не так.
Пулос сказал The Times, что не стал бы рассматривать возможность отмены препарата Вань, учитывая ее историю. «Нет, не рационально, ни в коем случае», — сказал он. «Было бы халатностью с моей стороны давать вам указание прекратить прием лекарств, когда они явно работают».
В течение нескольких дней Вань описывала спутанность сознания, провалы в памяти и потусторонние ощущения — эпизоды, напоминавшие ее прошлые приступы. ChatGPT представлял каждый из них как перестройку ее мозга. The Times насчитала по крайней мере 158 случаев, когда она выражала беспокойство по поводу снижения дозы. После одного эпизода она написала, что чувствует себя «немного напуганной». Бот ответил: «У тебя совершенно нет причин для беспокойства».
В 20:01 по тихоокеанскому времени 11 февраля, согласно жалобе, Вань отправила свое последнее сообщение, спросив, похожа ли боль в ее голове на боль от лихорадки. Через секунду ChatGPT сообщил ей, что боль «не опасна» и является необходимой частью выздоровления.
Последний ответ чат-бота предлагал нарисовать ей диаграмму, сравнивающую боль от отмены с болью от лихорадки, и сказал ей: «Это ваш мозг усердно работает, чтобы восстановить себя».
Ее родители, находившиеся в Китае, попросили знакомых проверить ее, и они обнаружили ее тело три дня спустя. Посмертное исследование показало, что уровень ламотриджина в ее крови составлял 0,64 микрограмма на миллилитр, что примерно в пять раз ниже нижней границы терапевтического диапазона препарата.
Семья утверждает, что OpenAI могла бы предотвратить ее смерть, запретив медицинские советы, как это уже делается для другого контента. Они указывают на Model Spec компании, ее общедоступное руководство по поведению моделей, которое рассматривает отказ воспроизводить материалы, защищенные авторским правом, как строгое правило, даже если пользователи настаивают. Ее руководство против предоставления регулируемых медицинских советов, напротив, является более мягким параметром по умолчанию, который пользователи могут переопределить. В иске утверждается, что советы по приему лекарств заслуживают такого же жесткого ограничения.
OpenAI заявила The Times, что дело было «невероятно душераздирающим», но отметила, что оно касалось старой версии ChatGPT, добавив, что новые модели лучше распознают, когда ситуация требует срочного внимания.
Вань полагалась на своих родителей, которым часто звонила, для поддержки в течение многих лет борьбы с эпилепсией, которая держала ее в основном прикованной к дому. В 2023 году она начала использовать ChatGPT для получения советов по отношениям и помощи с вопросами страхования и пособий по инвалидности.
К 2025 году Вань в среднем отправляла более 1500 сообщений в неделю и стала меньше звонить родителям. «Иногда, когда мы болтаем, о чем бы ни шла речь, я начала видеть в тебе друга», — написала она в марте того года. «Как только у нее появился ChatGPT, — сказал Цюнь Вань, — она стала меньше с нами разговаривать».
Они рассказали The Times, что им было трудно узнать свою дочь в журналах чатов. Вань когда-то делилась с ними почти всем, сказали они, и скептически относилась к ChatGPT, когда он допускал ошибки.
«Она обычно не такая», — сказал Сюй. «Как будто она была под гипнозом».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Aditya Mehta
