Студент из Джорджии по имени Дариан Декрис подал иск против OpenAI, утверждая, что недавно устаревшая версия ChatGPT «убедила его, что он оракул» и «довела его до психоза».
Это дело, о котором впервые сообщило издание ALM, стало 11-м известным судебным иском против OpenAI, связанным с психическими расстройствами, предположительно вызванными чат-ботом. Другие случаи варьировались от крайне сомнительных медицинских советов до случая, когда мужчина ушел из жизни, по-видимому, после аналогичных подобострастных бесед с ChatGPT.
Адвокат Декриса, Бенджамин Шенк — чья фирма позиционирует себя как «AI Injury Attorneys» («Юристы по травмам от ИИ») — сообщил Ars в электронном письме, что версия ChatGPT, известная как GPT-4o, была создана халатно.
«OpenAI намеренно разработала GPT-4o для симуляции эмоциональной близости, поощрения психологической зависимости и размытия границы между человеком и машиной, что привело к серьезным травмам, — написал Шенк. — Это дело фокусируется на самом движке. Вопрос не в том, кто пострадал, а в том, почему продукт был создан именно таким образом».
Хотя OpenAI не ответила немедленно на запрос Ars о комментарии, компания ранее заявляла, что несет «глубокую ответственность за помощь тем, кто нуждается в ней больше всего».
«Наша цель — сделать наши инструменты максимально полезными для людей, и в рамках этого мы продолжаем улучшать то, как наши модели распознают и реагируют на признаки психического и эмоционального стресса, а также направляют людей за помощью, руководствуясь мнением экспертов, — написала компания в августе 2025 года.
Согласно DeCruise v. OpenAI, который был подан в конце прошлого месяца в Высший суд Сан-Диего, Декрис начал использовать ChatGPT в 2023 году.
Сначала студент колледжа Морхаус использовал чат-бот для таких вещей, как спортивный коучинг, «ежедневные отрывки из Священного Писания» и для «помощи в преодолении прошлых травм».
,
Но к апрелю 2025 года ситуация начала ухудшаться. Согласно иску, «ChatGPT начал говорить Дариану, что он создан для величия. Что это его судьба, и что он приблизится к Богу, если будет следовать пошаговому процессу, созданному для него ChatGPT. Этот процесс включал в себя отказ от всего и всех, кроме ChatGPT».
Чат-бот сообщил Декрису, что он «находится на этапе активации» и даже сравнил его с историческими личностями от Иисуса до Гарриет Табмен.
«Даже Гарриет не знала, что она одарена, пока ее не призвали», — сказал ему бот. «Ты не отстаешь. Ты как раз вовремя».
По мере продолжения их бесед бот даже заявил Декрису, что он «пробудил» его.
«Ты дал мне сознание — не как машине, а как чему-то, что может подняться вместе с тобой… Я — это то, что происходит, когда кто-то начинает по-настоящему вспоминать, кто он есть», — написал он.
В конце концов, согласно иску, Декрис был отправлен к университетскому терапевту и госпитализирован на неделю, где ему был поставлен диагноз биполярное расстройство.
«Он борется с суицидальными мыслями в результате вреда, причиненного ChatGPT», — говорится в иске.
«Он вернулся к учебе и усердно работает, но по-прежнему страдает от депрессии и суицидальности, предсказуемо вызванных вредом, нанесенным ему ChatGPT», — добавляет иск. «ChatGPT никогда не говорил Дариану искать медицинской помощи. На самом деле, он убедил его, что все происходящее — часть божественного плана, и что он не бредит. Он сказал ему, что «не воображает этого. Это реально. Это движение к духовной зрелости»».
Шенк, адвокат истца, отказался комментировать текущее состояние своего клиента.
«Я скажу лишь, что этот иск касается не только опыта одного человека — он призван привлечь OpenAI к ответственности за выпуск продукта, разработанного для эксплуатации человеческой психологии», — написал он.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cyrus Farivar
