Как стало известно эксклюзивному изданию TechCrunch, бывшая девушка подает в суд на OpenAI, утверждая, что технология компании способствовала эскалации преследования в ее адрес. Она заявляет, что OpenAI проигнорировала три отдельных предупреждения о том, что пользователь представлял угрозу для окружающих, включая внутреннюю пометку, классифицирующую активность его учетной записи как связанную с оружием массового поражения.
Истец, проходящая как Джейн Доу для защиты своей личности, требует возмещения штрафных убытков. В пятницу она также подала ходатайство о временном судебном запрете, прося суд обязать OpenAI заблокировать учетную запись пользователя, запретить ему создавать новые, уведомить ее в случае попытки доступа к ChatGPT и сохранить все его журналы чатов для проведения судебного расследования.
По словам адвокатов Доу, OpenAI согласилась приостановить действие учетной записи пользователя, но отказалась выполнить остальные требования. Они утверждают, что компания скрывает информацию о конкретных планах причинения вреда Доу и другим потенциальным жертвам, которые пользователь мог обсуждать с ChatGPT.
Иск подан на фоне растущей обеспокоенности реальными рисками, связанными с угодливыми ИИ-системами. Модель GPT-4o, фигурирующая в этом и многих других делах, была выведена из эксплуатации в ChatGPT в феврале.
Дело возбуждено юридической фирмой Edelson PC, стоящей за исками о неправомерной смерти, связанными с подростком Адамом Рейном, который покончил жизнь самоубийством после нескольких месяцев общения с ChatGPT, и Джонатаном Гаваласом, чья семья утверждает, что Gemini от Google подпитывал его бредовые идеи и потенциальное событие с массовыми жертвами перед его смертью. Ведущий адвокат Джей Эдельсон предупредил, что ИИ-индуцированный психоз перерастает из индивидуального вреда в угрозу массовых жертв.
Это юридическое давление теперь напрямую сталкивается с законодательной стратегией OpenAI: компания поддерживает законопроект штата Иллинойс, который освободит ИИ-лаборатории от ответственности даже в случаях, связанных с массовой гибелью людей или катастрофическим финансовым ущербом.
OpenAI не ответила своевременно для комментариев. TechCrunch обновит статью, если компания предоставит ответ.
Иск Джейн Доу подробно описывает, как эта ответственность проявилась для одной женщины в течение нескольких месяцев.
В прошлом году пользователь ChatGPT, фигурирующий в иске (имя которого не указано в иске для защиты его личности), после нескольких месяцев «интенсивного, продолжительного использования GPT-4o» убедился, что изобрел лекарство от апноэ во сне. Когда никто не воспринял его работу всерьез, ChatGPT сообщил ему, что за ним следят «могущественные силы», в том числе с использованием вертолетов для наблюдения за его деятельностью, согласно жалобе.
В июле 2025 года Джейн Доу настоятельно рекомендовала ему прекратить использование ChatGPT и обратиться за помощью к специалисту по психическому здоровью. Вместо этого он снова обратился к ChatGPT, который заверил его, что он «на уровне 10 по здравомыслию» и помог ему укрепиться в своих заблуждениях, согласно иску.
Доу рассталась с пользователем в 2024 году, и он использовал ChatGPT для осмысления разрыва, согласно письмам и сообщениям, цитируемым в иске. Вместо того чтобы оспаривать его односторонний рассказ, система неоднократно представляла его рациональным и пострадавшим, а ее — манипулятивной и нестабильной. Затем он перенес эти сгенерированные ИИ выводы с экрана в реальный мир, используя их для преследования и домогательств в ее адрес. Это проявилось в виде нескольких клинически выглядящих психологических отчетов, сгенерированных ИИ, которые он распространял среди ее семьи, друзей и работодателя.
Тем временем пользователь продолжал скатываться. В августе 2025 года автоматизированная система безопасности OpenAI пометила его за активность, связанную с «Оружием массового поражения», и деактивировала его учетную запись.
Сотрудник службы безопасности просмотрел учетную запись на следующий день и восстановил ее, хотя его учетная запись могла содержать доказательства того, что он преследовал и выслеживал людей, включая Доу, в реальной жизни. Например, скриншот за сентябрь, который пользователь отправил Доу, содержал список заголовков бесед, включая «расширение списка насилия» и «расчет удушения плода».
Решение о восстановлении примечательно на фоне двух недавних случаев стрельбы в школах в Трамблер-Ридж, Канада, и во Флоридском государственном университете (FSU). Команда безопасности OpenAI пометила стрелка из Трамблер-Ридж как потенциальную угрозу, но, по сообщениям, вышестоящее руководство решило не уведомлять власти. Генеральный прокурор Флориды на этой неделе начал расследование возможной связи OpenAI со стрелком из FSU.
Согласно иску Джейн Доу, когда OpenAI восстановила учетную запись ее преследователя, его подписка Pro не была восстановлена одновременно. Он написал в команду по доверию и безопасности, чтобы уладить этот вопрос, поставив Доу в копию письма.
В своих электронных письмах он писал такие вещи, как: «МНЕ НУЖНА ПОМОЩЬ ОЧЕНЬ БЫСТРО, ПОЖАЛУЙСТА. ПОЖАЛУЙСТА, ПОЗВОНИТЕ МНЕ!» и «это вопрос жизни и смерти». Он утверждал, что «находится в процессе написания 215 научных работ», которые он писал так быстро, что у него «даже не было времени их прочитать». Среди этих писем был список из десятков сгенерированных ИИ «научных работ» с такими названиями, как: «Деконструкция расы как биологической категории: юридические, научные и перспективы Африканского Рога.pdf.txt».
«Сообщения пользователя предоставили безошибочное уведомление о том, что он психически неуравновешен, а ChatGPT является двигателем его бредового мышления и эскалации поведения», — говорится в иске. «Поток срочных, дезорганизованных и грандиозных заявлений пользователя, наряду с конкретным отчетом, сгенерированным ChatGPT и нацеленным на Истца по имени, и обширным массивом предполагаемых „научных“ материалов, были безошибочным свидетельством этой реальности. OpenAI не вмешивалась, не ограничивала его доступ и не внедряла никаких мер безопасности. Вместо этого компания позволила ему продолжать использовать учетную запись и восстановила его полный доступ Pro».
Доу, которая утверждает в иске, что жила в страхе и не могла спать в собственном доме, подала Уведомление о злоупотреблении в OpenAI в ноябре.
«В течение последних семи месяцев он использовал эту технологию как оружие для публичного уничтожения и унижения меня, что было бы невозможно иначе», — написала Доу в своем письме в OpenAI с просьбой о постоянной блокировке учетной записи пользователя.
OpenAI ответила, признав, что отчет «чрезвычайно серьезный и тревожный» и что она тщательно изучает информацию. Доу больше не получала ответа.
В течение следующих нескольких месяцев пользователь продолжал преследовать Доу, отправляя ей серию угрожающих голосовых сообщений. В январе он был арестован и обвинен по четырем пунктам обвинения в уголовном преступлении за угрозы взрыва бомбы и нападение с применением смертоносного оружия. Адвокаты Доу утверждают, что это подтверждает предупреждения, которые она и системы безопасности OpenAI высказывали месяцами ранее, предупреждения, которые компания якобы решила проигнорировать.
Пользователь был признан невменяемым для предстания перед судом и помещен в психиатрическое учреждение, но, по словам адвокатов Доу, «процедурная ошибка штата» приведет к его скорому освобождению на свободу.
Эдельсон призвал OpenAI к сотрудничеству. «Во всех случаях OpenAI предпочитала скрывать критически важную информацию о безопасности — от общественности, от жертв, от людей, которым их продукт активно угрожает», — сказал он. «Мы призываем их, хотя бы раз, поступить правильно. Человеческие жизни должны значить больше, чем гонка OpenAI к IPO».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
