Иск к OpenAI: ChatGPT использовали при стрельбе, требуем новую школу

Openai Chatgpt иски канада ии безопасность arstechnica.com

Британская Колумбия подает в суд на OpenAI, требуя логи ChatGPT стрелка из Тамблер-Риджа. Узнайте, почему компания должна оплатить восстановление общины и изменить свои алгоритмы.

Семьи жертв одной из самых смертоносных массовых расправ в истории Канады уже подали иск против OpenAI из-за того, что компания не уведомила правоохранительные органы, узнав заранее, что стрелок использовал ChatGPT для планирования насилия.

Теперь иск подала Британская Колумбия, впервые объяснив, насколько дорогостоящей и экстремальной оказалась ликвидация последствий этой трагедии. По мнению канадской провинции, OpenAI и Сэм Альтман должны крошечной удаленной горнодобывающей общине, разрушенной этим несчастьем, гораздо больше, чем извинения. Они должны предпринять значимые шаги для прекращения насилия, совершаемого с помощью ChatGPT, а затем оплатить все расходы, связанные с восстановлением, выздоровлением и исцелением Тамблер-Риджа.

В жалобе, поданной в понедельник, Британская Колумбия объяснила, что средняя школа Тамблер-Риджа была снесена после того, как 18-летний трансгендерный стрелок Джесси Ван Рутслаар покончил жизнь самоубийством в феврале, убив пятерых детей и помощника учителя. Всего погибло восемь человек, поскольку до стрельбы в школе Ван Рутслаар застрелил свою мать и сводного брата.

Ранее средняя школа находилась «в сердце города, как географически, так и культурно», говорится в иске. Но после стрельбы она стала неизбежным «символом травмы».

Около 160 учеников, учителей и сотрудников «часами были заперты в классах и шкафах» школы и были слишком травмированы, чтобы когда-либо вернуться. Чтобы оказать «хотя бы небольшое облегчение тем, кто пострадал сильнее всего», в августе начался снос, и община надеется построить новую школу в другом месте к концу этого года, если все пойдет по плану.

Британская Колумбия утверждает, что OpenAI и Альтман должны оплатить строительство школы, а также покрыть широкий спектр других экстренных расходов, которые никогда бы не возникли, если бы не «эта трагедия и ее предсказуемые последствия». Они также просят суд вынести судебный запрет, включая требование к OpenAI обновить ChatGPT для автоматического прекращения насильственных разговоров.

Б.К. хочет увидеть логи ChatGPT

В первую очередь, Британская Колумбия и местный совет по образованию школьного округа просят суд немедленно обязать OpenAI впервые опубликовать логи чатов Ван Рутслаара.

До сих пор OpenAI делилась логами только с Королевской канадской конной полицией (RCMP). На вопрос о том, есть ли планы обнародовать логи чатов — как это сделало правоохранительное агентство Флориды после предыдущей стрельбы, связанной с ChatGPT, во Университете штата Флорида — RCMP отказалась комментировать. Вместо этого они указали Ars на заявление от июля, в котором RCMP лишь подтвердила, что полиция изучает информацию из онлайн-аккаунтов. По-видимому, признавая, что общественность хочет получить ответы, в заявлении также напоминалось, что «важно понимать, что отсутствие общедоступных деталей не означает, что следователи не располагают этой информацией».

OpenAI отказалась комментировать иск или запрашиваемые средства правовой защиты. Компания заявила, что защищала конфиденциальность Ван Рутслаара, когда было принято решение отменить проверку его переписки группами людей, рекомендовавших поделиться логами насильственных чатов с полицией. Сегодня представитель компании заявил Ars, что «то, что произошло в Тамблер-Ридже, было невыразимой трагедией, и наши мысли остаются с жертвами, их семьями и всем сообществом. OpenAI по-прежнему стремится к сотрудничеству с правительством и правоохранительными органами и продолжает развивать нашу работу в области безопасности».

Британская Колумбия утверждает, что OpenAI не сделала ChatGPT безопаснее после нескольких массовых расстрелов, которые выявили «повторяющиеся» закономерности насильственного использования ChatGPT. Более того, обоснование компании для игнорирования угрозы выглядело недостоверным. Британская Колумбия подозревает, что OpenAI на самом деле хотела избежать установления жесткой линии, которая потребовала бы от OpenAI сообщать о большем количестве насильственных пользователей полиции и подвергать общественность большему количеству реальных угроз, которые могут представлять чат-боты. Провинция обвинила OpenAI в сокрытии логов чатов для защиты своей потенциальной IPO стоимостью 1 триллион долларов.

По мнению Британской Колумбии, OpenAI мало что делает для борьбы с наиболее опасными угрозами. В жалобе отмечается, что OpenAI утверждала, что предприняла «попытку» заблокировать насильственные чаты в декабре 2025 года, но это изменение не остановило вредоносное использование Ван Рутслааром в то время или в последующие месяцы. На пресс-конференции, освещенной The Wall Street Journal, генеральный прокурор Британской Колумбии Ники Шарма заявила, что «мы должны спросить их, почему» они не хотят обнародовать логи чатов.

«В любом другом случае, если человек помогает, поощряет или вступает в сговор с целью совершения уголовного преступления или проявляет преступную халатность, он может быть расследован, привлечен к ответственности и осужден», — сказала Шарма. «Для этих принципов уголовного права нет исключений для ИИ».

«Мы все знаем жертв»

Стрельба 10 февраля 2026 года потрясла всех в Тамблер-Ридже. Население составляет всего 2700 человек. Местный чиновник резюмировал масштаб кризиса, сказав: «Мы все знаем жертв».

Средняя школа Тамблер-Риджа была закрыта в день стрельбы и больше не открывалась. Для детей, восстанавливающихся и стремящихся к нормальной жизни, это стало проблемой, поскольку в городе нет другой школы. Вместо этого они посещали временную школу на импровизированном кампусе, «сначала собранном из четырнадцати трейлеров Министерства лесного хозяйства», а затем преобразованном в «более крупные модульные классы».

Быстрое создание функционирующей школы было непростым и недешевым делом, заявил школьный округ в жалобе. Им пришлось «оборудовать ее, нанять и обучить новых преподавателей взамен местных сотрудников, которые не могли вернуться, и реорганизовать учебный процесс с учетом отсутствия убитых учеников и коллег».

Что касается старой школы, то ее снос стоил денег, и ни один из этих экстренных ресурсов не считается «регулярными государственными услугами, которые правительства финансируют за счет налогов и распределяют между всеми налогоплательщиками», говорится в жалобе.

Помимо школы, они также строят оздоровительный центр, поскольку спрос на консультации не снизился с момента трагедии. Острая и постоянная медицинская помощь, услуги для жертв и травмоориентированная психиатрическая помощь — все это считается необходимыми услугами, которые общине понадобятся в течение многих лет. Как подчеркивается в жалобе, OpenAI должна была преднамеренно учитывать, насколько мала община, взвешивая угрозу, которую представлял стрелок:

В отличие от других более крупных общин, в Тамблер-Ридже не было резервов персонала или помещений, чтобы поддержать общину после трагедии. Не было другого школьного здания для размещения учеников для обучения или консультирования после этой травмы. Было мало доступных взрослых, чтобы заменить учителей и администраторов, непосредственно пострадавших от нападения. Ученики, родители и все пострадавшие нуждались в немедленной поддержке и консультировании, и в этом маленьком городке просто не хватало людей, чтобы удовлетворить эту потребность.

Также не было «учителей на замену, дежурных клиницистов и дополнительных полицейских», утверждается в жалобе, и те работники первой линии, которые были доступны, «сами были травмированы». Чтобы помочь, Британская Колумбия направила временных работников, которым требовалось временное жилье, для удовлетворения спроса на экстренные службы.

За три месяца, последовавшие за стрельбой, «только служба психического здоровья детей и молодежи провела более 900 консультационных сессий для более чем 100 детей и семей, а Northern Health оказала помощь более чем 130 взрослым», — говорится в иске. Недавно Британская Колумбия начала переходить от оказания экстренной помощи к поддержке долгосрочного восстановления, включая создание рабочей группы по долгосрочному горю и утрате. Эти решения потребуют значительных инвестиций.

Кроме того, Британская Колумбия и школьный округ также оплатили «чрезвычайные полицейские меры». Это по-прежнему необходимо, утверждают они, поскольку община опасается, что потенциальные подражатели представляют реальную угрозу. В жалобе утверждается, что RCMP уже расследовала угрозы подражателей.

«Спрос на плановые услуги в области психического здоровья остается высоким и резко возрастает в годовщины и другие триггерные события; ожидается, что эти услуги будут востребованы в течение многих лет», — говорится в иске.

ChatGPT «усилил» насильственные идеи

OpenAI впервые обнаружила насильственные чаты в июне 2025 года. В то время люди-рецензенты «изучили помеченные разговоры» и «пришли к выводу, что стрелок представляет собой реальный и конкретный риск насилия с применением огнестрельного оружия в отношении реальных людей», сообщили WSJ информаторы. Однако руководство OpenAI, не согласившись, вмешалось, чтобы заблокировать сообщения в правоохранительные органы, отменив решения своих групп безопасности и заявив, что «дело не соответствовало «более высокому порогу» для отчетности о «реальной и неминуемой» угрозе».

В конечном итоге, вместо того чтобы сообщить о пользователе в RCMP или предупредить сообщество, OpenAI просто деактивировала учетную запись, что никак не помешало Ван Рутслаару создать вторую учетную запись.

В то время OpenAI публично заявляла, что любые насильственные разговоры будут проверяться людьми и сообщаться в правоохранительные органы для предотвращения реальных трагедий. ChatGPT был связан со стрельбой в Университете штата Флорида, а также с подрывом CyberTruck в Лас-Вегасе, и Британская Колумбия утверждала, что стрелок из Тамблер-Риджа должен был быть помечен как представляющий угрозу, как и пользователи в тех случаях.

После того как информаторы разоблачили OpenAI за отказ предупредить власти, компания заявила, что «неохотно делала такие обращения, поскольку они потребовали бы раскрытия того, как ее продукт способствует возникновению угрозы». Но это не убедило Британскую Колумбию и сообщество Тамблер-Риджа. Они считают, что OpenAI надеялась, что пустые обещания сделать лучше защитят «ее оценку и ожидаемое публичное размещение акций». В Тамблер-Ридже самые молодые жертвы, которые действительно нуждались в защите, были 12 и 13 лет, отметили они.

В жалобе предполагается, что защита OpenAI, вероятно, будет заключаться в обвинении Ван Рутслаара в его насильственных вводах, одновременно преуменьшая выходные данные ChatGPT.

Но даже без логов Британская Колумбия утверждает, что недостаток ChatGPT заключается не в его пользователях, а в его дизайне. Предположительно, OpenAI отключила функцию, которая могла бы прекратить чаты Тамблер-Риджа, а затем внедрила более подобострастную модель, о которой она уже знала, что она помогала пользователям, стремящимся причинить реальный вред. С момента выпуска ChatGPT спецификация модели всегда предписывала чат-боту предполагать «добросовестность» и «не проверять намерения», когда пользователи инициировали насильственные чаты, и Британская Колумбия хочет, чтобы суд предписал изменить именно эти две инструкции.

Тем не менее, община хочет увидеть логи чатов, как и Британская Колумбия, которая финансирует их восстановление.

Провинция утверждала, что логи ChatGPT покажут, что продукт OpenAI опасно «способствовал психической нестабильности стрелка», поощряя, развивая и усиливая насильственные идеи «вместо того, чтобы прерывать их или направлять пользователя к реальной помощи».

В случае проигрыша OpenAI может столкнуться с обширными убытками, включая постановление о покрытии расходов на экстренное реагирование. Они также могут столкнуться с карательными убытками, если будет признано, что отказ предупредить полицию был умышленным.

OpenAI «неоднократно заявляла пользователям и общественности, что она обнаруживает пользователей, представляющих риск причинения вреда другим, направляет такие разговоры обученным рецензентам, уполномоченным действовать, и передает информацию о неминуемых угрозах серьезного физического вреда правоохранительным органам», — говорится в жалобе. «Представив себя как добровольно взявшую на себя и выполняющую именно ту защитную функцию», которую требует закон, налагающий обязанность предупреждать, «OpenAI не может отказаться от обязанности, которую она публично взяла на себя», — говорится в иске.

Извинений Альтмана недостаточно

В апреле 2026 года Альтман публично признал, что OpenAI подвела сообщество Тамблер-Риджа.

«Мне глубоко жаль, что мы не уведомили правоохранительные органы об учетной записи, которая была заблокирована в июне», — сказал Альтман.

По мнению Британской Колумбии, учетная запись так и не была заблокирована, и это извинение является «признанием» того, что «OpenAI не уведомила правоохранительные органы после того, как ее группа безопасности выявила риск насилия».

Чтобы гарантировать, что самые насильственные чаты всегда будут передаваться полиции, провинция просит суд обязать OpenAI проводить регулярные независимые аудиты.

Действия компании «были презренными», говорится в иске.

«Если бы OpenAI реализовала значимую блокировку пользователя», стрелок не имел бы дальнейшего доступа к ChatGPT, что, предположительно, «повысило летальность стрелка». И если бы OpenAI сообщила о пользователе правоохранительным органам, любое оружие, которое использовал стрелок, могло бы быть изъято из дома, поскольку стрелок уже находился в поле зрения местных правоохранительных органов, утверждается в иске.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: