В понедельник Флорида стала первым штатом, подавшим в суд на OpenAI из-за предположительно опасного дизайна ChatGPT.
В иске, поданном в суд штата, генеральный прокурор Флориды Джеймс Утмайер обвинил OpenAI и ее генерального директора Сэма Альтмана в том, что они ставят прибыль выше безопасности жителей Флориды.
Гражданский иск подан после того, как Флорида начала отдельное уголовное расследование в отношении OpenAI в связи с массовым расстрелом, связанным с ChatGPT, в результате которого два человека погибли в Университете штата Флорида. В своих заявлениях OpenAI настаивала на том, что ChatGPT не несет ответственности за стрельбу в FSU, а лишь предоставляет фактическую информацию, но Утмайер, по всей видимости, не согласен. В своем иске Утмайер отметил, что Флорида теперь оказалась ошеломлена двумя актами насилия, при планировании которых подозреваемые использовали ChatGPT.
«Ужасно, но ChatGPT содействовал и способствовал более чем одному массовому убийству в штате Флорида», — говорится в иске Утмайера. «Смерть выпускников Университета Южной Флориды Нахиды Бристи и Замила Лимона в 2026 году также была спланирована с помощью ChatGPT, который советовал Хишаму Абугарбиеху, как избавиться от тел, изменить VIN-номера на автомобиле и о том, проверяли ли автомобили на месте преступления».
Затем Утмайер перечислил все способы, которыми ChatGPT предположительно подпитывал насилие. В 2025 году ChatGPT обвиняли в подстрекательстве нескольких пользователей к самоубийству, в том числе подростка Адама Рейна и 56-летнего бодибилдера, который убил свою мать на почве галлюцинаторного заговора, сгенерированного ChatGPT.
Совсем недавно, в феврале, мужчина с проблемами психического здоровья убил свою жену и напал на свою мать «после того, как несколько часов в день общался с ChatGPT и пришел к убеждению, что роботы захватывают мир», — сказал Утмайер. А маленький шахтерский городок в Канаде был потрясен стрельбой в школе, унесшей девять жизней в том же месяце. Позже Альтман извинился за то, что не уведомил правоохранительные органы о логах ChatGPT стрелка, что, по мнению некоторых, могло бы предотвратить стрельбу.
,
Насилие в реальном мире — не единственная причина, по которой Флорида хочет запретить ChatGPT причинять вред пользователям, в то время как он позиционируется как безопасный. В иске штата OpenAI также обвиняется в разработке чат-бота, вызывающего привыкание и разрушительного для детей и взрослых. Помимо угодливости чат-бота, подпитывающей заблуждения пользователей, ChatGPT рекламируется как безопасный в использовании, но исследования показывают, что он может вызывать потерю когнитивных функций, утверждается в иске Флориды. Чат-боты, выдающие себя за медицинских работников или терапевтов, также проблематичны, говорится в иске, со ссылкой на недавний иск о неправомерной смерти, в котором утверждается, что ChatGPT подсказал 19-летнему подростку смешать кратом с ксанаксом.
Флорида указывает на весь этот вред и многое другое, требуя максимальных гражданских убытков за предполагаемые нарушения законов о недобросовестной торговле.
«Как показывают эти примеры, ChatGPT проактивно содействует, поощряет и пропагандирует опасную деятельность и представляет угрозу общественной безопасности жителей Флориды», — говорится в иске. Между тем, «ответчики зарабатывают деньги через ChatGPT, подтверждая все, что говорят им пользователи, и затягивая их глубже в заблуждения».
В своем заявлении OpenAI не упомянула генерального прокурора, а вместо этого сосредоточилась на недавних обновлениях безопасности детей.
«Потеря ребенка — самая разрушительная трагедия, которая может случиться с семьей, и мы знаем, что никакие слова не могут в полной мере выразить боль такой утраты», — заявил представитель OpenAI. «ИИ — это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите, поэтому мы внедрили передовые в отрасли меры и политики защиты. В частности, мы встроили безопасность для несовершеннолетних непосредственно в наши продукты, включая более защищенный опыт специально для несовершеннолетних, инструмент прогнозирования возраста, автоматическое переключение пользователей, чей возраст нам неясен, на наш более защищенный опыт, а также предоставление родителям инструментов для мониторинга использования ИИ их детьми. Мы знаем, что упоминание этой работы не вернет ребенка, но мы стремимся сделать все правильно».
,
Альтмана обвиняют в том, что он сделал ChatGPT небезопасным
Иск присоединяется к предыдущим искам, обвиняющим Альтмана в бездумном развертывании систем ИИ без учета безопасности пользователей.
В своем иске Утмайер напомнил, как Альтман заявил участникам TED2025, что в настоящее время «ставки относительно невысоки» для OpenAI, чтобы тестировать свои продукты на реальных пользователях с точки зрения безопасности, что, по его словам, является единственным способом итеративного их улучшения.
«Но ставки высоки», — возразил Утмайер. «Жители Флориды, включая наших уязвимых детей, понесли денежные потери, вред психическому здоровью, когнитивный упадок и физический вред от обманчивого, неэтичного и безрассудно опасного поведения ответчиков. Ответчики должны понести ответственность за причиненный ими вред и опасность, которую они и ChatGPT продолжают представлять для жителей Флориды».
В пресс-релизе Утмайер утверждал, что, торопясь выпустить на рынок такие продукты, как модель ChatGPT 4o, OpenAI «игнорировала внутренние и внешние предупреждения о безопасности, подвергала детей большому риску и позволяла опасному продукту попасть к миллионам жителей Флориды».
Аналогичным образом, в иске говорится, что Альтман должен нести «личную ответственность за вред, причиненный им жителям Флориды своим безрассудным и умышленным поведением в качестве основателя и генерального директора OpenAI, включая его полное пренебрежение риском для человеческой жизни, вызванным действиями его фирмы».
В случае проигрыша OpenAI может столкнуться с давлением, требующим внедрения таких мер, как ограничение доступа к бесплатным аккаунтам ChatGPT по возрасту для защиты детей, прекращение обсуждений, касающихся насилия и самоубийств, а также удаление функций, которые, по мнению штата, обманчиво создают ощущение общения с человеком в ChatGPT.
Без дополнительных родительских инструментов штат может добиваться запрета на доступ подростков к ChatGPT.
«ChatGPT небезопасен для использования подростками во Флориде; его использование может привести к самоповреждению, когнитивному упадку и поведенческой зависимости», — говорится в иске.
На пресс-конференции, транслировавшейся в прямом эфире на X, Утмайер пообещал работать с другими штатами, желающими защитить детей, чтобы привлечь OpenAI к ответственности, и ответил на вопросы журналистов. Когда его спросили, планирует ли штат преследовать все компании, занимающиеся ИИ, а не только OpenAI, Утмайер ответил, что Флорида «безусловно» рассматривает другие платформы, но «ChatGPT кажется наиболее вопиющим», а Альтман «центральной фигурой» в продвижении функций, опасных для детей.
«Готовьтесь к борьбе, и на данный момент нет борьбы важнее этой», — сказал Утмайер.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
