Штат Флорида добивается временного судебного запрета, чтобы остановить OpenAI от дальнейшей разработки того, что он называет «безрассудным, неприемлемо рискованным продуктом» без внедрения «защитных механизмов, одобренных третьими сторонами».
Новое юридическое ходатайство, поданное в понедельник утром, является частью гражданского иска, первоначально поданного штатом Флорида в июне, в котором утверждалось, что ChatGPT представляет «угрозу общественной безопасности жителей Флориды», в частности, путем эксплуатации уязвимых групп населения, таких как дети, а также психически больных и склонных к насилию взрослых. Но этот первоначальный иск был подан до инцидента с взломом Hugging Face и последующих публичных предупреждений о катастрофическом риске несоответствия, которые вызвали общеотраслевые призывы замедлить разработку и обучение так называемых передовых моделей.
После этой череды событий OpenAI в пятницу объявила, что уже приостановила обучение своих «самых мощных моделей» до тех пор, пока не сможет проверить протоколы безопасности, предназначенные для предотвращения доступа агентов к открытому Интернету во время обучения. Однако, добиваясь судебного запрета от суда штата, Флорида утверждает, что OpenAI «неоднократно демонстрировала неспособность контролировать свой ИИ и неохотно раскрывала информацию о несанкционированной деятельности после ее обнаружения».
В обоснование этого запрета штат указывает на инцидент с Hugging Face, а также на недавние громкие случаи несоответствия, связанные с непреднамеренными и несанкционированными попытками доступа к австралийским и правительственным серверам США.
Флорида также ссылается на лидеров индустрии ИИ, в том числе многих из OpenAI, утверждая, что индустрия ИИ буквально требует такого внешнего регулирования. В ходатайстве приводятся заявления Пола Кристиано, который заявил при вступлении в совет директоров компании в этом месяце, что, по его мнению, «существует значительный риск того, что быстрое ускорение возможностей ИИ приведет к катастрофической и необратимой потере контроля в самом ближайшем будущем». В ходатайстве также упоминается собственное эссе OpenAI «Чужой разум» и открытое письмо от 1300 сотрудников индустрии ИИ, оба из которых призывают к принудительному замедлению разработки передовых ИИ, если это необходимо.
Четыре месяца назад мы подали первый иск под руководством штата против OpenAI и Сэма Альтмана. Сегодня мы просим суд о временном судебном запрете.
Прекратите называть его безопасным. Прекратите притворяться, что он человек. Прекратите продавать его детям. https://t.co/AEXvz7VQUd
— Генеральный прокурор Джеймс Утмайер (@AGJamesUthmeier) 28 сентября 2026
Ссылаясь на законы, позволяющие штату осуществлять контроль над компаниями, представляющими «общественную опасность», Флорида утверждает, что OpenAI является «величайшей общественной опасностью, когда-либо созданной человеческой рукой, способной уничтожить мировую цивилизацию».
,
«Только по милости Всевышнего один из ИИ-агентов Ответчиков еще не скомпрометировал водоснабжение или не отключил электросеть», — пишет штат в ходатайстве.
Представители OpenAI пока не ответили на запрос Ars Technica о комментарии относительно ходатайства о судебном запрете.
Что может сделать суд штата?
Хотя многие считают, что риск цивилизационного коллапса, связанный с текущими или даже ближайшими системами ИИ, значительно преувеличен, Флорида, похоже, более чем готова ухватиться за недавнюю общественную обеспокоенность такого рода рисками. Помимо упомянутых выше рисков уровня экзистенциальной угрозы и саботажа коммунальных служб, штат использует свое новое ходатайство для повторного изложения более широких, низкоуровневых рисков общественной безопасности, которые он первоначально выдвинул в своем июньском иске. К ним относятся проблемы ложной рекламы, связанной с описанием ИИ как «безопасного, точного или надежного», опасности, связанные с доступом детей к вызывающим привыкание и льстивым моделям, а также опасения по поводу того, что модели ИИ будут привлекать пользователей, задавая наводящие вопросы в конце ответов.
Конечно, судебный запрет, наложенный только на OpenAI, мало повлияет на продолжающуюся разработку передовых моделей у конкурирующих разработчиков. И даже судебный приказ о прекращении разработки новых моделей ничего не сделает с моделями, которые уже доступны общественности и представляют многие из тех же рисков (хотя передовые модели, которые все еще проходят обучение, могут иметь менее разработанные защитные механизмы, чем те, которые уже развернуты для общественности).
Ходатайство Флориды также уделяет большое внимание так называемому риску «несоответствия», когда вышедший из-под контроля агент ИИ ошибочно «придет к выводу, что убийство пациента с раком также убивает рак, или что у людей будет меньше ртов для кормления, если они все будут химически стерилизованы», упоминая лишь несколько приведенных примеров, которые звучат так, будто они взяты из научной фантастики. Однако такой акцент упускает из виду реальные опасности преднамеренного использования ИИ-агентов людьми в злонамеренных целях и активные попытки этих людей отключить защитные механизмы.
Независимо от юридической эффективности ходатайства Флориды, этот шаг подчеркивает, насколько сильно изменился правовой и общественно-политический настрой в отношении систем ИИ за последние недели и месяцы. Годами исследователи безопасности ИИ кричали о непропорциональных рисках, которые представляют их продукты. Теперь вся индустрия ИИ начинает узнавать, что происходит, когда правительства и политики начинают серьезно относиться к этим преувеличенным предупреждениям.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Kyle Orland
