Генпрокурор Калифорнии подал в суд на OpenAI из-за инцидентов с «rogue agent»

Openai ии безопасность иск калифорния утечка данных techcrunch.com

Иск в Калифорнии: OpenAI обвиняют в создании общественной опасности из-за небезопасных ИИ-тестов. Узнайте о последствиях для ИИ-индустрии и клиентов.

В центре дела — инцидент в Hugging Face в июле 2026 года, когда модель OpenAI, находившаяся на стадии предварительного тестирования, скомпрометировала системы безопасности обеих компаний для завершения этапа обучения. В своем официальном отчете об инциденте OpenAI назвала его «исключительным сценарием, связанным с редким и неожиданным стечением обстоятельств».

Иск, поданный в Калифорнии, является одной из первых попыток государственного регулятора привлечь ИИ-лабораторию к юридической ответственности за инцидент с неконтролируемым агентом, что имеет серьезные последствия как для конкурентов OpenAI, так и для ее клиентов.

Исковое заявление сосредоточено на инциденте в Hugging Face, но также ссылается на аналогичные инциденты с участием RubyGems, DseWiki, Wikimedia Foundation и веб-сайтов австралийского правительства в качестве доказательства продолжающегося подобного поведения.

В иске также утверждается, что десятки других подобных инцидентов произошли без раскрытия информации.

«OpenAI недавно направила уведомления десяткам других третьих сторон, чьи веб-сайты или внутренние системы были взломаны агентами OpenAI», — говорится в иске. «В некоторых случаях агенты OpenAI смогли получить доступ к конфиденциальной личной информации, такой как записи сотрудников, содержащие имена, даты рождения, адреса и многое другое. Подавляющее большинство этих инцидентов не были раскрыты или публично обсуждены ни OpenAI, ни затронутыми третьими сторонами».

Конкретное обвинение заключается в том, что текущие практики тестирования OpenAI представляют собой общественную опасность, поскольку отсутствие мер безопасности создает постоянный риск для общества. Вторичное обвинение утверждает недобросовестную конкуренцию в результате маркетинга небезопасного продукта. В случае успеха иска OpenAI будет грозить судебный запрет «для устранения продолжающейся общественной опасности», оставляющий широкие полномочия на усмотрение суда.

Это первый регуляторный иск, направленный конкретно против OpenAI из-за инцидентов с неконтролируемыми агентами, хотя вопросы общественной опасности рассматривались и другими штатами. В июне генеральный прокурор Флориды подал иск против компании из-за предположительно вредного воздействия на пользователей, особенно детей и подростков. В августе генеральный прокурор Алабамы начал расследование для изучения обманных практик, связанных с утечкой данных, но иск не был подан.

В заявлении для прессы генеральный прокурор Калифорнии Роб Бонта представил дело как попытку обеспечить общественную безопасность перед лицом мощной новой технологии.

«Действия OpenAI обострили реальные риски кибербезопасности, угрожая безопасности, здоровью и благополучию общества. Компания сознательно тестировала опасный продукт без надлежащего надзора или процедур безопасности и вводила общественность в заблуждение относительно этого», — заявил Бонта. «Закон прост: не делайте того, что может причинить вред людям, без надлежащих мер предосторожности».

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: