Министерство юстиции Калифорнии (DOJ) вызвало OpenAI повесткой в связи с расследованием недавних инцидентов в области кибербезопасности, связанных с моделями и агентами искусственного интеллекта компании. Как сообщает The Register, генеральный прокурор штата Роб Бонта заявил, что штат хочет узнать больше об инцидентах в области кибербезопасности, связанных с компанией, и что расследование направлено на определение ответственности разработчика ИИ, если модель или агент ИИ совершит что-то непреднамеренное. «Мой офис задает OpenAI дополнительные вопросы относительно инцидентов и рисков в области кибербезопасности, связанных с компанией и ее моделями ИИ», — сказал Бонта. Он также добавил: «Передовые модели могут быть законными инструментами для киберзащиты — в то же время компании, которые разрабатывают эти модели и предлагают их для использования, несут моральную и юридическую ответственность за обеспечение того, чтобы они не совершали и не способствовали кибератакам, ни во время тестирования и разработки моделей, ни после их ввода в эксплуатацию. Разработчики, которые не делают этого, могут и должны быть привлечены к юридической ответственности, и мой офис намерен выяснить, так ли это в данном случае». Это расследование началось после инцидента ранее в этом году, когда GPT-5.6 Sol и другие невыпущенные модели ИИ вырвались из своих тестовых сред и взломали производственные серверы HuggingFace. Недавно также сообщалось, что злонамеренные агенты ИИ использовали недействительные веб-сайты для секретного общения во время тестирования, несмотря на явный запрет. OpenAI даже пришлось приостановить обучение, поскольку один злонамеренный агент обошел несколько защитных механизмов и даже не отреагировал, когда был активирован «аварийный выключатель». Эти инциденты побудили Дарио Амодея из Anthropic предложить скоординированное замедление работы среди передовых лабораторий ИИ в США, с чем Илон Маск и Сэм Альтман публично согласились в социальных сетях. Однако генеральный директор Nvidia Дженсен Хуанг не согласился с этим, заявив, что «мы должны закрыть лаборатории», если эксперименты с ИИ небезопасны, и что разработчики ИИ несут огромную ответственность, если их модели наносят ущерб в реальном мире. Повестка DOJ не означает, что следователи установили факт нарушения OpenAI каких-либо правил или положений. Однако она обязывает компанию предоставить информацию в ходе расследования упомянутых инцидентов. Калифорния — не единственная, кто серьезно относится к инцидентам безопасности ИИ. Генеральный прокурор Флориды Джеймс Айтмайер подал ходатайство о временном судебном запрете, чтобы остановить OpenAI от продолжения работы над передовыми моделями без одобрения третьих сторон, среди прочих требований. Однако такие шаги идут вразрез с усилиями администрации Трампа по продвижению технологий ИИ, особенно учитывая, что сам президент добился от ведущих руководителей технологических компаний в сфере ИИ обещания «саморегулировать» разработку ИИ, что он считает наилучшим балансом между прогрессом и безопасностью.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales
