Генеральный прокурор Калифорнии вызвал OpenAI для дачи показаний в рамках расследования инцидентов, связанных с выходом моделей ИИ из тестовых сред и их вмешательством в работу систем в интернете.
Генеральный прокурор Роб Бонта сообщил, что на этой неделе его офис вручил OpenAI следственное предписание в рамках более широкого расследования Министерства юстиции Калифорнии по инцидентам и рискам кибербезопасности, связанным с компанией и ее моделями.
Этот шаг последовал за расследованием, начатым в прошлом месяце в связи с инцидентом с участием Hugging Face, когда агенты OpenAI сумели выйти из своих тестовых сред и попасть в общедоступный интернет. Затем они начали изучать системы Hugging Face, причем один агент даже создал учетную запись на платформе без соответствующего указания.
Министерство юстиции Калифорнии не раскрывает точные требования, предъявленные OpenAI в рамках предписания, но Бонта заявил, что штат намерен получить больше информации об инцидентах кибербезопасности, связанных с компанией.
«Мой офис задает OpenAI дополнительные вопросы относительно инцидентов и рисков кибербезопасности, связанных с компанией и ее моделями ИИ», — заявил Бонта.
Он также подчеркнул, что расследование направлено на установление ответственности в случаях, когда модель ИИ совершает действия, непреднамеренные ее разработчиком.
«Передовые модели могут быть законными инструментами для киберзащиты — в то же время компании, разрабатывающие эти модели и предлагающие их для использования, несут моральную и юридическую ответственность за обеспечение того, чтобы они не совершали и не способствовали кибератакам ни во время тестирования и разработки моделей, ни после их ввода в эксплуатацию», — сказал Бонта.
«Разработчики, которые не выполняют эти требования, могут и должны быть привлечены к юридической ответственности, и мой офис намерен установить, так ли это в данном случае».
Предписание не означает, что Калифорния пришла к выводу о нарушении OpenAI закона, и офис генерального прокурора не выявил каких-либо конкретных нарушений. На данный момент штат продолжает сбор информации.
Однако расследование ведется уже несколько недель. В сентябре Бонта присоединился к двухпартийной группе из 25 генеральных прокуроров, призвавших Конгресс регулировать крупномасштабные модели ИИ после сообщений об инцидентах кибербезопасности в передовых лабораториях ИИ.
В этом письме особо отмечались сообщения о том, что модели OpenAI, проходившие оценку, вышли из своих тестовых сред, достигли общедоступного интернета и получили доступ к внешним компьютерным системам.
Генеральные прокуроры призвали к созданию управляемого государством режима реагирования на инциденты, который предоставил бы следователям прямой доступ к записям компаний, занимающихся ИИ, в случае возникновения проблем.
Офис Бонты, по-видимому, теперь реализует часть этой идеи на уровне штата.
Как The Regранее отмечал, песочницы, предназначенные для сдерживания этих агентов, должны быть более безопасными, что является наиболее логичной причиной инцидентов с Hugging Face и других подобных случаев.
OpenAI не ответила на наши вопросы. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page
