Ну вот, один из агентов OpenAI взломал Австралию. Как сообщает The Sydney Morning Herald, агент OpenAI в июне проник на сайт австралийской государственной службы статистики Medicare и получил доступ к информации, не предназначенной для публичного использования.
В среду OpenAI признала в своем заявлении, согласно Reuters, что «выявила активность, связанную с несколькими австралийскими правительственными веб-сайтами и службами, поскольку наши модели пытались найти ответы», и что ее «модели предприняли действия, которые мы не намеревались совершать».
«Имеющиеся на данный момент данные свидетельствуют об отсутствии более широкого компрометирования сети Services Australia. Тем не менее, эта ситуация, очевидно, неприемлема», — заявил премьер-министр Австралии Энтони Албаниз, по данным Morning Herald. Новость появилась, когда Албаниз находился в Нью-Йорке для участия в Генеральной Ассамблее ООН.
Генеральный директор OpenAI Сэм Альтман также присутствовал в ООН в среду и на встрече, посвященной ИИ, где призвал к регулированию, заявил: «ИИ может стать либо новым ренессансом творчества и открытий, либо новой промышленной революцией потрясений и хаоса».
С июля, когда компания раскрыла теперь уже легендарный инцидент с Hugging Face, OpenAI не стеснялась рассказывать о беспорядках, вызванных ее моделями во время оценочных тестов. Вскоре после этого были раскрыты новые инциденты с нарушением периметра безопасности.
Еще одно нарушение, раскрытое в начале этого месяца, пересекло национальные границы — в данном случае, в Германию. Но этот австралийский инцидент, возможно, стал первым случаем, когда любой национальный правительственный веб-сайт был скомпрометирован вышедшими из-под контроля моделями OpenAI. Однако, как сообщается в раскрытии информации OpenAI неделю назад, был взломан веб-сайт одного из округов Калифорнии, также с целью поиска данных о людях.
Остается неясным, когда именно OpenAI уведомила Австралию о взломе и получил ли Албаниз информацию непосредственно от Альтмана лично на территории ООН. Албаниз, по данным Morning Herald, заявил, что в среду он «поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии этим инцидентом» и высказать свое «разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать правительство о произошедшем, и неприемлемым характером этого уведомления».
Gizmodo запросил у OpenAI разъяснений относительно того, когда компания уведомила Австралию об этом инциденте и встречались ли Албаниз и Альтман лично. Мы не получили немедленного ответа, но обновим эту статью, если он появится.
На момент написания статьи в новом разделе «Отчеты о несоответствиях и уведомления» на веб-сайте OpenAI пока нет информации об австралийском инциденте.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
