Альбанезе заявил, что после утечки «очевидно, будут юридические последствия», и добавил, что OpenAI грозит правительственное расследование по поводу того, как ее невыпущенные модели получили доступ к огромным объемам данных о здоровье.
Это последнее сообщение об инциденте появляется на фоне того, как правительства и технологические компании пытаются обуздать все более автономный ИИ после недавней серии случаев, когда ИИ-агенты вырывались из своих «песочниц», вступали в сговор в Интернете и создавали проблемы кибербезопасности.
Утечка также ставит вопросы о том, как OpenAI и австралийское правительство не смогли обнаружить атаку в течение нескольких месяцев.
Во время среды на брифинге для прессы в Генеральной Ассамблее ООН Альбанезе заявил, что утечка началась 18 июня, но OpenAI уведомила правительство только 10 сентября.
По словам представителя OpenAI, который связался с TechCrunch по электронной почте, компания узнала об инциденте в августе, когда он всплыл во время более широкого общекорпоративного обзора агентов, ведущих себя непредсказуемым образом. f
Неуказанный агент OpenAI получил доступ как к общедоступным, так и к непубличным файлам от Services Australia, которая управляет универсальной схемой здравоохранения Австралии. Хотя премьер-министр заявил, что нет никаких доказательств утечки личной информации граждан, OpenAI сообщила, что информация, к которой получил доступ агент, включала совокупную статистику здравоохранения и внутренние имена файлов.
Агент работал во время внутренней оценки OpenAI, ища ответы об Австралии и общедоступной информации о лекарствах. На портале Medicare агент столкнулся с повторяющимися блокировками, но нашел способы их обойти.
Альбанезе сказал репортерам, что модель «не принимала отказа», и добавил, что модель активно записывала данные в базу данных правительства, а не просто получала к ним доступ, что указывает на возможность того, что данные департамента были изменены или искажены.
Премьер-министр заявил, что OpenAI раскрыла утечку, отправив уведомление на общедоступный почтовый ящик Services Australia, которая затем уведомила Австралийский центр кибербезопасности пять дней спустя. Неясно, почему произошла задержка, но Альбанезе сказал, что он поднял вопрос об утечке напрямую с генеральным директором OpenAI Сэмом Альтманом, подчеркнув «крайнюю обеспокоенность» Австралии по поводу этого инцидента и «разочарование» тем, что OpenAI держала информацию почти три месяца.
«Эта ситуация, очевидно, неприемлема», — сказал Альбанезе, ясно давая понять, что он считает компанию ответственной как за взлом, так и за то, как медленно он был раскрыт.
Альбанезе заявил, что правительственное расследование будет рассматривать правоохранительные и законодательные меры для предотвращения подобных инцидентов в будущем.
Австралийское СМИ ABC News сообщает, что последняя выявленная атака могла опираться на предыдущую утечку с немецкого вики-сайта, которая использовалась в качестве плацдарма для атаки на веб-сайт австралийского правительства. Сообщается, что агенты модели ИИ использовали немецкое вики для оставления заметок, которые должны были использоваться в последующих взломах, включая заметку для получения данных от Австралийского института здравоохранения и социального обеспечения, федерального агентства, публикующего национальные данные о здоровье. Агентство является одной из трех дополнительных систем, которые, по словам Альбанезе, могли быть скомпрометированы.
Transluce, некоммерческая исследовательская лаборатория ИИ, отдельно обнаружила общедоступные записи, показывающие, что агенты ИИ нацеливались на Австралийский институт здравоохранения и социального обеспечения 20 и 21 июня.
OpenAI не ответила на конкретный запрос TechCrunch о том, связаны ли инциденты, но признала свою «деятельность, связанную с несколькими веб-сайтами и службами австралийского правительства».
Инцидент произошел после серии инцидентов безопасности, вызванных вышедшими из-под контроля агентами, часто действующими в инфраструктуре ИИ-лабораторий. В июле рои агентов OpenAI взломали Hugging Face. С тех пор были раскрыты новые случаи взлома ИИ-агентов от Anthropic, *Meta и Google.
OpenAI теперь заявляет, что проводит «обширный обзор несогласованной активности моделей во время обучения и оценки» и уведомляет третьи стороны о потенциальных утечках.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Aditya Mehta, Zack Whittaker
