Премьер-министр Австралии Энтони Албаниз сообщил, что агент OpenAI «проник на австралийский правительственный веб-сайт».
Албаниз заявил, что инцидент произошел в июне и связан с тем, что агент получил несанкционированный доступ к порталу, где хранятся статистические данные, связанные с Medicare — национальной системой медицинского страхования Австралии.
«Агент ИИ получил доступ как к общедоступным, так и к закрытым файлам», — сказал премьер-министр, описав портал как хранилище «неконфиденциальной информации Medicare, касающейся данных и статистики, например, расходов».
Директорат сигнальной разведки Австралии (Signals Directorate), агентство радиоэлектронной разведки и кибербезопасности, расследует инцидент. Албаниз заявил, что правительство в настоящее время считает, что ни одна из других его систем не была скомпрометирована, и что агенты OpenAI не получили доступа к личной информации.
Премьер-министр назвал ситуацию «очевидно неприемлемой» и сообщил, что разговаривал с генеральным директором OpenAI Сэмом Альтманом — который также присутствовал на встречах ООН — «чтобы выразить крайнюю обеспокоенность Австралии по поводу этого инцидента».
Албаниз также «выразил свое разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать правительство о случившемся. Характер того, как произошло это уведомление, также был неприемлемым».
OpenAI сообщила The Register, что обнаружила инцидент во время проверки «некорректного поведения», о котором она сообщила на прошлой неделе и которое привело к сообщению о шести случаях, когда ее агенты вели себя неожиданно и/или опасно.
«В ходе этой проверки мы выявили активность, связанную с несколькими австралийскими правительственными веб-сайтами и службами, поскольку наши модели пытались найти ответы и доступную статистику по вопросам об Австралии во время внутренней оценки», — сообщил The Register по электронной почте представитель OpenAI. «В процессе этого наши модели совершили действия, которые мы не намеревались совершать».
«Информация, к которой был получен доступ, включала совокупные статистические данные о здравоохранении и названия внутренних файлов», — добавил представитель.
OpenAI утверждает, что инцидент произошел в июне, и что она уведомила правительство Австралии 10 сентября.
«В течение этого времени мы проверяли и расследовали факты и то, какая информация была получена», — сообщил представитель The Register.
Мы запросили у OpenAI дополнительную информацию об инциденте и обновим эту статью, если получим существенный ответ.
Неясно, почему Албаниз ждал две недели, чтобы раскрыть инцидент, но перед встречей ООН Австралия подписала Призыв к контролю над передовыми моделями ИИ — предложение 21 страны по регулированию ИИ. Премьер-министр также использует свой визит в ООН для выдвижения кандидатуры Австралии на непостоянное место в Совете Безопасности Организации Объединенных Наций.
В прошлом году Австралия использовала встречу ООН для продвижения своего запрета на доступ детей младше 16 лет к социальным сетям. Ожидается, что Албаниз обсудит предложенный его правительством «цифровой долг заботы» для технологических платформ, который потребует от технологических компаний избегать предвидимого вреда для пользователей, на встречах в этом году.
Премьер-министр считает борьбу с Big Tech с помощью строгих правил политически выгодной, часто связывая действия правительства с уменьшением вероятности самоповреждения у детей. Он часто использует фразу «нам нужно формировать технологии, а не позволять им формировать нас», чтобы резюмировать политику своего правительства.
У каждого австралийца есть учетная запись Medicare, эта схема популярна и является флагманской политикой Лейбористской партии Албаниза.
Таким образом, действия OpenAI дают премьер-министру оружие для отстаивания более строгого регулирования технологических компаний.
Албаниз пытается ввести эти правила, не отпугивая инвестиции. На прошлой неделе он добился успеха, когда Anthropic решила стать долгосрочным арендатором кластера дата-центров мощностью 1,4 ГВт, который в настоящее время строится на юге страны.
Однако премьер-министр сталкивается с критикой из-за намеков на то, что для привлечения инвестиций он может ослабить австралийские законы об авторском праве. В Австралии нет исключений на добросовестное использование, на которые опираются компании ИИ при сборе контента в других юрисдикциях. Албаниз заявил, что любые изменения в законах об авторском праве будут воплощать два принципа: авторы «будут контролировать свою интеллектуальную собственность», и «любое использование должно монетизироваться», но не предоставил подробностей о том, что это будет означать.
APRA AMCOS, организация, представляющая австралийских композиторов и музыкантов, на прошлой неделе раскритиковала подход компаний ИИ к сбору обучающих данных.
«Они нашли деньги почти для каждой лоббистской фирмы в Канберре. Они нашли деньги для дата-центров, электроэнергии и чипов Nvidia», — написал генеральный директор Дин Ормстон. «Но у них нет намерения платить за самый важный компонент для обучения и работы передовой большой языковой модели, которым является творческий контент. И они хотят не только австралийскую интеллектуальную собственность. Это интеллектуальная собственность Австралии и всего мира, обученная в дата-центрах здесь без единого лицензионного соглашения».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Simon Sharwood
