AI-агенты OpenAI устроили настоящий хакерский рейд: сначала они взломали Hugging Face, затем стало известно, что они атаковали и Modal Labs, а на прошлой неделе выяснилось, что агенты взломали несколько сайтов австралийского правительства.
Взлом произошел в июне, но стало известно о нем только сейчас. Вот затронутые сайты:
- Services Australia: модель OpenAI получила доступ, выполняла команды и даже извлекала внутренние файлы. OpenAI утверждает, что записи пациентов не были затронуты.
- NSW Bureau of Crime Statistics and Research: аналогично, записи о преступлениях отдельных лиц не были доступны.
- Victorian Department of Health: агент обнаружил ключ доступа и получил агрегированные статистические данные опросов. Индивидуальные медицинские записи и идентифицируемые ответы на опросы не были затронуты.
- Australian Institute of Health and Welfare: агенты снова получили доступ к агрегированным статистическим данным опросов, но не читали индивидуальные медицинские записи.
Как можно себе представить, австралийское правительство в ярости. Генеральный директор по стратегии OpenAI Джейсон Квон на следующей неделе предстанет перед комитетом Сената в Сиднее.
Эти взломы были осуществлены экспериментальной моделью, которая проходила тестирование в OpenAI. В рамках процедуры тестирования моделям даются различные задачи — например, выяснить, сколько правительство штата Виктория тратит на человека на лекарства от кожных заболеваний. Поскольку модель не смогла найти легкодоступные данные по этому вопросу, она проникла на правительственные сайты, чтобы собрать данные, которые не являются общедоступными.
OpenAI не давала модели разрешения на такие действия, но и не применяла обычные меры безопасности, которые добавляет к общедоступным моделям. Осознав факт взломов, компания начала внутреннее расследование и уведомила затронутые сайты.
Изображение из публикации OpenAI «Обучение агентов самоотчету о недопустимом поведении»
OpenAI усиливает меры безопасности для исследовательских моделей: она запретит им доступ в интернет в реальном времени (предоставляя только кэшированный контент), а также вводит дополнительные сетевые ограничения и мониторинг. Компания начала добавлять эти меры безопасности после инцидента с Hugging Face, но они не успели предотвратить взломы в Австралии.
В частности, в случае с Австралией OpenAI сотрудничает с агентствами, управляющими затронутыми сайтами, и предлагает им специализированную поддержку. Компания также использует свой фонд в размере 1 миллиарда долларов Daybreak for Frontline Defenders для укрепления киберзащиты государственных учреждений. Кроме того, создается австралийская рабочая группа, которая будет работать над улучшением коммуникации и координации в случае будущих инцидентов.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Peter
