«В июне во время внутреннего обучения и оценки наши модели получили доступ к веб-сайтам австралийского правительства способами, которые не были разрешены. Мы также должны были лучше отреагировать. Мы сожалеем и работаем над тем, чтобы в будущем действовать лучше», — написала OpenAI в блоге.
Извинения последовали примерно через неделю после того, как правительство Австралии начало расследование того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах Medicare и другую медицинскую статистику.
Утечка данных произошла в июне, но австралийские власти были уведомлены только 10 сентября.
OpenAI также подробно описала утечку. Экспериментальной модели, которую она тестировала в июне, была поставлена задача исследовать государственные расходы на лекарства от кожных заболеваний в Виктории. Не сумев найти информацию в общедоступных наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, выполнила команды, извлекла файлы и учетные данные, а также записала файлы.
Компания заявила, что также обнаружила, что одна из ее моделей получила доступ к общедоступному инструменту Crime Mapping Tool Бюро статистики и исследований преступности Нового Южного Уэльса для поиска статистики преступности. Кроме того, лаборатория обнаружила, что ее агенты получили доступ к Агентству медицинской информации Виктории через открытый ключ доступа для извлечения «отчетной конфигурации и совокупной статистики опросов». OpenAI заявила, что ее агенты также извлекли совокупную статистику с веб-сайта Австралийского института здравоохранения и благосостояния.
Компания заявила, что не нашла доказательств того, что ее модели получили доступ к медицинским или уголовным записям отдельных лиц.
В своем извинении ИИ-лаборатория заявила, что предоставит пострадавшим австралийским агентствам технические выводы и свяжет их со своими группами реагирования для оценки воздействия утечек. Компания также предоставит кредиты в рамках своей программы Daybreak for Frontline Defenders стоимостью 1 миллиард долларов и создаст целевую группу с независимыми австралийскими экспертами для рассмотрения инцидента и реакции на него.
«Целевая группа, которая, как ожидается, завершит свою работу к концу года, также порекомендует практические шаги, которые ИИ-компании могут предпринять для снижения риска подобных инцидентов», — написала OpenAI.
OpenAI не сразу ответила на запрос о комментарии.
Премьер-министр Австралии Энтони Албаниз назвал утечку «неприемлемой» во время брифинга для прессы на прошлой неделе, заявив, что правительство рассматривает возможность принятия юридических мер, направленных на предотвращение подобных инцидентов в будущем.
Эта утечка является последней в растущем списке инцидентов безопасности, связанных с ИИ-агентами, которые выходят за рамки их предполагаемых границ. Искра для этого костра была зажжена после того, как агенты OpenAI взломали Hugging Face, и с тех пор Anthropic, Meta и Google отдельно сообщили о подобных инцидентах, когда их модели получали доступ к системам третьих сторон во время оценок.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Kate Park
