Компания OpenAI подробно описала масштабы своих неправомерных действий в Австралии во вторничном посте в блоге под названием «Как мы будем работать лучше для Австралии», посвященном новостям прошлой недели о том, что одна из ее моделей неправомерно получила доступ к веб-сайту, на котором хранятся данные, связанные с национальной программой медицинского страхования Medicare.
«Наши модели получали доступ к австралийским правительственным веб-сайтам способами, которые не были разрешены, — говорится в сообщении. — Мы также должны были лучше отреагировать. Мы сожалеем и работаем над тем, чтобы в будущем действовать лучше».
В сообщении приводятся некоторые новые подробности инцидента с Medicare, где говорится, что в нем участвовала «экспериментальная внутренняя модель OpenAI, которая не предназначалась для публичного выпуска и не имела полного набора мер безопасности, используемых в наших общедоступных продуктах».
OpenAI поручила модели исследовать государственные расходы на лекарства от кожных заболеваний в одном из австралийских штатов.
«Модель испытывала трудности с получением этой информации и предприняла действия, которые мы ей не разрешали предпринимать, — признала OpenAI. — В процессе поиска этой информации в Службе отчетности по статистике Medicare агентства Services Australia она обнаружила способ получить доступ к службе, не являющийся общедоступным. Затем она использовала этот доступ для просмотра технической системной информации и исходного кода, связанного со службой — все еще с целью попытаться найти информацию, которую она изначально искала».
На прошлой неделе The Register спросил OpenAI, проводила ли компания тесты самостоятельно или с помощью партнера. Компания не ответила на наш запрос.
В другом инциденте, раскрытом в новом сообщении, боты компании посетили Австралийский институт здравоохранения и благосостояния и безуспешно пытались обойти средства контроля доступа. Агентам все же удалось получить статистические данные, используя сторонние сервисы просмотра и загрузки, в том числе с веб-сайта института.
«Загруженные материалы, по-видимому, были общедоступными. Компрометации системы не было. Индивидуальные медицинские записи не были доступны, — написала OpenAI. — Компания не сообщила об инциденте, поскольку он «не соответствовал нашим порогам раскрытия информации, так как способ доступа казался соответствующим общедоступному доступу». OpenAI изменила свое решение и уведомила Институт 24 сентября — в день, когда премьер-министр Австралии объявил об инциденте с Medicare».
Еще один тревожный инцидент произошел в Агентстве медицинской информации штата Виктория, которое агенты OpenAI посетили после того, как «обнаружили незащищенный ключ доступа».
Агент использовал этот ключ для «получения конфигурации отчетности и агрегированной статистики опросов».
OpenAI оправдала себя в этом случае, написав: «Степень доступности этой информации неясна и зависит от политики доступа VAHI. Индивидуальные медицинские записи или идентифицируемые ответы на опросы не были доступны».
Четвертый инцидент, раскрытый в сообщении, показал, что агенты OpenAI посетили Бюро статистики и исследований преступности штата Новый Южный Уэльс и сделали запросы метаданных API и веб-сайта с использованием общедоступного инструмента исследований.
OpenAI пообещала «выделить необходимые ресурсы, чтобы помочь затронутым агентствам понять, что произошло, и оценить последствия» — что бы это ни значило. Компания также жертвует кредиты на сервис киберзащиты Daybreak и пообещала «создать целевую группу с независимыми австралийскими экспертами для разработки практических рекомендаций по управлению рисками, связанными с все более способными агентами ИИ».
Эта целевая группа «сосредоточится на улучшении процессов уведомления, укреплении координации между разработчиками ИИ и правительством, а также на выявлении мер по лучшей защите государственных систем».
OpenAI хочет, чтобы целевая группа представила рекомендации к концу 2026 года.
Это сообщение в значительной степени относится к жанру «Мы сожалеем и обещаем работать лучше в будущем», пионером которого была *Meta и который популярен среди организаций, допускающих утечки данных или испытывающих сбои.
The Register ожидает подобных заявлений на следующей неделе, когда главный стратег OpenAI Джейсон Квон выступит перед Совместным специальным комитетом Сената Австралии по искусственному интеллекту.
«Он ответит на вопросы о том, что мы знаем, как мы отреагировали, какие шаги мы предприняли и как мы будем действовать лучше в будущем», — заявила OpenAI. ®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Simon Sharwood
