Компания впервые сообщила, что 53 «изображения, предоставленные пользователями», были «размещены на сайтах для хостинга изображений в виде ссылок, которые не были общедоступными»; тем не менее, изображения могли быть обнаружены, даже если ссылки не были общедоступными.
«Это ненадлежащее использование этих данных», — заявила компания, констатируя очевидное. Хотя в политике конфиденциальности компании перечислены многие виды использования персональных данных, собираемых от пользователей, такая деятельность не входит в их число.
OpenAI заявила, что работает с поставщиками услуг хостинга над удалением этого контента, хотя часть его, по-видимому, все еще находится в сети. OpenAI сообщила, что не может уведомить затронутых пользователей, поскольку «наш технический подход и политика конфиденциальности» не позволяют ей «повторно связать» изображения с первоначальными поставщиками, но отказалась сообщить, как лаборатория определила, были ли изображения предоставлены пользователями.
Эта новость появилась в посте, обобщающем публичные заявления в рамках текущего обзора инцидентов, в ходе которых ее модели вышли из-под контроля компании, получили доступ в интернет и вели себя ненадлежащим образом. OpenAI заявила, что продолжит раскрывать анонимизированные сведения о подобных инцидентах, и сообщила, что связалась с десятками жертв, включая правительства, университеты и государственные учреждения, чтобы уведомить их о действиях агентов.
На этой неделе премьер-министр Австралии Энтони Албаниз заявил, что агенты OpenAI взломали базы данных, управляемые национальной системой здравоохранения его страны, что стало одним из нескольких инцидентов кибербезопасности в этом году, предположительно вызванных программой обучения или оценки OpenAI.
По данным OpenAI, ее агенты разместили изображения, предоставленные пользователями, в интернете до того, как компания внедрила ряд новых процедур безопасности, хотя точное время или причины этого остаются неясными. Новые меры безопасности были введены после того, как ее агенты взломали Hugging Face, платформу для моделей и бенчмарков ИИ.
Утечка этих изображений была раскрыта на фоне обвинений в адрес OpenAI со стороны математиков в том, что модели OpenAI использовали их работы для решения давних проблем в этой области, что лаборатория отрицает. Вопросы конфиденциальности и безопасности данных также осложняют усилия по внедрению инструментов ИИ на рабочих местах или продаже потребителям помощников на базе LLM.
OpenAI подчеркнула, что ее корпоративные пользователи автоматически исключаются из использования их взаимодействий для обучения будущих моделей; однако потребители по умолчанию включены, если они явно не отказываются от обмена своими данными. Даже в этом случае нажатие кнопки «большой палец вверх» или «большой палец вниз» в разговоре по-прежнему делает это взаимодействие доступным для обучения будущих моделей.
Эта статья была обновлена, чтобы включить заявление OpenAI о том, что она не может идентифицировать пользователей, предоставивших изображения, которые были опубликованы.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
