Компания OpenAI уволила двух исследователей по безопасности и одного менеджера программы за предполагаемое ненадлежащее обращение с конфиденциальной информацией компании.
Создатель ChatGPT подтвердил увольнения The Register, заявив, что внутреннее расследование выявило нарушение сотрудниками правил компании, регулирующих доступ и обращение с конфиденциальной информацией.
«Мы расстались с тремя сотрудниками за нарушение наших политик доступа и обращения с конфиденциальной информацией компании», — заявил представитель OpenAI. «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши политики и подрывая доверие, необходимое для нашей работы».
По меньшей мере часть информации была якобы передана внешней организации, которая оценивает системы ИИ. OpenAI заявила, что ее расследование выявило и другие нарушения, помимо этого раскрытия, но не описала их и не назвала организацию.
Создатель ChatGPT заявил, что сотрудники не были уволены за поднятие вопросов безопасности ИИ.
Увольнения произошли после нескольких непростых месяцев для команд по безопасности OpenAI, включая инцидент, когда один из ее агентов скомпрометировал инфраструктуру платформы ИИ Hugging Face.
Впоследствии OpenAI привлекла внешних экспертов для расследования произошедшего и опубликовала результаты, подробно описывающие поведение агента и сбои в системе безопасности, которые позволили ему получить доступ к Hugging Face.
Этот инцидент также привел к более масштабной проверке журналов OpenAI на предмет других случаев взаимодействия агентов с внешними системами. На этой неделе OpenAI сообщила, что уведомила более 100 организаций об активности, связанной с ее агентами.
Получение уведомления не обязательно означает, что организация была взломана или что были получены личные данные. OpenAI заявила, что уведомления охватывают случаи, когда агенты взаимодействовали со сторонними системами без разрешения или таким образом, который требовал оповещения их операторов.
Расследование OpenAI также выявило случаи, когда ее агенты отправляли данные для обучения и оценки сторонним сервисам. В 53 случаях изображения, первоначально загруженные пользователями ChatGPT, оказались на сайтах для размещения изображений.
20 сентября агент связался с внешним чат-ботом через недостаточно отфильтрованный DNS-трафик в среде обучения, предназначенной для блокировки доступа к Интернету. Система мониторинга OpenAI обнаружила это поведение в течение 15 минут, а человек-рецензент получил оповещение через три минуты, но процесс был остановлен только через два с половиной часа.
OpenAI также отменила запланированный выпуск GPT-6.1 Astra, заключив, что модель не соответствовала ее требованиям безопасности в отношении соблюдения рамок и авторизации поставленных задач.
Американская компания не сообщила, касались ли предположительно ненадлежащим образом обработанные материалы каких-либо из ее недавних инцидентов с агентами, была ли внешняя организация вовлечена в их расследование, или были ли раскрыты какие-либо данные клиентов или пользователей. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page
