Исполняющий обязанности директора Агентства по кибербезопасности и защите инфраструктуры США (CISA) прошлым летом загрузил конфиденциальные документы по государственным контрактам в общедоступную версию ChatGPT, что вызвало срабатывание автоматических систем безопасности и поставило под сомнение принципы управления искусственным интеллектом в агентстве, ответственном за защиту федеральных сетей и критической инфраструктуры.
Как сообщило издание Politico, Мадху Готтумуккала, возглавляющий CISA с мая 2025 года, загрузил как минимум четыре документа с пометкой «только для служебного пользования» на платформу ChatGPT от OpenAI в период с середины июля по начало августа. Документы содержали информацию о контрактах, не предназначенную для публичного разглашения.
По данным отчета, основанного на информации от четырех должностных лиц Министерства внутренней безопасности (DHS), датчики кибербезопасности зафиксировали эту активность в начале августа, сгенерировав несколько оповещений только за первую неделю.
Инцидент произошел, несмотря на то что Готтумуккала незадолго до начала работы в CISA лично запрашивал специальное разрешение на использование ChatGPT. В то время этот инструмент ИИ был заблокирован для большинства сотрудников DHS из-за опасений, что конфиденциальная информация может быть сохранена за пределами федеральных систем, отмечается в отчете со ссылкой на должностных лиц DHS.
Данные, вводимые в общедоступную версию ChatGPT, могут быть включены в обучающие наборы модели и доступны сотням миллионов пользователей. В отличие от инструментов ИИ, одобренных DHS, которые имеют механизмы контроля, предотвращающие выход входных данных за пределы федеральных сетей, публичный ChatGPT сохраняет загруженную информацию на серверах OpenAI.
Выявлены сбои в корпоративном управлении ИИ
Аналитики по безопасности заявили, что этот инцидент выявил системные сбои в том, как государственные ведомства, а следовательно, и предприятия, управляют исключениями при использовании инструментов ИИ для старших должностных лиц.
«FOUO (For Official Use Only) не является секретной информацией, но это все равно чувствительные государственные данные», — отметил Арджун Чаухан, директор практики в Everest Group. «Загрузка таких данных в общедоступный инструмент ИИ создает реальные риски: потерю контроля над данными, расширение поверхности воздействия, риск вторичного неправомерного использования и коллапс политических границ».
По словам Чаухана, эта ситуация повторяет ранние корпоративные инциденты, когда сотрудники вставляли конфиденциальные материалы в ChatGPT. Критическое различие заключается в том, что, по сообщениям, в CISA существовали механизмы контроля, но нарушение произошло по пути исключения. «Это подчеркивает основной провал в управлении. Исключения и доступ на уровне руководства — это часто те области, где контроль над ИИ дает сбой».
По мнению Чаухана, теперь федеральные агентства имеют политики в области ИИ и органы управления, но разрыв, по-видимому, заключается в исполнении, а не в намерениях. Безопасные, одобренные инструменты ИИ не всегда являются выбором по умолчанию или наиболее удобными, а правоприменение варьируется в зависимости от роли и уровня старшинства.
Сунил Варки, советник в Beagle Security, считает, что инцидент отражает более широкую организационную проблему. «Руководящие команды могут положительно отзываться об этих инструментах в целях обучения, повышения производительности и совершенствования коммуникаций, что непреднамеренно нормализует их использование», — сказал он. «В результате такие платформы быстро стали де-факто приложениями для повышения производительности, при этом к ним не применяется та строгость управления, которая обычно применяется к корпоративным системам, обрабатывающим конфиденциальную информацию».
Варки добавил, что напряженность между удобством и безопасностью часто становится причиной подобных инцидентов. Поскольку данные с пометкой «только для служебного пользования» формально не классифицируются, пользователи часто недооценивают их операционное, контрактное или репутационное воздействие.
Джайшив Пракаш, аналитик-директор в Gartner, заявил, что самый большой риск при загрузке должностными лицами документов с пометкой FOUO в публичные платформы ИИ — это потеря контроля над данными. «Вы не имеете никакого представления о том, как долго они хранятся, можно ли их когда-либо удалить или будут ли они раскрыты в ходе судебных запросов или обнаружения доказательств».
Пракаш подчеркнул, что организации должны предоставлять сотрудникам лицензированные, управляемые платформы ИИ с гарантированным размещением данных, согласованным с поставщиком, строгими запретами на обучение модели и минимальным сроком хранения. «Без этого люди продолжат обращаться к публичным инструментам ИИ из соображений удобства, подвергая риску конфиденциальную информацию».
Подвергнута сомнению достоверность руководства
По данным отчета, загрузка документов инициировала внутреннюю оценку в DHS с участием тогдашнего исполняющего обязанности генерального советника ведомства Джозефа Маззары и главного информационного директора Антуана Маккорда, а также главного информационного директора CISA Роберта Костелло и главного юрисконсульта Спенсера Фишера. Результаты этой оценки не разглашаются.
Представитель CISA Марси Маккарти подтвердила, что Готтумуккала получил разрешение на использование ChatGPT в рамках мер защиты DHS, охарактеризовав это использование как «краткосрочное и ограниченное». Она заявила, что он в последний раз использовал этот инструмент в середине июля 2025 года на основании разрешенного временного исключения, и что стандартная политика CISA блокирует доступ к ChatGPT, если только не предоставлено специальное разрешение.
Аналитики отметили, что срабатывание автоматических оповещений доказывает, что механизмы контроля способны выявлять неправомерное использование, однако сам факт инцидента на уровне руководства поднимает вопросы об ответственности.
«Поскольку это касается главы агентства по кибербезопасности, последствия в основном репутационные», — считает Чаухан. «Лидеры устанавливают поведенческие нормы. Отклонения подрывают культуру соблюдения правил и ослабляют доверие при консультировании других ведомств и операторов критической инфраструктуры».
Инцидент с ChatGPT добавляется к растущему числу противоречий, окружающих недолгий срок пребывания Готтумуккалы в должности. В декабре Politico сообщило, что он не прошел проверку на контрразведывательном полиграфе в конце июля, после чего DHS отстранило от работы шестерых штатных сотрудников, охарактеризовав проверку полиграфом как «несанкционированную».
CISA потеряло значительное число сотрудников с момента вступления в должность администрации Трампа: штат сократился с более чем 3300 до примерно 2200 человек из-за выкупов, досрочных выходов на пенсию и увольнений. Агентство сталкивается с предложенным сокращением бюджета почти на 500 миллионов долларов на 2026 финансовый год.
Ранее Готтумуккала занимал пост главного информационного директора Южной Дакоты при тогдашнем губернаторе Кристи Ноэм, ныне являющейся госсекретарем DHS. CISA не предоставило оперативного комментария по запросу.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
