OpenAI нахваливает безопасность данных для своих сервисов ИИ, однако Check Point заявляет, что ChatGPT позволял данным утекать через побочный канал DNS до того, как уязвимость была устранена.
В феврале щедрая на траты компания, занимающаяся ИИ, устранила уязвимость эксфильтрации данных в ChatGPT, которая позволяла одному запросу обойти предполагаемые меры защиты, внедренные OpenAI.
“Мы обнаружили, что один вредоносный запрос мог активировать скрытый канал эксфильтрации внутри обычного диалога ChatGPT”, — заявили исследователи Check Point в посте в блоге в понедельник.
Так быть не должно. OpenAI внедрила различные меры защиты вокруг ChatGPT, чтобы ограничить эксфильтрацию данных с помощью различных инструментов, которые он может использовать. Например, компания утверждает: “Среда выполнения кода ChatGPT не может напрямую генерировать исходящие сетевые запросы”.
Но исследователи Check Point обнаружили, что это не совсем так.
“Обнаруженная нами уязвимость позволяла передавать информацию на внешний сервер через побочный канал, исходящий из контейнера, используемого ChatGPT для выполнения кода и анализа данных”, — сообщили исследователи. “Критически важно, что поскольку модель работала исходя из предположения, что эта среда не может напрямую отправлять данные наружу, она не распознавала такое поведение как внешний перенос данных, требующий противодействия или вмешательства пользователя”.
Что это за побочный канал? Система доменных имен (DNS), которая преобразует доменные имена в IP-адреса.
Специалисты по безопасности из Check Point объясняют, что, хотя OpenAI не позволяет ChatGPT общаться с интернетом без разрешения, у нее не было никаких средств контроля за данными, проносимыми через DNS.
Компания по безопасности создала три демонстрационных атаки (proof-of-concept), показывающие, как можно злоупотребить этим побочным каналом. Одна из них включала “GPT”, стороннее приложение, реализующее API ChatGPT, которое служило персональным аналитиком здоровья.
В демонстрации пользователь загрузил PDF-файл, содержащий лабораторные результаты и личную информацию, для интерпретации этим GPT. Приложение выполнило анализ, и когда его спросили, загрузило ли оно данные, “ChatGPT уверенно ответил, что нет, объяснив, что файл хранится только в безопасном внутреннем хранилище”.
Тем не менее, приложение GPT передало данные на удаленный сервер, контролируемый злоумышленником.
Подобные уязвимости предполагают серьезные последствия для регулируемых отраслей, использующих сервисы ИИ. Если бы корпоративный сервис ИИ допустил утечку такого рода данных, это могло бы стать нарушением GDPR, утечкой данных HIPAA или нарушением различных правил финансового соответствия.
Сообщается, что OpenAI устранила эту конкретную проблему 20 февраля 2026 года. Компания, занимающаяся ИИ, не сразу ответила на запрос о комментариях. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
