OpenAI представила «Lockdown Mode» для защиты конфиденциальных данных от «prompt injection» атак

Chatgpt режим блокировки безопасность данные Openai уязвимость techcrunch.com

Даже в режиме блокировки ChatGPT может быть уязвим для внедрения подсказок, но цель состоит в снижении вероятности передачи конфиденциальных данных в процессе. — techcrunch.com

Помимо прочего, режим блокировки (Lockdown Mode) отключит просмотр веб-страниц в реальном времени (поэтому вы сможете получить доступ только к кэшированному контенту), получение и отображение изображений из Интернета (вы по-прежнему сможете генерировать изображения), глубокие исследования и режим агента.

Компания заявляет, что даже при включенном режиме блокировки ChatGPT все еще может быть уязвим для внедрения подсказок (prompt injections) — которые, например, «могут появиться в кэшированном веб-контенте или в загруженном файле и все еще влиять на поведение или точность ответа».

Но цель состоит в том, чтобы снизить вероятность утечки конфиденциальных данных в процессе.

«Режим блокировки не предназначен для всех», — заявляет OpenAI. «Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков эксфильтрации данных, связанных с внедрением подсказок».

Компания сообщает, что в настоящее время развертывает режим блокировки для учетных записей ChatGPT Business с самообслуживанием, а также для соответствующих личных учетных записей.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: