Компания OpenAI запустила в ChatGPT новую функцию безопасности под названием Lockdown Mode (Режим блокировки), предназначенную для обеспечения дополнительной защиты от так называемых «атак внедрения промптов» (prompt injection attacks).
Атака внедрения промпта — это когда кто-то создает обманчивый запрос с целью заставить большую языковую модель (LLM) выполнить вредоносные инструкции и/или раскрыть конфиденциальную информацию.
Эти обманчивые запросы часто скрыты в веб-страницах и других источниках данных, которые люди легко пропускают, но которые LLM считывают и обрабатывают. Атаки внедрения промптов использовались для самых разных целей, например, для захвата управления браузером Perplexity AI, управления устройствами умного дома через Google Gemini и кражи личной информации через сжатые изображения и Google Calendar.
Впервые анонсированный в феврале, Режим блокировки теперь будет ограничивать и/или отключать ряд функций ChatGPT при активации, включая просмотр веб-страниц в реальном времени (в пользу кэшированного контента), получение и отображение веб-изображений, Deep Research и Agent Mode.
OpenAI подчеркивает, что эта функция не может полностью устранить риск атак внедрения промптов, поскольку вредоносные инструкции всегда могут присутствовать в загруженных файлах или кэшированном контенте.
На момент написания этой статьи Режим блокировки развертывается для всех типов учетных записей ChatGPT, включая бесплатные, Go, Plus и Pro. Если вы не видите Режим блокировки в своих настройках, возможно, он еще не был вам доступен, и придется немного подождать.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Viktor Eriksson
