OpenAI уделяет первостепенное внимание безопасности и защите на платформе, представив последнюю функцию — «Режим блокировки» (Lockdown Mode). Это новая настройка в ChatGPT, которая обеспечивает пользователям повышенную защиту от атак.
В интернете таится множество угроз, и одна из них — печально известная «атака внедрения подсказок» (prompt injection attack), которая обманом заставляет чат-ботов и модели раскрывать информацию, которую злоумышленники хотят извлечь, украсть и использовать в своих целях.
AI-компания Сэма Альтмана недавно опубликовала справочный документ, подтверждающий запуск новой функции «Режим блокировки», призванной помочь защитить пользователей от угроз в сети.
OpenAI заявляет, что «Режим блокировки» — это «дополнительная настройка безопасности по выбору, которая ограничивает многие инструменты и возможности в продуктах OpenAI, способные подключаться к интернету или внешним сервисам». Проще говоря, это означает, что OpenAI отключит свою платформу ChatGPT, приложения, модели и прочее от интернета и других внешних сервисов, чтобы избежать атак любого рода.
По данным OpenAI, функция «Режим блокировки» доступна только пользователям, создавшим учетные записи на платформе. Для использования этой функции необходимо войти в свою учетную запись.
Однако OpenAI сообщила, что все еще находится в процессе развертывания «Режима блокировки» для различных типов учетных записей, включая соответствующие личные учетные записи, а также платные подписки Free, Go, Plus, Pro и самообслуживаемые учетные записи ChatGPT Business.
Чтобы получить доступ к «Режиму блокировки», пользователям необходимо перейти в Настройки (Settings) > Безопасность (Safety and security) > Расширенная безопасность (Advanced security) > и выбрать Режим блокировки (Lockdown mode).
Издание Engadget сообщило, что OpenAI внедрила «Режим блокировки» для частных лиц и организаций, которым требуется более строгая защита от потенциальной эксфильтрации или рисков извлечения данных, особенно тех, которые возникают в результате атак внедрения подсказок.
Атаки внедрения подсказок разрабатываются злоумышленниками на фоне роста популярности чат-ботов с искусственным интеллектом в IT-индустрии как способ обмана таких платформ, как ChatGPT. Атака сосредоточена на использовании специфических скрытых языков, которые в большинстве случаев трудно различимы для людей, даже для обученных специалистов.
Атака основана на добавлении скрытого языка, который могут понять или увидеть только чат-боты, и в этом языке содержатся инструкции, способные манипулировать этими платформами для выполнения требований злоумышленника.
Это включает в себя разглашение личной и конфиденциальной информации, такой как адреса, данные кредитных карт, учетные данные для входа и многое другое.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Isaiah Richard
