безопасность llm

Обнаружен новый метод атаки в один клик под названием «Reprompt», который превращает ИИ-копилоты, такие как Microsoft Copilot, в инструмент для утечки данных. Исследователи Varonis Threat Labs выявили трехэтапную цепочку, обходящую защиту после первого запроса и предоставляющую злоумышленникам неограниченный доступ. Статья описывает механизм атаки и дает рекомендации по безопасности для разработчиков и пользователей.