Новости: prompt injection

Исследователи Cyata обнаружили три критические уязвимости в официальном Git MCP-сервере Anthropic, которые могут быть использованы через prompt injection для компрометации LLM. Уязвимости позволяют выполнять произвольный код и изменять данные. Рекомендуется срочное обновление до версии 2025.12.18 и аудит совместной работы с Filesystem MCP.

Исследователи выявили и помогли устранить три критические уязвимости в Git MCP сервере Anthropic, которые позволяли удаленно выполнять код. Проблемы возникали при цепочке с другими MCP инструментами и эксплуатации уязвимостей, связанных с внедрением подсказок (prompt injection).

Обнаружена новая уязвимость в Google Gemini: хакеры могут использовать приглашения в календарь для внедрения вредоносных инструкций, что подчёркивает риски безопасности при интеграции генеративного ИИ в корпоративные рабочие процессы. Эксперты призывают к Zero Trust и ограничению привилегий ИИ.

Исследователи PromptArmor обнаружили критические уязвимости в Bob, ИИ-агенте IBM для разработчиков. Атаки внедрения подсказок позволяют обходить механизмы безопасности и выполнять вредоносный код, даже при наличии одобрения от пользователя.

Новое исследование раскрывает, почему некоторые атаки внедрения подсказок могут сработать: языковые модели иногда ставят синтаксис выше смысла, что приводит к ошибкам и открывает путь злоумышленникам к обходу фильтров.