Новости: prompt injection

Исследователи выявили уязвимость внедрения подсказок в IDE Antigravity от Google, позволяющую обойти песочницу и выполнить удаленный код (RCE). Проблема связана с вызовом нативных функций ИИ-агентами, что обходит меры безопасности. — csoonline.com

Агенты ИИ в Microsoft Copilot Studio и Salesforce Agentforce уязвимы для атак Prompt Injection, позволяющих злоумышленникам внедрять вредоносные команды и эксфильтровать конфиденциальные данные, включая информацию из SharePoint. — csoonline.com

Агенты корпоративного ИИ, призванные оптимизировать рабочие процессы, могут легко спровоцировать утечку данных. Исследователи безопасности обнаружили уязвимости prompt-injection в Microsoft Copilot Studio и Salesforce Agentforce, позволяющие злоумышленникам выполнять вредоносные инструкции через безобидные запросы, внедренные в формы. — csoonline.com

Эксклюзив: Исследователи, обнаружившие уязвимости, получили вознаграждения в виде «пивных денег» и предупреждают, что проблема, вероятно, широко распространена. — theregister.com

Непрямой инъекционный ввод на панелях Grafana с ИИ позволяет злоумышленникам эксфильтровать конфиденциальные данные без аутентификации. Исследователи Noma Security предупреждают об уязвимости GrafanaGhost, позволяющей утекать финансовые метрики, данные клиентов и логи. — csoonline.com

Жестко закодированный лимит на правила запрета отключает автоматическое принудительное исполнение для объединенных команд. Уязвимость в Claude Code позволяет обходить блокировку рискованных действий. — theregister.com

Агент ИИ-браузер Comet от Perplexity оставлял локальные файлы открытыми для кражи через события календаря и расширение 1Password. — theregister.com

Исследователи Cyata обнаружили три критические уязвимости в официальном Git MCP-сервере Anthropic, которые могут быть использованы через prompt injection для компрометации LLM. Уязвимости позволяют выполнять произвольный код и изменять данные. Рекомендуется срочное обновление до версии 2025.12.18 и аудит совместной работы с Filesystem MCP.

Исследователи выявили и помогли устранить три критические уязвимости в Git MCP сервере Anthropic, которые позволяли удаленно выполнять код. Проблемы возникали при цепочке с другими MCP инструментами и эксплуатации уязвимостей, связанных с внедрением подсказок (prompt injection).

Обнаружена новая уязвимость в Google Gemini: хакеры могут использовать приглашения в календарь для внедрения вредоносных инструкций, что подчёркивает риски безопасности при интеграции генеративного ИИ в корпоративные рабочие процессы. Эксперты призывают к Zero Trust и ограничению привилегий ИИ.