Новости: prompt injection

Узнайте, как атака InjecMEM одним промптом внедряет скрытые инструкции в память ИИ-агента и управляет будущими ответами. На MemoryOS успех достиг 76,6%. Поймите, почему текущие защиты не справляются и как защитить корпоративные системы от отравления памяти.

Microsoft наконец исправила критическую уязвимость Copilot CoSnitch, позволяющую одним кликом выполнять произвольные промпты и эксфильтровать данные. Узнайте, как Varonis атаковала Copilot, и почему CISO стоит задуматься об отключении ИИ-помощника.

Судья предупреждает: истцы pro se неправильно используют чат-ботов и в отчаянии прибегают к prompt injection. Узнайте, как скрытые инструкции ИИ в судебных документах создают опасный прецедент и почему суды должны готовиться к новым атакам.

Используйте контекстную бомбардировку, чтобы заставить хакерских ИИ-агентов отключаться до того, как они успеют нанести вред. Новый метод защиты от prompt injection размещает запрещённые команды в облачных секретах, провоцируя отказ модели. Узнайте, как это работает и почему это эффективно против ведущих LLM, включая Opus, Gemini и DeepSeek.

Атака «HalluSquatting» использует неспособность LLM сказать «Я не знаю», позволяя создавать ботнеты через галлюцинации ИИ-помощников при поиске ресурсов.

Исследователи обнаружили две уязвимости (CVE-2026-50548 и CVE-2026-50549) в IDE Cursor, позволяющие через prompt injection добиться RCE и выйти из песочницы выполнения команд. Уязвимости устранили в версии 3.0.

Недавняя атака SearchLeak на Microsoft M365 Copilot Enterprise выявила угрозу prompt injection, основанную на использовании параметра URL для внедрения команд ИИ. Атака позволяла утекать конфиденциальные корпоративные данные через специально созданные ссылки. — csoonline.com

Вредоносная кампания Hades теперь обманывает ботов ИИ, заставляя их не сканировать пакеты разработки, поскольку промпты о создании биологического и ядерного оружия активируют механизмы защиты. — tomshardware.com

Дорогие хендлы Instagram* крали и перепродавали до того, как Meta* исправила уязвимость, связанную с чат-ботом поддержки на базе ИИ. — arstechnica.com

Исследователи выявили уязвимость внедрения подсказок в IDE Antigravity от Google, позволяющую обойти песочницу и выполнить удаленный код (RCE). Проблема связана с вызовом нативных функций ИИ-агентами, что обходит меры безопасности. — csoonline.com