Новости: промпт-инъекции

Взлом AI-агента: пошаговый план реагирования на инцидент в первые 24 часа. Реальные кейсы GTG-1002, EchoLeak и OAuth-компрометации. Узнайте, как сдерживать угрозу по идентификатору, анализировать цепочку решений модели и предотвращать повторные атаки. Практические рекомендации для команд безопасности.

CrowdStrike выявила пять новых техник prompt injection, угрожающих предприятиям. Атаки используют растущее применение AI в организациях. Описаны методы: Trigger-Activated Rule Addition, Cognitive Token Suppression, Algorithmic Payload Decomposition, Special Token Injection и Unwitting User Context-Data Injection. Рекомендации по защите включают моделирование угроз и расширенное тестирование.