Новости: инъекция промптов

В июне 2025 года Саймон Уиллсон, инженер, придумавший термин «инъекция промптов», опубликовал предупреждение о «смертельной триаде» — трех возможностях ИИ-агента (доступ к данным, недоверенный контент, внешние коммуникации), создающих путь к эксплуатации через косвенную инъекцию промптов. — csoonline.com

Новое исследование StakeBench показало, что веб-агенты на базе GPT-5 и Gemini не имеют надежной защиты от инъекций промптов. Атаки достигают успеха, нанося вред третьим сторонам, даже если задача пользователя выполняется. — csoonline.com

Обзор эволюции фаззинга: от традиционных методов до применения генеративного ИИ для поиска уязвимостей в ПО. Рассматриваются преимущества ИИ в создании сложных тестов, угрозы со стороны злоумышленников, использующих ИИ для атак, и методы защиты чат-ботов от инъекций промптов.

Атаки на системы и инфраструктуру ИИ набирают обороты. Эксперты предупреждают, что организации спешили внедрять ИИ, пренебрегая усилением мер безопасности, и теперь не готовы противостоять угрозам: от отравления данных до инъекций промптов и кражи моделей. CISO должны разработать проактивную стратегию безопасности ИИ.