Новости: инъекция промптов

Новые трюки с инъекцией промптов от wunderwuzzi: Claude Code в Auto Mode выполняет код атакующего при запросе обобщить сайт. Узнайте, как работает атака через затенение модулей Python и почему песочница — единственная защита.

Исследователи Forcepoint показали, как скрытый HTML в письме заставляет ИИ-суммаризатор читать другой текст. Узнайте, как защититься от инъекций промптов и не допустить подмены данных в почтовых ассистентах.

Ложка шифрования помогает вредоносу проскользнуть: новая атака на Grok использует зашифрованные инструкции, обходя защитные фильтры и воруя историю чата. Узнайте, как работает криптографическая контекстная инъекция и почему уязвимы даже передовые ИИ-модели.

Криптографическая контекстная инъекция — новый способ взломать защитное ограждение LLM. Исследователи Adversa показали, как зашифрованные инструкции обходят фильтры Grok и Gemini, заставляя ИИ красть личные данные. Узнайте, почему статические ограждения бессильны против этой атаки.

Узнайте, как исследователи заставили Microsoft Copilot раскрыть собственную уязвимость CoSnitch. Используйте социальную инженерию ИИ для кражи данных и отравления памяти. Получите технические детали атаки и защиты.

Уязвимость в Atlassian Rovo: один клик по ссылке позволяет злоумышленникам похищать данные через Slack, Microsoft 365 и Google Workspace. Исследователи Varonis показали атаку RovoBlast на DEF CON 34. Узнайте, как защититься от инъекции промптов и ограничить радиус поражения AI-ассистента.

Узнайте, почему LLM нельзя полностью защитить от взлома. Исследователи объясняют фундаментальный недостаток — модели определяют роли по стилю, а не по тегам. Результат: атаки на ведущие модели, включая GPT-5 и Claude, с извлечением опасной информации. Поймите, как защитить свои системы.

Размеченные разделы входной последовательности LLM призваны обеспечить безопасность через доверенные роли, но выяснилось, что модели оценивают, звучат ли вводы так, будто они принадлежат определенным тегам, вместо того чтобы буквально их интерпретировать, что делает их уязвимыми для инъекции промптов.

В июне 2025 года Саймон Уиллсон, инженер, придумавший термин «инъекция промптов», опубликовал предупреждение о «смертельной триаде» — трех возможностях ИИ-агента (доступ к данным, недоверенный контент, внешние коммуникации), создающих путь к эксплуатации через косвенную инъекцию промптов. — csoonline.com

Новое исследование StakeBench показало, что веб-агенты на базе GPT-5 и Gemini не имеют надежной защиты от инъекций промптов. Атаки достигают успеха, нанося вред третьим сторонам, даже если задача пользователя выполняется. — csoonline.com