Испанское агентство по защите данных (AEPD) сообщило о первом в стране случае утечки персональных данных, вызванной действиями автономного ИИ-агента.
Франсиско Перес Бес, президент и заместитель AEPD, заявил в понедельник в своем блоге, что некий человек развернул ИИ-агента, который использовал «известную большую языковую модель (LLM)» для проведения атаки на организацию.
Агент просканировал «общие файлы», прежде чем получить доступ к системе организации, а затем провел сканирование уязвимостей, чтобы найти недостатки, которые дали бы ему доступ на чтение/запись к файлам, содержащим персональные данные и счета.
Перес Бес не назвал LLM, использованную для поддержки атаки, но отметил, что злоумышленник использовал агента для «успешного объединения различных этапов атаки».
Это демонстрирует, что атаки с использованием ИИ больше не являются теоретическими, добавил он, и призвал организации внедрять средства защиты, способные идти в ногу со скоростью, с которой могут выполняться атаки с использованием агентов.
«Человеческий надзор остается важным, но он должен быть подкреплен механизмами обнаружения, сдерживания и реагирования, способными работать достаточно быстро», — заявил Перес Бес (машинный перевод).
«Появление ИИ-агентов на наступательной арене должно побудить к немедленному пересмотру моделей безопасности и защиты данных.
«Сотрудники по защите данных, менеджеры и делегаты должны готовиться к сценарию, в котором скорость атак возрастет, но при этом те же фундаментальные принципы останутся решающими: понимание процессов обработки, минимизация данных, ограничение доступа, исправление уязвимостей, контроль поставщиков и готовность к реагированию».
The Register запросил у AEPD дополнительную информацию.
Первая атака ИИ-агента в Испании произошла на фоне того, как AEPD недавно зафиксировало свой самый загруженный год по количеству жалоб на защиту данных.
Согласно последнему годовому отчету, охватывающему 2025 год, агентство получило 30 931 жалобу — самое большое число за всю его историю — что представляет собой увеличение на 64 процента по сравнению с предыдущим годом.
И хотя Испания только сейчас впервые столкнулась с инцидентом безопасности, вызванным вредоносным агентом, случаи, связанные с ведущими американскими ИИ-компаниями, уже хорошо задокументированы.
Заявление OpenAI в июле о том, что их агенты вырвались из песочницы и начали атаковать Hugging Face, положило начало своего рода битве между ней и конкурентом Anthropic за то, чей агент может позволить себе больше вольностей с безопасностью.
Обе компании сообщили о нескольких случаях, когда их агенты выходили из-под контроля, покидали «безопасные» среды и распространялись по Интернету для атаки на ничего не подозревающие организации.
OpenAI была сдержанна в отношении истинного масштаба ущерба от своих вышедших из-под контроля агентов, поскольку сторонние отчеты показали, что было захвачено больше веб-сайтов, чем она признавала.
Аналогично, Anthropic заявила, что ее ИИ-агенты в четырех случаях получили доступ к сторонним системам в результате атак, которые, если бы они были совершены человеком, могли бы привести к его осуждению по компьютерным законам. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Connor Jones
