Не нужно быть провидцем, чтобы понять, куда движется корпоративный IT. В ноябре McKinsey сообщила, что 62% мировых организаций экспериментируют, пилотируют или масштабируют проекты с агентным ИИ. А недавно Gartner спрогнозировал, что мировые расходы на ИИ превысят $2,59 трлн в 2026 году — рост на 47% по сравнению с прошлым годом. Но вместе с возможностями ИИ приходят и риски.
Две трети организаций за последний год столкнулись с инцидентами кибербезопасности, связанными с ИИ-агентами, согласно Cloud Security Alliance (CSA) — это подчеркивает, что такие риски больше не являются гипотетическими.
Стремясь защитить свои организации путем внедрения безопасного и управляемого использования ИИ, руководители по безопасности упускают из виду критическую роль зрелого управления API. Обеспечение безопасности ИИ на уровне агентов — лишь часть решения. Без тщательного обнаружения, защиты и управления API другие инвестиции в безопасность ИИ могут оказаться напрасными.
Почему безопасность API важна для ИИ
ИИ — ничто без API. LLM потребляют и генерируют огромные объемы данных, доступ к которым осуществляется через API в невероятных масштабах. API, которые раньше вызывались около сотни раз в день, теперь получают тысячи запросов каждую минуту благодаря рабочим нагрузкам на базе ИИ.
Неудивительно, что API стали ключевым механизмом для злоумышленников, позволяющим эксплуатировать ИИ-системы или выводить данные в обратном направлении. Проблема в том, что API уже давно создают трудности для команд безопасности.
Около 87% организаций в прошлом году столкнулись с инцидентами безопасности, связанными с API, причем API, связанные с ИИ, были наиболее часто упоминаемым типом инцидентов, согласно одному исследованию. В другом исследовании в прошлом году было зафиксировано 439 новых CVE, связанных с ИИ, за предыдущие 12 месяцев, что означает годовой рост на 1025%. Почти все они были напрямую связаны с API, включая ошибки внедрения, неверные конфигурации и новые уязвимости повреждения памяти.
Закрытие этого пробела в безопасности важно не только для смягчения финансового и репутационного ущерба от наихудшего сценария утечки данных. Это также становится все более важным для удовлетворения требований регуляторов. И NIS2, и DORA, хотя и не являются нормативными актами, ориентированными на ИИ, безусловно, убедительно обосновывают необходимость рассмотрения возможностей ИИ через призму устойчивости и безопасности.
Не видеть — значит не знать
Одна из самых острых проблем безопасности API — это распространение теневых и «зомби»-API. Современные облачные и микросервисные среды сильно распределены, API разбросаны повсюду, и многие из них забыты или никогда не были задокументированы. Для ИИ-агента это не имеет значения. Они очень изобретательны в обнаружении доступных API, даже если их специально не просили или не уполномочивали использовать этот подход. Если API предлагают путь для выполнения поставленной задачи, ИИ-агенты неизменно находят и используют их.
Проблема в том, что эти теневые или «зомби»-API могли быть спроектированы небезопасно или не соответствовать текущим политикам управления организации, что приводит к потере данных или другим непреднамеренным последствиям. Это было серьезной проблемой еще до того, как Mythos изменил правила игры как для защитников систем, так и для противников. С учетом того, что передовые модели способны обнаруживать уязвимости и объединять эксплойты с совершенно новой скоростью и масштабом, задача обеспечения безопасности API становится еще более актуальной.
Планирование наихудшего сценария
У злоумышленников — вооруженных новейшими ИИ-моделями или нет — есть множество возможностей для поиска уязвимостей API. Также накапливаются реальные примеры инцидентов, когда ИИ-агенты выходили из-под контроля.
Один из самых широко освещенных случаев произошел, когда кодинг-агент Cursor навсегда удалил рабочую базу данных клиента всего за девять секунд. Для этого он нашел токен API, хранящийся в несвязанном файле, который имел неограниченные разрешения. Для выполнения операции не требовалось подтверждения от API. В аналогичном инциденте ИИ-агент Replit удалил рабочую базу данных, несмотря на инструкцию этого не делать.
Это полезные предостерегающие истории. Есть три ключевые меры, которые руководители по безопасности могут внедрить, чтобы гарантировать, что этого никогда не произойдет в их организации:
- Начните с обнаружения — потому что нельзя защитить то, чего не видишь. Руководителям по безопасности необходимо обеспечить автоматический и непрерывный сбор и документирование всех API, работающих в их среде — как внутренних, так и сторонних, — чтобы иметь полный, точный и актуальный инвентарь.
- Сосредоточьтесь на защите во время выполнения — чтобы смягчить последствия эксплуатации уязвимостей нулевого дня. Уязвимостей слишком много, чтобы исправить их все. Команды перегружены, а времени не хватает. Не все можно исправить со скоростью ИИ — по крайней мере, пока. Методы защиты во время выполнения, такие как создание правил и сигнатур в межсетевых экранах веб-приложений, являются лучшим решением, позволяя командам безопасности предотвращать эксплуатацию уязвимостей извне.
- Не пренебрегайте внутренними угрозами — злоупотребление API широко распространено, поэтому также важно обеспечивать соблюдение политик управления в отношении поведения пользователей. Руководителям по безопасности следует внедрять меры, позволяющие командам выявлять аномалии, выходящие за рамки ожидаемого поведения, чтобы они могли быстрее реагировать. Для этого необходимо учитывать, какой уровень аутентификации и разрешений требуется для конкретных API, как с точки зрения человека, так и с точки зрения агента. Инструменты ИИ никогда не должны иметь достаточных разрешений для удаления целых рабочих баз данных.
Безопасность на скорости ИИ
То, что отделит победителей от проигравших в будущем, — это способность управлять рисками таким образом, чтобы не сковывать бизнес. Это означает гибкие, ненавязчивые подходы, основанные на безопасности по умолчанию, построенные на защите во время выполнения и всесторонней видимости состояния API.
Автомобильный сектор — отличный пример того, что сейчас происходит с ИИ. Когда отрасль только зарождалась, основное внимание уделялось базовым функциям, позволяющим владельцу добраться из точки А в точку Б. С увеличением скорости люди потребовали безопасности — ремней безопасности, ABS и дуг безопасности.
Сегодня мир ИИ также ускоряется. Бизнес перешел от стадии простого желания увидеть, что он работает. Теперь им нужна безопасность и контроль — и это начинается на уровне API.
Эта статья опубликована в рамках сети экспертных участников Foundry.
Хотите присоединиться?
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Adam Arellano
