Инструменты безопасности для ИИ-инфраструктуры: полное руководство покупателя

Поскольку решения на базе генеративного ИИ (Generative-AI-Lösungen) распространяются во всех отраслях, потребность пользователей в безопасности растет. Удовлетворение этой потребности представляет собой вызов, поскольку технология оказывает огромное влияние на ИТ-инфраструктуру и корпоративные данные. И поскольку киберпреступники давно осознали, какой потенциал таится в этой ситуации.

Поэтому требуются новые, широкомасштабные меры защиты и реагирования, а также специализированное программное обеспечение для обеспечения безопасности инфраструктур ИИ. Это давно побудило различных поставщиков кибербезопасности разрабатывать соответствующие решения или дополнять существующие продукты необходимыми функциями. Этот растущий сегмент рынка безопасности также известен под названием “AI Security Posture Management” – сокращенно AI-SPM.

В этой статье вы узнаете:

• что представляют собой решения по обеспечению безопасности, защищающие инфраструктуры ИИ.
• что должны делать инструменты AI-SPM, и
• какие поставщики и продукты важны в этой области.

CSPM, DSPM и AI-SPM

AI Security Posture Management фокусируется на обеспечении целостности и безопасности систем ИИ и машинного обучения (ML). AI-SPM включает стратегии, инструменты и методы для мониторинга, оценки и оптимизации состояния безопасности данных, конвейеров, приложений и сервисов:

• мониторинга,
• оценки и
• оптимизации.

До сих пор инструменты управления состоянием безопасности разрабатывались для двух отдельных областей:

• Инструменты Cloud Security Posture Management (CSPM) призваны в целом защищать облачные операции, в первую очередь от неправильных конфигураций и неправомерного использования.
• Инструменты Data Security Posture Management (DSPM) призваны защищать от утечек данных и заражения вредоносным ПО.

Появление искусственного интеллекта (ИИ) и больших языковых моделей (LLM) создало потребность в третьей категории продуктов, которая контролирует управляемые облачные сервисы ИИ и их SDK (например, Hugging Face Transformer или Azure Open AI) и предотвращает неправомерное использование моделей ИИ – AI-SPM.

Необходимость этого подтверждается различными результатами исследований, статьями и другими ресурсами:

• Исследование специалиста по API Kong (загрузка в обмен на данные) приходит к выводу, что большинство респондентов нашли способы обойти ограничения на использование ИИ. Четверти даже не приходится сталкиваться с какими-либо руководящими принципами.
• Некоммерческая организация MITRE предоставляет всеобъемлющую базу данных тактик атак, основанную на наблюдениях “в дикой природе”, с помощью своего Adversarial Threat Landscape for Artificial Intelligence Systems (ATLAS).
• MIT также поддерживает активную базу данных, содержащую более 1700 рисков, связанных с системами ИИ.
• Еще одним источником для изучения методов атак, связанных с ИИ, является рейтинг эксплойтов LLM (PDF), опубликованный OWASP в 2023 году. Некоммерческая организация также опубликовала контрольный список безопасности GenAI.

Рекомендуется ознакомиться с этими источниками, прежде чем выбирать инструмент или функцию безопасности из области AI-SPM.

Что должно обеспечивать управление состоянием безопасности для ИИ

Инструменты в области AI Security Posture Management:

• как правило, предлагают конфигурации без агентов,
• получают доступ к облачным моделям и
• оставляют данные на существующих платформах.

Последнее служит как для безопасности, так и для предотвращения миграции связанных с этим массивных объемов данных. Кроме того, в инструментах безопасности для инфраструктур ИИ, конечно же, играют роль и функции, связанные с ИИ. Например, для классификации больших объемов данных, их отслеживания и обеспечения защиты от возможных попыток неправомерного использования и атак.

Некоторые поставщики расширили свои существующие решения CSPM или DSPM функциями AI-SPM – включая процедуры проверки соответствия (Compliance-Prüfverfahren), лучшие практики и политики, охватывающие все три типа управления состоянием безопасности. Другие предлагают более комплексные решения, включающие множество мер безопасности, связанных с ИИ. Например, для:

• защиты конвейеров и рабочих нагрузок ИИ,
• обнаружения случаев, когда модели ИИ ссылаются на конфиденциальные данные,
• проверки обучающих данных на предмет манипуляций со стороны третьих лиц или внешних приложений, или
• защиты сервисов и платформ ИИ.

Важные поставщики AI-SPM

Ниже мы собрали информацию о продуктах и функциях AI-SPM от девяти различных поставщиков. Все решения обещают защитить вашу инфраструктуру ИИ, но полагаются на разные подходы. Следует отметить, что это растущий рынок. Таким образом, продукты еще не так всеобъемлющи и интегрированы, как могли бы быть. Кроме того, различные другие поставщики услуг безопасности активно работают над аналогичными предложениями.

• Cyera.io специализируется на классификации данных и предлагает платформу DSPM, расширенную функциями AI-SPM. Решение, например, предоставляет информацию о том, к каким классам данных и хранилищам данных могут обращаться пользователи Microsoft Copilot.
• LegitSecurity поставила перед собой цель устранить “пробел в видимости ИИ” (AI Visibility Gap). Для этого платформа AI-SPM анализирует модели ИИ, репозитории кода, криптографические секреты и другие экземпляры, связанные с ИИ. На этой основе формируются оценочные баллы риска (Risk Scores) для соответствующей приоритизации. С помощью этого решения вы можете, например, отследить, какие пользователи используют Github Copilot на основе небезопасных моделей ИИ.
• Microsoft предоставляет функции AI Security Posture Management в рамках предварительной версии для своего предложения CSPM. Готовый продукт ожидается к концу 2024 года и будет использоваться для защиты приложений GenAI в сценариях мультиоблачных или гибридных облаков. Для этого, например, собирается ведомость материалов GenAI (AI BOM).
• Orca Security обещает, среди прочего, решение AI-SPM “от конца до конца” в рамках своей многоцелевой платформы безопасности. Оно сканирует, в частности, более 50 различных источников моделей ИИ и подает сигнал тревоги, если обнаруживает конфиденциальную информацию или секреты в них или в репозиториях обучающих данных.
• Palo Alto Networks в конце 2023 года завершила приобретение специалиста по DSPM компании Dig Security и полностью интегрировала его. Результат называется Prisma Cloud AI-SPM и позволяет, например, проводить сканирование на высоком уровне сервисов ИИ от AWS, Google Cloud и Azure. Кроме того, в середине 2025 года поставщик услуг безопасности приобрел поставщика решений для безопасности ИИ Protect AI.
• Securiti.ai обещает защиту экземпляров ИИ с помощью своего продукта “AI Security & Governance”. Это позволяет, например, оценивать и классифицировать риски моделей ИИ, проводить проверки соответствия или устанавливать меры контроля для данных и систем ИИ.
• Varonis также расширила свою платформу безопасности функцией “AI Security”. Это позволяет, среди прочего, обнаруживать и устранять рискованные неправильные конфигурации ИИ, помечать контент, сгенерированный ИИ, метками конфиденциальности, а также обнаруживать рабочие нагрузки ИИ или потоки данных, содержащие конфиденциальную информацию. Для Microsoft Copilot доступен собственный (платный) модуль – в ближайшее время ожидаются другие для Salesforce Einstein и Google Gemini.
• Wiz Security обладает соответствующим опытом в области DSPM и CSPM и предлагает выделенное решение AI-SPM. Оно обещает, например, всестороннее представление о конвейерах ИИ, а также возможности обнаружения путей атак или неправильных конфигураций.