ИИ ускоряет обнаружение уязвимостей в программном обеспечении, но также создает новое узкое место для защитников: необходимость решать, какие результаты, сгенерированные машиной, заслуживают расследования. Google решил временно прекратить прием определенных заявок на вознаграждение за обнаружение ошибок после всплеска в основном недействительных автоматизированных отчетов, что подчеркивает растущую проблему для команд безопасности, поскольку обнаружение уязвимостей с помощью ИИ начинает опережать возможности человеческой проверки.
Приостановка программы вознаграждений за обнаружение ошибок последовала за предыдущими попытками Google сократить объем низкокачественных материалов, поступающих в его команды безопасности. В марте компания ужесточила правила, регулирующие программу вознаграждений за уязвимости в открытом исходном коде, после сообщения о резком росте заявок, сгенерированных ИИ. Google заявил, что некоторые отчеты содержали неверные утверждения о том, как могут быть вызваны уязвимости, в то время как другие выявляли дефекты кода, которые имели незначительное практическое влияние на безопасность.
Google начал требовать более веские доказательства для некоторых классов уязвимостей, включая воспроизводимые результаты или принятые исправления. Позже компания прекратила вознаграждать за определенные отчеты об уязвимостях продуктов низкого уровня.
Однако большой объем отчетов не обязательно означает, что находки имеют низкую ценность. Например, Vercel в сентябре заявила, что получила 1285 отчетов об уязвимостях во время двухнедельного конкурса безопасности для своей среды Sandbox, при этом компания автоматизировала части процесса сортировки. Десятки заявок в конечном итоге были подтверждены.
Исследование уязвимостей с помощью ИИ также дает практические результаты. Критическая уязвимость в Rejetto HTTP File Server, обнаруженная с помощью модели поиска уязвимостей Mythos от Anthropic, позже стала целью попыток эксплуатации.
Проблема выходит за рамки программ вознаграждений за обнаружение ошибок. По мере того как предприятия внедряют инструменты с поддержкой ИИ в рабочие процессы безопасности приложений, обнаружение уязвимостей может опередить возможности проверки и устранения последствий того, что находят эти системы.
Для руководителей служб безопасности (CISO) вопрос заключается в том, смогут ли существующие процессы управления уязвимостями справиться с таким объемом, не позволяя низкоценным находкам поглощать ресурсы, необходимые для подтвержденных рисков.
Давление на проверку
Основная проблема заключается в том, что ИИ может увеличивать объем заявок быстрее, чем команды могут наращивать свои возможности проверки.
«Убедительный отчет может быть быстро сгенерирован», — сказал Бхупендра Чопра, директор по доходам Kanerika. «Его проверка все еще может потребовать от инженера отслеживания кода и тестирования заявленных условий атаки».
Опыт Google следует рассматривать как предупреждение об экономической стороне отчетности об уязвимостях, а не как доказательство того, что та же проблема уже широко распространена на предприятиях, по мнению Сакши Гровер, директора по исследованиям в области информационной безопасности и безопасности данных в IDC.
«ИИ может помочь исследователям обнаружить реальные уязвимости, но он также может сделать недорогим производство убедительных, слабо обоснованных отчетов», — сказала Гровер. «Команда, получающая отчет, по-прежнему должна установить, существует ли затронутый код, достижим ли заявленный путь атаки и существует ли значительное влияние на безопасность».
Это может повлечь прямые расходы для предприятий. Находка, которая попадает к владельцу приложения до того, как она была должным образом оценена, может потребовать времени инженеров, даже если затронутая версия программного обеспечения не развернута или уязвимый код недоступен в среде организации.
Чопра сказал, что команды безопасности должны проверять, действительно ли заявленный недостаток влияет на их среду, прежде чем рассматривать его как срочный приоритет для устранения. Гровер сказала, что руководители служб безопасности должны оценивать инструменты безопасности с поддержкой ИИ по действительным результатам, которые они дают, и усилиям, необходимым для их проверки, а не по необработанному количеству обнаруженных уязвимостей.
«Большая панель результатов сама по себе не является свидетельством лучшей безопасности», — сказала Гровер.
Сунил Варки, CISO, сказал, что предприятиям все чаще придется рассматривать сортировку как самостоятельную возможность обеспечения безопасности, используя требования к доказательствам, оценку достижимости и автоматическую фильтрацию перед тем, как результаты попадут к людям-рецензентам.
Устранение отставания
Следующая серьезная проблема заключается в том, что даже подтвержденные уязвимости конкурируют за ограниченные инженерные ресурсы.
«Больше отчетов не создает больше инженерных мощностей или окон для обслуживания», — сказал Чопра.
Гровер сказала, что технически действительная уязвимость может быть недоступна в развернутой среде, в то время как уязвимость с более низким уровнем серьезности может потребовать более быстрых действий, если она затрагивает открытую, критически важную для бизнеса систему. Это делает контекст развертывания и доказательства эксплуатации более полезными для приоритизации, чем полагаться только на рейтинг серьезности, сгенерированный сканером.
Результат сканирования следует рассматривать как гипотезу, а не как доказательство эксплуатируемой уязвимости, сказал Кит Прабху, основатель и генеральный директор Confidis. Команды по-прежнему должны установить, присутствует ли затронутый код и доступен ли он, воспроизвести проблему и оценить ее влияние в своей среде.
Одним из полезных индикаторов, добавил Чопра, является то, проводят ли аналитики больше времени, отклоняя слабые находки, в то время как подтвержденные высокорисковые уязвимости остаются нерешенными дольше. Если это произойдет, сам процесс отчетности может потреблять ресурсы, которые в противном случае использовались бы для снижения риска.
Гровер сказала, что руководители служб безопасности должны отслеживать усилия по проверке и возраст подтвержденных высокорисковых угроз, а не сосредотачиваться на количестве проблем, сообщаемых инструментом.
Сортировка как цель
Дешевые, правдоподобные отчеты об уязвимостях также могут создавать возможности для злоупотреблений. Чопра предупредил, что, хотя решение Google приостановить прием заявок на уязвимости продуктов не означает, что компания стала целью преднамеренной кампании по отвлечению внимания, такой сценарий вполне вероятен.
«Нефильтрованный канал отчетности может дать злоумышленникам способ потреблять ресурсы безопасности без предварительного взлома системы», — сказал он.
Например, злоумышленники могут отправлять вариации одного и того же заявления в несколько служб, заставляя команды безопасности тратить время на изучение каждой заявки, прежде чем определить, что они относятся к одной и той же проблеме.
Прабху сказал, что организации должны рассматривать большие объемы отчетов низкого качества как риск для устойчивости и рабочего процесса, не предполагая, что каждая плохая заявка является частью преднамеренной атаки.
Чопра сказал, что организации могут снизить этот риск, требуя воспроизводимых доказательств, группируя дублирующиеся отчеты и ограничивая отправку заявок при появлении закономерностей злоупотребления.
Более широкое использование ИИ для сортировки также может открыть еще один путь атаки. Гровер сказала, что вредоносные отчеты об уязвимостях могут содержать инструкции по внедрению подсказок (prompt injection), предназначенные для манипулирования оценкой ИИ-агента или побуждения его к выполнению действий через подключенные инструменты.
Поэтому отправленные текст и код следует рассматривать как недоверенный ввод, сказала она, а тестирование уязвимостей следует проводить вдали от производственных систем, а важные действия — независимо проверять.
«Следующее конкурентное преимущество будет заключаться не в более быстром обнаружении большего количества уязвимостей», — сказал Варки. «Оно будет заключаться в более быстром определении того, какие из них представляют реальный риск, а какие нет».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Prasanth Aby Thomas
