Код, сгенерированный ИИ, полон уязвимостей безопасности, однако предприятия внедряют его в производство всё активнее. Почему? Возможно, они излишне самоуверенны, не имеют реального представления о рисках безопасности или просто предпочитают игнорировать проблему в надежде, что она исчезнет сама собой.
Это опасная игра на заре эры агентного ИИ, что подчеркивается в новом отчете компании Checkmarx, специализирующейся на безопасности приложений.
Опрос тысяч руководителей служб безопасности выявил скрытую наивность в отношении кода, созданного ИИ, и его уязвимостей, даже несмотря на то, что такие инструменты, как Mythos от Anthropic, обнаруживают бреши в безопасности на порядки быстрее, чем любая команда специалистов по безопасности могла бы надеяться.
«Модели класса Mythos сокращают промежуток между возникновением уязвимости и появлением рабочего эксплойта с месяцев до минут», — отмечается в отчете. Предприятия, полагающиеся на традиционные инструменты и методы обеспечения безопасности, «не смогут выжить в этой реальности».
Безопасность как второстепенная задача
Опрос Checkmarx, в котором приняли участие 2350 руководителей по информационной безопасности (CISO), менеджеров по безопасности приложений (AppSec) и разработчиков из 14 стран, был сосредоточен на том, какой объем кода, разработанного ИИ, внедряют предприятия, какие уязвимости он создает, как это влияет на рабочие процессы разработчиков и общее отношение к коду ИИ и положению дел с безопасностью.
Сегодня почти половина производственного кода генерируется ИИ, и большинство предприятий также сообщают, что по меньшей мере половина их кодовой базы состоит из компонентов с открытым исходным кодом, согласно отчету.
Но чем больше кода, сгенерированного ИИ, выпускается в продакшн, тем больше уязвимостей обнаруживается. Предприятия, заявляющие, что 81–100% их кода создано ИИ, выпускают уязвимый код в 3,4 раза чаще, чем компании, использующие ИИ более консервативно, полагаясь на 20% кода или меньше, сгенерированного ИИ.
Кроме того, 70% разработчиков заявили, что генерация кода с помощью ИИ привела к появлению уязвимостей в 2025 году, а почти все опрошенные предприятия (93%) столкнулись как минимум с одним инцидентом безопасности, ставшим прямым следствием использования приложений, разработанных собственными силами.
Тем не менее, риск становится «нормализованным», отмечается в отчете: три четверти предприятий сознательно внедряют уязвимый код, поскольку сталкиваются с растущим давлением в отношении рентабельности инвестиций (ROI). Поразительно, но около 30% респондентов признались, что выпускают скомпрометированный код и надеются, что уязвимость не будет обнаружена. Аналогичным образом, более трети организаций оставляют половину известных уязвимостей без исправления в течение 90 дней и более.
В отчете указывается, что организационным узким местом является не обнаружение, «а человеческое решение все равно выпустить продукт, подавить находку или перенести ее на следующий спринт».
Вместе с этим команды AppSec часто ограничены реактивным реагированием на инциденты из-за разрастания числа инструментов. И разработчики занимаются непрерывным обеспечением безопасности кода лишь в небольшом проценте случаев (18%), хотя почти все они оснащены инструментами безопасности.
В конечном счете, разработчики «обречены на неудачу», утверждается в отчете. Они испытывают значительное давление, требующее быстрой поставки, и вынуждены выбирать количество и скорость в ущерб безопасности. И хотя они сталкиваются со значительными последствиями в виде постмортемов, оценок производительности, эскалаций и блокировок релизов, инструменты, способствующие проблемам с безопасностью, предоставляя малозначимые результаты, неясные указания или запоздалую обратную связь, продолжают оставаться без изменений.
«Разработчики по-прежнему несут ответственность за результаты, даже когда системы и рабочие процессы не настроены для их поддержки», — отмечается в отчете.
Чрезмерная самоуверенность, устаревшие практики
Тревожно, но многие предприятия, похоже, заблуждаются относительно своего положения в области безопасности. Из тех, кто оценивает себя как «высокозрелые» ИИ-организации, 42% часто выпускают наиболее уязвимый код, а их показатели взломов «едва отличимы» от других предприятий.
«Уверенность их не защищает», — говорится в отчете. «Она их ослепляет».
Подчеркивая это, только 22% организаций имеют формальное управление ИИ, а разработчики по-прежнему полагаются на ручные проверки кода для обеспечения соответствия стандартам.
В результате возникает несоответствие между скоростью создания программного обеспечения и скоростью управления, отмечается в отчете. «Соответствующие нормативным требованиям рамки развиваются, но многие организации все еще пытаются управлять разработкой в масштабах ИИ с помощью процессов, разработанных для более медленной эпохи поставки ПО».
Стратегические императивы для предприятий
Предприятия, похоже, немного очнулись после того, как Mythos от Anthropic продемонстрировал способность не только обнаруживать уязвимости в основных операционных системах и браузерах, но и эксплуатировать их в 100 раз быстрее, чем предыдущие модели Claude. А последующий проект Glasswing почти немедленно выявил тысячи ранее неидентифицированных уязвимостей безопасности.
Опрос Checkmarx, который, следует отметить, проводился за месяц до появления Mythos, показал, что предприятия, наконец, принимают упреждающие меры, уделяя больше внимания угрозам безопасности ИИ в целом и больше инвестируя в практики DevSecOps, автоматизацию и обучение разработчиков.
В отчете подчеркивается важность приоритизации риска над объемом кода; уязвимости не следует рассматривать как изолированные инциденты. Также крайне важно встраивать безопасность в рабочие процессы разработчиков, а не рассматривать ее как контрольную точку. Предприятия должны иметь системы, которые уменьшают шум, предоставляют четкие указания и позволяют им принимать меры при возникновении проблемы.
Безопасность «должна быть интегрирована непосредственно в то, как разработчики пишут, тестируют и выпускают код в IDE, конвейерах и рабочих процессах с поддержкой ИИ, где сейчас происходит разработка», — отмечается в отчете.
Аналогичным образом, предприятиям будет полезно уменьшить фрагментацию и разрастание инструментов, а также определить ответственность за инструменты ИИ. Упрощая стеки безопасности, они могут согласовать обязанности и обеспечить единообразное использование инструментов, согласно отчету.
Кроме того, ИИ нуждается в строгом управлении, и команды должны отказаться от устаревшей ручной сортировки и «исправления с человеческим контролем». ИИ может противостоять ИИ в сильной системе, созданной для приоритизации, исправления и устранения рисков «без ожидания одобрения каждого шага человеком», — отмечается в отчете.
В конечном счете, говорится в нем: «Прогресс зависит от встраивания интеллекта непосредственно в рабочие процессы, что позволяет приоритизировать, исправлять и устранять риски, и все это в рамках систем, в которых они действуют».
Эта статья изначально была опубликована на CIO.com.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Taryn Plumb
