Когда в пятницу компания Anthropic запустила «ограниченный предварительный просмотр для исследований» своего предложения Claude Code Security, инвесторы с Уолл-стрит обрушили акции крупнейших поставщиков кибербезопасности.
Но стоил ли запуск Anthropic такой реакции? В конце концов, эти компании, включая CrowdStrike, Zscaler, Palo Alto Networks и Okta, готовят собственные агентные возможности, и даже если бы они этого не делали, возможности проверки кода, обещанные Anthropic, изначально не заменяют их функциональность.
«Безопасность кода — жизненно важная часть программы кибербезопасности и общего технологического стека, но далеко не единственная», — отметил Джастин Грайс, генеральный директор консалтинговой фирмы Acceligence. «Нет сомнений, что улучшение безопасности кода и совершенствование жизненного цикла безопасной разработки программного обеспечения (SDLC) и жизненного цикла разработки продукта (PDLC) укрепят позицию безопасности организации, но это не устранит потребность в таких инструментах и услугах, как EDR/MDR, IAM, сбор данных об угрозах и защита данных».
Он добавил: «Однако это явный сигнал того, что компании, занимающиеся искусственным интеллектом, будут продолжать расширять свои варианты использования и анализировать все больше данных, кода, а также предоставлять реальную информацию и действия службам безопасности. Темпы их инноваций ошеломляют и беспрецедентны».
Сохранение человека в цикле
Однако Грайс предостерег руководителей по информационной безопасности (CISO): «Для тех, кто слепо полагается на любой инструмент сканирования кода, будь то ИИ или другой, для замены основ надлежащей практики безопасности и безопасного кодирования, это ваш красный мигающий сигнал о том, что не следует передавать на аутсорсинг ту самую экспертизу, которая защищает ценностное предложение разрабатываемого вами продукта или услуги. Мы должны сохранять квалифицированных людей в цикле и гарантировать, что мы используем ИИ как ускоритель, а не как замену экспертизе», — сказал он.
В анонсе Anthropic говорилось, что «Claude Code Security, новая функция, встроенная в Claude Code в Интернете», будет «[сканировать] кодовые базы на предмет уязвимостей безопасности и предлагать целенаправленные исправления программного обеспечения для проверки человеком, позволяя командам находить и устранять проблемы безопасности, которые часто упускают из виду традиционные методы».
Запуск ограничен, по крайней мере, на начальном этапе, заявила Anthropic. «Мы выпускаем его в виде ограниченного предварительного просмотра для исследований для корпоративных клиентов и клиентов, работающих в командах, с ускоренным доступом для сопровождающих репозиториев с открытым исходным кодом».
Компания не ответила на просьбу об интервью.
Предвидя опасения, что средство проверки кода возьмет на себя функции безопасности, а не дополнит их, Anthropic подчеркнула, что хочет сохранить участие человека в цикле.
«Вместо сканирования известных шаблонов Claude Code Security считывает и анализирует ваш код так, как это сделал бы исследователь безопасности-человек: понимая, как взаимодействуют компоненты, отслеживая перемещение данных в вашем приложении и выявляя сложные уязвимости, которые пропускают инструменты на основе правил», — говорилось в анонсе. «Каждое обнаружение проходит многоэтапный процесс проверки, прежде чем оно попадет к аналитику. Claude повторно проверяет каждый результат, пытаясь доказать или опровергнуть собственные выводы и отфильтровать ложные срабатывания».
В нем отмечалось, что проверенные результаты отображаются на панели мониторинга Claude Code Security, где команды могут просматривать их, изучать предложенные исправления и утверждать исправления. Но, как утверждалось, «поскольку эти проблемы часто связаны с нюансами, которые трудно оценить только по исходному коду, Claude также предоставляет рейтинг достоверности для каждого обнаружения. Ничто не применяется без одобрения человека: Claude Code Security выявляет проблемы и предлагает решения, но окончательное решение всегда принимают разработчики».
Привязка позиции безопасности к модели
Однако эти заверения не развеяли всех опасений.
«В тот момент, когда эти “кодеры по наитию” подключают базовую модель к своему конвейеру CI, их общая позиция безопасности больше не привязана только к коду компании», — отметила Захра Тимсах, генеральный директор I-Gentic AI.
«Она привязана к текущему поведению этой модели. Anthropic может обновлять веса, настраивать эвристику рассуждений, уточнять уровни безопасности или изменять интерпретацию семантических шаблонов. Ничто из этого не требует вашего одобрения. Ничто из этого не запускает ваш внутренний контроль изменений. Ваши конвейеры остаются зелеными. Ваши панели мониторинга остаются стабильными. Но движок, определяющий, что считается уязвимостью, изменился», — сказала она.
«Anthropic полностью контролирует ситуацию. Это означает, что ваш безопасный кодовой базы сегодня может быть оценен в соответствии с другими границами уязвимости завтра, без того, чтобы вы изменили хоть одну строку. Это передача части вашего определения безопасности на аутсорсинг вероятностной системе верхнего уровня, которую вы не контролируете».
Аутсорсинг зависимости — не новость
Но другие предположили, что аутсорсинг безопасности постепенно происходит уже много лет, начиная с облачных операций и SaaS, затем переходя к фирмам по кибербезопасности, которые брали на себя все больший контроль над корпоративными кибероперациями, и, наконец, к поставщикам генеративного ИИ и агентных систем.
Флавио Вилланустре, CISO группы LexisNexis Risk Solutions, похвалил тот факт, что Anthropic хотя бы делает вид, что люди контролируют процесс, но отметил: «Это не означает, что люди не будут срезать углы в некоторых случаях и добавлять еще одну LLM с недетерминированным поведением к существующей проблеме генерации кода с помощью LLM с недетерминированным поведением».
Постоянной проблемой как для агентных систем, так и для генеративных систем ИИ является их склонность к галлюцинациям, в дополнение к другим проблемам с надежностью. Но несколько специалистов по кибербезопасности заявили, что это не новость, поскольку в крупных системах безопасности всегда есть своя доля ложных срабатываний и ложных пропусков.
Консультант по кибербезопасности Брайан Левин, исполнительный директор FormerGov, заявил, что реакция Уолл-стрит на анонс Anthropic может сигнализировать о том, что инвесторы «перекалибруются вокруг идеи о том, что безопасность, основанная на ИИ, может сжать или даже переупорядочить части стека. Оправдано это или просто рефлексивный страх перед сбоями, это говорит о том, что люди теперь считают, что базовая модель может на равных конкурировать с традиционными механизмами обнаружения и анализа или быть более полезной, чем они».
Другая категория анализа
Если Anthropic сможет продолжать в том же духе, это может означать еще более фундаментальный сдвиг, отметил он.
«Если модель может рассуждать в обширных кодовых базах, сопоставлять шаблоны, которые пропускают статические инструменты, и делать это непрерывно, это не инкрементальное улучшение, это может быть совершенно другая категория анализа. Это предполагает мир, где обнаружение уязвимостей становится меньше связано с библиотеками сигнатур и больше с адаптивной интерпретацией», — сказал Левин.
Но он, как и Тимсах, обеспокоен тем, что изменения в модели повлияют на позицию безопасности организации. «В этом и заключается компромисс», — сказал он. «Беспрецедентная аналитическая мощь в сочетании с новым типом зависимости, который руководителям по безопасности придется оценивать с ясной головой».
Единая точка доверия и единая точка отказа
Джошуа Вудрафф, генеральный директор MassiveScale.AI, счел шаг Anthropic проблематичным, но не из-за того, что он может сделать с другими компаниями в сфере безопасности. Его больше беспокоят выгоды для киберзлоумышленников.
«Если модель Anthropic обнаружила более 500 неизвестных уязвимостей высокой степени серьезности в проектах с открытым исходным кодом, это означает, что любой злоумышленник, использующий аналогичную модель, может найти те же уязвимости прямо сейчас. Просто никто не сообщает о них. Они их эксплуатируют», — сказал Вудрафф. «Обнаружение уязвимостей только что стало асимметричным. Защитники получают инструмент, который предлагает исправления для проверки человеком. Злоумышленники получают инструмент, который находит уязвимости нулевого дня со скоростью машины без этапа проверки».
Есть еще одна проблема, добавил он: «Если агент ИИ находит ошибку и предлагает исправление, кто проверяет исправление? Вы доверяете одной и той же модели быть одновременно аудитором и ремонтной бригадой. Ни одна команда безопасности никогда не позволила бы одному и тому же человеку находить уязвимость и писать исправление без какого-либо независимого обзора. Но именно это и происходит, если команды рассматривают проверку человеком как формальность. Исправление становится новой поверхностью атаки».
Равид Циркус, CPO в Seemplicity, согласился с Вудраффом в том, что потенциальное циклическое использование ИИ как для поиска дыр, так и для их устранения вызывает озабоченность.
«Когда один и тот же ИИ пишет код, находит уязвимости и предлагает исправление, вы создаете единую точку доверия и единую точку отказа. Компрометация этого не просто вносит ошибки, вы потенциально создаете бэкдоры в масштабе», — сказал Циркус. «Я беспокоюсь, что мы вот-вот увидим, как “Мы используем Claude Security” станет новой галочкой, вроде значков SOC 2 или брендинга Zero Trust. Настоящий вопрос не в том, какой ИИ вы используете. Вопрос в том, обладает ли ваша организация достаточной операционной зрелостью для проверки и управления тем, что он вам говорит. “Клод сказал, что мы в безопасности” не должно становиться позицией безопасности».
Безусловно, у Anthropic были свои проблемы с кибербезопасностью в последнее время, но мало кто не согласился с тем, что то, что они продемонстрировали в области анализа кода, впечатляет. Вопрос в том, сможет ли это в конечном итоге обеспечить лучшую цену, масштабируемость и надежность по сравнению с существующими партнерами, и как скоро это может произойти.
Фактически, другой руководитель в сфере кибербезопасности, Гади Эвтон, генеральный директор Knostic, утверждает, что поскольку скорость инноваций намного опережает то, что когда-либо видел большинство в отрасли, некоторые организации могут недостаточно часто переоценивать предложения ИИ.
«Все движется так быстро. Те, кто пробовал [предложение Anthropic] два месяца назад, не понимают, насколько хорошо оно работает сейчас», — сказал Эвтон.
И, как сказал Рок Ламброс, директор по безопасности ИИ в Zenity: «Поскольку генеративный ИИ остается недетерминированным, безопасность при генерации всегда будет иметь пробелы, и вам всегда потребуется постоперационная валидация для того, что не может гарантировать одинаковый результат дважды. Настоящая проблема в том, что никто не имеет достаточного штата, финансирования или даже области для управления автономными системами, которые уже развернуты».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Evan Schuman
