Во вторник компания Anthropic объявила о включении еще 150 компаний в свою инициативу Project Glasswing по поиску уязвимостей на базе ИИ, уделив особое внимание компаниям, работающим в сфере критической инфраструктуры, включая тех, кто задействован в «энергетике, водоснабжении, здравоохранении, связи и производстве оборудования».
Аналитики и поставщики решений в области безопасности сошлись во мнении, что этот шаг является позитивным, отмечая, что чем больше компаний участвует в выявлении багов, тем лучше. Однако более серьезная фоновая проблема носит практический характер: проблема «узкого горлышка» (bottleneck problem).
Если Project Glasswing и аналогичные проекты от других крупных поставщиков ИИ увеличат поток обнаруженных уязвимостей в 10 и более раз, смогут ли поставщики своевременно их обработать и устранить? Поставщики исторически печально известны своей медлительностью в установке исправлений для известных проблем безопасности. Microsoft, например, недавно вступила в спор с исследователем безопасности, который предал огласке уязвимости, поскольку считал, что Microsoft слишком медленно их устраняет.
И даже если эти поставщики смогут справиться с потоком, смогут ли корпоративные SOC-центры (Security Operations Center) справиться с лавиной патчей? И если для генерации этих патчей будет развернута обширная автоматизация, будут ли CISO (Chief Information Security Officer) доверять им настолько, чтобы разрешить их развертывание без ручной проверки? Доверие — не самая распространенная черта CISO.
«Что общего у каждого партнера, так это то, что успешная атака на их кодовую базу может иметь катастрофические последствия. По нашей оценке, для большинства партнеров крупная атака может затронуть более 100 миллионов человек, что повлечет за собой важные последствия как для глобальной, так и для национальной безопасности», — заявила Anthropic в своем блоге, анонсируя новых участников. «Это расширение — следующий шаг к нашим долгосрочным целям: чтобы ИИ сделал все программное обеспечение более безопасным, и чтобы мы помогли отрасли адаптироваться к тому, как ИИ может изменить многие основные предположения кибербезопасности».
Glasswing был анонсирован 7 апреля и изначально получил поддержку от AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. Позднее Okta подтвердила свое участие.
Проблема «узкого горлышка» патчей
Проблема «узкого горлышка» трудноразрешима, учитывая, что даже крупнейшие поставщики могут оправдать затраты на ресурсы для устранения уязвимостей и распространения этих исправлений лишь в определенном объеме.
«Самая большая проблема — это адаптивность: как только обнаружена уязвимость или слабость, защитники должны ее проверить, приоритизировать и исправить, прежде чем злоумышленники смогут использовать то же самое знание. И этот этап проверки имеет значение», — сказал Том Финдлинг, генеральный директор Conifers.ai. «Во время тестирования инструмента мы видели много ложных срабатываний, а это значит, что организации не могут просто считать каждое обнаружение немедленно выполнимым. Им нужна возможность быстро отделить сигнал от шума, а затем адаптировать свои процессы, рабочие процессы разработки и конвейеры установки исправлений под реальные проблемы».
«Возможно, самым важным показателем, который следует отслеживать организациям, является не только количество обнаруженных уязвимостей, но и то, сколько времени им требуется на адаптацию после выявления достоверной проблемы. Для некоторых организаций этот цикл адаптации все еще может занимать месяцы», — добавил он. «Сокращение этого времени до адаптации определит, действительно ли обнаружение уязвимостей с помощью ИИ улучшает защиту или просто увеличивает скорость и объем информационного шума в сфере безопасности».
Проблема устранения
Джастин Грейс, генеральный директор консалтинговой фирмы Acceligence, согласился с тем, что расширение Glasswing может просто продемонстрировать CISO, насколько смещается, а не уменьшается проблема уязвимостей.
«Не секрет, что кибербезопасность долгое время рассматривалась как проблема обнаружения уязвимостей. ИИ доказывает, что на самом деле это всегда была проблема устранения. Отрасль уже с трудом успевает проверять, приоритизировать, устанавливать исправления, тестировать и развертывать их достаточно быстро. Ситуация может стать еще хуже, если команды безопасности отвечают за обнаружение уязвимостей, а команды ИТ или бизнес-команды — за установку исправлений», — сказал Грейс. «Если ИИ может выявлять уязвимости в 10 или 100 раз быстрее людей, «узкое горлышко» просто перемещается вниз по потоку. Организации могут вскоре оказаться в неудобном положении, зная о гораздо большем количестве уязвимостей, чем могут реально устранить. ИИ превращает кибербезопасность из проблемы видимости в проблему исполнения».
Грейс добавил пугающий прогноз: «ИИ может сделать организации одновременно более защищенными и более перегруженными, если это возможно. Они получат беспрецедентную видимость своих рисков, но также обнаружат, насколько велики эти риски на самом деле».
Необходимость доверия
Грейс Тринидад, директор по исследованиям в области безопасности ИИ в IDC, заявила, что проблема «узкого горлышка» на уровне предприятия должна решаться посредством обширной автоматизации. Но, учитывая недостаток доверия со стороны сотрудников службы кибербезопасности, поставщики должны иметь строгий метод предоставления числовой оценки достоверности для каждого патча.
«Наличие оценки достоверности, сопровождающей эти исправления, — это новая концепция. Предприятие должно иметь возможность идентифицировать, приоритизировать и устранять уязвимости, специфичные для их среды», — сказала Тринидад. «Мы осваиваем навык, к которому не готовы: как доверять автоматизированным технологиям? Учитывая, что нам приходится двигаться с такой скоростью, это доверие будет нарушено. Оценка достоверности — это дисциплина, требующая прозрачности. Не делайте объяснение достоверности настолько сложным, чтобы его нельзя было объяснить человеку».
Тринидад также отметила, что в анонсе Anthropic было указано, что каждый из 150 новых участников, по формулировке Anthropic, «должен будет соответствовать нашим требованиям безопасности, прежде чем получить доступ».
Тринидад считает, что заявление о требованиях безопасности не укрепляет доверие, поскольку «никто не знает, каковы эти требования безопасности».
Одним из возможных решений является использование поставщиками решений в области безопасности высоконадежных сторонних организаций, чтобы их не воспринимали как «выставляющих себе оценки». Поставщик корпоративного ПО Workday использует аналогичный подход с привлечением третьих сторон, полагаясь на доверенные сервисы, которые используют общедоступные стандарты, такие как Mitre ATLAS, для проверки безопасности и соответствия требованиям ИИ-агентов, использующих его платформу. Подход Workday касается проверок безопасности, а не оценок надежности, но эту идею потенциально можно адаптировать.
Расширение порождает опасения по поводу безопасности
Карми Леви, независимый технологический аналитик, выразил больший скептицизм относительно того, чего в конечном итоге сможет достичь Glasswing, добавив 150 новых участников.
«Вся суть Project Glasswing заключалась в том, чтобы позволить Anthropic тесно сотрудничать с небольшой, полностью проверенной группой поставщиков для разработки более надежной защиты от рисков кибербезопасности, связанных с совершенно новым классом LLM (Large Language Model), который в противном случае представлял бы неприемлемые риски для существующих защитных технологий и протоколов», — сказал Леви. «Расширение доступа до сотен, возможно, привлечет больше умов для разработки лучших оборонительных мер, но одновременно создает серьезные опасения по поводу потенциальных утечек. И это от компании, которая уже сообщила о двух утечках, связанных с этой же моделью».
Леви добавил: «В идеальном мире Anthropic одновременно с этим крупным расширением объявила бы о параллельных усилиях по ужесточению внутренних протоколов безопасности, чтобы гарантировать, что код не попадет не в те руки. Привлечение гораздо большей когорты исследователей сигнализирует потенциальным злоумышленникам о том, что скоро у них будет больший пул потенциальных целей, и не развеивает опасения по поводу будущих взломов».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Evan Schuman
