Появление Claude Mythos в сочетании с выпуском GPT-5.5 от OpenAI изменило модель угроз для CISO.
Появление этих передовых моделей ИИ — и тех, что скоро последуют за ними, — значительно упрощает обнаружение и связывание уязвимостей со скоростью и в масштабе, которые потребуют от большинства киберподразделений пересмотра своих стратегий и операций.
Эксперты, опрошенные CSO о влиянии этих возможностей, заявляют, что защитникам следует исходить из того, что ИИ сделает первичное компрометирование более вероятным, и что им следует меньше концентрироваться на попытках идеально устранить все уязвимости, а больше — на ограничении радиуса поражения за счет более строгого контроля идентификации, принципа наименьших привилегий и внутренней сегментации.
Дикий фронтир
Хотя доступ к Mythos по-прежнему ограничен для небольшого числа доверенных партнеров, аналогичные платформы для обнаружения уязвимостей на базе ИИ находятся в разработке, и немногие эксперты полагают, что доступ к достаточно мощным моделям ИИ надолго будет закрыт для злоумышленников. Сама Anthropic уже выпустила для общественности модель ИИ класса «Mythos» Fable 5 с дополнительными мерами кибербезопасности.
Ноэ Рамос, вице-президент по операциям ИИ в Agiloft, считает, что CISO должны исходить из предположения, что злоумышленники получат доступ к возможностям уровня передовых ИИ в течение нескольких месяцев, если не раньше.
«Будь то через джейлбрейки, доработанные производные с открытым весом или специально созданные black-hat версии, целеустремленные субъекты угроз изобретательны и мотивированы», — говорит Рамос. «Передовые возможности ИИ имеют тенденцию распространяться быстрее, чем ожидает сообщество безопасности, и медленнее, чем предполагают заголовки новостей. Защитникам следует планировать первое».
Вместо джейлбрейка передовых моделей более вероятно, что злоумышленники получат доступ к мощным платформам обнаружения уязвимостей путем донастройки моделей с открытым весом на данных по наступательной безопасности и запуска их локально.
«Мы видим, что люди начинают работать над воспроизведением результатов Mythos с использованием существующей инфраструктуры и моделей с открытым исходным кодом, которые им не нужно запускать через облака», — говорит Мартин Рош, ведущий разработчик системы обнаружения вторжений Snort, а ныне руководитель отдела облачных технологий в стартапе безопасности Vectra AI, в интервью CSO.
«Такое промышленное обнаружение уязвимостей и потенциальная генерация эксплойтов — это не то, к чему большинство мира по-настоящему готово с точки зрения последующих последствий для защищенности организаций», — заключает Рош.
Уилл Баркер, консультант по кибербезопасности в компании Huntress, предоставляющей услуги управляемого обнаружения и реагирования, согласен с тем, что исследования показывают: обнаружение уязвимостей с помощью ИИ больше не является прерогативой только передовых моделей.
«Меньшие модели с открытым весом уже находят те же типы уязвимостей нулевого дня и цепочек эксплойтов», — говорит Баркер.
Эти выводы подразумевают, что сама модель не всегда является главным дифференцирующим фактором.
«Настоящая ценность заключается во всем, что ее окружает: как организована работа, как проверяются находки, как отфильтровывается шум и как быстро люди могут превратить эти находки в действие», — говорит Баркер.
Обнаружение уязвимостей сжато
Младший исследователь безопасности с API-доступом к передовой модели может находить уязвимости без работы по обратному проектированию, которая раньше требовала участия опытной команды.
«Сильнее всего это бьет по логическим ошибкам», — говорит Ник Кейл, ведущий инженер и член Коалиции за безопасный ИИ (CoSAI). «Традиционные сканеры никогда не улавливали их хорошо, потому что код не сломан, а просто стратегически неверен. Передовая LLM читает жестко закодированное предположение о доверии так же, как читает абзац. Это тот пробел, который открылся, и он не закрывается».
Передовой ИИ значительно сократил время обнаружения для хорошо известных классов уязвимостей: вариантов SQL-инъекций, распространенных неправильных конфигураций, того, что соответствует известным CVE.
Рафаэль Пейре, бывший менеджер по продуктам в Google, а ныне консультант стартапов в SHA/RP, утверждает, что барьер для создания надежного эксплойта из уязвимости снизился, а не исчез.
«Во многих случаях поиск слабости больше не является узким местом», — говорит Пейре. «Но новые уязвимости нулевого дня в защищенных целях — это действительно другая проблема, и она по-прежнему требует человеческого опыта».
Мэттью Бидуэлл, основатель Newzino.com, подтверждает эту оценку. «Сдерживающим фактором для злоумышленников сместился с поиска ошибок на их операционализацию: превращение гипотетического недостатка в рабочий эксплойт, его использование против реальной цели, уклонение от обнаружения [и] сохранение присутствия», — говорит он.
Более значимый сдвиг в ландшафте обнаружения уязвимостей, по мнению ряда экспертов, является экономическим, а не техническим.
«Злоумышленники используют примерно тот же сценарий, который они всегда использовали», — отмечает Пейре. «Изменилась удельная стоимость проведения достоверной кампании, и она существенно снизилась».
Другие эксперты согласились с тем, что ИИ превращает обнаружение уязвимостей из дефицитного человеческого ремесла в масштабируемую вычислительную задачу.
«Системы класса Mythos сокращают разведку, сортировку целей, настройку полезной нагрузки и социальную инженерию до минут», — говорит Ноа М. Кенни, основатель и главный консультант Digital 520. «Джейлбрейки и black-hat форки произойдут, но больший риск заключается в том, что легитимный корпоративный ИИ будет использован против организации, которая его внедрила».
Злоумышленникам не нужен сам Mythos; им нужны рабочие процессы обнаружения уязвимостей, подобные Mythos, говорит Мудит Синха, руководитель отдела ИИ в Lineaje.
«Mythos может быть дорогим и ограниченным сегодня, но разрыв быстро сокращается благодаря передовым моделям, специализированным кибермоделям и black-hat обвязкам вокруг универсального ИИ», — говорит он.
Пути эксплойтов
Историческим узким местом в наступательных кибероперациях был поиск новых уязвимостей. Нативные для ИИ киберсистемы автоматизируют рассуждения о коде, определение путей атаки и анализ вариантов с машинной скоростью, по словам Альфредо Хикмана, CISO Kai.
«Ограничение смещается с вопроса «Можем ли мы найти ошибки?» на «Можем ли мы надежно их использовать и масштабировать?»», — говорит он.
Луис Люн, разработчик программного обеспечения и соучредитель InFlow Inventory, считает, что реальная проблема для злоумышленников по-прежнему заключается в превращении обнаруженной слабости в стабильную, скрытную, повторяемую возможность, которая переживает современные защитные механизмы и приносит операционные результаты.
«Сложная часть — это превратить ошибку в стабильный рабочий эксплойт, который функционирует в реальных производственных средах, обладающих современными средствами защиты, мониторинга и исправления», — говорит он. «Злоумышленникам все чаще требуется связывать несколько уязвимостей в средах SaaS — таких как системы инвентаризации и складского учета — больше, чем им нужно определять первую точку уязвимости».
Тем не менее, передовые модели ИИ, вероятно, ускорят способность связывать эти уязвимости вместе, сказал Джон Йо, главный научный сотрудник Cloud Security Alliance, на недавней конференции и церемонии награждения CSO Cybersecurity Awards.
«Мы рассматриваем возможность взять, скажем, три или четыре очень низкоуровневых CVE и связать их так, чтобы получился высокий или критический уровень», — сказал он. «Этого мы раньше не видели — просто то, что сами модели делают с простым запросом».
Открытие ящика Пандоры
Независимые эксперты по безопасности, однако, стремились избежать обвинения Anthropic в открытии ящика Пандоры, полного обнаруженных уязвимостей.
«Я думаю, что Anthropic пытается поступить правильно, вовлекая организации на раннем этапе, позволяя им проводить боевое тестирование, укреплять и формировать понимание того, как это выглядит в дикой природе, прежде чем это станет широко доступным», — говорит Мелисса Бишопинг, старший директор по исследованиям безопасности и дизайна продуктов в Tanium. «Это не идеальное решение, но дух и намерение правильные».
Бишопинг, член совета директоров SANS Technology Institute, предупреждает, что существуют опасения по поводу того, сможет ли организационный контроль изменений двигаться достаточно быстро, чтобы принять меры по результатам, полученным от Mythos, до того, как Mythos выйдет в свет.
«Агентные рабочие процессы исправления возможны и во многих случаях могут соответствовать темпам состязательного ИИ, но [организационная] политика и контроль изменений сегодня не работают со скоростью ИИ», — говорит Бишопинг.
Контрмеры
Для защитников ответ на вызов, брошенный передовыми моделями ИИ, заключается в более быстром устранении уязвимостей.
«Командам безопасности нужно перестать считать обнаружение уязвимостей сложной частью и начать агрессивно их исправлять», — утверждает Синха из Lineaje. «Известные CVE — самое простое место для начала: расстановка приоритетов, проверка возможности эксплуатации, исправление, тестирование и непрерывная проверка. Те же передовые модели, которые могут обнаруживать уязвимости, часто обладают некоторой способностью их устранять, но им нужна обвязка: контекст активов, SBOM, проверка возможности эксплуатации, генерация исправлений, проверки CI/CD, песочница для тестирования и одобрение человека для рискованных изменений».
Рамос из AI Operations добавляет: «Если ИИ выявляет уязвимости со скоростью, превышающей возможности человеческого устранения, а Mythos предполагает, что это произойдет, то стратегический приоритет должен сместиться в сторону сдерживания и устойчивости».
«Предполагайте компрометацию. Сокращайте радиус поражения», — заключает Рамос.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – John Leyden
