Google обнаружил первую хакерскую ИИ-систему, которая самостоятельно находит и использует уязвимости

ии кибербезопасность уязвимости эксплойты хакеры автоматизация csoonline.com

Google обнаружила фреймворк на базе ИИ, управляемый хакерами, для автоматического поиска уязвимостей и выполнения эксплойтов. Это первый случай использования таких систем злоумышленниками, что ускоряет кибератаки и снижает барьеры для киберпреступников.

Google заявила, что обнаружила фреймворк на базе ИИ, управляемый хакерами, предназначенный для поиска уязвимостей в программном обеспечении и выполнения эксплойтов без вмешательства человека. Это первый случай, когда исследователи компании зафиксировали использование подобной системы злоумышленниками.

Результаты исследования, опубликованные в отчете Google Threat Intelligence Group (GTIG) и Mandiant, свидетельствуют о том, что злоумышленники выходят за рамки использования генеративного ИИ для помощи в выполнении отдельных задач и начинают автоматизировать более крупные части кибератак.

Система может предоставить злоумышленникам способ использовать публично раскрытые уязвимости, известные как n-day, до того, как компании успеют применить обновления безопасности. Исследователи Google обнаружили ее на открытом промежуточном сервере и идентифицировали как многоагентный фреймворк под названием exploit_agent.

Фреймворк подключается к нескольким большим языковым моделям (LLM) и настроен на анализ изменений в коде приложений после установки исправлений безопасности, выявление уязвимостей и генерацию эксплойтов без необходимости оператора направлять каждый шаг. Он также может автоматически выполнять эксплойты.

На сервере Google обнаружила данные, извлеченные у целевых жертв, а также скрипты, предназначенные для поддержки дальнейшей активности после первоначального компрометирования. Имеющиеся данные указывают на то, что оператор проявлял особый интерес к французским веб-сайтам, связанным с медиа- и развлекательной индустриями, а также с сектором образования. В отчете не установлено, были ли автономные операции фреймворка ответственны за кражу данных.

Google также упомянула отдельную кампанию, связанную с уязвимостями в серверах управления печатью PaperCut. Согласно исследованию GreyNoise, на которое ссылается отчет Google, злоумышленник, вероятно, использовал инструменты ИИ для разработки и тестирования эксплойтов перед запуском кампании против сотен организаций через четыре дня после раскрытия уязвимостей.

В других случаях Google наблюдала использование злоумышленниками других фреймворков на базе ИИ. CAIRN был развернут в рамках вторжений, нацеленных на организации в аэрокосмическом секторе США, а настраиваемая платформа на базе PentAGI использовалась для проведения разведки и сканирования уязвимостей в организациях по всей Азии.

Давление на сроки реагирования предприятий

Несмотря на растущее использование ИИ в кибератаках, лежащие в основе методы в значительной степени не изменились, по словам Джонатана Онга, старшего аналитика Omdia.

«Это скорее ускорение существующих методов атак», — сказал Онг. «Это фреймворки для пентестинга/красного командного тестирования с устоявшимися техниками, хотя и значительно ускоренные с помощью модели LLM».

Кит Прабху, генеральный директор Confidis, заявил, что по-прежнему существует ограниченное количество свидетельств того, что ИИ делает отдельные атаки более успешными. По его словам, больший риск заключается в том, что злоумышленники могут совершать больше попыток за меньшее время, потенциально увеличивая количество успешных компрометаций, даже если каждая попытка не более эффективна.

Онг отметил, что фреймворки обычно генерируют значительную обнаруживаемую активность, что означает, что предприятия с правильно настроенными и контролируемыми возможностями обнаружения и реагирования на конечных точках (EDR), расширенного обнаружения и реагирования (XDR) или управляемого обнаружения и реагирования (MDR) по-прежнему должны иметь возможность выявлять большую часть вредоносной активности.

Google также предупредила, что, хотя фреймворки генерируют активность, облегчающую обнаружение, они по-прежнему способны достигать своих целей.

Вместо того чтобы пересматривать свои системы защиты, руководители служб безопасности должны продолжать уделять первоочередное внимание установленным практикам безопасности, особенно укреплению облачных сред и идентификационных данных. Онг указал на многофакторную аутентификацию, надежные пароли и меры по блокировке повторных попыток входа в систему как на эффективные меры защиты.

«Единственное, что изменилось, — это то, что сроки сдерживания и реагирования должны быть быстрее, чтобы соответствовать скорости, с которой действуют злоумышленники, использующие эти фреймворки», — сказал Онг.

Прабху отметил, что проблема усугубляется фрагментированной видимостью безопасности и процессами реагирования, которые по-прежнему зависят от ручных решений. Он рекомендовал директорам по информационной безопасности уделять первоочередное внимание непрерывному обнаружению активов и устранению уязвимостей на основе рисков. Он также призвал к улучшению возможностей обнаружения, которые связывают подозрительную активность в корпоративных средах.

Амит Кумар Джена, менеджер по разработке ИИ в Kanerika, заявил, что организации должны уделять особое внимание уязвимостям в системах, доступных из Интернета, где злоумышленники могут использовать недостатки вскоре после их публикации.

«Системы, доступные из Интернета, должны рассматриваться как отдельная категория с ускоренным путем установки исправлений и виртуальным патчингом во время тестирования исправлений», — сказал Джена.

Для сдерживания инцидентов Прабху предложил автоматизировать действия, которые хорошо понятны и могут быть отменены, сохраняя при этом одобрение человеком для решений, которые могут иметь значительные операционные последствия.

Джена также рекомендовал заранее определить, какие действия по сдерживанию могут быть автоматизированы, приведя в качестве примеров изоляцию конечных точек и отзыв сеансов.

«Цель состоит не в том, чтобы устранить человеческий надзор, а в том, чтобы устранить избегаемые задержки и регулярно проверять, что реагирование происходит со скоростью атаки», — сказал Прабху.

Снижение барьеров для киберпреступников

Фреймворки с открытым исходным кодом могут снизить технические барьеры для менее опытных киберпреступников, помогая им координировать существующие инструменты и адаптировать свои атаки в зависимости от результатов, сказал Прабху. Однако эти возможности не устраняют необходимость в технических знаниях и не гарантируют успешных компрометаций.

Прабху отметил, что небольшие организации и поставщики услуг с ограниченными ресурсами безопасности могут быть особенно уязвимы.

Риск не обязательно сосредоточен в какой-либо конкретной отрасли, добавил он. Организации с плохо обслуживаемыми устаревшими системами или слабым контролем идентификации могут столкнуться с большей уязвимостью независимо от их сектора.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: