Использование ИИ злоумышленниками в кибератаках стремительно развивается. За последние три месяца появились новые тенденции, указывающие на приближение переломного момента, согласно новому исследованию Google Threat Intelligence Group (GTIG) и Mandiant. Команда Google отметила, что если ранее наблюдался лишь «зарождающийся интерес противника» к автономным возможностям, то с лета этого года множество злоумышленников начали злоупотреблять фреймворками для тестирования на проникновение с открытым исходным кодом для автоматизации элементов своих вторжений. «Принятие этих фреймворков злоумышленниками представляет собой смену парадигмы в сторону вторжений, происходящих со скоростью машины, когда автоматизированная цепочка сложных путей атак значительно масштабирует операции», — говорится в отчете команды. «Хотя механика вторжений остается прежней, например, использование скомпрометированных учетных данных и нацеливание на необновленные системы, скорость и масштаб, с которыми фреймворки могут использовать эти известные уязвимости, создают новую оборонную проблему». Среди наиболее популярных фреймворков с открытым исходным кодом, которые используются в злонамеренных целях, Google назвал Artex — недавно упомянутый в консультативном письме ФБР — Cairn, CyberStrikeAI и PentAGI. По данным Google, Cairn использовался в нескольких атаках против целей в аэрокосмическом секторе США, в то время как PentAGI был замечен при проведении разведки и сканирования уязвимостей в кибератаках против азиатских организаций за последние пару месяцев. Google заявил, что эти фреймворки, вероятно, используются как киберпреступными группировками, мотивированными финансовой выгодой, так и злоумышленниками, поддерживаемыми государствами, и отметил, что их дальнейшее использование является практически неизбежным. Более того, по словам команды, «по мере увеличения сложности этих инструментов и базовых LLM мы ожидаем не только сокращения участия человека в этих операциях, но и повышения скрытности и изощренности деятельности». Одновременно злоумышленники также используют многоагентные системы и конвейеры на базе LLM для автоматизации наиболее трудоемких частей анализа уязвимостей, включая анализ патчей и создание эксплойтов на основе proof-of-concept (PoC). Это вызывает серьезную обеспокоенность, поскольку таким образом они могут сократить окно между раскрытием патча поставщиком и его использованием в реальных атаках. Команда Google предполагает, что злоумышленники осознали, что гораздо эффективнее использовать LLM для создания эксплойтов для уже исправленных уязвимостей (n-day), а не для поиска новых уязвимостей нулевого дня (zero-day), поскольку они могут сосредоточиться на конечном наборе исходных материалов, сравнивать различные версии исходного кода и анализировать код PoC, примечания к выпуску, исследования безопасности и даже освещение в СМИ. В отличие от этого, охота за уязвимостями нулевого дня требует от них гораздо более широкого охвата. Команда отметила, что это подтверждается тем фактом, что, хотя количество раскрытий и эксплойтов стремительно растет — как видно из ежемесячных обновлений Patch Tuesday от Microsoft — количество уязвимостей нулевого дня выросло лишь незначительно. «LLM меняют способы обнаружения и эксплуатации уязвимостей в общественной и корпоративной инфраструктуре, сокращая окно для установки патчей организациями. Одновременно более низкий порог входа подпитывает волну сгенерированных LLM эксплойтов, которые, как утверждается, работают, но на самом деле нет, создавая дополнительную работу по проверке для защитников», — заявили в Google. А злоумышленники, мотивированные финансовой выгодой, все чаще получают прибыль от так называемого LLMjacking — кражи учетных данных LLM и облачных ресурсов из скомпрометированных сред с последующей их перепродажей через подпольные прокси. Эта деятельность в конечном итоге позволяет вредоносным группам преодолевать такие проблемы, как затраты на доступ, ограничения скорости токенов и географические ограничения, которые часто мешают законному использованию LLM. Google заявил, что такой доступ пользуется высоким спросом, и он наблюдал, как подпольный рынок киберпреступников стремится удовлетворить его, например, переходя от продажи массовых общих утечек идентификационных данных к установлению премиальной цены за проверенные учетные записи передовых ИИ и токенизированные квоты API в качестве готовых утилит. Mandiant сообщил, что за последние несколько недель они отреагировали на несколько инцидентов LLMjacking, в ходе которых злоумышленники накапливали мошеннические расходы, превышающие 100 000 долларов США в день, а в некоторых случаях достигающие 1 миллиона долларов США.
Информационные операции
Тем временем злоумышленники, занимающиеся информационными операциями (IO) — которые могут включать государственные группы шпионажа, группы, занимающиеся недобросовестной политической монетизацией (IPM), и коммерческие организации, проводящие операции типа «влияние как услуга» (IaaS), такие как частные разведывательные компании и даже неэтичные маркетинговые и PR-агентства, — полностью интегрируют LLM в свою деятельность, сообщает Google. Такие группы в настоящее время регулярно используют LLM для создания синтетических медиа, кликбейта и другого контента, генерируемого ИИ, а также используют их для автоматизации рабочих процессов в доменных сетях, например, для SEO-манипуляций, редактирования и форматирования «посеянных» статей, а также для автоматической генерации и публикации вредоносной информации. В августе Google сообщил, что наблюдал, как неназванная группа использовала свой Gemini API вместе с инструментами других компаний для создания комплексной платформы IaaS для манипулирования общественным мнением в Европе и на Ближнем Востоке. Платформа была разработана для автоматизации всего жизненного цикла IO, от создания подставных персон до генерации и распространения медиа и автоматической публикации на платформах. Анализ команды GTIG показал, что запросы злоумышленника были сосредоточены на имитации органического массового вовлечения при уклонении от обнаружения и мер противодействия, внедренных социальными сетями.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Alex Scroxton




