Потенциал ИИ как инструмента безопасности и опасность автономных ИИ-агентов как новой поверхности атак стали ключевыми темами презентаций и анонсов продуктов на Black Hat и DEFCON в Лас-Вегасе на прошлой неделе.
Вот несколько ключевых выводов из этого летнего хакерского лагеря, которые CISO должны учесть при разработке стратегий кибербезопасности.
Одного реактивного патчинга больше недостаточно
Дэвид Уэстон из Microsoft выступил на Black Hat с основным докладом, утверждая, что ИИ делает продвинутое обнаружение уязвимостей и разработку эксплойтов дешевле и быстрее, подрывая традиционные предположения о том, что атаки редки и у защитников есть время создать оборону.
По его словам, вместо попыток реагировать быстрее атакующих индустрии безопасности необходимо встраивать в системы большую устойчивость, применяя безопасные по памяти языки, такие как Rust, используя инженерию с поддержкой ИИ для улучшения существующей кодовой базы и автоматизируя исправление уязвимостей вместо приверженности устоявшимся ежемесячным циклам патчей.
В своем анализе издание CSO более подробно рассмотрело его аргументы.
Атаки с использованием ИИ открывают новые пути для атак на цепочки поставок
Исследователи из Zenity обнаружили крупномасштабную атаку, в ходе которой троянизированные ИИ-«скиллы» (файлы инструкций/конфигурации, которые сообщают ИИ-агентам, как использовать инструменты) были загружены на маркетплейс skills.sh.
Вредоносные «скиллы», названия которых представляли собой опечатки популярных ИИ-сервисов Paperclip и Browser Use, были загружены более 1,7 миллиона раз менее чем за месяц. Во время презентации на Black Hat Zenity описала эту кампанию как часть более широкой тенденции атак на цепочки поставок.
Лучиан Константин из CSO приводит больше подробностей об исследовании и его значении.
Поток событий GitHub можно использовать для телеметрии безопасности
Специалистам по безопасности, обеспокоенным атаками на цепочки поставок в целом, был предложен полезный совет из одного доклада на Black Hat: GitHub, возможно, уже предоставляет достаточно телеметрии для обнаружения многих атак на цепочки поставок.
Йосси Вейцман из Microsoft и Мор Вайнбергер из Echo показали, что недавние атаки на цепочки поставок, такие как Shai-Hulud, Trivy и Megalodon, неоднократно использовали одни и те же схемы: поддельные идентичности авторов коммитов, отравленные теги, злоупотребление рабочими процессами, неправомерное использование OIDC-токенов и попытки стирания улик.
Эти признаки потенциальных злоупотреблений можно превратить в средства поведенческого обнаружения с помощью вебхуков GitHub, API и метаданных Git, объяснили исследователи во время своей презентации.
Они выпустили открытый инструмент под названием GitHub Threat Detector, предлагающий 30 встроенных правил обнаружения, в дополнение к своему докладу. GitHub Threat Detector следует конвейеру, похожему на EDR, но его следует рассматривать как незавершенную работу, отметили они; его текущие недостатки включают возможно отключенные вебхуки, API с ограничением скорости и отсутствие проверки в реальном времени.
Дополнительные подробности об их исследовании — в статье Шветы Шармы из CSO.
ИИ-исследования безопасности эффективнее под руководством человека, а не в автономном режиме
ИИ способен проводить оригинальные исследования безопасности, а не только сопоставлять известные ошибки, однако наиболее значимые результаты появляются, когда эксперты-люди направляют его.
Исследователь PortSwigger Джеймс Кеттл показал, как эксперт может разработать методологию исследования, отсеивать слабые результаты и использовать детерминированный код для ограничения и масштабирования работы ИИ, прежде чем выпустить его на свободу.
HTTP Terminator — система, разработанная Кеттлом с использованием этой методологии, — смогла найти сотни реальных уязвимостей контрабанды HTTP-запросов (HTTP desync), украсть настоящий API-ключ банка и обнаружить новый класс уязвимостей, названный «shared-parser confusion».
Кеттл рассказал о своей работе во время доклада на Black Hat и призвал других исследователей безопасности применять эту методологию при разработке аналогичных ИИ-усиленных исследовательских систем, которые ранее на этой неделе более подробно описало издание CSO.
«Приватность» Network Address Translation под угрозой из-за новой атаки
Предположения о безопасности, лежащие в основе широкого использования трансляции сетевых адресов (NAT) в корпоративных сетях, были подорваны еще одним докладом на Black Hat.
NAT был разработан как обходной способ решения проблемы исчерпания IPv4-адресов, а не как средство контроля безопасности, однако предполагается, что эта технология должна обеспечивать сохранение приватности частных адресов — заверение, которое новое исследование поставило под сомнение.
Во время презентации на Black Hat исследователь Малкольм Стэгг (независимый исследователь, связанный с Red Team из Synack) раскрыл NatJack — класс атак, которые манипулируют таблицей отслеживания соединений NAT.
По его словам, метод NatJack можно использовать для перехвата активных соединений, отравления DNS-ответов и вызова отказа в обслуживании без необходимости спуфинга IP на втором уровне (Layer 2) или доступа к тому же широковещательному домену, что требовалось для более старых атак.
Тестирование охватило 32 продукта или конфигурации от нескольких производителей; каждая протестированная реализация была уязвима по крайней мере к некоторым или всем методам NatJack, разработанным Стэггом. Более подробно об этих уязвимостях на прошлой неделе сообщило издание CSO.
И Microsoft, и мейнтейнеры Linux выпустили патчи для этой проблемы в ответ на открытия Стэгга.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – John Leyden
