Руководителям по информационной безопасности (CISO) следует готовиться к «совершенно иному миру», в котором киберпреступники смогут надёжно автоматизировать атаки в масштабе, — такое мнение высказал один из топ-менеджеров Google.
Хезер Аткинс, вице-президент по разработке систем безопасности в гиганте, занимающемся рекламой и облачными технологиями, заявила, что это событие, вероятно, произойдёт через несколько лет, но киберпреступники уже используют ИИ для улучшения отдельных этапов своих рабочих процессов, и скоро появится полноценный комплекс инструментов от начала до конца.
В беседе в рамках подкаста Google Cloud Security Аткинс отметила, что злоумышленники уже применяют ИИ для выполнения мелких задач — проверки грамматики, орфографии в фишинговых сообщениях и других улучшений продуктивности.
«Это лишь вопрос времени, когда кто-то объединит всё это вместе, от начала до конца, — сказала она. — И больше всего я опасаюсь, что кто-то разработает возможность давать модели запрос на взлом любой компании, и модель сможет предоставить корневой доступ в течение недели. Если это произойдёт, я думаю, это будет медленный рост в течение следующих шести-восемнадцати месяцев.
«Мы также видим, что защитники осваивают те же инструменты и используют их для тех же целей, так что это может не показаться таким шокирующим. Конечно, всё может пойти совершенно иначе, но это те вещи, о которых должны думать все, и мы должны готовиться к совершенно иному миру».
Группа Google по анализу угроз (GTIG) опубликовала обзор последних достижений в том, как злоумышленники экспериментируют с ИИ, отметив, что семейства вредоносного ПО уже используют большие языковые модели (LLM) для генерации команд с целью кражи данных жертв.
Сандра Джойс, вице-президент GTIG, добавила, что Китай, Иран и Северная Корея злоупотребляют инструментами ИИ на разных этапах своих атак. Сюда входят первоначальная сетевая разведка и разработка C2, а также упомянутое создание фишинговых сообщений и команд для кражи данных.
Опасение среди старших сотрудников Google заключается в том, что эти небольшие компоненты будут объединены и обеспечат функциональность, аналогичную современным эксплойт-китам.
Антон Чувакин, консультант по безопасности в офисе CISO Google, заявил: «Для меня более серьёзная угроза — это не APT, а «момент *Metasploit» [когда фреймворки для эксплойтов стали легкодоступными 20 лет назад]. Меня беспокоит демократизация угроз».
Эксплойт-киты, такие как Metasploit и Cobalt Strike, изначально были легитимными инструментами для тестирования на проникновение, но вскоре взломанные версии попали в руки злоумышленников, что значительно облегчило им жизнь после компрометации. Эксперты опасаются, что нечто подобное произойдёт, когда инструментарий на базе ИИ попадёт не в те руки.
Для Аткинс наихудший сценарий атаки с использованием ИИ может выглядеть как событие типа червя Морриса, который распространяет автономно исполняемый набор программ-вымогателей, шифруя компьютеры в массовом порядке, например.
«Или это может быть похоже на червя Conficker, который на самом деле ничего не делал, но все всё равно запаниковали и написали о нём правительственные отчёты на тысячу страниц», — добавила она.
«Возможно, появится альтруист, который выпустит его в мир, и он исправит кучу ошибок. Всё действительно зависит от того, кто соберёт эти части вместе, и от его мотивов».
На данный момент LLM всё ещё с трудом справляются с основами. От различения добра и зла до более технических проблем, таких как неспособность переключиться со странных путей мышления при поиске уязвимостей, ИИ требует некоторого прогресса, прежде чем мы увидим лучшее или худшее из его возможностей.
Однако, когда этот день настанет или если он настанет, у злоумышленников может появиться ещё большее преимущество первопроходца над защитниками. Когда преступники смогут дать команду инструменту ИИ скомпрометировать заданную организацию, не оставив жертве времени на реагирование, это может заставить «хороших парней» переосмыслить понятие успеха в эпоху после ИИ.
Успех в кибербезопасности после наступления эры ИИ может измеряться не тем, удалось ли злоумышленнику проникнуть в сеть, а тем, как долго он там находился и какой минимальный ущерб смог нанести.
Аткинс отметила, что в облачном контексте системы защиты на базе ИИ должны просто отключать инстанс при обнаружении вредоносной активности, но внедрение таких систем должно быть выполнено осторожно, чтобы не вызвать проблем.
«Нам придётся разместить эти интеллектуальные системы принятия решений в основе принятия решений в реальном времени и нарушать процессы на местах, не создавая проблем с надёжностью, — сказала она. — Возможно, потребуется одобрение человека. Или вы отключаете один инстанс и включаете другой.
«Есть варианты, кроме простого переключателя «вкл/выкл», но мы должны начать обдумывать возможности прерывания в реальном времени или деградации, а также использовать весь арсенал информационной войны, чтобы изменить поле боя и сбить с толку атакующих с помощью ИИ. Особенно потому, что они пока действуют вслепую и могут быть менее устойчивы, чем атакующие-люди». ®
*Facebook, *Instagram и *WhatsApp принадлежат компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Connor Jones
