интервью Агенты ИИ позволяют киберпреступникам и хакерам, действующим по заказу государств, делегировать «работу по уборке», необходимую для планирования и осуществления кибератак, по словам Шеррод ДеГриппо, генерального менеджера Microsoft по глобальной разведке угроз. Северная Корея этим пользуется.
Это включает в себя такие задачи, как проведение разведки на скомпрометированных компьютерах, а также развертывание и управление инфраструктурой для атак — это может звучать не так захватывающе, как планирование и осуществление цифровых вторжений, но это реальные сценарии использования агентного ИИ в преступных целях, которые должны заставить охотников за угрозами насторожиться.
«Агентная, автоматизированная разведка против систем — это то, на что стоит обратить внимание», — сказала ДеГриппо в интервью The Register. «Иди, узнай о XYZ и вернись ко мне со всем, что увидел. Просканируй сетевые блоки, принадлежащие этой конкретной организации».
Злоумышленник мог бы сделать это вручную, но это заняло бы гораздо больше времени, чем поручить это агенту. Это «отличный пример того, как ИИ, который может использоваться для обычных, стандартных бизнес-целей, также может использоваться злоумышленниками в злонамеренных целях», — отметила она.
В пятничном блоге Microsoft заявляет, что это один из способов, которым негодяи используют ИИ для повышения эффективности и продуктивности своих преступных операций, что приводит к атакам, которые становятся лучше, масштабнее и быстрее.
Управление инфраструктурой — еще одна область, где агент ИИ приходят на помощь, сказала ДеГриппо. «Мы всегда видели, как злоумышленники разворачивают инфраструктуру, будь то компрометация существующей легитимной инфраструктуры и использование ее в злонамеренных целях, или покупка учетных записей и создание собственной инфраструктуры для запуска кампаний угроз», — сказала она.
Команда Microsoft Threat Intelligence зафиксировала, как северокорейская группировка Coral Sleet — одна из команд, стоящих за мошенничеством с поддельными ИТ-работниками, — использует платформы разработки для быстрого создания и управления своей атакующей инфраструктурой в масштабе, что позволяет быстрее проводить этапы кампаний, тестирование и операции по управлению и контролю, согласно пятничному блогу.
«С точки зрения использования агентного ИИ это очень интересно, потому что вы можете общаться со своей вредоносной инфраструктурой на естественном языке и передавать свои идеи, просто выражая их», — сказала ДеГриппо.
Оба этих способа экономят злоумышленникам время и усилия, а также снижают порог входа для менее технически подкованных преступников, особенно когда речь идет о создании инфраструктуры, которую защитники не смогут обнаружить.
«Злоумышленники будут делать то, что работает, и то, что позволяет им достичь своей цели проще и быстрее», — сказала ДеГриппо. «И поэтому предоставление злоумышленникам этих по-настоящему мощных инструментов позволит им делать это чаще».
Хотя команда аналитиков угроз Microsoft и другие исследователи безопасности задокументировали случаи использования агентного ИИ для генерации вредоносного ПО, навыки агентов по написанию кода пока не могут сравниться с человеческими, сказала нам ДеГриппо. Но, добавила она, у этого сценария есть две составляющие.
«Когда мы обнаруживаем вредоносное ПО, сгенерированное ИИ или с поддержкой ИИ, традиционно мы замечаем, что оно отличается от обычного вредоносного ПО», — сказала она. «У него есть те отличительные признаки, по которым человек, взглянув на код, может сказать: „Думаю, это сгенерировано ИИ“».
Вторая часть, которая включает вредоносное ПО, способное вызывать различные функции и библиотеки ИИ, является более интересным сценарием использования, «и более изощренным», по словам ДеГриппо.
«Любой, кто имеет опыт разработки программного обеспечения, независимо от того, разрабатывает ли он безвредное или вредоносное ПО, думает о том, как лучше улучшить свои рабочие процессы с помощью ИИ», — сказала она. «Неважно, создаете ли вы следующее SaaS CRM-приложение, мобильное приложение для управления футбольными играми ваших детей или вредоносное ПО, предназначенное для кражи денег или шпионажа. Любой, кто разрабатывает какой-либо код, думает о том, как использовать помощника ИИ для этого».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
