Шум вокруг систем агентного искусственного интеллекта (ИИ), ИИ-агентов, автономных центров безопасности и всего, что между ними, громче, чем когда-либо, вызывая дискуссии во всех отраслях. ИТ-провайдеры расхваливают возможности — некоторые из них доступны уже сейчас, а многие другие ожидаются в будущем. Различить текущие и будущие возможности сложно для многих. Чтобы внести некоторую ясность, ниже приводится разбивка распространенных вопросов, которые Forrester задают о генеративном ИИ (GenAI) и его связи с безопасностью.
Что такое генеративный ИИ?
Генеративный ИИ — это тип искусственного интеллекта, который чрезвычайно хорошо определяет следующий наиболее вероятный токен в сложной последовательности. Это одна из причин, почему он так хорошо работает с человеческим языком, и почему другие, более ранние итерации машинного обучения не справлялись. Человеческий язык чрезвычайно сложен. GenAI может имитировать качества данных, на которых он обучался, а большинство наиболее популярных моделей на рынке обучены на большом объеме человеческого языка. В инструментах безопасности мы видим три распространенных варианта использования генеративного ИИ:
Для чего лучше всего подходят чат-боты GenAI в области безопасности?
Чат-боты ИИ, такие как Claude, Gemini, ChatGPT — или их аналоги в области безопасности, включая Microsoft Security Copilot, Google Gemini, Charlotte AI и Purple AI — основаны на больших языковых моделях (LLM). Как таковые, они могут отвечать на открытые вопросы, создавать нюансированные ответы, предоставлять контекстно-зависимые ответы и адаптироваться к темам, особенно к темам безопасности, без необходимости явного программирования для каждого сценария. Хотя эта возможность является новой и уникальной, специалисты используют ее нечасто. Когда они это делают, она особенно полезна для вопросов о документации по продуктам или для исследования конкретных угроз или уязвимостей. Однако, помимо этого, нет особых причин обращаться к чат-боту, поэтому он не используется.
Что считается обязательным для возможностей GenAI в инструментах безопасности?
Помимо использования чат-бота, существует несколько распространенных способов реализации GenAI в инструментах безопасности сегодня. В большинстве случаев они напрямую интегрированы в рабочий процесс аналитика. Чаще всего это выглядит так:
Для чего используются ИИ-агенты в области безопасности?
За последние полтора года произошел настоящий скачок в использовании GenAI в области безопасности. Появление ИИ-агентов, особенно для триажа и расследования, прокладывает путь к серьезным изменениям в работе специалистов. ИИ-агенты — это узкоспециализированные инструменты, которые следуют строгим инструкциям для выполнения конкретных задач. Возможности агента ограничены, и он реагирует на определенные триггеры, такие как получение конкретного оповещения или индикатора компрометации для оценки. Очень важно отметить, что вызов ИИ в определенной функции — это не то же самое, что ИИ-агент. Например, если у поставщика есть функция в его продукте, которая создает сводку инцидента с использованием генеративного ИИ, это не обязательно ИИ-агент. Это может быть просто вызов LLM в определенной функции. Конкретная направленность, задача, способность управлять состоянием (выполнять несколько шагов, сохраняя память) и инкапсуляция — вот что отличает ИИ-агента от вызова в функции. Сегодня на рынке существует множество ИИ-агентов, например от CrowdStrike, ReliaQuest, Intezer и Red Canary, среди прочих. Эти ИИ-агенты являются агентами задач — они выполняют конкретные задачи, часто в рамках процесса реагирования на инциденты. Агенты задач очень хорошо справляются с выполнением одной конкретной задачи, поскольку они обучены на специфических данных и получают набор проверенных и валидированных подсказок, чтобы гарантировать правильное выполнение задачи каждый раз. Например, агент триажа для фишинга может иметь встроенные подсказки, которые предписывают ему оценивать любое предоставленное ему электронное письмо, извлекая все индикаторы компрометации, проверяя их репутацию, а затем предоставляя вердикт и сводку своих выводов. Благодаря тщательному обучению, строгому тестированию и итеративному улучшению используемых подсказок, ранние данные показывают, что такие агенты триажа были очень успешны в автоматическом разрешении ложных срабатываний (в конкретных случаях). Важно отметить, что комбинация агентов задач, специфичных для конкретного варианта использования (триаж, расследование и т. д.) и предметной области (конечная точка, идентификация, электронная почта и т. д.), должна предшествовать попыткам решения более крупных проблем, таких как создание ИИ, способного завершить весь жизненный цикл реагирования на инциденты. Это похоже на переход, с которым мы столкнулись при переходе в облако: вместо создания монолита, создание микросервисов привело к более масштабируемому, надежному и точному результату. Аналогично, агенты задач, специфичные для выполняемого варианта использования и предметной области, для которой они созданы, обеспечивают лучшие результаты. Это подводит нас к следующему этапу: агентный ИИ.
Для чего используется агентный ИИ в инструментах безопасности?
Агентный ИИ — это система ИИ-агентов задач, работающих совместно и обменивающихся информацией для достижения более широкой цели. Агенты взаимодействуют через агент-агентные взаимодействия. Агентная система для операций безопасности может выглядеть как комбинация агентов триажа, агентов расследования и агентов реагирования. Например, агентная система может оркестрировать агент триажа фишинга для проверки подтвержденной атаки фишинга, затем работать с агентом триажа конечной точки и агентом расследования конечной точки для проверки того, что фишинговая атака достигла конечной точки и привела к повышению привилегий. Оттуда агенты могут предоставить контекст агенту реагирования на конечной точке, который затем предоставит аналитику информацию, необходимую для принятия обоснованного решения о реагировании.
Не верьте ажиотажу: это незавершенная работа и далеко не готово сегодня
Хотя агентные системы могут звучать как панацея, в настоящее время инструменты безопасности не могут обеспечить работу по всем вариантам использования и предметным областям. Большинство из них ограничены несколькими вариантами использования и несколькими предметными областями (если вообще есть), и многие из этих возможностей не являются общедоступными. И даже те, которые есть, все еще имеют ограничения. Получение правильных данных в нужное время для качественного триажа и расследования по-прежнему затруднительно. Совместная и безопасная работа серверов Model Context Protocol (MCP) затруднительна и далеко не безупречна. Кроме того, обеспечение того, чтобы ИИ-агенты последовательно выдавали надежные и точные результаты, не является решенной проблемой — очень сложно обеспечить качество недетерминированной системы в масштабе. Элли Меллен — ведущий аналитик компании Forrester.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор –
