Национальный центр кибербезопасности Великобритании (NCSC) намерен внедрить автономные агенты на базе ИИ, способные в режиме реального времени обнаруживать и нейтрализовывать кибератаки на национальные сети. Это знаменует собой стремление Британии к созданию суверенной системы киберзащиты, работающей на машинной скорости.
Концепция, получившая название «Киберщит» (Cyber Shield), была разработана совместно с Департаментом науки, инноваций и технологий (DSIT).
«Цель «Киберщита» — выстроить общенациональный совместный подход к агентной киберзащите с использованием передового ИИ для выявления, снижения и устранения нашего национального киберриска», — говорится в блоге NCSC.
Это предложение прозвучало на фоне предупреждений NCSC о том, что ИИ уже помогает злоумышленникам проводить такие действия, как обнаружение уязвимостей и разведка, «в гораздо большем масштабе и с более высокой скоростью», сокращая время, доступное защитникам для реагирования.
Хотя ведомство заявило, что еще не сталкивалось с полностью автономными атаками на всем цикле вторжения, оно ожидает, что передовые модели ИИ в конечном итоге будут действовать от первоначального доступа до достижения целей.
«Киберщит» полагается на агентов ИИ
Согласно концепции, «Киберщит» будет опираться на агентов «красной» и «синей» команд на базе ИИ для выявления слабых мест в системах, обнаружения угроз и постепенной автоматизации мероприятий по киберзащите.
«В ближайшем будущем мы представляем мир, где киберзащита поддерживается агентами «красной» и «синей» команд, которые выявляют слабые места в системах («красные») и защищают от угроз в режиме реального времени («синие»)», — говорится в блоге NCSC.
Первоначально агенты ИИ будут выявлять уязвимости и угрозы на машинной скорости, а затем перейдут к автоматизированному устранению. Они также будут генерировать и обмениваться сведениями о безопасности, обнаруживать и сдерживать нарушения, сотрудничать между организациями и действовать под контролем участвующих организаций.
NCSC планирует начать с партнерства с защитниками сетей в государственных структурах и критически важных секторах Великобритании, прежде чем переходить к коммерчески масштабируемым внедрениям.
«Наша цель — перейти к коммерчески масштабируемым решениям для обеспечения уровня национальной устойчивости, готового к будущим угрозам», — заявило ведомство.
ИИ сокращает окно реагирования защитников
«Великобритания сталкивается с киберугрозой, которая растет в масштабе, скорости и сложности, — заявили в NCSC. — Передовой ИИ ускоряет эту тенденцию, потенциально смещая баланс в пользу атакующих — и это имеет серьезные последствия для защитников».
По данным ведомства, ИИ уже помогает злоумышленникам проводить наступательные кибероперации, включая обнаружение уязвимостей и разведку, «в гораздо большем масштабе и с более высокой скоростью».
«В результате действия, на которые раньше уходили недели, теперь могут занимать минуты, сокращая время, доступное защитникам для реагирования, обнаружения и сдерживания», — добавлено в сообщении в блоге.
Фреймворк «Киберщит» также отдает приоритет объяснимому ИИ, федеративным агентам ИИ, автоматизированному обнаружению и смягчению последствий уязвимостей, скоординированному обнаружению и реагированию, а также возможностям сканирования и смягчения последствий в национальном масштабе. Среди долгосрочных целей — разработка «полностью автоматизированных рабочих процессов по устранению уязвимостей», которые позволят защитникам действовать «за пределами человеческого масштаба», начиная с критически важных сетей.
Санчит Вир Гогиа, главный аналитик Greyhound Research, отметил, что концепция отражает более широкий сдвиг в сторону оперативного ИИ в сфере кибербезопасности, но также подчеркивает проблемы управления.
«Как только агент может изменять рабочую среду, он перестает быть помощником и переходит в плоскость управления, — сказал Гогиа. — Каждое автоматизированное действие должно отчитываться о своих полномочиях, изменениях и возможности отмены, а агент, который не может объяснить себя, не должен прикасаться к производственной среде».
Гогиа отметил, что сам NCSC проводит различие между выявлением уязвимостей с помощью ИИ и обнаружением угроз, что организации могут начать применять уже сегодня, и полностью автоматизированным устранением последствий, которое концепция определяет как открытую исследовательскую задачу.
Партнерство с отраслью признано критически важным
NCSC заявило, что «Киберщит» не может быть реализован только правительством и потребует сотрудничества с промышленностью, академическими кругами, разработчиками передового ИИ и операторами критически важной национальной инфраструктуры.
«Видение «Киберщита» амбициозно и далеко идуще, и сталкивается со значительными проблемами реализации. Его не могут разрабатывать и эксплуатировать только NCSC или правительство», — заявило ведомство.
Согласно сообщению в блоге, NCSC и DSIT создают пути для партнеров, чтобы они могли вносить исследования, технологии и оперативный опыт по мере развития концепции.
NCSC не сразу ответило на запрос о комментариях относительно того, когда «Киберщит» планируется вывести за рамки этапа концепции.
Гогиа считает, что концепция вряд ли немедленно изменит закупки корпоративных технологий, поскольку она еще не определяет оперативного стандарта.
«Никто не будет требовать продукты, совместимые с «Киберщитом», потому что нет оперативного стандарта, по которому можно было бы закупать, — сказал он. — Первым изменится словарь критериев. Серьезные покупатели больше не спрашивают, есть ли в инструменте агентный ИИ. Они спрашивают, что ему разрешено изменять».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
