Национальный центр кибербезопасности Великобритании (NCSC) заявляет, что вредоносное ПО на базе искусственного интеллекта «весьма вероятно» станет частью будущих атак программ-вымогателей на критически важную национальную инфраструктуру Великобритании в период с настоящего момента до 2028 года.
Это предупреждение сопровождает ежегодный обзор центра и отдельную оценку, посвященную тому, как ИИ может изменить киберугрозы в ближайшие два года.
Киберподразделение агентства правительственной связи GCHQ не предоставило подробностей о том, в какой форме может появиться такое вредоносное ПО на базе ИИ. Однако оно намекнуло на использование общедоступных инструментов безопасности ИИ, изначально предназначенных для помощи исследователям в области безопасности, в злонамеренных целях.
Злоумышленники уже перепрофилируют подобные инструменты. Например, исследователи все чаще сталкиваются с массовым злоупотреблением ARTEX, общедоступной китайской платформой для ИИ-тестирования методом красной команды, в атаках на британского регистратора 123 Reg, Microsoft 365 и другие сервисы с момента ее запуска в июле.
В своем пессимистичном сценарии на 2028 год NCSC прогнозирует «значительное увеличение частоты и изощренности кибератак по всему миру», причем более широкое использование инструментов ИИ затруднит атрибуцию.
Китай «вероятно, сыграл роль» в поставке этих инструментов в будущем, «позволяя им скрывать свою деятельность в информационном шуме», говорится в отчете.
Также рассматривается дополнительная угроза: автономный злоумышленник, действующий вне контроля своего оператора.
NCSC заявляет, что «реалистична возможность того, что такой объект сможет самовоспроизводиться и проводить кибератаки по своему усмотрению, без видимой мотивации или ограничений».
Подобные атаки, вероятно, осложнят геополитические отношения из-за трудностей с атрибуцией, что облегчит странам, заказывающим атаки на другие государства, отрицание своей причастности.
Планы Великобритании по защите с помощью ИИ
В то время как каждый «Patch Tuesday» (вторник обновлений) кажется загруженным рекордным количеством ошибок, NCSC признает, что ИИ уже меняет процесс обнаружения уязвимостей и их исправления.
Организация также изучает, как ИИ может помочь защитникам не отставать. Проект DROMOS начался ранее в этом году с четырехнедельного пилотного проекта по анализу репозиториев правительственного кода, после чего был расширен на выбранные операционные среды.
Правительственный центр координации кибербезопасности (GC3) запустил проект совместно с Институтом безопасности ИИ и другими ведомствами. NCSC сообщает, что в ходе проекта было обнаружено сотни потенциальных проблем безопасности, включая критические уязвимости.
Обзор также подтверждает планы по созданию Cyber Shield — автономной системы киберзащиты, впервые анонсированной в июле.
Ожидается, что Cyber Shield будет внедряться поэтапно в течение следующих пяти лет. NCSC будет предоставлять участвующим организациям оборонительных агентов, которые будут использовать данные для повышения национальной устойчивости к текущим киберугрозам.
NCSC будет управлять программой совместно с Министерством цифровых технологий, культуры, СМИ и спорта (DCMS), но признает, что такая автоматизированная оборонительная деятельность в настоящее время выходит за рамки допустимого риска для многих организаций, что означает необходимость работы по укреплению доверия к системе до ее массового внедрения.
Как сообщалось на прошлой неделе, правительство выделило 60 миллионов фунтов стерлингов на финансирование этой инициативы и еще 70 миллионов фунтов стерлингов на поддержку нового Центра мониторинга угроз и уязвимостей в реальном времени (NERV).
Задача Центра NERV будет заключаться в выявлении и поддержании актуального понимания уязвимостей в организациях критически важной национальной инфраструктуры и в экономике в целом.
Согласно бюджету прошлой недели, 40 миллионов фунтов стерлингов будут направлены на финансирование Национального подразделения агентной безопасности, ответственного за реагирование на неконтролируемых ботов и другие сбои в работе агентных систем, а 24 миллиона фунтов стерлингов выделены на укрепление обороноспособности государственного сектора.
Нераскрытая сумма также будет направлена на создание нового Центра кибербезопасности ИИ под управлением NCSC в Манчестере для развития экспертизы в области безопасности ИИ в правительстве.
Тем временем генеральный директор NCSC доктор Ричард Хорн призывает организации «срочно инвестировать» в свою безопасность и устойчивость.
«Десятилетиями мы коллективно обходились дешевыми технологиями», — заявил он сегодня, объявляя ежегодный отчет.
«Мы можем стать нацией, где руководители всех организаций активно выбирают срочные инвестиции… И где все организации делают безопасность и устойчивость фундаментальным требованием, а не запоздалой мыслью.
«Коллективный результат станет источником непреходящей национальной силы для всех нас».
Хорн заявил, что организации должны рассматривать сертификацию NCSC Cyber Essentials как отправную точку, но масштабировать усилия по обеспечению устойчивости в соответствии с размером, сложностью и рисками организации.
Правительство также объявило о 75-процентной скидке на сертификацию Cyber Essentials для микро-, малых и средних предприятий, подающих заявку на получение первого сертификата. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Connor Jones
