Сообщения в СМИ о «злонамеренных ИИ-агентах и киберугрозах, основанных на ИИ» заставляют советы директоров задуматься о последствиях этих разработок для их организаций. Возможности ИИ стремительно расширяются, но нет явных доказательств неминуемой катастрофы, связанной с ИИ. Поэтому директора по информационным технологиям (CIO), а также руководители инфраструктуры и операций (I&O) должны сосредоточиться на угрозах, с которыми организации сталкиваются сегодня, одновременно готовясь к будущим вызовам. Наиболее актуальная проблема заключается не в том, что ИИ внезапно выйдет из-под контроля, а в том, что ИИ может сократить время и экспертные знания, необходимые злоумышленникам для поиска уязвимостей в системах и приложениях. Это смещает баланс усилий между атакующими и защищающимися. Это также дает CIO и руководителям I&O практическую отправную точку для обсуждения с советами директоров: сосредоточиться на существующих уязвимостях организации, системах, которые затрудняют их устранение, и возможностях, необходимых для реагирования на развивающиеся угрозы.
Переведите разговор совета директоров с «что, если?» на «что теперь?»
Перспектива будущей катастрофы может доминировать в обсуждениях, поскольку она драматична и трудно поддается количественной оценке. Поэтому CIO должны помочь совету директоров различать то, что происходит сейчас, то, что может правдоподобно развиться, и то, что остается спекулятивным. Некоторые широко обсуждаемые сценарии, такие как выход ИИ-моделей из-под человеческого контроля или преодоление существующих мер безопасности, не являются установленными реалиями. Однако неопределенность в отношении будущих возможностей не является причиной игнорировать проблему. Более совершенные модели, изменения в способах их предоставления и новые способы их использования могут создать проблемы для текущих мер безопасности. Важен баланс. Восприятие апокалиптических заявлений как данности может стимулировать трату средств, обусловленную страхом, которую трудно поддерживать. Если предполагаемая чрезвычайная ситуация минует, инвестиции могут потерять свою обоснованность и поддержку. Полное игнорирование дискуссии несет иной риск: оно может оставить организацию неподготовленной к угрозам, которые уже возникают. Поэтому обсуждение в совете директоров должно быть сосредоточено на том, что можно сделать сейчас, чтобы повысить устойчивость организации. Такая постановка вопроса обеспечивает инвестиции в измеримые риски и готовность, а не в прогноз катастрофы.
Сосредоточьтесь на существующих угрозах
ИИ может помочь злоумышленникам находить уязвимости в системе безопасности, предоставляя организациям меньше времени для устранения недостатков в их приложениях и инфраструктуре. Это признанная проблема. Недавний опрос Gartner показал, что респонденты считают способность ИИ обнаруживать киберуязвимости ведущим новым риском, с которым сталкиваются их организации. Исследование, проведенное онлайн с июля по август 2026 года, собрало мнения 308 старших руководителей по управлению рисками из различных регионов и отраслей. Для CIO практический ответ заключается в повышении способности организации реагировать на известные уязвимости. Регулярное расписание установки исправлений остается важным, но скорость и актуальность ответа также имеют значение. Руководители должны понимать, какие уязвимости представляют наибольший бизнес-риск, кто несет ответственность за их устранение и могут ли команды быстро их устранить. Это также означает превращение управления уязвимостями в бизнес-вопрос. Технические команды могут сообщать о количестве выявленных уязвимостей, но советы директоров должны понимать, какие критически важные услуги или бизнес-процессы подвергаются риску и какие действия предпринимаются. Четкая, согласованная с бизнесом метрика может помочь показать, улучшается ли уровень подверженности риску и направляются ли ресурсы на наиболее приоритетные задачи. ИИ также может играть роль в помощи защитникам, но внедрение новых инструментов не должно рассматриваться как замена надежным практикам безопасности, четкому надзору или квалифицированному персоналу. Организации должны оценить, как поддерживаемые ИИ возможности безопасности вписываются в их операционную модель, и убедиться, что системы, используемые для поиска или устранения уязвимостей, не создают собственных новых рисков.
Устраните технический долг, лежащий в основе риска
Известные уязвимости не всегда легко исправить. Устаревшая инфраструктура и приложения могут быть трудны для обновления, плохо понятны или зависеть от других систем. В некоторых случаях организации может не хватать навыков или поддержки поставщика для их эффективного обслуживания. Таким образом, технический долг может превратить выявленную уязвимость в постоянную. Именно поэтому устойчивость требует большего, чем просто быстрое исправление. CIO должны оценить, какие устаревшие системы создают риск, и разработать план по их модернизации, замене или выводу из эксплуатации. Цель состоит не в том, чтобы немедленно избавиться от всех устаревших систем, а в том, чтобы сократить количество систем, которые трудно обезопасить, и приоритизировать изменения в соответствии с бизнес-влиянием. Полезное обсуждение в совете директоров связывает технический долг с операционными последствиями. Какие важные услуги зависят от систем, которые нельзя быстро обновить? Где сбой или компрометация могут прервать деловую активность? Каковы затраты и зависимости, связанные с выводом из эксплуатации или заменой этих систем? Эти вопросы помогают советам директоров сравнить риск продолжения эксплуатации старых технологий с инвестициями, необходимыми для их изменения. Там, где немедленный вывод из эксплуатации невозможен, руководители могут спланировать дополнительные меры безопасности, ограничить доступ или изолировать системы по мере необходимости, одновременно определяя, как и когда будет устранен основной риск. Ключ в том, чтобы сделать компромиссы видимыми, а не позволять техническому долгу оставаться неизученным источником подверженности риску. Сокращение технического долга также может повысить устойчивость за пределами кибербезопасности. Более простые, лучше поддерживаемые среды, как правило, легче для понимания и управления командами. Это может повысить способность организации реагировать при обнаружении уязвимости или при изменении ландшафта угроз.
Создайте устойчивость к будущим вызовам
Подготовка к текущим угрозам не должна означать предположение, что сегодняшние меры безопасности всегда будут достаточными. Развитие ИИ трудно предсказать. Более мощные модели могут по-новому испытать существующие средства контроля, в то время как более широкий доступ к мощным инструментам может облегчить большему числу людей попытки вредоносных действий. Руководители должны планировать эту возможность, не представляя ее как неизбежность. Долгосрочный подход начинается с прочного фундамента: четкой ответственности за риски, связанные с ИИ, установленных процессов оценки новых инструментов и программы безопасности, которая может адаптироваться по мере изменения доказательств. CIO должны работать с командами по безопасности, юридическими вопросами, управлению рисками и бизнесом, чтобы определить, где используется ИИ, в том числе в сервисах, внедренных вне формальных процессов закупок или управления. Надзор должен быть пропорционален потенциальным последствиям злоупотребления или сбоя. Руководители также должны регулярно пересматривать свои предположения. Риск, который сегодня является гипотетическим, может стать более серьезным по мере изменения возможностей моделей или методов атак. Регулярные обзоры могут помочь организациям корректировать меры безопасности на основе доказательств, а не игнорировать новые разработки или преждевременно идти на поводу у неопределенного наихудшего сценария. Цель состоит не в том, чтобы предсказать точные сроки будущих угроз, а в том, чтобы обеспечить способность организации учиться, реагировать и принимать обоснованные решения по мере развития обстоятельств. Это включает в себя поддержание людей, процессов и технических основ, необходимых для расследования инцидентов, ограничения их воздействия и восстановления основных услуг.
Сделайте готовность достоверной и устойчивой
CIO просят высказать свое мнение по поводу дискуссии, которая часто обусловлена сильными заявлениями и неопределенными прогнозами. Их авторитет зависит от признания обеих сторон: нет явных доказательств неминуемой ИИ-апокалипсиса, но ИИ уже меняет среду киберрисков и может создать новые проблемы в будущем. Практическая повестка дня совета директоров может помочь заземлить дискуссию. Во-первых, определите наиболее значимые известные уязвимости организации и покажите, как быстро они могут быть устранены. Во-вторых, объясните, где устаревшие технологии и технический долг препятствуют этой работе, а затем определите приоритеты для снижения рисков. В-третьих, опишите, как будут пересматриваться возможности управления и безопасности по мере развития ИИ. Такой подход позволяет избежать двух нежелательных крайностей. Чрезмерная реакция может привести к трате средств, обусловленной страхом, а не доказательствами. Недостаточная реакция может оставить организацию уязвимой для угроз, которые уже становятся легче реализовать. Устойчивость является более прочной основой для инвестиций, поскольку она связывает действия с текущими рисками, одновременно наращивая потенциал для реагирования на будущие. Вопрос для советов директоров не просто: «Что, если ИИ вызовет катастрофу?» Он звучит так: «Что мы можем сделать сейчас, чтобы повысить устойчивость организации?» Сосредотачиваясь на уязвимостях, сокращая технический долг и готовясь к адаптации, CIO могут превратить неопределенность в практическую повестку дня.
Пол Фуртадо — выдающийся вице-президент-аналитик в Gartner.
Аналитики Gartner изучили текущее и будущее состояние инфраструктуры ИИ на конференции Gartner IT Infrastructure, Operations & Cloud Strategies Conference в Лондоне 16 и 17 ноября.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Computerweekly




