В этом году искусственный интеллект перестанет быть просто помощником и начнет действовать самостоятельно. Мы станем свидетелями качественного скачка к агентному или agentive AI, способному принимать автономные решения, управлять сложными рабочими процессами и выполнять задачи от начала до конца без постоянного вмешательства. Однако эта автономия несет бизнесу серьезное предупреждение: способность действовать самостоятельно экспоненциально умножает последствия любой ошибки или нарушения безопасности.
Согласно опросу ISACA Tech Trends and Priorities Pulse Poll, 59% специалистов по ИТ и кибербезопасности ожидают киберугроз, вызванных ИИ, в 2026 году. Это немаловажный факт, отражающий, что отраслевые «эксперты» настроены наиболее осторожно в отношении его последствий.
Учитывая этот сценарий, дискуссия должна вестись не о том, использовать ли ИИ, а о том, как его внедрять, не теряя из виду и контроля в реальных приложениях. На недавнем круглом столе я говорил о необходимости, если позволите парадокс, установить определенные «ворота в поле». Внедрение ИИ для критически важных процессов экономит время и деньги, это неоспоримо, но требует абсолютной прозрачности в том, что мы подключаем, как мы это делаем и с кем делимся информацией. Это налагает на нас обязательство обучать людей и управлять тем, что происходит в компании, всегда держа в центре уравнения человеческую ответственность.
С появлением agentic AI эта предпосылка перестает быть разумной рекомендацией и становится императивом выживания. Риск больше не ограничивается моделями, генерирующими текст, а распространяется на агентов, которые выполняют действия в системах, клиентских базах данных и цепочках поставок. Здесь возникает опасный разрыв: согласно тому же исследованию, только 13% специалистов считают свою организацию «очень подготовленной» к управлению этими рисками. Это тревожная статистика, показывающая, что подавляющее большинство компаний спешат в гонке ИИ, действуя в неприемлемой зоне уязвимости.
Вот почему я не устану повторять, что прорывные достижения, такие как agentic AI, требуют, чтобы вся эволюция основывалась на управлении (governance). Управление понимается не как бюрократия, замедляющая гибкость, а как совокупность правил, определяющих границы, обязанности и необходимые доказательства: какие варианты использования одобрены, с какими данными могут работать агенты, каковы обязательные средства контроля, как контролируются автоматизированные решения и кто несет ответственность, когда что-то идет не так.
В этом сложном ландшафте хорошая новость в том, что рынок начинает созревать в своем понимании ситуации. Действительно, использование ИИ в таких областях, как кибербезопасность, может облегчить операционную нагрузку, но оно также влечет за собой неизбежные затраты на внедрение. ИТ-команды должны возглавить внедрение решений ИИ и разработку политик, регулирующих их использование, с целью безопасного и ответственного принятия, что требует времени, ресурсов и видения.
С другой стороны, существует ограничивающий фактор, который нельзя игнорировать: нехватка специализированных талантов и усталость существующих. Любую компанию должно беспокоить то, что, по данным исследования ISACA, ошеломляющие 79% людей, работающих в ИТ, испытывают выгорание (burnout). Это показывает, что участие работодателей является решающим фактором: их поддержка — это не вопрос «благополучия на рабочем месте», а определяющий фактор, напрямую коррелирующий с распределением ресурсов компании и ее способностью удерживать сотрудников.
Ежедневное управление agentic AI также означает защиту команд, чтобы им не приходилось управлять новым фронтом риска с меньшим количеством рук и большим давлением. С чего начать? Во-первых, с системы управления (governance framework), которая четко определяет роли, отслеживаемость и контроль (включая управление сторонними поставщиками). Во-вторых, с реального и конкретного обучения — не будем забывать, что отсутствие обучения является одной из основных причин наиболее распространенных нарушений конфиденциальности.
И в-третьих, через устойчивость. Неслучайно непрерывность бизнеса и оперативное восстановление были определены как стратегические приоритеты на 2026 год.
В конечном счете, agentic AI может представлять собой окончательный скачок эффективности для организаций или прыжок в пустоту с точки зрения раскрытия информации и уязвимости. Разница между этими двумя сценариями будет зависеть от смелого решения, соответствующего этой новой реальности. Инновации, конечно, но всегда под эгидой «управления по замыслу» (governance by design).
Автор статьи — Густаво Фрега, старший менеджер по стратегии и развитию бизнеса в Isaca.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор –
