Цифровая устойчивость — способность предотвращать цифровые сбои, выдерживать их и восстанавливаться после них — долгое время была стратегическим приоритетом для предприятий. С появлением агентивного ИИ потребность в надежной устойчивости стала еще более острой.
Агентный ИИ представляет собой новое поколение автономных систем, способных к проактивному планированию, рассуждению и выполнению задач с минимальным вмешательством человека. По мере того как эти системы переходят от экспериментальных пилотных проектов к основным элементам бизнес-операций, они открывают новые возможности, но также создают новые проблемы, когда речь идет об обеспечении цифровой устойчивости. Это связано с тем, что автономность, скорость и масштаб, в которых работает агентный ИИ, могут усилить воздействие даже незначительных несоответствий в данных, фрагментации или пробелов в безопасности.
В то время как глобальные инвестиции в ИИ, по прогнозам, достигнут 1,5 триллиона долларов в 2025 году, менее половины бизнес-лидеров уверены в способности своей организации поддерживать непрерывность обслуживания, безопасность и контроль затрат во время непредвиденных событий. Эта неуверенность в сочетании с глубокой сложностью, привнесенной автономным принятием решений и взаимодействием агентного ИИ с критической инфраструктурой, требует переосмысления цифровой устойчивости.
Организации обращаются к концепции структуры данных — интегрированной архитектуре, которая связывает информацию и управляет ею на всех уровнях бизнеса. Разрушая разрозненность и обеспечивая доступ к данным всего предприятия в режиме реального времени, структура данных может позволить как человеческим командам, так и системам агентивного ИИ чувствовать риски, предотвращать проблемы до их возникновения, быстро восстанавливаться после них и поддерживать операции.
Данные машинного обучения: краеугольный камень агентивного ИИ и цифровой устойчивости
Более ранние модели ИИ в значительной степени полагались на данные, генерируемые человеком, такие как текст, аудио и видео, но агентивный ИИ требует глубокого понимания машинных данных организации: журналов, метрик и другой телеметрии, генерируемой устройствами, серверами, системами и приложениями.
Чтобы использовать агентный ИИ для повышения цифровой устойчивости, он должен иметь беспрепятственный доступ к этому потоку данных в режиме реального времени. Без всесторонней интеграции машинных данных организации рискуют ограничить возможности ИИ, пропустить критические аномалии или допустить ошибки. Как подчеркивает Камал Хати, старший вице-президент и генеральный менеджер Splunk, компании Cisco, системы агентного ИИ полагаются на машинные данные для понимания контекста, моделирования результатов и непрерывной адаптации. Это делает надзор за машинными данными краеугольным камнем цифровой устойчивости.
«Мы часто описываем машинные данные как сердцебиение современного предприятия, — говорит Хати. — Системы агентивного ИИ питаются этим жизненно важным импульсом, требуя доступа к информации в режиме реального времени. Важно, чтобы эти интеллектуальные агенты работали непосредственно со сложным потоком машинных данных и чтобы сам ИИ обучался с использованием того же потока данных».
В настоящее время лишь немногие организации достигают уровня интеграции машинных данных, необходимого для полноценной работы агентивных систем. Это не только сужает сферу возможных вариантов использования агентивного ИИ, но, что еще хуже, может также привести к аномалиям в данных и ошибкам в выходных данных или действиях. Модели обработки естественного языка (NLP), разработанные до разработки генеративных предварительно обученных трансформеров (GPT), страдали от лингвистической неоднозначности, предвзятости и непоследовательности. Аналогичные осечки могут произойти и с агентивным ИИ, если организации будут спешить, не предоставив моделям базовых знаний в области машинных данных.
Для многих компаний поддержание головокружительной скорости развития ИИ стало серьезной проблемой. «В некотором смысле скорость этих инноваций начинает вредить нам, потому что создает риски, к которым мы не готовы, — говорит Хати. — Проблема в том, что с развитием агентного ИИ использование традиционных LLM, обученных на человеческом тексте, аудио, видео или печатных данных, не работает, когда вам нужна, чтобы ваша система была безопасной, устойчивой и всегда доступной».
Разработка структуры данных для устойчивости
Чтобы устранить эти недостатки и повысить цифровую устойчивость, технологические лидеры должны перейти к тому, что Хати описывает как структуру данных, лучше отвечающую требованиям агентивного ИИ. Это предполагает объединение разрозненных активов из областей безопасности, ИТ, бизнес-операций и сети для создания интегрированной архитектуры, которая связывает разрозненные источники данных, разрушает разрозненность и обеспечивает анализ в режиме реального времени и управление рисками.
«Как только у вас появляется единое представление, вы можете делать все эти вещи, которые являются автономными и агентивными, — говорит Хати. — У вас гораздо меньше слепых зон. Принятие решений происходит намного быстрее. И неизвестность больше не является источником страха, потому что у вас есть целостная система, способная поглощать эти потрясения и разрушения без потери непрерывности», — добавляет он.
Чтобы создать эту унифицированную систему, команды, работающие с данными, должны сначала разрушить ведомственные разрозненности в способах обмена данными, говорит Хати. Затем они должны внедрить федеративную архитектуру данных — децентрализованную систему, в которой автономные источники данных работают вместе как единое целое без физического слияния — для создания единого источника данных с сохранением управления и безопасности. И, наконец, команды должны обновить платформы данных, чтобы обеспечить возможность использования этого вновь унифицированного представления для агентивного ИИ.
Во время этого перехода команды могут столкнуться с техническими ограничениями, если они полагаются на традиционные платформы, смоделированные на структурированных данных, то есть в основном на количественную информацию, такую как записи о клиентах или финансовые транзакции, которые можно организовать в предопределенном формате (часто в таблицах), который легко запрашивать. Вместо этого компаниям нужна платформа, которая также может управлять потоками неструктурированных данных, таких как системные журналы, события безопасности и трассировки приложений, которым не хватает единообразия и которые часто являются качественными, а не количественными. Анализ, организация и извлечение информации из этих видов данных требует более продвинутых методов, обеспечиваемых ИИ.
Использование ИИ в качестве соавтора
Сам ИИ может быть мощным инструментом для создания структуры данных, которая позволяет работать с системами ИИ. Инструменты на базе ИИ могут, например, быстро выявлять взаимосвязи между разрозненными данными — как структурированными, так и неструктурированными — автоматически объединяя их в единый источник достоверной информации. Они могут обнаруживать и исправлять ошибки и использовать NLP для добавления тегов и классификации данных, чтобы облегчить их поиск и использование.
Системы агентного ИИ также можно использовать для расширения человеческих возможностей в обнаружении и расшифровке аномалий в потоках неструктурированных данных предприятия. Эти аномалии часто находятся за пределами человеческих возможностей для быстрого выявления или интерпретации, что приводит к пропущенным угрозам или задержкам. Но системы агентивного ИИ, разработанные для восприятия, рассуждения и действия автономно, могут заполнить этот пробел, обеспечивая более высокий уровень цифровой устойчивости для предприятия.
«Цифровая устойчивость — это больше, чем просто противостояние сбоям, — говорит Хати. — Речь идет об эволюции и росте с течением времени. Агенты ИИ могут работать с огромными объемами данных и постоянно учиться у людей, которые обеспечивают безопасность и надзор. Это настоящая самооптимизирующаяся система».
Люди в цикле
Несмотря на свой потенциал, агентивный ИИ следует позиционировать как вспомогательный интеллект. Без надлежащего надзора агенты ИИ могут привести к сбоям в приложениях или рискам безопасности.
Четко определенные границы и поддержание людей в цикле — «ключ к надежному и практичному использованию ИИ», — говорит Хати. «ИИ может улучшить принятие решений человеком, но в конечном итоге за рулем находятся люди».
Этот контент был подготовлен Insights, подразделением MIT Technology Review, занимающимся созданием пользовательского контента. Он был написан не редакцией MIT Technology Review. Он был исследован, разработан и написан писателями, редакторами, аналитиками и иллюстраторами. Это включает в себя написание опросов и сбор данных для опросов. Инструменты ИИ, которые могли быть использованы, ограничивались вторичными производственными процессами, прошедшими тщательную проверку человеком.
Автор – technologyreview.com
