По мере того как правительства стран Персидского залива ускоряют реализацию своих национальных амбиций в области искусственного интеллекта (ИИ), местонахождение данных становится центральным элементом стратегий цифрового суверенитета. Однако, по словам Хайдера Азиза, генерального менеджера по региону META в компании Vast Data, сосредоточение исключительно на сохранении данных в национальных границах рискует упустить из виду более фундаментальную задачу: сохранение контроля над тем, как данные доступны, передаются, управляются и используются все более автономными системами ИИ. По мнению Азиза, многие организации продолжают отождествлять суверенитет с местонахождением данных, несмотря на растущую сложность современных сред ИИ. «Местонахождение данных — это важный первый шаг, но он отвечает лишь на один вопрос: где хранятся данные? — сказал он. — Местонахождение обеспечивает локацию. Суверенитет требует контроля».
Ограничения местонахождения данных
Правительства стран Залива вложили значительные средства в суверенную облачную инфраструктуру, локальные центры обработки данных и требования к размещению внутри страны, чтобы гарантировать, что конфиденциальная информация остается в национальных границах. Однако Азиз утверждает, что этих мер самих по себе недостаточно для обеспечения суверенного ИИ. Набор данных может физически находиться в стране, но при этом им трудно управлять, если он копируется между министерствами, раскрывается через неуправляемые разрешения или используется несколькими системами ИИ без четкого надзора. «Правительствам необходимо знать не только то, что конфиденциальные данные остаются в стране, но и то, что к ним осуществляется доступ, они управляются, используются, восстанавливаются и аудируются в соответствии с политикой на протяжении всего жизненного цикла ИИ», — добавил он. Эта проблема становится все более значимой по мере того, как правительства стремятся создать межучережденческие платформы ИИ для улучшения государственных услуг посредством обмена данными и сотрудничества. По словам Азиза, одним из самых больших препятствий для масштабирования государственного ИИ является не инфраструктура, а способность поддерживать контролируемое сотрудничество между министерствами и ведомствами. Правительства хотят иметь системы ИИ, способные связывать информацию между государственными службами, но они не могут допустить неограниченного доступа к конфиденциальным данным. «Одному министерству может потребоваться поделиться ограниченным набором данных с другим, не раскрывая несвязанные записи, — объяснил Азиз. — Национальная платформа ИИ может обслуживать множество департаментов, каждый из которых имеет разных пользователей, классификации данных, юридические обязательства и политики доступа». В результате мультитенантность и управление разрешениями стали критически важными требованиями для суверенных платформ ИИ. Министерствам необходимо сохранять операционную независимость, одновременно участвуя в общих национальных возможностях ИИ. Это требует надежного контроля идентификации, изоляции арендаторов, ограниченных прав доступа, четкого владения данными и всесторонних аудиторских журналов, способных показать, кто, когда и на каком основании имел доступ к данным.
Агентный ИИ создает новую проблему суверенитета
Появление агентного ИИ вносит совершенно новое измерение в управление и суверенитет. В отличие от традиционных программных приложений, ИИ-агенты могут автономно получать информацию, взаимодействовать с системами, запускать рабочие процессы и обмениваться контекстом на нескольких платформах без прямого вмешательства человека. «Агентный ИИ меняет уравнение суверенитета, потому что доступ больше не ограничивается пользователями-людьми или традиционными приложениями», — сказал Азиз. Он предупредил, что без соответствующих механизмов управления организации рискуют создать то, что он описывает как «теневое перемещение данных», когда конфиденциальная информация перемещается между системами быстрее, чем традиционные процессы управления могут отследить или регулировать. Поэтому правительства должны установить четкие механизмы подотчетности для ИИ-агентов, включая управление идентификацией, контроль разрешений и детальное логирование действий. «Сам агент не является риском для суверенитета, — сказал Азиз. — Риск представляет собой среда, в которой агенты работают с широкими учетными данными, нечеткой идентификацией, слабыми границами политик и недостаточными доказательствами аудита». По мнению Азиза, суверенный контроль в конечном итоге сводится к ответам на ряд практических вопросов. Один из самых важных — владение ключами шифрования. «Кто держит ключи?» — это определяет, кто имеет право расшифровывать конфиденциальную информацию, отзывать доступ и сохранять контроль в случае изменения поставщиков инфраструктуры, арендаторов или сервисных отношений. Не менее важно понимать, как данные перемещаются между облаками, приложениями, аналитическими платформами, системами ИИ и операционными рабочими процессами. Правительствам нужна видимость не только наборов данных, но и артефактов, специфичных для ИИ, таких как промпты, эмбеддинги, извлеченный контекст, журналы логического вывода и действия агентов. «Контролирует ли политика перемещение, или оно происходит через неконтролируемые копии и разовые интеграции?» — спросил Азиз. Для министерств, внедряющих ИИ, суверенный контроль означает предоставление авторизованного доступа без излишнего раскрытия конфиденциальной информации, сохраняя при этом доказательства того, что системы соответствуют политике. По мере развертывания систем ИИ в здравоохранении, юстиции, общественной безопасности, государственных услугах и критической инфраструктуре, Азиз считает, что аудируемость становится не менее важной, чем местонахождение данных. «Если правительство не может доказать, кто имел доступ к конфиденциальному набору данных, какая система ИИ его использовала, какой контекст был извлечен или как был сгенерирован результат, тогда суверенитет становится заявлением, а не операционной моделью», — сказал он. Таким образом, всесторонние аудиторские журналы и возможности отслеживания происхождения ИИ становятся необходимыми для управления государственным ИИ. В то же время правительства должны избегать привязки к отдельным поставщикам инфраструктуры. Азиз утверждает, что портативность становится критическим компонентом суверенитета, поскольку организациям нужна возможность перемещать, восстанавливать или изолировать рабочие нагрузки в случае изменения нормативных требований, возникновения рисков или изменения стратегических приоритетов. «Без портативности выбор облака существует на бумаге, но не на практике», — сказал он.
Построение суверенного ИИ в странах Залива
Заглядывая вперед, Азиз считает, что страны Персидского залива имеют уникальные возможности для установления глобального лидерства в области суверенного ИИ, поскольку многие национальные программы ИИ создаются с нуля, а не встраиваются в устаревшую инфраструктуру. Однако успех будет зависеть от сочетания технических средств контроля с системами управления, которые охватывают классификацию, управление доступом, владение ключами, изоляцию арендаторов, планирование восстановления, аудируемость и портативность. Он также предостерег от создания фрагментированных архитектур данных, где каждое министерство или проект ИИ строит свою собственную изолированную среду. «Более сильная модель — это общая инфраструктура с четкими границами политик, позволяющая правительствам масштабировать ИИ в государственных службах, не теряя контроля», — сказал Азиз. «Страны, которые станут лидерами, будут не просто теми, кто купит больше всего вычислительных мощностей или разместит самые большие модели. Ими будут те, кто сможет превратить национальные данные в доверенные услуги ИИ, одновременно доказывая контроль над тем, как эти данные используются. Вычисления создают мощность ИИ. Управляемые данные создают преимущество суверенного ИИ».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Andrea Benito
