Организации, стремящиеся внедрить ИИ в свои бизнес-процессы, осознают, что многолетние системы управления рисками, на которые они полагались, не приспособлены к особенностям поведения, режимам сбоев и этическим сложностям, которые привнесели системы искусственного интеллекта.
К счастью, появилось новое поколение специализированных фреймворков для ИИ, которые предлагают организациям структурированный способ выявления потенциальных ошибок ИИ, определения необходимых мер контроля и демонстрации ответственного использования ИИ регуляторам, клиентам и инвесторам. Не все из этих новых фреймворков решают одну и ту же проблему. Некоторые сосредоточены на управлении и организационной подотчетности, другие — на технических мерах безопасности, моделировании угроз или соблюдении нормативных требований. Выбор подходящего фреймворка для вашей организации зависит от того, где находятся ваши наиболее насущные пробелы.
По словам Николь Кариньян, директора по информационной безопасности (CISO) в Darktrace, эти фреймворки дополняют, а не конкурируют друг с другом, поскольку у них разные намерения, приоритеты и цели.
«Существует пересечение между этими фреймворками, но это пересечение полезно», — отмечает Кариньян. «Оно подкрепляет основные практики, которые организации должны освоить: управление, целостность данных, безопасность, подотчетность, надзор, тестирование и постоянное совершенствование».
Вот пять фреймворков, которые стоит рассмотреть для ваших нужд в области управления рисками ИИ.
ISO/IEC 42001 Система управления искусственным интеллектом
ISO/IEC 42001:2023 — это первый международно признанный формальный стандарт для управления ИИ. Опубликованный Международной организацией по стандартизации (ISO) и Международной электротехнической комиссией (IEC) в декабре 2023 года, ISO/IEC 42001 имеет схожую структуру с такими стандартами систем менеджмента, как ISO 27001. Этот фреймворк предоставляет организациям структурированную методологию для разработки политик, процессов, операционных мер контроля и механизмов подотчетности для обеспечения ответственной разработки и использования ИИ.
ISO/IEC 42001 требует от компаний документировать, как они проектируют, контролируют, проверяют и управляют системами ИИ, а также обязывает проводить оценки воздействия ИИ для оценки потенциальных юридических, этических и социальных последствий. Стандарт охватывает структуры управления, надзор за сторонними поставщиками, управление данными, обязательства по прозрачности и управление жизненным циклом.
ISO/IEC 42001 является добровольным, но подлежащим сертификации стандартом, применимым в различных секторах и для организаций любого размера. Растущее число организаций начало использовать его для демонстрации соблюдения принципов ответственного использования ИИ и соответствия таким нормативным актам, как Закон ЕС об ИИ (EU AI Act). ISO/IEC описали этот фреймворк как помогающий организациям согласовать свои практики ИИ с правовыми и нормативными требованиями; демонстрировать ответственное управление ИИ; управлять рисками, связанными с предвзятостью, безопасностью и защищенностью; а также повышать доверие заинтересованных сторон.
По словам Николь Кариньян, старшего вице-президента по стратегии безопасности и ИИ и полевого CISO в Darktrace, ISO 42001 — отличный вариант для организаций, только начинающих заниматься управлением рисками ИИ.
«Он обеспечивает самую прочную основу для построения программы управления рисками ИИ, а не для изолированного устранения отдельных рисков ИИ», — объясняет она. «С точки зрения построения программы, ISO 42001 — правильное место для старта, поскольку он заставляет организации целостно подходить к вопросам владения, управления, надзора, целостности данных, снижения рисков безопасности, подотчетности и постоянного совершенствования».
Один из недостатков, по мнению Кариньян, заключается в том, что внедрение этого фреймворка требует значительных ресурсов, а полный текст стандарта не является общедоступным. Оба этих препятствия могут оказаться серьезными для организаций, которые находятся на самой ранней стадии своего пути в области управления ИИ, говорит она.
Фреймворк NIST по управлению рисками ИИ (AI RMF)
Выпущенный Национальным институтом стандартов и технологий США (NIST) в январе 2023 года, Фреймворк по управлению рисками ИИ (AI Risk Management Framework, AI RMF) является добровольным фреймворком, призванным помочь организациям любого размера и во всех секторах выявлять, оценивать и управлять рисками, связанными с системами ИИ на протяжении всего их жизненного цикла.
Фреймворк состоит из двух частей. Первая содержит руководство о том, как организациям следует подходить к рискам ИИ и характеристикам надежного ИИ, таким как обоснованность, безопасность, защищенность, прозрачность, объяснимость, конфиденциальность и справедливость. Вторая часть структурирована вокруг четырех взаимосвязанных функций:
- Управление (Govern) фокусируется на том, что организации должны делать для формирования внутренней культуры, политик и структур подотчетности для использования ИИ.
- Картирование (Map) включает понимание более широкого контекста и потенциальных рисков конкретных систем ИИ.
- Измерение (Measure) фокусируется на том, как организации должны оценивать и отслеживать эти риски, используя как качественные, так и количественные методы.
- Управление (Manage) предоставляет руководство по приоритизации рисков и соответствующим мерам реагирования, таким как снижение, передача или принятие риска.
NIST AI RMF включает отдельную «Практическое руководство» (Playbook), которая предоставляет практические шаги по внедрению для помощи организациям в эффективном выполнении каждой из этих функций.
Для организаций, которые еще не готовы формально следовать ISO 42001, NIST AI RMF может служить более гибкой и доступной отправной точкой, говорит Кариньян.
«Он общедоступен и дает организациям общий язык для понимания и снижения рисков ИИ», — добавляет она. «Но если цель состоит в построении устойчивой программы управления рисками ИИ, ISO 42001 является самой прочной основой».
Рам Варадараджан, генеральный директор Acalvio, рекомендует NIST AI RMF как хорошее место для начала управления рисками ИИ, «поскольку он построен вокруг зрелости, а не аудитов на соответствие/несоответствие». Он дает организациям, начинающим с нуля, возможность определить свое текущее положение, а не сразу выставлять неудовлетворительную оценку.
«Что еще более важно, он инициирует три разговора, которые должны состояться в первую очередь: кто несет ответственность за риск ИИ, какой ИИ фактически работает и кто пострадает, если что-то пойдет не так», — говорит Варадараджан.
Хотя исследователи Forrester вскоре после запуска охарактеризовали NIST AI RMF как шаг в правильном направлении, они также выразили обеспокоенность по поводу конфликта интересов среди множества заинтересованных сторон, участвовавших в разработке фреймворка, отсутствия явной роли для управления данными и того факта, что фреймворк «оставался описательным, а не предписывающим».
В результате, «директора по данным и руководители отделов науки о данных должны мудро ориентироваться в этом фреймворке, чтобы интерпретировать и применять его в своих усилиях по управлению ИИ», — посоветовал аналитический дом.
Фреймворк ENISA по практикам кибербезопасности ИИ
Агентство Европейского союза по кибербезопасности (ENISA) разработало свой Фреймворк практик кибербезопасности ИИ (FAICP) в преддверии принятия Закона ЕС об ИИ. Опубликованный в июне 2023 года, этот фреймворк предоставляет организациям ЕС структурированное руководство по кибербезопасности, специфичное для ИИ, для повышения надежности их деятельности в области ИИ.
FAICP организован вокруг трех прогрессивных уровней. Первый охватывает основополагающие практики кибербезопасности информационно-коммуникационных технологий, которые системы ИИ наследуют благодаря работе на стандартной программной инфраструктуре. Второй уровень посвящен рискам, специфичным для ИИ, включая состязательные атаки, манипулирование моделями, целостность конвейера данных и безопасность цепочки поставок. Третий уровень содержит руководство для регулируемых отраслей, таких как энергетика, здравоохранение и телекоммуникации.
По данным Европейского парламента, многоуровневая структура FAICP предоставляет организациям «постепенный подход» к повышению надежности их деятельности в области ИИ.
FAICP является добровольным, но его тесная связь с Законом ЕС об ИИ и Директивой NIS2, которая является основным законом ЕС о кибербезопасности, означает, что регуляторы ЕС рассматривают этот фреймворк как базовый уровень для практик управления ИИ во всех организациях, ведущих бизнес в ЕС.
FAICP важен, потому что «Закон ЕС об ИИ, вероятно, станет глобальной точкой отсчета, подобно тому, как закон ЕС о защите данных стал де-факто стандартом для компаний по всему миру, независимо от того, где они зарегистрированы», — прогнозирует Варадараджан.
«В течение двух-трех лет, по прогнозам, доминировать будут два фреймворка: Закон ЕС об ИИ, устанавливающий юридический минимум, и NIST AI RMF, предоставляющий оперативное руководство по его выполнению», — говорит Варадараджан.
ISO/IEC 23894:2023 Информационные технологии — Искусственный интеллект — Руководство по управлению рисками
Фреймворк ISO/IEC 23894:2923 предоставляет организациям конкретные рекомендации по управлению рисками, связанными с искусственным интеллектом. Выпущенный совместно ISO и IEC в феврале 2023 года, этот фреймворк основан на общем стандарте управления рисками ISO 31000 и адаптирует его для решения специфических для ИИ рисков, таких как связанные с алгоритмической предвзятостью, дрейфом модели, непредсказуемым поведением и отсутствием прозрачности в принятии решений. Он предлагает организациям способ оценки вероятности и потенциальных последствий этих рисков на протяжении всего жизненного цикла системы ИИ.
ISO описал этот стандарт как «компаньона к ISO 31000 (Управление рисками) и ISO/IEC 42001 (Системы управления ИИ)». Основное различие между ISO/IEC 42001 и ISO/IEC 23894 заключается в том, что первый является системой менеджмента, подлежащей сертификации. Он предоставляет организациям полные требования для создания, внедрения и поддержания системы управления ИИ. ISO/IEC 23894:2023, с другой стороны, является стандартом, предоставляющим только руководство, сфокусированным на том, как выявлять, оценивать и управлять рисками, специфичными для ИИ.
«Примечательно, что ISO/IEC 23894 предлагает конкретные примеры эффективного внедрения и интеграции управления рисками на протяжении всего жизненного цикла разработки ИИ и предоставляет подробную информацию об источниках рисков, специфичных для ИИ», — отмечает поддерживаемый Великобританией AI Standards Hub. «Ключевое преимущество этого стандарта заключается в том, что применение руководства может быть адаптировано к любой организации и ее бизнес-контексту».
Фреймворк безопасного ИИ Google (SAIF)
Фреймворк безопасного ИИ Google (SAIF) — это практическое руководство от Google, помогающее организациям разрабатывать и эксплуатировать системы ИИ с надежной встроенной защитой от цифровых угроз. Запущенный в 2023 году, он фокусируется на интеграции соображений безопасности и конфиденциальности непосредственно на каждом этапе жизненного цикла проекта ИИ, от проектирования до развертывания и текущей эксплуатации.
Его основная цель — устранить уникальные уязвимости, присущие технологиям ИИ, такие как атаки, направленные на изменение обучающих данных, обман моделей с помощью специально созданных промптов или кражу конфиденциальной информации. SAIF основан на собственном опыте Google в разработке и развертывании крупномасштабных систем ИИ и поэтому в большей степени ориентирован на инженерию, чем другие фреймворки. SAIF в значительной степени направлен на то, чтобы помочь организациям сделать свои системы ИИ более устойчивыми к кибератакам и киберпротивникам, и охватывает такие области, как обработка данных, базовая инфраструктура, сами модели ИИ, приложения, ориентированные на пользователя, и процессы верификации. Он предлагает организациям практические рекомендации по мерам контроля внедрения, совместной ответственности и защите от технических атак.
Технологическая консалтинговая компания Thoughtworks оценила SAIF как фреймворк, который помогает организациям систематически решать «общие угрозы, такие как отравление данных и инъекции промптов, с помощью четкой карты рисков, анализа компонентов и практических стратегий смягчения последствий». По данным фирмы, «фокус SAIF на развивающихся рисках создания агентивных систем особенно своевременен и ценен. SAIF предлагает краткое, действенное руководство, которое команды могут использовать для усиления практик безопасности при использовании LLM и приложений на базе ИИ».
Дэвид Брамли, директор по ИИ и науке в Bugcrowd, говорит, что для организаций, желающих принять фреймворк, вопрос не в том, «какой фреймворк управления рисками ИИ лучший?», а в том, «какой фреймворк помогает [организации] безопасно создавать, развертывать и извлекать уроки из ИИ в реальном мире?»
Хотя большинство доступных в настоящее время фреймворков управления рисками ИИ полезны, большинство из них по-прежнему сосредоточены на предотвращении негативных последствий, а не на помощи организациям в прокладывании безопасных путей для технологии, которая уже неизбежна.
«Это различие имеет значение», — говорит Брамли. «Принятие ИИ не ждет идеального управления, и те, кто сосредоточится на [фреймворке управления рисками], могут непреднамеренно создать проблему теневого ИИ в своей организации».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jaikumar Vijayan
