OpenAI предложила ввести обязательную федеральную оценку наиболее мощных моделей ИИ перед их публичным выпуском, при этом настаивая, что регуляторы не должны вмешиваться в решение о том, можно ли развертывать эти системы. Таким образом компания заняла срединную позицию в дебатах о том, как следует регулировать передовые системы ИИ (frontier AI).
Предложение компании прозвучало на следующий день после того, как Белый дом выпустил указ о передовой инновационной деятельности и безопасности в сфере ИИ, на фоне продолжающихся в Вашингтоне обсуждений того, должны ли надзор за передовыми системами ИИ основываться на добровольных обязательствах, обязательных оценках, требованиях к лицензированию или их комбинации.
В основе предложения OpenAI лежит различие между государственной оценкой и государственным одобрением. Компания предложила, чтобы наиболее мощные модели ИИ проходили предрелизную оценку в Центре стандартов и инноваций в области ИИ (CAISI) — федеральном органе по оценке и стандартизации ИИ, при этом регуляторам не следует предоставлять полномочия одобрять или блокировать развертывание.
«Законодатели должны потребовать, чтобы наиболее мощные передовые модели прошли оценку CAISI перед публичным выпуском», — написала OpenAI в своем предложении «Демократическое управление передовым ИИ: план федеральной структуры». Однако компания добавила, что «роль CAISI должна заключаться в проведении оценок и рекомендации мер по смягчению последствий, а не в одобрении или блокировании развертываний».
Компания также предложила более широкую федеральную структуру, которая потребует оценок, аудитов, отчетов о прозрачности, отчетности об инцидентах, защиты информаторов и усиления мер безопасности в отношении передовых систем ИИ.
Формирование дискуссии об управлении
Санчит Вир Гогиа, главный аналитик Greyhound Research, отметил, что предложение OpenAI, по-видимому, направлено на влияние на формирование зарождающейся федеральной структуры управления, а не на реакцию на уже устоявшуюся.
«Состязание теперь заключается не в том, будет ли регулироваться передовой ИИ, а в том, кто будет им управлять, на чьих условиях и где будет находиться окончательная власть», — сказал он.
OpenAI утверждала, что правительствам необходима большая осведомленность о разработке передового ИИ, и что одних добровольных обязательств будет недостаточно по мере того, как системы ИИ становятся более мощными.
«Демократические правительства, а не частные компании, действующие в одиночку, должны в конечном итоге определять правила, меры безопасности и механизмы подотчетности», — говорится в заявлении. «Решения о темпах инноваций в области ИИ не должны оставаться на усмотрение какой-либо одной лаборатории, компании или группы по особым интересам».
Компания также заявила: «Если общий искусственный интеллект (AGI) должен принести пользу всему человечеству, миру нужно нечто большее, чем добровольные обязательства, внутренняя политика компаний и изолированные регуляторные вмешательства». Вместо этого, по мнению OpenAI, «необходимы гармонизированные правовые рамки и устойчивые институты, способные адаптироваться по мере развития технологий».
Закупка как барьер для корпоративного ИИ
Предложение также затрагивает государственных покупателей. OpenAI заявила, что федеральные агентства не должны использовать передовые системы ИИ, не прошедшие признанную оценку, и должны «запретить закупку продуктов и услуг, основанных на неоцененных передовых моделях» в критически важных сценариях.
Это также разделило бы федеральный рынок на оцененные и неоцененные модели: любой поставщик, использующий передовую модель, должен был бы доказать, что система прошла оценку, чтобы продолжать продавать государственным структурам.
Гогиа отметил, что правила, требующие строгого соблюдения норм, выгодны крупнейшим разработчикам, которые помогают определять пороговые значения и шаблоны аудита, которые наследуют другие. «Управление в такой форме может стать «рвом», замаскированным под зрелость», — сказал он.
За пределами добровольных обязательств
Предложение OpenAI выходит за рамки оценки моделей, предлагая более широкую структуру управления для разработчиков передового ИИ.
Среди рекомендуемых мер — ежегодные сторонние аудиты, публичные отчеты о прозрачности, требования к отчетности о критических инцидентах безопасности, меры кибербезопасности для невыпущенных весов моделей и защита информаторов.
«Крупные разработчики передовых систем должны ежегодно привлекать независимую третью сторону для аудита соблюдения требований по обеспечению безопасности передовых систем», — говорится в документе OpenAI.
Компания также призывает к обязательному сообщению о критических инцидентах, связанных с развернутыми моделями, включая опасное поведение моделей и несанкционированный доступ к конфиденциальным весам моделей.
Шриья Дешпанде, старший аналитик Everest Group, отметила, что предложение пытается сбалансировать усиленный надзор с продолжением инноваций.
«Это создает заслуживающий доверия средний путь между добровольными обязательствами и лицензированием, сохраняя при этом контроль разработчика», — сказала она. «Эффективность модели будет зависеть от технического потенциала CAISI, качества независимой оценки и силы механизмов принуждения».
Создание институтов, а не привратников
Центральным элементом предложения OpenAI является расширение CAISI в то, что компания описывает как основной институт федерального правительства для оценки передового ИИ, разработки стандартов, сертификации независимой оценки и координации с учреждениями национальной безопасности и международными партнерами.
OpenAI утверждает, что законодателям нужен постоянный институт, способный отслеживать передовые возможности и оценивать возникающие риски по мере развития систем ИИ.
В то же время компания неоднократно предостерегает от превращения CAISI в привратника развертывания. Разработчики, по ее мнению, должны сохранять ответственность за решения о выпуске, а развертывание моделей не должно задерживаться из-за ограничений государственных возможностей или административных узких мест.
Гогиа считает, что эту структуру следует понимать в первую очередь как механизм для получения доказательств о передовых системах ИИ, а не как инструмент, напрямую определяющий возможность их развертывания.
«Ее лучше всего понимать как режим, производящий доказательства, а не как режим, производящий подотчетность», — сказал он. «Это сделает разработчиков более понятными. Станут ли они более ответственными — это уже другой вопрос».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
