Законодатели США в четверг представили законопроект, который обяжет разработчиков передовых моделей ИИ сообщать о серьезных инцидентах в области безопасности в Министерство торговли, создавая федеральную систему надзора за высокорискованными системами ИИ.
Предлагаемый Закон о сообщении об инцидентах ИИ (AI Incident Reporting Act) потребует от разработчиков определенных «подпадающих под действие закона моделей» раскрывать информацию об инцидентах в течение семи дней с момента, когда им стало известно или они обоснованно полагают, что инцидент произошел. В случае инцидентов, представляющих непосредственный или продолжающийся риск серьезного вреда, Министерство торговли должно будет уведомить руководство Конгресса и председателей соответствующих комитетов Палаты представителей и Сената в течение 48 часов после получения сообщения.
Законопроект предписывает Секретарю по вопросам торговли установить пороговые значения возможностей для определения того, какие модели ИИ и разработчики подпадают под требования по отчетности.
«ИИ — мощный двигатель инноваций, и я хочу видеть, как он процветает, но не без подотчетности и не без человеческого надзора», — заявил Моран в заявлении, анонсирующем законодательство. «Закон должен применяться и к этой новой сфере. Этот закон гарантирует, что когда что-то пойдет не так с высокопроизводительной системой ИИ, правительство США будет располагать информацией, необходимой для быстрого реагирования».
Широкий спектр инцидентов, подлежащих сообщению
В предложении определен широкий круг инцидентов, требующих раскрытия информации Министерству торговли.
Согласно законопроекту, разработчики должны будут сообщать о попытках подпадающих под действие закона моделей ИИ обойти человеческий надзор, обмануть операторов, обойти меры защиты, сопротивляться отключению или получить несанкционированный доступ к системам или привилегиям.
Требование отчетности также будет распространяться на кражу или попытку кражи весов моделей, возможности, которые могут существенно способствовать наступательным кибероперациям против важного программного обеспечения или критической инфраструктуры, автономную разработку более совершенных систем ИИ, а также возможности, которые могут ускорить разработку или применение химического, биологического, радиологического, ядерного или взрывчатого оружия.
Законодательство также предписывает Министерству торговли разработать пороговые значения возможностей по согласованию с разработчиками ИИ, академическими исследователями, экспертами по кибербезопасности, должностными лицами национальной безопасности и другими заинтересованными сторонами, прежде чем выпускать руководство по внедрению.
Санчит Вир Гогиа, главный аналитик Greyhound Research, заявил, что это предложение сделает сообщение о серьезных инцидентах ИИ юридическим обязательством, а не добровольной практикой для разработчиков передовых моделей ИИ.
«Серьезные разработчики передовых систем уже проводят оценки, «красное тестирование» и учения по эскалации», — сказал Гогиа. «Чего они никогда не сталкивались на федеральном уровне, так это юридического обязательства сообщить правительству, в установленные сроки, когда модель ведет себя опасно».
Сроки отчетности и правоприменение
Законопроект требует, чтобы подпадающие под его действие разработчики подавали первоначальный отчет в течение семи дней после обнаружения инцидента, подлежащего сообщению, и дополнительные отчеты по мере поступления дополнительной информации.
Законодательство также уполномочивает Министерство торговли расследовать соблюдение требований, выдавать повестки в суд, требовать принятия корректирующих мер и налагать гражданские штрафы в размере до 2 миллионов долларов за нарушения. Каждый день продолжающегося нарушения будет считаться отдельным нарушением, говорится в законопроекте.
Гогиа отметил, что реализация может зависеть от того, как регуляторы определят триггеры для отчетности.
«Пороговые значения возможностей — это видимая трудность, но не самая глубокая. Пороги определяют, какие модели попадают в режим. Обнаружение определяет, увидит ли режим вообще огонь», — сказал он.
Проводя сравнение с нормами кибербезопасности, он отметил, что требования к отчетности должны четко определять, когда инцидент становится подлежащим сообщению.
«Отчетность в сфере кибербезопасности уже преподала урок. Нечеткий триггер приводит либо к молчанию, либо к шуму: фирмы молчат, пока не будут уверены, или подают все подряд и заглушают сигнал», — сказал Гогиа.
Восполнение пробела, выявленного недавним спором
Законопроект последовал за действиями правительства США, которые выявили отсутствие такого процесса. 12 июня Министерство торговли приняло меры в отношении новейших моделей Anthropic, американского разработчика ИИ, на основании соображений национальной безопасности, что побудило компанию отключить глобальный доступ к этим моделям.
«Экспортный контроль был кувалдой. Это предложение — поиск скальпеля», — отметил Гогиа. Эта мера является более узкой альтернативой Great American Artificial Intelligence Act, более широкому проекту обсуждения, опубликованному ранее в июне, который также направляет информацию о критических инцидентах безопасности в Министерство торговли.
Центр стандартов и инноваций в области ИИ Министерства торговли отдельно подписал соглашения об оценке ведущих моделей перед развертыванием.
Бремя соблюдения требований ложится на предприятия
Гогиа заявил, что юридическая обязанность лежит на разработчике, но операционные расходы ложатся на клиентов. «Регулирование может назвать лабораторию, но счет за плохую видимость выставляется ниже по цепочке», — сказал он.
Он отметил, что самый сложный вопрос не в том, какие модели квалифицируются, а в том, когда запускаются часы отчетности. «Пороги определяют, какие модели попадают в режим. Обнаружение определяет, увидит ли режим вообще огонь», — сказал он, добавив, что модель может пройти лабораторные тесты, но вести себя иначе после подключения к реальным инструментам и корпоративным данным.
Законопроект освобождает представленные отчеты от требований публичного раскрытия информации и гласит, что подача отчета не отменяет защиты коммерческой тайны или привилегии адвокат-клиент.
«Инстинкт, лежащий в основе этого законопроекта, здравый, но баланс нельзя оценить по пресс-релизу», — сказал Гогиа. «Формулировки решат все».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
