Министр государственной безопасности Китая решил, что ИИ может быть вреден для правящей Коммунистической партии страны.
Мнения секретаря партии и министра Чэнь Исиня появились в журнале China Cyberspace Magazine, флагманском издании Администрации киберпространства Китая (и, как могут вспомнить читатели, в котором когда-то была статья Илона Маска).
По мнению Чэня, «область ИИ стала основным полем битвы для глобальной технологической конкуренции и новой ареной стратегического соперничества между крупными державами». В его статье также перечисляются знакомые претензии по поводу санкций США и возможности того, что ИИ может быть использован в качестве оружия для обнаружения и эксплуатации уязвимостей программного обеспечения, а затем для атаки на важную инфраструктуру или кражи промышленных и государственных секретов.
Продукты вроде OpenClaw также вызывают беспокойство у министра, который считает, что такое программное обеспечение имеет «структурные проблемы, такие как удаленное управление разрешениями на управление устройствами и утечка конфиденциальной информации пользователей».
У Китая также может быть проблема PEBCAK*, поскольку Чэнь считает, что «некоторые отечественные пользователи не обладают достаточной осведомленностью о безопасности, используя иностранные продукты ИИ для обработки конфиденциальной информации и экспорта данных за рубеж, что приводит к масштабным утечкам данных из страны».
Министр также обеспокоен тем, как ИИ бросает вызов Коммунистической партии Китая.
«Применение искусственного интеллекта создает большое количество неопределенностей для социального управления и общественного порядка», — отметил он. ««Черный ящик» алгоритмов и «отравление» данных могут усилить существующие социальные предубеждения. Злоупотребление личной информацией при использовании данных может вызвать кризис доверия пользователей. Автоматическое принятие решений системой создает проблемы с определением ответственности».
Его также беспокоит, что «быстрое развитие искусственного интеллекта прорвало традиционные рамки управления технологиями, из-за чего существующие правовые нормы, этические принципы и механизмы управления часто отстают на практике, затрудняя формирование эффективной институциональной системы сдерживания и надзора».
Предлагаемый Чэнем ответ заключается в том, чтобы Китай придерживался слов президента Си Цзиньпина и модернизировал систему национальной безопасности и ее возможности, чтобы они были готовы к ИИ.
Министр говорит, что Китай должен «обеспечить независимый контроль над ключевыми основными технологиями, твердо удерживать технологический суверенитет и достичь добродетельного цикла и синергетического прогресса между расширением прав и возможностей инноваций и управлением безопасностью».
Эта позиция скорее предполагает, что Nvidia не скоро вернется в Китай, и AMD, вероятно, может списать свои перспективы продажи там большого количества GPU.
Чэнь также хочет «специальных законов и нормативных актов, направленных на исследования, разработку, применение и надзор за технологией искусственного интеллекта», а также улучшений стандартов и законов, «охватывающих всю цепочку исследований и разработок технологий, внедрения приложений, предотвращения и контроля рисков, а также подотчетности, с акцентом на такие острые вопросы, как безопасность алгоритмов, защита данных, этические нормы и права на конфиденциальность».
На следующий день после появления статьи Чэня Администрация киберпространства Китая опубликовала версию 3.0 национальной Рамочной программы управления безопасностью ИИ. Этот документ призывает Китай «активно использовать институциональные механизмы, управляемые рисками, такие как регуляторные песочницы, чтобы оставить место для ошибок и исправлений при разработке новых технологий и приложений».
Китай также планирует «приложить все усилия для обеспечения безопасности ИИ» и «своевременно принимать меры для устранения любых рисков, которые нарушают законные права и интересы отдельных лиц, наносят ущерб общественным интересам, угрожают национальной безопасности и ставят под угрозу выживание и развитие человечества».
Это совершенно контрастирует с позицией, занятой президентом США Дональдом Трампом, который в понедельник назвал опасения по поводу безопасности ИИ «мистификацией» и предположил, что «единственный контроль или «ограничения», которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, а в США такой есть, и в избытке!» ®
* Проблема существует между стулом и клавиатурой
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Simon Sharwood
