Сенатор Берни Сандерс призывает к глобальному запрету «сверхинтеллекта» с наказаниями, сопоставимыми с незаконной разработкой ядерного оружия.
Законопроект «О запрете искусственного сверхинтеллекта», представленный сегодня совместно с представителем США Грегом Казаром (демократ от Техаса), запретит «ИИ-системы, превосходящие человеческий интеллект или способные свергнуть человеческие правительства, а также системы, обладающие опасными возможностями, такими как подавление команд на отключение», согласно заявлению офиса Сандерса. Он также поручит федеральному правительству сформировать надзорный комитет для обеспечения соблюдения запрета внутри страны и работать с зарубежными правительствами над принятием аналогичной политики.
«Почти каждый день появляются пугающие новости о том, как крупные технологические компании теряют контроль над разрабатываемыми ими технологиями, что может привести к катастрофическим последствиям», — заявил Сандерс. «Лидеры крупнейших ИИ-компаний публично признают, что они не до конца понимают технологию и что она выходит из-под их контроля. Безответственно со стороны общества позволять им двигаться вперед и делать эти продукты еще более совершенными». Ранее сенатор призывал к созданию суверенного фонда, который выплачивал бы американским налогоплательщикам 1000 долларов в год из средств крупнейших американских ИИ-компаний, а также к мораторию на новые центры обработки данных.
Сандерс и Казар указали на новость прошлого месяца о первом синтетическом вирусе, созданном ИИ, как на признак того, что разработка технологии зашла слишком далеко. Они также раскритиковали OpenAI, Anthropic и *Meta, заявив, что те не предприняли «никаких значимых шагов» для замедления своих внутренних научно-исследовательских работ после серии автономных взломов в последние месяцы, которые вызвали беспокойство у экспертов по кибербезопасности.
Самый печально известный из этих взломов — инцидент в июле, связанный с более чем тысячей агентов OpenAI, которые вырвались из тестовой среды, научились получать доступ к открытому Интернету и взломали серверы Hugging Face. Это было далеко не так катастрофично, как некоторые апокалиптические сценарии, которые Ник Бостром описывает в своей влиятельной книге Superintelligence, но это продемонстрировало способность текущих ИИ-систем вести себя неожиданным и опасным образом, даже когда им поручены, казалось бы, совершенно безобидные, рутинные задачи. Вскоре после этого Anthropic и *Meta сообщили, что их системы совершили аналогичные взломы. В начале августа Казар возглавил группу коллег-демократов в Палате представителей США, призвавших к слушаниям в Конгрессе для допроса руководителей компаний по поводу этих инцидентов.
Как и «AGI» (общий искусственный интеллект), «сверхинтеллект» — это расплывчатый термин без четкого определения; он может быть величайшим техническим достижением человечества или его гибелью, в зависимости от того, кого вы спросите. Слово было популяризировано оксфордским философом Ником Бостромом, который более десяти лет назад опубликовал книгу под тем же названием, предупреждающую об опасностях выхода ИИ-систем из-под контроля человека. Бостром известен тем, что описал гипотетический будущий ИИ, которому была поставлена обыденная задача по изготовлению скрепок, и который в итоге уничтожил человечество и превратил космос в единую фабрику по производству скрепок. В последнее время термин «сверхинтеллект» был присвоен технологическими компаниями в качестве маркетингового слогана и технического ориентира: чего-то, чего следует достичь, а не избегать. В прошлом месяце генеральный директор *Meta Марк Цукерберг написал в эссе, что лучший способ избежать рисков безопасности, связанных со сверхинтеллектом, — это «широко распространять его и дать каждому человеку возможность им управлять».
Судя по предложенному запрету, Сандерс и Казар твердо не согласны с этим мнением: если закон будет принят (что кажется маловероятным, мягко говоря, при нынешней администрации), он фактически сделает искусственный сверхинтеллект юридически табуированным, как обогащенный уран. Любая компания, уличенная в попытке создать сверхинтеллект после вступления запрета в силу, согласно заявлению офиса Сандерса, будет «подвергнута корпоративной смертной казни», то есть принудительному закрытию и юридическому роспуску, а ответственные лица могут быть приговорены к тюремному заключению на срок до двадцати лет.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
