Сенаторы Берни Сандерс и Грег Касар представили законопроект «О запрете искусственного сверхинтеллекта» (Ban Artificial Superintelligence Act). Законопроект предусматривает приостановку разработки передовых систем ИИ, а его положения весьма суровы. Нарушителям запретов и приостановок, предусмотренных законопроектом, грозит до 20 лет тюремного заключения. Это наказание сопоставимо с приговором за разработку несанкционированного ядерного оружия.
В последнее время в новостях всё чаще звучат серьёзные опасения по поводу чрезмерного усиления ИИ. Существует даже угроза будущему человечества. Более того, для многих может стать неожиданностью, что лидеры индустрии ИИ, такие как Сэм Альтман, Дарио Амодеи и Илон Маск, похоже, разделяют эти опасения. На фоне этой надвигающейся угрозы политики стремятся принять законодательные меры для защиты граждан, которых они представляют.
По данным USA Today, законопроект Сандерса «является наиболее радикальным законодательным актом, связанным с ИИ, на сегодняшний день». Вероятно, он столкнётся с сильным противодействием в Конгрессе, особенно со стороны демократов, поддерживающих бизнес, и республиканцев, лояльных Трампу. Однако, учитывая недавние заявления лидеров отрасли, которые, казалось бы, совпадают с призывами замедлить развитие ИИ и усилить надзор/регулирование, мы можем увидеть, как политики наконец-то придут к согласию.
Возвращаясь к законопроекту «О запрете искусственного сверхинтеллекта и временной приостановке разработки передовых ИИ», отметим, что в нём предлагается правительству создать новое федеральное агентство на уровне кабинета министров «для защиты общественности от опасностей искусственного интеллекта, в том числе путём обеспечения запрета на искусственный сверхинтеллект». Помимо установления суровых наказаний в США, предлагается работать над «запретом сверхинтеллекта во всём мире» посредством международных соглашений, координации с союзниками и т. д.
Существует множество интересных аргументов по обе стороны дискуссии о прогрессе в области ИИ. Трудно спорить с тем, что США не должны замедлять темпы развития, например, в целях национальной безопасности. С другой стороны, полное уничтожение человечества в результате открытия ящика Пандоры, которым может стать ИИ, делает геополитические проблемы незначительными.
Мы видели и другие теории, объясняющие, почему «ИИ-бароны» внезапно стали сторонниками регулирования. Некоторые критики утверждают, что у них, возможно, заканчиваются идеи, и они не могут сбалансировать частные инвестиции с реальными путями к прибыльности. Таким образом, они теперь хотят перейти от коммерчески финансируемой модели к государственному финансированию по типу «Манхэттенского проекта II», где их ужасающе мощный ИИ будет охраняться государством.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mark Tyson
