Новая энциклика Папы Льва XIV о искусственном интеллекте содержит утверждение, заслуживающее серьезного внимания технологов и политиков: «Технология никогда не бывает нейтральной». «Magnifica Humanitas» («Великолепное человечество») — это призыв ко всем людям действовать смело и солидарно, вступая в эпоху, которая уже преображается искусственным интеллектом, величайшим изменением в жизни человека со времен Промышленной революции. Как говорит Папа, выбор, стоящий перед нами — выбор, который представляет ИИ, — это выбор между Вавилонской башней и восстановлением нашего общего человечества.
В библейской истории о Вавилонской башне люди стремились построить огромное сооружение, достигающее самого Неба, но их проект был сорван, когда Бог сделал так, что участники перестали понимать друг друга. Это было стремление, зацикленное на неуклонном росте, оторванное от всякой заботы о заповедях Божьих или о человеческой цене. Это привело к неудаче и атомизации.
Однако Книга Неемии предлагает контрастный сюжет, в котором восстановление Иерусалима после периода насилия и изгнания становится возможностью для человечества продемонстрировать свою совместную стойкость. Как говорится в энциклике: «Город возрождается не по инициативе одного человека, а благодаря общей ответственности всех: мужчин, женщин, священников, ремесленников, глав семейств и молодежи — все они играют свою роль. Это начинание с Богом в центре, которое восстанавливает отношения прежде, чем восстанавливать камни».
Есть ли сомнения, по какому пути мы сейчас мчимся? И может ли быть сомнений, по какому пути нам следовало бы идти вместе?
Мы оба католики, члены религиозных общин и давние сторонники движения за социально ответственное инвестирование. Особый интерес для нас и этого движения представляет мысль Папы Льва о том, что ИИ — это не какая-то сила природы или сверхрациональная, непостижимая сущность. Вместо этого, напоминает он, ИИ — это, в конечном счете, еще один коммерческий продукт, появившийся в исторический момент, когда чрезмерная власть над торговлей и обществом в целом сосредоточилась в руках исчезающе малого числа людей.
Это мощное послание. Это также то, на что институциональные инвесторы действуют уже много лет. Эта энциклика не столько прокладывает новую почву, сколько ратифицирует уже идущие усилия по управлению, возглавляемые не государствами или международными органами, а акционерами. Когда правительства не справляются с содержательным регулированием, а корпорациям нельзя доверять в том, что они делают что-то полезное за пределами своей собственной прибыли, у людей в обществе все еще есть сила направить нас на правильный путь, и, по сути, у них есть обязанность это сделать.
По всему миру системы ИИ развертываются в масштабе с удивительно слабым институциональным надзором. Нет никакого совета по безопасности ИИ. Федеральная торговая комиссия США обладает юрисдикцией в отношении недобросовестной практики, но ее полномочия в отношении алгоритмического дизайна ограничены. Национальный институт стандартов и технологий публикует руководства, которые большинство компаний игнорируют. Акт ЕС об ИИ частично вступил в силу, но охватывает лишь малую часть поверхности развертывания.
Институциональные инвесторы заполнили этот вакуум. Коалиции, включающие членов Межконфессионального центра по корпоративной ответственности, представляющие инвесторов, управляющих активами на сумму более 400 миллиардов долларов, потратили последние несколько сезонов доверительных собраний на подачу резолюций с требованием прозрачности, оценки рисков и подотчетности в отношении развертывания ИИ. Светские институциональные инвесторы присоединились к ним, рассматривая сбои в управлении ИИ как существенные бизнес-риски.
Акционеры призвали к ответу технологических гигантов, включая Alphabet, Amazon, Nvidia, Palantir и Uber, и потребовали, чтобы ИИ не использовался для актов насилия или других нарушений прав человека. Важность этого аспекта корпоративного управления трагически подчеркнулась в первые часы войны против Ирана, когда ИИ использовался для помощи в определении целей для тысяч ракетных ударов, унесших сотни жизней.
Инвесторы также обращались к руководителям CVS и UnitedHealth Group с требованием обеспечить, чтобы ИИ не использовался для подрыва благополучия пациентов и качества медицинского обслуживания по всей территории Соединенных Штатов.
В таких компаниях, как Meta* и Microsoft, акционеры осуждали воздействие центров обработки данных ИИ на окружающую среду, которые потребляют огромное количество энергии и драгоценных водных ресурсов, а затем могут выделять большое количество парниковых газов.
В творческих индустриях инвесторы оспаривали позицию руководства таких компаний, как Disney, Netflix и Warner Bros., требуя прозрачности в отношении способов использования ими ИИ и защиты неповторимого человеческого элемента в повествовании.
Вскоре, когда OpenAI, Anthropic и Grok выйдут на публичные рынки, мы сможем оказывать аналогичное влияние на то, что сейчас является полностью частными структурами.
Эти действия обеспокоенных инвесторов не только разоблачают проступки, но и твердо придерживаются непреложной истины: что неправильно использовать технологии для убийства, причинения вреда или угнетения людей. Каждый человек имеет право на безопасное и эффективное медицинское обслуживание и возможность зарабатывать на достойную жизнь. Истории, которые мы рассказываем друг другу, имеют значение и требуют человеческой творческой искры.
Адвокаты инвесторов происходят из разных религиозных традиций. У некоторых нет формальной религиозной веры. Тем не менее, в своей информированной и упорной защите все эти люди вторят призывам, заложенным в энциклике Папы Льва, и действуют в соответствии с его заявлением о том, что «крайне важно, чтобы использование ИИ, особенно когда оно затрагивает общественные блага и основные права, руководствовалось четкими критериями и эффективным надзором».
Энциклики отмечают время. Через сто лет, как нас запомнят по тому, как мы встретили этот момент? Будем ли мы рассматриваться как слишком робкие или недальновидные, чтобы помешать небольшой группе непостижимо богатых и корыстных людей захватить все больший контроль над общей судьбой человеческой семьи?
Или последующие годы будут вспоминаться как поворотный момент, который помог нам восстановить наше общее человечество? Пусть это будет время, когда люди доброй воли и разнообразных талантов соберутся вместе через свое собственное великолепное человечество, чтобы построить будущее, которое чтит нашего Создателя.
Отец Шеймус Финн, OMI, — мировой лидер в области религиозных и социально ответственных инвестиций и священник Облатов Девы Марии Непорочной, миссионерской религиозной конгрегации.
Сестра Сьюзан Франсуа — заместитель лидера конгрегации и казначей конгрегации Сестер Святого Иосифа Мира.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mat Honan
