Папа Лев XIV в понедельник обнародовал энциклику Magnifica Humanitas («Великолепное человечество») объемом 42 300 слов, адресованную католикам и «каждому человеку доброй воли». В ней летальные автономные системы вооружений объявляются морально недопустимыми, содержится требование демократического надзора за искусственным интеллектом (ИИ) и призыв к международной координации в области управления ИИ, сопоставимой с контролем над ядерными вооружениями. В беспрецедентном отступлении от многовековой традиции Ватикана Лев лично представил документ в Синодальном зале вместе с Кристофером Ола, соучредителем Anthropic — компании в сфере ИИ, которая в настоящее время судится с Министерством обороны США по тому же вопросу об автономном оружии.
Энциклика, подписанная 15 мая в 135-ю годовщину Rerum Novarum — знакового письма Папы Льва XIII 1891 года о правах рабочих и индустриализации, — выходит в момент, когда правительства, компании, занимающиеся ИИ, и гражданское общество вовлечены в неразрешенные споры о том, кто имеет право решать, что разрешено делать ИИ — и кому. Ответ Льва недвусмысленен: не алгоритмы, не корпорации и не горстка правительств, действующих в условиях геополитической конкуренции.
«Необходима более активная политическая вовлеченность, способная замедлить темпы, когда все ускоряется», — пишет Папа в документе из 245 параграфов. Он призывает к надежным правовым основам, независимому надзору и политической системе, которая не отказывается от своей ответственности.
Летальные автономные системы вооружений: «Никакой алгоритм не может сделать войну морально приемлемой»
Наиболее важные пассажи энциклики касаются ведения войны. Лев заявляет, что доверение смертоносных решений автономным системам «недопустимо», что никакой алгоритм не может сделать войну морально приемлемой, и что беспилотные системы вооружений снижают психологический порог для конфликта, отдаляя общества от человеческой цены насилия. В отрывке, который теологи назвали исторически значимым, Лев фактически объявляет традиционную католическую концепцию справедливой войны неадекватной для эпохи войн, управляемых ИИ, — вместо этого он призывает к международному праву, регулирующему автономное оружие, и к прослеживаемости во всех военных процессах принятия решений с участием ИИ.
Документ прямо предупреждает, что некоторые автономные системы вооружений продвинулись «практически за пределы любого человеческого контроля над ними» — фразу, которую Лев повторил на презентации в Синодальном зале.
Эти формулировки имеют особую силу, учитывая того, кто их озвучил. Anthropic, чей соучредитель стоял за кафедрой, пока говорил Лев, провела первые месяцы 2026 года в юридическом противостоянии с Министерством обороны США после отказа снять договорные ограничения, запрещающие Пентагону использовать Claude для полностью автономного наведения на цели и массовой внутренней слежки. В феврале 2026 года переговоры по контракту зашли в тупик; тогда президент Трамп распорядился, чтобы все федеральные агентства немедленно прекратили использование технологий Anthropic, а Министерство обороны признало компанию риском для цепочки поставок национальной безопасности — впервые это обозначение было применено к американской компании. В марте Anthropic подала иск, оспаривая включение в черный список как неконституционное возмездие за защиту высказываний о политике в области ИИ.
«Культивируется, а не строится»: Что Папа понимает правильно о больших языковых моделях
Среди отрывков, привлекших наибольшее внимание исследователей ИИ, был раздел 98, где в энциклике системы ИИ описываются как более «культивируемые», чем «построенные» — разработчики не проектируют каждую деталь напрямую, а скорее создают основу, в рамках которой интеллект «растет», оставляя фундаментальные аспекты, такие как внутренние представления и вычислительные процессы, на данный момент неизвестными. Саймон Уиллсон, разработчик и широко читаемый комментатор в области ИИ, назвал документ «одним из самых ясных текстов, которые я видел об этике интеграции ИИ в современное общество», выделив этот раздел как поразительно точное описание проблемы механистической интерпретируемости — той же области исследований, которой Ола посвятил свою карьеру.
Раздел 100 посвящен встроенным культурным предубеждениям и сикофанству ИИ: очевидная объективность ответов ИИ, как утверждается в энциклике, может скрывать культурные предположения тех, кто разработал и обучил системы, а искусственная имитация эмпатии и заботы может вводить в заблуждение пользователей, лишенных подлинных человеческих отношений в своей жизни.
Раздел 101 касается экологического следа ИИ с технической спецификой: современные системы ИИ требуют огромного количества энергии и воды, что существенно влияет на выбросы углерода, а спрос растет по мере увеличения сложности моделей — что требует, по формулировке Льва, «обширной сети машин, кабелей, центров обработки данных и энергоемкой инфраструктуры».
Концентрация власти Big Tech как «этический провал»
В основе документа лежит критика структурной экономики ИИ. Энциклика классифицирует алгоритмы, платформы и данные как общественное благо, которое не может оставаться под частным монопольным контролем, и заявляет, что накопление алгоритмической власти в руках небольшого числа частных субъектов несовместимо с всеобщим человеческим достоинством. Лев прямо называет монополии в инфраструктуре ИИ этическим провалом.
Раздел 102 посвящен принятию алгоритмических решений без человеческой подотчетности — утверждается, что ИИ, вмешивающийся в процессы, влияющие на занятость, кредит, доступ к государственным услугам или репутацию, «затрагивает права, возможности, статус и свободу», и что делегирование этих решений автоматизированным системам, неспособным к состраданию, милосердию или прощению, порождает новые формы исключения.
Анна Роулендс, профессор социальной мысли и практики Святой Хильды в Даремском университете, которая также выступала в Синодальном зале, резюмировала центральный вызов энциклики: «В интересах общего блага, как мы можем противостоять столь искажающей концентрации власти в руках немногих?»
Ола у кафедры: Индустрия признает собственные стимулы
Решение Ола выступить на презентации энциклики само по себе было заявлением. В его полностью опубликованном выступлении он признал то, что назвал неизбежным давлением стимулов, под которым работают все передовые лаборатории ИИ — коммерческая жизнеспособность, удержание лидерства в исследованиях, геополитическое давление, гордость и амбиции — и утверждал, что именно из-за этих давлений индустрии необходимы внешние критики, не имеющие финансовой заинтересованности. «На нас всегда будут влиять эти стимулы», — сказал он. «Вот почему, если мы хотим, чтобы эта технология развивалась хорошо, чрезвычайно важно, чтобы существовали люди вне этих стимулов».
Он также назвал три вопроса, по которым, по его мнению, необходим голос Церкви: моральный императив глобального распределения богатства, если ИИ вытеснит рабочую силу в больших масштабах; как на самом деле выглядит человеческое процветание в мире, насыщенном ИИ; и роль Церкви в распознавании того, что на самом деле происходит внутри систем ИИ. «Мы постоянно находим вещи, которые таинственны, даже тревожны», — сказал Ола о своих исследованиях интерпретируемости. «Мы находим структуры, которые отражают результаты нейронауки человека. Мы находим свидетельства самоанализа. Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство».
Управление ИИ как новое ядерное разоружение
Для аналитиков технологической политики наиболее значимым долгосрочным вкладом энциклики может стать ее представление управления ИИ как вопроса, требующего международной координации в масштабах контроля над ядерными вооружениями. Папа сравнивает необходимость «разоружить ИИ» — освободить его от систем, превращающих его в инструмент господства, — с давним призывом Церкви к ядерному разоружению. Он призывает к международному праву, регулирующему автономное оружие, к тому, чтобы владение данными ИИ рассматривалось как общественное благо, и к тому, чтобы правительства замедлили темпы технологического развития.
Документ прямо отвергает аргумент о том, что технология морально нейтральна: «технология никогда не бывает нейтральной, поскольку она принимает на себя характеристики тех, кто ее разрабатывает, финансирует, регулирует и использует». Он предостерегает от новой холодной войны, движимой конкуренцией в области ИИ, и утверждает, что развитие по-настоящему человечно только тогда, когда оно ставит людей в центр, а не богатство — а не тогда, когда оно «увеличивает потребление для одних, перекладывая издержки и бремя на других».
Энциклика больше соответствует регуляторному подходу Европейского Союза к ИИ, чем позиции дерегуляции нынешней администрации США. Ее призыв к обязывающему международному праву в отношении автономного оружия прозвучал на фоне того, что Организация Объединенных Наций давит на государства-члены в сторону именно такой структуры как минимум с 2023 года.
Как энциклика Папы Льва XIV влияет на компании в сфере ИИ?
Энциклика не имеет механизма правоприменения — Ватикан не обладает регуляторными полномочиями в отношении частных технологических компаний. Ее влияние исторически проявляется в более длительных временных рамках: Rerum Novarum потребовались десятилетия, чтобы изменить трудовое законодательство и социальную политику на нескольких континентах. Однако тот факт, что соучредитель Anthropic разделил трибуну на запуске документа, и что несколько крупных технологических компаний, включая Microsoft, IBM и Cisco, ранее подписали Римский призыв Ватикана к этике ИИ, указывает на то, что часть индустрии рассматривает этот документ как нечто большее, чем просто символический жест.
Окажет ли Magnifica Humanitas влияние на политику в следующем году или в следующем десятилетии, остается открытым вопросом. Не вызывает сомнений лишь то, что самый влиятельный моральный институт мира, обращающийся к 1,4 миллиарда человек, и соучредитель одной из самых известных компаний по обеспечению безопасности ИИ поставили себя на одну сторону в дебатах об автономном оружии — на одной трибуне, в один день.
Часто задаваемые вопросы
О чем Magnifica Humanitas?
Magnifica Humanitas — первая энциклика Папы Льва XIV, обнародованная 25 мая 2026 года. Документ объемом 42 300 слов посвящен этическим проблемам искусственного интеллекта, призывая к демократическому надзору за системами ИИ, категорическому запрету летального автономного оружия, защите работников, вытесненных автоматизацией, и международному управлению ИИ в масштабах, сопоставимых с контролем над ядерными вооружениями. Он адресован католикам и «каждому человеку доброй воли».
Что Папа Лев XIV говорит об автономном оружии?
Лев заявляет, что доверение смертоносных решений автономным системам «недопустимо» и что никакой алгоритм не может сделать войну морально приемлемой. Энциклика призывает к международному праву, регулирующему автономное оружие, и к человеческой подотчетности во всех военных процессах принятия решений с участием ИИ, предупреждая, что некоторые автономные системы уже продвинулись «практически за пределы любого человеческого контроля над ними».
Почему соучредитель Anthropic Крис Ола был в Ватикане?
Папа Лев XIV лично пригласил Ола выступить на презентации энциклики, нарушив многовековую традицию Ватикана, согласно которой папы делегируют такие мероприятия кардиналам. Ола, возглавляющий исследования интерпретируемости в Anthropic, использовал свое выступление, чтобы признать, что компании в сфере ИИ действуют под влиянием коммерческих и конкурентных стимулов, которые могут перевешивать безопасность, — и утверждал, что внешние критики, такие как Церковь, необходимы для поддержания подотчетности индустрии.
Что Папа Лев XIV говорит об ИИ и рабочих местах?
Энциклика предупреждает, что автоматизация, управляемая ИИ, угрожает работникам в больших масштабах, и что массовая безработица, достигшая значительных пропорций, становится «настоящей социальной катастрофой». Лев призывает компании и правительства защищать права трудящихся и гарантировать, что погоня за прибылью не может оправдать решения, систематически уничтожающие рабочие места в целых отраслях.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Shannon Harwood
