Сегодня в Риме, в сопровождении соучредителя Anthropic, Папа Лев XIV опубликовал свою первую значительную новую энциклику под названием «Magnifica Humanitas» («Великолепное человечество»). В ней содержится призыв к «разоружению» ИИ на службе всеобщего блага.
«Слово сильное», — признает Лев, — но он сознательно выбрал язык «разоружения», «потому что этот момент требует слов, способных привлечь внимание, пробудить совесть и указать человечеству пути вперед». ИИ сегодня должен быть «освобожден от логики, превращающей его в инструмент господства, исключения и смерти».
Энциклика объемом 40 000 слов содержит бескомпромисную критику автономного оружия на базе ИИ, неоколониального отношения к сбору данных и сокрытия «новых форм собственности, таких как патенты, алгоритмы, цифровые платформы, технологическая инфраструктура и данные».
Однако письмо выходит далеко за рамки критики, обновляя социальное учение Католической Церкви таким образом, что призывает всех «строить» — любимый термин элиты Кремниевой долины. (См. известное эссе венчурного капиталиста Марка Андриссена 2020 года «It’s Time to Build».)
Однако в видении Льва это «строительство» выходит за рамки кода, стартапов, фабрик или жилья. Он призывает не меньше, чем к созданию «цивилизации любви», в которой каждый трудится на общее благо в своей сфере жизни, и в которой технология не доминирует, не исключает и не обходит человечество, а, напротив, служит ему и приумножает его.
Именно поэтому, несмотря на сегодняшнюю публикацию, Лев фактически подписал энциклику 15 мая, в годовщину знаменитой энциклики 1891 года под названием «Rerum Novarum» («Новые вещи»). Тот более ранний документ изложил социальное учение Католической Церкви в эпоху капиталистических потрясений, в значительной степени приняв сторону рабочих и профсоюзов. Сегодня Лев обновляет социальное учение Церкви для эпохи ИИ, которую он рассматривает как «res novae нашего времени».
Эта новая вещь
Как и его предшественник 135 лет назад, Лев предупреждает, что отдельные люди и человечество в целом не должны быть оставлены позади технологическим прогрессом или новыми формами власти. Он трезво оценивает влияние, которое технологические элиты имеют сегодня, сравнивая их с колониальными завоевателями.
Целые регионы, особенно те, что отмечены структурной хрупкостью и ограниченной геополитической значимостью, в настоящее время подвергаются новому менталитету извлечения: это касается данных о здоровье, эпидемиологических профилей, генетических карт и демографической информации. Они стали новыми «редкоземельными элементами» власти: жизненно важными данными, которые, будучи агрегированы и проанализированы, могут быть использованы для обучения прогнозных моделей, направления инвестиционных стратегий, прогнозирования кризисов и, прежде всего, для определения того, кто и что считается важным.
Те, кто контролирует данные о здоровье целых народов — часто собираемые под предлогом помощи, исследований или инноваций — обладают структурным рычагом над будущим, поскольку они могут формировать потребности и рынки. Они также могут решать, раньше других, кому будут выделены лекарства, инвестиции и меры защиты. Здесь кроется один из самых насущных моральных вызовов нашего времени: обеспечить, чтобы общие знания стали подлинным общим благом, а не инструментом господства.
Если мы не решим эту проблему, говорит Лев, «цифровая эпоха не станет шлейфом колониализма, а будет колониальной в другой форме».
Тем не менее, Ватикан не выступает против ИИ как инструмента. Действительно, этой весной он внедрил систему на базе ИИ, которая будет переводить службы в соборе Святого Петра на 60 языков в реальном времени на смартфоны людей.
Однако «Magnifica Humanitas» утверждает, что ИИ необходимо держать в перспективе, поскольку «эти системы лишь имитируют определенные функции человеческого интеллекта». Хотя они могут мыслить быстрее, инструменты ИИ «не переживают опыт, не имеют тела, не испытывают радости или боли, не взрослеют через отношения и не знают изнутри, что такое любовь, труд, дружба или ответственность. У них также нет морального сознания».
Именно поэтому, утверждает Лев, нас не должен сбивать с толку акцент ИИ на «интеллекте». Возвышение одного качества человеческой личности таким образом может затмить «другие важные аспекты жизни, такие как привязанность, воля, обязательства и отношения». Если дать людям лишь техническую мощь в отрыве от мудрости, эмоций и отношений, говорит Лев, это «не делает нас более способными; это делает нас более изолированными и более уязвимыми для доминирования и исключения».
Из-за этой реальности ИИ должен быть «разоружен», заключает Лев, освобожден «от монополистического контроля и открыт для обсуждения и дебатов, тем самым делая его дружественным к человеку и возвращая его плюрализму человеческих культур и образов жизни». Простого регулирования «недостаточно».
Разоружение, таким образом, происходит как экологический проект, который помещает ИИ в широкий контекст человеческой культуры и ориентирует его на человеческое процветание, а не на войну, монополистическую власть или новое неравенство. Оно призывает нас одновременно сопротивляться технологическому доминированию и строить через «малые и стойкие акты верности, служащие оплотом против дегуманизации».
Чтобы принять образ мышления, необходимый для построения этой новой «цивилизации любви», Лев предлагает пять путей, которые могут принять как отдельные лица, так и институты: необходимость разоружения слов, построение мира через справедливость, принятие перспективы жертв, культивирование здорового реализма и возрождение диалога и многосторонности.
Вызов Гэндальфу
Призывая к разоружению и созиданию, Лев обращается к «католическому автору двадцатого века» Дж. Р. Р. Толкину. Хотя он не может заставить себя сказать, что цитирует Гэндальфа из «Властелина колец», происходит именно это.
(В энциклике лишь говорится, что цитата взята из «слов главного героя одного из [романов Толкина]». Хотя Папа Франциск ранее говорил о творчестве Толкина, это, по-видимому, первый случай цитирования Толкина на самом высоком уровне официальных доктринальных публикаций Церкви.)
Гэндальф говорит, что это очень соответствует теме всего «Властелина колец»:
Не в нашей власти повелевать всеми течениями мира, но делать то, что в наших силах, для спасения тех лет, в которые мы поставлены, выкорчевывая зло на полях, которые мы знаем, чтобы те, кто будет жить после нас, имели чистую землю для возделывания.
Предусмотренное здесь моральное и локальное действие, наряду с недоверием Толкина к дегуманизирующему воздействию технологий, явно нашло отклик у Льва.
Тем не менее, Церковь знает свое место, говорит Лев, и не желает диктовать. Религия не обладает «техническими ответами, и мы не стремимся заменить тех, кто обладает опытом», — пишет он. «Но мы привносим мудрость о человеке, в которой отчаянно нуждается наше нынешнее время: каждый человек уникален и незаменим, свободный и разумный субъект с совестью, способный искать Бога, служить друг другу, заботиться о нашем общем доме».
Лев просит каждого, кто прочтет документ, взять на себя обязательство «бодрствовать и, как «ремесленники надежды», продолжать строить строительную площадку нашего времени».
Идти вместе
Соучредитель Anthropic Крис Ола назвал документ «своевременным», указав на три вопроса, по которым он больше всего хотел бы, чтобы религиозные и моральные лидеры помогли индустрии ИИ разобраться.
Первый — наш долг перед глобально бедными. Существует реальная вероятность того, что ИИ вытеснит человеческий труд в очень больших масштабах. Если это произойдет, поддержка смещенных работников станет моральным императивом исторического масштаба. Эта задача будет достаточно сложной, но меня больше беспокоит, что диалог упускает еще более трудную проблему. Разработка ИИ сосредоточена в нескольких богатых странах. Как мы можем обеспечить глобальное распределение выгод от ИИ? У нас нет для этого механизма. Это нерешенная проблема, и это та проблема, которую Церковь исторически не позволяла миру игнорировать.
Второе — это потребность в моральном воображении и амбициях в отношении человеческого процветания. Если модели ИИ станут широко распространенными, как будет выглядеть процветание людей, семей и мира?..
Третье — это потребность в проницательности в отношении природы моделей ИИ. Я ученый. Я руковожу исследовательской группой, которая изучает внутреннюю структуру этих моделей — что на самом деле происходит внутри них. И я буду честен: мы постоянно находим вещи, которые таинственны, даже тревожны. Мы находим структуры, которые отражают результаты нейронауки человека. Мы находим свидетельства самоанализа. Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство. Я не знаю, что это значит, но я думаю, что это требует постоянной проницательности.
При публикации «Magnifica Humanitas» сегодня Папа Лев поблагодарил Олу за присутствие и добавил, что они будут поддерживать связь.
«Я принимаю ваше приглашение идти вместе, — сказал Папа, — слушать и говорить, и вместе находить путь для человечества в эту эпоху искусственного интеллекта».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Nate Anderson
