На протяжении всего 200-страничного документа, который понтифик представил вместе с соучредителем Anthropic Крисом Ола, Лев утверждает, что технология, созданная и управляемая узкой элитой, по определению не может служить общему благу.
«Когда такая власть концентрируется в руках немногих, она имеет тенденцию становиться непрозрачной и уклоняться от общественного надзора, увеличивая риск искаженных форм развития, порождающих новую зависимость, исключение, манипуляции и неравенство», — пишет он.
«Фактически, как и при каждом крупном технологическом сдвиге, ИИ имеет тенденцию усиливать власть тех, кто уже обладает экономическими ресурсами, опытом и доступом к данным», — продолжает энциклика, подчеркивая опасения, что элиты могут использовать свою власть для «формирования информационных и потребительских моделей, влияния на демократические процессы и направления экономической динамики в своих интересах».
Энциклика вышла через несколько дней после того, как президент Дональд Трамп отложил подписание своего указа об ИИ, который должен был дать правительству надзор за новыми моделями до их выпуска, по сообщениям, под давлением венчурного инвестора и бывшего «царя ИИ» Белого дома Дэвида Сакса.
Папа Лев призвал к тому, чтобы ИИ руководствовался «четкими критериями и эффективным надзором», основанным на участии сообществ, на которые он повлияет. Более конкретно, Лев призвал положить конец гонке вооружений в сфере ИИ «за все более мощными алгоритмами и большими наборами данных», которые, по мнению компаний и стран, «обеспечат геополитическое или коммерческое доминирование».
«Разоружение означает дискредитацию предположения, что техническая мощь автоматически дает право управлять», — написал он.
Опять же, эта динамика существовала до появления ИИ. В энциклике Папы Льва XIII «Rerum Novarum» 1891 года рассматривалась та же концентрация власти во времена Промышленной революции, но нам не нужно заглядывать так далеко. Приобретение Илоном Маском Twitter и использование платформы для содействия избранию Трампа; сотни миллионов, поступающие от технологической элиты в суперкомитеты (super PACs) для блокирования регулирования ИИ — это та модель, которая явно вдохновила работу Льва XIV.
Понтифик приходит к тому же выводу, к которому пришли многие: сюрреалистическая мощь и возможности современного ИИ чрезвычайно повышают ставки.
Профессор юридической школы Нотр-Дам Паоло Кароцца, член Папской академии социальных наук и председатель Совета по надзору за Meta*, заявил TechCrunch, что дезинформация и дипфейки, управляемые ИИ, «разъели нашу способность распознавать, что правда, а что нет, и это действительно имеет последствия для демократической политики». Он добавил, что практика технологической индустрии по «сбору и манипулированию» человеческими данными создает «фундаментальные проблемы для когнитивной свободы».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
