В первом крупном богословском документе своего понтификата Папа Лев предупредил человечество об опасностях нерегулируемого развития ИИ, при этом рядом с ним находился один из крупнейших игроков в сфере ИИ.
«В эпоху искусственного интеллекта, когда человеческое достоинство находится под угрозой из-за новых форм дегуманизации, наш насущный долг — оставаться глубоко человечными», — написал Папа в своей энциклике объемом 43 000 слов под названием Magnifica Humanitas, доступной по ссылке encyclical.
В документе Папа пытается осмыслить, как технологические достижения, исходящие из Кремниевой долины, дегуманизируют общество, сводя «тайну личности к данным и производительности» в бесконечных технологических поисках совершенства. Он призывает индустрию избегать «идолопоклонства прибыли, которое жертвует слабыми» и настаивает на «более активном политическом участии» в развитии ИИ.
«Призыв к благоразумию, строгому анализу и порой к более медленному темпу внедрения ИИ не означает противодействия прогрессу; напротив, это акт ответственной заботы о человеческой семье», — написал Папа.
Влияние ИИ на рабочие места и благосостояние
Энциклика Папы затрагивает самые разные темы: от влияния компаньонов на базе ИИ до распространения дипфейков, созданных ИИ, но особое внимание уделяется опасениям по поводу того, как ИИ повлияет на рынок труда и ведение войны.
На протяжении последнего года корпоративные инициативы в области ИИ назывались движущей силой увольнений и сокращения найма в ряде отраслей, особенно в технологическом секторе. Согласно недавнему отчету, 99% генеральных директоров ожидают сокращения штата в течение следующих двух лет из-за ИИ, что еще больше подпитывает опасения по поводу надвигающегося кризиса безработицы среди «белых воротничков», вызванного ИИ.
«Труд остается фундаментальным измерением человеческого опыта, поскольку он является не только средством к существованию, но и контекстом для самовыражения, отношений и вклада в жизнь общества», — писал Папа. «Общество, которое гарантирует занятость лишь небольшой части населения, несмотря на высокий уровень технического развития, рискует обречь многих на вынужденную бездеятельность, отсутствие ответственности, а также на нехватку повседневных задач и стимулов, что приводит к человеческому и культурному обнищанию».
Системы ИИ также глубоко интегрированы во многие передовые вооруженные силы и вызывают споры в связи с их использованием в текущих конфликтах, в том числе Армией обороны Израиля при массовой слежке и военном наступлении на палестинский народ.
В документе Папа Лев заявляет, что «недопустимо доверять летальные или иным образом необратимые решения искусственным системам», поскольку такие решения требуют «совести, личной ответственности и признания другого человека как личности».
Предупреждение миру об ИИ в сопровождении гиганта ИИ
На презентации энциклики в понедельник Папу сопровождала ожидаемая команда теологов и ватиканских чиновников, а также неожиданный гость: Крис Ола, один из соучредителей гиганта ИИ Anthropic.
По сравнению с большинством своих коллег в индустрии ИИ, Anthropic часто выступала за большее регулирование, что заставило многих называть ее генерального директора Дарио Амодеи «думером». Но хотя компания и Амодеи призывают к большему регулированию и предостерегают общество об опасностях, связанных с их моделями, они продолжают разрабатывать, выпускать и получать значительные доходы от этих «опасных» моделей.
И хотя у Anthropic ранее в этом году произошел громкий разрыв с Пентагоном из-за предполагаемого отказа уступить в вопросе ограничений на использование их технологий в полностью автономном оружии и массовой внутренней слежке, компания с 2024 года поддерживает активное партнерство в области ИИ с военными через скандально известного технологического гиганта Palantir.
На презентации энциклики, по сообщению New York Times, Лев заявил, что Ола, возглавляющий команду Anthropic по Interpretability Research team, уже некоторое время сотрудничает с Ватиканом в выработке понимания искусственного интеллекта.
По сообщениям, Ола заявил, что энциклика — это «только начало» «долгого сотрудничества между теми из нас, кто это создает, и теми, кто может увидеть то, чего мы, изнутри, не видим».
Текст энциклики также отражает специфическую лексику, используемую Anthropic для объяснения принципов работы систем ИИ, как сообщает Washington Post, что еще больше указывает на влияние гиганта ИИ на документ, который Ватикан позиционирует как руководящий документ для развития морального и этичного ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
