Изначально загадочный черный ящик оказался вовсе не моделью ИИ, а Каабой — черным кубом в центре Заповедной мечети Мекки. До завоевания Мекки Мухаммедом Кааба служила своего рода универсальным хранилищем 360 священных символов со всего региона. Если вы, скажем, были занятым купцом на пути в Медину, то, какими бы ни были великие духовные истины вселенной, они где-то там имелись, так что молитва Каабе обеспечивала прикрытие в божественном плане, и можно было отправляться дальше.
Похоже, Anthropic делает нечто подобное с Claude.
На прошлой неделе представители Anthropic — наряду с OpenAI — приняли участие в мероприятии в Нью-Йорке под названием круглого стола «Завет Веры и ИИ» (Faith-AI Covenant). На встрече присутствовали Нью-Йоркский совет раввинов, Индуистское храмовое общество Северной Америки, Церковь Иисуса Христа Святых последних дней, базирующаяся в США Коалиция сикхов (< (U.S.-based Sikh Coalition) и Греческая православная архиепископия Америки.
В прошлом месяце я писал о серии встреч и ужинов, организованных Anthropic с группой из < 15 христианских лидеров. Anthropic искала у христиан советов и руководства по предполагаемому «духовному развитию» своей модели ИИ Claude. В то время Anthropic заявляла, что работает над организацией встреч с моральными мыслителями, представляющими другие группы.
Из < свежего материала Associated Press о встрече «Завет Веры и ИИ» неясно, были ли эти последние беседы с религиозными лидерами и предыдущие встречи с христианами частью единой согласованной программы в Anthropic, и участвовали ли в этой встрече те же сотрудники, что и в христианском саммите. Gizmodo запросила у Anthropic разъяснения по этому поводу в субботу, но на момент написания этого текста Anthropic не ответила на наш запрос.
Associated Press также сообщает, что OpenAI и Anthropic «инициировали контакты», но также и то, что мероприятие было организовано швейцарской НПО «Межконфессиональный альянс за более безопасные сообщества» (< (Swiss NGO Interfaith Alliance for Safer Communities), у которой есть планы по проведению будущих мероприятий в том же духе в Китае, Кении и Объединенных Арабских Эмиратах. В качестве «ключевого партнера» также упоминалась баронесса Джоанна Ши́лдс, член Палаты лордов Великобритании.
В статье AP нет единого четкого вывода — никаких религиозных наставлений, изложенных всеми этими духовными лидерами. Но то, что Anthropic называет < конституцией Claude, включает в себя разбор философски сложной моральной работы, которую Anthropic по крайней мере пытается проделать, внедряя мораль в машину: заставить ее принимать решения человека с идеальными ценностями, когда невозможно прописать правило для возникающей ситуации, а последствия неверного решения могут быть ужасными. Anthropic пишет, что это «в первую очередь потому, что мы опасаемся, что наши усилия по наделению Claude достаточно хорошими этическими ценностями потерпят неудачу».
С этой целью в материале Associated Press приводится несколько отрезвляющих комментариев от Румман Чоудхури, генерального директора некоммерческой организации Humane Intelligence: «Я думаю, что очень наивным взглядом, которого придерживался Кремниевая долина в течение пары лет в отношении генеративного ИИ, было то, что мы сможем прийти к неким универсальным этическим принципам», — сказала Чоудхури агентству AP, добавив: «Они очень быстро поняли, что это просто неправда. Это нереально. Поэтому теперь они рассматривают, возможно, религию как способ справиться с неоднозначностью этически серых ситуаций».
Они действительно рассматривают, возможно, религию. Но трудно представить, что Anthropic выйдет из этих встреч обращенной и внедрит в Claude какой-то один набор конкретных религиозных доктрин. Они просто пытаются извлечь этические истины высокого порядка и продемонстрировать миру, что они — по видимости — не оставили камня на камне в поисках таковых.
Ваше мнение будет зависеть от того, считаете ли вы, что машина, которой поручено принимать решения или давать важные советы, в критический момент сможет синтезировать идеальную мораль благодаря встречам, которые ее создатели провели с администраторами некоторых ведущих мировых религий. Это, вероятно, не повредит, сродни кивку в сторону доисламской Каабы. Но, опять же, только Богу известно наверняка.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
