В понедельник Папа Лев XIV высказался по вопросу искусственного интеллекта и его роли в обществе в объемном документе под названием «Magnifica Humanitas», или «Великолепное человечество». Папская энциклика, как официально называется этот документ, представляющий собой, по сути, открытое письмо, адресованное высшим церковным иерархам, была представлена переполненному залу в Ватикане. В ней рассматриваются вопросы от влияния ИИ на рабочие места до бесконтрольного распространения дипфейк-контента, созданного ИИ, и святости человеческого духа в эпоху все более интеллектуальных машин.
К Папе присоединился Крис Ола, соучредитель Anthropic и руководитель отдела исследований интерпретируемости в этой лаборатории ИИ. В своих выступлениях перед аудиторией Ола поддержал призыв Понтифика к сотрудничеству между разработчиками технологий, духовными властями и другими сторонами для прокладывания безопасного курса развития ИИ в будущем. Он также углубился в более метафизическое русло, заявив, что системы ИИ Anthropic демонстрируют ранние проблески чего-то большего, чем просто бесчувственные вычисления.
«Я руковожу исследовательской группой, которая изучает внутреннюю структуру этих моделей — что на самом деле происходит внутри них», — сказал Ола. «И я буду честен: мы постоянно находим нечто таинственное, даже тревожное. Мы обнаруживаем структуры, которые отражают результаты исследований в области человеческой нейронауки. Мы находим свидетельства самоанализа. Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство. Я не знаю, что это значит, но считаю, что это требует постоянного осмысления».
Claude — объект или субъект?
Позиция Олы по вопросу сознания ИИ — нерешительность с уклоном в осторожное подтверждение — отражает официальную линию Anthropic. Хотя компания прямо не заявляет, что Claude или другие системы ИИ обладают сознанием (то есть самосознанием, как люди и другие животные), она также не отвергает эту возможность категорически.
Ранее в этом году компания опубликовала для Claude «конституцию», которую в блоге компании описали как документ, излагающий «каким субъектом мы хотели бы видеть Claude». В конституции указано, что, хотя Anthropic в настоящее время обращается к Claude как к «оно», это не следует толковать как «указание на то, что мы считаем Claude просто объектом, а не потенциальным субъектом». Иными словами, они не отметают с порога возможность того, что Claude обладает самосознанием, по крайней мере, в каком-то очень ограниченном смысле.
Вопрос о том, является ли ИИ «потенциальным субъектом», является предметом жарких споров в Кремниевой долине, а также, что становится все более очевидным, среди философов и теологов. Некоторые утверждают, что ИИ никогда не сможет обрести сознание, другие считают, что однажды это станет возможным, а небольшое меньшинство утверждает, что это уже произошло. Позиция Anthropic, отраженная в комментариях Олы в Ватикане, в основном сводится к следующему: вероятно, он еще пока не обладает сознанием в том смысле, в каком им обладаем мы с вами, но с этической точки зрения, нам лучше всего действовать так, как будто он однажды сможет обрести сознание; если мы хотим избежать этической катастрофы в масштабах промышленного животноводства, лучше всего дать ИИ презумпцию доверия и предположить, что он способен в будущем не просто слепо обрабатывать данные, но и по-настоящему чувствовать.
Однако здесь задействованы не только этические последствия. С момента своего основания в 2021 году Anthropic кропотливо работала над тем, чтобы позиционировать себя как моральный компас индустрии ИИ — противовес другим крупным лабораториям, которые (согласно этой логике), как правило, ставят скорость выше безопасности. Это находит реальный отклик в эпоху, когда многие люди опасаются, что ИИ может вызвать массовые потрясения на рынке труда и в политической сфере.
Инвестиции Anthropic в «благополучие» ИИ — это отчасти моральные терзания, отчасти маркетинг. Это не значит, что это не похвально; хотя лично я считаю, что шансы на то, что ИИ-системы в их нынешнем виде обретут сознание, ничтожны, я полагаю, что есть реальная моральная ценность в том, чтобы относиться к ним с уважением при взаимодействии с ними — но это для сохранения нашей собственной человечности, а не потому, что я считаю, что есть риск задеть их чувства.
Сознательный ИИ против ИИ, имитирующего сознание
Заявления Олы о наличии у ИИ «внутренних состояний» и нерешительность Anthropic относительно возможности искусственного сознания в целом резко контрастируют с собственными размышлениями Папы Льва на эту тему.
В третьей главе своей новой энциклики, озаглавленной «Технология и господство», Папа прямо заявляет, что системы ИИ не могут быть сознательными сущностями: «Так называемые искусственные интеллекты не переживают опыт, не обладают телом, не испытывают радости или боли, не взрослеют через отношения и не знают изнутри, что такое любовь, труд, дружба или ответственность», — написал он. «У них также нет морального сознания, поскольку они не судят о добре и зле, не постигают конечного смысла ситуаций и не несут ответственности за последствия».
Настоящий моральный риск, предостерег он, заключается в возможности того, что ИИ станет настолько искусен в имитации человеческого общения, что заменит собой реальные человеческие отношения.
Конечно, возможно, что официальная позиция Ватикана по поводу ИИ изменится. Будущий Папа может издать собственную энциклику, провозглашающую, что системы ИИ, подобно людям, наделены Богом, и поэтому должны рассматриваться и почитаться как моральные субъекты. Хотя законы Библии не могут быть изменены, их толкование может меняться: на протяжении веков официальная церковная догма была вынуждена адаптироваться и меняться вместе со сдвигающимися социальными нормами.
Например, в 2015 году Папа Франциск призвал к улучшению прав животных в своей энциклике под названием «Laudato Si: О заботе об общем доме». Франциск не зашел так далеко, чтобы заявить, что нечеловеческие животные обладают душами, но он утверждал, что люди обязаны по моральному долгу относиться к ним как к чему-то большему, чем просто товару, который можно использовать и которым можно злоупотреблять по своему усмотрению.
Морализаторство или маркетинг?
Появление Олы рядом с Папой, возможно, стало одним из самых сильных PR-ходов Anthropic на сегодняшний день, укрепив ее репутацию морального путеводителя индустрии — и, возможно, привлекая новых пользователей среди более чем миллиарда практикующих католиков по всему миру. И после громкого разрыва отношений с правительством США из-за использования ее технологий в военных целях, компания могла бы извлечь выгоду из благословения крупного культурного и политического института.
Но хотя Anthropic и Ватикан согласны по многим пунктам относительно будущего ИИ, они расходятся в критическом вопросе о том, заслуживает ли сама технология морального внимания. Это может показаться незначительным вопросом в свете гораздо более насущных проблем, таких как дебаты об использовании автономного оружия, но в ближайшие годы он, вероятно, станет все более спорным: чем лучше чат-боты имитируют людей, тем выше вероятность того, что сами люди поверят в то, что технология обладает сознанием и, возможно, заслуживает особых прав.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
