Представители Кремниевой долины, увлеченные ИИ, якобы нашли новый способ продемонстрировать окружающим свою преданность индустрии: начать курить, несмотря на риск рака, поскольку они ожидают, что боты разработают лекарство… в любой день.
По крайней мере, так утверждает технический директор Palantir Шьям Санкар в недавнем интервью программе Face the Nation на канале CBS. Пытаясь объяснить то, что он назвал культом судного дня, связанным с эффективным альтруизмом, последователями которого являются некоторые исследователи ИИ, верящие, что технология может привести к утопии, Санкар заявил, что курение стало способом для исследователей продемонстрировать свою веру в технологию.
«Так много исследователей ИИ начали курить, чтобы показать другим исследователям, насколько они верят в ИИ», — сказал Санкар, вызвав недоумение у ведущей Маргарет Бреннан. Эти исследователи «так сильно верят в ИИ, что он излечит рак, я показываю вам, что мои фишки на столе», — пояснил Санкар.
Санкар назвал решение начать курить как ставку на то, что ИИ излечит любые недуги, связанные с этим, «массовым психозом» и «социальным заблуждением», которое мешает реальным дискуссиям о состоянии ИИ, и обвинил в этих заблуждениях любимую философию Кремниевой долины, эффективный альтруизм.
«Существует невидимая сила, движущая нарративом вокруг безопасности ИИ, и это действительно миллениальный культ судного дня, смешанный с мессианским комплексом, называемый эффективным альтруизмом», — сказал Санкар. Эта философия отдает приоритет принятию наиболее эффективных решений, которые приносят пользу большинству людей — как утилитаризм на стероидах — и имеет тенденцию к долгосрочному подходу. Вот где появляется ИИ: эффективные альтруисты предположительно сосредоточены на обеспечении того, чтобы системы ИИ создавались таким образом, чтобы наилучшим образом принести пользу человечеству.
Этот фокус стал ключевой причиной того, что так много страхов перед ИИ исходит из Кремниевой долины: если мы собираемся создать безопасный ИИ, говорит эффективный альтруист, мы должны убедиться, что учитываем все риски.
«В Америке всего около 2000 исследователей ИИ, и подавляющее большинство из них придерживаются такого мировоззрения, связанного с эффективным альтруизмом», — отметил Санкар. Технический директор Palantir, похоже, считает, как и многие критики эффективного альтруизма, что все сценарии конца света и маловероятные риски, предлагаемые группой EA AI, являются не столько техническими критиками, сколько теологическими.
«Я думаю, есть глубокая истина в словах Паскаля о том, что у каждого человека есть «богообразная пустота» в сердце, — сказал Санкар, — и важно понимать, что многие из этих людей в Кремниевой долине, которые создают эту технологию, заполнили эту пустоту машинным богом в виде AGI».
Курение как ставка на то, что машинный бог спасет их от рака, следовательно, сродни аскетическому перенесению физической боли или травмы в надежде, что Бог исцелит их или безопасно проведет через их страдания.
С более практической точки зрения, это не совсем хорошая идея, как рассказал The Register один бывший исследователь рака.
«Удачи им с таким подходом», — высказался исследователь, пожелавший остаться неизвестным. «Тем более, удачи их некурящим друзьям и родственникам, вдыхающим их пассивный дым».
Начать курить в надежде на исцеление может быть не лучшей идеей, если учесть сроки, необходимые для разработки лекарства от рака, не говоря уже о его излечении.
«Даже с ИИ разработка и внедрение нового лекарства от рака в любую из мировых систем здравоохранения может занять несколько лет», — пояснил исследователь. «Даже тогда мы не будем знать, разовьется ли устойчивость к препарату в опухолях».
Способность ИИ открывать лекарства и медицинские методы лечения была сильно разрекламирована — генеральный директор Google DeepMind Демис Хассабис даже предсказал в прошлом году, что 2025 год станет годом, когда люди начнут принимать таблетки, разработанные ИИ. Этого пока не произошло, и нет никаких реальных признаков того, что это произойдет в ближайшее время.
Другими словами, вероятность того, что ИИ уничтожит нас всех, смехотворно преувеличена. Реальными жертвами, похоже, скорее всего, станут «ИИ-бро», которые сами вызывают у себя рак как демонстрацию веры в своего машинного бога. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Brandon Vigliarolo
