Жизнь члена команды по связям с общественностью в передовых ИИ-лабораториях, должно быть, захватывающая. Представьте: вы готовите большой отчет о чрезвычайно сложной модели, разработанной вашей командой экономистов, которую вы хотите представить как инструмент для политиков и ученых, чтобы понять, как ИИ повлияет на рынок труда. И вот, за ночь до публикации ваши коллеги небрежно (и публично) заявляют, что существует более чем 10%-ная вероятность того, что ваша технология убьет всех в течение следующего десятилетия. Есть ли это в модели? Упоминаете ли вы об этом?
Anthropic ответила «нет» на оба вопроса, но при этом действительно выпустила свою модель экономического роста Economic Index, предназначенную для прогнозирования того, как может выглядеть экономика к концу десятилетия, в зависимости от различных уровней функциональности и внедрения ИИ. Вы будете шокированы, узнав, что главный вывод из модели заключается в том, что в большинстве случаев все будет в порядке, хотя исходы, которые не попадают в график, вероятно, так же примечательны, как и те, что на нем есть.
По данным Anthropic, до тех пор, пока мы остаемся в рамках от «обычного ведения дел» до экономики, где «ИИ увеличивает рост примерно вдвое от нормального темпа», мы можем ожидать, что безработица останется в пределах исторически нормальных диапазонов, а заработная плата «будет оставаться на прежнем уровне или расти в зависимости от отрасли». Однако, если мы достигнем роста, который будет «быстрее, чем что-либо в экономической истории», то будут «негативные последствия для заработной платы и перспектив трудоустройства для работников умственного труда».
Но не волнуйтесь, потому что даже когда плохо, это хорошо! «В этих сценариях общество намного богаче, поэтому задача состоит в том, чтобы обеспечить широкое распределение благ». И поскольку мы исторически были так хороши в распределении богатства, здесь, конечно, нет никаких тревожных сигналов.
Модель, по крайней мере, интересна. Как объяснила ИИ-лаборатория, она стремилась эффективно разбить рабочие места на наборы задач, а затем определить, как доступность ИИ может повлиять на эти задачи — что может быть автоматизировано, какая новая работа будет создана благодаря ИИ и что, вероятно, останется человеческим трудом. Затем она масштабирует уровни внедрения ИИ для каждой работы, чтобы определить, как различные отрасли и экономика в целом будут затронуты этой технологией.
В конечном итоге она выдает модель, которая на крайнем конце спектра прогнозирует экономику на 50% больше, чем сегодня, и уровень безработицы почти 30%. Насколько это возможно, самый дальний путь в другую сторону — это нулевое внедрение ИИ, что равносильно обычному функционированию экономики. Она не учитывает потенциальный пузырь ИИ и то, как его лопание может повлиять на работников и экономику, которая в настоящее время дико перегружена идеей, что бум ИИ реален.
Даже самые крайние грани модели не учитывают возможность гибели всех людей, что, по-видимому, находится в пределах внутренних параметров возможных исходов. Эван Хабингер, руководитель отдела науки о согласованности Anthropic, написал вчера в Твиттере: «Мы действительно искренне верим, что ИИ может убить всех людей!» и оценил шансы более чем в 10% в течение следующего десятилетия, признав: «у нас пока нет плана по решению проблемы согласованности для сверхинтеллекта, и мы явно не на пути к этому».
Похоже, это, вероятно, приведет к некоторому экономическому спаду, но, возможно, устранение людей просто избавит от неэффективности. Похоже, мы просто будем двигаться вперед беспрепятственно, пока не узнаем!
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
