Я видел, как это описывают как эссе против «думскроллинга», но это не совсем так. Скорее, это описание того, почему Марк Цукерберг лично взволнован тем, как ИИ изменит общество. Однако, даже пытаясь нарисовать картину прекрасного будущего, которое принесет изобильный сверхинтеллект, он постоянно напоминает нам о том, как многое может пойти не так.
Меня ИИ тоже волнует — именно поэтому я продолжаю о нем писать — но многие в обществе воспринимают ИИ как нечто жуткое и неприятное. Поэтому стоит точно разобраться, что здесь происходит и почему Цукерберг такими эссе не оказывает индустрии никакой услуги.
Социальные сети остаются чувствительной темой в технологической индустрии, и у нас нет возможности обсуждать здесь все достоинства каждой жалобы на Facebook*. Достаточно сказать, что и Facebook* как продукт, и Цукерберг как личность непопулярны среди американской публики. Недавний опрос показал, что 64% американцев считают соцсети вредными для демократии, и аналогичный процент полагает, что их следует строже регулировать — эти цифры едины для всех партий. Только на прошлых выходных суд оштрафовал компанию на 567 миллионов долларов за причинение вреда детям. Атмосфера накалена.
Я упоминаю об этом не для того, чтобы намекнуть, что Цукербергу стоит удалиться в пустыню от стыда — но последствия социальных сетей — одна из главных причин нынешней тревоги о социальном влиянии ИИ. Справедливо это или нет, но публика не доверяет технологическим руководителям в том, что они обеспечат положительное влияние новых технологий на общество. Вместо того чтобы признать это и попытаться вернуть доверие, это эссе снова и снова демонстрирует, как это доверие было утрачено изначально.
Большая часть эссе посвящена туманным обобщениям об интеллекте — очень похожим на те туманные обобщения, которые Цукерберг и Дорси раньше делали о свободе слова. Вот один из примеров:
Поскольку каждый получает более мощные инструменты, каждый человек будет больше, а не меньше влиять на будущее… Люди и институты с конкурирующими интересами естественным образом уравновешивают друг друга, что ведет к положительным результатам. Лучший и наиболее реалистичный путь к созданию положительного будущего с ИИ — это предоставить сверхинтеллект каждому.
Ну, допустим? Я могу привести несколько примеров, когда конфликт интересов приводил к плохим результатам, но оставим это. Страннее то, что это преподносится как искренний философский вывод, а не как описание конкретного продукта Meta* под названием «персональный интеллект». Если вы и так склонны не доверять этому человеку, вы можете заподозрить, что он пишет все это, чтобы убедить самого себя, что ничего плохого не случится.
Это чувство усилилось, когда Цукерберг перешел к конкретным примерам, многие из которых поразительно оторваны от реальности использования инструментов ИИ. Например, его взгляд на ИИ в образовании:
У каждого будет персональный репетитор и наставник с докторской степенью по каждому предмету и безграничным терпением, чтобы помочь вам выучить все, что захотите. Студенты получат дополнительную помощь в тех областях, где она нужна, — помощь, которая сейчас доступна только тем, чьи родители могут за нее платить. Взрослые получат сверхинтеллектуального помощника в обучении, который точно знает, как научить вас новым профессиональным навыкам, новым языкам, новым хобби или чему угодно еще.
Разумеется, продукт, который описывает Цукерберг, уже существует: это потребительские чат-боты вроде ChatGPT, Claude и Gemini. Эти инструменты действительно полезны, если вы хотите изучить какую-то тему, но основной способ их использования в образовании — это избегать обучения, поскольку ваш персональный репетитор может сделать за вас домашнюю работу и написать заданное эссе — а из-за отсутствия надежной системы водяных знаков учителя не могут быть уверены, какие эссе созданы с помощью ИИ.
Это довольно безобидный пример вреда от ИИ, но это реальная проблема, происходящая прямо сейчас. Иногда вы создаете технологию для хороших целей, а она имеет непредвиденные последствия, которые все ухудшают. И тот факт, что один из самых влиятельных людей в мире отказывается это признавать, может вызывать понятное беспокойство!
Цукерберг также приводит пример того, как ИИ изменит правовую систему к лучшему:
В качестве мысленного эксперимента представьте, что только у одного человека есть сверхинтеллектуальный адвокат. У него было бы несправедливое преимущество в суде — даже если бы он был неправ по существу. Это привело бы к худшему обществу. Но представьте, что у каждого есть сверхинтеллектуальный адвокат. В этом случае правосудие осуществлялось бы гораздо более справедливо и эффективно, чем сегодня, когда в судебных разбирательствах часто наблюдается дисбаланс навыков и ресурсов.
Опять же, это неоднозначный пример. Безусловно, доступ к юридическому ИИ может привести к более справедливому обществу, но он также может добавить сложности в уже существующий бюрократический ад. Или спровоцировать новую волну сутяжников, которые просто засорят систему юридическим эквивалентом спама. Трудно сохранять спокойствие во всем этом, и тот факт, что Цукерберг не обеспокоен, беспокоит меня еще больше.
В других местах даже описания текущей бизнес-практики Meta* начинают приобретать странно абстрактный характер. Например, так Цукерберг описывает приверженность Meta* модели freemium.
У каждого будет бесплатный или доступный доступ к этим инструментам… Мы предложим бесплатные версии, которые будут доступны миллиардам людей. Для тех, кто хочет платить за использование больших вычислительных мощностей, будет действовать динамический аукционный механизм, который гарантирует каждому самую низкую цену за используемый интеллект и вычислительные ресурсы, а также обеспечит использование мощностей для того, что люди в совокупности сочтут наиболее ценным. Это обеспечит широкое распределение благ сверхинтеллекта.
В общих чертах я согласен со всем, что он здесь говорит. Цукерберг прав в том, что доступность — это проблема, и он прав в том, что модель freemium обеспечивает больший доступ, чем требование ко всем платить за вычислительные ресурсы авансом. Динамические рынки для спотовых вычислительных мощностей уже существуют, так что он не представляет что-то полностью выходящее за рамки нормы. Но есть причина, по которой все потребительские продукты ИИ изолируют конечных пользователей от спотовой цены используемых ими вычислительных ресурсов. Скачкообразное ценообразование — это ужасный пользовательский опыт, особенно когда оно применяется к инструменту, от которого вы реально зависите в своей работе.
Опять же, я должен предположить, что Цукерберг это знает и на самом деле не планирует устанавливать цены токенов через динамические аукционы. Но теперь я в этом уверен даже меньше, чем до прочтения этой статьи.
Есть более удачные способы говорить об этом. При всех своих недостатках, Сэм Альтман и Дарио Амодей неплохо справляются, когда напрямую общаются с публикой. Они делают именно то, чему сопротивляется Цукерберг: признают опасности ИИ, подчеркивают собственные меры предосторожности и пытаются убедить слушателей, что им можно доверять.
Такая коммуникация может сделать лишь многое. Иногда (особенно в последнее время) защитные механизмы дают сбой, и внутренняя опасность всего предприятия становится очевидной. Но без некоторого укрепления доверия индустрия может и не пережить таких сбоев.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
