По первому впечатлению, я бы сказал «нет». Мне даже не кажется, что это был особенно сложный вопрос.
Но в Америке существует множество разных точек зрения, и одну из них на выходных представил основатель Comma AI и давний джейлбрейкер Джордж Хотц.
Этот пост стал ответом на ряд масштабных планов по выравниванию ИИ, в частности на программный документ AI 2040: Plan A от проекта AI Futures. В этом документе описывается мир, в котором исследователи со всего мира коллективно решают замедлить развитие ИИ на 14 лет ради блага человечества. Но, конечно, не все, кто прочитал этот документ, согласны с его предпосылками или выводами.
На самом деле Хотц не согласен с самой идеей о том, что прогрессом ИИ нужно управлять ради общего блага. В своем посте он утверждает, что сценарий быстрого взлета — гипотетическая ситуация, когда ИИ быстро обретает сверхчеловеческие способности, — не имеет особого смысла. (Я во многом согласен с тем, что он здесь говорит!) Для Хотца лучший подход к выравниванию и безопасности ИИ — это сосредоточиться на локально управляемых моделях ИИ, которые тесно согласованы с интересами своих пользователей.
Это интересная идея, особенно потому, что она напоминает мне, насколько современный ИИ построен вокруг централизованно управляемых сервисов, таких как Claude и ChatGPT. Существуют инфраструктурные причины, по которым ИИ-сервисы развивались именно так: размещать эти большие современные модели дорого, и большинство людей не используют их достаточно в течение дня, чтобы оправдать по-настоящему персональный ИИ. Но эти факторы становятся менее значимыми по мере развития технологии. Часть того, что было так захватывающе в OpenClaw, заключалась в этом экспериментальном, DIY-подходе, и было бы здорово увидеть, как больше ИИ-продуктов попытаются вернуть это.
Но Хотц — провокатор по натуре, поэтому на этом он не останавливается. Он сравнивает ИИ, ориентированный на пользователя, с пистолетом(!), который не жалуется, если вы используете его, чтобы убить свою мачеху. (Мне кажется, существуют другие правила против этого?) По-настоящему согласованный ИИ смог бы заказать оборудование для метамфетаминовой лаборатории через Amazon Prime и показать вам, как его использовать, если бы вы этого хотели и попросили, говорит он. (Опять же, я не думаю, что ИИ был бы здесь ограничивающим фактором.) Хотц даже говорит, что умер бы, защищая этот принцип, хотя трудно представить цепочку событий, которая к этому приведет.
«Мы либо живем в мире со свободой, либо нет», — пишет Хотц. Если на выбор только это, мир свободы действительно звучит лучше! И все же, я не знаю.
Дело ведь не только в свободе, верно? Любая структура, включающая множество людей (общества, рынки, корпорации и т.д.), требует балансировки интересов, связывания индивидуальных потребностей в сеть взаимозависимых предпочтений и систем подотчетности. И любой, кто развертывает массовые технологические продукты, вероятно, должен думать об этой сети в целом, а это означает серьезно относиться к интересам пока еще не убитых супругов и отчимов/мачех по всему миру.
Свобода, которую испытывает Хотц, на самом деле является пространством потенциальных будущих, ставших возможными благодаря коллективному предприятию; эти будущие исчезли бы в одночасье, если бы мы все начали вести себя как маленькие Наполеоны с ИИ. Как гласит мем, мы живем в обществе.
Тем не менее, иметь локальный ИИ, готовый бросить вызов корпоративному миру ради моей выгоды, звучит здорово! Не могу дождаться тестового образца.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
