Я, к счастью, не обязан следить за каждым заявлением Сэма Альтмана, генерального директора OpenAI, о мире. Многие из этих заявлений больше похожи на «продвижение» или «питчи», чем на попытки вдумчиво рассуждать о будущем. Даже если это искренние убеждения, они часто читаются как первый научно-фантастический роман подростка, написанный под влиянием марихуаны и слишком большого количества «Звездного пути».
Рассмотрим, например, статью Альтмана в блоге «Мягкая сингулярность», опубликованную в прошлом году и прочитанную почти 600 000 человек. Центральный тезис, похоже, заключается в том, что ИИ несет только выгоды: все было отлично до сих пор, и в будущем все будет еще лучше! Я имею в виду, подождите, пока мы не построим роботов, в которых можно будет поместить этих ИИ, а затем прикажем этим роботам создавать еще больше роботов.
Если нам придется создавать первого миллиона человекоподобных роботов по старинке, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами и т. д. — для создания большего количества роботов, которые смогут строить больше фабрик по производству чипов, центров обработки данных и т. д., то темпы прогресса, очевидно, будут совершенно иными.
Все становится лучше; на самом деле, благодаря таким «самоподдерживающимся циклам» это становится лучше быстрее. Недостатки? Каверзный вопрос! Настоящих недостатков нет, потому что люди ко всему привыкают. Быстро. Просто послушайте, как здорово будет:
Темпы технологического прогресса будут продолжать ускоряться, и по-прежнему будет верно, что люди способны адаптироваться почти ко всему. Будут очень трудные моменты, такие как исчезновение целых классов рабочих мест, но, с другой стороны, мир будет становиться настолько богаче и быстрее, что мы сможем всерьез рассмотреть новые политические идеи, которые раньше были нам недоступны. Мы, вероятно, не примем новый общественный договор сразу, но когда мы оглянемся через несколько десятилетий, постепенные изменения приведут к чему-то большому.
Если история — хоть какой-то ориентир, мы придумаем новые занятия и новые желания, и быстро освоим новые инструменты (изменение рабочих мест после промышленной революции — хороший недавний пример). Ожидания возрастут, но и возможности будут расти с такой же скоростью, и мы все получим лучшие вещи. Мы будем строить друг для друга все более чудесные вещи.
Возможно, вы недавно огляделись по сторонам и задались вопросом, является ли строительство «все более чудесных вещей друг для друга» на самом деле хорошим описанием того, что вы видите.
,
Но любые ваши сомнения — вопросы о безумном насилии мира после Промышленной революции, например, или о том, является ли «лучшее» вообще решением многих человеческих проблем — едва ли требуют рассмотрения в мире Альтмана. Будущее настолько светлое, что нам нужны (управляемые ИИ) темные очки!
(Это упрощенное отношение шокирующе распространено среди умных представителей Кремниевой долины. Марк Андриссен, венчурный капиталист и соучредитель Netscape, написал печально известное эссе 2023 года в том же духе «Никаких недостатков!». Оно было наполнено неироничными утверждениями вроде «У нас была проблема изоляции, поэтому мы изобрели Интернет». В нем присутствовала свойственная жанру рандевская фетишизация «великих технологов и промышленников, которые были до нас», некоторые цитаты Ницше и, конечно, нелепости вроде «Мы не примитивы, дрожащие от страха перед молнией. Мы — высший хищник; молния работает на нас».
Кремниевая долина — место, где умирает нюанс, где «высокомерие» — это просто синоним «успеха», и где ботаники видят себя высшими хищниками.
Тем временем технологический инвестор Питер Тиль путешествует по миру, рассуждая об Антихристе, а Марк Цукерберг вбухивает 80 миллиардов долларов в провалившийся «метавселенную». Эти парни просто не те всемогущие гении, какими себя считают. Но у них есть определенная воля к власти — и ощущение, что они заслуживают этой власти.)
Если у вас есть сомнения относительно того, насколько прекрасным может быть мир, которым управляют такие люди, как Сэм Альтман, вы обязаны прочитать длинный (очень длинный) очерк о нем, который появился вчера в нашем сестринском издании The New Yorker. Да, он содержит более 16 000 слов, и да, вы столкнетесь с диерезисом тревожно большое количество раз, но это абсолютно стоит усилий.
Моя коллега Эшли Беланджер уже упоминала эту статью, обсуждая новый документ OpenAI о «промышленной политике», который также был запущен вчера, но я хотел бы более подробно рассмотреть, что статья раскрывает о личностях, руководящих ключевыми компаниями Кремниевой долины.
,
Для своей статьи Ронан Фарроу и Эндрю Маранц опросили более 100 человек, включая Альтмана, и отчет, который они принесли по итогам этой работы, довольно удручающий; слова «лжец» и «социопат» используются неоднократно. Вот лишь несколько цитат по теме:
Член совета директоров предложил иную интерпретацию заявления [Альтмана]: «Это означало: „У меня есть такая черта, что я лгу людям, и я не собираюсь останавливаться“»…
Отношение Альтмана в детстве, как рассказал его брат The New Yorker в 2016 году, было таким: «Я должен победить, и я отвечаю за все»…
Как позже рассказал Марк Джейкобштейн, старший сотрудник Loopt, которого инвесторы наняли в качестве «няньки» для Альтмана, Кич Хейги для «The Optimist», биографии Альтмана: «Происходит размывание границ между „Я думаю, что, возможно, смогу достичь этого“ и „Я уже достиг этого“, что в самой токсичной форме приводит к Theranos», мошенническому стартапу Элизабет Холмс…
Несколько старших руководителей Microsoft заявили, что, несмотря на давнюю лояльность [Сатьи] Наделлы, отношения компании с Альтманом стали напряженными. «Он искажал, искажал, пересматривал, нарушал соглашения», — сказал один из них…
У Альтмана неудержимая воля к власти, которая выделяет его даже среди промышленников, чьи имена стоят на космических кораблях. «Он не ограничен истиной», — сказал нам член совета директоров…
Один из однокурсников Альтмана по первому набору Y Combinator был Аарон Шварц, блестящий, но проблемный кодер, который покончил жизнь самоубийством в 2013 году и теперь во многих технологических кругах почитается как своего рода мудрец. Незадолго до смерти Шварц высказывал опасения по поводу Альтмана нескольким друзьям. «Вы должны понять, что Сэму никогда нельзя доверять», — сказал он одному из них. «Он социопат. Он пойдет на что угодно».
В статье документируются невероятно гибкие этические и политические взгляды. Альтман плавно переходит от поддержки демократов к шепоту Трампу, от надежды, что «безумное научно-фантастическое будущее сбудется для всех нас», к встречам с диктаторами. Безопасность ИИ, которая была ключевой частью заявленной миссии OpenAI всего несколько лет назад, в значительной степени отошла на второй план, пока Альтман гнался за деньгами, властью и сделками.
,
Один из подтекстов статьи заключается в том, что негативные черты, демонстрируемые здесь, на самом деле не вредят бизнесу; более того, они очень хороши для (краткосрочного) бизнеса. Хороши ли они для бизнеса в долгосрочной перспективе, когда вам действительно нужно, чтобы вам доверяли, — открытый вопрос.
Для некоторых задач ИИ действительно великолепен; технология, лежащая в основе таких вещей, как алгоритмы машинного обучения и большие языковые модели, гениальна, но результаты, кажется, всегда активнее всего продвигаются людьми и компаниями, которые мне не особо нравятся или которым я не доверяю. (Черт возьми, Anthropic использовала одну из моих книг для обучения своей базы данных, за что теперь судится с авторами.) Дайте мне те же инструменты, но под моим локальным контролем, управляемые некоммерческой организацией по типу Википедии и обученные на этически полученных данных, и я бы использовал их гораздо больше.
Но гибкие принципы и карикатурная злодейская натура, которые сейчас в моде среди столь многих наших нарциссических технологических и политических лидеров, означают, что общественность может вместо этого разочароваться в самих инструментах ИИ (и, по сути, во всей «технологической сцене Кремниевой долины» в целом, что мы уже наблюдаем). Это угроза, которую даже OpenAI определила как серьезную проблему.
Когда вы смотрите на таких людей, как Маск, Трамп и Альтман — все они prominently упомянуты в статье — становится понятно, что они вращаются в одних и тех же кругах. Глубокие мысли, этичное поведение, непоколебимая честность, самосознание… кому нужны все эти глупости, когда можно просто сверхчеловечески прожить жизнь, уговаривая реальность принять желаемую форму с помощью чистого напора, диких заявлений и силы воли?
Поистине, мы уже живем в научно-фантастическом будущем, которое обещал Альтман. И он прав — оно своего рода «безумное».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Nate Anderson
