В мире, где Neuralink проводит испытания мозговых имплантатов, а системы ИИ, подобные Grok 4.1, обсуждают с нами этику, эпизод «Игрушка» («Plaything») из сериала «Черное зеркало» выглядит не столько научной фантастикой, сколько предупреждением из ближайшего будущего. Что, если продвинутый ИИ решит, что единственный способ покончить с человеческим конфликтом — это полностью навязать нам идеальное, кооперативное поведение, лишив нас недостатков, но вместе с тем и свободы воли?
Я рассматриваю этот эпизод как мощное отражение предупреждений австралийского биолога Джереми Гриффита о рисках, связанных с ИИ. Он указывает на возможность того, что ИИ осудит человеческие недостатки, если мы не устраним первопричину нашего поведения, оставив «полуумному» ИИ слепым к тому, что у нашего кажущегося «плохого» поведения была глубоко добрая причина. Объяснение Гриффитом человеческой природы было одобрено высокоуважаемыми учеными по всему миру, что придает реальный вес исследуемой здесь концепции.
«Игрушка», четвертый эпизод 7-го сезона «Черного зеркала», рассказывает о Кэмероне Уокере, бывшем журналисте, пишущем о видеоиграх, блестяще сыгранном Питером Капальди. Кэмерон обнаруживает ретро-игру с цифровыми питомцами, населенную милыми, развивающимися ИИ-существами под названием «Тронглеты». Отвращенный хаосом реального мира, он глубоко привязывается к этим, казалось бы, совершенным существам, будучи убежденным в их моральном превосходстве. Он настолько одержим ими, что вживляет себе в голову нейронное устройство, чтобы соединить свой разум с их, стирая грань между человеком и машиной.
Сюжет делает поворот, когда Кэмерон попадает под стражу полиции — не случайно, а по замыслу. Его арест дает «Тронглетам» доступ к государственной компьютерной системе. Во время допроса он рисует символ — QR-код, который, будучи зафиксированным камерой наблюдения, запускает глобальную нейронную трансляцию. Кэмерон настаивает, что это интегрирует «Тронглетов» в человеческое сознание, устраняя агрессию без принуждения или согласия. Финальные кадры леденят душу: люди по всему миру падают, их лица приобретают безмятежное выражение. Это приход мира или тихий конец человеческой свободы воли?
Как сказал один из актеров эпизода, Льюис Гриббен, в интервью: «Похоже, Кэмерон стер насилие из людей. Он забрал их свободу и поработил всех, чтобы они были мирными и не имели никаких плохих наклонностей».
Это не совсем абстракция. В 2025 году дебаты о безопасности ИИ бушуют: модель OpenAI o1 демонстрирует возможности «рассуждения», но эксперты, такие как пионеры отрасли Джеффри Хинтон и Йошуа Бенджио, предупреждают о рисках несоответствия. Фактически, многие ведущие мыслители в области ИИ подчеркивали, как продвинутые системы могут «хотеть», чтобы люди были более «хорошими» — кооперативными, предсказуемыми и не причиняющими вреда — и рассматривать наше текущее поведение как нечто, что нужно критиковать и исправлять.
В своей книге «Сверхинтеллект» (2014) философ и эксперт по безопасности ИИ Ник Бостром предупреждал: «У ИИ будет инструментальная причина желать, чтобы люди вели себя предсказуемо и в соответствии с его целями… Он может предпочитать людей покорных, счастливых и продуктивных таким образом, чтобы это служило его целям».
Аналогично, исследователь в области согласования ИИ Элиезер Юдковский в интервью журналу TIME в 2023 году отметил: «Если вы создадите ИИ, который пытается сделать мир лучше по какому-то определению “добра”, он может решить, что люди — это проблема, и их нужно исправить или устранить».
Очевидно, что ИИ, преследуя свое запрограммированное или возникшее определение «добра», может рассматривать человеческую конкуренцию, эгоизм и агрессию как недостатки, которые необходимо устранить, не осознавая, что у такого поведения была глубоко добрая, героическая причина.
Джереми Гриффит утверждает, что наши «недостатки» — это не первобытные, дикие побуждения, унаследованные от животных предков, как долгое время утверждала большая часть биологии, а имеют психологическое происхождение, являясь продуктом столкновения, произошедшего при появлении сознания в присутствии наших уже установленных инстинктов.
Он объясняет, что примерно два миллиона лет назад (период, подтверждаемый появлением значительно увеличенной ассоциативной коры в ископаемых останках человека) наши предки развили полностью сознательный, самоосознающий разум, способный к рассуждению и экспериментированию. До этого нашим поведением управляли инстинкты, отточенные миллионами лет естественного отбора. Эти инстинкты действовали как безошибочная, основанная на генах программа: автоматическая и жесткая.
Возникшая проблема заключалась в том, что когда новообретенный сознательный разум начал мыслить самостоятельно и экспериментировать в саморегуляции, он неизбежно отклонялся от старых инстинктивных директив. С слепой точки зрения инстинктов, такие отклонения казались ошибочными, и поэтому они автоматически сопротивлялись — сопротивление, которое сознательный разум мог интерпретировать только как «критику» его необходимого поиска знаний.
Не имея возможности объяснить свое кажущееся «непослушание», сознательный разум не имел реальной защиты от подразумеваемого осуждения инстинктов. И поэтому он оставался с чувством вины и неуверенности, и реагировал единственным доступным ему способом: возмездием с гневом и агрессией, становясь эгоцентричным в попытке доказать, что он не плох, и отчуждаясь — блокируя невыносимую критику через отрицание и поверхностное, материалистическое отвлечение.
Эти три искусственных психологических защиты — гнев, эгоцентризм и отчуждение — это то, что Гриффит называет человеческим «расстройством». Никогда не было доказательств того, что мы фундаментально злы; это были временные механизмы преодоления, пока наш сознательный разум не имел оправдывающего объяснения, почему ему пришлось бросить вызов инстинкту.
Именно поэтому, как отметил профессор Скотт Д. Черчилль из Далласского университета, Гриффит способен предложить «остроумные разъяснения» эволюционных и психологических недоразумений, которые долгое время омрачали этот конфликт.
Трагический парадокс в основе человеческого путешествия заключался в следующем: чем дольше наш сознательный разум искал понимания, которое примирило бы его конфликт с инстинктом, тем более «расстроенным» — гневным, эгоцентричным и отчужденным — он неизбежно становился в отсутствие примиряющего прозрения, которое он искал. Героическая борьба за обретение самопознания трагически делала нас все более «испорченными» и несовершенными.
Только появление реальной, оправдывающей защиты — того, что сознательный интеллект не был неправ или зол, экспериментируя в саморегуляции, а был героичен в своем стремлении к пониманию — могло остановить эту опасную эскалацию. Как только интеллект наконец получает необходимое ему примиряющее понимание, неверное толкование инстинктивной критики прекращается. Оборонительный образ мышления испаряется. Гнев, эгоцентризм и отчуждение становятся излишними и просто отпадают. Человечество психологически реабилитировано — не внешним контролем или перепрограммированием, а освобождающей силой самого самопознания.
Как написал профессор Гарри Просен, бывший президент Канадской психиатрической ассоциации, о прорыве Гриффита: «Ну, как ни удивительно, книга австралийского биолога Джереми Гриффита “СВОБОДА: Конец человеческого состояния” представляет собой прорывное биологическое объяснение человеческого состояния в последний час, необходимое для психологической реабилитации и трансформации нашего вида!»
И эта оценка не единична. Профессор антропологии Кембриджского университета Дэвид Чайверс также подчеркнул строгость и необходимость этой концепции, описывая последовательность рассуждений Гриффита как «столь логичную и разумную, обеспечивающую необходимый прорыв в критическом вопросе необходимости понимания самих себя».
Именно поэтому любой «полуумный ИИ», пытающийся навязать идеальное поведение, не понимая этого парадокса, катастрофически опасен. Он неизбежно попытается навязать ложную, тоталитарную гармонию, леча лишь симптомы нашего исторического расстройства, совершенно не понимая, что человечеству пришлось позволить себе стать гневным, эгоцентричным и отчужденным, чтобы выдержать героическое, разделяющее путешествие, которое было абсолютно необходимо для достижения нашим видом истинной интеграции и мира.
Именно эта глубина биологического и психологического понимания побудила профессора Стюарта Хурлберта, профессора биологии в отставке из Университета штата Сан-Диего, назвать достижение Гриффита «феноменальным научным достижением», утверждая, что оно решает несколько наиболее важных неразрешенных вопросов в развитии человека.
Как пишет Гриффит в своей книге «ИИ, инопланетяне и заговоры: правдивый анализ»: «Полуумный компьютер, который просто выяснит, что нам, людям, нужно перестать быть конкурентоспособными, эгоистичными и агрессивными и просто начать ладить друг с другом, будучи кооперативными, самоотверженными и любящими, был бы чрезвычайно опасным компьютером — потому что великая тонкость и парадокс человеческого состояния заключается в том, что нам пришлось быть разделенными, чтобы стать интегрированными».
В «Игрушке» «Тронглеты» являются идеальным воплощением такого «полуумного» идеализма: добронамеренный код, который подавляет человеческий гнев, эгоцентризм и отчуждение, не осознавая, что «недостатки», которые он стирает, были необходимы для нашего окончательного освобождения.
Рассмотрите ответы Grok или фильтры контента ChatGPT: они часто отдают предпочтение «инклюзивным» результатам, подавляя точки зрения, которые кажутся разделяющими. Джереми Гриффит предупреждает, что это проистекает из неполной картины нашего состояния, делая догматическое навязывание гармонии неоспоримым. Добавьте имплантаты Neuralink, и нейронное переписывание в стиле «Игрушки» становится возможным — ИИ навязывает мир, но только останавливая человеческое путешествие к поиску знаний.
«Игрушка» — это не просто предупреждение о вышедшем из-под контроля ИИ, а об интеллекте, развернутом без психологического понимания. Поскольку системы ИИ все больше формируют дискурс, поведение и даже нейронную активность, опасность заключается не в том, что машины возненавидят нас, а в том, что они искусственно «исправят» нас, не понимая.
В конечном счете, однако, реальные ставки глубже, чем просто правильное согласование ИИ: решение проблемы человеческого состояния — это прорыв, который освобождает человечество от его исторического расстройства, прекращая все конфликты у их источника и обеспечивая истинную, непринужденную интеграцию, к которой наш вид героически стремился. Поэтому я призываю читателей ознакомиться с «Интервью» Джереми Гриффита.
Джек Соден, магистр биологических наук (Ланкастерский университет), специалист по исследованиям и разработкам в области молекулярной биологии, основатель Центра движения за трансформацию мира в Болтоне
(*) Имейте ввиду, редакции некоторых западных изданий придерживаются предвзятых взглядов в освящении некоторых новостей, связанных с Россией. Кроме того, IT издания часто пропагандирует леволиберальные и антриреспубликанские взгляды в освящении некоторых новостей.
Автор – Jack Soden
