Что происходит, когда вы смотрите на яблоко?
На этот вопрос можно ответить двумя совершенно разными способами. Убежденный материалист, вероятно, даст вам технически подробное объяснение о фотонах, отражающихся от поверхности яблока и попадающих в фоторецепторы ваших глаз, создавая визуальное представление красного фрукта, который действительно существует «там, во внешнем мире». Спросите философа или художника, и они, скорее всего, углубятся в гораздо более метафизическую область: яблоко — это не просто набор атомов, моделируемый зрительной системой вашего мозга, это еще и своего рода портал, путь в ментальную сферу полусознательных ассоциаций и воспоминаний, структура и ощущение которой уникальны для каждого отдельного наблюдателя. Яблоко может быть, например, символом здоровья, а для более религиозного человека оно может вызвать в памяти искушение Евы в Эдемском саду и грехопадение человека. Другие могут увидеть в нем символ персональных вычислений в современную эпоху или озарение, которое якобы привело Исаака Ньютона к формулированию закона всемирного тяготения.
Согласно этой последней точке зрения, восприятие никогда не бывает строго объективным; скорее, наша субъективность окрашивает наш индивидуальный опыт мира в такой степени, что эти два аспекта становятся фактически неразделимыми. Бельгийский художник Рене Магритт запечатлел эту двусмысленность между воспринимающим и воспринимаемым в своей картине 1964 года Ceci n’est pas un pomme (Это не яблоко). Его мысль заключалась в том, что визуальное изображение яблока, каким бы реалистичным оно ни было, не является тем, что оно должно представлять; мы никогда не воспринимаем мир сам по себе, как сказал бы Кант. Изобразительное искусство, такое как живопись и фотография, служит живой связью между уникальным опытом художника, с одной стороны, и зрителя, с другой.
Учитывая наплыв медиаконтента, созданного ИИ, который наводнил интернет в последние годы, возникает вопрос: что это означает для человечества, наших взаимоотношений друг с другом и нашей способности извлекать смысл из мира, когда растущая доля изображений, которые мы видим и с которыми взаимодействуем, создается не живыми, чувствующими людьми, а бессознательными алгоритмами, обученными не помогать нам ориентироваться в сложностях нашей жизни, а взламывать и удерживать наше внимание?
Это центральный вопрос, которым художник Тревор Паглен задался в своей последней книге, How to See Like a Machine: Images After AI (Как видеть как машина: изображения после ИИ).
Паглен, по образованию географ, испытал глубокое влияние кибернетики, древних тайн, панк-рока, классической композиции, журналистских расследований и множества других, казалось бы, разрозненных областей, которые придают его работам калейдоскопический характер. Если и есть простой способ описать его творчество, то, возможно, он заключается в том, что он стремится пролить свет на теневые силы, формирующие наше поведение и мировоззрение ниже порога нашего сознательного восприятия. Он фотографировал загадочные небесные объекты неизвестного происхождения, «секретные спутники», подводные оптоволоконные кабели, самолеты-шпионы и военные дроны. В 2014 году он работал оператором-постановщиком на получившем премию «Оскар» документальном фильме Лоры Пойтрас об Эдварде Сноудене, Citizenfour, а в 2017 году ему была присуждена «грант гения» Макартура.
В серии эссе, написанных за последнее десятилетие, How to See Like a Machine доказывает, что расцвет современного ИИ ознаменовал эпоху, в которой интерсубъективная природа образов заменяется чем-то фундаментально новым, чем-то глубоко чуждым, психологические и политические последствия чего еще предстоит осознать. Изображения, созданные ИИ, не являются уникальным продуктом человеческого разума, а отражением обучающих данных, которые во многих случаях глубоко заражены самыми уродливыми человеческими предубеждениями.
В то же время все наше взаимодействие с контентом, созданным ИИ, — будь то разговор с чат-ботом о нашем психическом здоровье или клик по рекламе, сгенерированной ИИ, — предоставляет базовым алгоритмам ценную информацию о наших уникальных предпочтениях, поведении и общем психологическом профиле. Мы никогда просто не смотрим на ИИ, утверждает Паглен: он всегда смотрит на нас в ответ.
Управление разумом с помощью ИИ
До недавнего времени любой, кто смотрел на охристый отпечаток руки на стене пещеры, картину яблока или фотографию разрушенных бомбардировками зданий, мог быть уверен, что изображение создал другой человек. Теперь это не так.
Изобилие дешево созданных текстов, изображений, аудио и видео, сгенерированных ИИ, наводняет интернет и уносит нас в своего рода эпистемологическое чистилище, утверждает Паглен в своей новой книге, где наши некогда относительно стабильные узы с общей реальностью заменяются индивидуальными пузырями лент социальных сетей, управляемых алгоритмами.
Еще больше беспокоит Паглена то, что он считает тонкими силами, стоящими за этими алгоритмами: они не объективны — несмотря на все заявления крупных технологических компаний, — а движимы логикой коммодификации и слежки. Каждый момент нашей жизни, даже самый личный и сокровенный, становится возможностью для сбора личных данных. «Умные» устройства отслеживают наши ритмы сна и привычки в упражнениях, приложения — наши привычки онлайн-покупок и сексуальные наклонности, а чат-боты узнают о наших уникальных эмоциональных триггерах и тревогах.
В такой алгоритмически опосредованной цифровой среде, утверждает Паглен, средства оказания тонких форм психологических манипуляций, убеждения и конформизма, которые когда-то были исключительной прерогативой хорошо финансируемых государственных программ — таких как печально известная программа MK-Ultra времен Холодной войны, — теперь стали фактически доступны практически любому; управление разумом демократизировано благодаря ИИ. «Если послевоенный медиаландшафт характеризовался зрелищем, а конец двадцатого и начало двадцать первого века — эпохой слежки, то мы вступаем в новую фазу», — пишет он в книге. «Отмеченную аффективными вычислениями, оптимизацией на основе машинного обучения, нейронаукой и когнитивной психологией…»
«Общество психоопераций», — называет он это.
Психооперации, магия и психоз ИИ
Паглен — своего рода эксперт по психооперациям: большая часть его работ была сосредоточена на фотографировании секретных государственных программ, направленных на создание иллюзий для сохранения государственных тайн.
В книге, например, он рассказывает историю Ричарда Доти, бывшего сотрудника военной разведки ВВС, который, находясь на авиабазе Киртленд в Нью-Мексико в 1970-х и 80-х годах, отвечал за внедрение ложной информации о НЛО и инопланетянах в умы назойливых журналистов и других лиц, чья работа угрожала раскрыть военные тайны.
Гениальность Доти, утверждает Паглен, заключалась в его способности воплощать в жизнь уже существующие убеждения своих целей, а не пытаться внедрить совершенно новые. Например, фотографа-самоучку, который считал, что огни, которые он видел над авиабазой Киртленд, принадлежат не новому военному шпионскому самолету, а инопланетному космическому кораблю, можно было легко манипулировать с помощью нескольких подделанных документов, чтобы он стал непоколебимо убежденным в том, что то, что он видел, на самом деле неземное (тем самым сохраняя секретность шпионского самолета).
По словам Паглена, сценических фокусников эксплуатируют по схожему принципу. Используя тот факт, что наши системы восприятия были обучены на протяжении всей жизни ожидать, что объекты будут подчиняться законам физики, фокусники могут внедрять тонкие иллюзии, которые подрывают наши ожидания и заставляют нас верить в то, что мы интуитивно знаем как невозможное.
Для всех, кто обращал внимание на явление, широко известное как «психоз ИИ», все это может показаться знакомым. В недавних сообщениях СМИ неофициальная фраза «психоз ИИ» использовалась для описания случаев, когда чат-боты рекурсивно отражают уже существующие мировоззрения пользователей, пока это мировоззрение — каким бы бредовым оно ни казалось остальным из нас — не начнет становиться неотличимым от самой реальности. И это именно то, что имеет в виду Паглен: психологические кнопки, которыми умеют пользоваться такие оперативники, как Доти, и сценические фокусники, нажимаются каждый день, и на гораздо более персонализированном уровне, легионами алгоритмов, вплетающихся в ткань нашей повседневной жизни.
Чат-боты с ИИ, такие как ChatGPT, «говорят с вами или создают текст для вас так, как это сделал бы другой человек», — сказал Паглен Gizmodo. «В этом есть своего рода магия». Он также отмечает, что даже технологические компании, создающие эти инструменты, не до конца понимают, как они приходят к своим результатам, что еще больше придает им ореол сверхъестественного авторитета.
Но есть критическое различие между психооперациями прошлого и настоящим. В то время как традиционные психооперации проводились людьми в погоне за некими человеческими интересами, системы ИИ, которые сейчас меняют наше восприятие, движимы гораздо более мутной логикой «вовлеченности». Алгоритмы, которые курируют наши ленты в социальных сетях и определяют, какую рекламу мы видим в Интернете, разработаны для того, чтобы удерживать наше внимание как можно дольше. Для Паглена это указывает на то, что он считает глубоким сдвигом в наших отношениях с медиа:
«Изображения, которые вы видите, эволюционируют в ответ на то, как вы на них смотрите», — сказал он мне. «Вы смотрите на них, [а] они смотрят на вас».
Конфиденциальность — это сопротивление
Для многих людей ИИ становится все менее и менее необязательным. Технологические компании, такие как Microsoft, Google и Apple, встраивают эту технологию в сервисы и устройства, на которые мы полагаемся каждый день, и становится все реже, чтобы, заглянув в социальные сети, не увидеть какой-либо медиаконтент, созданный ИИ. Все происходит так быстро, что полусознательное чувство культурного шока вполне объяснимо. Большая часть контента, который мы видим сегодня в Интернете, отбирается и подается алгоритмами, которые созданы с нечеловеческой способностью захватывать и удерживать ваше внимание. Каждый клик, лайк и просмотр немного оттачивает эту способность.
Паглен ставит больше вопросов, чем дает ответов о том, что все это означает для будущего человечества, и, по моему мнению, в этом и заключается суть. Подобно яблоку (или не-яблоку) Магритта, How to See Like a Machine воспевает неоднозначную природу человеческого восприятия — «проскальзывания между репрезентацией и реальностью», как Паглен говорит в книге, — противопоставляя ее индустриализованной и ориентированной на прибыль механике машинного зрения.
Как следует из названия книги, Паглен утверждает, что, чтобы оставаться хозяевами своей судьбы, мы все должны научиться тому, как алгоритмы представляют реальность. Он также говорит, что в эпоху, когда технологические компании пытаются извлекать данные из нас, даже когда мы спим, мы должны перестать думать о конфиденциальности как о чем-то само собой разумеющемся и вместо этого превратить ее в намеренную практику, подобно тому, как вы можете приложить усилия, чтобы медитировать или ходить в спортзал ежедневно: «нужно создавать намеренные неэффективности и сферы жизни, изъятые из рыночных и политических посягательств», — пишет он.
Альтернатива — это будущее, в котором практически каждый момент нашей жизни отслеживается алгоритмами и превращается в возможность для извлечения данных: «секьюритизация и коммерциализация буквально всего», — сказал мне Паглен. «Ваш сон, ваша езда, ваш просмотр телевизора… все, что вы можете себе представить, превращается в товар. И я думаю, что это, честно говоря, происходит в ущерб жизни».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
