Выдерните вилку из розетки! Выдерните вилку из розетки! Остановите шлак! Остановите шлак! Несколько часов в эту субботу, 28 февраля, я наблюдал, как пара сотен протестующих против ИИ маршировали по технологическому центру Лондона Кингс-Кросс, где расположены штаб-квартиры OpenAI, Meta* и Google DeepMind в Великобритании, скандируя лозунги и размахивая плакатами. Марш был организован коалицией двух отдельных активистских групп — Pause AI и Pull the Plug, которые назвали его крупнейшей акцией протеста такого рода на данный момент.
Диапазон высказанных опасений охватывал всё: от онлайн-шлака и оскорбительных изображений до роботов-убийц и вымирания человечества. Одна женщина несла на голове большой самодельный транспарант с надписью «КТО БУДЕТ ЧЬИМ ИНСТРУМЕНТОМ?» (буквы «О» в слове «ИНСТРУМЕНТ» были вырезаны как прорези для глаз). Были плакаты с надписями «Пауза, пока не стало поздно», «ВЫМИРАНИЕ=ПЛОХО» и «Демис Угроза» (имеется в виду Демис Хассабис, генеральный директор Google DeepMind). На другом было просто написано: «Прекратите использовать ИИ».
Пожилой мужчина, одетый в доску-рекламу с надписью «ИИ? Только через мой труп», сказал мне, что обеспокоен негативным влиянием ИИ на общество: «Речь идет об опасностях безработицы, — сказал он. — Дьявол всегда найдет работу для праздных рук».
Всё это знакомые вещи. Исследователи годами говорят о вреде, как реальном, так и гипотетическом, вызванном генеративным ИИ — особенно такими моделями, как ChatGPT от OpenAI и Gemini от Google DeepMind. Изменилось то, что теперь эти опасения подхватывают протестные движения, способные вывести на улицы значительные толпы людей, чтобы заявить о них.
Впервые я столкнулся с протестующими против ИИ в мае 2023 года возле лондонского лекционного зала, где выступал Сэм Альтман. Два или три человека стояли и перебивали аудиторию в сотни человек. В июне прошлого года Pause AI, небольшая, но международная организация, основанная в 2023 году и финансируемая частными донорами, собрала несколько десятков человек для акции протеста у лондонского офиса Google DeepMind. Это ощущалось как значительная эскалация.
«Мы хотим, чтобы люди знали о существовании Pause AI», — сказал мне Джозеф Миллер, возглавляющий британское отделение Pause AI и соорганизатор субботнего марша, во время звонка за день до протеста: «Мы очень быстро растем. Фактически, мы тоже движемся по несколько экспоненциальной траектории, соответствующей прогрессу самого ИИ».
Миллер — аспирант Оксфордского университета, где он изучает механистическую интерпретируемость — новую область исследований, которая заключается в попытке понять, что именно происходит внутри больших языковых моделей (LLM) при выполнении ими задачи. Его работа привела его к убеждению, что технология может навсегда выйти из-под нашего контроля и что это может иметь катастрофические последствия.
Это не обязательно должен быть вышедший из-под контроля суперинтеллект, сказал он. Достаточно, чтобы кто-то поручил ИИ управление ядерным оружием. «Чем больше глупых решений принимает человечество, тем менее мощным должен быть ИИ, чтобы ситуация стала плохой», — отметил он.
После недели, в течение которой правительство США пыталось заставить Anthropic разрешить использовать LLM Claude компании для любых «законных» военных целей, такие опасения кажутся менее надуманными. Anthropic настояла на своем, но OpenAI вместо этого подписала с Министерством обороны США (DoD) сделку. (OpenAI отказалась от приглашения прокомментировать субботний протест.)
Для Матильды да Руи, члена Pause AI и соорганизатора протеста, ИИ — это последняя проблема, с которой столкнется человечество. Она считает, что технология либо позволит нам раз и навсегда решить все остальные наши проблемы, либо уничтожит нас, и тогда не останется никого, у кого могли бы быть проблемы. «Для меня загадка, почему кто-то действительно сосредоточился бы на чем-то другом, если бы он на самом деле понимал эту проблему», — сказала она мне.
И все же, несмотря на эту срочность, атмосфера на марше была приятной, даже весёлой. Не было ощущения гнева и мало свидетельств того, что на кону стоят жизни — не говоря уже о выживании нашего вида. Это можно объяснить широкой коалицией интересов и требований, которые принесли с собой протестующие.
Исследователь в области химии, с которым я разговаривал, перечислил множество претензий, которые варьировались от граничащих с теорией заговора (что центры обработки данных излучают инфразвук ниже порога человеческого слуха, вызывая паранойю у людей, живущих поблизости) до вполне разумных (что распространение ИИ-шлака в интернете затрудняет поиск надежных академических источников). Решение исследователя состояло в том, чтобы сделать незаконным получение компаниями прибыли от этой технологии: «Если бы нельзя было зарабатывать на ИИ, это не было бы такой большой проблемой».
Большинство людей, с которыми я говорил, сходились во мнении, что технологические компании, вероятно, не обратят внимания на такого рода протесты. «Я не думаю, что давление на компании когда-либо сработает», — сказал мне Максим Фурнес, глава Pause AI по всему миру, когда я столкнулся с ним на марше: «Они настроены просто не обращать внимания на эту проблему».
Но Фурнес, который 12 лет проработал в индустрии ИИ, прежде чем присоединиться к Pause AI, считает, что может усложнить жизнь этим компаниям. «Мы можем замедлить гонку, создавая защиту для осведомителей или показывая общественности, что работа в сфере ИИ — это не крутая работа, а на самом деле ужасная работа — мы можем иссушить приток талантов».
В целом, большинство протестующих надеялись как можно шире осведомить людей о проблемах и использовать этот общественный подъем для продвижения государственного регулирования. Организаторы позиционировали марш как социальное мероприятие, призывая всех, кому интересна эта идея, присоединиться.
Похоже, это сработало. Я встретил мужчину, работавшего в финансовой сфере, который пришел со своим соседом по комнате. Я спросил, почему он здесь. «Иногда по субботам все равно нечем особо заняться, — сказал он. — Если ты видишь логику аргумента, она тебе вроде как понятна, то ты думаешь: „Да, конечно, я приду и посмотрю, каково это“».
Он считал, что опасения по поводу ИИ трудно кому-либо полностью отвергнуть. Это не похоже на пропалестинский протест, сказал он, где могут быть люди, не согласные с делом. «С этим, мне кажется, очень трудно, чтобы кто-то полностью выступил против того, за что ты выступаешь».
Пройдя через Кингс-Кросс, марш завершился в церковном зале в Блумсбери, где столы и стулья были расставлены рядами. Протестующие писали свои имена на наклейках, приклеивали их к груди и неловко знакомились с соседями. Они собрались, чтобы выяснить, как спасти мир. Но мне нужно было успеть на поезд, и я оставил их заниматься этим.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – technologyreview.com
