Когда в 1940-х годах разрабатывались первые ядерные реакторы, ученые, участвовавшие в этом процессе, понимали, что создают нечто, способное как обеспечивать энергией города, так и уничтожать их. Это напряжение так и не было разрешено. Оно определило целые десятилетия переговоров по контролю над вооружениями, международных договоров и нормативных актов, которые действуют и по сей день.
Эта закономерность повторялась. Интернет, изначально задуманный как устойчивая военная коммуникационная сеть, стал основой мировой экономики и одновременно вектором для слежки, дезинформации и кибератак. Та же архитектура, которая позволила создать Wikipedia, использовалась для распространения программ-вымогателей (ransomware).
Джастин Фулчер, технологический предприниматель и докторант в Johns Hopkins SAIS, изучавший вопросы нераспространения и возникающих угроз, утверждает, что технологи, работающие сегодня в сферах ИИ, биотехнологий и передового производства, должны серьезно отнестись к этой истории, а не полагать, что их работа существует вне ее.
«Большинство прорывных технологий по своей природе являются двойного назначения», — сказал Фулчер в недавнем интервью. «Они могут принести огромную пользу, но в то же время создать новые риски. Это исторически верно для всего, от ядерной энергетики до интернета, и становится все более актуальным для таких технологий, как ИИ, биотехнологии и передовое производство».
Для Фулчера главная ошибка, которую совершают технологи, — это рассматривать разработку как замкнутый процесс. Выпустить продукт, позволить рынку разобраться, а управлением заняться позже. Такая последовательность привела к одним из самых значительных непреднамеренных последствий в современной истории.
Его предписание более требовательно. «Для технологов ключевым моментом является развитие осведомленности о более широких системах, в которых будет работать их продукт», — сказал он. «Инновации не происходят в вакууме; они взаимодействуют с институтами, геополитикой и стимулами».
Слово «системы» здесь имеет реальный вес. Опыт Фулчера охватывает технологическое предпринимательство и политику национальной безопасности — две области, которые по-разному подходят к риску. Предприниматели склонны действовать быстро и итерировать. Аналитики по безопасности мыслят в терминах враждебных сценариев и последствий второго порядка. Технологи, которые лучше всего подходят для создания значимых продуктов, — это те, кто способен удерживать обе эти ориентации одновременно.
Практические последствия конкретны. «Наиболее эффективный подход заключается в сочетании технических амбиций с пониманием того, как технологии могут использоваться, неправильно использоваться и регулироваться с течением времени», — сказал Фулчер.
Это сочетание описывает своего рода институциональную грамотность, которую формальное техническое образование редко обеспечивает. Большинство инженерных программ готовят студентов к созданию работающих вещей. Меньше учат студентов рассуждать о том, что происходит, когда эти вещи намеренно используются не по назначению, плохо регулируются или развертываются в геополитических контекстах, которые первоначальные создатели никогда не предвидели.
Правительства и регулирующие органы, ответственные за управление новыми технологиями, часто ограничены временными рамками, которые намного медленнее, чем сами технологии. Возможности ИИ за последние три года развивались быстрее, чем предполагали большинство политических рамок. Инструменты синтетической биологии, которые когда-то требовали дорогостоящей лабораторной инфраструктуры, теперь доступны гораздо более широкому кругу пользователей. Методы передового производства перешли в сферу двойного назначения с такой скоростью, к которой системы экспортного контроля никогда не были готовы.
Этот разрыв имеет значение, потому что он означает, что бремя предвидения ложится тяжелее на самих создателей.
Важно отметить, что подход Фулчера сопротивляется интерпретации, согласно которой ответственная разработка означает замедление темпов. Вопрос в том, строить ли с осознанием того, что именно вносится в мир.
Он последовательно подчеркивал этот момент в контексте конкурентоспособности США. Преимущества страны в области технологических талантов и предпринимательства реальны, и они будут упущены без предвидения. Цель состоит в том, чтобы воспитать поколение технологов, которые понимают контекст управления, в который войдет их работа, включая то, кто будет стремиться ее приобрести, как она может быть перепрофилирована и какие институциональные рамки должны существовать для управления ее развертыванием.
Это требует постоянного взаимодействия с областями за пределами технического ядра: международные отношения, правовые рамки, касающиеся экспортного контроля, закупки для оборонного сектора и регуляторная наука. Технологам не нужно становиться экспертами по политике, чтобы хорошо создавать. Им нужно перестать предполагать, что политика — это проблема кого-то другого.
Для Джастина Фулчера урок, извлеченный из ядерной энергетики, интернета и теперь ИИ, остается неизменным: технологии, формирующие историю, редко бывают поняты в момент их создания. Задача создателей — устранить этот разрыв до того, как окно для формирования того, как эти инструменты войдут в мир, уже закроется.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carl Williams
