На этой неделе США и Китай, два мировых лидера в области искусственного интеллекта (ИИ), наконец начали переговоры, призванные обеспечить безопасность всего мира от возникающих рисков. Однако, смогут ли встречи между Дональдом Трампом и Си Цзиньпином привести к созданию надежной глобальной системы управления ИИ, зависит от того, насколько эти непримиримые соперники действительно готовы к сотрудничеству.
Очевидно, что Трамп хочет создать впечатление, будто обсуждения идут успешно. Перед встречей Трампа и Си в четверг и пятницу министр финансов Скотт Бессент объявил, что обе стороны уже обсудили создание нового механизма уведомлений о безопасности ИИ. Если Китай согласится участвовать, это создаст открытый канал для обмена предупреждениями, если системы ИИ их страны представляют угрозу или ведут себя непредсказуемо. Тот же канал, по словам Бессента, позволит странам делиться своим «видением общих целей».
Однако это предложение выдвигается в то время, когда Китай может быть не готов доверять США в вопросах безопасности ИИ, если эти вопросы не будут касаться ограничения возможностей Китая. Трамп не только постоянно ужесточал экспортный контроль, направленный на блокирование доступа Китая к технологиям для развития ИИ, но и Конгресс рассматривает законопроекты, которые могут лишить страну доступа к большему количеству чипов и оборудования. Усугубляя напряженность, всего две недели назад Министерство юстиции Трампа обвинило шесть ведущих китайских разработчиков ИИ в краже у американских передовых лабораторий, что Китай решительно опроверг.
Некоторые эксперты по американо-китайским отношениям сообщили Ars, что существуют опасения, что Китай может отменить переговоры, но Китай, по-видимому, не обижается на риторику Трампа. Даже посты Трампа в Truth Social, где он настаивает на том, что Америка должна доминировать над Китаем в области ИИ, заявляя: «КТО ВЫИГРАЕТ В ИИ, ТОТ ВЫИГРАЕТ! Мы опережаем Китай и всех остальных, и будем продолжать это делать», не помешали Китаю явиться.
,
Примечательно, что Китай пока публично не подтвердил предложенную систему оповещения. Даже если бы Китай согласился с этой системой, люди, знакомые с планом Бессента, сообщили Politico, что план мониторинга оповещений о безопасности выглядит поверхностным, поскольку в нем не участвуют официальные лица с технической экспертизой, которым можно было бы доверять оценку срочности рисков, описанных в сообщениях.
Описывая значимость этой договоренности, один источник высмеял план, заявив, что «научный, технический термин — это чушь собачья».
Сэм Бресник, научный сотрудник аналитического центра Джорджтаунского университета под названием Центр безопасности и новых технологий, отслеживает применение ИИ в национальной безопасности и технологическую конкуренцию между США и Китаем. Он согласился, что отсутствие технического органа экспертов, контролирующего канал, является тревожным сигналом.
«Это существующий канал, что, я думаю, лучше, чем создавать совершенно новый канал», — сказал Бресник Ars. Но если бы с обеих сторон были технические эксперты, США и Китай могли бы вести очень серьезные беседы о том, как они оценивают риски. Это особенно важно при обсуждении военных рисков, подчеркнул Бресник.
«Я думаю, это определенно лучше, чем ничего, но я не очень уверен, что это существенно изменит ситуацию в будущем», — сказал Бресник.
Низкие ожидания от переговоров Трампа
Су Лянь Цзе, главный аналитик глобальной группы исследований и консультаций в области технологий Omdia, сообщила South China Morning Post, что оповещения об ИИ могут помочь «повысить прозрачность», но это не сделает ни одну из сторон менее настороженной по отношению к другой.
«Я не думаю, что диалог снимет все опасения и разногласия по поводу дистилляции, ценовой конкуренции и темпов развития», — сказал Су.
Похвалив план как хорошее начало для открытого диалога, Су предположил, что потребуется гораздо большее сотрудничество, чтобы сделать механизм безопасности значимым.
,
«Превращение предложения в эффективный инструмент потребует от обеих стран согласования классификаций рисков, триггеров уведомлений, протоколов реагирования и процедур регулярного пересмотра», — сказал он.
Возможно, это будет обсуждаться, когда Трамп и Си встретятся позже на этой неделе, причем ИИ, предположительно, будет в центре повестки дня.
Неясно, что будет обсуждаться, но критики, обеспокоенные наиболее острыми рисками безопасности ИИ, опасаются, что заявление Бессента указывает на скромные амбиции Трампа на саммите.
В программе CBS «Face the Nation» представитель США Ро Ханна — ведущий демократ в Специальном комитете Палаты представителей США по стратегической конкуренции между Соединенными Штатами и Коммунистической партией Китая — предположил, что переговоры между Трампом и Си должны зайти гораздо дальше, чем просто создание линии связи между двумя чиновниками без технической экспертизы.
Он утверждал, что Трамп должен просить Си о международном соглашении, которое срочно включает «запрет любого рекурсивного самосовершенствующегося ИИ» и «меры безопасности, чтобы ИИ не мог быть использован людьми для создания биологического оружия или ядерного оружия».
Китай с подозрением относится к переговорам по безопасности ИИ
Многие эксперты назвали обмен оповещениями о безопасности хорошим первым шагом в улучшении координации между США и Китаем в области ИИ, на котором мог бы затем строить работу назначенный Трампом «ИИ-царь».
Элвин Ван Грейлин, глобальный стратег в области технологий и цифровой специалист Стэнфордской лаборатории цифровой экономики, десятилетиями анализировал геополитические риски. В последнее время он консультировал правительства и технологических лидеров по вопросам политики ИИ и глобального управления, в том числе давал рекомендации по созданию системы уведомлений, подобной той, что предложил Бессент.
Грейлин сообщил Ars, что был удивлен, увидев, что такое «позитивное» развитие уже произошло на переговорах с Китаем на этой неделе. И обнадеживает то, что обе страны уже запланировали еще одну встречу в ноябре.
,
«Это показывает, что обе стороны видят ценность в обсуждении», — сказал Грейлин. «Иначе не было бы продолжения».
Грейлин предположил, что США и Китай разделяют многие риски, связанные с ИИ. Не только предполагаемый экзистенциальный риск, который, как недавно начали утверждать лидеры ИИ, требует замедления, но и риски от злоумышленников, таких как хакеры или террористы, использующие ИИ для атаки на инфраструктуру любой из стран.
США и Китай могут многому научиться друг у друга, если будут серьезно разговаривать. Грейлин отметил, что Китай регулярно проводит аудит моделей ИИ и может поделиться знаниями, полученными в ходе сотен таких аудитов, поскольку США только начали проводить аудит ИИ. Китай же может получить от США, возможно, больше опыта в аудите передовых моделей.
«Я думаю, обе стороны придут к осознанию» того, что контроль над рисками ИИ «потребует сотрудничества», — сказал Грейлин.
Бресник предположил, что текущие переговоры могут стать возможностью «изучить, как каждая сторона воспринимает риски». В то время как США борются с общественными опасениями по поводу неконтролируемого ИИ, в Китае «сейчас нет такого же страха перед ИИ», сказал Бресник, в основном потому, что государство считает, что оно может контролировать ИИ.
Это может измениться, когда передовой ИИ Китая догонит США, сказал Бресник. Он ожидает, что американо-китайские дискуссии могут активизироваться в ближайшие шесть месяцев-год, поскольку Китай начнет видеть тот же уровень возникающих возможностей.
Однако, на данный момент, совершенно иной взгляд Китая на риски может удержать крупнейшего соперника Америки от переговоров о рисках, исходящих от террористов или хакеров, сказал Бресник. Особенно если США продолжат увязывать обсуждение безопасности ИИ с сохранением своего лидерства.
Когда Трамп или руководители компаний, такие как Сэм Альтман, выступают за американские глобальные стандарты ИИ, Китай, вероятно, видит в этом лишь способ США использовать обсуждение безопасности для закрепления своего преимущества, сказал он. Эти опасения могут даже сделать систему оповещения Бессента бесполезной в долгосрочной перспективе, если Китай почувствует, что «безопасность ИИ» — это кодовое слово для подавления китайского ИИ.
,
«Я думаю, есть причины [для Китая] с подозрением относиться к этому механизму уведомлений», — сказал Бресник.
«Глубоко ошибочная» гонка ИИ Трампа
Грейлин предупреждал, что США слишком увлечены продвижением «глубоко ошибочного» нарратива о «победе» в «гонке ИИ», которая, скорее всего, никому не принесет пользы.
На самом деле, существует по крайней мере две гонки: одна за интеллектом, другая за доминированием на рынке. В настоящее время США зарабатывают больше денег на передовом ИИ, но отстают в гонке за пользователями по всему миру. За последние шесть месяцев использование открытых моделей Китая резко возросло, и Грейлин прогнозирует, что некоторые из них скоро превысят 80-процентную долю рынка. Для многих руководителей, сокращающих бюджеты на ИТ, открытые модели от китайских компаний предлагают бизнесу более дешевые альтернативы передовому ИИ, которые лучше защищают конфиденциальность внутренних данных и данных клиентов.
США не могут позволить себе игнорировать эту другую гонку ИИ, сосредоточившись только на фальшивой финишной черте, которая никогда не будет достигнута в области передового ИИ, написал Грейлин в сентябрьской статье для беспартийного аналитического центра Quincy Institute. Грейлин ожидает, что любой стране будет невозможно сохранить «прочное и, возможно, постоянное преимущество», которое позволило бы ей изменить глобальный баланс сил, как утверждают руководители крупных технологических компаний, имеющие влияние на Трампа.
«Разрывы в возможностях США и Китая на переднем крае технологий ИИ обычно длятся всего несколько месяцев, и нет конкурентного «рва», который обеспечил бы постоянное преимущество любой из наций», — написал Грейлин. Кроме того, тестирование безопасности передовых моделей в США задерживает доступ к технологиям, давая соперникам время наверстать упущенное. А более раннее развертывание создаст еще больше рисков для безопасности.
«Даже если мы достигнем [искусственного сверхинтеллекта] первыми и сможем каким-то образом ускорить процесс сертификации, если мы не готовы развернуть его без испытаний в упреждающем полномасштабном ударе по Китаю, временное преимущество может испариться за считанные недели или месяцы», — написал Грейлин.
,
По мнению Грейлина, представление США о том, что достижение искусственного сверхинтеллекта Китаем будет представлять «наибольшую угрозу безопасности ИИ для Соединенных Штатов», ошибочно, и это препятствует сотрудничеству, которое помогло бы обеим странам подготовиться к реальным неотложным рискам ИИ. К ним относятся угрозы для работников, национальной экономики и национальной безопасности.
«Наиболее опасными моделями часто являются те небольшие специализированные, которые могут быть созданы или использованы негосударственными злоумышленниками для развертывания биологического, химического или кибернетического оружия», — написал Грейлин. «Предположение о конфликте между США и Китаем препятствует именно тому глобальному сотрудничеству, которое необходимо для защиты от этой реальной угрозы».
Грейлин предположил, что США могли бы предпринять шаги для снижения глобальных опасений общественности по поводу ИИ, но некоторые из них могут показаться Трампу крайними.
Помимо обмена разведывательной информацией высокого уровня и открытия «двусторонних и многосторонних каналов по безопасности ИИ», Трамп мог бы рассмотреть возможность восстановления «малого двора» Джо Байдена и ослабления постоянно расширяющегося спектра экспортного контроля, который, вероятно, в настоящее время мешает Китаю проводить более качественное тестирование безопасности. Если бы экспортный контроль был сужен до блокирования доступа только к «подлинным военным угрозам и угрозам CBRNE», а «не ко всем передовым технологиям», то Китай мог бы развернуть более безопасные продукты ИИ, предположил он.
Кроме того, Трамп мог бы последовать примеру Китая и смягчить свою позицию по дерегулированию ИИ. Введя разумные правила безопасности, он мог бы начать «снижать растущий общественный страх перед ИИ, который назревает внутри страны», что, как написал Грейлин, «неизбежно помешает способности страны эффективно внедрять эту технологию в экономику и снизит нашу глобальную конкурентоспособность».
«Мы не можем управлять многогранными рисками самой мощной технологии в истории человечества, отказываясь разговаривать с другой страной, которая ее создает», — написал Грейлин.
В идеальном мире встреча Трампа и Си на этой неделе однажды привела бы к отказу США от нарратива «победы в гонке ИИ», сказал Грейлин.
«Нет никакого способа конкурировать на пути к более безопасному миру», — сказал он Ars.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
