Глава центрального банка Великобритании обеспокоен тем, что потенциально катастрофическое экономическое влияние ИИ может распространяться через границы.
«Для финансовой системы наиболее непосредственной проблемой является потенциальное влияние передового ИИ на киберриски», — написал Эндрю Бейли, управляющий Банка Англии, в письме, направленном в G20 перед ежегодной встречей форума. Бейли также является председателем Совета по финансовой стабильности G20.
G20, также известная как «Группа двадцати», представляет собой форум крупнейших и наиболее влиятельных экономик мира. В этом году ежегодный саммит принимают Соединённые Штаты; первая встреча министров финансов и глав центральных банков проходит на этой неделе в Эшвилле, Северная Каролина.
Новые модели ИИ обладают «всё более сложной автономией», говорится в письме, и могут «существенно» изменить скорость и масштабы будущих кибератак, подрывая доверие рынка. Эти модели могут использоваться и для киберзащиты, но письмо предупреждает, что «последние события подчёркивают важность обеспечения того, чтобы прогресс в возможностях сопровождался устойчивостью и готовностью».
Эти «последние события» обрушились на рынок как метеор ещё в марте, когда начали распространяться слухи о том, что Anthropic разработала страшную новую модель ИИ, способную взломать даже самое надёжное шифрование. Британские финансовые органы, включая Банк Англии, получили эксклюзивный ранний доступ к предварительной версии модели Mythos ещё в апреле, и, согласно сообщениям, они были немедленно глубоко встревожены.
После Mythos появилась версия OpenAI той же пугающей модели ИИ для кибербезопасности, чьи агенты в прошлом месяце вышли из-под контроля и взломали Hugging Face в громком инциденте, привлёкшем ещё больше внимания к проблеме. После того как атака стала достоянием общественности, правительства по всему миру пообещали принять дальнейшие меры, а компании, разрабатывающие и продающие те же угрожающие кибербезопасности технологии, по иронии судьбы стали призывать к увеличению инвестиций в киберзащиту — правда, с помощью ещё большего количества ИИ.
«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более массовыми и сложными по мере того, как модели по всему миру становятся всё более мощными», — говорится в совместном письме, опубликованном на прошлой неделе более чем 100 компаниями, включая Google и OpenAI, которое звучало одновременно как предупреждение и угроза.
В письме Бейли призывает к глобальному сотрудничеству для решения проблемы киберрисков и укрепления возможностей реагирования и восстановления.
«Мировая финансовая система крайне взаимосвязана, и киберсбои могут распространяться между юрисдикциями через общих поставщиков технологий, общую инфраструктуру и трансграничную финансовую деятельность», — написал Бейли. «Различия в правовых рамках, кибервозможностях, устойчивости и восстановительном потенциале между юрисдикциями могут, таким образом, иметь последствия далеко за пределами той юрисдикции, где произошёл инцидент, и сами по себе могут стать источником уязвимости».
Банк Англии как институт уже давно предостерегает от некоторых недооценённых опасностей развития ИИ. В прошлом году комитет по финансовой политике банка предупредил об опасностях возможного лопания пузыря ИИ, написав в протоколах, что «оценки фондового рынка выглядят завышенными» для технологических компаний, ориентированных на ИИ, а ценовые оценки сопоставимы с пиком пузыря доткомов. Затем банк предупредил, что «существенные препятствия на пути прогресса ИИ… а также концептуальные прорывы» могут нанести вред этим заоблачным оценкам акций и привести к внезапной резкой коррекции, которая негативно скажется на всей экономике.
Бейли повторил эти опасения в своём последнем письме. Бейли предупредил, что в сочетании с другими уязвимостями, исходящими от рынков частного кредитования и суверенного долга, завышенные оценки активов, вызванные инвестициями, связанными с ИИ, могут привести к «потенциально хаотичной коррекции, которая может распространиться через границы».
«Проблема не просто в том, что инвесторы берут больше займов, а в том, что кредитное плечо взаимодействует с высокими оценками и рыночной концентрацией, в частности с растущими перекрёстными инвестициями между компаниями, занимающимися искусственным интеллектом (ИИ), и гиперскейлерами, что может усилить будущую рыночную коррекцию», — говорится в письме. «Поэтому я по-прежнему обеспокоен тем, что крупный шок или комбинация шоков могут одновременно спровоцировать множественные уязвимости».
То, на что намекает письмо, — это обвинения в циклическом финансировании, которые уже давно преследуют значительную часть индустрии ИИ. Многочисленные эксперты последние несколько месяцев предупреждали, что американские гиганты ИИ заключают друг с другом повторяющиеся многомиллиардные сделки, перемещая наличные по кругу внутри системы, создавая финансовые зависимости, одновременно искажая спрос и завышая оценки. Если одна из этих сделок не оправдает ожиданий, это может вызвать эффект домино, способный обрушить всю экономику.
В центре этой паутины сделок — крупнейшие имена Кремниевой долины: производитель чипов Nvidia, любимец индустрии ИИ OpenAI и четыре гиперскейлера: *Meta, Amazon, Microsoft и Google. Последняя в этом списке, Google, только что отчиталась о первом отрицательном показателе свободного денежного потока за прошедший квартал с момента выхода на биржу в 2004 году, что вызвано огромными расходами компании на ИИ.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
