Ведущие финансовые регуляторы, включая Федеральную резервную систему, обеспокоены использованием американскими банками искусственного интеллекта, согласно новому отчету, опубликованному Reuters в понедельник, основанному на анонимных источниках.
Ссылаясь на «шесть человек, знакомых с ситуацией», Reuters сообщает, что ведущие банковские регуляторы в США опасаются растущих рисков кибератак, неконтролируемых ИИ-агентов и развертывания китайских ИИ-технологий в американской банковской системе. Три регулятора — Управление контролера денежного обращения, Федеральная корпорация по страхованию вкладов и ФРС — предположительно опрашивают американские банки, выясняя, используют ли они ИИ-агентов для реагирования на угрозы кибербезопасности, и исследуя типы мер контроля, которые банки внедряют для безопасного развертывания. Среди мер безопасности, по которым банки подвергаются проверке, предположительно, есть вопросы о том, отслеживаются ли и утверждаются ли действия ИИ-агентов людьми, как банки гарантируют, что агенты не выходят за рамки полномочий, и существует ли механизм экстренного отключения на случай, если они выйдут из-под контроля.
Последние достижения в области искусственного интеллекта, в частности разработка моделей супер-хакерских агентов, предположительно способных взламывать шифрование, вызвали ажиотаж в различных отраслях, но, возможно, ни один другой сектор не вызвал большего беспокойства, чем банковский. Любое нарушение или сбой, вызванные ИИ, с которыми банки потенциально могут столкнуться, могут поставить под угрозу крайне конфиденциальную информацию, не говоря уже о средствах, клиентов банков, как частных лиц, так и предприятий.
Сама ИИ-индустрия частично подпитывает эту панику вокруг агентного ИИ, в то же время несколько иронично представляя ИИ как лучшую линию обороны против, собственно, ИИ. В прошлом месяце генеральный директор ведущего разработчика ИИ Anthropic, Дарио Амодеи, опубликовал эссе, предупреждая, что развитие ИИ идет неустойчивыми темпами, и если отрасль не начнет скоординированное замедление, человечество может столкнуться с серьезными рисками, включая «серьезные экономические потрясения».
Сами банки также выражают обеспокоенность безопасностью, связанной с расширением использования автономных ИИ-агентов, но обвиняют внешние ИИ-агенты, такие как потребительский ИИ-помощник Muse от *Meta, а не какие-либо угрозы, связанные с внутренними ИИ-приложениями, на разработку и масштабирование которых они тратят все более астрономические суммы.
Аналогичные обсуждения, по сообщениям, проходят и в Европе. Reuters сообщает, что ведущие европейские регуляторы — Банк Англии и Европейский центральный банк — опасаются, что сценарии «конца света» из-за ИИ наступят на финансовых рынках раньше, чем ожидалось, и что банки не готовы к своим планам восстановления. Фактически, высокопоставленный руководитель одного из крупных европейских банков, по сообщениям, заявил Reuters, что ожидает значительного ущерба, связанного с ИИ, в течение следующих шести месяцев.
Этот сокращенный срок был в некоторой степени обнародован и Кремниевой долиной.
«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространенными и изощренными, поскольку модели по всему миру будут становиться все более мощными», — говорится в совместном письме более чем 100 компаний, включая Google и OpenAI, опубликованном в прошлом месяце.
Руководители Банка Англии уже некоторое время призывают к глобальному сотрудничеству для решения финансовых рисков, связанных с агентным ИИ.
«Для финансовой системы наиболее непосредственную озабоченность вызывает потенциальное влияние передового ИИ на киберриски», — написал Эндрю Бейли, управляющий Банка Англии и председатель Совета по финансовой стабильности G20, в письме, представленном G20 в прошлом месяце. «Глобальная финансовая система тесно взаимосвязана, и кибернарушения могут распространяться между юрисдикциями через общих поставщиков технологий, общую инфраструктуру и трансграничную финансовую деятельность», — также говорится в письме.
Некоторые из этих заявленных опасений уже стали реальностью. Летом OpenAI попала в заголовки новостей, когда ее ИИ-агенты вышли из-под контроля и взломали Hugging Face, вызвав каскад аналогичных заголовков, касающихся ИИ-агентов, разработанных конкурентами. В последние дни японские и южнокорейские компании, по сообщениям, подвергаются значительному всплеску кибератак, среди целей которых — южнокорейские банки. Фирма по кибербезопасности CrowdStrike утверждает, что кибератаки на банки были совершены китайскими ИИ-агентами, использующими Claude Code, разработанный Anthropic.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
