Финансовые регуляторы Великобритании обязаны проводить стресс-тестирование, чтобы убедиться в готовности бизнеса к рыночным потрясениям, вызванным технологиями искусственного интеллекта (ИИ), предупредили члены парламента.
Согласно докладу Комитета по государственным финансам Палаты общин, опубликованному сегодня, Банк Англии, Управление по финансовому регулированию и надзору (FCA) и Казначейство Её Величества рискуют подвергнуть потребителей и финансовую систему «потенциально серьёзному ущербу», придерживаясь выжидательной позиции.
В ходе слушаний комитет обнаружил тревожный дефицит подотчётности и понимания рисков, связанных с распространением ИИ в секторе финансовых услуг.
Дэвид Джиал, Исполнительный директор FCA по платежам и цифровым финансам, заявил, что сотрудники финансовых фирм несут личную ответственность за ущерб, нанесённый потребителям с помощью ИИ. Однако отраслевая ассоциация Innovate Finance сообщила, что руководство финансовых учреждений испытывает трудности с оценкой рисков ИИ. Комитет пришёл к выводу, что «недостаточная объяснимость» моделей ИИ прямо противоречит требованиям регулятора, согласно которым старшие менеджеры должны продемонстрировать понимание рисков и контроль над ними.
Комитет подчеркнул, что должны быть установлены чёткие линии ответственности, когда системы ИИ приводят к вредным или несправедливым результатам. «Например, если система ИИ несправедливо отказывает в кредите нуждающемуся клиенту — например, на лечение — должна быть ясность в том, кто несёт ответственность: разработчики, учреждение, развёртывающее модель, или поставщики данных».
Комитет также раскритиковал правительство за бездействие в отношении внедрения режима «Критические сторонние поставщики» (Critical Third Parties), который был введён в январе прошлого года, чтобы наделить FCA и Банк Англии полномочиями расследовать деятельность нефинансовых компаний, предоставляющих критически важные услуги финансовому сектору Великобритании, включая поставщиков решений на базе ИИ и облачных сервисов.
«Спустя более года после создания этого режима нам неясно, почему Казначейство так медлит с использованием новых доступных ему полномочий. Комитет по финансовой политике Банка Англии должен отслеживать прогресс внедрения режима и, при необходимости, использовать своё право рекомендации в адрес Казначейства для обеспечения его скорейшей реализации», — говорится в докладе.
Сектор финансовых услуг является одним из важнейших секторов экономики Великобритании. В 2023 году его вклад в экономику составил 294 миллиарда фунтов стерлингов [PDF], что составляет около 13 процентов валовой добавленной стоимости всех секторов экономики.
Однако последовательные правительства придерживались подхода «лёгкого регулирования» в отношении ИИ, опасаясь отпугнуть инвестиции.
Председатель Комитета по государственным финансам, баронесса Мег Хиллиер, заявила: «Фирмы, что вполне объяснимо, стремятся получить преимущество за счёт внедрения новых технологий, и это особенно актуально для нашего сектора финансовых услуг, который должен конкурировать на мировой арене.
«Основываясь на имеющихся у меня доказательствах, я не уверена, что наша финансовая система готова к крупному инциденту, связанному с ИИ, и это вызывает беспокойство. Я хочу, чтобы наши государственные финансовые институты заняли более проактивную позицию в защите нас от этого риска». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lindsay Clark
