Финансовый регулятор Великобритании заявил, что отчетность компаний об инцидентах должна охватывать значительные сбои и почти случившиеся отказы систем искусственного интеллекта (ИИ), поскольку все более автономные системы создают новые риски.
Выступая на серии мероприятий Bloomberg UK Policy Series в понедельник, директор по данным, информации и аналитике Управления финансового надзора (FCA) Джессика Русу заявила, что регулятор хочет, чтобы Великобритания лидировала в безопасном внедрении ИИ в финансовые услуги. Однако большая автономия требует четкой подотчетности.
«Плохо управляемый ИИ может нанести вред потребителям, создать уязвимости в кибербезопасности и привести к операционным сбоям, потенциально гораздо быстрее и в больших масштабах», — сказала она.
«Наши правила уже требуют от компаний сообщать о крупных инцидентах, и это должно распространяться на значительные сбои и почти случившиеся отказы систем ИИ. Как признал министр по вопросам ИИ, отчетность о почти случившихся отказах для автономных агентов ИИ становится приоритетом национальной безопасности. Это также регуляторный приоритет».
Великобритания занимает сильные позиции в сфере финансовых услуг. В 2025 году этот сектор внес 223,6 млрд фунтов стерлингов в экономику Великобритании, или 8% национального ВВП. Эта доля была четвертой по величине среди стран ОЭСР.
На прошлой неделе министр по вопросам искусственного интеллекта Великобритании Канишка Нараян заявил, что правительство планирует работать с парламентом и техническими экспертами над оценкой того, как можно укрепить режим для лучшей защиты Великобритании от киберугроз, вызванных ИИ, и рисков потери контроля.
«Это включает в себя выявление и отчетность о серьезных инцидентах и почти случившихся отказах, в том числе о снижении рисков, связанных с ИИ, в основных услугах и обеспечении надлежащего рассмотрения серьезных инцидентов с ИИ», — сказал он.
Стивен Адлер, соучредитель и главный научный сотрудник независимой некоммерческой организации Guidelight AI Standards, также заявил на прошлой неделе членам парламента, что надзор за ИИ может учиться у авиации, где отчетность о почти случившихся отказах является обязательной в большинстве юрисдикций.
«В авиации вы не только хотите узнать о серьезных авариях, в которых кто-то погиб; вы хотите узнать о почти случившихся отказах, потому что вы можете учиться на них и помогать избегать их в будущем», — сказал он.
Однако правительство еще не обязалось добавить меры, специфичные для ИИ, в законопроект о кибербезопасности и устойчивости (сетевые и информационные системы). Александра Джонс, генеральный директор по росту, науке и международным отношениям Министерства науки, инноваций и технологий, заявила на прошлой неделе членам парламента, что поправки остаются на рассмотрении.
В январе Комитет Палаты общин по казначейству призвал финансовых регуляторов провести стресс-тесты, чтобы убедиться, что компании готовы к рыночным шокам, вызванным ИИ. Комитет заявил, что должны быть четкие линии подотчетности, когда системы ИИ приводят к вредным или несправедливым результатам. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lindsay Clark
