Крупнейшие страховые компании, включая AIG, Great American и WR Berkley, обратились к регуляторам США с просьбой разрешить исключить риски, связанные с искусственным интеллектом (ИИ), из корпоративных страховых полисов. Один из страховщиков в интервью Financial Times назвал результаты работы ИИ-моделей “слишком непрозрачными”.
У страховой индустрии есть веские причины для опасений, напоминает статья. Система AI Overview от Google ошибочно обвинила солнечную компанию в юридических проблемах, что в марте привело к иску на 110 миллионов долларов. В прошлом году Air Canada была вынуждена признать скидку, которую выдумал её чат-бот. А мошенники в прошлом году использовали цифровую копию топ-менеджера, чтобы украсть $25 миллионов долларов у лондонской инженерно-конструкторской фирмы Arup во время видеозвонка, который казался абсолютно реальным.
Страховщиков пугает не столько единичная крупная выплата, сколько системный риск тысяч одновременных требований, когда широко используемая модель ИИ допускает ошибку. Как выразился один из руководителей Aon, страховщики могут справиться с убытком в 400 миллионов долларов для одной компании. Но они не справятся с ситуацией, когда сбой в автономном ИИ спровоцирует сразу 10 000 убытков.
Автор – Connie Loizos
