Внедрение ИИ в операционную не всегда проходит так, как ожидается. Агентство Reuters опубликовало подробный отчет с примерами из судебных исков, касающихся трех медицинских аппаратов с «улучшенным ИИ». В самом ужасающем случае использования медицинского устройства с поддержкой ИИ, система обвиняется в создании серьезных медицинских осложнений, вызвавших разбрызгивание крови по операционной и инсульт у пациентов.
Прежде чем вдаваться в подробности, следует отметить, что отчеты FDA, с которыми ознакомился Reuters, не являются полными, поэтому они не могут окончательно указывать на то, что внедрение ИИ стало первопричиной роста числа ошибок. Однако иски выдвигают аргумент о том, что ИИ способствовал травмам, возникшим после появления «улучшений» в медицинском оборудовании.
Reuters также отметил, что медицинские устройства с ИИ, одобренные FDA, имеют вдвое более высокий процент отзыва по сравнению с базовым уровнем. Тем временем FDA изо всех сил пытается угнаться за медицинскими устройствами с ИИ, выходящими на рынок. К сожалению, на FDA повлияли сокращения в рамках инициативы DOGE. По словам инсайдеров, из 40 ученых, занимающихся ИИ, в Отделе визуализации, диагностики и надежности программного обеспечения (DIDSR) были уволены или ушли 15 человек.
TruDi от Acclarent используется клиницистами для лечения хронического синусита. Он предназначен для упрощения планирования хирургических операций и предоставления обратной связи в реальном времени во время деликатных процедур, таких как операции на пазухах.
После трех лет на рынке и восьми зарегистрированных сбоев устройство было «улучшено» с помощью алгоритмов ИИ и с тех пор было связано со «по меньшей мере 100 неисправностями и неблагоприятными событиями», как отмечается в отчете Reuters.
Проблемы, связанные с TruDi AI, включают утечку цереброспинальной жидкости, прокол основания черепа, повреждение крупных артерий и инсульты.
В исходной статье подробно описаны два конкретных (ужасных) случая. Первый касается Эрин Ральф. Эта пострадавшая в настоящее время подает судебный иск, утверждая, что система TruDi неверно направила врача, заставив его поместить хирургические инструменты рядом с сонной артерией. Это, как утверждается, вызвало тромбоз и инсульт.
Впоследствии Ральф провела пять дней в отделении интенсивной терапии, перенесла отек мозга, и часть черепа пришлось удалить в рамках восстановительного лечения. Спустя год Ральф все еще проходит физиотерапию из-за сохраняющихся проблем со здоровьем.
Донна Фернихью также получила повреждение сонной артерии. Согласно отчету, эта артерия «лопнула» во время ее операции, и «кровь брызнула по всей» операционной. Пострадавшая в этом случае перенесла инсульт – снова. По-видимому, представитель TruDi (Acclarent) наблюдал за этой медицинской процедурой.
Адвокаты Фернихью утверждают, что система с ИИ «непоследовательна, неточна и ненадежна». Более того, Acclarent «снизила свои стандарты безопасности, чтобы ускорить вывод новой технологии на рынок» и поставила «целью лишь 80% точности для некоторых из этих новых технологий перед интеграцией в систему навигации TruDi», настаивают истцы по этому делу.
Производитель анализатора фетальных изображений Sonio Detect обвиняется в использовании ошибочного алгоритма. Из-за этой предполагаемой встроенной ошибки ИИ он предположительно неправильно идентифицирует фетальные структуры и части тела, говорится в отчете. Сообщений о вреде для пациентов от использования этого анализатора не поступало.
Имплантируемые кардиомониторы Medtronic LINQ — это устройства с поддержкой ИИ, которые, как утверждается, не смогли распознать аномальные ритмы или паузы у пациентов. О случаях вреда для пациентов неизвестно.
Помимо того, что ресурсы FDA находятся под давлением, как отмечалось ранее, процесс проверки одобрения устройств с ИИ может потребовать пересмотра. Reuters указывает, что в настоящее время FDA, похоже, в значительной степени опирается на предыдущую репутацию устройства. По сути, они «позиционируют новые устройства как обновления существующих», предполагает источник. Это может помочь производителям быстрее вывести на рынок свои машины и аппараты с ИИ, но это не кажется достаточно тщательным, когда на кону человеческое здоровье.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mark Tyson
