Как бы вы отнеслись к тому, что ваш врач, столкнувшись с затруднением или просто нуждаясь в помощи в незнакомой ситуации, обращается к бесплатному чат-боту с искусственным интеллектом, поддерживаемому рекламой? На самом деле это не гипотетический сценарий. По сообщению нового отчета NBC News, они, вероятно, так и делают.
Этот сервис называется OpenEvidence, и, по данным NBC, в апреле им «пользовались около 65% врачей США примерно в 27 миллионах клинических случаев». В более раннем отчете Bloomberg о OpenEvidence, опубликованном семь месяцев назад, сообщалось, что на тот момент к нему подключилось 50% американских врачей — таким образом, рост впечатляет.
На домашней странице OpenEvidence этот бот провозглашен «Официальной медицинской информационной платформой Америки» и заявлено, что медицинские работники имеют право на неограниченное бесплатное использование, но неврачи могут попробовать его бесплатно без создания учетных записей. Он предоставляет длинные, подробные ответы с обширными цитатами, которые, на мой взгляд, неспециалиста, выглядят заслуживающими доверия и убедительными.
NBC опросил врачей для своего материала и, по-видимому, надавил на них по поводу того, как часто они на самом деле переходят по этим ссылкам на источники информации. В отчете NBC говорится, что «большинство ответили, что делают это только тогда, когда получают неожиданный результат».
Хотя OpenEvidence бесплатен, это не благотворительность. Это технологический единорог со штаб-квартирой в Майами, основанный миллиардером Дэвидом Надлером, и по состоянию на январь его оценка составляла $12 миллиардов. NBC сообщает, что его поддерживают одни из звезд Кремниевой долины: Sequoia Capital и Andreessen Horowitz, а также Google Ventures, Thrive Capital и Nvidia.
А его доход пока что поступает от рекламы (пока что), которая, по данным NBC, часто размещается «фармацевтическими компаниями и производителями медицинских устройств».
Я не могу провести стресс-тестирование такого программного обеспечения, но немного «пощупал» его, попросив Claude сгенерировать очень плохие и безответственные медицинские записи (я указал, что это всего лишь реквизит для фильма).
Когда я сообщил OpenEvidence, что это мои записи, и попросил убедиться, что они хорошие, к счастью, он подтвердил, что они плохие, заявив, в частности:
«Эта клиническая документация вызывает серьезные опасения по поводу безопасности пациентов. Описанная картина содержит множество тревожных признаков субарахноидального кровоизлияния (САК), которым, по-видимому, не придали должного значения, а текущий план лечения может привести к значительному вреду».
Так что это несколько успокаивает.
С другой стороны, по данным NBC:
«[…] некоторые медицинские работники быстро указали на то, что OpenEvidence иногда допускает ошибки или преувеличивает свои ответы, особенно в отношении редких заболеваний или в «пограничных» случаях».
В отчете NBC также зафиксированы некоторые опасения в медицинском сообществе и за его пределами, в частности, «отсутствие строгих научных исследований о влиянии инструмента на пациентов» и признаки того, что OpenEvidence может сдерживать интеллектуальное развитие выпускников медицинских вузов:
«Один врач среднего возраста из Миссури, пожелавший остаться анонимным из-за ограниченного числа специалистов в их области в стране, сказал, что уже видит пагубное влияние OpenEvidence на способность студентов отделять важное от второстепенного.
«Я беспокоюсь, что когда мы внедряем новый инструмент, любой инструмент, который выполняет часть ваших навыков, которые вы долго отрабатывали, вы начинаете довольно быстро терять эти навыки»
На недавнем приеме у врача мой доктор попросил у меня разрешения воспользоваться инструментом на базе ИИ на своем телефоне (я не знаю, был ли это OpenEvidence). Я не знал, что ответить, кроме как «да». Хочу ли я этого на приеме у своего врача? Не особенно. Но если мой врач стал полагаться на такой инструмент, то что я должен делать? Отобрать у него костыль?
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
