«Недавно ко мне пришел пациент, и когда я порекомендовал ему лекарство, он показал распечатку диалога из ChatGPT, где говорилось, что у этого препарата 45-процентный шанс вызвать тромбоэмболию легочной артерии», — рассказал доктор Бари изданию TechCrunch.
Когда доктор Бари разобрался глубже, он обнаружил, что эта статистика взята из научной работы, посвященной влиянию данного препарата на узкую подгруппу людей, страдающих туберкулезом, что не имело отношения к его пациенту.
И все же, когда на прошлой неделе OpenAI анонсировала чат-бот, специально предназначенный для здравоохранения — ChatGPT Health, — доктор Бари испытал больше воодушевления, чем беспокойства.
ChatGPT Health, который будет запущен в ближайшие недели, позволит пользователям обсуждать свое здоровье с чат-ботом в более приватной обстановке, где их сообщения не будут использоваться в качестве обучающих данных для базовой модели искусственного интеллекта.
«Я думаю, это здорово», — сказал доктор Бари. «Это то, что уже происходит, поэтому формализация процесса с целью защиты информации о пациентах и введение определенных мер предосторожности […] сделает его еще более мощным инструментом для пациентов».
Пользователи смогут получать более персонализированные рекомендации от ChatGPT Health, загружая свои медицинские карты и синхронизируясь с такими приложениями, как Apple Health и MyFitnessPal. Для тех, кто заботится о безопасности, это немедленно вызывает тревогу.
«Внезапно медицинские данные начинают передаваться от организаций, соответствующих требованиям Закона о конфиденциальности медицинского страхования (HIPAA), к поставщикам, которые этим требованиям не соответствуют», — сообщил TechCrunch Итай Шварц, соучредитель фирмы по предотвращению утечек данных MIND. «Так что мне интересно посмотреть, как регуляторы подойдут к этому вопросу».
Однако, по мнению некоторых отраслевых специалистов, «шило уже вылезло из мешка». Теперь люди вместо того, чтобы искать в Google симптомы простуды, обращаются к чат-ботам с искусственным интеллектом — более 230 миллионов человек еженедельно обсуждают свое здоровье с ChatGPT.
«Это был один из самых популярных сценариев использования ChatGPT», — отметил Эндрю Брэкин, партнер Gradient, инвестирующий в медицинские технологии. «Поэтому вполне логично, что они захотели создать более приватную, безопасную и оптимизированную версию ChatGPT специально для вопросов здравоохранения».
Чат-боты с ИИ имеют постоянную проблему с «галлюцинациями» — особенно чувствительный вопрос в сфере здравоохранения. Согласно модели оценки фактической согласованности от Vectara, GPT-5 от OpenAI более подвержен «галлюцинациям», чем многие модели Google и Anthropic. Но технологические компании видят потенциал в устранении неэффективности в сфере здравоохранения (Anthropic также анонсировала свой продукт для здоровья на этой неделе).
Для доктора Нигама Шаха, профессора медицины в Стэнфорде и главного специалиста по данным в Stanford Health Care, неспособность американских пациентов получить доступ к медицинской помощи является более насущной проблемой, чем угроза того, что ChatGPT предоставит неверный совет.
«Прямо сейчас, если вы обратитесь в любую систему здравоохранения и захотите попасть к врачу первичного звена, время ожидания составит от трех до шести месяцев», — сказал доктор Шах. «Если ваш выбор — ждать полгода приема у настоящего врача или поговорить с тем, кто не является врачом, но может что-то для вас сделать, что вы выберете?»
Доктор Шах считает, что более четкий путь внедрения ИИ в системы здравоохранения лежит через сторону поставщиков услуг, а не через пациентов.
Медицинские журналы неоднократно сообщали, что административные задачи могут поглощать около половины рабочего времени врача первичного звена, что резко сокращает количество пациентов, которых он может принять за день. Если бы такую работу можно было автоматизировать, врачи смогли бы принимать больше пациентов, что, возможно, уменьшило бы потребность в использовании таких инструментов, как ChatGPT Health, без дополнительной консультации с реальным врачом.
Доктор Шах возглавляет команду в Стэнфорде, которая разрабатывает ChatEHR — программное обеспечение, интегрированное в систему электронных медицинских карт (EHR), позволяющее врачам более эффективно и упорядоченно взаимодействовать с медицинскими данными пациентов.
«Сделать электронную медицинскую карту более удобной для пользователя означает, что врачи могут тратить меньше времени на прочесывание каждого уголка и закоулка в поисках нужной информации», — сказала доктор Снеха Джайн, одна из первых тестировщиков ChatEHR, в статье Stanford Medicine. «ChatEHR может помочь им получить эту информацию немедленно, чтобы они могли сосредоточиться на главном — общении с пациентами и выяснении, что с ними происходит».
Anthropic также работает над продуктами ИИ, которые могут использоваться как врачами, так и страховщиками, а не только их общедоступным чат-ботом Claude. На этой неделе Anthropic анонсировала Claude for Healthcare, объяснив, как его можно использовать для сокращения времени, затрачиваемого на утомительные административные задачи, такие как подача запросов на предварительное разрешение в страховые компании.
«Некоторые из вас обрабатывают сотни, тысячи таких запросов на предварительное разрешение в неделю», — сказал технический директор Anthropic Майк Кригер на недавней презентации на Конференции по здравоохранению J.P. Morgan. «Так что представьте, что вы сокращаете двадцать, тридцать минут на каждом из них — это колоссальная экономия времени».
По мере того как ИИ и медицина становятся все более тесно переплетенными, возникает неизбежное напряжение между этими двумя мирами: основной стимул врача — помогать своим пациентам, в то время как технологические компании в конечном счете несут ответственность перед своими акционерами, даже если их намерения благородны.
«Я думаю, что это напряжение важно», — заключил доктор Бари. «Пациенты рассчитывают на то, что мы будем циничными и консервативными, чтобы защитить их».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Amanda Silberling
