Комната супервизии всегда была пространством для перевода. Клиницист приходит, неся обрывки сессии: слишком долго задержавшийся тон, многозначительное молчание, решение, которое не улеглось в теле. Супервизор слушает, задает вопросы и помогает трансформировать опыт в этическое суждение. Десятилетиями этот обмен строился на простом, но основополагающем допущении: клинические решения проистекают из человеческого восприятия, человеческого мышления и человеческой ответственности.
Это допущение тихо рушится.
Сегодня клиницисты всё чаще приходят в эту комнату с ещё одним присутствием, которое не говорит вслух, но тем не менее формирует разговор. Алгоритм предложил диагноз для рассмотрения. Инструмент документирования обобщил факторы риска. Генеративная система предоставила формулировки лечения, которые на первый взгляд кажутся пугающе точными. Ни один из этих инструментов не претендует на принятие решений. Они называют себя поддержкой, помощью, дополнением.
Однако их влияние реально и часто невидимо.
Именно здесь этическая супервизия оказывается неподготовленной. Большинство этических рамок в области психического здоровья создавались для регулирования отношений между людьми, а не между людьми и системами. Они предполагают, что супервизоры могут проследить, как принимаются решения, оценить клиническое мышление и вмешаться, когда суждение дает сбой. Но когда алгоритмы формируют восприятие еще до того, как клиницист осознал, что видит, подотчетность становится гораздо менее очевидной.
По мнению Дэйны Гвидо, эта двусмысленность — не техническая проблема. Это этическая проблема, которая уже меняет облик профессии.
Представьте себе супервизируемого, уверенно описывающего план лечения. Его рассуждения чисты, хорошо организованы и соответствуют лучшим практикам. И только потом выясняется, что большая часть этой ясности проистекает из сгенерированного ИИ клинического резюме, которое он просмотрел перед супервизией. Теперь супервизор несет ответственность за руководство решением, которое он не видел полностью и, возможно, не до конца понимает.
Традиционные модели супервизии здесь мало чем помогают. Они были разработаны для оценки человеческих мыслительных процессов: как клиницисты интерпретируют сигналы, управляют контрпереносом, взвешивают риски и реагируют на неопределенность. Алгоритмы не участвуют в этих процессах. Они их обходят.
Гвидо, которая более четырех десятилетий преподает, проводит супервизии и работает в этических комитетах, описывает это как структурное несоответствие. Супервизия по-прежнему исходит из того, что если что-то повлияло на решение, это будет названо, запомнено и доступно для обсуждения. ИИ часто работает иначе. Его влияние может быть скорее фоновым, чем явным. Оно формирует то, что кажется очевидным, что кажется срочным и что выглядит незначительным задолго до того, как клиницист сформулирует свои мысли.
Этическая проблема не в том, что клиницисты используют инструменты. Проблема в том, что супервизия еще не оснащена средствами для того, чтобы увидеть, как эти инструменты формируют суждение.
Одно из самых тонких изменений, вносимых ИИ, — это когнитивная разгрузка. Когда система надежно организует факторы риска или предлагает диагностические возможности, клиницисты могут быстрее почувствовать уверенность. Уверенность в клинической работе не является по своей сути опасной. А преждевременная определенность — опасна.
ИИ не просто дает ответы. Он тренирует внимание. Со временем клиницисты могут начать замечать то, что соответствует алгоритмическим результатам, и игнорировать то, что им не соответствует. Нюансы, живущие в теле, микро-движения клиента, темп, сдвиги аффекта, могут получить меньший вес, чем закономерности, которые кажутся понятными системе.
Тем временем супервизоры могут слышать отточенные клинические повествования, не осознавая, насколько эта связность была сгенерирована извне. Разговор о супервизии остается беглым, но нечто существенное изменилось. Воплощенная интуиция клинициста была частично делегирована.
Когда что-то идет не так в лечении, на которое повлиял ИИ, стандартный ответ заключается в том, что клиницист остается ответственным. Юридически это часто верно. Этически — всё менее достаточно.
Если супервизор не понимает инструменты, формирующие мышление супервизируемого, может ли он содержательно контролировать это мышление? Если система обозначена как поддержка принятия решений, но её результаты постоянно направляют клиническое направление, где на самом деле находится ответственность?
Этическая опасность не в том, что клиницисты безответственны. Опасность в том, что сама ответственность стала труднее обнаруживаемой. Когда алгоритм формулирует клинический вопрос еще до того, как супервизор его услышит, подотчетность не исчезает. Она рассеивается. А у супервизии в ее нынешнем виде мало инструментов для отслеживания этого рассеивания.
«Супервизия всегда заключалась в понимании того, как мыслит клиницист», — говорит Дэйны Гвидо. «Когда алгоритмы начинают формировать это мышление еще до того, как оно попадает в комнату супервизии, этическая ответственность не исчезает. Её становится труднее увидеть, и гораздо важнее назвать».
Именно здесь профессия должна сопротивляться искушению рассматривать этику ИИ как проблему соответствия требованиям. Чек-листы могут подтвердить, разрешено ли использование инструмента. Они не могут показать, как этот инструмент повлиял на суждение, уверенность или темп работы клинициста.
Гвидо утверждает, что супервизия должна эволюционировать от процедурного надзора к этическому исследованию. Супервизорам нужны рамки, помогающие им задавать лучшие вопросы, а не политики, пытающиеся контролировать каждую переменную. Грамотность в вопросах ИИ важна, но только постольку, поскольку она позволяет глубже рефлексировать.
Вместо того чтобы спрашивать, использовался ли ИИ, супервизоры могут спросить, почему вывод показался ясным. Какая информация имела наибольший вес? Какие неопределенности были быстро устранены, а какие остались неисследованными? Эти вопросы не обвиняют. Они выявляют влияние.
На практике этическая супервизия требует иного рода слушания. Гвидо призывает супервизоров обращать внимание на тонкие сигналы: язык, который кажется необычайно окончательным, оценки рисков, которые слишком быстро переходят от двусмысленности к разрешению, документацию, которая технически безупречна, но эмоционально бедна.
Тревожные сигналы редко бывают драматичными. Они проявляются как небольшие сдвиги от присутствия. Эффективная супервизия реагирует на это замедлением процесса, возвращением клиницистов к их сенсорному опыту работы и помощью им в формулировании того, что они заметили до того, как какая-либо система предложила структуру.
Что особенно важно, такой подход позволяет избежать надзора, основанного на страхе. Клиницисты, чувствующие, что за ними следят, будут скрывать использование инструментов. Клиницисты, чувствующие поддержку, будут их изучать. Этическая супервизия зависит от доверия, любопытства и общей приверженности защите человеческого ядра заботы.
Если супервизия не сможет адаптироваться, последствия проявятся не в виде одного скандала. Они будут накапливаться незаметно. Этическая эрозия редко заявляет о себе. Она начинается с малых компромиссов во внимании, подотчетности и рефлексии.
По мере того как ИИ всё глубже внедряется в клинические рабочие процессы, авторитет профессии будет зависеть от ее готовности честно противостоять этим сдвигам. Вопрос не в том, будут ли алгоритмы влиять на уход. Они уже влияют. Вопрос в том, останется ли супервизия живой этической практикой или отступит в ритуал.
Алгоритм уже в комнате. Этическая супервизия теперь должна решить, будет ли она делать вид, что не замечает, или же она разовьется, чтобы соответствовать моменту, четко называя влияние, тщательно сохраняя ответственность и гарантируя, что клиническое суждение остается подотчетным не только результатам, но и тем ценностям, которые делают заботу гуманной по своей сути.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Qual-score: 8/9
Bajan-score: 0.661815822
Автор – Carl Williams
