48 ЛЕТ В «ЦИФРОВИЗАЦИИ ЗДРАВООХРАНЕНИЯ».
Воспоминания разработчика медицинской системы управления

_{К оглавлению}

Очерк пятьдесят четвёртый.
Критика идеи искусственного интеллекта в здравоохранении

Завершая историю идеи алгоритмизации лечебного дела, нельзя обойти вниманием то, что ей принципиально противостоит: попытки использовать для принятия врачебных решений искусственный интеллект. Вот мои тезисы на этот счёт.

1. О термине. Когда организаторы здравоохранения и разработчики ИТ в медицине понимают под искусственным интеллектом (ИИ) один из способов распознавания изображений, можно только отметить обычную сегодня неряшливость в терминологии. Ради отдельного способа не стоило использовать многообещающее имя.

Иное дело, когда под ИИ понимают принятие врачебных решений. Не поддержку их принятия, а выдачу готового решения. Содержание решений в медицинской практике – это всегда тактика, прогноз, действия в отношении больного человека. Уже поэтому следует быть осторожнее в обещаниях решать такие вопросы за врача, без врача. ИИ, о котором в таком смысле говорят и пишут, не оправдывает своего звучного названия.

Одно из свойств интеллекта – способность находить целесообразные решения в условиях неопределённости, делать лучший выбор из множества возможных. Базой для этого служат знания, средством – рассудочная деятельность. Соответственно, у врача это, во-первых, фундаментальные медицинские знания, проявления болезни у пациента, представление о возможностях лечебного учреждения, и, во-вторых, логика рассуждения специалиста, врачебное мышление. У ИИ нет ни медицинских знаний, ни способности рассуждать. Не заполнить эти пустоты – значит не решить поставленную задачу. Между тем, сама задача возникла в связи с тем, что существует и нарастает недостаточное соответствие действий врачей могуществу современной медицины. Это проблема.

2. О проблеме. Сложность и громадность медицинских знаний стали такими, что даже тот, кто вполне их усвоил, не всегда использует их в деле и лишь потом спохватывается, что сработал ниже собственных возможностей. Обширность и глубина задач врача уже не, покрываются фундаментальными знаниями и правилами из руководств и инструкций. Общие правила недостаточны для безупречного решения на каждом этапе ведения больного. Заведомое несовершенство сделанного обнаруживается потом. Оно может вырасти до врачебной ошибки и сказаться на результатах лечения, а может и остаться незамеченным. Но оно всегда означает не лучшее использование ресурсов и времени,

Врачу нужна интеллектуальная поддержка прямо по ходу его работы с больным.

3. Об интересе к врачебному опыту. ИИ – попытка в этом роде. Но как при этом обойтись без фундаментальных медицинских знаний и врачебного мышления? Выход видят в обращении к накопленному врачами опыту, к ”большим данным” и обработке их особыми алгоритмами. Предполагается, что всякая ситуация, требующая от врача решения, уже бывала у других врачей, и её возможные решения и результаты этих решений зафиксированы в историях болезни. Раз так, то в ”больших данных” можно нащупать и эти ситуации, и их успешные решения. Эти решения и станет выдавать ИИ. В работу врача с каждым его пациентом будет включен коллективный врачебный опыт.

В этом подходе ценно само внимание к врачебному опыту, но упущено главное: в историях болезни не весь опыт врачей и даже не самое главное из него.

4. О врачебном опыте. Прогресс медицины обеспечивают наука, техника и врачебный опыт. У опыта положение особое, он – альфа и омега прогресса. Он нащупывает те точки и направления, где нужны новые усилия медицинской науки и техники. Он же даёт жизнь результатам этих усилий, уточняет границы их применения, сравнивает их с уже имеющимися средствами, проверяет сочетания нового со старым. Эффективность медицинской науки и техники зависит от врачебного опыта.

Врачебный опыт – это умение применять знания и средства в соответствии с реальными событиями и обстоятельствами. Его достижения чрезвычайно ценны, но, к сожалению, они отличаются от достижений науки и техники способом возникновения, существования и распространения. В науке и технике решения основываются на законах и правилах, существуют на бумаге, отделяясь от своих творцов, и доступны всем. Опыт существует в умах специалистов. Он индивидуален, многообразен, неодинаков по своей ценности. Он общий только в небольшом врачебном коллективе. Его нельзя использовать так широко и систематично, как достижения науки и техники.

Но это сила. Это осмысленные врачом следствия приложения медицинских знаний и средств. Это понимание, что и почему надо делать не в отдельном чистом примере, а на каждом этапе ведения больного с его предысторией, отягчающими обстоятельствами, неожиданностями, неудачами. Это система умозаключений профессионала, действующего в условиях неопределённости и ограниченного во времени. И она существует лишь в умах. В историях болезни врачебный опыт отражён фактами, оценками и результатами, но это лишь следы его применения. Хода мысли от фактов к действиям, аргументированного рассуждения, умозаключений там нет. А вся ценность врачебного опыта в них.

5. О попытке с негодными средствами. Идея ИИ в здравоохранении состоит в попытке использовать оставленные в историях болезни следы врачебного опыта, чтобы в отдельные моменты ведения пациента выдавать врачу готовые решения. Конечно, это попытка с негодными средствами. Какой изощрённой обработке ни подвергай “большие данные”, то есть массивы историй болезни, нельзя получить из них того, чего там нет, – врачебной мысли. По оставленным там следам о ней можно только догадываться, но для этого надо иметь собственные знания и мысли, чего у ИИ нет по определению. Знаю это по личному опыту. Когда-то давно мне довелось в течение года председательствовать на городских клинико-анатомических конференциях, а значит, предварительно знакомиться с внушительными по объёму и сложности историями.

Таким образом, ИИ не предполагает использования того главного, что есть во врачебном опыте, – врачебных умозаключений. Отсутствие знаний и логики он наивно пытается возместить ухищрениями статистики. На то он и искусственный.

6. О методологической несостоятельности. ИИ в здравоохранении задуман как участник ведения больного при установлении диагноза и назначении лечения. В его основе лежит вульгарное представление о работе врача с больным как простой последовательности этих двух актов. Реальный лечебно-диагностический процесс состоит в переплетении диагностических и лечебных усилий. Лечение может начинаться до диагноза, диагноз на протяжении всего процесса мыслится врачом как гипотеза, которая проверяется в ходе лечения и наблюдения. Ведение больного разделяется на этапы, каждый из которых характеризуется своим соотношением забот о диагнозе, прогнозе и лечебных мерах, требует своего осмысления и ответственного решения, своего выбора из имеющихся вариантов. Произвольнее включение в этот процесс отдельных эпизодов поддержки никак не решает проблемы. Решение может состоять только в постоянном сопровождении, в органичном включении информационной технологии в рассуждения врача. ИИ не имеет об этих рассуждениях никакого понятия и потому для врача, для всего лечебно-диагностического процесса является явлением чужеродным.

Он вторгается в мыслительную деятельность, не имея в себе ничего от врачебного мышления. Он, по замыслу его глашатаев, выдвигает требования, хотя не начальник, не имеет на то прав, потому что не несёт ответственности. Он и не консультант, потому что не обосновывает свои указания ни знаниями, ни логикой, не обменивается с врачом мыслями, как это делает консультант, не вникает в мысль врача, потому что для всего этого надо иметь свои мысли. Безответственный резонёр, безапелляционно изрекающий либо что-то вполне ожидаемое, либо нечто неожиданное. Каким образом можно убедить врача согласиться с его никак не аргументированными решениями?

7. О большом шуме из ничего. Об ИИ в здравоохранении написано чрезвычайно много и вдруг (с 2020 года). Так не бывает в науке, так бывает только на ярмарке мод. Есть обещания врачам и пациентам, создаются компании и ассоциации, объявляются стартапы, проводятся симпозиумы. Есть даже сочинения об этических проблемах применения ИИ. Есть всё, кроме сведений о воздействия ИИ на конечные результаты медицинской помощи. Об этом ни слова. И нет ни звука от врачей и главных врачей.

8. О возможности естественного сопровождения решений врача. В 1979-1980 годах я опубликовал шесть “Писем о врачебной практике”. Первое называлось так: ”Почему медицина сильна, а врач слаб?”. 40 лет назад необходимость поддержки врача опытом всей медицины уже осознавалась автором и читателями.

Тогда же был применён инструмент, названный частными алгоритмами действий врача. Он использовал не отпечатки врачебной мысли в историях болезни, а саму эту мысль. Оказалось, что у опытных практиков можно выспросить, как они ведут больного, как поступают на каждом этапе ведения, перед каким выбором стоят на каждом этапе и чем аргументируют выбор. Протокол такого диалога с практиком становится диалоговой процедурой, к которой потом в роли задающего вопросы легко прибегает врач, ведущий реального пациента. Сделать это можно в каждой специальности тотально.

Всего два условия надо соблюсти для составления алгоритма. Одно относится к выбору собеседника: это должен быть образованный и опытный практик с логическим складом ума и высоким чувством ответственности, делающий алгоритм для себя и своих коллег. Среди заведующих отделениями такие есть всегда, они охотно отвечают на расспросы о своей “кухне”, к ним иногда подключается самый толковый из ординаторов. Второе условие касается расспроса: у специалиста надо выведывать весь путь ведения пациента, все мыслимые варианты этапных решений, все аргументы для выбора, все возможные варианты последствий каждого выбора, а после каждого ответа спрашивать, через какой срок можно убедиться, что выбор верен, и что делать дальше.

Неосуществимым это выглядит, пока не попробуешь. Я доказал, что это возможно, простейшим способом: всё вместе с практиками сделал (для врачей стационаров, поликлиник и бригад скорой помощи), всё отдал им в эксплуатацию, всё на ходу по их замечаниям корректировал и затем вместе с ними подсчитал медицинские успехи, неудачи и затраты. Эти частные алгоритмы были в деле два десятилетия во многих лечебных учреждениях десяти городов. Практикам они дали ощутимое улучшение результатов, мне – понимание человеко-модельных комплексов как средства поддерживать медицинскую практику на уровне прогресса науки и техники.

Со временем алгоритмы были автоматизированы и сопряжены с электронной историей болезни. Методика их составления, эксплуатации и поддержки на уровне развивающейся медицины описана, для желающих вникнуть в эту тему в конце приведена ссылка на мои работы. Здесь же я на их основании утверждаю, что у идеи искусственного интеллекта в здравоохранении есть альтернатива – проверенная практикой и способная к саморазвитию система сопровождения врача, которая использует естественный интеллект, врачебное мышление, вовлечение врача в логику опытных специалистов-практиков, совмещение этой логики с реальной ситуацией, в которой действует врач.

9. О гласе в пустыне. Я знаю, что не буду услышан. Одним слышать меня невыгодно, другим нет смысла: надо лечить больных в предлагаемых обстоятельствах. Когда-то была у меня заинтересованная и требовательная аудитория – главные врачи и организаторы городского здравоохранения. Они всё мерили результатами медицинской помощи и искали способы их зримого улучшения. Теперь мы в другом измерении, исчисляемые результаты нынче “не в тренде”. Но ведь всё меняется. Здравоохранение вернётся к своим природным ориентирам, появятся те, кому нужны понятные способы использования врачебного опыта. Да, я разминусь с ними во времени, заметки мои затеряются или будут стёрты, но мудрые требуют: делай, что должно, и пусть будет, что будет.