Недоверие медицинским данным: проблемы и решение

Проблема недоверия медицинской информации

Носитель медицинской информации — это медицинские записи в электронной или бумажной карте пациента, содержащей персональные сведения о нем, показатели состояния его здоровья, факты и обстоятельства, связанные с оказанием медицинской помощи и пр. В силу того что медицинские записи — это единственный носитель сведений о пациенте, проблема недоверия медицинской информации о пациенте тождественна проблеме недоверия медицинским записям.

Врачи не доверяют полностью медицинским записям, осознавая наличия неконтролируемых рисков их искажения, возникающих во время создания медицинской записи по шаблону. Основной риск заключается в том, что медицинская запись не содержат всех сведений о состоянии здоровья пациента, его поведении и условиях оказания медицинской помощи, важных для принятия врачебного решения. Это может привести к тому, что на момент анализа записи врачи получают ограниченное представление о состоянии пациента и могут назначить неправильное лечение либо упустить важные детали состояния больного. Кроме того, медицинская запись может содержать ошибки или неточности, способные повлиять на правильность диагностики и лечения. В таблице собраны критерии качества медицинских записей, по которым можно оценить степень доверия к медицинской записи.

Семантика играет важную роль в медицинской терминологии, поскольку определяет значение используемых терминов и фраз, а также правила для интерпретации и использования этих терминов в контексте медицинской коммуникации для обеспечения точности и исключения неправильного толкования. Семантика важна также для классификации различных типов значений медицинских терминов, включая буквальные, синонимы, метафоры и коннотации, а также для определения отношений между терминами и фразами в системе медицинского подмножества языка.

Медицинскую запись электронной медицинской карты пациента можно представить в форме шаблона электронного документа. Ошибки семантики такого шаблона могут проявляться в неполном или неверном заполнении элементов, в отсутствии или ограниченности оценочных шкал при заполнении элементов шаблона, в неоднозначности терминов, формулировок, сокращений и единиц измерения при описании осмотров, консультаций, назначений, инструментальных или лабораторных исследований.

Еще в 2006 году в статье [1] была предложена метамодель корпоративного управления — рост зрелости ИТ-ландшафта может проходить в условиях работы руководителей компаний в «четырехмерном» пространстве: «кто» (исполнитель), «что» (задача), «когда» (временные рамки решения задачи) и «как» (методика решения задачи). Применительно к медицинским записям это пространство определяется как: «исполнитель — медработник», «задача — протокол оказания медицинской помощи», «временные рамки решения задачи — интервал времени оказания медицинской помощи» и «методика решения задачи — метод применения протокола оказания медицинской помощи». Согласно этой метамодели можно определить четыре метода уточнения семантики медицинской записи.

• Онтология модели исполнителя медицинской помощи. ВАК определяет более 200 медицинских специальностей, которые могут выступать в роли исполнителя. Онтология модели исполнителя медицинской помощи должна включать в себя термины, используемые для описания медицинской деятельности всех специальностей.
• Онтология модели протокола оказания медицинской помощи. Протокол основан на соответствующем стандарте оказания медицинской помощи, однако протокол существенно углубляет и детализирует процесс оказания медицинской помощи. В целом стандарты и производные от них протоколы оказания медицинской помощи определяют наиболее эффективные и воспроизводимые методы диагностики и/или лечения конкретных заболеваний или их групп. В Международной классификации болезней 10-го пересмотра (МКБ-10), принятой Всемирной ассамблеей здравоохранения в 1989 году, выделен 21 класс заболеваний. МКБ-10 включает в себя такие категории, как инфекционные и паразитарные болезни, новообразования, психические и поведенческие расстройства и др. Всего в МКБ-10 описывается более 400 типов заболеваний. Таким образом, онтология модели протокола оказания медицинской помощи должна включать в себя термины, используемые для описания протоколов лечения и диагностики заболеваний, составляющих МКБ-10 и последующие версии классификатора болезней.
• Онтология модели траектории пациента. Траектория пациента — маршрут, который пациент проходит в процессе получения медицинской помощи, начиная с первого обращения к врачу и заканчивая завершением курса лечения или реабилитации. Модель траектории пациента состоит из следующих моделей второго порядка: длина траектории, качество медицинской помощи, стоимость траектории, приращение качества жизни пациента. Длина траектории — количество этапов, которые пациент прошел в процессе получения медицинской помощи. Качество медицинской помощи — оценка своевременности, точности диагностики и соответствия фактов плану медицинской помощи на всем протяжении траектории пациента. Качество медицинской помощи может быть измерено с помощью различных показателей, таких как время ожидания плановой медицинской помощи, количество плановых, но не подтвержденных фактов оказания медицинской помощи, количество обследований, процедур, консультаций вне плана, другие варианты отклонений фактической медицинской помощи от плановой. Стоимость траектории — сумма затрат на оказание медицинской помощи пациенту в течение всей траектории. Приращение качества жизни пациента — разница оценок качества жизни пациента в начале и в конце траектории. Качество жизни пациента может включать в себя оценку уровня удовлетворенности пациента с помощью опросов и отзывов пациентов. Однако более значимым является оценка качества жизни на основе объективных показателей состояния здоровья пациента на моменты начала и завершения траектории.
• Онтология модели методов применения протокола оказания медицинской помощи. Форма медицинской помощи и соответствующий стандарт медицинской помощи определяют исполнителя медицинской помощи и контекст ее оказания. В зависимости от протокола медицинской помощи контекст может обобщаться для различных протоколов, либо у одного протокола медицинской помощи может быть несколько контекстов, последовательно идущих один за другим. Модель контекста медицинской помощи может быть реализована в виде набора датчиков и/или экранных форм создания и/или отображения медицинских записей различных типов. Для ручного ввода медицинской записи это могут быть, например, web-формы с голосовым вводом; для автоматического создания медицинских записей это могут быть, например, методы API.

Недоверие к ИИ

Недоверие к решениям, принятым системами ИИ, может в общем случае возникать по ряду причин.

• Неполнота обучающей выборки. Репрезентативная обучающая выборка — множество данных, описывающих все значимые характеристики генеральной совокупности и позволяющих обобщать на него результаты работы системы ИИ. Неполная обучающая выборка не отражает все основные характеристики генеральной совокупности, что негативно сказывается на качестве работы ИИ.
• Ошибки выбора архитектуры ИИ. Существуют различные типы архитектур ИИ, имеющих свои преимущества, недостатки и ограничения — неправильно выбранная архитектура может привести к различным проблемам в работе ИИ, например к неверным ответам на вопросы. Важно выбирать архитектуру, соответствующую кругу решаемых задач.
• Ошибки выбора параметров обучения. Такие параметры относятся к задаче выбора модели и режиму ее обучения. Например, для нейронной сети гиперпараметры включают топологию и размер нейронной сети, темп обучения и размер набора данных (batch size). Неправильно выбранные параметры обучения могут привести к различным проблемам, например к переобучению или недообучению модели, приводящим к неправильным ответам и деградации быстродействия системы ИИ.
• Наличие риска злонамеренных вставок в обучающей выборке. Речь идет о намеренном включении в обучающий набор ложных или вредоносных данных, которые после обучения придают системе ИИ незадокументированные свойства, а также могут привести к снижению точности или ухудшению производительности. Пример незадокументированных свойств — определенная классификация заданного образца текста, о которой знает только злоумышленник.
• Отсутствие доверенной среды обучения ИИ. Данная среда гарантированно исключает ложные или вредные вставки и позволяет получить более точные результаты и гарантированно высокое качество работы ИИ.
• Отсутствие доверенной среды исполнения ИИ. Данная среда обеспечивает безопасность и надежность применения ИИ для решения реальных задач. Она включает в себя программное обеспечение поддержки решения ИИ, а также инструменты для сбора, обработки и анализа данных, необходимых для создания отчетов с результатами оценки качества работы ИИ. Такая среда гарантирует, что данные, на которых работает ИИ, будут доверенными.
• Недостаточная прозрачность применения ИИ. Если система ИИ работает скрытно от пользователей, это может вызывать недоверие к качеству ее результатов.
• Проблемы безопасности. Если ИИ используется для обработки конфиденциальной информации, проблемы безопасности могут стать причиной недоверия со стороны пользователей.

Причина возникновения недоверия архитектуре ИИ — отсутствие библиотеки доверенных шаблонов архитектур ИИ. Недоверие обучающему корпусу может быть вызвано отсутствием библиотеки доверенных обучающих корпусов, а недоверие среде обучения и исполнения — отсутствием именно соответствующих доверенных сред. В работе [2] разбираются следствия такого недоверия, особенно на фоне отсутствия единой стандартизованной модели контроля качества медицинских записей.

Современные МИС не обеспечивают доверия медицинской информации, так как регулятор законодательно не определил и не требует наличия эффективной стандартизированной модели обеспечения надежности медицинских данных [2]. Также не требуется обязательного подключения медицинского оборудования к МИС для автоматической регистрации данных, исключающей их искажение. В результате в МИС не попадают сведения о контексте принимаемых врачебных решений и терапевтических действиях в отношении пациентов, а существующие медицинские записи недостаточно детализированы, чтобы исключить риски потери информации из-за ее искажения. В итоге врачи не могут получить достаточно сведений из медицинских записей электронной медицинской карты пациента, а качество имеющихся с точки зрения полноты, актуальности, аутентичности, корректности и, в некоторых случаях, неизменности не гарантируется. Как следствие, не приходится говорить и о доверии системам ИИ.

Требуется модель доверия медицинской информации, определяющая критерии доверия и их реализацию на уровне информационной системы.

Модель доверия медицинской информации

Доверенная медицинская информация — это электронная или бумажная медицинская запись, соответствующая определенным в модели доверия критериям доверия. Сведения о выявленных рисках искажения содержатся в отчете о рисках, который является неотъемлемой частью каждой медицинской записи. На рис. 1 представлена модель доверия медицинской информации.

Рис. 1. Модель доверия медицинской информации

Оценка рисков искажения медицинской информации происходит следующим образом.

Сразу после создания медицинской записи подсистема исполнения мер защиты автоматически проверяет медицинскую запись на наличие рисков, определенных в модели рисков, на основании правил и методов, определенных в модели мер защиты. В результате создается отчет о наличии рисков искажения информации, который становится неотъемлемой частью каждой медицинской записи. В случае если отчет не содержит выявленных рисков, медицинская информация считается доверенной. Лечащий врач или иной потребитель медицинской информации, получив отчет о наличии рисков искажения, самостоятельно принимает решение о том, в какой мере можно использовать медицинскую информацию для принятия решений.

Для преодоления проблемы недоверия ИИ надо исключить все точки его возникновения — обеспечить: библиотеку доверенных обучающих корпусов; библиотеку доверенных шаблонов архитектур ИИ; доверенную среду обучения ИИ; доверенную среду исполнения ИИ. Один из способов достичь этого — фабрика данных [3], построенная на модели доверия и решающая задачу недоверия медицинской информационной системы путем создания и накопления без искажений доверенных медицинских записей. Для этого предусмотрено исполнение системы протоколов управления рисками искажения медицинской информации на всех стадиях жизненного цикла всех медицинских записей без исключения.

В конечном счете фабрика данных призвана устранить дефицит доверия к медицинским записям, что становится мощным стимулом к широкому внедрению ИИ в клиническую практику.

Фабрика данных

Фабрика данных определяет систему терминов для описания предметной области; согласно модели медицинской записи обеспечивает создание и визуализацию медицинских записей различных типов; согласно модели жизненного цикла медицинской записи управляет жизненным циклом каждой медицинской записи; согласно модели рисков искажения медицинской информации управляет рисками; согласно модели мер по защите медицинской информации от искажения обеспечивает исполнение соответствующих мер; согласно модели управления терминами обеспечивает однозначность использования терминов в медицинских записях на всех стадиях их жизненного цикла.

Рис. 2. Фабрика данных в жизненном цикле медицинских данных

Научные или клинические исследования, заказчиками которых выступают Минобрнауки, Минздрав, некоммерческие медицинские организации, фармакологические компании или иные заказчики, образуют цепочку производства и потребления медицинских данных. Фабрика данных (рис. 2) играет роль трубопровода между этапами порождения и потребления.

Рис 3. Фабрика данных на этапе производства данных

В производство (рис. 3) включены участники: пациент, врач, контролер качества, дата-менеджер и исполнители: ассистент, концентратор данных, управление протоколами, управление семантикой, управление дата-продуктами. Врач оказывает пациенту медицинскую помощь при помощи ассистента и медицинского оборудования. При этом ассистент и концентратор данных являются элементами фабрики данных. Вместе с тем фабрика данных обеспечивает автоматическое доверенное документирование процесса оказания медицинской помощи и визуализацию медицинских записей по запросу врача. От пациента требуется соблюдать режим лечения и рекомендации врача, а также правила поведения в медицинском учреждении. В процессе оказания медицинской помощи врач использует медицинское оборудование для диагностики, лечения, реабилитации или ухода за пациентом. Вместе с тем при помощи ассистента выполняется ассоциация стационарного медицинского оборудования с койко-местом, ассоциация койко-места с пациентом и ассоциация носимого медицинского оборудования с пациентом.

Исполнительный механизм «ассистент» обеспечивает контроль доступа пользователей к автоматизированным рабочим местам для поиска, визуализации или создания новых медицинских записей.

Исполнительный механизм «концентратор данных» получает данные от медицинского оборудования, снимающего значения параметров биомишени (тело пациента или его производные: кровь, моча и пр.), а также сведения о контексте оказания медицинской помощи (доза лекарственного препарата, тип и продолжительность манипуляции, поза пациента при манипуляции и пр.). Концентратор данных получает от оборудования «первичные» медицинские записи, после чего преобразует записи во внутренний формат и передает такие записи фабрике данных.

Контролер качества ведет систематическую адаптацию протоколов медицинской помощи и контекста в соответствии с улучшением уровня качества оказания медицинской помощи или изменениями стандартов оказания медицинской помощи.

Исполнительный механизм «управление протоколами» содержит визуальный дизайнер протоколов, при помощи которого контролер качества управляет жизненным циклом протокола — создает протокол, тестирует его, вводит его в эксплуатацию, выводит из эксплуатации. Компилятор протоколов, входящий в состав управления протоколами, обеспечивает компиляцию спецификации протокола в исполняемый код протокола, выполняемый при создании, визуализации или трансляции медицинской записи во время выполнения процедуры импорта или экспорта.

Методолог ведет систематическую работу по уточнению онтологий модели исполнителя медицинской помощи, модели протокола оказания медицинской помощи, модели траектории пациента, модели контекста медицинской помощи в соответствии с улучшением уровня качества оказания медицинской помощи или изменениями стандартов оказания медицинской помощи.

Исполнительный механизм «управление семантикой» содержит утилиты пакетной загрузки терминов, редактор онтологий, а также панель поиска и визуализации терминов.

Дата-менеджер ведет работу по легализации медицинских записей и управлению жизненным циклом дата-продуктов. Легализация медицинских записей предполагает выполнение процедуры их обезличивания и выполнение выходного контроля качества. Управление жизненным циклом дата-продуктов предполагает обеспечение поставки данных в соответствии с условиями контракта, имеющего техническую и юридическую реализации. Техническая реализация направлена на физическую отгрузку дата-продуктов в магазин данных исследовательского контура, а юридическая предполагает оплату за использование данных.

Исполнительный механизм «управление дата-продуктами» содержит компоновщик дата-продуктов, модуль контроля рисков утечек персональных данных и модуль отгрузки дата-продуктов.

Исполнительный механизм «фабрика данных» автоматически исполняет протоколы контекста и оказания медицинской помощи. Протоколы обеспечивают управление рисками искажения медицинской информации и определяют набор правил и инструкций для обеспечения безопасности медицинских процедур, лечения, профилактики и медицинского документооборота (инструкции по использованию инструментов и оборудования, протоколы проведения медицинских исследований, правила поведения медицинского персонала и др.). Протоколы автоматически исполняются в момент создания медицинской записи и, согласно модели доверия медицинской информации, определяют структуру и термины медицинской записи, а также методы валидации ввода данных, ассоциированные с каждым термином эталона медицинской записи. Например, врач проводит первичный осмотр. Согласно протоколу оказания медицинской помощи врач обязан зарегистрировать жалобы пациента, а затем выполнить непосредственно осмотр, при помощи ассистента или самостоятельно выявив и зарегистрировав все признаки, указанные в протоколах. Согласно протоколам, жалобы не могут ограничиваться прямой речью пациента, так как она содержит очень мало информации, а запись осмотра должна быть детализирована максимально подробным образом. В случае, когда пациент находится на пониженном уровне сознания, жалобы пациента заменяются на гипотезы врача, сделанные на основе анализа сопровождающей пациента медицинской информации, которые следует проверить в результате проведения осмотра.

Рис 4. Фабрика данных на этапе потребления данных

В этап потребления (рис. 4) включены участники — исследователь и приемщик; исполнители — виртуальная лаборатория и управление ресурсами (входной контроль, зона расчетов, база знаний, долгосрочное хранилище, магазин данных). Исследователь средствами виртуальной лаборатории выполняет работы по научным или клиническим исследованиям. Научные исследования могут включать в себя: поисковые исследования, анализ проблемы и постановка задачи на исследование, выполнение обзора литературы в рамках тематики исследования, разработка методологии исследования, подготовка и проведение эксперимента, анализ данных, полученных в результате эксперимента, разработка выводов и результатов исследования, подготовка и направление научной статьи на публикацию.

Виртуальная лаборатория состоит из ВАРМ (виртуальное автоматизированное рабочее место) и зоны материализации. С ее помощью можно ускорить научные и клинические исследования за счет разработки онтологических моделей объектов; извлечения знаний из медицинских записей или научных публикаций; построения списков, шкал и более сложных форм логических моделей признаков, симптомов, синдромов и заболеваний; наглядной визуализации структурированных и неструктурированных данных; генерации описаний на заданную тему, например, типового клинического случая, на основе существующих данных; адаптации и перевода описаний на различные языки. Клинические исследования ускоряются за счет упрощения планирования и дизайна исследования; проектирования протоколов исследования с предварительной оценкой качества и точности результатов; автоматического сбора доверенных данных в виде одного или группы дата-продуктов, доступных в магазине данных; извлечения знаний из данных; визуализации и анализа данных; выявления рисков искажения информации; генерации изображений и описаний для отчетов.

Исполнительный механизм «ВАРМ» содержит дизайнер протоколов исследований, инструменты разработки систем ИИ, офисные инструменты, средства коллективной работы, интерфейс к базе знаний, магазину данных и расчетам. Исполнительный механизм «зона материализации» обеспечивает сохранение и предоставление данных исследователю при подписке на дата-продукты.

Приемщик (рис. 4) получает открытые наборы данных или дата-продукты от поставщиков, выполняет входной контроль качества данных в соответствии с контрактами на поставку данных, загружает принятые наборы данных или дата-продукты в долгосрочное хранилище. При необходимости приемщик выполняет работы по размещению или актуализации в магазине данных информации о поступивших дата-продуктах.

Исполнительный механизм «входной контроль» содержит реестр условий контроля качества, соответствующих договорам на поставку данных, а также модуль входного тестирования на соответствие условиям поставки.

Исполнительный механизм «магазин данных» содержит каталог дата-продуктов с условиями подписки на них. При подписке на дата-продукт его данные перемещаются из долгосрочного хранилища в зону материализации, доступную только в ВАРМ.

Исполнительный механизм «долгосрочное хранилище» обеспечивает долгосрочное сохранение открытых наборов данных и дата-продуктов при выполнении версионного контроля данных.

Исполнительный механизм «база знаний» содержит локальную копию тематического индекса русскоязычных публикаций, полнотекстовое хранилище публикаций, базу векторов публикаций, модуль семантического поиска по базе векторов, модуль выбора большой языковой модели, модуль компоновки результатов поиска.

Исполнительный механизм «зона расчетов» содержит инфраструктуру управления распределенным обучением на вычислительном кластере.

Потенциальными пользователями фабрики данных, включая виртуальную лабораторию, являются: стационары с отделениями нейрореабилитации, реанимации и интенсивной терапии, паллиативной помощи; медицинские центры, ведущие научные и клинические исследования; учреждения высшего медицинского образования.

Фабрика данных на платформе HealthOS

HealthOS — медицинская аналитическая платформа, включающая в себя фабрику данных, виртуальную лабораторию и фабрику безопасности. В январе 2023 года стартовал проект клинических испытаний HealthOS в Федеральном научно-клиническом центре реаниматологии и реабилитологии (ФНКЦ РР). Разработаны онтологии и протоколы терапевта, невролога, кардиолога, психолога, уролога, гастроэнтеролога и офтальмолога, что позволило в сентябре 2023 года запустить фабрику данных в опытную эксплуатацию.

Фабрика данных HealthOS связывает два контура обработки медицинской информации:

• лечебный контур располагается в локальной сети медицинского учреждения. Цель контура — обеспечить бесперебойный процесс оказания медицинской помощи на основе доверенной медицинской информации. В клиническом контуре также работает фабрика безопасности;
• исследовательский контур, размещаемый в облаке HealthOS. Цель контура — поддержка процесса проведения научных и клинических исследований на основе доверенной медицинской информации. В исследовательском контуре работает виртуальная лаборатория.

Лечебный контур HealthOS работает следующим образом (рис. 5).

Рис. 5. Лечебный контур фабрики данных HealthOS

Врач и средний медицинский персонал при помощи различных АРМ «ассистента», входящих в состав подсистемы поддержки принятия врачебных решений, создают новые медицинские записи и получают доступ к уже имеющимся медицинским записям в электронной медицинской карте пациента. При создании, визуализации и печати медицинских записей автоматически исполняются протоколы управления рисками искажения медицинской информации.

Концентратор данных получает данные с медицинского оборудования и автоматически создает медицинские записи, исполняя протоколы управления рисками искажения медицинской информации.

Контролер качества создает и актуализирует протоколы управления рисками искажения медицинской информации в подсистеме управления протоколами.

Методолог актуализирует термины базы знаний, лежащие в основе формального описания всех протоколов, АРМ и сообщений фабрики данных, а также всех медицинских записей, создаваемых при помощи фабрики данных, в подсистеме управления семантикой.

Администратор выполняет архивацию медицинских записей, а также отслеживает и исправляет ошибки импорта/экспорта медицинских записей из/во внешние системы в подсистеме исполнения протоколов. Администратор безопасности обеспечивает управление правами доступа к АРМ и медицинским записям в подсистеме управления доступом.

***

В статье исследована проблема недоверия медицинской информации ее носителю — медицинским записям и производной от них — медицинскому ИИ. Предложены теоретические основы — способы решения проблемы, приведен пример реализации — медицинская аналитическая платформа HealthOS, а также практическое решение проблемы в медицинском центре ФНКЦ РР.

На данный момент на пути широкого внедрения фабрики данных, призванной исключить недоверие медицинской информации, лежит проблема отсутствия в высшей школе системы подготовки медицинских кадров учебных дисциплин по темам: «экономика данных», «цифровая трансформация здравоохранения» и «использование ИИ во врачебной практике». Кроме того, недостаточно специалистов, владеющих углубленными знаниями и навыками применения решений ИИ в медицинской практике.

Отсутствие нормативной документации Минздрава с четкими критериями доверенных медицинских записей, поступающих в федеральную службу ИЭМК (Интегрированная электронная медицинская карта), также пока не позволяет в полной мере раскрыть потенциал фабрики данных в масштабе всей системы здравоохранения. Вместе с тем отсутствуют также нормативы по показателям оценки эффективности работы медицинских учреждений, определяющие необходимость сбора, использования и поставки в федеральную службу ИЭМК доверенных медицинских записей.

Литература

1. Александр Прозоров. ИТ-инструментарий корпоративного управления // Директор ИС. — 2006. —  № 11.  —  С. 35-39.  URL: https://www.osp.ru/cio/2006/11/3643327 (дата обращения: 22.12.2023).

2. Александр Прозоров, Михаил Бионышев. Как повысить доверие к клиническим данным? // Открытые системы.СУБД. — 2023. —  № 2.  —  С. 38-40.  URL: https://www.osp.ru/os/2023/02/13057255 (дата обращения: 21.12.2023).

3. Александр Прозоров, Роман Шнырев, Дмитрий Волков. Архитектура цифровых платформ будущего // Открытые системы.СУБД. — 2021. —  № 2.  —  С. 24-28.  URL: https://www.osp.ru/os/2021/02/13055934 (дата обращения: 22.12.2023).

Александр Прозоров (ap@rtlab.ru) — директор по технологиям,  «РТЛАБ»;  Дмитрий Волков (vlk@keldysh.ru) — старший научный сотрудник ИПМ им. М. В. Келдыша РАН (Москва).

DOI: 10.51793/OS.2023.28.46.003