Новые компетенции
Совет по профессиональным квалификациям в здравоохранении вместе с Минздравом подготовил проект трудовой функции медработников по использованию искусственного интеллекта. Документ вводит 12 конкретных трудовых действий, которые врачи будут обязаны выполнять при работе с ИИ-системами. Среди них — формулирование структурированных запросов к большим языковым моделям, критическая оценка полученных ответов и документирование факта использования искусственного интеллекта.
Проект адресован медицинским работникам, принимающим самостоятельные клинические решения. К ним относятся врачи 6-го уровня квалификации и выше. Обсуждение документа продлится до 25 сентября. К нему приглашены как практикующие врачи, так и представители научных, образовательных организаций и ИТ-сообщества.
Согласно проекту, врачи должны будут использовать системы поддержки принятия врачебных решений (СППВР) для обследования, диагностики, назначения лечения и оценки рисков. Полученные от нейросетей ответы необходимо критически интерпретировать и проверять на соответствие клиническим рекомендациям, стандартам и порядкам оказания медицинской помощи. Также важно выявлять признаки недостоверности, включая фактологические и логические ошибки.
При возникновении сомнений в клинической применимости или безопасности системы врач вправе от нее отказаться. О нежелательных событиях и ошибках, связанных с использованием ИИ, необходимо будет информировать уполномоченных лиц. При работе с нейросетями для поиска, реферирования и систематизации информации потребуется верифицировать первоисточники.
Отдельное внимание уделено защите персональных данных: при работе с ИИ вне защищенного контура медицинской организации врачи будут обязаны обезличивать информацию о пациентах. Также им необходимо отличать официально зарегистрированные в РФ медицинские изделия на основе ИИ от сервисов общего назначения.
В России уже зарегистрировано 56 медицинских изделий на основе ИИ, однако в профессиональных стандартах врачей до сих пор отсутствуют требования к работе с нейросетями. Новый проект призван устранить этот разрыв и закрепить единые правила использования ИИ в медицине на уровне трудовых функций.
Вопрос доверия
Директор Института экономики здравоохранения ВШЭ Лариса Попович в беседе с ВФокусе Mail заявила, что обращение к нейросетям может быть оправдано в рамках обучения систем на медицинских данных или в экспериментальных режимах. При этом она назвала «странной» саму идею обязательного использования искусственного интеллекта врачами.
В конечном счете, за диагноз и лечение отвечает конкретный человек, а не алгоритм. Поэтому в любом подобном документе главное — четко прописать, что ответственность за клинические решения остается за врачом, и ИИ не может ее подменять, — отметила Попович.
Она подчеркнула, что врачей необходимо обучать работе с нейросетями, потому что от того, как сформулирован запрос, сильно зависит поведение нейросети. Кроме того, ИИ-агенты обучаются на различных массивах данных, зачастую нерепрезентативных или содержащих систематические ошибки, поэтому результат их работы может существенно различаться даже при одинаковом промте, добавила эксперт.
По словам Попопвич, врач должен понимать, на каких данных обучена конкретная модель, какие у нее ограничения и в каких случаях ее ответам можно доверять, а когда требуется дополнительная проверка. Без этого ИИ становится не помощником, а источником дополнительных рисков.
«Врачей нужно учить работать с нейросетями — и формулировать запросы, и критически оценивать ответы. Это уже не будущее, а наша реальность. И если врач не знает, как правильно “общаться” с ИИ, он рискует нарваться на галлюцинации алгоритма. А цена ошибки в медицине — здоровье и жизнь людей», — предупредила эксперт.
Она считает, что это требование не должно быть императивным. Врач может использовать нейросети в своей работе, а может и отказаться от них, если не видит необходимости.
Я сторонник тезиса, который сейчас фигурирует в западной медицинской литературе: искусственный интеллект не вытеснит врачей, но врачи, которые не пользуются искусственным интеллектом, будут вытеснены теми, которые им пользуются, — заключила Попович.
По данным опросов, более половины российских врачей уже имеют опыт работы с нейросетями — от разовых проб до эпизодического использования. Однако регулярно применяют ИИ в повседневной практике лишь 15−25% медицинских работников. Чаще всего нейросети используют для поиска и проверки информации (35,6%), оформления документации (20,6%) и объяснения диагноза пациентам (14,4%). При этом главным барьером остается недоверие к точности ответов алгоритмов — так ответили 37,6% опрошенных. Только 18,9% врачей прошли специализированное обучение работе с ИИ-системами.
«Парадокс в том, что большинство медиков выражают готовность использовать искусственный интеллект, но полностью готовы к этому единицы. Врачи видят потенциал технологии, но пока не уверены в ее надежности», — отметила Попович.
Искусственный интеллект рассматривается Минздравом, в первую очередь, как инструмент снижения «бумажной» нагрузки на врачей. Например, ИИ позволяет быстро проанализировать электронную историю болезни и выдать нужную информацию за несколько секунд вместо получаса ручной работы. Лидеры частной медицины уже инвестируют в ИИ-инструменты для автоматизации рутины, но пока откладывают внедрение диагностических систем из-за юридических рисков и низкой окупаемости.