С расширеним внедрения искусственного интеллекта в медицинское оборудование растет число сообщений о хирургических ошибках или ошибках при распознавании анализов пациентов, где была использована технология. Об этом пишет Reuters.
2021 году компания Acclarent представила навигационную систему TruDi,в которую был внедрен обучаемый ИИ.
Навигационная система TruDi, разработанная Acclarent, используется в хирургической отоларингологии, которая занимается заболеваниями уха, горла, носа, для обеспечения 3D-визуализации в реальном времени во время сложных процедур на носовых пазухах. До внедрения ИИ система также использовалась врачами.
ИИ, согласно документации к системе TruDi и заявлению компании Acclarent, используется в функции TruSeg и TruPath для расчета наикратчайшего допустимого пути для достижения проблемной точки во время хирургического вмешательства, а также для «автоматической сегментации анатомических структур».
TruDi используется в том числе для балонной синусопластики. Этот метод лечения предполагает, что врач вводит в нос пациента баллончик, который надувается у заблокированной пазухи и облегчает дыхание.
В период с конца 2021 года по ноябрь 2025 года появилось как минимум 10 сообщений о травмах пациентов из-за ошибок хирургов, получивших неверную информацию от TruDi во время операций.
Ошибки привели к нескольким случаям повреждений крупных артерий, а также к вытеканию ликвора (спинномозговой жидкости) у одного из пациентов, которому врач по ошибке проколол череп, пишет Reuters, исследовавший иски пациентов и отчеты агентства FDA (Управление по санитарному надзору за качеством пищевых продуктов и медикаментов подчиняется Минздраву США), занимающегося сертификацией медицинских технологий. Два человека в Техасе подали иски, утверждая, что использование ИИ в системе TruDi «способствовало получению их травм».
В компании Integra LifeSciences, которой принадлежит Acclarent и система TruDi, в ответ на запрос Reuters заявили, что отчеты FDA «лишь указывают на то, что система TruDi использовалась во время операции, в результате которой произошел нежелательный инцидент». «Нет никаких достоверных доказательств причинно-следственной связи между навигационной системой TruDi, технологией искусственного интеллекта и любыми предполагаемыми травмами», — заявила пресс-служба Integra LifeSciences. Само управление FDA предупреждает, что отчеты, которые оно публикует, часто содержат неполную информацию, редактируются в целях защиты коммерческой или медицинскойтайны и не позволяют напрямую установить ответственность за ошибку, пишет Reuters.
Так, в FDA 2021 года по октябрь 2025 получила не менее 1,4 тыс отчетов о проблемах с медицинскими устройствами с ИИ, включенных в реестр управления.
В 115 случаях в упоминались проблемы с программным обеспечением или алгоритмами. В одном из сообщений FDA от июня 2025 года вовсе говорилось, что система ИИ, применяемая при пренатальном ультразвуковом исследовании, некорректно распознавала части тела плода.
FDA с трудом справляется с потоком медицинских устройств с использованием ИИ, претендующих на одобрение, после потери ключевых сотрудников, заявили пять действующих и ушедших ученых управления Reuters. После возвращения в Белый дом Дональда Трампа в 2025 году группа по изучению ИИ в управлении была расформирована в рамках программы сокращения расходов. 15 из 40 ученых, занимавшихся вопросами использования ИИ в медицине, ушли из FDA, рассказали источники в ведомстве. По словам двух бывших сотрудников, нагрузка некоторых экспертов при проверке медицинских изделий в управлении увеличилась почти вдвое.
Кроме того, для одобрения новых медицинских устройств, в которые был внедрен ИИ, не нужно проводить тесты на пациентах в отличие от проверки медикаментов.
Для получения разрешения от управления производители ссылаются на предыдущее одобрение, выданное компании на это же устройство, в котором прежде не использовался ИИ, объяснил преподаватель медицинской школы Университета Вашингтона в Сент-Луисе Александр Эверхарт.
По его словам, представление новых устройств как обновлений существующих — это давно устоявшаяся практика. «Я думаю, что традиционный подход FDA к регулированию оборота медицинских изделий не справляется с задачей обеспечения безопасности и эффективности технологий, использующих искусственный интеллект», — сказал Эверхарт.
