Статьи

Чем ИИ-устройства отличаются от обычных медицинских приборов?

На первый взгляд, разница невелика: и те и другие помогают врачам. Но у ИИ есть особые черты, которые превращают его в «козырную карту»:

• Самообучение — устройство продолжает «умнеть» после выхода на рынок.
• Сложность проверки — врачам сложно объяснить, как именно модель пришла к выводу.
• Разнообразие данных — алгоритм может работать идеально в одной клинике, но давать сбои в другой.
• Неравный доступ — богатые центры внедряют ИИ, а провинциальные больницы остаются позади.

Именно поэтому регуляторы вроде FDA в США пытаются догнать технологии, создавая новые правила.

Как регулируют медицинский ИИ в США?

Система сложная, и вот основные механизмы:

1. Классы риска

• Высокий риск (класс III): требуют масштабных клинических испытаний (например, кардиостимуляторы).
• Средний риск (класс II): можно провести через упрощенную процедуру, если устройство «похоже» на уже одобренное.
• Проблема: появляются «цепочки предикатов» — десятки поколений устройств на базе старых разрешений, и никто толком не проверяет, что получилось в итоге.

2. Предварительные планы контроля изменений (PCCP)

• Производитель заранее описывает, какие обновления ИИ будут безопасны.
• Но если устройство начинает использовать новые данные или решать новые задачи, придется проходить проверку заново.

3. Пилотные программы

• FDA тестировало схему «доверяй компании, а не устройству». То есть сертифицируется производитель, а его продукты проходят быстрее.
• В 2022 году программа закрылась — у FDA не оказалось полномочий.

4. ONC и электронные карты здоровья

• ONC заставляет разработчиков систем EHR раскрывать данные о точности и справедливости прогностических моделей.
• Минус: врачи и пациенты не всегда видят эти данные — они остаются «для внутреннего пользования».

5. Президентский указ об ИИ

• Требует «безопасности и доверия» систем.
• Вводит должность главного специалиста по ИИ в Минздраве.
• Создает институты для подготовки кадров, которые смогут проверять алгоритмы.

Где подводные камни?

• Локальные различия — система, обученная в Бостоне, может провалиться в Техасе.
• Отсутствие клинических доказательств — большинство исследований ИИ проводят «на компьютере», а не у постели больного.
• Риски для равенства — алгоритмы могут усиливать расовые и социальные перекосы.
• Генеративный ИИ — такие модели (как ChatGPT, только в медицине) умеют красиво объяснять, но иногда… выдумывают факты.

Почему врачи не могут просто довериться алгоритмам?

Ключевое правило FDA: врач должен иметь возможность проверить, как система пришла к выводу. Если рекомендации непрозрачны, устройство считается медицинским прибором и попадает под жесткий контроль. Особенно это касается критических ситуаций — инсульта, сепсиса, инфаркта.

Что будет дальше?

• Новые стандарты прозрачности — от алгоритмов будут требовать объяснимости решений.
• Оценка в реальной практике — не только «на данных», но и в живых клиниках.
• Локальный надзор — каждая больница должна проверять ИИ на своих пациентах.
• Новые законы — без расширения полномочий регуляторов все усилия останутся полумерами.

Итог

ИИ в медицине — это как новый мощный лекарственный препарат. Он может спасти миллионы жизней, но в неправильных руках или без контроля — стать смертельной ошибкой. Сегодня врачи, пациенты и регуляторы стоят перед выбором: научиться управлять этой силой или рисковать столкнуться с последствиями.

Источник https://pmc.ncbi.nlm.nih.gov/articles/PMC12339208/