Кто ответит за ошибку медицинского ИИ: новая схема распределения рисков от АМА

Теперь AMA предложила фреймворк, который распределяет риски между разработчиками, врачами и медицинскими организациями, внедряющими сервисы. Для пациента это не сообщение о новом законе, а полезный ориентир: клиника не должна перекладывать весь риск ошибки ИИ на доктора, который не контролирует модель.

Кто отвечает за баг

В логике AMA у клинического ИИ три уровня ответственности.

• Врач сохраняет клиническое суждение. Его задача не принимать рекомендацию алгоритма вслепую, а проверять ответы и при необходимости отклонять их.
• Разработчик отвечает за безопасность и точность рекомендаций. Пользователь должен видеть предполагаемое назначение сервиса, его результаты и ограничения.
• Медицинская организация проверяет инструмент до внедрения, обучает сотрудников, следит за качеством модели и настраивает реакцию на нежелательные события.

Показательный сценарий: ИИ не учел критические данные при формировании плана лечения, а врач не видел этой ошибки. По позиции AMA, в такой ситуации врач не должен брать на себя ответственность за возможный вред. При этом дисклеймеры AMA считает недостаточной защитой: документация должна показывать реальные риски, а не просто предупреждать о них.

Где у клиники может быть узкое место

Опрос AMA 2026 года выявил заметный пробел в онбординге: четверть врачей вообще не получила обучение по ИИ, а 92% хотели бы получить больше. Поэтому тестировать сервис и внедрять его в рабочие процессы клиники должны разные команды с разными задачами.

До подключения инструмента нужны проверка его качества, понятная инструкция для врачей и план действий при сбоях. После запуска необходимо отслеживать, не теряет ли модель точность. Иначе новая фича превращается в неконтролируемый баг, который обнаружится уже на приеме пациента.

Что проверить пациенту

Перед использованием ИИ-сервиса можно задать клинике несколько конкретных вопросов:

1. Какую задачу выполняет модель и какие данные ей необходимы?

2. Какие ограничения и известные риски указаны в документации?

3. Кто проверял систему до внедрения и кто следит за ее работой сейчас?

4. Как врачи обучались использовать сервис и могут ли они отклонить его рекомендацию?

5. Что происходит, если ИИ допустил ошибку, и какой путь для обращения и компенсации предусмотрен?

Отдельно полезно проверить как проверить смету медицинских услуг и избежать лишних трат. Цифровой помощник может упростить процедуру, но не должен превращаться в непрозрачную надбавку к стоимости лечения.

Вердикт: клинический ИИ выглядит полезным там, где клиника готова показать проверку, ограничения, обучение, мониторинг и маршрут для обращений. Если в интерфейсе есть только обещание точности и мелкий шрифт с отказом от ответственности, менять рабочий процесс или доверятьAI-рекомендации врача преждевременно.