Почему разработчики медицинского ИИ игнорируют стандарты безопасности

Более 40% разработчиков медицинского ИИ не знают правил безопасности: кто проверяет алгоритмы, которым вы доверяете здоровье?

Одновременно Кубань рапортует о 839 тысячах ИИ-исследований за полгода — цифра, которая впечатляет, пока не задашь вопрос: а кто отвечает, если алгоритм ошибётся при вашей диагностике? Добро пожаловать в медицину, где диагноз ставит программа, а ответственность — никто.

«Не знают» — это мягко сказано

Исследование, на которое ссылается Kursiv Media, фиксирует цифру в 40% разработчиков, не владеющих базовыми нормативными требованиями к медицинским изделиям. Это не абстрактная статистика — это ваш снимок КТ, расшифрованный нейросетью, которую создали люди, не особо заморачивавшиеся вопросами безопасности.

В юридической плоскости это выглядит так: если алгоритм пропустит опухоль или, наоборот, выдаст ложноположительный результат, вы окажетесь в подвешенном состоянии. Договор оказания услуг с клиникой стандартно списывает ответственность на «индивидуальные особенности организма». Производитель ПО спрячется за лицензионным соглашением, которое вы приняли, не читая. А Росздравнадзор, честно говоря, ещё только формирует подход к сертификации ИИ-продуктов — внятных механизмов контроля пока кот наплакал.

839 тысяч исследований: масштаб впечатляет, вопросы остаются

BFM Кубань сообщает: только в Краснодарском крае за первое полугодие ИИ провёл 839 тысяч медицинских исследований. Цифра говорит не столько о технологическом прорыве, сколько о скорости внедрения — той самой скорости, с которой нарушители обгоняют регуляторов.

Каждое из этих исследований — потенциальный случай, где пациент имеет право знать: насколько валидирован алгоритм? Кто проводил клинические испытания? Есть ли сертификат Росздравнадзора? Или ИИ числится как «вспомогательная программа», юридически не являющаяся медицинским изделием, — классическая маркетинговая уловка, позволяющая обойти контроль качества?

Что проверять, если клиника гордится «ИИ-диагностикой»

Перед тем как согласиться на исследование с пометкой «выполнено с применением искусственного интеллекта», запросите у клиники три вещи: регистрационное удостоверение Росздравнадзора на конкретный ИИ-продукт, результаты клинических испытаний и документ, определяющий ответственность за результат. Последний пункт — ключевой. Если в договоре оказания услуг написано, что «результаты носят рекомендательный характер и не заменяют заключение врача», вы понимаете: за ошибку алгоритма платите вы.

Рекомендательный характер — это, конечно, удобная формулировка. Заплатили за исследование, получили результат, а если он окажется неверным — извините, это лишь «рекомендация». Такой вот коммерческий диагноз с юридической иммунитетом.

Новые технологии в медицине — это всегда надежда и риск в одной упаковке. Но когда 40% создателей этих технологий не знают базовых правил безопасности, рисковая составляющая начинает доминировать. А в отсутствие прозрачного контроля и чёткого распределения ответственности пациент остаётся один на один с алгоритмом, который «скорее всего» работает. «Скорее всего» — не тот стандарт, на который стоит подписываться, когда речь идёт о вашем здоровье.