Почему медицинский ИИ внедряют в клиниках без проверки на реальных пациентах

По данным нового анализа, опубликованного 19 августа в журнале PLOS Digital Health, из 1 357 медицинских устройств на основе искусственного интеллекта, которые Управление по санитарному надзору США (FDA) допустило к использованию в клинической практике, лишь три тестировались на реальном влиянии на здоровье пациентов. Это редкая возможность остановиться и разобраться, что это значит для нас с вами, когда в клинике говорят: «программа посмотрела ваш снимок и всё решила».

Что показало исследование

Команда под руководством Раван Абулибде из Университета Торонто проверила все ИИ-устройства, получившие допуск FDA к 5 декабря 2025 года. Результат, по словам одного из участников работы Себастьяна А. Кахаса Ордоньеса из MIT Critical Data, оказался настолько тонким, что сами исследователи были удивлены: они ожидали небольшую доказательную базу, но не настолько разреженную.

Если коротко по цифрам: 34 из 1 357 устройств (то есть 2,5%) вообще участвовали в зарегистрированных клинических испытаниях. Результаты были опубликованы для двенадцати из них, рецензируемые научные статьи вышли ещё по двенадцати. И только три устройства проверялись именно на «пациент-ориентированных» исходах — то есть на том, реально ли снижается смертность, число инсультов и госпитализаций, улучшается ли качество жизни.

Это важно держать в голове, когда вы видите громкие слова «искусственный интеллект» в рекламе клиники или слышите «наш ИИ точно определяет».

Как так вышло: логика допуска

Большинство медицинских ИИ в США проходят по процедуре 510(k). Чтобы получить допуск, достаточно показать «существенную эквивалентность» уже одобренному устройству. Никто не требует доказывать, что новый алгоритм помогает людям — достаточно того, что он технически похож на предыдущий. Возникает цепочка: новое устройство ссылается на предыдущее, то — на ещё более раннее, и так из поколения в поколение. Доказательная база при этом не накапливается, а скорее размывается с каждым шагом.

Особенно показательна радиология: по данным анализа, 78% всех одобренных FDA ИИ-устройств — это инструменты для работы с изображениями. Когда нам делают маммографию, КТ лёгких или снимок сосудов и сообщают «компьютер посмотрел», с большой вероятностью это именно тот сегмент, где доказательств реальной пользы людям пока почти нет.

Кого при этом забыли проверить

Даже те редкие испытания, которые проводились, чаще всего выполнялись в хорошо оснащённых клиниках и систематически не включали беременных, людей старше 75 лет и тех, кто не говорит по-английски. По сути, мы с вами не знаем, как эти инструменты работают на пожилых пациентах с несколькими хроническими диагнозами, на тех, кто пришёл в клинику с небольшим словарным запасом на неродном языке, на будущих мамах. Это не мелочь: именно эти группы чаще всего и обращаются за помощью со сложными случаями.

Что нам с вами делать в кабинете врача

Здесь точно нет повода для паники и нет смысла отказываться от ИИ-помощи там, где она действительно работает. Но есть несколько простых шагов, которые помогут сориентироваться.

Если врач говорит «у нас есть ИИ-модуль, и он показал вот это» — нормально спросить, на каких данных он обучен и проверялся ли именно на вашей группе пациентов: возраст, сопутствующие диагнозы, язык общения. Это часть вашего права на информированное согласие.

Если клиника предлагает «уникальную диагностику на основе ИИ», поинтересуйтесь, есть ли по этой технологии рецензируемые публикации и клинические испытания. Слова «одобрено регулятором» и «проверено на пациентах» — это разные вещи.

Не стесняйтесь просить второе мнение — не потому что врач плохой, а потому что система сейчас устроена так, что перепроверка особенно важна именно в радиологии и кардиологии.

Если у вас есть выбор между клиникой, которая просто пишет «у нас искусственный интеллект», и клиникой, которая может объяснить, на каких исследованиях её ИИ основан, — выбирайте вторую. Это не снобизм, это нормальная разумная осторожность.

Почему это касается и нас

Самое тревожное последствие анализа выходит за пределы США. Многие страны опираются на решения FDA как на ориентир при собственных закупках и допуске медицинских технологий. Получается, недостаточно проверенный ИИ-инструмент может прийти в клиники, у которых просто нет ресурсов на собственную независимую клиническую проверку.

Авторы работы предлагают пересмотреть саму логику допуска ИИ-устройств: добавить обязательные проспективные испытания в реальных клинических условиях, требовать многоцентровых исследований после одобрения и заранее прописанных подгрупповых анализов. По их словам, главный вопрос клинического ИИ сейчас не в том, умеет ли алгоритм отличать снимок от снимка или предсказывать риск, а в том, становится ли от него пациенту реально лучше. И эту проверку нельзя откладывать.

Звучит как история про регуляторов и чиновников, но для нас с вами она короткая: пока система не доказала, что конкретный ИИ помогает именно вам, ваше внимание и второй взгляд специалиста — это не лишняя перестраховка, а необходимая часть заботы о себе.