Риски внедрения ИИ в медицину: кто ответит за врачебную ошибку и утечку данных

AI на приёме: о ком на самом деле болит голова у юристов

По данным Medical Economics, профильного американского издания для практикующих врачей, в юридическом сообществе нарастает обсуждение рисков, которые берут на себя медики, внедряя инструменты искусственного интеллекта в клиническую практику. В центре внимания два угла: соответствие требованиям HIPAA о защите медицинских данных и угроза исков о malpractice, то есть врачебной ошибке с участием алгоритма. Для российского пациента это означает, что правовая неопределённость вокруг ИИ-инструментов уже формируется, и вопросы, которые американские юристы обсуждают сегодня, завтра станут предметом договорных споров в отечественных клиниках.

Почему HIPAA — это не «не наше дело»

HIPAA, федеральный закон США о защите медицинских данных, на российскую клинику формально не распространяется, но сама конструкция, которую обсуждает Medical Economics, универсальна. ИИ-сервисы получают доступ к снимкам, анализам, жалобам и анамнезу — к самому чувствительному слою персональных данных, и вопрос о том, где они хранятся, кому передаются и кто отвечает за утечку, в договорах с клиниками, как правило, не проработан. ИИ-инструмент между тем уже встроен в процесс: расшифровывает снимки, подсказывает диагноз, готовит протоколы, а юридической рамки под эту практику в типовом договоре оказания медицинских услуг чаще всего нет.

Кому предъявлять иск, если ошибся алгоритм

Здесь для пациента кроется главный подвох, который и составляет предмет дискуссии, развёрнутой в Medical Economics. Юридически ответственность по-прежнему лежит на враче и клинике: даже если решение фактически принято алгоритмом, иск пациента обращён к медорганизации. Вопрос о том, как именно распределяется эта ответственность между врачом, клиникой и разработчиком софта, формирует malpractice-повестку в медицинском праве. Именно эта неопределённость и делает malpractice-блок центральным в обсуждении ИИ в медицине, и активность законодателей в этой сфере, о которой сообщает stthomassource.com в заметке о продвижении законопроекта о malpractice-ответственности, лишь подтверждает тренд.

Что проверять в клинике до записи

Несколько практических вопросов, которые имеет смысл задать до визита в клинику, заявляющую об использовании ИИ:

• есть ли в договоре отдельный пункт о применении ИИ и обработке персональных данных;
• кому передаются снимки и заключения для обработки алгоритмом и где они физически хранятся;
• кто несёт ответственность за ошибочное заключение, выданное ИИ — клиника, врач или разработчик;
• входит ли ИИ в процесс принятия клинического решения или используется как справочный инструмент.

Эти вопросы не гарантируют защиты, но позволяют понять, на каком уровне зрелости находится клиника, и не оказаться в ситуации, где в досудебной претензии выясняется, что «решение принимал не врач».