Калифорния запретила ИИ принимать медицинские решения без врачей

Для пациента ключевой нюанс в том, что алгоритм может помогать команде, но профессионал должен сохранять возможность самостоятельно оценить ситуацию и принять решение.

ИИ может подсказать, но не подменить специалиста

Законопроект Assembly Bill 1979 подписал губернатор Гэвин Ньюсом; его положения должны вступить в силу 1 января. Медучреждениям предписано принимать разумные меры, чтобы лицензированные специалисты могли выносить независимые суждения, даже когда ИИ участвует в сопровождении пациента.

Это не запрет на медицинские алгоритмы как таковые. Врачи и медсёстры по-прежнему могут использовать инструменты, помогающие принимать решения. Граница проходит там, где система начинает самостоятельно выполнять действия, для которых требуется профессиональная лицензия.

Для пациента это важное различие: рекомендация алгоритма и решение врача не одно и то же. Но из доступного описания закона неясно, какие именно нынешние сценарии использования ИИ он затронет. Поэтому не стоит считать, что сам факт наличия ИИ в клинике автоматически означает нарушение или, наоборот, гарантирует надзор специалиста.

Что уточнить у клиники

Если клиника использует ИИ для первичной оценки, сортировки обращений или подготовки рекомендаций, спросите, кто проверяет результат и кто принимает окончательное решение. Особенно важно выяснить, можно ли обсудить вывод системы с лицензированным врачом или медсестрой, если он влияет на обследование, лечение или маршрут помощи.

В материале The Mercury News приводятся опасения профсоюза медработников по поводу внедрения алгоритмов без достаточного контроля. При этом представители больничной ассоциации заявили изданию, что закон сохраняет возможность применять полезные для пациентов ИИ-инструменты. Практический вопрос для пациента остаётся прежним: не скрывается ли за удобным цифровым интерфейсом автоматическое решение без понятной ответственности специалиста.

При выборе врача полезно оценивать не только технологичность сервиса, но и прозрачность клинических решений. Вот на что обратить внимание при выборе врача доказательной медицины в Санкт-Петербурге.

Вердикт для пациента

Закон задаёт понятный принцип: ИИ может быть частью рабочего процесса, но лицензированная медицинская задача должна оставаться под независимым профессиональным контролем. Пациенту стоит уточнять, кто именно интерпретирует рекомендации алгоритма и к кому обращаться, если автоматическая оценка кажется ошибочной.

Это не повод отказываться от цифровых сервисов. Но и надпись «с ИИ» сама по себе не фича качества: проверяйте, кто отвечает за решение и можно ли получить объяснение от специалиста.