Систематический обзор и метаанализ, опубликованный в npj Digital Medicine, показал, что присутствие врача в процессе принятия клинических решений не следует считать автоматической гарантией безопасности ИИ. Авторы изучили 46 отчетов, охватывающих 41 независимую когорту.
В анализ вошли 40 основных когорт. Исследователи предлагают оценивать человеческий надзор по тому, насколько эффективно он позволяет выявлять и перехватывать ошибки ИИ, а не только по факту участия специалиста.
Вывод ставит под сомнение распространенный подход к внедрению клинического ИИ, при котором наличие врача в контуре рассматривается как достаточная мера защиты. Для оценки безопасности таких систем важны реальные результаты надзора и способность предотвращать ошибки.