Медичні пристрої на основі ШІ закликали тестувати в реальних умовах
Nature закликало ретельно тестувати медичні пристрої з генеративним ШІ в реальних клінічних умовах перед впровадженням.
Медичні пристрої на основі генеративного штучного інтелекту потрібно ретельно й прозоро випробовувати в реальних клінічних умовах до впровадження, йдеться в редакційній статті Nature. Видання зазначає, що такі системи вже допомагають медикам із призначенням ліків, інтерпретацією рентгенівських знімків, МРТ і КТ, діагностуванням рідкісних хвороб, а також виконанням адміністративних завдань.
У серпні Управління з контролю за продуктами й ліками США (FDA) опублікувало дискусійний документ щодо регулювання медичних пристроїв із генеративним ШІ та запросило відгуки до 19 жовтня. Регулятор та його колеги в інших країнах застосовують до медичних виробів підхід, що залежить від рівня ризику: чим серйознішими можуть бути наслідки помилки, тим суворішою має бути перевірка.
Ризики для клінічних рішень
У Nature наголошують, що інструменти, які записують і узагальнюють розмови лікаря з пацієнтом, не можна вважати лише адміністративними: їхні результати використовують під час ухвалення клінічних рішень. Частина таких систем також допомагає встановлювати діагнози, тому потребує комплексного тестування перед застосуванням.
Дослідники, які опублікували коментар у Nature Medicine у вересні, запропонували зробити попередньо зареєстровані клінічні випробування стандартом для ШІ-систем у сфері здоров’я та медицини. Аналогічні підходи вже застосовують до лікарських засобів і вакцин.
Брак даних із практики
За даними систематичного огляду, оприлюдненого в Nature Medicine у березні, лише 23% приблизно 4 600 наукових робіт про ШІ-інструменти в клінічній медицині використовували дані реальних пацієнтів. Проспективними рандомізованими дослідженнями були лише 19 робіт.
Нині деякі продукти з ШІ сертифікують без оцінювання у реальних умовах. Видання вказує, що для нових алгоритмічних пристроїв часто бракує клінічних даних, тоді як для оновлених стетоскопів чи перев’язувальних матеріалів уже існують десятиліття практичних спостережень для порівняння.
Компанії також нерідко перевіряють моделі в одноразових симульованих сценаріях, зіставляючи точність їхніх висновків із рішеннями лікарів у тих самих умовах. Nature вважає, що прозорість даних, відкриті дані та тестування в реальному середовищі не мають бути предметом компромісу.
