Vous êtes-vous déjà demandé si le dernier et le meilleur outil d’intelligence artificielle (IA) dont vous avez entendu parler dans le journal du matin vous sauverait la vie ? Une nouvelle étude publiée dans JAMA dirigé par John W. Ayers, Ph.D., de l’Institut Qualcomm de l’Université de Californie à San Diego, conclut qu’il peut être difficile de répondre à cette question car les produits d’IA dans le domaine de la santé n’ont généralement pas été évalués en externe et soumis à un processus d’approbation pour évaluer comment ils pourraient travailler au bénéfice des résultats pour les patients avant d’arriver sur le marché.
L’équipe de recherche a évalué le récent décret de la Maison Blanche ordonnant au ministère de la Santé et des Services sociaux d’élaborer de nouvelles stratégies réglementaires spécifiques à l’IA portant sur l’équité, la sécurité, la confidentialité et la qualité de l’IA dans les soins de santé avant le 27 avril 2024. Cependant, les membres de l’équipe ont été surpris que l’ordonnance ne mentionne pas les résultats pour les patients, la mesure standard par laquelle les produits de santé sont évalués avant d’être approuvés pour leur entrée sur le marché des soins de santé.
“Le but de la médecine est de sauver des vies”, a déclaré Davey Smith, MD, chef de la division des maladies infectieuses et de la santé publique mondiale à la faculté de médecine de l’UC San Diego, codirecteur de l’institut de recherche clinique et translationnelle Altman de l’université et Directeur des études. « Les outils d’IA devraient démontrer des améliorations cliniquement significatives des résultats pour les patients avant leur utilisation généralisée. »
Selon l’équipe, les systèmes d’alerte précoce alimentés par l’IA pour le sepsis, une maladie aiguë mortelle chez les patients hospitalisés qui touche 1,7 million d’Américains chaque année, mettent en évidence les conséquences d’une priorisation inadéquate des résultats pour les patients dans les réglementations. Une évaluation indépendante du modèle de prédiction du sepsis IA le plus largement utilisé a révélé que 67 % des patients ayant développé un sepsis n’étaient pas identifiés par le système. Les administrateurs d’hôpitaux auraient-ils choisi ce système de prévision du sepsis si des études évaluant les données sur les résultats des patients étaient nécessaires, s’est demandé l’équipe, étant donné la multitude de systèmes d’alerte précoce en cas de sepsis disponibles ?
“Nous appelons à une révision du décret de la Maison Blanche qui donne la priorité aux résultats des patients lors de la réglementation des produits d’IA”, a ajouté John W. Ayers, Ph.D., qui est également directeur associé de l’informatique à l’Altman Clinical and Translational Research Institute. avec l’Institut Qualcomm. « À l’instar des produits pharmaceutiques, les outils d’IA qui ont un impact sur les soins aux patients devraient être évalués par les agences fédérales en fonction de la manière dont ils améliorent la sensation, la fonction et la survie des patients. »
L’équipe souligne son étude de 2023 dans JAMA Internal Medicine sur l’utilisation de chatbots alimentés par l’IA pour répondre aux messages des patients comme exemple de ce que les réglementations axées sur les résultats pour les patients peuvent réaliser. “Une étude comparant les soins standard aux soins standard augmentés par des agents d’IA conversationnelle a révélé des différences dans l’utilisation des soins en aval dans certaines populations de patients, comme ceux souffrant d’insuffisance cardiaque”, a déclaré Nimit Desai, BS, partenaire de recherche au Qualcomm Institute de l’UC San Diego. Étudiant à l’École de médecine et co-auteur de l’étude. «Cependant, des études comme celle-ci ne se produisent pas sans que les régulateurs fournissent des incitations appropriées. Avec une approche axée sur les résultats pour les patients, l’IA pour la messagerie patient et toutes les autres applications cliniques peuvent véritablement améliorer la vie des gens.
L’équipe reconnaît que la stratégie réglementaire proposée peut représenter un pas en avant significatif pour les partenaires de l’IA et du secteur de la santé et qu’elle n’est peut-être pas nécessaire pour tous les types de cas d’utilisation de l’IA dans le domaine de la santé. Mais les chercheurs affirment que l’exclusion des règles axées sur les résultats pour les patients dans le décret de la Maison Blanche est une grave omission.