Dans un article de synthèse récemment publié dans npj Médecine NumériqueDans le cadre d’une revue systématique, les chercheurs ont examiné les implications éthiques de l’utilisation des grands modèles linguistiques (LLM) dans le domaine des soins de santé.

Leurs conclusions démontrent que même si les LLM offrent des avantages significatifs tels qu’une analyse améliorée des données et une aide à la décision, les préoccupations éthiques persistantes concernant l’équité, les préjugés, la transparence et la confidentialité soulignent la nécessité de lignes directrices éthiques définies et d’une surveillance humaine dans leur utilisation.

Étude : L'éthique de ChatGPT en médecine et en soins de santé : une revue systématique des grands modèles linguistiques (LLM).  Crédit photo : Summit Art Creations/Shutterstock.comÉtude: L’éthique de ChatGPT en médecine et en soins de santé : une revue systématique des grands modèles linguistiques (LLM). Crédit photo : Summit Art Creations/Shutterstock.com

arrière-plan

Les LLM ont suscité un intérêt considérable en raison de leurs capacités avancées d’intelligence artificielle (IA), ce qui est clairement évident depuis le lancement de ChatGPT par OpenAI en 2022.

Cette technologie s’est répandue rapidement dans divers domaines, notamment la médecine et les soins de santé, et est prometteuse pour les tâches de prise de décision clinique, de diagnostic et de communication avec les patients.

Cependant, outre leurs avantages potentiels, des inquiétudes ont également émergé quant à leurs implications éthiques. Des recherches antérieures ont mis en évidence des risques tels que la diffusion d’informations médicales inexactes, les violations de données causées par le traitement des données sensibles des patients et la perpétuation de préjugés fondés sur le sexe, la culture ou la race.

Malgré ces préoccupations, il existe une lacune évidente dans les études approfondies qui abordent systématiquement les défis éthiques liés à l’intégration des LLM dans les soins de santé. La littérature existante se concentre sur des cas spécifiques et ne fournit pas une vue d’ensemble globale.

Méthodes

Il est crucial de combler les lacunes existantes dans ce domaine, car les soins de santé nécessitent des normes et réglementations éthiques strictes.

Dans cette revue systématique, les chercheurs ont cartographié le paysage éthique entourant le rôle des LLM dans les soins de santé afin d’identifier les avantages et les inconvénients potentiels et de servir de base aux discussions, politiques et lignes directrices futures pour guider l’utilisation éthique des LLM.

Les chercheurs ont conçu un protocole d’examen des applications pratiques et des considérations éthiques, qui est enregistré dans le registre prospectif international des revues systématiques. L’approbation éthique n’était pas requise.

Ils ont effectué des recherches dans les bases de données de publications et les serveurs de prépublications pertinents pour collecter des données et ont examiné les prépublications qui ne sont pas encore indexées dans les bases de données en fonction de leur prévalence dans les domaines technologiques et de leur pertinence potentielle.

Les critères d’inclusion étaient basés sur l’intervention, le cadre d’utilisation et les résultats, sans aucune restriction quant au type de publication, mais excluant les ouvrages traitant exclusivement de l’éducation médicale ou de la rédaction universitaire.

Après une première sélection des titres et des résumés, les données ont été extraites et codées à l’aide d’un formulaire structuré. L’évaluation de la qualité s’est concentrée de manière descriptive sur les critères de qualité des procédures afin de distinguer les documents évalués par des pairs et a examiné de manière critique la validité et l’exhaustivité des résultats lors du rapport.

Résultats

L’étude a analysé 53 articles pour examiner les implications éthiques et les applications des LLM dans le domaine des soins de santé. Quatre thèmes principaux ont émergé de la recherche : les applications cliniques, les applications de soutien aux patients, le soutien aux professionnels de la santé et les perspectives de santé publique.

Dans les applications cliniques, les LLM montrent le potentiel de faciliter le diagnostic initial et le triage des patients en utilisant l’analyse prédictive pour identifier les risques pour la santé et recommander des traitements.

Cependant, des inquiétudes subsistent quant à leur exactitude et à la possibilité de biais dans leurs processus décisionnels. Ces biais pourraient conduire à des diagnostics ou à des recommandations de traitement erronés et souligner la nécessité d’une surveillance attentive de la part des professionnels de santé.

Les applications d’assistance aux patients se concentrent sur les LLM qui aident les individus à accéder aux informations médicales, à gérer les symptômes et à naviguer dans les systèmes de santé.

Bien que les LLM puissent améliorer les connaissances en matière de santé et la communication au-delà des barrières linguistiques, la confidentialité et la fiabilité des conseils médicaux générés par ces modèles restent des considérations éthiques importantes.

Pour accompagner les professionnels de santé, des LLM sont proposés pour automatiser les tâches administratives, résumer les interactions avec les patients et faciliter la recherche médicale.

Même si cette automatisation pourrait accroître l’efficacité, des inquiétudes subsistent quant à son impact sur les compétences professionnelles, l’intégrité des résultats de recherche et le risque de biais dans l’analyse automatisée des données.

Du point de vue de la santé publique, les LLM offrent la possibilité de surveiller les épidémies, d’accroître l’accès aux informations sur la santé et d’améliorer la communication en matière de santé publique.

Cependant, l’étude met en évidence des risques tels que la propagation de la désinformation et la concentration du pouvoir de l’IA dans quelques entreprises, susceptibles d’exacerber les inégalités en matière de santé et de saper les efforts de santé publique.

Bien que les LLM représentent des avancées prometteuses dans le domaine des soins de santé en général, leur utilisation éthique nécessite un examen attentif des préjugés, des problèmes de confidentialité et de la nécessité d’une surveillance humaine pour atténuer les dommages potentiels et garantir un accès équitable et la sécurité des patients.

Conclusions

Les chercheurs ont découvert que les LLM comme ChatGPT sont largement étudiés dans le domaine des soins de santé pour leur potentiel à améliorer l’efficacité et les soins aux patients en analysant rapidement de grands ensembles de données et en fournissant des informations personnalisées.

Cependant, des problèmes éthiques demeurent, notamment les préjugés, les problèmes de transparence et la génération d’informations trompeuses, appelées hallucinations, qui peuvent avoir de graves conséquences en milieu clinique.

L’étude est conforme à une recherche plus large sur l’éthique de l’IA et met en évidence les complexités et les risques liés à l’utilisation de l’IA dans les soins de santé.

Les points forts de cette étude comprennent une revue complète de la littérature et une catégorisation structurée des applications LLM et des questions éthiques.

Les limites incluent la nature évolutive de la recherche éthique dans ce domaine, le recours à des sources préimprimées et la prépondérance des perspectives d’Amérique du Nord et d’Europe.

Les recherches futures devraient se concentrer sur la définition de lignes directrices éthiques solides, l’amélioration de la transparence des algorithmes et la garantie d’une utilisation équitable des LLM dans le contexte de la santé mondiale.



Source