Une enquête récente a révélé que des millions d’Américains se tournent vers des chatbots d’IA pour des conseils médicaux, souvent au lieu de consulter des médecins humains.
Cependant, les chercheurs continuent de découvrir d’importantes failles dans les outils basés sur des modèles linguistiques avancés, qui prétendent pouvoir résumer des dossiers médicaux et fournir des conseils de santé à partir de simples requêtes textuelles. Un des problèmes majeurs reste les **hallucinations**, où les modèles d’IA génèrent des conclusions cliniques basées sur des images qu’ils n’ont jamais vues, ou se laissent piéger par des maladies fictives créées par des chercheurs pour les tester.
Face à cette situation, il n’est pas surprenant que les scientifiques s’interrogent sur l’adoption des **IA** par les patients, les prestataires de santé ou même les systèmes de santé. De plus, il est souvent difficile de trouver des preuves soutenant les avantages concrets de ces technologies. Un éditorial sévère, publié mardi dans le prestigieux magazine médical Nature Medicine, souligne que « les preuves démontrant que les outils d’IA apportent de la valeur aux patients, aux professionnels de santé ou aux systèmes de santé restent rares ».
L’éditorial précise que « les publications et les documents produits affichent de plus en plus de revendications concernant l’impact clinique, bien qu’il n’existe aucune entente claire sur le niveau de preuve requis pour que ces revendications soient considérées crédibles. » Cela entraîne non seulement une incertitude scientifique, mais aussi une adoption et une mise en œuvre souvent prématurées.
Il est donc urgent de mettre en place un « cadre d’évaluation des technologies médicales basées sur l’IA, défini par des indicateurs et des normes claires », comme le souligne l’éditorial.
Les outils d’IA peuvent sembler offrir des conseils médicaux convaincants dans des conditions expérimentales idéales, mais ils peinent souvent dans la réalité. Une étude récente publiée dans JAMA Medicine a révélé que, face à des symptômes plus vagues, ces modèles d’IA ont échoué à établir le bon diagnostic plus de 80 % du temps.
De plus, l’utilisation de l’IA dans la recherche clinique reste un sujet controversé. Bien que les modèles linguistiques avancés excellent dans la **synthèse** et l’analyse des données et dans la réponse aux requêtes, les chercheurs mettent en garde contre les limites significatives de ces outils qui pourraient nous rendre aveugles à leurs défauts.
Jamie Robertson, professeur adjoint de chirurgie à l’école de médecine de Harvard, a déclaré dans une déclaration l’an dernier : « Je pense que l’IA peut aider à accélérer de nombreux processus fastidieux et complexes. Elle peut nous aider à élaborer des codes pour effectuer des analyses de données et même suggérer des scénarios. »
Elle a également souligné l’importance pour les personnes interagissant avec l’IA dans le cadre d’études cliniques d’être conscientes de ses bonnes et mauvaises applications, et d’utiliser ces outils dans le bon contexte.
Les chercheurs avertissent que la dépendance excessive aux outils d’IA pourrait mener à un manque de rigueur scientifique, soulevant des préoccupations sur la prolifération de données trop généralisées, parfois hallucinations, dans le domaine médical.
Dans une démonstration particulièrement marquante, la chercheuse en médecine de l’Université de Göteborg, Almira Osmanovic Thunström, a publié deux études manifestement fausses sur un serveur de préimpression, induisant ainsi les modèles linguistiques à croire qu’une maladie cutanée inventée était réelle. Il n’a pas fallu longtemps pour que d’autres revues scientifiques publient des articles qui citaient ces préimpressions, suscitant des préoccupations quant à leur validité.
L’éditorial de Nature Medicine conclut en affirmant que « la prochaine étape du progrès dépendra non seulement de meilleurs modèles et d’applications innovantes, mais aussi d’attentes plus claires quant à la définition, l’évaluation et la communication de l’impact clinique. » Sans un lien clair entre les revendications et les preuves, l’IA médicale risque d’être adoptée plus rapidement que sa véritable valeur ne puisse être comprise.
À lire aussi sur l’IA en médecine : Des millions d’Américains préfèrent parler à l’IA plutôt que de consulter un médecin, avec des conseils médicaux souvent très erronés.
FAQ
Quelles sont les implications de l’utilisation des chatbots d’IA en médecine ?
L’implication principale est le risque de fournir des conseils médicaux incorrects qui pourraient potentiellement nuire aux patients.
Quels sont les défis éthiques liés à l’IA dans le domaine de la santé ?
Les défis incluent la protection des données des patients, le risque de biais dans les algorithmes et la responsabilité en cas d’erreurs.
Comment l’IA pourrait-elle améliorer la recherche clinique ?
Elle peut faciliter l’analyse rapide des données et aider à la découverte de nouvelles corrélations grâce à sa capacité à traiter de grandes quantités d’informations.
Les outils d’IA sont-ils sûrs pour les diagnostics médicaux ?
Actuellement, leur utilisation pour le diagnostic reste problématique, car des erreurs peuvent survenir et elles ne doivent pas remplacer les jugements naturels des professionnels de santé.
Quelles mesures sont nécessaires pour encadrer l’utilisation de l’IA en médecine ?
Il est essentiel d’établir des normes claires et des protocoles d’évaluation pour garantir que l’IA apporte des bénéfices réels et mesurables dans le domaine médical.
