La réalité des assistants médicaux basés sur l’IA
Au cours des deux ou trois dernières années, il est très probable que vous ayez rencontré un scribe médical numérique lors de votre dernier rendez-vous chez le médecin. Ce logiciel est conçu pour écouter les conversations entre patient et professionnel, et pour les transformer en notes médicales structurées.
Malgré son concept prometteur, ce système de transcription soulève de nombreuses interrogations. Récemment, le Vérificateur général de l’Ontario a publié un rapport spécial qui signale que ces technologies d’assistance n’ont pas été correctement évaluées et qu’elles pourraient fournir des informations erronées aux professionnels de la santé.
Les résultats préoccupants d’une étude sur l’IA
L’audit, relayé par des médias comme Global News, a porté sur 20 plateformes de scribes médicaux. Les résultats montrent que toutes ces technologies présentaient des inexactitudes lors des tests d’approvisionnement, allant de la fabrication d’informations à des données manquantes ou incomplètes.
Le rapport avertit que ces erreurs dans les notes médicales générées par des systèmes d’IA pourraient conduire à des traitements inadéquats, potentiellement dangereux, avec des conséquences sur la santé des patients.
Clarification des faits par le gouvernement
Stephen Crawford, le Ministre des Services publics et de la Livraison des affaires en Ontario, a apporté des précisions. Selon lui, les hallucinations constatées lors des tests effectués par les régulateurs étatiques ne se sont pas manifestées durant les visites médicales réelles. Il insiste sur le fait que ces anomalies ne concernent pas encore les systèmes en usage dans les cabinets des médecins, mais plutôt ceux en phase d’évaluation.
Cependant, la Vérificatrice générale, Shelley Spence, souligne que de nombreux scribes sont déjà utilisés par environ 5 000 médecins à travers la province. Elle a même demandé à son propre médecin de vérifier la transcription après sa visite.
Scrutin croissant sur d’autres systèmes d’IA
La situation est similaire aux États-Unis, où un système de scribe, OpenEvidence, fait l’objet de critiques, notamment pour ses hallucinations et ses réponses incomplètes. Plusieurs médecins signalent que ces outils peuvent parfois tirer des conclusions douteuses à partir d’études avec de petits échantillons.
Bien que de nombreux praticiens semblent apprécier cet outil, il est encore incertain comment ils se comporteront dans des situations réelles, et quel sera leur jugement une fois l’enthousiasme autour de l’IA apaisé.
FAQ
Qu’est-ce qu’un scribe médical numérique ?
Un scribe médical numérique est un logiciel qui écoute les conversations entre un médecin et un patient, puis les transforme en notes médicales.
Quels sont les risques associés à l’utilisation d’un scribe médical basé sur l’IA ?
Les risques incluent la génération d’informations inexactes ou fabriquées, ce qui peut entraîner des traitements inappropriés ou même dangereux.
Comment les réglementations encadrent-elles l’utilisation de l’IA en médecine ?
Les réglementations exigent que les systèmes d’IA soient testés pour leur précision et leur fiabilité avant d’être utilisés dans un cadre médical, mais ces tests ne sont pas toujours complets.
Les médecins se fient-ils à ces systèmes d’IA ?
Bien que certains médecins trouvent l’IA utile, il existe une prudence quant à leur fiabilité, particulièrement dans des situations qui impliquent la santé des patients.
Quel est l’avenir des assistants médicaux basés sur l’IA ?
L’avenir sera probablement déterminé par la qualité des tests réalisés et la capacité des systèmes à fournir des résultats précis et fiables dans la pratique clinique.
