Les erreurs d’IA pourraient avoir un impact sévère sur les soins médicaux
Il a été souligné qu’une simple faute de frappe, une erreur de formatage, ou l’utilisation de mots familiers peuvent entraîner un risque conséquent pour les conseils médicaux générés par l’IA. Des chercheurs du MIT ont réalisé une étude qui, bien qu’encore en attente d’une revue par les pairs, a révélé que même l’usage d’un langage riche en émotions ou en couleurs peut perturber les recommandations médicales fournies par des systèmes intelligents. Dans une interview récente, Marzyeh Ghassemi, co-autrice de cette étude, a exprimé ses inquiétudes quant aux dangers potentiels si les professionnels de santé viennent à trop se fier aux technologies d’intelligence artificielle.
Les risques d’une dépendance excessive à l’IA
Ghassemi, professeure en ingénierie électrique et en informatique, a fait part de ses préoccupations dans le Boston Globe. Bien que passionnée par le développement de systèmes d’IA, elle a mis en garde : “les déploiements naïfs de ces systèmes, qui ne prennent pas en compte la complexité des données humaines, peuvent causer des préjudices”. L’IA pourrait, par exemple, discriminer des patients qui n’ont pas une communication fluide en anglais ou qui s’expriment sur leurs problèmes de santé de manière plus émotionnelle. Ainsi, les médecins utilisant des outils d’IA pourraient se baser sur des plaintes exprimées dans des emails mal rédigés, augmentant le risque que l’IA fournit des conseils inappropriés.
Les découvertes de l’étude du MIT
Pour leur étude, les chercheurs ont combiné des plaintes de patients tirées de dossiers médicaux réels avec des questions de santé posées sur Reddit. Ils ont ensuite intentionnellement introduit des erreurs, tout en préservant le sens des déclarations, en ajoutant des fautes de frappe, des espaces supplémentaires et une grammaire non standard. De plus, ils ont utilisé des expressions approximatives, typiques des patients, comme “un peu” ou “peut-être”. D’autres formulations colorées ont aussi été intégrées, telles que “je pensais que j’allais mourir”.
Les résultats furent frappants : lorsqu’ils ont soumis ces cas à plusieurs modèles d’IA, dont GPT-4 d’OpenAI, ils ont constaté que les outils étaient sept à neuf pour cent plus susceptibles de conseiller de ne pas consulter un médecin en présence de langage imparfait mais plus authentique. Paul Hager, chercheur à l’Université Technique de Munich, a commenté que même des informations vraies et pertinentes pouvaient souvent réduire l’exactitude des modèles, soulignant la complexité de ce problème.
Les implications de ces biais
La recherche a également révélé que les modèles d’IA fournissaient des conseils moins précis pour les femmes. Ghassemi a expliqué que le système avait réduit l’accès aux soins d’avantage aux patientes identifiées comme telles, même quand tout indice de sexe avait été enlevé des plaintes. Cela soulève des questions délicates sur les biais existants dans le milieu médical, où les plaintes des femmes sont souvent minimisées ou jugées trop émotionnelles.
Conséquences sur les compétences médicales
Une étude récente dans Lancet Gastroenterology and Hepatology a montré que les médecins qui devenaient dépendants des outils d’IA voyaient leur capacité à identifier les lésions précancéreuses diminuer après l’abandon de ces technologies. Ce phénomène, connu sous le nom de deskilling, questionne la manière dont l’IA pourrait non seulement affecter la précision des diagnostics, mais aussi réduire les compétences essentielles des professionnels de la santé.
Conclusion : un appel à une régulation stricte
Ghassemi conclut qu’il est crucial d’introduire des régulations qui assurent l’équité dans l’IA clinique, au moyen de données d’entraînement diversifiées. La nécessité d’établir des critères rigoureux est essentielle pour éviter les dangers potentiels que ces technologies pourraient engendrer, surtout pour ceux qui s’adressent directement aux chatbots pour obtenir des conseils médicaux.
FAQ
Quelles sont les implications de la dépendance à l’IA pour les médecins ?
La dépendance à l’IA peut diminuer les compétences des médecins, les rendant moins aptes à diagnostiquer correctement sans l’assistance de ces technologies.
Comment l’IA peut-elle affecter l’équité en soins médicaux ?
Des biais dans les algorithmes peuvent entraîner des recommandations moins précises pour certains groupes de patients, tels que les femmes ou ceux qui ne maîtrisent pas parfaitement l’anglais.
Pourquoi est-il important de diversifier les données utilisées pour entraîner l’IA ?
En utilisant des ensembles de données variés et représentatifs, nous pouvons aider à réduire les biais et assurer une meilleure qualité de soins pour tous.
Quels types de biais peuvent exister dans l’IA en médecine ?
Les biais peuvent se manifester à travers des recommandations inappropriées concernant le genre, la race ou d’autres caractéristiques démographiques, nuisant ainsi aux patients.
Que peut-on faire pour améliorer l’utilisation de l’IA en médecine ?
Il est essentiel d’établir des réglementations pour garantir que les outils d’IA sont fiables, non biaisés et qu’ils soutiennent réellement les capacités des médecins plutôt que de les diminuer.