L’impact croissant des radiographies générées par l’IA
Récemment, une étude publiée dans le journal Radiology, géré par la Radiological Society of North America (RSNA), a révélé une avancée inquiétante dans le domaine des images médicales. Des radiologues et des modèles de langage multimodaux avancés, comme les LLM, se retrouvent dans l’incapacité de distinguer les radiographies réelles de celles générées par l’intelligence artificielle (IA). Ces « deepfakes » peuvent présenter des risques considérables pour le système de santé.
Compréhension des deepfakes
Un deepfake est un contenu visuel ou audio, comme une image ou une vidéo, qui semble authentique mais qui a été fabriqué ou modifié grâce à l’IA. Selon le Dr Mickael Tordjman, principal auteur de l’étude et postdoctorant à l’Icahn School of Medicine à Mount Sinai à New York, ces radiographies falsifiées sont si réalistes qu’elles réussissent à tromper même les radiologues les plus formés, et ce, même en étant conscients de la présence d’images générées par IA.
Risques pour la médecine
Cette situation pose un risque majeur, surtout en cas de litiges judiciaires, où des fractures simulées pourraient être confondues avec de véritables fractures. Si des pirates informatiques parvenaient à infiltrer le réseau d’un hôpital et à injecter de fausses images, cela pourrait mener à des diagnostics erronés et à un chaos clinique étendu, remettant en question la fiabilité fondamentale des dossiers médicaux numériques.
Conception de l’étude
L’étude a impliqué 17 radiologues issus de 12 centres médicaux dans six pays (États-Unis, France, Allemagne, Turquie, Royaume-Uni et Émirats Arabes Unis). Les participants, allant de nouveaux venus à des experts ayant jusqu’à 40 ans d’expérience, ont analysé 264 images de radiographies, réparties de manière égale entre images authentiques et celles générées par IA.
Les radiologues ont examiné deux ensembles distincts d’images. Le premier mélangeait des radiographies réelles et celles générées par ChatGPT, tandis que le second se concentrait sur des radiographies thoraciques, également divisées entre vraies images et celles produites par RoentGen, un modèle d’IA génératif et open-source élaboré par des chercheurs de Stanford.
La capacité de détection limitée
Les résultats de l’étude révèlent que, sans avertissement, seulement 41% des radiologues ont pu reconnaître les radiographies générées par l’IA seulement après avoir examiné la qualité des images. Lorsqu’il a été précisé qu’il s’agissait d’images de synthèse, leur taux de réussite a bondi à 75% pour les distinguer des vraies. Les performances étaient hétérogènes ; certains radiologues n’ont identifié que 58% des images générées par IA, tandis que d’autres sont montés jusqu’à 92%.
Les performances des systèmes IA étaient similaires, avec quatre modèles atteignant des taux d’exactitude variant entre 57% et 85%. Même ChatGPT-4o, qui a été utilisé pour créer les images de type deepfake, n’a pas pu identifier toutes les images trompeuses, bien qu’il ait surpassé les autres modèles.
Identification des radiographies générées par IA
Les chercheurs ont noté que certaines caractéristiques visuelles subtiles sont communes aux radiographies synthétiques. Par exemple, les os apparaissent trop lisses, la colonne vertébrale est anormalement droite, les poumons sont trop symétriques, et les fractures ont tendance à sembler atypiquement nettes et uniformes.
Implications et recommandations
Les résultats soulèvent des inquiétudes sur le potentiel abus des images médicales générées par IA. Les experts mettent en garde que ces radiographies falsifiées pourraient être utilisées pour manipuler des diagnostics dans des affaires légales ou dans les systèmes hospitaliers.
Pour remédier à ces dangers, les chercheurs préconisent de renforcer les protections numériques, notamment par des filigranes invisibles intégrés aux images et des signatures cryptographiques associées au technicien ayant réalisé l’examen. Cela pourrait contribuer à vérifier l’authenticité des images médicales.
Avenir de l’imagerie médicale par IA
Le Dr Tordjman a mentionné que nous n’avons probablement qu’effleuré la surface des capacités de l’IA dans le domaine médical. Les prochaines étapes pourraient inclure la génération d’images 3D synthétiques, comme celles des CT et IRM. Il est crucial de mettre en place des bases de données pédagogiques et des outils de détection dès maintenant.
Pour sensibiliser et former les professionnels, l’équipe de recherche a également mis à disposition un jeu de données soigneusement sélectionné sur les deepfakes, accompagné de quiz interactifs à des fins éducatives.
FAQ
Qu’est-ce qu’une radiographie générée par IA ?
Une radiographie générée par IA est une image d’un examen médical produite à l’aide de modèles informatiques capable de simuler des images réelles.
Pourquoi est-il difficile de distinguer les radiographies générées par IA des réelles ?
Les systèmes d’IA sont conçus pour créer des images qui imitent parfaitement les radiographies authentiques, rendant ainsi leur identification compliquée même pour les experts.
Quels sont les dangers de l’utilisation de ces radiographies dans le domaine médical ?
Les radiographies deepfake peuvent mener à des erreurs de diagnostic, à des fraudes judiciaires et à la manipulation des données médicales, ce qui compromet la sécurité des patients.
Quelles mesures peuvent être prises pour prévenir les abus ?
Il est recommandé d’utiliser des protections numériques telles que des filigranes et des signatures cryptographiques pour authentifier les images médicales et prévenir leur falsification.
L’expérience des radiologues a-t-elle un impact sur leur capacité à détecter des deepfakes ?
L’étude a révélé que l’expérience professionnelle n’augmente pas nécessairement la capacité des radiologues à identifier les radiographies générées par IA. Cependant, les radiologues spécialisés dans l’imagerie musculosquelettique se sont montrés plus performants que d’autres.
