Une Vision Audacieuse pour l’Avenir de la Radiologie
Après la plus grande grève des infirmières de l’histoire de la ville de New York, le PDG de NYC Health and Hospitals, Mitchell Katz, a partagé ses ambitions concernant le remplacement potentiel des radiologues humains par des systèmes d’intelligence artificielle (IA) pour l’examen et le diagnostic des radiographies.
Lors d’une table ronde organisée par Crain’s New York Business, Katz a clairement indiqué son souhait de remplacer les experts en radiologie par des modèles d’IA capables d’analyser les images médicales. Cette déclaration a été soulignée par un rapport de Radiology Business.
Remplacer les Radiologues : Un Risque pour les Soins aux Patients ?
Lors du panel, Katz a déclaré : « Nous pourrions remplacer une grande partie des radiologues par de l’IA dès maintenant, si nous sommes prêts à relever le défi réglementaire. » Un exemple qu’il a cité concerne l’automatisation du dépistage du cancer du sein, suggérant que les hôpitaux pourraient réaliser des économies conséquentes en limitant l’implication des radiologues jusqu’à ce qu’une anomalie soit détectée par le système d’IA.
Cependant, cette perspective soulève des inquiétudes parmi les professionnels de santé. Mohammed Suhail, radiologue à North Coast Imaging à San Diego, a critiqué ces idées en déclarant que les propos de Katz sont la preuve que certains administrateurs d’hôpitaux manquent de connaissances sur la radiologie. Il a averti que la mise en œuvre d’analyses effectuées uniquement par IA pourrait entraîner des dommages aux patients, voire des décès.
Les Dangers Potentiels de l’IA dans le Diagnostic Médical
Des recherches récentes suggèrent que l’utilisation de l’IA dans les salles de radiologie pourrait être dangereuse. Dans une étude non encore examinée par des pairs menée par des chercheurs de Stanford, il a été démontré que les outils d’IA utilisés pour analyser des radiographies thoraciques peuvent obtenir de bons résultats lors d’examens médicaux, malgré le fait qu’ils n’aient jamais été exposés à des images réelles. Plutôt que de reconnaître l’absence d’images, les systèmes IA les mieux notés construisent des explications complexes basées sur des données qu’ils n’ont pas réellement vues.
Cette situation va au-delà des simples hallucinations de l’IA ; les chercheurs l’appellent un « mirage d’IA ». Contrairement aux erreurs habituelles des systèmes génératifs, ce mirage semble parfaitement rationalisé. Cependant, il n’est fondé sur rien de concret, rendant les mesures habituelles pour prévenir les hallucinations inefficaces.
Les scientifiques de Stanford expliquent qu’en simulant le processus perceptuel complet, même sans images, ces modèles peuvent donner des réponses qui semblent justes mais qui sont totalement déconnectées de la réalité. Ce constat renforce des recherches antérieures suggérant que les modèles d’IA sont dans un état de “cécité fonctionnelle”.
Conséquences pour les Hôpitaux et les Patients
Cette recherche a des implications considérables pour les hôpitaux qui envisagent d’intégrer davantage d’IA dans leurs unités de radiologie, surtout pour les patients qui risquent de devenir des victimes d’un diagnostic basé sur des mirages technologiques.
FAQ
Qu’est-ce qu’un mirage d’IA en radiologie ?
Un mirage d’IA est une situation où un modèle d’intelligence artificielle génère des résultats qui semblent corrects mais qui sont fondés sur des données qui n’ont jamais été analysées.
Pourquoi certains experts s’opposent-ils à l’utilisation de l’IA en radiologie ?
Ils craignent que les systèmes d’IA, s’ils sont utilisés sans surveillance humaine appropriée, puissent mener à des erreurs de diagnostic graves, mettant ainsi en danger la vie des patients.
Quels sont les avantages potentiels de l’IA dans le secteur de la santé ?
L’IA peut aider à automatiser certaines tâches et à accélérer le traitement des données, permettant ainsi aux professionnels de santé de se concentrer davantage sur les soins aux patients.
Quelle est la position actuelle des hôpitaux sur l’intégration de l’IA ?
La position varie d’un hôpital à l’autre, mais de nombreux établissements explorent l’intégration de l’IA avec prudence, cherchant à équilibrer innovation et sécurité des patients.
Est-il possible que l’IA soit jamais fiable en matière de diagnostic médical ?
Bien que l’IA puisse offrir des outils intéressants pour le diagnostic, il est crucial d’avoir un encadrement rigoureux et une intégration réfléchie pour assurer la sécurité des patients.
