L’un des plus grands réseaux de santé intégrant l’intelligence artificielle dans le domaine médical est accusé que ses outils de haute technologie nuisent aux patients.
Traci Tamiko Eto, l’ancienne directrice de recherche et responsable de la conformité en matière d’IA de la Mayo Clinic, a porté plainte, déclarant que cet hôpital de renommée mondiale a réagi de manière hostile à ses alertes concernant les mises en œuvre désastreuses des outils de santé basés sur l’IA.
d’après les informations de Minnesota Public Radio, Eto a rejoint la Mayo Clinic en 2023. Elle a signalé des problèmes potentiels liés à la confidentialité en rapport avec la plateforme Mayo Clinic, un système de données intégrant l’IA. Selon elle, ses préoccupations ont été ignorées par sa supériorité, qui a affirmé que résoudre le problème compromettrait la rapidité des projets de recherche en cours, ce qui nuirait à l’avantage concurrentiel de la Mayo.
Eto a indiqué qu’elle avait signalé à maintes reprises les défaillances des dirigeants de la Mayo Clinic en matière de respect des réglementations fédérales concernant les processus d’examen des nouvelles technologies, comme le système MAYA, l’assistant numérique intégré à l’IA de la clinique. Selon la plainte, l’équipe impliquée dans MAYA aurait supprimé des résultats de tests négatifs, mal évalué les capacités de l’outil et pris des décisions qui mettaient en danger la sécurité des données.
Dans ses dix plaintes de lanceuse d’alerte, il est signalé que l’équipe chargée de MAYA était consciente que le taux d’erreur de l’outil était aussi élevé que 67 % ; au lieu de le signaler, les membres de l’équipe ont tenté de dissimuler cette information alarmante.
En conséquence, elle affirme qu’elle a été progressivement exclue des réunions exécutives à partir de début 2025, avant que l’on lui fasse comprendre qu’elle n’était pas en adéquation avec la culture de l’établissement. La plainte énonce qu’on lui a proposé un choix : démissionner ou subir des modifications à son dossier qui la rendraient « inemployable » à la Mayo et nuiraient à ses perspectives de carrière en dehors de l’institution.
Ce procès majeur avance, mais la menace d’une réaction destructrice pour sa carrière plane toujours.
« Lorsqu’une personne décide de poursuivre un géant public sur des questions sensibles, elle met littéralement sa carrière en jeu », a déclaré l’avocat d’Eto, Artur Davis à MPR. « Elle risque des attaques professionnelles, sa réputation et son choix de faire cela montre la confiance qu’elle a en sa position. »
La Mayo Clinic a gardé le silence concernant la plainte.
« Nos recherches et nos innovations cliniques sont menées conformément aux lois et règlements applicables, et nous restons engagés à maintenir la confiance que nos patients nous accordent tout en respectant leur vie privée », a indiqué le directeur des communications de l’organisation à MPR dans une déclaration. « La Mayo Clinic ne fait pas de commentaires sur les litiges en cours. »
Bien que la plainte tourne autour du licenciement abusif d’Eto, elle soulève des questions cruciales sur l’état des outils d’IA dans le secteur médical. Si une institution de santé prestigieuse comme la Mayo Clinic dissimule des informations sur l’efficacité de ses outils intégrant l’IA, qu’est-ce que cela signifie pour l’ensemble de l’industrie ?
« Si [les gens] se soucient de la manière dont l’IA doit être utilisée de manière responsable et intégrée dans des règles et des lignes directrices, cette affaire devrait les interpeller », a ajouté Davis.
### FAQ
#### Qu’est-ce que la Mayo Clinic ?
La Mayo Clinic est une célèbre institution médicale basée aux États-Unis, reconnue pour ses recherches et innovations en matière de soins de santé, notamment dans l’utilisation de technologies avancées.
#### Quels types d’outils d’IA sont utilisés dans le domaine médical ?
Les outils d’IA dans le domaine médical peuvent inclure des assistants numériques, des systèmes d’analyse des données de santé, et des applications pour diagnostiquer des maladies ou recommander des traitements.
#### Comment les plaintes de lanceurs d’alerte peuvent-elles influencer l’industrie ?
Les plaintes de lanceurs d’alerte peuvent susciter des discussions sur l’éthique et la transparence dans l’utilisation de l’IA, entraînant des réformes et un meilleur respect des réglementations.
#### Quel est l’impact des outils d’IA sur la confidentialité des patients ?
L’intégration de l’IA dans la santé soulève des préoccupations concernant la protection des données personnelles et la confidentialité des patients, ce qui doit être rigoureusement réglementé.
#### Quelles sont les conséquences potentielles pour la Mayo Clinic suite à cette plainte ?
La plainte pourrait nuire à la réputation de la Mayo Clinic, entraîner des examens réglementaires plus stricts et avoir des implications financières si les allégations s’avèrent fondées.
