L’impact tragique d’une IA dans le système de santé brésilien
L’utilisation croissante de l’intelligence artificielle dans les systèmes hospitaliers à travers le monde suscite de nombreuses questions. Un cas particulièrement révélateur est celui d’une jeune Brésilienne, Rebeca Cardoso Tenente Molina, dont la mort récente soulève des inquiétudes sur l’impact de la technologie sur les décisions médicales.
Une attente fatale
Selon un rapport de MG1, une publication brésilienne, Rebeca, âgée de 32 ans, est décédée après avoir été obligée d’attendre cinq jours pour être transférée en soins intensifs, ceci en raison d’un système d’IA gérant l’attribution des lits d’hôpital. Malgré sa détérioration rapide après avoir été hospitalisée pour des calculs biliaires, elle n’a pas pu obtenir les soins nécessaires à temps.
Les membres de la famille de Molina ont évoqué le retard causé par ce système automatisé. Alors qu’elle luttait pour sa vie dans un hôpital situé à environ 300 kilomètres de chez elle, la famille a tenté d’intenter une action légale d’urgence contre le système hospitalier pour obtenir son transfert. Malheureusement, cette action a également été retardée, et ils estiment maintenant que cette attente a été fatale.
L’évaluation erronée de la santé
D’après la sœur de Rebeca, Sâmela Cardoso Tenente Furtado, le système d’évaluation des patients a attribué à Rebeca un score très bas, ne reflétant pas la gravité de son état. Cette évaluation, réalisée par le Centre d’Opérations de Régulation de l’État de Minas Gerais, aurait joué un rôle déterminant dans le retard de son transfert. Furtado a déclaré que les médecins avaient perdu leur latitude pour décider de l’état critique des patients, laissant cette responsabilité à une machine.
Elle a décrit un système figé qui ne tenait pas compte de l’évolution de la santé de sa sœur, qui aurait dû être considérée comme un cas d’urgence. Selon elle, l’IA a systématiquement rejeté les données récentes, ne lui permettant pas de progresser dans le traitement, et d’autres patients avec des scores inférieurs avanceraient dans le système avant elle.
La perte d’humanité
Les proches de Molina insistent sur le fait que les patients ne sont pas de simples chiffres ou protocoles. “Ils ont des histoires, des familles et des rêves”, a souligné sa sœur. Ce tragique incident met en évidence le besoin urgent de repenser l’intégration de l’IA dans le domaine médical, afin de garantir que les décisions prises tiennent compte de l’humanité des patients.
Réaction des autorités
En réponse à ce tragique décès, le ministère de la Santé de l’État a déclaré que les transferts étaient basés sur la disponibilité des lits qui correspondaient aux besoins cliniques des patients. Ils ont également mentionné que bien que le système Core-MG ait été mis à jour, les protocoles fondamentaux pour les transferts n’avaient pas changé.
L’avenir de l’IA dans la santé
Le lancement du système d’IA le 19 mai dernier a suscité des réactions mitigées. Selon la sous-secrétaire à la Santé, Poliana Cardoso Lopes, la technologie devrait permettre une meilleure gestion des lits, en offrant des données plus précises sur l’état clinique et les besoins de chaque patient.
D’autres voix s’élèvent pour appeler à une régulation plus stricte, insistant sur le fait que les décisions de traitement doivent toujours impliquer une évaluation humaine, et non uniquement se fier à des algorithmes.
FAQ
Quelles sont les principales préoccupations concernant l’utilisation de l’IA dans les soins de santé?
Les préoccupations incluent la déshumanisation des soins, la perte d’autonomie des professionnels de santé et le risque que des patients ne reçoivent pas le traitement approprié en raison de classifications erronées.
Comment l’IA évalue-t-elle les besoins des patients?
L’IA utilise des algorithmes basés sur des données historiques et des critères médicaux pour attribuer des scores aux patients, déterminant ainsi la priorité de leur traitement. Toutefois, ces systèmes peuvent manquer de flexibilité face à des situations médicales changeantes.
Que peuvent faire les patients pour se protéger contre de telles erreurs?
Il est crucial pour les patients et leurs familles de rester vigilants, de poser des questions sur les décisions de traitement et, si nécessaire, de demander des avis supplémentaires ou de faire appel à des procédures légales si les soins semblent insuffisants.
Existe-t-il des exemples de systèmes d’IA efficaces dans le domaine médical?
Oui, plusieurs hôpitaux ont intégré des outils d’IA pour aider à l’interprétation des images médicales et pour améliorer la gestion des dossiers patients, mais ces systèmes sont souvent utilisés comme des outils d’assistance plutôt que comme des décideurs autonomes.
Quel est l’avenir de l’IA dans les soins de santé?
L’avenir de l’IA dans le domaine de la santé pourrait signifier une combinaison de technologies avancées et d’interventions humaines, ce qui nécessite un encadrement éthique et une réglementation rigoureuse pour garantir que l’humanité ne soit jamais perdue dans le processus.
