Une patiente dénonce l’utilisation de l’IA dans son traitement médical
Récemment, une patiente a partagé son expérience troublante après avoir été renvoyée chez elle avec un plan de traitement qui semblait avoir été copié à partir de ChatGPT. Cette situation soulève des interrogations sur l’usage croissant de l’intelligence artificielle dans les hôpitaux et met en lumière des enjeux liés à l’orientation médicale et à la protection des données des patients.
Le récit de Tara Rule
La semaine dernière, Tara Rule, actrice et créatrice de contenu, a publié un courte vidéo où elle raconte son expérience suite à une consultation à l’hôpital. Elle a expliqué que ses symptômes étaient devenus graves, affirmant même qu’ils avaient atteint un « statut d’urgence ». De plus, elle a précisé souffrir du syndrome d’Ehlers-Danlos, une maladie du tissu conjonctif.
Rule a révélé avoir reçu des documents à son retour qui contenaient des informations issues de ChatGPT. Dans la vidéo, elle montre que les feuilles de papier mentionnaient clairement « ChatGPT » en haut et incluaient des éléments qui semblaient refléter un historique de recherche, tels que « Format de Consultation d’Urgence », « Interprète médical en espagnol » et d’autres termes spécifiques.
Étonnée par le contenu, elle s’inquiète que le plan de traitement proposé pour sa constipation puisse ne pas être compatible avec son diagnostic du syndrome d’Ehlers-Danlos. Ne se sentant pas à l’aise avec les recommandations, elle a consulté des médecins amis qui lui ont conseillé d’adapter son traitement.
Dans sa vidéo, elle a exprimé sa crainte : « Cela m’inquiète. Que se serait-il passé si je n’avais pas eu de connaissances sur ChatGPT et que j’avais suivi le plan initial, risquant une grave complication ? »
Il est important de noter que Rule aurait pu chercher des conseils en ligne à la maison. Cependant, elle a fait le choix d’aller à l’hôpital pour consulter des experts en santé, soulignant qu’elle n’était pas médecin : « Je suis allée voir un professionnel de la santé parce que je ne suis pas qualifiée pour cela, et j’avais besoin d’informations fiables. »
Contexte sur l’utilisation de l’IA
Le média More Perfect Union a également couvert cette histoire, soulignant l’augmentation de l’utilisation d’outils d’IA dans le domaine des soins de santé. Ils pointent du doigt des exemples récents où l’IA a joué un rôle dans des situations médicales délicates : une poursuite a été initiée après qu’une jeune femme aurait arrêté un traitement anti-épileptique sur les conseils d’un chatbot, ce qui aurait conduit à sa mort. Un autre cas mentionné concerne un pasteur qui aurait été détourné de consulter pour une embolie pulmonaire à cause des recommandations d’une IA.
Les préoccupations ne se limitent pas à la qualité des soins, mais concernent également la vie privée des patients. Des inquiétudes surgissent sur l’éventualité de l’utilisation de modèles d’IA grand public par le personnel, au lieu de solutions plus sécurisées. OpenAI, la société derrière ChatGPT, assure que sa version entreprise est conforme aux normes HIPAA, qui protègent les données de santé. Des médecins ont assuré qu’ils utilisent l’IA, mais qu’ils portent une attention particulière à la vérification humaine des résultats pour garantir leur précision.
Aux États-Unis, des membres de la communauté s’inquiètent également que l’infrastructure IA affecte le bien-être des individus de diverses manières. Bien que cette technologie puisse aider à optimiser les systèmes d’énergie propre, les centres de données qui alimentent l’IA consomment également d’énormes quantités d’énergie et d’eau, ce qui augmente potentiellement la pollution et la pression sur les ressources.
Actions à envisager
Tara Rule a apparemment réagi au contenu de More Perfect Union, signalant que Medicare enquêtait sur son dossier médical. Elle a commenté : « C’est moi. Ma compagnie d’assurance mène une enquête. »
À l’heure actuelle, il est certain que certaines personnes se tournent vers les outils d’IA pour obtenir des réponses à leurs questions de santé à domicile. Cela suscite des craintes quant à la possibilité de mauvais traitements ou de retard dans l’accès aux soins appropriés. Selon des données de 2025, près d’un Américain sur quatre a utilisé ChatGPT pour des conseils médicaux, souvent en raison des coûts élevés des soins professionnels et de l’assurance.
Un des commentaires en réponse à la vidéo de More Perfect Union disait : « Veuillez vous battre contre cela. Nous, professionnels de santé, sommes contraints d’utiliser l’IA et beaucoup d’entre nous le détestent. »
FAQ
Quels sont les risques de l’utilisation de l’IA dans le domaine médical ?
L’utilisation non contrôlée de l’IA peut conduire à des mauvais diagnostics, des plans de traitement inappropriés, ou même à des complications graves, comme souligné par l’expérience de Tara Rule.
Les hôpitaux sont-ils tenus de respecter des normes particulières lors de l’utilisation de l’IA ?
Oui, les hôpitaux doivent respecter les normes de protection des données de santé, telles que celles établies par la loi HIPAA, pour garantir la confidentialité et la sécurité des informations des patients.
L’IA peut-elle remplacer les médecins ?
Non, l’IA peut aider dans le processus de diagnostic et de traitement, mais elle ne doit jamais remplacer l’expertise et le jugement des professionnels de santé qualifiés.
Quelles solutions pourraient être mises en place pour éviter les abus liés à l’IA en santé ?
Il est impératif d’établir des protocoles clairs pour l’utilisation de l’IA dans les soins de santé, avec un accent sur l’évaluation humaine des résultats et une formation appropriée pour le personnel médical.
Comment les patients peuvent-ils s’assurer qu’ils reçoivent des soins de qualité ?
Les patients sont encouragés à poser des questions sur leurs plans de traitement, à demander des explications et à chercher des avis externes si quelque chose semble suspect ou inapproprié.
