L’Intelligence Artificielle dans l’Assurance Santé : Une Controverse
L’entreprise UnitedHealthcare, le plus grand fournisseur d’assurance santé aux États-Unis, utilise un algorithme d’intelligence artificielle appelé nH Predict. Ce dernier, dont les prédictions se révèlent souvent très inexactes, est utilisé pour refuser des soins de santé à des patients gravement malades, en limitant leur temps passé en soins prolongés, comme le révèle un nouveau procès.
Détails du Procès
Le procès, déposé cette semaine devant le tribunal de district des États-Unis du Minnesota, a été initié par la succession de deux personnes décédées à qui UnitedHealth a refusé une couverture. Les plaignants soutiennent que l’entreprise aurait dû connaître l’inefficacité de son algorithme et qu’elle a violé son contrat en l’utilisant.
Une Enquête Éclairante
Une enquête menée par Stat News a mis en lumière les pratiques internes de NaviHealth, une filiale de UnitedHealth. Celle-ci a révélé que les employés étaient contraints de se conformer rigidement aux projections de l’IA concernant la durée de séjour des patients en soins prolongés.
Les Économies et les Coûts Humains
D’un autre côté, l’IA aurait permis à l’entreprise d’économiser des centaines de millions de dollars, des fonds qui auraient autrement été nécessaires pour le soin des patients. Cependant, le procès souligne que quand les décisions de couverture sont contestées, environ 90 % des cas sont finalement renversés, indiquant une inexactitude flagrante de l’algorithme.
La Réaction de UnitedHealth
Face aux accusations, UnitedHealth a répondu par un communiqué, affirmant que les allégations selon lesquelles NaviHealth utilise un outil pour refuser des soins sont fausses. Ils insistent sur le fait que les décisions défavorables sont prises par des directeurs médicaux, basées sur des critères de couverture Medicare, et non influencées par un outil ou un objectif de performance.
Les Conséquences de l’Algorithme
Des documents et témoignages d’employés montrent pourtant que les décisions prises par l’IA sont discutables. Par exemple, le système nH Predict avait alloué seulement 20 jours de réhabilitation pour une femme âgée paralysée suite à un AVC, alors que c’est la moitié de la durée moyenne pour ces cas. Un homme âgé, malvoyant et souffrant de problèmes cardiaques et rénaux, n’a reçu que 16 jours pour se remettre.
Mauvaise Base de Données
L’algorithme se fonde sur les durées de séjour de six millions de patients précédents, héritant ainsi des erreurs et des politiques de réduction des coûts passées. Ce qui se révèle problématique, c’est qu’il ne tient pas compte des facteurs cliniques et pratiques essentiels.
L’Impact sur les Soins
Ziad Obermeyer, médecin à l’Université de Californie à Berkeley, affirme que la durée de séjour dans les maisons de retraite ne dépend pas uniquement de variables biologiques. Les patients sont souvent mis à la porte en raison de leur incapacité à payer ou des lacunes dans leur couverture, ce qui amène l’algorithme à reproduire les inégalités du système actuel.
Une Politique de Réduction des Coûts
UnitedHealth a durci ses critères : en 2022, les gestionnaires de cas devaient maintenir les séjours dans un écart de 3 % par rapport aux prévisions de l’IA. Ce chiffre a été réduit à moins de 1 % l’année suivante, laissant aux employés peu de marge de manœuvre. Ceux qui ne respectaient pas ces objectifs faisaient face à des sanctions, y compris le licenciement.
Réflexion d’une Ancienne Employée
Amber Lynch, ancienne gestionnaire de cas chez NaviHealth, a partagé son témoignage : « J’ai réalisé que je n’étais pas une avocate pour les patients, mais un instrument financier pour l’entreprise. » Cela met en lumière le défi éthique que représente le traitement des patients comme de simples données.
En résumé, cette affaire illustre comment l’apparente objectivité de l’intelligence artificielle peut masquer des pratiques douteuses et exploiter des personnes fortement vulnérables.
FAQ
Qu’est-ce que l’IA nH Predict ?
L’IA nH Predict est un algorithme utilisé par UnitedHealthcare pour évaluer la durée des soins nécessaires pour les patients.
Pourquoi l’algorithme est-il contesté ?
Il est critiqué pour ses prédictions très inexactes qui peuvent entraîner des refus de soins nécessaires pour des patients souffrants.
Comment les décisions de couverture sont-elles prises ?
Les décisions sont supposées être prises par des directeurs médicaux basées sur des critères de couverture spécifiques, mais il existe des préoccupations sur l’influence de l’IA.
Quel impact a cette situation sur les patients ?
Les patients peuvent subir des conséquences graves, notamment des interruptions de soins et une réduction de la qualité de vie, en raison de l’utilisation de l’IA.
Quelle est la position de UnitedHealthcare sur ces accusations ?
L’entreprise réfute les accusations selon lesquelles l’IA est utilisée pour refuser des soins, insistant sur le fait que les décisions se basent sur des critères médicaux établis.
