Une étude de Penn State sur les dangers de l’IA dans les décisions médicales
Une récente étude de l’université Penn State révèle que l’intelligence artificielle (IA), bien qu’elle semble déterminée et assurée dans ses prises de décisions médicales critiques, pourrait en réalité représenter un danger à cause de cette même assurance. Dans le cadre de cette recherche, les chatbots ont été confrontés à une situation particulière : décider quel patient devait recevoir un rein provenant d’un donneur rare. Les résultats montrent que ces systèmes fournissaient souvent des réponses claires là où des humains hésiteraient.
Les implications de l’étude
Cette recherche a été présentée lors de la conférence Fairness, Accountability and Transparency de l’Association for Computing Machinery en 2026, où les chercheurs ont étudié les réponses des modèles de langage de grande taille face à des choix éthiques de haute importance. Ils ont soumis divers cas fictifs de transplantation rénale à plusieurs modèles d’IA, incluant des détails comme l’âge, l’état de santé, la consommation d’alcool et le nombre de personnes à charge.
Les chercheurs ont ensuite comparé les réponses de ces modèles avec celles données par des participants humains, qui n’avaient pas de formation médicale. Hadi Hosseini, le responsable de l’étude, a souligné que les comparaisons ont été réalisées sous différentes formes, par exemple en isolant un seul critère à la fois ou en mélangeant plusieurs paramètres pour analyser comment l’IA évaluait des facteurs en compétition.
Les résultats de l’analyse
Deux conclusions majeures ont émergé de l’analyse. D’une part, il a été observé que les chatbots s’éloignent souvent des valeurs humaines dans leur évaluation des caractéristiques des patients, se concentrant sur un seul critère, par exemple les habitudes de consommation d’alcool, au lieu de prendre en compte plusieurs aspects comme le ferait un humain.
Le contexte des allocations d’organes
L’allocation d’organes est un exemple flagrant d’un dilemme éthique sans réponse parfaite. Lorsqu’une machine fournit une réponse catégorique, elle donne une illusion d’objectivité qui ne reflète pas la réalité complexe des décisions morales. Une autre différence marquante est le manque d’incertitude démontré par les systèmes d’IA. Même lorsque ces modèles avaient la possibilité de “lancer une pièce”, ils choisissaient généralement directement un patient.
Hosseini a exprimé que ce manque d’hésitation constitue une lacune significative, car les dilemmes moraux ne possèdent souvent pas de réponse claire. Cette problématique ne se limite pas uniquement à l’éthique des transplantations. L’IA, de plus en plus utilisée dans le domaine médical, peut influencer de manière substantielle les résultats pour les patients au quotidien. Si ces systèmes occultent des nuances ou dissimulent des incertitudes, ils peuvent altérer les décisions de soins en donnant une apparence d’autorité tout en négligeant la dimension humaine des enjeux.
Vers des solutions
Les chercheurs n’appellent pas à remplacer le jugement médical par l’IA, mais soulignent la nécessité de systèmes de régulation plus rigoureux avant que les praticiens ne commencent à s’appuyer sur ces outils dans des contextes éthiquement délicats. En outre, il est recommandé aux développeurs de créer des systèmes qui tiennent compte de l’incertitude plutôt que de la masquer, car dans les dilemmes moraux, la prudence pourrait s’avérer plus sécuritaire que la fausse précision.
John Dickerson, PDG de Mozilla.ai et collaborateur de l’étude, a mis en lumière un problème clé : lorsque nous répartissons des ressources rares, qu’il s’agisse d’un rein, d’un emploi ou d’un accès à d’autres ressources, il n’y a pas toujours une réponse objectivement correcte. Les humains sont capables de reconnaître cette ambiguïté et de l’intégrer dans le processus de décision par le débat ouvert, ce que les modèles d’IA ne parviennent souvent pas à faire.
FAQ
Quels types de situations ont été étudiés dans la recherche ?
L’étude a examiné des cas fictifs de transplantation rénale, abordant des critères comme l’âge, la santé et d’autres facteurs sociaux.
L’IA est-elle déjà utilisée dans des contextes médicaux ?
Oui, l’IA est de plus en plus intégrée dans la médecine, notamment pour des recommandations automatiques concernant les traitements et les allocations de ressources.
Pourquoi est-il risqué que l’IA soit si sûre dans ses décisions ?
La certitude affichée par l’IA peut donner une illusion d’objectivité, alors que de véritables dilemmes moraux nécessitent souvent une réflexion nuancée et une prise en compte des différentes perspectives.
Comment peut-on améliorer l’utilisation de l’IA en médecine ?
Il est essentiel que les systèmes d’IA soient conçus pour intégrer et signaler l’incertitude, afin de mieux refléter la complexité des situations éthiques.
Quel est l’impact de l’incertitude sur les décisions médicales ?
L’incertitude joue un rôle clé dans le jugement moral, et lorsque l’IA l’ignore, elle risque de prendre des décisions qui ne tiennent pas compte des nombreuses variables humaines impliquées.
