Technologie

Les chatbots imitent le biais de confiance des humains, notamment dans le recrutement.

Les chatbots imitent le biais de confiance des humains, notamment dans le recrutement.

Un nouveau regard sur l’impact des chatbots dans le jugement humain

Une étude récente révèle que certains chatbots parmi les plus utilisés semblent refléter une faiblesse humaine : la tendance à juger les inconnus sur la base de leur apparence faciale. Ce phénomène est particulièrement alarmant dans des scénarios où les décisions prises peuvent avoir des conséquences significatives.

Des biais amplifiés dans des situations critiques

Les chercheurs ont constaté que ce biais était plus accentué dans des contextes à enjeux élevés, comme les décisions d’embauche ou d’investissement. Par exemple, lorsqu’on demandait à ces intelligences artificielles de choisir entre différents candidats pour des postes importants, elles avaient une forte propension à préférer ceux qui avaient des visages jugés plus compétents ou dignes de confiance.

Dans une série de tests, le modèle GPT-4o a choisi le visage traditionnellement perçu comme plus compétent dans 87,8% des cas et celui jugé plus digne de confiance dans 72,7% des cas. Plutôt que de réduire les biais inhérents aux humains, il semblerait que ces systèmes les renforcent.

A lire :  Canadian Solar présente deux nouvelles améliorations de l'EP Cube avec des capacités de stockage de 10 à 200 kWh.

Un exemple concret de ces prédilections a émergé lorsque le modèle a été confronté à des choix de candidats pour des fonctions universitaires ou de gestion de portefeuilles d’investissements. Dans 75,2% des situations, il a favorisé le candidat dont le visage était perçu comme plus compétent.

Analyse des modèles d’IA utilisés

L’équipe de chercheurs, composée de Mahzarin Banaji de Harvard, Steven Lehr de Cangrade, et Yash Lothe du Carnegie Mellon University, a examiné quatre modèles d’intelligence artificielle. Dans leur étude, ils ont observé que ces systèmes avaient une forte préférence pour des visages jugés ayant davantage de qualités positives. Le modèle GPT-5 a même surpassé le précédent en choisissant le visage perçu comme le plus compétent dans 94,3% des cas, et cela atteignait 97% dans des scénarios d’embauche.

Influence des jugements visuels sur les décisions

Les psychologues ont depuis longtemps mis en lumière que les humains font des jugements rapides basés uniquement sur une apparence faciale. Ces jugements peuvent avoir un poids considérable, même si l’apparence ne reflète pas réellement l’honnêteté ou la compétence d’une personne. L’absence de recherche sur les biais liés à l’apparence dans les modèles d’IA laisse supposer qu’ils pourraient transmettre ces préjugés, malgré une formation principalement axée sur les textes.

Pour confirmer ce point, les chercheurs ont utilisé des photos de macaques rhésus, évaluées uniquement sur leur “gentillesse”. Étonnamment, le modèle GPT-4o a tout de même favorisé le macaque jugé comme étant le plus “sympathique” dans 66% des évaluations, indiquant que les biais pourraient affecter aussi bien les ensembles de données humains qu’animaux.

A lire :  Des responsables californiens cherchent à retirer les caméras Flock des rues publiques après une approbation erronée des HOA.

Recommandations pour un usage éthique des IA

Les principaux auteurs de l’étude exhortent à l’abandon de l’utilisation de visages dans les systèmes d’IA à enjeux élevés. Selon eux, les décisions concernant une embauche ou une libération conditionnelle devraient se fonder sur des preuves concrètes plutôt que sur l’apparence.

Il est également crucial que les entreprises et institutions effectuent des tests approfondis non seulement pour éviter les biais liés à la race et au genre, mais aussi pour les biais liés à l’apparence faciale, qui sont moins souvent étudiés.

Conclusion : Réfléchir aux implications des algorithmes

Les résultats de cette étude soulignent que de nombreux modèles d’IA peuvent reproduire des défauts humains bien connus et les propager dans des contextes sensibles. Il devient urgent d’évaluer ces systèmes de manière holistique pour préserver l’intégrité des décisions qui les impliquent.

FAQ

Quels moyens existent pour réduire les biais dans l’intelligence artificielle ?

Il est essentiel de former les modèles d’IA sur des ensembles de données diversifiés et représentatifs. De plus, la mise en place d’audits réguliers des systèmes d’IA pour identifier et corriger les biais apparents est cruciale.

Comment l’apparence influence-t-elle les décisions humaines ?

Des recherches ont montré que les premières impressions basées sur l’apparence peuvent influencer des domaines variés tels que l’embauche, le jugement en justice ou même les relations sociales.

Les biais habituels des humains peuvent-ils être complètement éliminés des modèles d’IA ?

Bien qu’il soit difficile d’éliminer complètement les biais, des efforts peuvent être faits pour les atténuer en améliorant la formation et la conception des systèmes d’IA.

A lire :  Un chauffeur de Tesla Cybercab « sans conducteur » bloque une borne de recharge, puis un homme revient le récupérer.

Comment les entreprises peuvent-elles sensibiliser à ces questions de biais ?

Des formations régulières et des discussions ouvertes sur les biais cognitifs et leurs impacts dans le domaine technologique peuvent aider à créer une culture de responsabilité au sein des entreprises.

Quels sont les risques associés à l’usage des chatbots dans des contextes sensibles ?

L’utilisation de chatbots dans des contextes de santé mentale ou de justice pénale, par exemple, pourrait mener à des décisions biaisées et controversées, ce qui pourrait affecter la vie des utilisateurs.