La Technologie Inappropriée
De nos jours, de plus en plus d’entreprises utilisent des outils d’intelligence artificielle pour sélectionner des candidats potentiels. L’objectif est de rendre le processus d’embauche plus fluide tout en réduisant les biais. Pourtant, les rapports de la BBC révèlent que ces outils pourraient, au contraire, compliquer les choses en écartant des candidats hautement qualifiés.
Une Illustration du Problème
Un exemple frappant de cette situation s’est produit chez Fullmind, une société de tutorat. Après avoir été refusé, un candidat a modifié son année de naissance sur son CV pour se présenter comme plus jeune. Ce simple changement a permis d’obtenir un entretien, car le logiciel d’IA utilisé par l’entreprise écartait automatiquement les candidats plus âgés.
En raison de ce comportement discriminatoire, l’entreprise a dû régler un litige avec la Commission américaine pour l’égalité des chances en matière d’emploi concernant des accusations de discrimination liée à l’âge.
Autres Cas de Biais
Un autre incident a mis en lumière un problème similaire. Un outil d’IA a mal évalué une maquilleuse sur la base de son langage corporel, malgré des compétences reconnues dans son domaine. Ces erreurs dans le recrutement pourraient se multiplier à mesure que d’autres entreprises adopteront de telles technologies.
Le professeur de journalisme à l’Université de New York, Hilke Schellmann, auteur du livre Algorithm: How AI Can Hijack Your Career and Steal Your Future, a déclaré à la BBC qu’il y a peu de preuves que ces outils sont dépourvus de biais ou qu’ils identifient les candidats les plus qualifiés.
Une Réalité Alarmante
Ces préoccupations ne relèvent pas de la théorie. Une enquête menée par IBM en 2023 a révélé que 42 % des entreprises commençaient déjà à utiliser l’IA pour des fonctions essentielles en ressources humaines et en recrutement. Pour ceux qui cherchent un emploi, cela ressemble à un véritable cauchemar dystopique.
Les Défis à Surmonter
Les candidats doivent constamment s’adapter afin de faire en sorte que leurs CV répondent aux critères souvent flous d’un outil de sélection basé sur l’IA. Même s’ils réussissent à passer plusieurs étapes de sélection, que se passe-t-il s’ils échouent à un test de langage corporel, qui peut déjà être biaisé ?
Ces outils d’IA sont également formés à partir de données passées qui peuvent déjà comporter des erreurs et des préjugés. Par exemple, dans un autre incident signalé par la BBC, un système d’IA, qui avait été entraîné avec des CV d’hommes travaillant dans une entreprise, a écarté les candidates qui ne pratiquaient pas des sports comme le baseball ou le basketball.
Schellmann a souligné que si un gestionnaire d’embauche humain biaisé peut nuire à un certain nombre de personnes en un an, un algorithme utilisé pour toutes les candidatures dans une grande entreprise pourrait causer du tort à des centaines de milliers de personnes.
FAQ
Pourquoi les entreprises utilisent-elles des outils d’IA pour le recrutement ?
Les entreprises recourent à ces technologies dans le but de simplifier le processus d’embauche et de réduire les biais humains, bien que cela puisse entraîner des discriminations insidieuses.
Quels types de biais l’IA peut-elle introduire dans le processus de recrutement ?
Les biais peuvent être liés à l’âge, au genre, à l’origine ethnique ou à d’autres caractéristiques, en raison des données historiques sur lesquelles ces systèmes sont formés.
Existe-t-il des solutions pour éviter les biais liés à l’IA ?
Certaines entreprises commencent à intégrer des audits réguliers de leurs systèmes d’IA et à diversifier les ensembles de données utilisés pour entraîner ces technologies, afin de minimiser les biais.
Quelles sont les conséquences juridiques potentielles pour les entreprises utilisant des outils biaisés ?
Les entreprises peuvent faire face à des poursuites pour discrimination, comme l’illustre le cas de Fullmind, ce qui peut nuire à leur réputation et entraîner des sanctions financières.
Comment un candidat peut-il se préparer à un processus de recrutement utilisant l’IA ?
Les candidats devraient étudier les attentes des employeurs, adapter leurs CV et se familiariser avec les tests d’IA, tout en restant authentiques dans leur présentation.
