Une étude sur les biais de genre dans l’IA en Irlande
Une expérience réalisée dans un bureau virtuel en Irlande met en lumière un biais de genre qui semble se prolonger à l’ère de l’intelligence artificielle. Dans le cadre de cette étude, les travailleurs ont payé un assistant AI qui avait des caractéristiques féminines nettement moins qu’un assistant ayant des traits masculins, bien qu’ils accomplissent les mêmes tâches.
Ce qu’il faut retenir
Pour mieux évaluer la valeur que les individus accordent au travail des assistants AI, une étude menée par l’Université de Limerick a impliqué 189 participants qui devaient réaliser des tâches de bureau dans un environnement de réalité virtuelle. Les résultats ont révélé qu’ils distribuaient de l’argent réel entre eux et les assistants virtuels, favorisant systématiquement l’agent masculin, Johan, par rapport à l’agent féminin, Johanna.
Dr. Mary Hausfeld de l’École de commerce Kemmy a exprimé dans un communiqué que l’écart observé était évident. Les participants ont non seulement attribué plus d’argent à Johan, mais ils l’ont également perçu comme étant plus humain.
“Ce qui est frappant dans nos résultats, c’est que la technologie des agents AI était identique, mais les personnes ne les ont pas traités de la même manière,” a-t-elle déclaré dans son communiqué.
Les participants n’ont pas non plus montré de préférence marquée pour un assistant ayant des attributs masculins ou féminins, même si leur comportement variait.
Détails supplémentaires sur l’étude
Les chercheurs ont souligné que cette expérience s’inscrit dans une analyse plus large des façons dont le design de l’IA influence les interactions professionnelles. En plus de noter la différence entre les deux agents, ils ont constaté que les assistants ayant une apparence humaine sont davantage crédités pour leur travail par rapport à des versions robotisées reposant sur la même intelligence artificielle.
Cette étude a été conçue pour utiliser de l’argent réel dans un échange dans un bureau simulé, examinant si des caractéristiques de genre et l’apparence humaine des assistants AI peuvent avoir un impact mesurable sur les résultats. Hausfeld a expliqué que la conception de ces assistants peut amener les utilisateurs à projeter des hypothèses similaires à celles qu’ils forment lors d’interactions humaines.
“Nous avons souvent tendance à considérer l’IA comme étant neutre, mais la façon dont nous concevons et présentons ces systèmes peut activer les préjugés et presuppositions que nous avons aussi dans nos interactions humaines,” a-t-elle ajouté.
Initiatives en cours
L’article intitulé “Humain comme Masculin ? Comment le design des assistants AI est lié à la confiance et aux récompenses monétaires au travail dans la VR” devait être présenté lors de la 14ème conférence nordique sur l’interaction homme-machine à Vaasa, en Finlande, du 5 au 7 octobre, et sera publié par l’Association for Computing Machinery.
Les chercheurs ont relevé que les résultats démontrent clairement que l’IA n’évolue pas dans un vide en ce qui concerne son image. Pour cette raison, les concepteurs devraient prêter attention à plus que seulement la technologie sous-jacente lors de la création d’agents AI.
“À mesure que ces agents AI deviennent plus courants dans les environnements de travail, il est crucial de réfléchir attentivement aux caractéristiques qui leur sont attribuées et aux comportements que ces choix peuvent encourager,” a noté Hausfeld.
Que puis-je apprendre de plus ?
L’intelligence artificielle est en train de transformer le travail de bureau ainsi que les prises de décision en management, entraînant des effets secondaires et une inquiétude croissante.
- Dans le milieu professionnel, les effets secondaires de l’IA compliquent les notions de productivité, de stress et de routine quotidienne.
- De nombreux CEO estiment que l’IA est présente partout, sauf dans la comptabilité, malgré sa diffusion rapide.
- Dans les bureaux et centres d’appels, l’automatisation soulève des questions concernant les emplois, alors que les robots prennent de plus en plus de place.
- Un investisseur a mis en garde sur l’impact dévastateur que l’IA pourrait avoir sur l’emploi, annonçant que cette menace se profile plus rapidement que prévu.
FAQ
Quelles sont les implications des résultats de l’étude ?
Les résultats suggèrent que des biais de genre peuvent influencer la manière dont les gens perçoivent et évaluent le travail de l’IA, ce qui pourrait affecter les décisions de rémunération et de récompense.
Comment les concepteurs peuvent-ils éviter ces biais ?
Les concepteurs devraient être conscients des stéréotypes de genre et travailler à créer des assistants AI qui reflètent une diversité et une neutralité dans leur apparence et leur comportement.
Y a-t-il des mesures en cours pour adresser ces biais dans l’IA ?
Diverses initiatives sont mises en place dans le secteur technologique pour développer des normes et des pratiques qui minimisent les biais potentiels dans les systèmes d’IA, notamment par le biais de directives éthiques.
Quelle est la réaction de l’industrie à ces découvertes ?
L’industrie commence à reconnaître l’importance de prendre en compte les biais présents dans leurs technologies et à s’engager à créer des solutions plus équitables et inclusives.
Quel futur envisage-t-on pour l’IA dans les lieux de travail ?
Le futur de l’IA dans les bureaux devrait impliquer une intégration plus profonde de ces technologies, mais avec une attention accrue sur l’impact social, ainsi que sur comment elles peuvent être utilisées pour favoriser un environnement de travail juste et équitable.
