Microsoft s’attaque à un problème majeur : le **biais algorithmique**. Cela se produit lorsque l’intelligence artificielle s’appuie sur des données incomplètes ou biaisées, ce qui peut renforcer les préjugés sociaux existants. L’entreprise souhaite développer un outil capable de **détecter** et de **notifier** les utilisateurs si un algorithme d’IA les traite de manière inéquitable, en se basant par exemple sur leur **race ou leur genre**, comme l’indique le MIT Technology Review.
Il est positif que Microsoft, qui se positionne comme une entreprise visant à **rassembler les gens** grâce à l’IA, s’associe à Google et Facebook pour concevoir un outil de détection des **algorithmes mal formés**. Cependant, cette nouvelle initiative ne permettra que de **déceler les problèmes déjà présents** sans empêcher la création de systèmes pouvant accroître la **discrimination policière**, par exemple. Ces systèmes continueront d’être élaborés tant qu’ils ne seront pas identifiés comme problématiques.
Pour construire une IA véritablement **équitable** et **bénéfique pour tous**, il est crucial d’apporter davantage d’attention dès le **début du processus** de développement. Une approche serait d’opter pour un **audit externe** réalisé par des experts qui examineraient les algorithmes d’une entreprise pour déceler des signes de biais, que ce soit dans le code ou dans les données utilisées.
L’idée d’un audit des **IA**, évoquée dans l’article du MIT Technology Review, commence à gagner du terrain. Certaines entreprises d’IA commencent à engager des **auditeurs** pour analyser leur code. Cependant, il est nécessaire que l’IA soit suffisamment simple pour qu’un externe puisse identifier **rapidement** les zones problématiques, ou que l’auditeur soit très familiarisé avec le code, ce qui n’est pas toujours le cas, surtout avec les **algorithmes complexes** de **deep learning**.
Une autre solution pourrait être d’améliorer la formation des **développeurs** afin qu’ils soient plus conscients de leurs propres **préjugés**. Cela les aiderait à éviter que leurs opinions personnelles ne soient interprétées comme des faits par les algorithmes. Les programmeurs n’ont pas l’intention de créer des machines **racistes**, mais il est essentiel de reconnaître notre humanité et nos **biais implicites** pour favoriser un développement technologique plus éthique.
Ces propositions nécessitent un changement de **mentalité** dans la façon dont la technologie est développée, y compris au sein des entreprises qui conçoivent ces outils de diagnostic. Cela dit, il est encourageant de voir que les chercheurs et les entreprises commencent à **prendre conscience** du problème.
FAQ
Qu’est-ce que le biais algorithmique ?
Le biais algorithmique désigne la tendance des systèmes d’intelligence artificielle à reproduire ou à renforcer les préjugés existants en raison de données biaisées.
Comment un audit d’IA peut-il aider ?
Un audit d’IA permet de faire examiner le code par un expert externe, qui peut identifier les problèmes potentiels de biais avant la mise en service de l’algorithme.
Pourquoi est-il important d’améliorer la formation des développeurs ?
Améliorer la formation aide les développeurs à reconnaître leurs propres biais, contribuant ainsi à un processus de création d’IA plus équitable et éthique.
Quels sont les risques d’un algorithme mal formé ?
Les algorithmes mal formés peuvent accroître des injustices sociales, comme la discrimination dans le domaine judiciaire ou le profilage racial.
Quelles autres solutions existent pour minimiser le biais dans l’IA ?
En plus d’audits externes, des méthodologies de développement plus révisées et des échanges multidisciplinaires peuvent également contribuer à améliorer l’équité des algorithmes.
