Inscription pour explorer le futur
Inscrivez-vous pour découvrir les innovations incontournables dans les domaines des sciences et des technologies. Restez à jour avec l’actualité en matière d’avancées technologiques.
Une méthode de sélection controversée
Dans les années 1980, l’École de médecine de l’hôpital St George à Londres utilisait un logiciel pionnier pour sélectionner ses étudiants. Ce programme, qui examinait les candidatures de près de 2 000 postulants par an, se basait sur des données historiques pour déterminer les caractéristiques des candidatures réussies. Cependant, il s’est avéré que ce système rejetait fréquemment les candidates féminines et les individus portant des noms non européens, indépendamment de leurs qualifications académiques. Les deux médecins ayant fait cette découverte ont constaté que le programme avait intégré des biais de genre et raciaux présents dans les données d’apprentissage, affirmant que les femmes et les candidats d’origine étrangère n’étaient pas faits pour devenir médecins.
Évolution des biais dans l’intelligence artificielle
Trente ans plus tard, des algorithmes d’intelligence artificielle dotés de biais sont omniprésents dans divers secteurs, allant de l’administration publique à la santé, facilitant des décisions critiques basées sur des analyses de données historiques. Malheureusement, ces systèmes, tels que ceux utilisés par Google et Amazon, continuent de refléter des préjugés de notre société. Par exemple, certains outils publicitaires montrent plus d’annonces pour des emplois moins rémunérés aux femmes et d’autres technologies, comme celles des caméras numériques, ont du mal à reconnaître les visages des utilisateurs non blancs. Un des cas les plus marquants concerne l’algorithme COMPAS, utilisé par des agences judiciaires pour évaluer les risques de récidive, qui a faussement identifié les individus noirs comme étant à risque presque deux fois plus que les blancs.
La complexité des algorithmes
La question de la transparence des algorithmes est un enjeu majeur. Même les experts en informatique ont des difficultés à déterminer si un algorithme est biaisé, car les détails de leur conception sont souvent protégés. Dans certains cas, la complexité des algorithmes est telle que même leurs créateurs ne comprennent pas pleinement leur fonctionnement. Ce phénomène est connu sous le nom de problème de la boîte noire, où le processus décisionnel reste obscur, rendant difficile l’identification et la correction des biais en jeu.
Un mouvement vers la responsabilité
La prise de conscience des biais algorithmiques grandit à travers la communauté technologique. De plus en plus d’experts soulignent la nécessité de réglementations pour encadrer l’utilisation des algorithmes. Des recherches sur l’équité dans l’intelligence artificielle émergent et soulèvent des questions essentielles sur ce que nous devrions programmer. Selon Kate Crawford, chercheuse chez Microsoft, il est crucial de se demander si certaines technologies ne devraient tout simplement pas voir le jour.
La nécessité de régulations
Bien que certains secteurs, comme celui du crédit, soient régulés, d’autres, tels que le système judiciaire et la publicité, manquent de règles pour encadrer l’utilisation des algorithmes. Cela signifie que les citoyens ne savent pas forcément pourquoi leur demande de prêt a été refusée ou pourquoi ils n’ont pas obtenu un emploi. Les systèmes de notation algorithmiquement biaisés, tels que COMPAS, soulèvent des préoccupations, notamment en ce qui concerne le respect des procès équitables, comme l’a soutenu Eric L. Loomis, condamné à six ans de prison en raison de l’évaluation d’un algorithme opaque.
Une volonté de transformation
Il existe des initiatives visant à améliorer la transparence et l’explicabilité des algorithmes. Des algorithmes récents montrent qu’il est possible de créer des modèles aussi efficaces que des systèmes plus opaques sans sacrifier leur compréhension. De nombreux chercheurs et universitaires expriment l’urgence de mettre en place des tests et des évaluations approfondis avant que ces outils ne soient déployés dans le monde réel, similaire aux essais cliniques pour les médicaments.
Conclusion
Il est essentiel d’éliminer les biais pour construire des algorithmes qui peuvent vraiment transformer notre société. Si nous parvenons à réduire ces biais, nous pourrions créer un cycle vertueux qui nous aiderait à avancer vers une société plus juste.
FAQ
Qu’est-ce que le biais algorithmique ?
Le biais algorithmique fait référence à la tendance des algorithmes à reproduire et amplifier les préjugés présents dans les données sur lesquelles ils sont formés.
Quelles sont les conséquences des biais dans l’IA ?
Les biais peuvent mener à des discriminations systématiques dans des domaines comme l’emploi, la justice pénale et l’accès aux services, nuisant ainsi à l’équité sociale.
Comment peut-on rendre un algorithme plus transparent ?
La transparence peut être améliorée en partageant les données utilisées pour l’entraînement, en fournissant des explications sur les décisions prises par l’algorithme et en effectuant des audits réguliers.
Pourquoi est-il important de réglementer l’IA ?
La réglementation est cruciale pour protéger les droits des individus, assurer l’équité des décisions prises par les algorithmes et éviter que des biais historiques ne soient perpétués.
Quelles sont les alternatives aux algorithmes de boîte noire ?
Des modèles d’IA explicables et basés sur des méthodes ouvertes peuvent offrir des solutions sans les inconvénients associés aux algorithmes de boîte noire, en permettant une meilleure compréhension des décisions algorithmiques.
