Intelligence Artificielle Éthique
Il est désormais largement reconnu que l’intelligence artificielle (IA) présente des problèmes de biais. En effet, les préjugés de la société s’inscrivent souvent, parfois sans intention, dans les algorithmes. Par exemple, de nombreux algorithmes de reconnaissance d’image identifient correctement des femmes en robes blanches comme des « mariées », mais échouent souvent à reconnaître des femmes indiennes en sari de mariage.
Pour remédier à cette situation, Google a lancé un défi ouvert connu sous le nom de Compétition des Images Inclusives. L’objectif de ce concours, selon le MIT Technology Review, est de développer des ensembles de données et des algorithmes visant à faire en sorte que l’IA puisse mieux reconnaître une plus grande diversité de personnes et de cultures.
Désapprentissage Profond
Il y a trois mois, des équipes ont commencé à travailler sur des algorithmes de détection d’images pour les rendre plus culturalement inclusifs. Cela impliquait non seulement d’utiliser des étiquettes plus appropriées pour les images utilisées lors de l’entraînement, mais aussi d’améliorer la technologie elle-même.
Ces nouveaux algorithmes ont subi une épreuve de stress avec des images envoyées par des volontaires du monde entier. Ceux qui ont su classifier les nouvelles photos avec précision — par exemple, en désignant une femme en train de se marier comme « mariée » plutôt que le label générique « personne » — ont obtenu plus de points, conformément aux critères de Google.
Progrès Nécessaires
Sur le tableau de classement, les cinq meilleures équipes, dirigées par le ingénieur en deep learning de Samsung AI Pavel Ostyakov, vont chacune recevoir un prix de 5 000 dollars. Bien que ce montant puisse sembler modeste au regard de l’importance de la problématique à résoudre, il marque un pas en avant dans la recherche sur l’IA.
Dans les jours à venir, ces équipes gagnantes auront l’opportunité de présenter leurs travaux à la Trente-deuxième Conférence sur les Systèmes de Traitement de l’Information Neurale, un événement reconnu mondialement dans le domaine de l’IA. Il est important de préciser qu’aucune des équipes n’a élaboré un algorithme à la fois parfait et impartial ; par exemple, l’un des cinq premiers groupes a su créer un algorithme capable d’identifier correctement une mariée indienne.
Néanmoins, ce concours est un avancement significatif vers la création d’une IA qui soit réellement inclusive et capable de servir toutes les catégories de personnes.
À LIRE AUSSI : L’IA a une vision du monde culturellement biaisée que Google prévoit de modifier [MIT Technology Review]
D’autres informations sur le biais algorithmique : Microsoft annonce un outil pour détecter les IA biaisées car il semble que nous continuons à créer des IA biaisées.
FAQ
Qu’est-ce que le biais algorithmique ?
Le biais algorithmique se produit lorsque les attentes des concepteurs, leurs préjugés ou des données déséquilibrées se traduisent en décisions inéquitables. Cela peut affecter les résultats fournis par les systèmes d’IA.
Pourquoi le défi d’inclusion est-il important ?
Ce défi vise à rassembler les efforts de chercheurs et d’ingénieurs pour améliorer la reconnaissance des diversités culturelles, ce qui peut contribuer à rendre la technologie plus accessible et équitable.
Comment les équipes participent-elles au défi ?
Les équipes doivent soumettre des algorithmes qui réussissent à identifier correctement des images classées par des volontaires, en utilisant des étiquettes précises.
Quelles sont les implications pour l’avenir de l’IA ?
L’avancement vers des algorithmes inclusifs peut modifier la manière dont les technologies sont intégrées dans notre quotidien, offrant une représentation plus fidèle et équitable de la diversité humaine.
Quels sont les enjeux liés à une IA non inclusive ?
Une IA qui ne tient pas compte des diversités culturelles ou des spécificités individuelles peut renforcer des stéréotypes, causer des discriminations et nuire à l’équité dans ses applications variées, comme le recrutement ou la justice.