Pour être à jour sur les dernières tendances et innovations, inscrivez-vous à notre newsletter. Vous découvrirez des avancées incontournables provenant des domaines les plus avant-gardistes de la science et de la technologie.
Regressions dans les données
Les algorithmes de machine learning dépendent entièrement de la qualité des données sur lesquelles ils sont formés. Récemment, un ensemble de données très utilisé, appelé 80 Million Tiny Images, a été retiré par le MIT pour des raisons de sécurité, car il contenait des insultes racistes et misogynes qui avaient été apprises par plusieurs algorithmes.
Il s’agit d’une base de données qui avait été employée dans le domaine de la reconnaissance d’images depuis 2008, mais qui n’avait jamais été examinée pour détecter des contenus offensants. Cela a permis à une source majeure de biais algorithmique de passer inaperçue.
Repartir de zéro
L’intelligence artificielle apprend à identifier des objets en analysant des milliers d’images déjà annotées. Dans le cas de l’ensemble de données du MIT, des centaines de photos montrant des personnes noires et des singes étaient étiquetées avec le mot N. De même, les images de femmes étaient accompagnées d’insultes misogynes. Une fois formée sur ces données, l’IA est susceptible de reproduire ces biais dans des situations réelles.
Antonio Torralba, chercheur au MIT, a exprimé ses regrets : il a admis qu’il aurait fallu procéder à une vérification manuelle de ces images. En conséquence, le MIT a décidé de retirer la collection en ligne pour protéger les utilisateurs de contenus offensants.
L’abandon d’une tâche titanesque
Dans un effort pour éliminer les images problématiques, le MIT a finalement conclu que cette tâche était trop complexe pour une intervention humaine. En effet, le nombre d’images à analyser était simplement trop élevé.
Une déclaration émanant du MIT précise qu’une inspection manuelle, bien que possible, ne peut pas garantir l’élimination complète des contenus offensants.
À LIRE AUSSI : MIT présente ses excuses et retire définitivement un vaste ensemble de données qui a appris aux systèmes d’IA à utiliser des insultes racistes et misogynes.
Plus sur le biais de l’IA : Robot journaliste accusé de racisme.
FAQ
Qu’est-ce que l’ensemble de données “80 Million Tiny Images” ?
Cet ensemble de données était une collection massive d’images utilisée pour entraîner des algorithmes de reconnaissance d’image, mais il a été retiré en raison de contenus offensants.
Pourquoi est-il important de vérifier les données d’entraînement ?
Les données d’entraînement influencent les comportements des algorithmes d’IA. Des données biaisées peuvent mener à des décisions injustes ou préjudiciables lorsque l’IA est déployée dans le monde réel.
Quelles sont les conséquences des biais algorithmiques ?
Les biais algorithmiques peuvent renforcer les stéréotypes négatifs et causer des discriminations dans des contextes variés, tels que le recrutement, le crédit et la justice pénale.
Comment les chercheurs s’assurent-ils de la qualité des données ?
Ils peuvent appliquer des filtres, effectuer des vérifications manuelles, et utiliser des techniques d’audit pour identifier et corriger les biais dans les ensembles de données.
Que fait le MIT pour prévenir de tels problèmes à l’avenir ?
Le MIT a promis d’être plus vigilant dans la création et l’évaluation de ses ensembles de données pour éviter la répétition de tels incidents à l’avenir.
