Dans le domaine de l’intelligence artificielle, des algorithmes conçus pour détecter et modérer les discours haineux en ligne montrent des préjugés importants, particulièrement envers les personnes noires. Par exemple, le système nommé Perspective, développé par Google, illustre ces dérives.
Les Conséquences Alarmantes
Des recherches menées par l’Université de Washington ont mis en lumière ces biais. Selon un article de New Scientist, ces outils, initialement destinés à protéger les communautés vulnérables de l’abus en ligne, se révèlent souvent inefficaces, voire nuisibles. Un effort louable pour assainir l’internet s’est donc transformé en un outil de discrimination contre des groupes déjà marginalisés.
Les Biais Ancrés
Les scientifiques ont analysé un ensemble de données constitué de plus de 100 000 tweets annotés par des humains pour entraîner les algorithmes de lutte contre le discours haineux. Leurs résultats montrent que les annotateurs avaient tendance à interpréter les tweets rédigés en African-American Vernacular English (AAVE) comme étant offensifs. Ce biais se propage alors dans les algorithmes, compromettant l’efficacité de leur modération.
Confirmation des Biais
Pour valider leurs constatations, l’équipe a entraîné plusieurs systèmes d’IA sur cette base de données. Les résultats ont révélé que ces algorithmes associaient l’AAVE à du discours haineux. Ce phénomène met en exergue comment des biais humains peuvent s’infiltrer dans des systèmes supposés impartiaux.
Effets Secondaires
L’équipe a également examiné ces algorithmes, y compris Perspective, sur un corpus de 5,4 millions de tweets, où les auteurs avaient précisé leur race. Les résultats étaient frappants : les algorithmes étaient parfois jusqu’à deux fois plus susceptibles de flaguer des posts d’individus s’identifiant comme afro-américains comme étant toxiques, comme rapporté par New Scientist.
Cela implique que les outils de modération automatisés risquent de supprimer de nombreux posts inoffensifs en fonction de l’ethnicité des utilisateurs, contribuant ainsi au silence et à la répression de certaines voix en ligne.
À lire absolument :
Pour approfondir, consultez cet article sur le biais racial des algorithmes de détection de discours haineux de Google sur New Scientist.
FAQ
Quels types de préjugés les algorithmes exhibent-ils ?
Les algorithmes peuvent développer des préjugés basés sur la race, la langue et d’autres caractéristiques sociales, entraînant des discrimination sur les plateformes.
Comment ces biais affectent-ils l’utilisation des réseaux sociaux ?
Les biais intégrés peuvent mener à une modération inéquitable, supprimant les posts de certaines communautés tout en laissant passer d’autres contenus similaires.
Quelles solutions peuvent être mises en place pour atténuer ces problèmes ?
Il est crucial d’améliorer le processus d’annotation humain, de diversifier les équipes qui développent ces technologies et de renforcer les protocoles de test pour identifier les biais avant la mise en service.
Les algorithmes peuvent-ils être complètement objectifs ?
Bien qu’il soit possible de réduire les biais, il est pratiquement impossible de créer un système totalement objectif, car les biais humains sont souvent intégrés dans les données utilisées pour entraîner ces systèmes.
Quelles alternatives existent aux algorithmes de modération automatiques ?
Certaines plateformes explorent des solutions de modération humaine ou des modèles hybrides combinant IA et supervision humaine pour assurer une approche plus équitable.
Cela peut vous intéresser
