Protéger Contre la Haine
Dans un monde idéal, la meilleure manière de lutter contre les discours de haine serait le bon sens et la décence des individus. En d’autres termes, un respect profond de la dignité humaine, peu importe les divergences d’opinion, de race ou de genre. Cependant, la réalité est bien différente. Les discours de haine persistent et, avec la liberté qu’offrent les réseaux sociaux, ils ont trouvé une plateforme destructrice.
Les sites de réseaux sociaux ont essayé de gérer cette problématique, mais les efforts n’ont pas toujours été efficaces. Bien qu’il soit possible de signaler les discours de haine, il est pratiquement impossible de surveiller chaque agresseur ou chaque flot d’insultes, qu’elles soient dans des conversations privées ou sur des forums publics. Des chercheurs explorent des solutions, notamment l’utilisation de l’intelligence artificielle (IA) pour s’attaquer plus efficacement à ce problème.
Des chercheurs, comme Haji Mohammad Saleem de l’Université McGill à Montréal, ont mis au point une IA capable de comprendre comment s’expriment les membres de communautés haineuses. Contrairement à d’autres approches, comme celles de Jigsaw, la filiale de Google qui se concentre sur des mots clés spécifiques, cette IA se sert d’un apprentissage profond pour analyser le langage des communautés en question.
Une IA pour Sensibiliser
Dans un article publié, Saleem et son équipe ont expliqué le fonctionnement de leur IA. Ils ont entraîné leur algorithme à partir de données contenues dans des publications issues des groupes de soutien et d’abus les plus actifs sur Reddit, couvrant la période de 2006 à 2016. Ils ont particulièrement suivi trois groupes souvent ciblés par des discours de haine : les Afro-Américains, les personnes en surpoids et les femmes.
Leur méthode consiste à utiliser du contenu de ces communautés pour entraîner l’IA, évitant ainsi le processus d’annotation coûteux et souvent long. Selon les chercheurs, cette approche dépasse les systèmes traditionnels basés sur des mots clés, offrant des résultats significativement plus performants.
L’algorithme en question parvient à déceler des sous-entendus qui échappent souvent aux simples mots clés, diminuant ainsi le taux de faux positifs. Chaque communauté, qu’elle soit haineuse ou non, possède sa propre manière de s’exprimer, ce qui représente une approche intelligente selon Thomas Davidson, professeur à l’Université Cornell.
Cependant, des limites subsistent. L’IA s’appuie sur des données de Reddit et pourrait donc ne pas être aussi efficace sur d’autres plateformes. De plus, elle pourrait ne pas identifier certains discours clairement offensants que d’autres systèmes reposant sur des mots clés détecteraient. La lutte contre le discours de haine est complexe, de la même manière que traquer la propagande terroriste en ligne.
Bien que l’intelligence artificielle puisse progresser dans la détection de la haine en ligne, elle ne pourra pas tout accomplir seule. Finalement, le discours de haine demande un jugement humain pour être identifié, et la bonté humaine reste irremplaçable par aucune machine.
FAQ
Quel rôle joue l’intelligence artificielle dans la détection des discours de haine ?
L’IA analyse les modèles de langage dans des communautés spécifiques pour identifier des discours de haine, offrant une approche novatrice.
Quelles sont les limites des systèmes basés sur des mots clés ?
Ces systèmes peuvent manquer de nuances et ne pas capturer le contexte, ce qui peut conduire à des faux positifs ou à des discours vraiment offensants qui passent inaperçus.
Comment les réseaux sociaux gèrent-ils les discours de haine actuellement ?
Ils ont mis en place des fonctionnalités de signalement, mais la surveillance de chaque utilisateur reste un défi difficile.
Pourquoi est-il important d’adopter une approche humaine dans la lutte contre la haine ?
La nature subjective du discours de haine implique un jugement critique qui ne peut pas être totalement automatisé.
Quelles autres méthodes existent pour combattre le discours de haine en ligne ?
Outre l’IA, des campagnes de sensibilisation et des politiques communautaires solides sont mises en place pour encourager des interactions respectueuses sur les réseaux sociaux.