Lutte contre le contenu extrémiste
Ces dernières années, les gouvernements ont insisté sur la nécessité pour des plateformes comme Facebook de mieux gérer le retrait de contenus extrémistes mettant en avant le terrorisme. Malgré cette demande pressante, l’analyse d’une enquête menée par The Atlantic expose que les algorithmes d’intelligence artificielle mis en place pour répondre à ce besoin pourraient en réalité nuire à l’identification de ces actes criminels, en supprimant des preuves clés.
Investigateurs citoyens
Dans l’enquête de The Atlantic, un incident de 2017 est mentionné où un acte terroriste est resté un sujet d’analyse malgré son retrait par Facebook. Dans une vidéo, un terroriste se vante de l’exécution de 18 personnes, un contenu qui a circulé sur le net avant d’être supprimé. Cette diffusion globale a permis à des internautes d’identifier l’emplacement de cette exécution : Libye. Ils ont également révélé que l’auteur de cet acte odieux était Mahmoud Mustafa Busayf al-Werfalli, un commandant d’Al-Saiqa.
Le mandat d’arrêt qui a suivi pour Werfalli fait référence à cette vidéo Facebook et à d’autres similaires, prouvant ainsi l’importance de ces enregistrements dans le cadre d’enquêtes judiciaires.
Preuves perdues
Depuis cet événement, les algorithmes de filtrage utilisés par Facebook, YouTube, et d’autres plateformes ont considérablement évolué. Ils sont désormais capables d’éradiquer automatiquement de grandes quantités de contenu extrémiste, parfois même avant qu’un utilisateur ne puisse les voir.
Bien que cette avancée soit saluée comme un succès dans la lutte contre la propagande terroriste, elle pose un problème majeur : la disparition de preuves qui pourraient être déterminantes pour traduire en justice des criminels de guerre, des dictateurs et des terroristes. Ainsi, le défi consiste à trouver un équilibre entre la protection du public et la préservation d’éléments de preuve cruciaux.
EN SAVOIR PLUS : Une analyse approfondie dans The Atlantic montre comment les entreprises technologiques effacent des preuves de crimes de guerre.
Pour en apprendre davantage sur le terrorisme : Découvrez comment Facebook utilise l’apprentissage automatique pour détecter le contenu terroriste.
FAQ
Quels types de contenus sont considérés comme extrémistes ?
Les contenus extrémistes incluent toute forme de publication qui fait la promotion du terrorisme, de la violence, ou qui incite à la haine.
Comment les algorithmes détectent-ils le contenu problématique ?
Les entreprises technologiques utilisent des algorithmes d’intelligence artificielle et d’apprentissage automatique pour analyser et identifier des modèles dans les données susceptibles de contenir du contenu dangereux.
Quelles sont les conséquences de la suppression de preuves ?
La suppression de preuves peut entraver la capacité des autorités judiciaires à poursuivre des criminels, ce qui pose un défi pour la justice et la sécurité.
Que peuvent faire les utilisateurs pour signaler du contenu inapproprié ?
Les utilisateurs peuvent généralement utiliser des outils de signalement proposés par les plateformes pour signaler les contenus qu’ils estiment être problématiques ou dangereux.
Existe-t-il des solutions pour équilibrer sécurité et justice ?
Des discussions sont en cours pour développer des systèmes qui permettent de préserver des preuves tout en filtrant efficacement le contenu nuisible.
