Lorsque les utilisateurs se voient offrir une plateforme pour partager des vidéos en direct, certains en profitent pour diffuser des contenus horribles et inacceptables. C’est une réalité que Facebook a expérimentée de manière directe ; le réseau est devenu tristement célèbre pour la diffusion de scènes de violence, de meurtres, et même de suicides.
Pour empêcher la mise en ligne de ces vidéos violentes sur sa plateforme, Facebook a instauré des systèmes de modération, à la fois basés sur des **algorithmes d’intelligence artificielle** et surveillés par des **modérateurs humains**. Ces systèmes sont chargés d’identifier et de supprimer les diffusions à caractère violent. Au fil du temps, l’entreprise s’est de plus en plus tournée vers ses modérateurs d’IA.
Avec l’objectif d’améliorer cette modération, Facebook, à l’instar d’autres **plateformes en ligne**, a travaillé sur des algorithmes permettant de signaler la violence. Actuellement, Facebook envisage de concevoir son propre **matériel d’IA** — un circuit intégré spécialisé. L’un des principaux avantages de cette technologie réside dans sa capacité à consommer moins de **puissance de calcul**, ce qui pourrait accélérer considérablement le traitement des vidéos, selon des informations de **Bloomberg**. Actuellement, l’IA peut identifier des vidéos violentes en moyenne en dix minutes, mais certaines restent visibles pendant des heures. L’idéal serait que Facebook puisse retirer ces diffusions en temps réel, s’il y parvenait, ce serait une avancée significative.
Cette initiative semble être une stratégie judicieuse pour une entreprise qui se veut être un **réseau social familial et bienveillant**. Si les outils de détection de vidéos s’améliorent considérablement, il est possible que certains actes violents ne se produisent même pas car les agresseurs n’auraient pas d’audience. C’est une logique similaire à celle qui empêche les **médias** de glorifier les criminels.
Cependant, un point de flou demeure concernant la formation des algorithmes de Facebook. Ils devront savoir faire la différence entre des vidéos militantes d’activistes qui cherchent à **sensibiliser** aux violences policières et les contenus glorifiant ces actes. Par exemple, lors de la **tuée** de Philando Castile par un policier en 2017, sa petite amie avait filmé la scène en direct sur Facebook. Facebook s’est trouvé dans une situation délicate, hésitant entre le retrait et la réactivation de la vidéo avec des avertissements de contenu graphique, avant finalement d’en ordonner la suppression. La logique de Facebook était de maintenir les vidéos ayant pour but de sensibiliser à la violence, tout en supprimant celles qui célèbrent ces actes.
En théorie, cela pourrait permettre aux **observateurs** de continuer à maintenir le suivi des abus via Facebook Live. Néanmoins, la dépendance croissante de Facebook à l’IA pour signaler la violence pourrait ne pas prendre en compte les nuances de contexte autour de chaque vidéo. Ainsi, il est envisageable que de nouvelles règles de filtrage éliminent les diffusions violentes, indépendamment de leur message ou de leur intention.
FAQ
Quelle est la réponse de Facebook face à la diffusion de contenus violents ?
Facebook a mis en place des systèmes de surveillance humains et automatisés pour détecter et supprimer les vidéos violentes.
Comment Facebook forme-t-il ses algorithmes pour la modération ?
Les algorithmes de Facebook s’appuient sur des données historiques et des techniques d’apprentissage machine pour identifier des modèles de contenu problématique.
Quelles sont les limites actuelles des systèmes de modération ?
Bien que Facebook soit en amélioration constante de ses outils de modération, il n’est pas toujours capable de distinguer le contexte des vidéos, ce qui peut entraîner des suppressions injustifiées.
Quelle pourrait être l’impact de l’IA sur la diffusion de contenus violents ?
L’utilisation d’algorithmes d’IA pourrait potentiellement réduire la visibilité de certains actes violents en ligne, mais pourrait aussi limiter la liberté d’expression.
Que se passe-t-il si un contenu est signalé comme violent ?
Une fois un contenu signalé, il est examiné par des systèmes automatisés et, parfois, par des modérateurs humains pour déterminer s’il enfreint les règles de la plateforme.