Interrogations sur la modération des contenus inappropriés
Des journalistes ont suscité des questions sur la manière dont Meta gère les contenus inappropriés sur Facebook, notamment en découvrant que la plateforme avait retiré huit comptes que des utilisateurs avaient signalés pour avoir publié des vidéos générées par intelligence artificielle montrant des abus envers des athlètes. Ces comptes étaient restés actifs malgré les signalements effectués, soulevant des doutes quant aux pratiques de la société concernant la modération des contenus indésirables.
Les faits marquants
Maggie Harrison Dupré, reporter, a mobilisé son équipe pour utiliser un compte personnel de Facebook afin de signaler dix pages diffusant des vidéos où de vieux entraîneurs masculins touchaient de manière inappropriée de jeunes athlètes féminines. Dans une vidéo publiée sur Instagram par le média Futurism, elle a partagé les détails de cette enquête.
Après que les signalements aient été émis, Facebook a pris une semaine avant de considérer ces comptes. Ils ont informé les utilisateurs que les contenus signalés ne contrevenaient pas à leurs normes communautaires, les laissant ainsi actifs. Deux autres comptes avaient disparu sans explication claire.
Harrison Dupré a noté que plusieurs athlètes apparents sur ces vidéos avaient l’air d’être des adolescents. Elle a observé que les clips duraient souvent quelques secondes et représentaient des contacts inappropriés, du grooming ainsi que des abus sexuels.
Un utilisateur d’Instagram a exprimé son mécontentement face à l’attitude de Meta. Il a mentionné que, à son avis, la modération de la plateforme concernant les contenus inappropriés était faible. Il a rapporté qu’après avoir signalé des commentaires clairs et explicites liés à l’auto-agression, on lui avait répondu que ces contenus ne violaient pas les normes de la communauté.
Contexte supplémentaire
Un expert consulté par Harrison Dupré a corroboré son analyse des vidéos en les qualifiant de représentations d’abus sexuels. Harrison Dupré a également révélé qu’elle était elle-même athlète au niveau Division I.
Elle a souligné que ces vidéos normalisaient un comportement abusif en illustrant les jeunes athlètes répondant avec des sourires, des rires ou des remerciements à leurs entraîneurs. De nouvelles pages présentant des vidéos similaires surgissaient quotidiennement, Facebook remplissant ses recommandations avec ce type de contenu à chaque fois.
Cette situation a conduit Harrison Dupré à s’interroger sur la politique de Facebook, qui n’a pas supprimé les comptes signalés tout en continuant de recommander des contenus similaires à ses utilisateurs. Au-delà des implications morales évidentes, la technologie utilisée pour générer ces vidéos par IA pose également des problèmes environnementaux, car les infrastructures informatiques consomment une grande quantité d’électricité et d’eau pour le refroidissement.
Néanmoins, l’IA peut aussi jouer un rôle bénéfique en optimisant les systèmes d’énergie propre.
Actions entreprises
Suite à une prise de contact directe de la part des journalistes de Futurism, Meta a finalement retiré les pages restantes. Des notifications mises à jour ont annulé plusieurs décisions antérieures, confirmant que les contenus signalés enfreignaient les normes communautaires et que les comptes concernés avaient été désactivés.
Harrison Dupré a noté que la réponse initiale de Meta insistait sur le fait que sa plateforme n’avait pas de place pour les abus. Même lorsque la société a été poussée à expliquer les résultats divergents, elle a reconnu des erreurs tout en maintenant qu’elle effectuait une modération proactive.
Après que Meta ait supprimé certains comptes, Harrison Dupré a continué de voir des recommandations pour de nouvelles pages similaires. Elle a également noté que l’application d’une modération compte par compte ne pouvait pas suivre la rapidité avec laquelle les éditeurs produisaient et publiaient des vidéos similaires.
« Quand un journaliste signale dix comptes spécifiques et que ces dix comptes sont supprimés, cela ne constitue pas une véritable modération de contenu. Avec l’IA, il est crucial que les plateformes soient proactives concernant les contenus abusifs. C’est vraiment décevant d’observer cela », a-t-elle ajouté.
Informations supplémentaires
Des inquiétudes vis-à-vis des contenus générés par IA sur les réseaux sociaux ne se limitent pas uniquement aux vidéos relatives aux athlètes. D’autres exemples incluent des vidéos manipulatives, des clips de mode factices ainsi que le vol de blagues.
- Sur les plateformes de Meta, des vidéos générées par IA montrant des enfants en larmes cherchent à obtenir des likes en promettant leur libération.
- Sur TikTok, des vidéos de femmes générées par IA cachent des injections de GLP-1 en promouvant systématiquement la même application.
- Des amateurs de mode ont initialement pris des vidéos de tenues générées par IA pour de véritables images avant de réaliser la tromperie.
- Sur Instagram, de faux comédiens d’IA empruntent des blagues de véritables humoristes sans que la plateforme ne trouve une solution efficace.
FAQ
Qu’est-ce que le grooming ?
Le grooming désigne le processus par lequel un adulte établit une relation de confiance avec un enfant ou un adolescent dans le but de le préparer à des abus sexuels.
Comment Meta réagit-elle aux signalements ?
Meta affirme avoir des procédures en place pour traiter les signalements, mais des incohérences dans leur application ont été mises en lumière, entraînant des préoccupations quant à leur efficacité.
Quels types de contenus sont considérés comme inappropriés sur Facebook ?
Les contenus inappropriés incluent toute représentation d’abus, de violences, de harcèlement et d’autres sujets qui violent les normes communautaires de la plateforme.
L’IA peut-elle avoir un impact positif ?
Oui, l’IA peut également être utilisée pour améliorer des processus, comme optimiser les systèmes d’énergie renouvelable.
Que peuvent faire les utilisateurs face à des contenus problématiques ?
Les utilisateurs peuvent signaler les contenus inappropriés et interagir avec les plateformes pour susciter des changements dans leur gestion de la modération des contenus.
