Avertissement : cet article inclut des descriptions de vidéos troublantes générées par l’IA représentant des abus violents sur des enfants.
Les problèmes alarmants de contenu sur Facebook
Le mois dernier, nous avons rapporté que Facebook était inondé par un grand nombre de vidéos générées par l’IA, graphiques et montrant des abus physiques sur des enfants. Ces vidéos incluaient des scènes horrifiantes d’enfants battus, brûlés, traînés par les cheveux, et même enfermés dans des cages.
La réponse de Meta à nos préoccupations
Après avoir posé des questions sur ce sujet préoccupant, Meta, la société mère de Facebook, a d’abord tardé à répondre. Elle a tenté de justifier la présence de ces vidéos, tout en publiant des déclarations peu claires qui évitaient toute forme de responsabilité et d’engagement concret pour lutter contre ce phénomène.
Au fil de notre enquête, Meta a fini par supprimer un compte que nous avions signalé, celui-ci ayant partagé une collection particulièrement troublante d’images illustrant des abus sévères sur des enfants, y compris une scène où une jeune fille était enfermée dans un congélateur par un ravisseur.
La surprise du retour d’un contenu choquant
Cependant, après la publication de notre article, nous avons été choqués de constater que ce compte avait été rétabli, avec toutes ses vidéos inacceptables. Nous avons de nouveau contacté Meta pour demander des explications, mais la réponse d’un porte-parole était brève : “Nous enquêtons sur ce sujet. Je ne peux pas vous donner de détails précis pour le moment, mais je vous tiendrai informé.”
Le compte a ensuite de nouveau disparu, mais nous n’avons pas reçu d’explications sur son retour.
Une multitude de vidéos troublantes encore disponibles
Des milliers d’autres vidéos similaires demeurent sur Facebook, et de nouveaux contenus sont ajoutés chaque jour. Curieux de savoir si Meta avait amélioré sa réactivité face à ces contenus dérangeants, cette semaine, nous lui avons signalé 19 nouveaux comptes contenant des horreurs similaires d’abus sur enfants.
Quelle a été la réaction de Meta cette fois-ci ?
Cette fois-ci, l’entreprise a tardé plus de 48 heures avant de répondre, laissant ces comptes actifs sur la plateforme pendant plusieurs jours. Finalement, Meta a supprimé ces contenus en émettant une déclaration succincte : “Nous avons retiré le contenu pour violation de nos politiques.”
La nature des vidéos troublantes
Les vidéos que nous avons choisies de ne pas partager contiennent une multitude de scènes choquantes. Parmi elles, une vidéo illustre un bébé enfermé dans un four, gémissant alors que sa peau subit des brûlures. Une autre montre un jeune enfant poussé dans les escaliers, tandis que d’autres clips dépeignent des enfants battus avec divers objets domestiques ou enfermés dans des machines à laver.
Dans l’un des vidéos, une jeune fille priante déclare : “Grand-père, j’ai si faim,” alors qu’elle est enfermée dans une porcherie. En outre, certains contenus mettent en scène des enfants noirs maltraités par des enseignants dans des salles de classe, ce qui soulève d’importantes questions sur le traitement de ces jeunes dans les environnements éducatifs.
Résources des plateformes et actions de Meta
Il est troublant de constater que si Meta était vraiment déterminée à identifier et supprimer ces vidéos, elle disposerait de ressources considérables à cet effet. L’entreprise a investi des centaines de milliards de dollars dans le développement d’une “superintelligence”, mais cela ne semble pas s’appliquer à la lutte contre la diffusion de contenus inacceptables.
Meta pourrait signaler les vidéos d’abus simplement en examinant les descriptions des textes qui accompagnent ces vidéos, souvent très explicites sur les scènes d’abus.
Problèmes antérieurs de contenu sur Meta
Les vidéos que nous avons découvertes ne sont malheureusement pas les seules sur les plateformes de Meta. Le mois dernier, un rapport de Wired a révélé que l’entreprise avait permis la circulation de centaines de publicités contenant du matériel sexuel explicite concernant de vrais enfants.
Conclusion
Au final, Meta, qui autorise des utilisateurs aussi jeunes que 13 ans, semble avoir abandonné toute forme de modération de contenu. On a parfois l’impression qu’elle est plus agacée par nos dénonciations de son imbrication avec ces contenus horribles que par les contenus eux-mêmes.
FAQ
Q1 : Quelles sont les conséquences légales pour Meta concernant le contenu abusif ?
R1 : En raison des lois sur la protection de l’enfance, les entreprises comme Meta pourraient faire face à des poursuites judiciaires si elles ne prennent pas des mesures adéquates pour supprimer les contenus inappropriés.
Q2 : Comment signaler du contenu abusif sur Facebook ?
R2 : Les utilisateurs peuvent signaler une vidéo ou un compte en utilisant les options de signalement disponibles directement sur la plateforme.
Q3 : Quel type de contenu est interdit sur Facebook ?
R3 : Facebook interdit les contenus qui promeuvent la violence, les abus, le harcèlement, et toute forme de contenu sexuel impliquant des mineurs.
Q4 : Quelles sont les initiatives de Meta pour lutter contre les abus en ligne ?
R4 : Meta a mis en place des outils de modération automatisés et des équipes dédiées pour identifier et supprimer les contenus nuisibles, mais leur efficacité est souvent remise en question.
Q5 : Que peuvent faire les utilisateurs pour protéger les enfants sur les réseaux sociaux ?
R5 : Les utilisateurs peuvent éduquer les enfants sur les dangers en ligne, surveiller leur activité sur les réseaux sociaux, et signaler tout contenu inapproprié.
