À l’ère de l’intelligence artificielle, des plateformes comme Facebook et Instagram deviennent des foyers pour des contenus abrutissants, souvent émotionnellement manipulateurs, issus de fermes à clics.
Certaines de ces ‘usines à clics’ propagent des idées racistes, d’autres dépeignent des scènes violentes d’abus envers les enfants, mais toutes partagent une caractéristique commune : des tentatives bizarres et troublantes pour capter l’attention des utilisateurs sur des plateformes qui ont largement abandonné la modération proactive.
Un exemple frappant est l’apparition de clips générés par IA montrant des enfants apparemment sans-abri se faisant arrêter pour avoir volé des aliments dans un magasin.
Ces vidéos, souvent diffusées par des comptes nommés « Petits Émotions » ou « Miracles Miniatures », suivent un schéma simple : un enfant entre ou sort d’un magasin, saisissant un produit alimentaire de base, comme une miche de pain. Il se fait ensuite interpeller par une figure d’autorité, comme un policier ou un agent de sécurité, qui lui explique qu’il n’a pas assez de « j’aime » ou de « followers ». Si les spectateurs veulent bien l’aider, l’enfant pourra alors partir.
Dans l’une des vidéos, un policier généré par IA déclare à un enfant en pleurs tenant une miche de pain : « Vous êtes sous arrestation. » L’enfant rétorque, incrédule, qu’il n’a rien fait.
L’agent réplique : « Vous n’avez pas assez de followers et de partages sur vos vidéos. Si ceux qui regardent cette vidéo vous suivent et partagent, vous pourrez partir. »
« Donnez-moi une chance de plus, s’il vous plaît », supplie l’enfant. « Je ne veux pas aller en prison… Veuillez partager et suivre. »
Un autre clip montre un jeune enfant s’enfuyant avec un sac de fruits avant d’être stoppé par un policier.
« C’est pour ma grand-mère, » balbutie l’enfant. « Ne l’emportez pas, elle a faim et ma mère est absente. »
Le policier se tourne alors vers le spectateur et se demande : « Devrais-je le laisser apporter cela à sa grand-mère ? Suivez, aimez et commentez ci-dessous. »
Un représentant de Meta a demandé du temps supplémentaire pour répondre à nos questions après que nous leur ayons envoyé des liens de plusieurs vidéos spécifiques. Quelques jours plus tard, la société a supprimé deux des comptes que nous avions signalés, mais un autre, contenant encore de nombreuses vidéos similaires, est resté actif.
« Jusqu’à présent, nous avons retiré deux des trois liens que vous avez partagés, » a indiqué un porte-parole de Meta, plusieurs jours après notre requête. « Nous supprimerons tout contenu, qu’il soit créé par IA ou par un humain, s’il enfreint nos politiques. »
Le porte-parole a cependant refusé de préciser si les vidéos montrant des enfants en larmes, suppliant pour des « j’aime » et des abonnements sous menace d’arrestation, enfreignaient les règles de l’entreprise.
Ces vidéos, qui montrent la police intervenir pour arrêter des enfants affamés, agissent presque comme une critique implicite de l’idée que les forces de l’ordre sont là pour aider les gens plutôt que pour protéger des intérêts privés, comme récupérer du pain volé. En conséquence, les commentaires sous chaque vidéo, qu’ils soient rédigés par des humains ou des bots, réclament une justice pour ces enfants, souvent sans réaliser que l’ensemble de la vidéo est une fiction créée par IA.
Des commentaires tels que « Laissez-le prendre le pain » ou « Il n’a rien fait, donnez-lui une chance, pas de prison s’il vous plaît » soulignent les réactions émotionnelles des utilisateurs, tandis que d’autres confondent même le contenu, pensant que tout cela est réel. « Je suis les grands garçons car le policier est un bon gars », déclare un utilisateur à propos d’un clip similaire.
Compte tenu des nombreux cas d’**abusage des droits de l’homme** et de contenu carrément raciste que Meta permet de prospérer sur ses plateformes, ces clips fictionnels montrant de faux enfants affamés ne sont pas les plus scandaleux, mais ils se classent certainement parmi les plus **manipulatifs sur le plan émotionnel**. Au regard de l’**inaction de Meta** dans d’autres affaires, il est peu probable que quelque chose soit fait concernant ces fermes à clics, laissant ce contenu dévastateur se répandre sur Meta, Instagram et au-delà.
FAQ
Qu’est-ce qu’une ferme à clics ?
Une ferme à clics est un réseau de sites ou de comptes créés pour générer des clics et des vues sur des contenus souvent sensationnalistes, dans le but d’augmenter les revenus publicitaires.
Comment les plateformes comme Meta peuvent-elles encadrer ce type de contenu ?
Meta pourrait améliorer sa modération en investissant dans des systèmes d’intelligence artificielle plus avancés et en renforçant ses politiques concernant le contenu nuisible ou trompeur.
Quels sont les risques pour les enfants exposés à ce type de contenu ?
Les enfants peuvent subir une exploitation émotionnelle, ce qui peut affecter leur bien-être psychologique. Ils sont aussi exposés à des représentations déformées de la réalité.
Quelles actions peuvent être entreprises par les utilisateurs pour signaler ce contenu ?
Les utilisateurs peuvent signaler les publications en utilisant les fonctionnalités de signalement sur les plateformes, ce qui pourrait inciter la société à examiner et peut-être retirer le contenu problématique.
Quel rôle joue la société civile dans la lutte contre ce type de contenu ?
La société civile peut jouer un rôle clé en sensibilisant, en organisant des campagnes contre la désinformation et en appelant à une responsabilité accrue des plateformes numériques.
