La Flottille de Contenus Fabriqués par l’IA
Facebook est envahi par des contenus douteux, notamment par des images générées par IA qui n’ont ni queue ni tête. Ces créations, souvent absurdes, attirent l’attention d’un vaste public.
Des Images Virales Étranges
Parmi ces images qui deviennent populaires, on trouve des exemples comme « Jésus en crevette », un camion de poids lourd débordant de bébés, et même un policier tenant une énorme bible tout en marchant dans des eaux inondées. Ces contenus obtiennent des milliers de likes, ce qui témoigne de leur large diffusion sur la plateforme.
Une Enquête Sur un Marché Illégal
Pour comprendre l’origine de cette tendance, 404 Media a réalisé une enquête approfondie et a découvert un marché entier dédié à la création d’images AI montrant des personnes affamées, des enfants malnutris et des catastrophes naturelles, le tout dans un but lucratif.
Les journalistes ont repéré plusieurs pages Facebook à succès ayant chacune plus de 100 000 abonnés. Dans une vidéo, le YouTuber Gyan Abhishek a incité les internautes à créer des pages pour partager ces images truquées, afin de “gagner de l’argent via un bonus de performance”, d’après 404 Media.
Une Problématique Malheureuse
Cette situation est préoccupante. Facebook récompense des utilisateurs pour la diffusion de ces contenus à travers son programme de bonus pour créateurs, qui favorise le contenu viral. Cela signifie que le géant technologique est en partie responsable de ce désastre.
L’Utilisation de L’IA pour Créer du Contenu
Certains de ces utilisateurs, comme Abhishek, se servent de l’outil AI Image Creator de Microsoft pour générer leurs images. Dans sa vidéo, il guide les spectateurs sur la manière d’effectuer ces créations, en suggérant des termes de recherche comme « corps maigres de pauvres ».
D’autres vidéos, comme celle de Carry Techmind, qui compte 376 000 abonnés, indiquent que les utilisateurs peuvent gagner entre 3 et 10 dollars pour chaque millier de likes, un revenu intéressant compte tenu du peu d’effort requis. De nombreux créateurs de ce type se trouvent en Asie du Sud et du Sud-Est, où le coût de la vie est nettement inférieur.
Les Efforts de Meta pour Contenir le Phénomène
Pendant ce temps, Meta, la société mère de Facebook, peine à contrôler cette vague de contenus inappropriés. Les licenciements ont laissé les équipes de modération de l’entreprise sous-dimensionnées, ce qui complique la gestion de cette problématique.
Un ancien employé de Meta a confié à 404 Media : « Si vous parvenez à publier du contenu à grande échelle, vous pouvez également exploiter les failles de manière massive. »
Meta a déclaré que bon nombre de ces images générées par une IA ne violent pas ses politiques et que tant qu’elles ne sont pas augmentées par des bots, le programme fonctionne comme prévu. Un porte-parole de Meta a ajouté : « Nous savons que les mauvais acteurs s’adaptent pour échapper à nos règles, nous travaillons donc continuellement à améliorer nos méthodes de détection et d’application. »
FAQ
Quelle est la valeur des contenus générés par l’IA sur Facebook ?
Les utilisateurs peuvent gagner entre 3 et 10 dollars pour chaque millier de likes, rendant cette activité potentiellement lucrative.
D’où proviennent la majorité de ces images ?
Ces images sont souvent créées à l’aide d’outils d’IA comme l’AI Image Creator de Microsoft, et résultent de recherches spécifiques sur des thèmes tragiques ou extrêmes.
Quelles sont les principales plateformes touchées par ce phénomène ?
Bien que Facebook soit le principal point focal, des plateformes comme Instagram et Twitter (ou X) peuvent également être impactées par des contenus similaires.
Que fait Meta pour lutter contre ce problème ?
Meta a déclaré qu’elle travaillait continuellement à l’amélioration de ses systèmes de détection pour contrer la viralité de ces images, mais elle fait face à des défis avec des équipes de modération affaiblies.
Existe-t-il des craintes légitimes concernant la diffusion de telles images ?
Oui, ces contenus peuvent refléter des préjugés ou des stéréotypes négatifs, en plus de véhiculer des informations trompeuses qui peuvent influencer l’opinion publique.