L’invasion de contenus générés par l’IA sur Facebook
Facebook est en train de devenir le terrain de jeux de contenus douteux, souvent générés par des intelligences artificielles, ce qui attire dans l’incompréhension un public vieillissant. Cette tendance inquiète, car elle reflète une détérioration de la qualité des informations sur la plateforme.
Une étude révélatrice
Une analyse récente menée par des chercheurs de Stanford et de l’Université de Georgetown a mis en lumière comment des escrocs exploitent ce genre de contenu pour élargir leur audience. Les utilisateurs de Facebook, malgré l’abondance de générateurs d’images par intelligence artificielle, semblent encore fascinés par ces créations.
Une exploitation des algorithmes
Les arnaqueurs profitent de cet engouement, couplé à l’appui involontaire des algorithmes de Facebook, pour diriger les utilisateurs vers des sites comportant de nombreuses publicités, les incitant à acheter des produits et à augmenter leurs abonnés. C’est un nouveau signe que l’internet, en général, peine à faire face à cette marée de contenus générés automatiquement, ce qui altère la qualité des informations auxquelles nous sommes exposés quotidiennement.
Des exemples édifiants
Il a suffi que des captures d’écran d’un post Facebook montrant un “Jésus crevette” génère des centaines de likes et de commentaires pour que cela devienne viral sur X (anciennement Twitter). Des utilisateurs ont commencé à s’interroger publiquement sur ce phénomène, illustrant une inquiétude grandissante quant à la nature des contenus qui circulent sur Facebook.
De plus, un autre exemple illustre la situation avec un compte Facebook partageant l’image d’une femme prétendument âgée de 112 ans qui aurait confectionné son propre gâteau d’anniversaire. L’IA a échoué à écrire “joyeux anniversaire” correctement, montrant les limites de ces créations.
Une amplification par les algorithmes
Les résultats de l’étude indiquent que Facebook récompense probablement les comptes qui inondent les fils d’actualité avec plus de 50 images générées par l’IA chaque jour, attirant ainsi des millions de vues. Ces images sont souvent privilégiées par les algorithmes, entraînant un engagement massif de la part des utilisateurs. Les chercheurs notent que de nombreux utilisateurs ignorent l’origine synthétique des images, tandis qu’une minorité essaie d’avertir les autres via des commentaires.
Les escrocs exploitent cet engagement pour rediriger les utilisateurs vers des sites douteux pleins de publicités, et Facebook, par son algorithme, semble les soutenir activement. Le géant Meta, qui supervise Facebook, n’a pas encore fourni d’explications sur cette problématique.
Solutions possibles
Il est impératif que Facebook prenne des mesures pour contrer ce fléau, telles que demander aux pages de signaler clairement le contenu synthétique et d’instaurer davantage de transparence. Ce n’est pas seulement Facebook qui fait face à de telles problématiques ; Google a récemment ajusté son algorithme pour sanctionner les contenus générés par une IA de faible qualité.
Cependant, il reste à voir si ces changements porteront leurs fruits à long terme. Avec des utilisateurs de Facebook qui continuent de partager et de commenter sans discernement, il est peu probable que la situation s’améliore spontanément. La plateforme a également un passé peu glorieux en matière de modération de contenu.
Un avenir incertain
Avec son impressionnante base d’utilisateurs, qui compte plus de trois milliards de personnes, Facebook reste un géant trop imposant pour disparaître facilement. Toutefois, son pertinence a diminué au fil des ans, notamment auprès de la jeunesse qui lui a tourné le dos. La circulation d’images générées par des IA, comme celle du “Jésus crevette”, ne risque pas d’améliorer la situation.
FAQ
Pourquoi Facebook est-il envahi par des contenus générés par l’IA ?
Cette situation résulte d’un intérêt persistant des utilisateurs et d’algorithmes qui favorisent ce type de contenu, au détriment de la qualité.
Quelles mesures peuvent être prises pour lutter contre ce phénomène ?
Facebook pourrait introduire des règles pour inclure des étiquettes sur le contenu généré par des IA et renforcer la transparence sur les sources.
Google a-t-il également fait face à ce problème ?
Oui, Google a modifié son algorithme pour pénaliser la création de contenus de faible qualité générés par l’IA.
Que peuvent faire les utilisateurs pour éviter ces contenus ?
Les utilisateurs doivent être vigilants, vérifier les sources d’information et partager moins facilement des contenus suspects.
Quel est l’impact de ces contenus sur l’information en ligne ?
La prolifération de contenus de mauvaise qualité altère notre accès à des informations fiables, réduisant la confiance dans les médias sociaux en général.
