Les Reels d’IA de Meta : des enfants en larmes ‘arrêtés’ avec une promesse de libération sous condition de likes et de followers

Un type particulièrement inquiétant de contenu généré par l’**IA** fait actuellement surface sur **Facebook** et **Instagram**.

Ce qu’il faut savoir

Selon un article de **Futurism**, des comptes comme “Emotional Tots” et “Tiny Miracle” diffusent des vidéos créées par **IA** qui suivent un même scénario répétitif. Le schéma est simple : un enfant prend un produit alimentaire basique, un agent de la sécurité intervient, et l’enfant apprend que l’engagement sur les réseaux sociaux déterminera la suite de l’histoire.

Dans une des vidéos, on voit un enfant en larmes qui tient une **baguette**. Un policier généré par IA lui explique : “Tu n’as pas assez de **followers** et de **partages** sur tes vidéos. Si les gens qui regardent cette vidéo te suivent et partagent, alors tu seras libre.”

Une autre vidéo met en scène un tout-petit ayant pris des **fruits** en pleurant : “C’est pour ma grand-mère. S’il vous plaît, ne le prenez pas, ma grand-mère a faim et ma mère est partie.”

Suite à des questions de **Futurism**, Meta a retiré certains des contenus signalés. “Jusqu’à présent, nous avons supprimé deux des trois liens que vous avez partagés,” a déclaré un porte-parole de Meta.

Néanmoins, le problème persiste. **Futurism** a noté qu’un des comptes signalés restait actif, que plusieurs vidéos sur le même thème demeuraient en ligne, et le porte-parole n’a pas précisé si ces vidéos contrevenaient aux règles de Meta.

Contexte supplémentaire

De nombreux utilisateurs, comme l’a observé le média, semblent prendre ces vidéos au sérieux. Un internaute a même écrit : “Laissez le bébé prendre le pain”, tandis qu’un autre implorait, “Il n’a rien fait, donnez-lui une chance ; pas de prison s’il vous plaît, il est juste un enfant.”

Un autre commentaire montrait une confusion différente : “Je suis les grands gars parce que le policier est un bon gars.” Ces publications semblent concevoir un élan de **sympathie**, d’**indignation**, et génèrent des **clics** de la part de spectateurs qui ignorent que le contenu est fabriqué.

Quelles actions sont entreprises ?

Meta n’a pris des mesures qu’après que les signalements de **Futurism** aient attiré l’attention sur ces publications.

Un représentant de Meta a déclaré : “Nous allons retirer le contenu qui enfreint nos règles, que ce soit produit par une **IA** ou une personne.” Cela a mis en lumière les limites de la réaction de sur cette question. **Futurism** a rapporté que Meta demandait fréquemment plus de temps pour répondre, mais un compte signalé restait toujours accessible avec des vidéos similaires visibles.

En pratique, les posts manipulés par l’IA peuvent continuer à circuler à moins qu’ils ne soient repérés et signalés individuellement. Étant donné que la réponse de Meta semble lente et plutôt **réactive** que **proactive**, il n’est pas surprenant que d’autres de ces vidéos continuent à se propager.

Où en savoir plus ?

Le contenu généré par l’IA sur Meta et d’autres plateformes suscite également des critiques et crée une **confusion** ailleurs sur internet.

• Sur **Instagram**, Meta a été critiqué pour des profils IA énergivores qui troublent la réalité des utilisateurs.

• Meta a dû abandonner des profils de faux comptes après des critiques concernant les **personas** trompeurs générés par IA.

• Des experts ont averti que l’**enfance** est en train d’être redéfinie alors que les outils d’IA influencent de plus en plus la vie des enfants.

• En ligne, des affiches de films troublantes ont soulevé des inquiétudes sur la facilité avec laquelle l’IA peut tromper les spectateurs.

Abonnez-vous aux newsletters gratuites de TCD pour recevoir des conseils pratiques, des informations pertinentes et une chance de gagner 5 000 dollars pour des améliorations à votre domicile. Pour découvrir plus d’histoires comme celle-ci, modifiez vos préférences Google ici.