L’énigme d’un compte Instagram déroutant
Sur le compte Instagram de Mark Zuckerberg, un compte étrangement nommé « Asian Amputees » attire l’attention avec plus de 100 000 abonnés. Ce compte, qui semble être une plateforme de fétichisme à peine déguisée, publie des contenus qui soulèvent des questions éthiques.
Un contenu inquiétant
Le compte, qui se présente sous le nom de Nok, utilise des hashtags tels que « #amputeegirl » et « Asian #amputee en Thaïlande » pour attirer son public. L’avatar du compte montre une femme dont le bras gauche a été amputé au-dessus du coude. Depuis le 9 décembre de l’année précédente, son fil d’actualité se compose d’images et de vidéos générées par intelligence artificielle. Ces contenus représentent des femmes amputées du bras gauche dans des poses « d’influenceur » prises dans des décors ruraux.
En observant les détails, il est indéniable que ces images sont le fruit d’une IA, comme en témoignent les caractéristiques fluctuantes des doigts et des orteils.
Atmosphère dérangeante
L’atmosphère qui règne sur ce compte est définitivement malaisante. Il semble qu’un créateur de contenu, dont l’identité reste inconnue, exploite des images de personnes réelles pour produire du matériel qui fétichise les femmes asiatiques et les amputés. Les commentaires sous les publications reflètent parfaitement cette dynamique, se remplissant de cœurs, de fleurs et de remarques inappropriées. Même pour Instagram, à l’ère des contenus générés par IA, cette situation est particulièrement dérangeante.
Le flou de l’identité
Alors qu’il est tout à fait légitime que de vraies personnes prennent le contrôle de leur image, la nature gênante du compte « Asian Amputees » provient du fait qu’il n’est pas possible de déterminer si l’individu derrière le compte est réellement une femme, d’origine asiatique ou handicapée.
La biographie du compte a évolué pour refléter son intention trouble : autrefois présentée comme « beauté asiatique amputée AI », elle se décrit maintenant comme « Nok AI, une asiatique amputée vivant en Thaïlande ».
La réaction de Meta
Il reste à voir si les abonnés de ce compte réalisent que les images partagées sont générées par IA. Bien que certains utilisateurs fassent des remarques humoristiques sur la méconnaissance de ce fait, la majorité ne semble pas remettre en question ce qu’ils voient. Il est fort probable que Meta, la société mère de Facebook et Instagram, ait connaissance de ce compte, mais il reste à savoir si ce type de contenu est acceptable sur ses plateformes. Malgré nos efforts pour contacter leur bureau de presse, nous n’avons pas reçu de réponse avant la publication de cet article.
Vers de nouvelles règles de contenu
L’existence de ce compte soulève de sérieuses interrogations sur les nouvelles règles de contenu mises en place par Meta, qui se sont assouplies après l’annonce de Mark Zuckerberg d’une refonte des politiques visant à permettre davantage de discours de haine. Cela semble correspondre à une tentative de reconstituer des relations avec des figures politiques controversées comme Donald Trump.
D’un point de vue troublant, le compte « Asian Amputees » utilise l’IA pour se faire passer pour un individu humain tout en produisant un contenu qui attire un certain groupe de fétichistes. Le fait que son post le plus populaire ait récolté plus de 300 000 likes témoigne de l’intérêt qu’il suscite.
La question de l’éthique
La question qui se pose alors est de savoir si Meta désire vraiment ce type de contenu sur ses plates-formes. Les politiques actuelles concernant les exploitation sexuelle des adultes et des enfants ne mentionnent pas spécifiquement l’utilisation de l’IA. Bien que certains contenus soient supprimés s’ils contiennent de la nudité ou des comportements sexuels explicites, le compte en question ne semble pas enfreindre ces règles, même s’il affiche clairement un manque de respect pour les corps des individus représentés.
FAQ
Qu’est-ce que la IA utilisée pour générer du contenu ?
L’intelligence artificielle peut créer des images et des vidéos en analysant des données et des tendances, souvent sans lien avec des membres réels du groupe cible.
Quelle est la position de Meta sur ce type de comptes ?
Meta n’a pas encore clarifié sa position sur les comptes qui utilisent l’IA pour créer des contenus à caractère fétichiste, bien qu’ils aient récemment assoupli certaines de leurs politiques de contenu.
Comment les utilisateurs réagissent-ils à ce type de contenu ?
Les réactions varient, mais beaucoup de commentaires témoignent d’un fétichisme troublant, avec des utilisateurs exprimant leur admiration de manière inappropriée.
Les contenus générés par IA sont-ils visibles par tous ?
Actuellement, ces contenus sont accessibles aussi bien aux utilisateurs non connectés qu’à ceux dont le compte est réglé sur une option « mineur », selon nos tests.
Quels sont les enjeux éthiques liés à cette situation ?
Les enjeux incluent le respect des droits individuels, la question du consentement, et l’utilisation responsable des technologies d’IA dans le cadre de la création de contenu.
