La fraude virtuelle
De plus en plus de personnes se rendent compte que derrière les profils de “vrais influenceurs virtuels” se cachent des individus qui utilisent des personnages générés par l’IA. Ces entités, qui se présentent comme des figures authentiques sur des plateformes de médias sociaux, sont désormais utilisées pour superposer des visages factices sur des corps de modèles et de travailleurs du sexe. Cette méthode, révélée par un article de 404 Media, soulève de vives inquiétudes dans le secteur émergent des modèles créés par intelligence artificielle.
Cette pratique est particulièrement alarmante dans un contexte où les comptes de ce type commencent à inonder Instagram et TikTok, attirant de nombreux abonnés. De plus, beaucoup de ces profils orientent leurs abonnés vers des offres payantes sur des plateformes concurrentes d’OnlyFans, transformant cette tendance en un marché prometteur.
Par exemple, une agence espagnole nommée The Clueless a récemment révélé que son modèle numérique, Aitana, une créature artificielle de 25 ans aux cheveux roses, rapportait à l’agence jusqu’à 11 000 dollars par mois.
Duel de visages
Pour certains de ces influenceurs numériques, leurs publications récoltent des milliers de likes et de commentaires, comme l’a souligné Futurism l’an dernier. Le problème majeur survient lorsque des créateurs commencent à réaliser des deepfakes, en intégrant les visages d’IA sur des corps de femmes réelles. Une de ces publications, issue d’un compte appelé “Adrianna Avellino”, postait des contenus entièrement conçus par IA tout en utilisant des vidéos de vraies femmes, modifiées pour intégrer le visage généré par IA.
Le fonctionnement de cette technologie est peu secret. Des vidéos détaillant le processus d’intégration d’un visage d’IA à une vidéo réelle circulent sur les réseaux. De plus, des applications de “face-swap” gagnent en popularité, permettant aux utilisateurs de créer facilement des deepfakes via leur smartphone.
Bataille des étiquettes
Lorsque 404 Media a contacté Meta pour dénoncer des modèles générés par IA avec des millions de abonnés, ces comptes ont été rapidement supprimés. Meta a confirmé son intention de commencer à étiqueter le contenu généré par IA dans un futur proche, mais l’ampleur du phénomène rendra cette tâche colossale. La variété des vidéos, certaines étant de véritables femmes, compliquera la distinction entre l’authenticité et les deepfakes, posant ainsi un défi technique considérable.
Cette situation met en lumière une tendance préoccupante qui altère notre perception de la réalité. Elle permet à des créateurs de tirer parti du travail ardu des influenceurs réels, renforçant ainsi la nécessité pour des plateformes comme Instagram de trouver des solutions pour lutter contre ce phénomène.
FAQ
Quelles sont les conséquences de l’utilisation des deepfakes dans l’influence virtuelle ?
Les deepfakes peuvent nuire à l’image et à la réputation de femmes réelles, créant une confusion sur ce qui est authentique et ce qui ne l’est pas.
Les plateformes prennent-elles des mesures pour contrer ce phénomène ?
Oui, certaines entreprises comme Meta prévoient d’étiqueter le contenu généré par IA, bien que l’application de telles mesures soit complexe.
Quel est le public cible des influenceurs virtuels ?
Les influenceurs virtuels attirent souvent un public jeune, impressionné par l’esthétique et la nouveauté des personnages générés par IA.
Existe-t-il des lois régissant l’utilisation des deepfakes ?
Actuellement, les lois sur les deepfakes varient selon les pays, mais des discussions sont en cours pour établir des cadres juridiques plus stricts.
Comment identifier un influenceur comme étant « virtuel » ?
Il peut être difficile de le déterminer, mais les influenceurs virtuels ne sont généralement pas liés à des événements physiques ou à des interactions en direct, ce qui peut être un indicateur.
