Encourager la Création de Deepfakes
Une plateforme d’intelligence artificielle, Civitai, qui est l’une des plus grandes sur Internet, a récemment été accusée d’inciter ses utilisateurs à créer des deepfakes de personnes réelles. Un rapport inquiétant de 404 Media a mis en lumière cette situation troublante.
Un Système de Récompenses
Selon les informations fournies par 404 Media, cette plateforme, qui a reçu des millions de dollars d’investissement du fonds Andreessen Horowitz, a introduit une fonctionnalité appelée « bounties ». Ce système permet aux utilisateurs de proposer des modèles d’images en échange de monnaie numérique. En d’autres termes, un utilisateur peut lancer un appel à la création d’un modèle d’IA capable de générer des images très spécifiques. D’autres utilisateurs tentent alors de réaliser ce modèle, et la personne à l’origine de la commande sélectionne le meilleur travail. Le gagnant reçoit une récompense en Buzz, une forme de monnaie virtuelle que l’on peut acheter avec de l’argent réel sur Civitai.
La Problématique des Contenus Non Consensuels
Civitai est déjà bien connue pour faciliter la création et la diffusion de deepfakes pornographiques non consensuels. Il n’est donc pas surprenant de constater que la majorité des créations issues de ces défis de récompenses sont des images pornographiques non désirées, touchant presque exclusivement des femmes.
Le rapport de 404 Media signale que ces deepfakes incluent des images de figures publiques, telles que des célébrités et des influenceurs, mais aussi des personnes sans notoriété, souvent à partir de quelques photos extraites de leurs réseaux sociaux. Cette situation pose un réel problème éthique, reflet de l’usage abusif de ces technologies et de la facilité de financement de telles plateformes.
Un Risque Grandissant pour la Vie Privée
Il est essentiel de préciser que la création de pornographie deepfake non consensuelle, qu’elle cible une célébrité ou une personne lambda, est inacceptable et inquiétante. Ce qui est particulièrement alarmant, c’est que des individus ordinaires, n’ayant pas choisi d’être sous le feu des projecteurs, sont désormais en danger. Dans un monde où des outils d’IA générative faciles à utiliser sont devenus monnaie courante, le contrôle de chacun sur son image publique semble s’effriter rapidement.
Faibles Options de Recours
Actuellement, les victimes de ces abus disposent de peu de recours. Les règles sur Civitai concernant les images sexuelles sont confuses, et bien que la plateforme affirme que son outil de “bounty” ne devrait pas être utilisé pour créer des contenus pornographiques, il ne semble pas qu’elle mette beaucoup de ressources pour contrôler ces abus. Les victimes peuvent signaler ce type de contenu, mais cela place la responsabilité sur elles, ce qui est insuffisant pour un service qui héberge et tire profit de ces créations.
Michele Alves, une influenceuse sur Instagram victime d’un bounty sur Civitai, a exprimé ses craintes face à cette situation : « Je crains vraiment ce que cela pourrait devenir, car je ne sais pas quelles mesures je peux prendre. L’Internet semble être un lieu hors de contrôle. »
FAQ
Qu’est-ce qu’un deepfake et comment se crée-t-il ?
Un deepfake est une vidéos ou image manipulée grâce à des technologies d’intelligence artificielle, permettant de superposer des visages ou de modifier des expressions faciales de manière très réaliste. Sa création nécessite souvent des compétences techniques avancées et un accès à des plateformes spécialisées.
Quelles sont les lois en place pour protéger les individus des deepfakes non consensuels ?
Bien que certaines législations commencent à émerger pour lutter contre les deepfakes, la réglementation varie considérablement d’un pays à l’autre. De nombreuses régions manquent encore de lois spécifiques pour traiter les abus liés à ces technologies.
Que peuvent faire les victimes de deepfakes non consensuels ?
Les victimes peuvent signaler ces contenus sur divers réseaux sociaux et plateformes d’hébergement, mais les solutions juridiques peuvent être limitées. Il est conseillé de consulter un avocat spécialisé dans la propriété intellectuelle ou le droit à l’image pour explorer les options disponibles.
Quelles technologies sont utilisées pour créer des deepfakes ?
Les deepfakes sont souvent réalisés grâce à des réseaux de neurones appelés GANs (Generative Adversarial Networks), qui apprennent à générer des médias de manière réaliste en analysant des données d’entrée.
Quelle est l’impact social de ces pratiques ?
L’augmentation des deepfakes non consensuels soulève des préoccupations majeures concernant la vie privée, la sécurité et les droits des individus sur leur propre image dans un environnement numérique.