La montée inquiétante des vidéos de baisers générées par l’IA
Les réseaux sociaux sont envahis par des publicités pour des services d’IA douteux qui permettent de créer des vidéos synthétiques de personnes réelles en train de s’embrasser. Cette tendance s’inscrit dans un phénomène plus large autour des outils d’IA générative faciles à utiliser, soulevant des questions cruciales sur le consentement.
Les messages ambigus des services d’IA
Bien que certains de ces services mettent en avant des utilisations plus inoffensives, comme la réalisation de vidéos de grands-parents partageant un baiser, de nombreux autres transgressent rapidement les limites. Les annonces et pages de ces produits incitent les utilisateurs à fabriquer des vidéos les montrant en train d’embrasser des personnes sans qu’elles soient au courant, qu’il s’agisse d’un amour secret ou d’un(e) ancien(ne) partenaire. Certaines publicités paraissent particulièrement dérangeantes, comme celle d’une application qui manipule des images de jeunes filles pour créer des vidéos inappropriées.
Des applications à portée de main
Aujourd’hui, une multitude de ces services est accessible via des navigateurs web ou des applications mobiles, disponibles sur les plateformes Android et iOS. La majorité d’entre elles clament être sûres pour les adolescents, y compris un service nommé Fotorama, décrit comme un « générateur de vidéos de baisers et d’étreintes », qui est jugé approprié pour les enfants dès quatre ans.
Certains outils font la promotion de cette fonctionnalité de baiser comme faisant partie d’un ensemble plus large, mais d’autres le font de manière beaucoup plus transparente. Par exemple, une application nommée YouCam annonce qu’elle permet aux utilisateurs de réaliser leur « rêve de partager un baiser » avec leur célébrité préférée. Une autre, AIKiss.AI, se vante de créer des vidéos de baisers « réalistes » sans nécessiter de compétences techniques, accessibles à tous.
Le flou entre contenu inoffensif et pornographique
Ces services de baisers générés par IA se situent dans une zone grise, entre un contenu adapté à tous et des images pornographiques. L’essor de la pornographie truquée par IA, en particulier celle impliquant des femmes célèbres, est alarmant. Des applications comme Nudify, qui facilitent la création d’images nues, ont ouvert la porte à des abus avec des jeunes de collège et lycée prenant des photos inappropriées de leurs camarades.
L’utilisation de l’IA à des fins néfastes par des prédateurs adultes pour créer du matériel d’abus sexuel sur des enfants est également en augmentation. Les groupes de surveillance, comme l’Internet Watch Foundation, rapportent une croissance troublante de la création de ce type de contenu sur Internet, avec peu de recours efficace pour les victimes.
Un outil pour le harcèlement non consensuel
Malgré leur marketing insinuant des interactions légères, ces applications d’IA pour les baisers offrent une autre voie pour la création et la diffusion d’images intimes de personnes sans leur consentement. On peut facilement imaginer des scénarios où des élèves utilisent ces outils pour générer des vidéos d’intimité impliquant des camarades de classe inconscients, ou encore d’anciens partenaires utiliseraient cette technologie pour harceler.
Conclusion
Face à ces dérives, il est impératif de réfléchir aux implications éthiques des outils d’IA qui permettent de manipuler des images de manière si directe. Les utilisateurs, ainsi que les responsables de ces technologies, doivent assumer une responsabilité sociétale dans leur utilisation.
FAQ
Quelles sont les implications légales de l’utilisation d’IA pour créer des vidéos non consensuelles ?
L’utilisation d’IA pour produire des contenus sans permission peut potentiellement mener à des poursuites judiciaires, mais la législation est souvent en retard par rapport à la technologie.
Quelles mesures de protection peuvent être mises en place ?
Des lois plus strictes sur la création et le partage de contenu intime, ainsi que des outils éducatifs pour sensibiliser les jeunes aux dangers de la manipulation d’images.
Comment les victimes peuvent-elles signaler ces abus ?
Les victimes peuvent signaler ces abus auprès des plateformes concernées, ou encore auprès d’organisations qui se spécialisent dans la protection des droits numériques et de la vie privée.
Pourquoi est-il important d’éduquer les jeunes sur ces risques ?
Éduquer les jeunes peut réduire le risque d’abus et les aider à comprendre l’impact psychologique et social des comportements impliquant des images truquées.
Quels sont les enjeux autour du consentement dans la génération d’images par IA ?
Le consentement est souvent ignoré dans ces technologies, soulevant la nécessité d’établir des normes éthiques et légales pour leur développement et leur utilisation.
