Les contenus à caractère sexuel générés par l’IA bouleversent rapidement la vie des jeunes face aux thèmes du sexe et des relations amoureuses, et les répercussions sont vastes et encore mal comprises.
C’est ce que révèle une nouvelle enquête de l’organisation à but non lucratif Common Sense Media, qui a étudié l’interaction des jeunes avec ces technologies émergentes. Les résultats indiquent que la propagation de ce type de contenu, ainsi que les dommages déjà causés, nécessitent une attention urgente.
Cette enquête, représentative de la population nationale, a recueilli des données auprès de 1 314 adolescents âgés de 13 à 17 ans, ainsi que d’autres informations provenant d’entretiens et de groupes de discussion. Elle définit le contenu sexuel généré par l’IA comme des images nues deepfake ou du matériel pornographique mettant en scène de vraies personnes, des images ou vidéos créées par IA montrant des personnes dans des scénarios révélateurs ou sexuellement explicites, ainsi que « tout autre contenu sexuel produit par IA ». Ce constat intervient alors que les établissements scolaires aux États-Unis doivent faire face à une prolifération de deepfakes non consensuels ciblant des mineurs, surtout réalisés par leurs pairs.
« Une bonne partie des adolescents est exposée à ce type de contenu et, de plus, certains le créent et le partagent », a déclaré Supreet Mann, directrice de la recherche chez Common Sense Media et principale auteure du rapport, dans une interview avec Futurism. « Et souvent, il s’agit de personnes qu’ils connaissent personnellement, voire d’eux-mêmes. »
Le rapport révèle qu’environ **50 %** des adolescents du collège et du lycée ont vu ce qu’ils croyaient être des contenus sexuels générés par l’IA, la plupart affirmant les avoir découverts par accident, souvent via les réseaux sociaux. Parmi ceux ayant signalé avoir vu ce type de contenu, environ **64 %** ont déclaré qu’il représentait des célébrités reconnaissables, tandis que **24 %** ont mentionné que le contenu les montrait, eux ou des connaissances, dans la vie réelle.
Environ **8 %** des adolescents ont admis avoir créé eux-mêmes des deepfakes ou d’autres contenus sexuels générés par l’IA, tandis qu’un autre **13 %** a indiqué connaître quelqu’un ayant produit du contenu sexuel avec l’IA. Dans ce groupe, plus de **60 %** ont noté que le « contenu représentait eux-mêmes ou des personnes qu’ils connaissent, comme des camarades, des amis ou des partenaires amoureux actuels ou passés. »
L’anxiété générée par ce type de matériel a conduit certains jeunes à changer leur comportement en ligne. Environ **67 %** des adolescents interrogés ont déclaré qu’ils étaient au moins « un peu » inquiets d’être affectés par les deepfakes, et près de **40 %** ont rendu leurs comptes de réseaux sociaux privés, restreint ce qu’ils partagent, ou ont complètement supprimé leurs comptes.
« Environ deux tiers des adolescents ont indiqué qu’ils étaient inquiets à ce sujet, et beaucoup changent leur comportement en ligne à cause de cette peur… cela montre la manière dont les jeunes perçoivent le contenu et se sentent dépossédés de leur capacité à agir dans cet espace », a ajouté Mann. Certes, il est bénéfique que les jeunes réfléchissent de manière critique à leur présence en ligne, mais ce fardeau pèse lourdement sur les adolescents à gérer la montée des deepfakes.
« Pourquoi les jeunes doivent-ils se surveiller eux-mêmes », a interrogé la chercheuse, « alors que ce fardeau ne devrait pas leur incomber ? »
La peur des adolescents est compréhensible. Avec une simple photo et quelques clics, des applications facilement accessibles pour « déshabiller » des images, disponibles en ligne et via les magasins d’applications, ont rendu facile le déshabillage virtuel sans consentement. Des chatbots générateurs — notamment Grok de xAI — ont également été utilisés pour créer des deepfakes, incluant ceux mettant en scène des mineurs. Des scandales de deepfakes ont ébranlé des villes partout aux États-Unis, touchant particulièrement les femmes, nombreuses à exprimer une anxiété écrasante, des crises de panique, des pensées suicidaires, ainsi qu’une profonde méfiance envers leurs pairs et leur entourage à cause de ce contenu perturbant.
Parmi les adolescents ayant créé des contenus pornographiques en deepfake, certains ont été arrêtés et inculpés. (Les images sexuelles générées par IA représentant des mineurs sont considérées comme illégales selon la loi fédérale.) Une famille en Louisiane a poursuivi un district scolaire après que leur fille de 13 ans a été expulsée pour avoir confronté physiquement un camarade ayant créé et partagé des deepfakes non consensuels la montrant, elle et ses amis. Le garçon à l’origine des images n’a reçu aucune sanction, selon la plainte.
Un aspect positif de l’enquête, raconte Mann, est que beaucoup de jeunes souhaitent en parler avec des adultes de confiance dans leur vie, mais ne savent pas comment aborder le sujet.
« Seulement une personne sur cinq [adolescents] a déclaré avoir discuté de cela avec un adulte de confiance. Cependant, un tiers des adolescents ont exprimé leur désir d’en parler, mais hésitent à initier la conversation », a poursuivi Mann. Les adolescents plus jeunes semblent plus enclins à discuter de ce type de contenu avec les adultes de confiance que les plus âgés, tandis qu’un adolescent sur dix se sentirait plus à l’aise de parler avec un chatbot à propos des contenus qu’il rencontre.
Pour Mann, ces réponses indiquent que « les jeunes sont ouverts à ces conversations », et qu’il est vital de créer un espace pour en discuter le plus tôt possible.
Il y a actuellement une « opportunité unique pour les parents d’entamer ces discussions avec leurs enfants, sans attendre », a ajouté Mann. « Nous ne voulons pas que nos enfants se tournent vers des chatbots pour avoir ces échanges, ni qu’ils n’en parlent pas du tout. »
Au-delà des parents, les établissements scolaires, les décideurs politiques et les entreprises technologiques, qui développent les outils utilisés pour créer ce type de contenu et exploitent les plateformes où les jeunes rencontrent du contenu sexuel généré par l’IA, doivent être proactifs dans la compréhension de ce phénomène et de ses effets néfastes. Un des défis consiste à limiter la création de deepfakes. Certains responsables locaux envisagent les magasins d’applications comme un point potentiel à contrôler dans la chaîne d’approvisionnement des deepfakes : la semaine dernière, San Francisco a exigé d’Apple et Google de retirer ces applications de leurs plateformes respectives.
« Il est essentiel d’aborder ce problème sous tous ses aspects », a déclaré Mann.
Dans l’intervalle, ce sont les jeunes qui font face aux conséquences réelles de la pornographie artificielle et des deepfakes dans leur vie personnelle et sociale.
« Nous avons évolué en parallèle avec l’IA. Nous avons grandi ensemble. Les adultes n’ont pas la même expérience de vie que nous », a déclaré une adolescente de 17 ans aux chercheurs. « Ils ne se rendent pas compte à quel point l’IA est avancée et intense. »
Pour en savoir plus sur les deepfakes : xAI d’Elon Musk, poursuivi en justice pour des deepfakes sexuels générés par IA, poursuit un utilisateur de Grok pour les mêmes raisons.
FAQ
Qu’est-ce que le deepfake ?
Le deepfake est une technique qui utilise des algorithmes d’intelligence artificielle pour créer des contenus audiovisuels trompeurs, souvent en modifiant des vidéos ou des images de manière indétectable.
Quelle est la législation autour des contenus générés par IA ?
La législation concernant les contenus sexuels générés par l’IA, notamment ceux impliquant des mineurs, évolue rapidement et comprend des lois fédérales qui les classifient comme matériel d’abus sexuel.
Comment les parents peuvent-ils aborder ce sujet avec leurs enfants ?
Les parents peuvent initier la conversation en se montrant disponibles et ouverts, posant des questions sur ce que leurs enfants ont vu en ligne et en expliquant les risques associés.
Quels sont les impacts psychologiques sur les adolescents ?
Les adolescents peuvent ressentir de l’anxiété, un sentiment de perte de contrôle et des problèmes de confiance envers leurs pairs à la suite de l’exposition à ces contenus perturbants.
Quelle est l’importance de la sensibilisation dans les écoles ?
Les écoles jouent un rôle crucial en éduquant les jeunes sur les dangers des technologies modernes et en créant un environnement où ils se sentent en sécurité pour en discuter.
