L’impact de l’IA générative sur la société
L’intelligence artificielle générative n’influence pas seulement l’environnement et la psychologie humaine, mais elle entraîne également des conséquences sociales considérables. Les deepfakes, qui sont des contenus modifiés de manière à imiter parfaitement la réalité, se sont multipliés avec l’essor de l’IA, transformant Internet en un véritable terrain de désinformation où la vérité est souvent altérée.
Augmentation des crimes sexuels numériques
Cette technologie a facilité une hausse alarmante des crimes sexuels en ligne, notamment à travers la pornographie deepfake impliquant des personnes réelles. Une étude récente, menée auprès de 557 adolescents aux États-Unis, a révélé que plus de 36 % d’entre eux avaient été victimes de la création d’images pornographiques non consensuelles utilisant l’IA. Pire encore, plus de 55 % des répondants ont avoué avoir utilisé l’IA pour produire eux-mêmes de telles images. Il ne fait aucun doute que l’essor rapide de cette technologie a contribué à une augmentation significative des cas de chantage sexuel, de sexualisation non consensuelle, ainsi que de matériel d’abus sexuel sur des enfants.
Réactions des autorités américaines
Contrairement à l’Union européenne et à la Chine, les autorités américaines ont été lentes à réagir face à ce fléau, bien que deux affaires fédérales récentes pourraient marquer un tournant. Selon les informations rapportées par l’Associated Press, deux hommes basés à Brooklyn ont été inculpés pour avoir créé de la pornographie deepfake, en vertu d’une nouvelle loi bipartisane.
Les suspects, Cornelius Shannon du New Jersey et Arturo Hernandez du Texas, auraient produit et partagé des milliers d’images et de vidéos mettant en scène des actrices, des chanteuses, des personnalités politiques et des femmes non célèbres dans des situations sexuelles inappropriées. Les procureurs, dans leur communiqué, précisent que les deux hommes agissaient séparément, chacun ayant dirigé son propre réseau de diffusion de ce type de contenu.
Les actions du ministère de la Justice
Le ministère de la Justice a identifié environ 473 albums comprenant 140 victimes, toutes des femmes. Les procureurs ont noté que « le contenu publié par Hernandez a été visionné près d’un million de fois », ce qui souligne l’ampleur du problème.
Lors d’une conférence de presse, le procureur des États-Unis, Joseph Nocella, a affirmé que cette affaire démontre que la diffusion de pornographie deepfake n’est pas un crime sans victime. Il a promis de poursuivre les responsables de ces actes odieux en utilisant toutes les ressources légales disponibles, y compris les nouvelles autorités conférées par le Congrès pour lutter contre ces formes émergentes d’abus psychologique, réputationnel et financier.
Perspectives et peines encourues
Si toute escalade dans la répression des créateurs de deepfake est une avancée bienvenue, il est important de souligner que ces deux individus ne sont que les deuxième et troisième personnes accusées en vertu de la loi bipartisane « Take It Down », signée par le président Trump en avril 2025. Leurs peines maximales pourraient atteindre deux ans de prison, ce qui peut sembler insuffisant face à la gravité des actes commis.
FAQ
Qu’est-ce que la pornographie deepfake ?
La pornographie deepfake utilise l’intelligence artificielle pour créer des images ou vidéos dans lesquelles des personnes apparaissent de manière réaliste dans des situations pornographiques sans leur consentement.
Comment l’IA générative est-elle utilisée dans d’autres domaines ?
En dehors des deepfakes, l’IA générative est également utilisée dans la création artistique, la rédaction de contenu, et même dans le développement de jeux vidéo, offrant de nouvelles possibilités créatives.
Quel est le statut des lois sur les deepfakes ailleurs dans le monde ?
Dans de nombreux pays, des législations sont en cours d’élaboration pour encadrer l’utilisation des deepfakes, mais l’état des lois varie considérablement d’un pays à l’autre.
Quels sont les risques pour les victimes de deepfake ?
Les victimes de deepfake peuvent souffrir de conséquences psychologiques graves, de dommages à leur réputation et même de risques d’harcèlement ou de chantage.
Quelles sont les efforts en cours pour lutter contre la désinformation liée aux deepfakes ?
Des organisations de lutte contre la désinformation travaillent avec les plateformes technologiques pour développer des outils de détection et des campagnes de sensibilisation afin d’informer le public des dangers associés aux deepfakes.
