FAKE NEWS
Dans les débuts prometteurs d’internet, nous espérions qu’il deviendrait une source d’informations de qualité. Aujourd’hui, il semble plutôt ressembler à un océan sans fond de mensonges, favorisant la désinformation tapageuse et polluant ainsi le processus politique.
C’est ce qu’ont voulu alerter trois membres du Congrès dans une lettre adressée à Daniel Coats, directeur du renseignement national américain. Ils s’inquiètent tout particulièrement de la technologie dite du **deepfake**, qui permet à des utilisateurs peu aguerris en technologie de créer des vidéos convaincantes de personnes faisant ou disant des choses qu’elles n’ont jamais réalisées.
Dans cette lettre, on peut lire : “Les **faux numériques hyper-réalistes** — communément appelés ‘deep fakes’ — utilisent des techniques avancées d’apprentissage machine pour générer des représentations convaincantes d’individus faisant ou disant des choses qu’ils n’ont jamais faites, sans leur consentement.” Cela crée une confusion entre le vrai et le faux, ce qui pourrait éroder la confiance du public dans les images et vidéos censées représenter la réalité.
MISINFO
Les représentants Adam Schiff (D-CA), Stephanie Murphy (D-FL) et Carlos Curbelo (R-FL) ont apposé leur signature sur ce document. Ils y demandent aux responsables de la communauté du renseignement de préparer un rapport afin d’informer le Congrès des mesures qu’ils envisagent pour lutter contre la propagation de ces vidéos falsifiées.
Ils soulignent que des vidéos, images ou audio truqués pourraient être utilisés pour faire chanter des individus ou pour d’autres fins malveillantes. Ce qui préoccupe encore davantage en matière de **sécurité nationale**, c’est la possibilité que des acteurs étrangers ou domestiques utilisent ces outils pour diffuser de la désinformation.
INFOCALYPSE
Cette technologie des **deepfakes** a gagné en visibilité au début de l’année sur Reddit, où les utilisateurs ont commencé à intégrer les visages de célébrités dans des films pornographiques et même à glisser le visage de Nicolas Cage dans des films où il n’était jamais apparu. Cette tendance a alerté les experts lors d’une réunion DARPA sur la forensic des médias. Un expert a même déclaré que des vidéos falsifiées montrant un dirigeant mondial déclarant la guerre pourraient provoquer un “holocauste nucléaire à grande échelle”.
À ce jour, aucune vidéo trompeuse d’un dirigeant n’a encore fait le tour des réseaux sociaux. Mais si cela venait à se produire, cela testerait notre capacité à rester critiques dans une époque où même les informations véridiques sont vite politisées en ligne.
POUR ALLER PLUS LOIN : Lettre sur les Deep Fakes [Adam Schiff]
En savoir plus sur la guerre de l’information : Si le DARPA veut stopper les deepfakes, ils devraient parler à Facebook et Google
FAQ
Qu’est-ce qu’un deepfake ?
Un deepfake est une technique de manipulation numérique qui permet de superposer le visage d’une personne sur une vidéo d’une autre personne, souvent utilisée pour créer des contenus trompeurs.
Quels sont les risques associés aux deepfakes ?
Les deepfakes peuvent être utilisés pour la désinformation, le chantage et d’autres activités malveillantes, compromettant ainsi la sécurité nationale et la confiance publique.
Comment peut-on se défendre contre la désinformation ?
Il est crucial de vérifier les sources d’information, de se fier à des médias réputés et d’utiliser des outils de fact-checking pour éviter de croire et de partager des contenus trompeurs.
Les deepfakes peuvent-ils être détectés ?
Des outils et des technologies émergent pour tenter de détecter les deepfakes, mais la technologie continue d’évoluer, rendant la détection de plus en plus difficile.
Quelle est l’importance de la réglementation sur les deepfakes ?
Une réglementation stricte peut aider à limiter l’usage abusif des deepfakes, à protéger les individus et à préserver la confiance dans les informations diffusées.