Repérage des deepfakes
Les chercheurs ont mis au point un algorithme capable de détecter des portraits manipulés, appelés deepfakes, en analysant les reflets dans les yeux.
Des informaticiens de l’Université de Buffalo ont développé cet algorithme, comme l’indique un communiqué de presse, qui examine les reflets des yeux pour établir si une image est authentique.
Dans une étude acceptée par la Conférence Internationale de l’IEEE sur l’Acoustique, la Parole et le Traitement du Signal, les chercheurs affirment que leur algorithme atteint une efficacité de 94 % dans l’identification des images falsifiées. Cela représente une méthode intéressante pour valider des images et vidéos.
Des fenêtres vers l’âme
La capacité de cet algorithme à détecter les images truquées repose sur une notion surprenante : les deepfakes sont souvent incapables de produire des reflets oculaires réalistes.
« La cornée fonctionne presque comme un hémisphère parfait et est très réfléchissante », explique le Dr. Siwei Lyu, professeur d’innovation à SUNY Empire et principal auteur de l’étude. « Ainsi, tout ce qui éclaire l’œil va créer une image sur la cornée. »
Il ajoute : « Les deux yeux devraient présenter des motifs réfléchissants très similaires, car ils perçoivent la même scène. C’est un détail auquel nous ne prêtons pas toujours attention lorsque nous observons un visage. »
Cependant, les systèmes d’intelligence artificielle qui génèrent des deepfakes ont du mal à créer des reflets cohérents dans les deux yeux. Avec un peu d’attention, il est même possible de repérer cette différence en comparant les images d’yeux réels et ceux générés par une IA.
Les dangers des deepfakes
Le développement de cet algorithme s’inscrit dans le cadre des efforts de Lyu pour sensibiliser à la nécessité croissante de dispositifs permettant de détecter les deepfakes. Ses préoccupations l’ont amené à témoigner devant le Congrès en 2019, où il a discuté des risques associés aux deepfakes et des stratégies pour lutter contre ce phénomène.
Il souligne : « Malheureusement, une grande partie de ces vidéos falsifiées a été créée pour des raisons pornographiques, occasionnant ainsi de graves dommages psychologiques aux victimes. » Il met également en garde contre les conséquences politiques potentielles, où une vidéo truquée pourrait montrer de façon fallacieuse un politicien dire ou faire quelque chose de compromettant.
Également, les deepfakes ont le pouvoir de produire des vidéos troublantes mettant en scène des célébrités, rendant cet outil encore plus délicat à gérer.
LIRE LA SUITE : Un nouvel outil de détection des deepfakes prouve une efficacité de 94 % – Voici son secret
Autres informations concernant l’IA
Nous voyons également des applications émergentes, comme une nouvelle application de navigateur permettant de créer des faux personnages photoréalistes.
FAQ
Qu’est-ce qu’un deepfake ?
Un deepfake est une vidéo ou une image manipulée générée par intelligence artificielle, créant des contenus trompeurs qui peuvent être difficiles à différencier des vrais.
Comment fonctionne l’algorithme de détection des deepfakes ?
L’algorithme analyse les reflets dans les yeux des portraits pour vérifier l’authenticité des images. Les incohérences dans les reflets sont souvent révélatrices de falsifications.
Quels sont les impacts des deepfakes sur la société ?
Les deepfakes peuvent causer des dommages psychologiques aux victimes, altérer des réalités politiques et diffuser de fausses informations.
Peut-on les prévenir ?
Bien qu’il existe des outils de détection, il est crucial d’éduquer le public sur les signes révélateurs d’une vidéo falsifiée pour mieux se protéger contre ces techniques trompeuses.
Comment repérer un deepfake ?
En prêtant attention à des éléments tels que les reflets des yeux, les mouvements naturels et les incohérences dans le son par rapport à l’image, on peut souvent repérer un deepfake.
Cela peut vous intéresser
