Le mois dernier, les avocats d’Elon Musk, le PDG de Tesla, ont soutenu que des enregistrements de 2016 le montrant faisant de grandes promesses concernant le logiciel Autopilot de la voiture auraient pu être manipulés par une technique appelée deepfake.
Bien que le juge n’ait pas été convaincu par ces arguments et ait ordonné à Musk de témoigner sous serment, cette situation met en lumière une tendance inquiétante. À mesure que les outils d’intelligence artificielle générative facilitent la synthèse des voix et des visages de figures publiques, certains avocats cherchent à exploiter cette technologie pour remettre en question notre perception d’une réalité objective.
Les conséquences sont préoccupantes. Des experts, comme Hany Farid, spécialiste en médecine légale numérique à l’Université de Californie à Berkeley, ont exprimé leurs craintes quant à un avenir où des preuves telles que des violences policières ou des violations des droits de l’homme pourraient être discréditées en raison de soupçons de falsification numérique. “Il n’y aura plus de réalité”, déclare-t-il.
Musk n’est pas le seul à faire appel à cette défense. Deux personnes présentes lors de l’émeute du 6 janvier ont également tenté de faire valoir que des vidéos les montrant au Capitole pouvaient avoir été manipulées par l’IA, une défense qui a été rejetée par le tribunal.
Ce type d’argument pose un véritable défi au système juridique américain, qui n’est pas bien préparé à traiter ces questions. Comme le souligne Rebecca Delfino, juriste à l’école de droit de Loyola à Los Angeles, la loi n’offre pas de réponse claire à l’utilisation des deepfakes comme argument de défense. Elle ajoute que cette stratégie remet en cause le processus adversarial traditionnel, essentiel à la recherche de la vérité.
Delfino souligne que certains avocats exploitent cette situation pour semer le doute chez les jurés quant à ce qui est réel, un phénomène inquiétant étant donné que les directives juridiques actuelles ont été établies avant l’émergence de ces technologies.
La situation est préoccupante, car avec la montée en puissance des médias manipulés, la confiance du public s’amenuise tandis que la distinction entre le vrai et le faux devient de plus en plus floue. Les chercheurs en droit, Bobby Chesney et Danielle Citron, ont qualifié ce phénomène de “Dividende du menteur”. Ils notent que plus le public prend conscience que les vidéos et les audios peuvent être facilement falsifiés, plus certains tenteront d’échapper à leurs responsabilités en qualifiant des preuves authentiques de deepfakes.
Regagner la confiance pourrait s’avérer extrêmement difficile. Nina Schick, politologue et consultante en technologie, a suggéré que nous devrions intégrer des mécanismes de sécurité pour maintenir un certain degré de confiance dans le contenu numérique que nous consommons quotidiennement, sinon, l’idée d’une réalité partagée pourrait rapidement disparaitre.
Malheureusement, avec les avancées technologiques actuelles, la situation semble se détériorer avant de s’améliorer. De nos jours, il est possible d’entraîner une IA sur un petit ensemble de données audiovisuelles pour créer des deepfakes convaincants. Britt Paris, professeur d’information à l’Université Rutgers, a souligné que l’accessibilité de ces technologies permet désormais à tout le monde de les utiliser, pas seulement ceux disposant de moyens technologiques avancés.
Des deepfakes circulent déjà sur Internet, y compris des vidéos faussement attribuées au président Joe Biden, et les partis politiques n’hésitent pas à les utiliser. Par exemple, le Comité national républicain a récemment publié une publicité d’attaque illustrant une invasion fictive de Taïwan par la Chine, entièrement créée par IA.
À mesure que la déstabilisation s’intensifie, we pouvons nous attendre à ce que de plus en plus d’avocats se tournent vers cette défense inédite. Bien que les tribunaux aient jusqu’à présent su résister à ces tentatives, rien ne garantit qu’un juge ne sera pas finalement convaincu par un argument particulièrement persuasif.
—
## FAQ
#### Qu’est-ce qu’un deepfake ?
Un deepfake est une technologie qui utilise l’intelligence artificielle pour créer des contenus audio ou vidéo manipulés dans le but de faire apparaître une personne comme si elle disait ou faisait quelque chose qu’elle n’a jamais réellement dit ou fait.
#### Comment les deepfakes peuvent-ils affecter la société ?
Les deepfakes peuvent miner la confiance du public en augmentant les doutes sur l’authenticité des contenus médiatiques, ce qui peut avoir des implications majeures en matière de justice et de sécurité.
#### Quels sont les défis juridiques posés par les deepfakes ?
Les débats juridiques autour des deepfakes mettent en lumière des failles dans la législation actuelle, rendant difficile la détermination de la véracité des preuves, ce qui peut influencer les verdicts dans les affaires judiciaires.
#### Existe-t-il des technologies pour détecter les deepfakes ?
Oui, plusieurs entreprises et chercheurs développent des outils pour détecter les deepfakes, bien que l’efficacité de ces technologies varie et qu’il est difficile de suivre le rythme des avancées des deepfakes eux-mêmes.
#### Que faire face à un deepfake ?
Face à un deepfake, il est essentiel de vérifier la source d’une vidéo ou d’un audio, d’utiliser des outils de vérification et de consulter des spécialistes en technologie ou en droits numériques.
