La Cour Suprême de Chine lâche une nouvelle salve contre les deepfakes
Quelques mois après qu’un tribunal intermédiaire chinois a statué contre une entreprise utilisant l’IA pour licencier un employé, la plus haute instance judiciaire du pays a annoncé une décision marquante : une répression massive des deepfakes réalisés avec l’intelligence artificielle.
Dans une nouvelle directive publiée lundi, la Cour Suprême du Peuple de Chine, l’institution judiciaire majeure du pays, a précisé comment les juges des tribunaux inférieurs doivent aborder les problèmes civils liés à l’abus des technologies d’IA. Comme le rapporte le South China Morning Post, cette opinion se compose de 24 articles, fournissant des orientations officielles sur les conflits liés aux contenus générés par l’IA, tels que les vidéos et les enregistrements audio, ainsi que sur des sujets sérieux comme la privacy, les comportements financiers répréhensibles et la surveillance.
Les enjeux liés aux deepfakes
Une des préoccupations principales de cette directive concerne les deepfakes, qui engendrent des images, vidéos et audios d’apparence réaliste basés sur des personnalités existantes. Comme l’indique le jugement, cette technologie peut être utilisée pour “rendre les morts vivants.” Avec l’apparition de modèles d’IA générative de plus en plus accessibles, ce genre de contenu a fleuri sur la toile, entraînant une augmentation alarmante des arnaques, de la désinformation et d’autres contenus abusifs.
Les risques posés par la technologie de clonage vocal
« De nombreuses personnes expriment leurs préoccupations face aux deepfakes. Les technologies de swap de visages par IA peuvent sans distinction capturer l’apparence physique de n’importe qui, rendant ainsi de simples citoyens susceptibles d’être ciblés par ces contenus », a déclaré Si Yanli, responsable adjoint du bureau de recherche de la Cour Suprême. Elle a également ajouté que les technologies de clonage vocal de l’IA peuvent “voler” des voix à un coût très faible, produisant des résultats d’une étonnante ressemblance.
Actuellement, le SCMP fait remarquer que les tribunaux chinois se voient conseiller d’évaluer les plaintes relatives à ces contenus en se concentrant sur la protection des identités individuelles, des traits personnels et des réputations.
Élargir la lutte contre les abus en ligne
Au-delà des abus liés à l’IA, cette nouvelle directive aborde également le phénomène du doxing, qui consiste à obtenir et à diffuser des informations personnelles d’autres personnes en ligne. Si a souligné que cette pratique est devenue une forme prévalente de cyberharcèlement, portant atteinte à la vie privée des victimes, troublant leur existence quotidienne et menaçant la sécurité publique sur Internet.
Il convient de rappeler que la Chine fonctionne selon un système juridique de droit civil, ce qui implique que les tribunaux ne se basent pas sur le principe du stare decisis. Contrairement aux États-Unis, les juridictions inférieures chinoises ne sont pas automatiquement liées par des précédents établis dans d’autres décisions judiciaires.
Cependant, les directives de la Cour Suprême portent un poids légal significatif, obligeant les juridictions inférieures à s’y référer dans leurs propres décisions. Cela signifie que ces nouvelles orientations représentent une forte opposition contre les abus potentiels liés à l’IA.
Plus sur la régulation de l’IA
À lire également : Des dizaines de robots humanoïdes se rassemblent pour une protestation, en marchant et en brandissant des pancartes.
FAQ
Qu’est-ce que le deepfake ?
Le deepfake est une technologie qui utilise l’intelligence artificielle pour créer des contenus manipulés qui imitent de manière réaliste l’apparence ou la voix d’une personne.
Pourquoi la Chine réglemente-t-elle les deepfakes ?
La réglementation vise à protéger les individus contre l’utilisation abusive des technologies d’IA, afin de préserver leur identité, leur réputation et leur vie privée.
Quelles sont les conséquences du doxing ?
Le doxing peut provoquer des atteintes graves à la vie privée des individus, engagés dans des campagnes de harcèlement et mettant en danger leur sécurité personnelle.
Comment les tribunaux chinois abordent-ils les abus d’IA ?
Les tribunaux sont désormais incités à évaluer les litiges liés à l’IA en se concentrant sur les dommages potentiels causés aux victimes, y compris des atteintes à leur identité et à leur réputation.
