Nouvelles Directives Sur l’Usage de l’IA en Chine
La Cour Suprême Populaire de Chine a récemment publié des directives qui mettent en lumière les risques juridiques associés à l’utilisation de deepfakes, de voix clonées, et de recréations d’individus décédés par intelligence artificielle. Ces nouvelles règles s’inscrivent dans un cadre légal en pleine évolution face à la prolifération des médias synthétiques qui se font de plus en plus accessibles et convaincants.
Ce Qu’il Faut Retenir
Comme l’indique le South China Morning Post, la Cour Suprême a formulé un avis de 24 articles explicatif sur la manière dont les juges doivent traiter les litiges civils liés à l’IA. L’accent est mis sur l’application des lois existantes au lieu de créer une législation spécifique à l’IA. Cette approche vise à protéger les droits individuels liés à l’image, à la voix et à la réputation. Ainsi, la création d’imitations numériques reconnaissables sans consentement, le clonage vocal ou la diffusion d’images inappropriées peuvent être vus comme des violations de droits.
Les règles ont été formulées dans le but de définir des limites juridiques claires tout en préservant l’innovation. Toutefois, des abus graves liés aux deepfakes pourraient mener à des conséquences légales plus sévères, notamment des escroqueries, des diffamations et des atteintes à la vie privée pouvant entraîner une responsabilité pénale.
Contexte Supplémentaire
Les risques liés à ces pratiques ne sont pas purement théoriques. Les outils d’IA sont désormais capables de produire rapidement des images, des audios et des vidéos réalistes à faible coût, ce qui facilite l’exploitation de ces technologies par des individus malveillants, touchant ainsi tant les particuliers que les figures publiques.
Outre les deepfakes, l’avis aborde d’autres préoccupations, telles que la discrimination par les prix basée sur les données massives. Cela concerne l’utilisation d’algorithmes pour proposer des prix ou des conditions différents à divers clients pour un même produit. Les imitations de célébrités par IA lors de ventes en ligne sont aussi évoquées, et si ces dernières sont jugées frauduleuses, les consommateurs pourront réclamer des dommages-intérêts.
Mesures Prises
Une avancée concrète est l’élargissement des prérogatives des tribunaux pour intervenir rapidement avant que les dommages ne s’aggravent. Les victimes de contenus faux et sexualisés pourraient obtenir des injonctions pour éviter des préjudices irrémédiables. Les juges pourraient ainsi ordonner l’arrêt de la diffusion ou exiger l’intervention des plateformes et des fournisseurs de services d’IA pour limiter les dégâts.
L’avis indique également comment la responsabilité pourrait s’étendre aux entreprises d’IA et à leurs utilisateurs. Les fournisseurs de services ne sont pas contraints de vérifier systématiquement chaque contenu produit, mais ils peuvent être tenus responsables s’ils sont informés de contenus enfreignant la législation et ne réagissent pas. De plus, les utilisateurs générant intentionnellement des contenus nuisibles pourraient également faire face à des poursuites.
Wang Liming, vice-président de la China Law Society et professeur à l’Université Renmin, a mentionné que l’approche de la Chine diffère de celle de l’Europe et des États-Unis. Il a souligné la nécessité pour la Chine d’échapper aux limitations des deux modèles pour trouver un équilibre entre le développement de l’IA et la sécurité.
La Cour a insisté sur l’importance d’une réponse rapide lorsque les médias synthétiques causent des dommages dans le monde réel. Elle a déclaré que la méthode traditionnelle consistant à demander réparation après coup n’est pas efficace pour protéger rapidement les droits des victimes, ce qui rend l’application des injonctions de droits personnels d’une importance cruciale.
Informations Complémentaires
Alors que ces nouvelles directives arrivent, le débat sur la supervision de l’IA s’intensifie. Les cas récents montrent l’impact de l’IA sur divers domaines, tels que les droits du travail et les campagnes politiques. Parmi les événements marquants :
- Un tribunal en Chine a jugé illégal de remplacer des employés par de l’IA pour des raisons d’économies.
- En Californie, des courriels de campagne générés par des outils d’IA ont été découverts, critiquant une proposition liée aux appareils à gaz.
- La société Anthropic a averti que ses modèles pourraient bientôt s’améliorer eux-mêmes, ce qui a conduit à des appels pour une pause globale.
L’ampleur des disputes liées à l’IA dépasse les simples questions de deepfakes, touchant également des sujets cruciaux comme l’emploi, la politique, et la responsabilité en cas de problème. Cela explique pourquoi les tribunaux s’efforcent de définir des règles plus claires avant que les préjudices ne s’aggravent.
FAQ
Quelles sont les conséquences de l’utilisation de deepfakes en Chine ?
L’utilisation de deepfakes peut entraîner des poursuites civiles pour atteinte à l’image, à la voix, ou à la réputation d’une personne, avec des conséquences potentielles de responsabilité pénale en cas d’abus.
Comment les victimes de contenus nuisibles peuvent-elles agir rapidement ?
Les victimes peuvent demander des injonctions pour empêcher la diffusion de contenus nuisibles, ce qui permet d’éviter des dommages irréparables avant que la situation ne s’aggrave.
Quelles mesures sont en place pour les entreprises d’IA ?
Les entreprises d’IA pourraient être tenues responsables si elles ne réagissent pas aux plaintes concernant du contenu illicite dont elles ont été informées, même sans obligation de précontrôle.
Comment ces directives affectent-elles la liberté d’expression ?
Les nouvelles règles visent à équilibrer la liberté d’expression avec la protection des droits individuels et la prévention des abus, ce qui pourrait limiter certaines formes d’expression potentiellement nuisibles.
Quel avenir pour la régulation de l’IA en Chine ?
La Chine cherche à établir un cadre de régulation qui se distingue des modèles européens et américains afin de favoriser à la fois l’innovation dans le domaine de l’IA et la sécurité des citoyens.
