Récemment, un extrait montrant **Jennie**, membre de Blackpink, au festival **Summer Sonic** de Tokyo a suscité une polémique après avoir été visionné plus de **10 millions de fois**. Des fans ont exprimé leurs inquiétudes en suggérant que cette vidéo pouvait avoir été **manipulée**. Cette situation soulève des questions sur l’efficacité des **menaces légales** pour combattre les conséquences liées aux **deepfakes**.

Comme l’a indiqué **David D. Lee** du **South China Morning Post**, cet incident représente un nouveau défi dans la lutte de la Corée du Sud contre les abus sexuels encouragés par l’intelligence artificielle.

Ce qu’il faut savoir

Après la diffusion de ce clip, où l’on pouvait percevoir une sorte de « **malfonction vestimentaire** », les fans ont analysé la vidéo, y voyant des signes d’une **édition par IA** et exigeant qu’elle soit retirée. La vidéo provenait de la prestation principale de Jennie, pendant laquelle elle s’est retournée, a ajusté son vêtement, puis a poursuivi son concert.

Selon Lee, le compte qui aurait été à l’origine de la publication de ce clip a été **suspendu**, mais aucune démarche judiciaire n’a encore été annoncée.

Le **South China Morning Post** a présenté cette affaire comme un relai dans le combat de la Corée du Sud contre les abus sexuels à l’aide de l’IA, en notant que les menaces juridiques n’ont pas découragé de nombreux jeunes délinquants.

Contexte supplémentaire

Les **deepfakes** peuvent se propager rapidement et provoquer des conséquences dévastatrices avant qu’on ne puisse vérifier les faits. Même si un contenu est retiré, des copies et des enregistrements peuvent continuer à circuler, aggravant le préjudice.

Les répercussions ne se limitent pas aux célébrités ; des contenus sexuels générés ou altérés par l’IA peuvent également viser des personnes lambda, transformant l’humiliation privée en un calvaire public et **recherchable**.

Lee a évoqué la mise à jour des lois en **2024** en Corée du Sud, en réponse à des réseaux criminels qui partageaient des images falsifiées de femmes et de jeunes filles, y compris des étudiantes, via des canaux Telegram cryptés. Ces nouvelles législations prévoient des **peines de prison allant jusqu’à sept ans**.

Cependant, il souligne que les cas plus récents de **deepfakes** soulèvent un point crucial : comment du matériel abusif convaincant peut surgir d’une simple photo, circuler rapidement, et être visualisé par de nombreuses personnes avant que quiconque, qu’il soit victime ou enquêteur, ne sache qui en est l’auteur.

Malheureusement, ce problème persiste même après l’adoption de nouvelles lois. Lee écrit que « **l’affaire Jennie** montre pourquoi il est difficile d’établir des poursuites. Avant de pouvoir engager une action judiciaire, les enquêteurs doivent prouver si le contenu a été véritablement fabriqué, retrouver l’identité de celui qui a publié cette vidéo et déterminer si ceux qui l’ont partagée savaient qu’elle était falsifiée. »

Il évoque également les difficultés engendrées par des comptes **anonymes**, précisant que l’identification de l’utilisateur réel peut prendre beaucoup de temps. Les enquêteurs doivent souvent contacter des opérateurs de serveurs étrangers pour connaître l’identité derrière un compte, avant que l’auteur ne supprime son compte ou ne fasse disparaître les preuves.

Quelles actions sont entreprises ?

Plusieurs avocats et organisations, dont **Amnesty International Korea**, travaillent à aborder ces problèmes tant sur le plan juridique que culturel, avec l’intention de s’attaquer aux causes profondes.

Bang Suk-ho, directeur du centre de l’industrie de l’IA au cabinet d’avocats **Lin LLC** à Séoul, a déclaré à Lee : « Ce n’est pas une question qui peut être résolue simplement par un renforcement des lois, comme un jeu incessant du chat et de la souris. »

Dans un communiqué, **OA Entertainment** a mentionné le **18 août** avoir “récemment identifié des actes répréhensibles visant l’artiste [Jennie] sur divers réseaux sociaux et plateformes en ligne.” La société a assuré qu’elle collaborait avec des avocats pour engager des actions civiles et pénales, promettant “aucun compromis ni clémence”.

Comment approfondir le sujet ?

Cette situation illustre comment les dommages liés à l’IA peuvent rapidement dégénérer. Le contenu généré par l’IA suscite également des inquiétudes concernant ses coûts sociaux et infrastructurels.

• Au **Chicago Sun-Times**, une liste de lecture estivale générée par IA a embarrassé les éditeurs.

• Lors d’un **sommet mondial**, les dirigeants ont mis en garde contre le risque que l’IA puisse devenir un moteur d’inégalité.

• Dans le secteur technologique, une réaction contre l’IA** est en pleine croissance, suscitant des préoccupations sur l’emploi, l’eau et l’énergie.

• Les décideurs sont incités à exiger des révélations sur les centres de données à mesure que l’empreinte de l’IA croît.

• Les fournisseurs de services publics signent des accords sans précédent avec l’industrie face à la demande croissante générée par les centres de données de l’IA.

Abonnez-vous aux **newsletters** gratuites de TCD pour bénéficier de conseils pratiques et d’un chance de remporter **5 000 $** pour des rénovations domiciliaires. Pour découvrir plus d’histoires comme celle-ci, modifiez vos préférences Google ici.

FAQ

Qu’est-ce qu’un deepfake ?

Un deepfake est un contenu numérique, généralement une vidéo ou une image, qui utilise l’intelligence artificielle pour superposer un visage sur un corps, souvent à des fins trompeuses.

Quels sont les risques associés aux deepfakes ?

Les deepfakes peuvent causer des dégâts considérables en diffamant des personnes, en créant de fausses nouvelles ou en étant utilisés dans des contenus pornographiques sans le consentement des sujets concernés.

Comment les lois évoluent face aux deepfakes ?

De nombreux pays, y compris la Corée du Sud, ont commencé à renforcer leurs lois pour lutter contre les abus liés aux deepfakes, introduisant des sanctions plus sévères pour les contrevenants.

Quelle est la position des entreprises sur l’utilisation de l’IA ?

De nombreuses entreprises soutiennent le développement de l’IA, mais se trouvent confrontées à des dilemmes éthiques concernant la manière dont cette technologie peut être utilisée à des fins nuisibles.

Comment protéger sa vie privée face aux technologies d’IA ?

Il est conseillé d’être vigilant sur les informations personnelles partagées en ligne et d’utiliser des paramètres de confidentialité pour réduire les risques d’usage abusif de l’IA.