Club des Enfants Fantômes
Il semble qu’il existe un sous-genre sur TikTok lié à la이미 true crime qui utilise l’intelligence artificielle pour faire revivre numériquement des victimes d’agressions horribles, leur permettant ainsi de raconter comment ces enfants réels ont perdu la vie.
Selon un rapport de Rolling Stone, la plupart de ces comptes modifient l’apparence, et parfois même les noms, de leurs vraies victimes afin de contourner les récentes règles de TikTok interdisant les représentations “deepfake” de jeunes personnes. Ces règles stipulent également que toute utilisation de cette technologie doit être étiquetée comme telle.
Malgré tout, les personnages générés par l’IA prétendent relater des histoires de crimes terribles survenus à de vrais enfants, en jouant souvent sur des détails importants. Cela crée une situation trouble où il est difficile de distinguer le vrai du faux, ce qui soulève des questions sur l’objectif véritable de ces vidéos.
Paul Bleakley, professeur assistant en justice criminelle à l’Université de New Haven, a déclaré à Rolling Stone : « C’est vraiment bizarre et dérangeant. Ces vidéos semblent créées pour provoquer des réactions émotionnelles fortes, car c’est le moyen le plus sûr d’attirer des vues et des “likes”. C’est inconfortable à regarder, mais peut-être que c’est justement le but. »
Pourquoi cela se passe-t-il ?
Bien que certains de ces comptes incluent des avertissements affirmant qu’ils ne utilisent pas d’images réelles par respect pour les défunts, l’effet visuel reste perturbant. Les vidéos, bien qu’elles prétendent respecter la mémoire des victimes, dévoilent un contenu “très troublant” sans le consentement des familles.
Bleakley a également noté : « Imaginez être le parent d’un de ces enfants apparaissant dans ces vidéos IA. Vous allez sur Internet et voyez une image générée de votre enfant décédé, décrivant avec des détails atroces ce qui lui est arrivé, et le tout avec une voix aiguë et étrange. »
Les implications légales de cette situation sont complexes. Le professeur a comparé ces cas à de nouvelles lois visant à interdire la pornographie deepfake, un domaine qu’il décrit comme étant « très problématique et flou ». Cependant, d’un point de vue émotionnel et éthique, l’ensemble de cette entreprise semble tout simplement inacceptable.
Un petit point positif à mentionner : les comptes signalés par Rolling Stone ont été supprimés, ce qui laisse penser que la modération de contenu sur TikTok fonctionne quelque peu.
À propos des aspects troublants de l’IA : Un programmeur crée un outil inquiétant pour cloner n’importe qui en tant que « petite amie IA ».
FAQ
Qu’est-ce que le « true crime » ?
Le « true crime » fait référence à un genre qui traite des crimes réels, souvent avec un accent sur des détails choquants ou des récits de vie et de mort.
Quel est le problème avec les vidéos deepfake ?
Les vidéos deepfake peuvent manipuler des images de personnes sans leur consentement, créant des contenus qui peuvent être exploitants et nuisibles, en particulier pour les personnes décédées ou leurs familles.
TikTok prend-il des mesures contre ce genre de contenu ?
Oui, TikTok a introduit des règles interdisant les représentations profondes de jeunes afin de protéger les mineurs et d’éviter l’exploitation.
Que faire si je trouve ce genre de contenu en ligne ?
Il est conseillé de le signaler sur la plateforme concernée pour que les modérateurs puissent examiner la situation et prendre des mesures appropriées.
Existe-t-il des lois régissant l’utilisation de l’IA dans les médias ?
Oui, diverses lois commencent à émerger pour réglementer l’utilisation de technologies comme les deepfakes, mais c’est un domaine en évolution qui nécessite une attention continue.
