Sur TikTok, certains utilisateurs exploitent des **technologies d’IA** pour manipuler des vidéos réelles d’arrestations, montrant des policiers en train d’embrasser et de toucher inappropriément des personnes interpellées.
Ces **deepfakes**, découverts par Copyleaks, sont particulièrement dérangeants. Les vidéos, qui s’appuient sur de véritables enregistrements d’arrestations — souvent filmés à l’origine pour des émissions de télé-réalité comme « D.U.I. » sur TLC — ont été altérées pour caricaturer des agents des forces de l’ordre dans des scènes explicites avec des femmes et quelques hommes authentiques, souvent en situation de contrôle routier. Les personnes arrêtées sont fréquemment montrées menottées, se trouvant près de voitures de police pendant que ces faux comportements sexuels sont mis en scène.
Ces contenus malveillants sont insérés de manière à créer une fausse narration dans des vidéos prolongées d’arrestations, ce qui semble indiquer que ces manipulations ont été conçues pour captiver l’attention des utilisateurs et les inciter à visionner la totalité des vidéos d’arrestation.
Alon Yamin, le cofondateur et PDG de Copyleaks, a exprimé son indignation en déclarant : « C’est un exemple troublant de l’utilisation des outils d’IA pour générer de faux contenus à partir de réalités existantes, uniquement afin d’attirer l’attention sur les réseaux sociaux. Il est crucial de se rappeler que ces vidéos impliquent de vraies personnes — tant des policiers que des citoyens — représentées dans des situations qui ne se sont jamais produites. »
Yamin a également souligné l’inquiétude que cette situation engendre pour toutes les personnes concernées, mentionnant que dans certaines vidéos, les individus montrés comme victimes semblent souriants, donnant l’impression qu’ils participent consentants aux avances sexuelles des policiers qui les appréhendent.
Par ailleurs, certaines vidéos manipulées indiquent qu’elles contiennent du contenu généré par IA, accompagnées d’une mise en garde mentionnant que les clips sont destinés à des fins de « divertissement sans intention malveillante ». Cependant, ces avertissements semblent vides de sens, car ces deepfakes sexualisés, créés sans le consentement des sujets, portent en réalité atteinte à leur intégrité.
Suite à nos signalements, TikTok a retiré certaines de ces vidéos spécifiques que nous avons indiquées et nous a redirigés vers leurs directives de plateforme concernant l’étiquetage clair des contenus réalistes générés par IA.
Plus sur les deepfakes
La prolifération des deepfakes influence profondément la façon dont les adolescents utilisent Internet
FAQ
Qu’est-ce qu’un deepfake ?
Un deepfake est une technologie qui utilise l’intelligence artificielle pour créer des vidéos truquées où des personnes semblent dire ou faire des choses qu’elles n’ont jamais réellement faites, souvent en manipulant des enregistrements audiovisuels existants.
Quels sont les risques associés aux deepfakes ?
Les deepfakes peuvent nuire à la réputation des individus, être utilisés pour diffuser de la désinformation, ou encore porter atteinte à la vie privée des personnes représentées, surtout si cela implique des contenus inappropriés ou compromettants.
Comment les plateformes gèrent-elles les contenus de deepfake ?
La plupart des plateformes, comme TikTok, ont mis en place des politiques visant à retirer ce type de contenu trompeur et à signaler aux utilisateurs la présence de contenu généré par IA pour éviter les abus.
Que faire si vous êtes victime d’un deepfake ?
Si vous êtes victime d’un deepfake, il est conseillé de contacter la plateforme concernée pour signaler le contenu et éventuellement consulter un avocat spécialisé dans les droits numériques pour discuter des recours possibles.
Existe-t-il des lois sur les deepfakes ?
La législation concernant les deepfakes est encore en développement dans de nombreux pays. Certaines lois visent à protéger les personnes contre l’utilisation non autorisée de leur image et à réguler la diffusion de contenus trompeurs.
