Surprises désagréables
Synthesia est une entreprise spécialisée dans la création de vidéos à partir de texte grâce à l’intelligence artificielle, et elle est évaluée à plus d’un milliard de dollars. Ce service permet aux utilisateurs de produire des vidéos de qualité studio avec des avatars générés par IA, tout cela de manière aussi simple que de réaliser une présentation PowerPoint.
Les clients de Synthesia sont très variés, comprenant des noms prestigieux comme Reuters et le géant de la comptabilité Ernst & Young, mais aussi des régimes autoritaires. Cela a causé un choc terrible pour certains modèles humains dont les visages ont servi de base pour les avatars de Synthesia.
Réactions choquées
Selon un article de The Guardian, plusieurs modèles se sont déclarés horrifiés en découvrant que leur image avait été utilisée dans des clips de propagande générée par IA pour des pays autoritaires tels que la Chine, la Russie et Venezuela. Mark Torres, un directeur créatif londonien et modèle pour Synthesia, a exprimé son choc en déclarant : « Je suis sous le choc, il n’y a pas de mots. » Après avoir visionné un de ces clips, il a ajouté qu’il se sentait violé et vulnérable.
Il a également noté que la simple présence de son image pourrait être utilisée pour promouvoir une règle militaire dans un pays qu’il ne connaissait même pas, craignant que cela le fasse passer pour un complice d’un coup d’État.
Légalité et protection des droits
Cette situation soulève des questions importantes, surtout après le passage de deux nouvelles lois en Californie qui rendent illégal l’usage d’une réplique numérique générée par IA de l’apparence ou de la voix d’un acteur sans son consentement explicite. Ce sujet a été particulièrement brûlant lors de la grève l’année dernière des Syndicats des Acteurs et des Scénaristes, où les questions liées à l’utilisation de l’intelligence artificielle ont été au cœur des préoccupations.
Les clients de Synthesia semblent avoir obtenu un bon accord, étant payés des milliers de dollars pour une seule journée de tournage. Dan Dewhirst, un acteur dont l’image a été utilisée dans des clips de propagande vénézuélienne, a déclaré qu’il redoutait les conséquences potentielles de ces vidéos sur sa carrière, mentionnant qu’il avait même perdu des clients.
Par ailleurs, il a exprimé sa colère à la découverte de cette situation, précisant que cela avait été très préjudiciable à sa santé mentale.
Responsabilité de Synthesia
De son côté, Synthesia défend sa position en affirmant qu’elle est protégée par les termes de ses contrats. Un représentant de l’entreprise a précisé que les « conditions de service » et le fonctionnement de sa technologie sont expliqués au début de toute collaboration avec les acteurs et les modèles, afin que ceux-ci soient conscients de l’étendue de ce que la plateforme peut faire.
Bien que l’entreprise admette que ses systèmes ne soient pas parfaits, ses fondateurs sont engagés à les améliorer en permanence.
FAQ
Qu’est-ce que Synthesia ?
Synthesia est une entreprise qui utilise l’intelligence artificielle pour créer des vidéos à partir de texte, en générant des avatars numériques qui peuvent parler et agir.
Quels sont les risques associés à l’utilisation des images par des entreprises comme Synthesia ?
Les risques incluent la possibilité que l’image d’une personne soit utilisée à des fins de propagande ou d’autres agendas contraires à ses valeurs.
Quels sont les droits des modèles en cas d’utilisation non autorisée de leur image ?
Les modèles ont le droit de refuser l’utilisation de leur image sans consentement explicite et peuvent engager des actions légales pour protéger leurs droits.
Quelles législations sont en vigueur concernant l’utilisation des images par l’IA ?
Des lois en Californie interdisent l’utilisation d’une image ou d’une voix d’un acteur sans son accord, ce qui pourrait ouvrir la voie à d’autres protections similaires ailleurs.
Comment Synthesia se défend-elle face aux critiques ?
Synthesia insiste sur le fait qu’elle fournit des informations claires sur son fonctionnement et sur les conditions d’utilisation dès le début d’une collaboration avec ses modèles.
