Google Gemini : Désactivation des filigranes visibles sur les images, vidéos et musiques générées par IA

Google Gemini et le contrôle des filigranes visibles

Google Gemini se prépare à offrir aux utilisateurs la possibilité de décider si le contenu généré par l’IA affichera un filigrane visible, rendant ainsi plus difficile l’identification des médias synthétiques au premier coup d’œil.

À retenir

Selon une annonce faite sur le compte Twitter officiel de Gemini et relayée par Gizmodo, les utilisateurs auront la capacité de « déterminer si les créations d’images, de vidéos et de musique réalisées avec Gemini porteront un filigrane visible. »

Cette option permettra donc aux utilisateurs de choisir s’ils souhaitent que leurs créations soient étiquetées, ce qui pourrait être même lié à des incitations monétaires plutôt que d’être une fonction obligatoire. Ce changement soulève des interrogations sur la manière dont le contenu généré par l’IA sera identifié à l’avenir, surtout avec la multiplication de ces outils sur internet.

L’avis des utilisateurs semble avoir influencé cette évolution. D’après un article d’Android Authority, Josh Woodward, un vice-président chez Google, a consulté les utilisateurs de Gemini pour connaître leurs souhaits. Il s’avère que la suppression des filigranes visibles sur les images créées avec Nano Banana figurait parmi les 10 demandes les plus fréquentes.

Google a affirmé qu’autres protections resteraient en vigueur, dont le C2PA, un système de métadonnées d’authentification de contenu qui fournit des détails sur l’origine d’un fichier, et SynthID – un système de filigrane invisible conçu pour les images, vidéos et audios générés par l’IA.

Malgré ces protections, il est important de noter qu’elles présentent leurs propres limites et peuvent être contournées. Par exemple, les métadonnées peuvent être supprimées, particulièrement lorsque les fichiers sont partagés sur des plateformes sociales, tandis que les filigranes visibles peuvent être cachés par un recadrage. Ars Technica a signalé que SynthID pouvait résister à des modifications et à la compression, bien qu’ils aient constaté qu’une image devenait « floue de manière inutile » au-delà d’un certain point lors de leurs tests.

Pourquoi cela est-il crucial ?

Les outils de génération d’IA deviennent de plus en plus performants pour produire des médias d’une qualité réaliste qui peuvent se propager rapidement sur les réseaux sociaux, les discussions de groupe, et dans les résultats de recherche, sans tenir compte de leur justesse ou de leur véracité.

Lorsque les étiquettes visibles disparaissent, les utilisateurs se retrouvent dans l’incertitude quant à l’origine de ce qu’ils voient : est-ce une création humaine ou un produit d’une machine ? Google reconnaît également que le filigranage invisible n’est pas une solution parfaite. Gizmodo a noté que SynthID n’est pas conçu pour résister à toutes les attaques, et certains services commerciaux prétendent déjà pouvoir le contourner.

Un auteur de Medium cité dans le rapport a mentionné qu’il a fallu « des semaines, 123 000 paires d’images, 200 images brutes de Gemini, et une compréhension très précise du codage à spectre étalé » pour apporter des modifications qui trompaient parfois les décodeurs.

L’IA a un potentiel considérable pour améliorer la vie grâce à des recherches accélérées et des systèmes énergétiques optimisés favorisant une énergie plus propre. Cependant, il est également à souligner que l’entraînement et l’exécution de modèles d’IA massifs peuvent nécessiter d’énormes quantités d’électricité et d’eau. Cela peut exercer une pression sur le réseau électrique et, dans certains cas, contribuer à l’augmentation des coûts des services publics ainsi qu’à des problèmes de sécurité liés à l’utilisation abusive de contenus synthétiques réalistes.

Quelles actions sont entreprises ?

Les entreprises et les régulateurs s’appuient sur un mélange d’outils techniques, de règles de divulgation et de politiques de plateforme pour limiter les risques associés aux médias générés par l’IA et garantir la transparence.

Woodward a indiqué que la fonctionnalité de suppression des filigranes sera mise en œuvre, « sauf dans les pays où la loi exige leur conservation. »

Il est donc essentiel de toujours vérifier les sources et de rester attentif à l’origine des informations, étant donné que le contenu d’IA continue d’inonder la toile avec de moins en moins de régulations.

Recevez les newsletters gratuites de TCD pour des conseils simples, des astuces avisées, et la possibilité de gagner 5 000 $ pour des améliorations de maison. Pour découvrir d’autres histoires comme celle-ci, ajustez vos préférences Google ici.