Ce qu’il faut savoir sur les outils d’IA de Microsoft
Les utilisateurs de Windows peuvent ignorer tout ce qui se passe en arrière-plan lors de l’utilisation des outils d’intelligence artificielle dans Paint et Photos. Selon des recherches menées par un développeur, des marques invisibles sont intégrées aux images générées par IA en plus du logo Copilot qui est visible. Cela soulève des questions sur la façon dont ces applications identifient et taguent les contenus produits par IA.
Détails sur la découverte
Le développeur Xusheng Li a mené une analyse de l’application Paint de Windows 11 et a découvert un couche de watermarking invisible associée aux images créées par intelligence artificielle. Bien que le logo Copilot soit déjà un indicateur visible que ces images sont générées par IA, Li a mis en évidence une autre forme de balisage qui est directement intégrée dans les données de l’image.
En explorant les capacités d’IA de Paint, il a identifié plusieurs fichiers modèle locaux, dont un fichier au format ONNX et trois variantes cryptées. Li a également noté que Paint fait plus que simplement modifier les pixels d’une image ; il attache également des C2PA Content Credentials au fichier enregistré. Cette fonctionnalité dépend d’un code qui réside dans deux fichiers systèmes spécifiques : ProvenanceHelper.dll et provenancesdk.dll.
Il a également mentionné l’existence d’une fonction appelée AddPerceptibleWatermark qui semble gérer le marquage visible, tandis qu’une autre, WmkWriteWatermark, est responsable de l’écriture du watermark invisible. Dans Paint, la présence de ce watermark caché semble être essentielle : en son absence, la génération d’image semble échouer.
Li a aussi remarqué que l’application Photos de Microsoft utilise un système de watermarking similaire pour ses outils d’IA.
Contexte et implications
Ce genre de découverte ne concerne pas seulement les applications de Microsoft, mais soulève des préoccupations plus larges sur la manière dont les contenus générés par IA devraient être identifiés. Li a indiqué que cette approche de watermarking pourrait être liée à l’Article 50 de la loi sur l’IA de l’UE, qui impose des règles de transparence devant entrer en vigueur en 2026. Ces règles stipulent que tout contenu généré par IA doit présenter un marquage lisible par machine, même s’il ne s’agit pas d’un GUID spécifique à une prompt.
Cela pourrait également indiquer que, même si la génération d’image se produit localement sur un appareil, des requêtes peuvent toujours être envoyées aux serveurs de Microsoft pour modération.
Les systèmes d’IA, bien que bénéfiques pour améliorer la prévision, rationaliser les systèmes industriels et optimiser les réseaux d’énergie renouvelable, impliquent également des coûts énergétiques considérables. Les modèles d’IA très performants peuvent consommer beaucoup d’électricité et d’eau, tout en exerçant une pression sur le réseau énergétique. En outre, certains estiment que la montée en puissance de ces technologies pourrait diminuer la valeur du temps et du travail que les artistes investissent dans leur création.
Quelles actions sont mises en place ?
La mise en œuvre de watermarking aide à clarifier l’origine des contenus, tout en intégrant des efforts de normalisation tels que le C2PA. À mesure que les fonctionnalités d’IA se répandent dans les logiciels créatifs, le balisage caché pourrait devenir plus répandu, tout comme les vérifications côté serveur pourraient devenir intégrées dans des outils semblant fonctionner localement. Les recherches de Li suggèrent que Microsoft anticipe déjà ces protections.
FAQ
Qu’est-ce que le watermarking et pourquoi est-il important?
Le watermarking est une technique utilisée pour intégrer des informations dans un fichier, ce qui permet d’identifier son origine et son créateur. C’est important pour la transparence et la propriété intellectuelle, notamment dans le contexte des contenus générés par IA.
Comment savoir si une image a été générée par IA?
Les images produites par des outils d’IA peuvent porter des marques visibles (comme le logo Copilot) et éventuellement des marques invisibles. Avec la mise en œuvre des normes de watermarking, il deviendra plus facile de repérer ce type de contenu.
Quelle est la législation européenne en lien avec l’IA?
L’Article 50 de la loi sur l’IA de l’UE impose des règles de transparence, qui devront être respectées par les technologies d’IA. Ces règles entreront en application en 2026 et obligent les contenus générés par IA à porter un marquage lisible par machine.
Les prompts sont-ils stockés par Microsoft?
Bien que la génération d’image puisse sembler se faire localement, il est possible que les prompts soient envoyés aux serveurs de Microsoft pour des fins de modération et de contrôle de qualité.
Quelles sont les implications environnementales des systèmes d’IA?
Les systèmes d’IA consomment d’importantes ressources énergétiques, entraînant des préoccupations sur leur impact environnemental. Il existe ainsi un débat sur la nécessité d’équilibrer les bénéfices de l’IA et leur empreinte écologique.
