Intelligence Artificielle

Préoccupations Face à la Marque Invisible d’Anthropic sur le Contenu IA

Préoccupations Face à la Marque Invisible d'Anthropic sur le Contenu IA

Utiliser l’intelligence artificielle pour générer des textes variés, que ce soit pour vos devoirs, vos courriels ou même du code, semble très attrayant… jusqu’à ce qu’il faille en assumer la responsabilité.

Les partisans de l’IA se retrouvent en émoi après qu’Anthropic a annoncé que son chatbot Claude apposerait un filigrane sur tous les textes générés, rendant ainsi difficile l’utilisation discrète de cette technologie.

Cette annonce a provoqué une véritable tempête dans le monde de l’IA.

Un usager de r/ClaudeAI a exprimé son indignation : « Ce filigrane est la chose la plus stupide que j’aie jamais entendue. Va-t-on demander aux utilisateurs de montrer une pièce d’identité pour produire des textes sans filigrane ? »

Un autre a ajouté : « Ce marquage sera une véritable marque de honte sur tout texte que les gens pourraient vouloir vendre. Personne ne voudra l’acheter ; ce sera une lettre écarlate. »

Également, certains utilisateurs ont tenté d’alléger la tension. L’un d’eux a plaisanté : « Je pensais qu’il marquait déjà les textes en ajoutant un tiret tous les quatre mots ! »

Cependant, TechCrunch a rapporté un déchaînement particulièrement dramatique sur le subreddit r/artificial. Un utilisateur, visionode, a partagé un long discours comparant le système de filigrane à des méthodes policières répressives. Non, ce n’était pas une blague.

Visionode a écrit : « Qui va se faire prendre ? Vous. L’étudiant qui a utilisé Claude pour réorganiser un paragraphes. Le journaliste qui a demandé à l’IA de résumer un document de deux cents pages. L’écrivain empêtré dans un blocage créatif à la recherche de synonymes. Ces personnes finiront avec un tatouage numérique sur le front. »

A lire :  L'IRS Mobilise l'IA pour Traquer les Évasions Fiscales des Très Riches

« Cela me rappelle ces opérations policières qui arrêtent l’utilisateur de drogue mais laissent le dealer tranquille. Le filigrane, c’est exactement ça, » a-t-il ajouté.

Visionode s’est également inquiété de la stigmatisation croissante : « Nous créons une caste de créateurs ‘impurs’, ceux qui osent utiliser un outil. »

Malheureusement pour lui, son message ne semblait pas trouver beaucoup de soutien et a reçu de nombreuses réactions négatives.

Une personne a même commenté : « As-tu également rédigé ce discours hystérique avec un chatbot ? »

Anthropic justifie l’implémentation de ce système de filigrane pour se conformer à l’important Acte AI de l’Union européenne, promulgué en 2024, exigeant des entreprises d’IA qu’elles marquent les contenus générés ou modifiés par leurs systèmes. Le filigrane fonctionnera en apportant des changements subtils au choix des mots de l’IA sur l’ensemble du texte qu’elle génère, des modifications supposées invisibles à l’œil humain, mais qui, mises ensemble, forment un modèle détectable par l’outil.

Cela dit, cette solution n’est pas infaillible. Anthropic assure que les filigranes « persisteront à travers certains types de modifications », mais si le texte est copié et réécrit avec un autre outil, ce signal risque d’être détruit, comme l’a souligné Ars Technica dans son analyse. De plus, il existe des craintes que les choix de mots modifiés pour créer un filigrane puissent impacter la qualité des écrits. De manière inquiétante, les utilisateurs d’IA devront peut-être commencer à améliorer leur écriture sans utiliser de chatbot.

Le plus préoccupant, comme le souligne Ars, c’est qu’une fois qu’Anthropic dévoilera le fonctionnement de son outil de détection, il sera facile pour des acteurs malveillants de concevoir des dispositifs capables d’effacer ces filigranes. Nous commençons déjà à voir cela se produire avec SynthID, le propre système de Google DeepMind destiné à intégrer des indicateurs discrets de provenance d’IA dans les images — même si personne n’a encore trouvé comment complètement retirer ses filigranes.

A lire :  Chine en Lumière : Vers une Domination de l'IA ?

Plus sur l’IA : Le PDG d’un studio de jeux accusé de remplacer les scénaristes par l’IA est maintenant totalement en chute libre

## FAQ

#### Qu’est-ce qu’Anthropic ?
Anthropic est une entreprise spécialisée dans le développement de systèmes d’intelligence artificielle, connue pour son chatbot Claude.

#### Pourquoi l’Union Européenne a-t-elle mis en place l’AI Act ?
L’AI Act vise à réguler l’usage de l’intelligence artificielle au sein de l’Union Européenne, en imposant des normes de transparence, notamment l’obligation de marquer les contenus générés par des IA.

#### Quelles sont les préoccupations autour du filigrane ?
Les utilisateurs craignent que le filigrane puisse réduire la valeur des textes générés et engendrer une stigmatisation des créateurs utilisant cette technologie.

#### Comment fonctionne le système de filigrane d’Anthropic ?
Le système modifie subtilement les choix de mots dans les textes générés, de manière à ce que ces changements soient indétectables à l’œil nu mais détectables par des outils spécifiques.

#### Quel impact cela pourrait-il avoir sur la création de contenu ?
Il pourrait inciter les créateurs à revoir leurs méthodes de travail et à améliorer leurs compétences d’écriture sans dépendre de l’IA pour la création de contenu.