Crédit photo : Getty Images
La décision d’Anthropic d’ajouter un **filigrane** aux écrits générés par Claude suscite des réactions négatives au sein des **communautés en ligne** consacrées à l’IA.
Pour ceux qui souhaitent présenter un contenu assisté par l’IA comme étant entièrement humain, cette fonctionnalité ressemble davantage à un **handicap** qu’à une mesure de **protection**.
Ce qu’il faut savoir
La préoccupation a pris de l’ampleur après qu’Anthropic a annoncé, comme l’a rapporté Futurism, que Claude intégrerait des **marqueurs** détectables dans ses écrits. La société indique que cette fonction vise à identifier les textes générés ou modifiés par le chatbot, mais de nombreux utilisateurs y voient immédiatement une menace pour leur **anonymat**.
Des utilisateurs de Reddit se sont montrés particulièrement indignés.
Dans le forum r/ClaudeAI, un utilisateur a exprimé son mécontentement en déclarant : “Ce filigrane est la chose la plus stupide que j’ai jamais entendue. Vont-ils nous demander de fournir une **identité** pour écrire un texte sans filigrane ?”
Certaines réactions ont pris la forme de blagues plutôt que d’indignation.
Un commentateur a plaisanté en disant : “Je pensais que le texte était déjà **filigrané** en ajoutant un tiret tous les quatre mots.”
Anthropic a précisé que cette mesure est liée à l’**Acte sur l’IA** de l’Union européenne qui entrera en vigueur en 2024, lequel exige des entreprises d’IA qu’elles étiquettent le contenu généré ou modifié par leurs outils.
D’après ce rapport, le filigrane provient de légers changements dans le choix des mots, qui ne devraient pas être perçus individuellement, bien qu’un système de détection puisse repérer le motif à travers un passage plus long.
Contexte supplémentaire
Bien que de nombreux commentateurs sur Reddit aient convenu de l’importance d’améliorer les outils de détection de l’IA pour identifier ceux qui tentent de revendiquer comme le leur un travail entièrement généré par l’IA, la **controverse** s’intensifie car le filigranage n’est pas infaillible.
Anthropic affirme que le signal devrait “persister à travers certaines modifications”, mais réécrire le texte avec un autre chatbot pourrait potentiellement l’effacer. Cela pourrait aboutir à un système capable de détecter des utilisateurs occasionnels sans être efficace contre ceux qui ont des intentions malveillantes. Il pourrait aussi identifier un utilisateur qui se contente d’utiliser l’IA pour améliorer sa propre écriture ou vérifier des faits, en le mettant dans le même panier qu’une personne ayant demandé à l’IA de faire tout le travail pour une tâche scolaire.
Un utilisateur de Reddit a souligné : “Qui va se faire prendre ? Vous. L’étudiant qui a utilisé Claude pour reformuler un paragraphe. Le journaliste qui a demandé à l’IA de résumer un **transcrit** de deux cents pages. L’écrivain qui avait un blocage créatif et a demandé des synonymes.” Ce dernier a ainsi décrit ceux qui utilisent l’IA comme portant un “tatouage numérique sur le front.”
Cette inquiétude s’inscrit dans un débat plus large sur l’utilisation de l’IA dans le monde du travail et de l’éducation. Ces outils peuvent faire gagner du temps, résumer des documents longs, et aider à créer des idées, mais ils soulèvent également des questions sur le **plagiat**, la **fraude**, la **désinformation** et la confiance.
Quelles mesures sont mises en place ?
Les entreprises et les régulateurs se dirigent vers une transparence accrue, plutôt que vers une réduction des informations.
Le filigrane d’Anthropic est un exemple de cette initiative sectorielle visant à étiqueter le contenu généré par l’IA, de manière à ce que les employeurs, les écoles, les éditeurs et les plateformes puissent mieux évaluer ce qu’ils lisent.
Pour des conseils pratiques et une chance de gagner 5 000 $ pour des améliorations de maison, abonnez-vous aux lettres d’information gratuites de TCD. Pour découvrir d’autres articles similaires, modifiez vos préférences sur Google ici.
