Inscrivez-vous pour découvrir l’avenir, dès aujourd’hui.
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Des innovations incontournables aux premières loges de la science et de la technologie.</p>
</div>
</div>
</div>
</section>
<p class="pw-incontent-excluded article-paragraph skip">La semaine dernière, nous avons appris que le site d'actualités technologiques réputé <em>CNET</em> avait discrètement publié des articles rédigés par un « moteur d'IA » non spécifié.</p>
<p class="article-paragraph skip">Cette nouvelle a suscité une vive réaction. Les critiques ont souligné que cette expérience semblait viser à réduire les opportunités de travail pour les écrivains débutants, tout en notant que la précision des générateurs de texte d’IA actuels est <a href="https://mashable.com/article/chatgpt-amazing-wrong" rel="noreferrer" target="_blank">notablement médiocre</a>. De plus, le fait que <em>CNET</em> n’ait jamais annoncé publiquement ce programme et que l'indication que les articles étaient écrits par des bots était dissimulée derrière un nom d’auteur « CNET Money Staff » renforçait l’impression que le site essayait de dissimuler cette initiative controversée.</p>
<p class="article-paragraph skip">Suite à cette controverse, la rédactrice en chef de <em>CNET</em>, Connie Guglielmo, a reconnu les articles générés par IA <a href="https://www.cnet.com/tech/cnet-is-experimenting-with-an-ai-assist-heres-why/" rel="noreferrer" target="_blank">dans une publication</a> vantant la réputation de <em>CNET</em> pour sa « transparence ». Elle n’a cependant pas abordé directement les critiques, se contentant d’indiquer que la mention des articles AI passerait de « CNET Money Staff » à « CNET Money », et que la divulgation serait désormais plus visible.</p>
<p class="article-paragraph skip">Elle a également garanti que chaque contenu produit par IA avait été « examiné, vérifié et édité par un rédacteur spécialisé dans le sujet avant publication ». Bien que cela puisse être vrai, il est à noter que l’un des articles générés par l’IA qu’elle a mentionné contient plusieurs erreurs majeures qui soulignent les limites de remplacer les écrivains humains par l’IA.</p>
<p class="article-paragraph skip">Prenons par exemple un extrait de <a href="https://archive.ph/aWnq5" rel="noreferrer" target="_blank">l’article</a> qui explique les intérêts composés (les mots en gras sont les nôtres) :</p>
<p class="article-paragraph skip"><em>“Pour calculer l'intérêt composé, utilisez la formule suivante :</em></p>
<p class="article-paragraph skip"><em>Montant initial (1 + taux d’intérêt / nombre de périodes de capitalisation) ^ nombre de capitalisations par période x nombre de périodes</em></p>
<p class="article-paragraph skip"><em><strong>Par exemple, si vous déposez 10 000 $ dans un compte d'épargne qui rapporte 3 % d'intérêt composé annuellement, vous aurez 10 300 $ à la fin de la première année.</strong></em></p>
<p class="article-paragraph skip">Cela semble crédible, mais c'est incorrect. En réalité, la personne en question ne gagnerait que 300 $ durant la première année. La valeur totale de son principal, **plus** ses intérêts atteindrait 10 300 $, mais cela reste différent des gains — le capital représente l'argent qu'elle avait déjà accumulé avant de le placer dans un compte rémunérateur.</p>
<p class="article-paragraph skip">Michael Dowling, associé de la faculté et professeur de finance à l'école de commerce de Dublin, a affirmé qu’il est « tout simplement incorrect, et non conforme aux pratiques habituelles, de dire que l’on a ‘gagné’ à la fois le principal et les intérêts ».</p>
<p class="article-paragraph skip">Cette confusion pénalise les lecteurs, notamment ceux qui ont peu de connaissances financières, leur donnant des attentes irréalistes — prétendant qu’un investissement de 10 000 $ pourrait générer 10 300 $ en un an — ce qui pourrait induire en erreur des personnes manquant de discernement.</p>
<p class="article-paragraph skip">Une autre erreur se situe dans la description des prêts. Voici ce qu’a écrit l’IA (mise en gras par nos soins) :</p>
<p class="article-paragraph skip"><em>“Pour les <span class="link">hypothèques</span>, <span class="link">prêts auto</span> et <span class="link">prêts personnels</span>, les intérêts sont généralement calculés de manière simple.”</em></p>
<p class="article-paragraph skip"><em><strong>Par exemple, si vous contractez un prêt auto de 25 000 $ avec un taux d'intérêt de 4 %, vous paierez un montant fixe de 1 000 $ d'intérêts par an.</strong></em></p>
<p class="article-paragraph skip">L’IA présente ce chiffre avec une assurance trompeuse. En réalité, un emprunt est structuré de manière à ce que l'emprunteur ne paie pas un montant constant d'intérêts chaque année. Au contraire, chaque paiement suivant implique des intérêts calculés sur le solde restant, ce qui entraîne un coût d'intérêts plus élevé au début du prêt, qui diminue progressivement au fil des paiements.</p>
<p class="article-paragraph skip">On peut démontrer cette erreur en utilisant les détails du scénario hypothétique de <em>CNET</em> — un prêt de 25 000 $ à un taux de 4 %. En utilisant un <a href="https://www.nerdwallet.com/article/loans/auto-loans/auto-loan-amortization-calculator" rel="noreferrer" target="_blank">calculateur d’amortissement</a>, on constate que l'emprunteur ne paie jamais 1 000 $ d'intérêt par an, car la diminution du principal commence dès le premier paiement.</p>
<p class="article-paragraph skip"><em>CNET</em> a donc totalement faux en décrivant les paiements de prêt, selon Dowling. « Ce n’est tout simplement pas correct de dire que ce serait 1 000 $ par an d'intérêts », a-t-il précisé. « Le solde du prêt diminue chaque année, et l’on ne paie des intérêts que sur le montant restant. »</p>
<p class="article-paragraph skip">Cependant, l’erreur de l’IA ne réside pas uniquement dans son inexactitude, mais aussi dans le fait qu'elle ne représente pas une réalité essentielle des prêts : en remboursant plus rapidement, on réduit les intérêts futurs. Ainsi, elle diffuse un conseil financier erroné aux lecteurs cherchant à améliorer leur compréhension.</p>
<p class="article-paragraph skip">L’IA a commis encore une autre bourde en tentant d'expliquer les certificats de dépôt (CD), qui sont des produits financiers proposant des intérêts mais décourageant les retraits avant l'échéance (mise en gras par nos soins) :</p>
<p class="article-paragraph skip"><em>“À noter qu'un <span class="link">compte d'épargne à rendement élevé</span> ou un <span class="link">compte de marché monétaire</span> peuvent offrir des intérêts qui se composent quotidiennement, hebdomadairement ou mensuellement. <strong>Cependant, un <span class="link">certificat de dépôt d'un an</span> ne se compose qu'une seule fois, après que le dépôt initial ait atteint sa maturité.</strong></em></p>
<p class="article-paragraph skip">Cette affirmation est tout simplement fausse. Par exemple, <a href="https://www.chase.com/personal/savings/bank-cd" rel="noreferrer" target="_blank">voici un certificat de dépôt d’un an proposé par Chase Bank</a> qui se compose quotidiennement, et <a href="https://www.capitalone.com/bank/disclosures/cds/online-cds/" rel="noreferrer" target="_blank">ici un autre proposé par Capital One</a> qui se compose mensuellement.</p>
<p class="article-paragraph skip">Ces trois erreurs, chaque fois présentées avec l’autorité d’un expert, soulignent un problème majeur des générateurs de texte d’IA actuels : malgré leur capacité à produire un texte qui semble plausible, ils peinent à distinguer la réalité de la fiction.</p>
<p class="article-paragraph skip">Pour un éditeur, cela représente une donnée préoccupante. Collaborer avec un rédacteur qui s’efforce de produire un travail précis est une chose, mais avoir à traiter des drafts truffés d'erreurs l'est tout autant. <em>BuzzFeed News</em> a récemment montré ce risque, lorsqu’un reporter a utilisé ChatGPT pour écrire un article sur l'utilisation secrète de l’IA par <em>CNET</em>, ne réussissant à se débarrasser des erreurs factuelles qu’après plusieurs révisions.</p>
<p class="article-paragraph skip">Un autre défi évoqué dans le domaine de l’IA, notamment avec les voitures autonomes, est que les conducteurs humains, dont la mission est de récupérer les commandes en cas de malfonctionnement, perdent rapidement leur concentration lorsqu’ils n'interviennent pas activement. Il est possible que ce même phénomène se produise lorsque les éditeurs doivent approuver un flot d’articles générés par IA : face à une telle masse d'écritures synthétiques, il n’est pas surprenant qu’ils passent en pilotage automatique.</p>
<p class="article-paragraph skip">Bien sûr, tout le monde fait des erreurs, et nous comprenons. Toutefois, au cours de cette phase préliminaire de l'expérience de <em>CNET</em> avec l'IA — d’autant plus dans un article publié le même jour que la directrice a réagi face à des critiques virulentes — on s'attendrait à ce que les rédacteurs s'assurent d’un maximum de vigilance.</p>
<p class="article-paragraph skip">Si des erreurs de ce type peuvent passer inaperçues durant cette période de contrôle accru, que faut-il alors attendre lorsque l’attention se relâche sur les travaux de l’IA ? Que se passera-t-il quand d'autres sites commenceront à imiter les pratiques de <em>CNET</em> et remplissent le web de leurs propres contenus générés par IA, souvent avec moins de scrupules ?</p>
<p class="article-paragraph skip">Il est également pertinent de se demander ce que les lecteurs désirent vraiment : des conseils financiers provenant d’un humain avec de véritables préoccupations, ou des logorrhées provenant d’un bot formé à reformuler des contenus financiers existants sans aucun engagement.</p>
<p class="article-paragraph skip">Dowling a exprimé son optimisme quant au potentiel de l’IA, mais il craint que ce type d’algorithme, qui manque de perspective personnelle ou d'« insights au-delà d’un simple résumé », ne soit pas en mesure de produire des contenus réellement captivants.</p>
<p class="article-paragraph skip">“Les gens abordent déjà la lecture de finance avec un désintérêt prononcé — ChatGPT imprégnant ces caractéristiques négatives dans l’écriture financière n’est pas forcément une bonne idée ?”, s'est-il interrogé.</p>
<p class="article-paragraph skip">Après que <em>Futurism</em> ait contacté <em>CNET</em> au sujet des erreurs, le site a fourni une correction détaillée et a modifié le texte pour rectifier ces trois inexactitudes.</p>
<p class="article-paragraph skip">Les employés de <em>CNET</em> ont également relevé une quatrième erreur de l’IA dans la correction, concernant la distinction entre le Taux d’Intérêt Annuel (APR) et le Rendement Annuel en Pourcentage (APY).</p>
<p class="article-paragraph skip">Un représentant de <em>CNET</em> a fourni à <em>Futurism</em> une déclaration courte concernant ces corrections. “Nous passons en revue tous nos articles assistés par IA pour vérifier qu'aucune autre inexactitude n’a échappé au processus d’édition, car les humains font aussi des erreurs,” ont-ils mentionné. “Nous continuerons à émettre toute correction nécessaire selon la politique de correction de <em>CNET</em>.”</p>
<p class="article-paragraph skip"><em>Êtes-vous un employé actuel ou ancien de CNET qui souhaite discuter de la démarche de l’entreprise dans les articles générés par IA ? Contactez-nous à tips@futurism.com pour partager votre perspective, même sous couvert d’anonymat.</em></p>
<p class="article-paragraph skip">Le représentant n’a pas répondu à la question concernant la confiance de <em>CNET</em> dans d'autres articles publiés par l'IA. Toutefois, après notre demande, un message est apparu en tête de presque tous les articles publiés par l'IA depuis novembre.</p>
<p class="article-paragraph skip">“Note des éditeurs : Nous examinons actuellement cette histoire pour sa précision,” peut-on lire dans ce message. “Si nous découvrons des erreurs, nous procéderons à des mises à jour et des corrections.”</p>
<p class="article-paragraph skip">Il convient de noter, comme l’a souligné Casey Newton de <em>Platformer</em>, que les articles de finance générés par l’IA de <em>CNET</em> existent principalement pour tenter de manipuler l'algorithme de Google à des fins de profit. De nombreuses explications sur les intérêts composés sont déjà disponibles ; la stratégie de <em>CNET</em> consiste simplement à publier un volume important de texte produit à moindre coût, optimisé pour grimper dans les résultats de recherche, dans le but de capter l’attention de lecteurs en quête d’informations financières.</p>
<p class="article-paragraph skip">“Au fil du temps, nous devons nous attendre à voir davantage de sites consommateurs verser dans ce type de contenu ‘gris’ : des écrits produits par IA, suffisamment bons pour être publiés, mais parfois mal relus par des éditeurs humains, occuperont une grande partie de la publication numérique tant que les lecteurs le toléreront,” a écrit Newton. “L'expansion silencieuse de l’IA, comme de la vigne kudzu sur <em>CNET</em>, représente une évolution inquiétante pour le journalisme, alors qu’une part des tâches réservées aux écrivains débutants disparaît rapidement au profit de l’automatisation.”</p>
<p class="article-paragraph skip">En d'autres termes, le problème ne concerne pas seulement l'IA. Il concerne aussi le fait qu’elle évolue à un moment où l’industrie du journalisme a déjà été sérieusement affaiblie par une course au rabais qui dure depuis des décennies, une tempête parfaite pour des responsables des médias désireux de réduire les budgets des écrivains humains.</p>
<p class="article-paragraph skip"><em>Frank Landymore a contribué à ce reportage.</em></p>
<p class="article-paragraph skip"><strong>Plus d'infos sur CNET : </strong><em>CNET publie discrètement des articles entièrement générés par IA.</em></p>
</div>Sommaire
ToggleFAQ
Quels sont les risques associés à l’utilisation d’IA dans la rédaction d’articles ?
L’utilisation d’IA pour rédiger des articles peut mener à des inexactitudes, comme l’illustre le cas de CNET. Les erreurs factuelles peuvent induire les lecteurs en erreur et diminuer la confiance dans le contenu.
Pourquoi CNET a-t-il choisi de publier des articles générés par IA ?
CNET vise probablement à augmenter son volume de contenu et à optimiser sa visibilité sur les moteurs de recherche, car ces articles peuvent être produits rapidement et à moindre coût.
Quels types d’articles sont générés par l’IA de CNET ?
CNET publie principalement des articles liés à la finance, expliquant des concepts comme l’intérêt composé et les prêts.
Comment les lecteurs peuvent-ils identifier les articles générés par IA ?
CNET a commencé à étiqueter ses articles générés par IA et à émettre des notes des éditeurs signalant qu’ils sont en cours de révision pour en garantir la précision.
Quels impacts cela pourrait-il avoir sur l’industrie journalistique ?
L’utilisation croissante d’articles générés par IA pourrait nuire aux opportunités d’emploi pour écrivains débutants, et pourrait créer un environnement où l’information devient moins fiable.