<p>
<figcaption class="article-featured-image-caption">
<em>Image : Sefa Karacan / Anadolu via Getty / Futurism</em>
</figcaption>
</p>Analyse des chatbots et désinformation
Avez-vous récemment lu des contenus de propagande russe ? Selon un rapport récent de NewsGuard, un organisme qui surveille la désinformation, certains des principaux chatbots du marché semblent partager ces récits trompeurs.
Une audit révélatrice
L’audit mené par NewsGuard sur dix chatbots très connus, dont ChatGPT d’OpenAI et Gemini de Google, a montré que ces outils d’intelligence artificielle relayaient souvent des informations fallacieuses frontant un réseau de sites de fausses nouvelles soutenus par l’État russe. Ces sites s’efforcent de ressembler à de véritables médias américains, ce qui les rend d’autant plus troublants.
L’enquête de NewsGuard
L’analyse portait sur la façon dont ces chatbots réagissaient face à 19 narrations falsifiées créées par une série de sites internet liés à John Mark Dougan, ancien policier en Floride qui vit maintenant à Moscou sous asile. Comme l’a souligné un rapport du New York Times, Dougan gère un réseau étendu de sites de fausses nouvelles principalement alimentés par l’intelligence artificielle. Des titres apparemment innocents, tels que New York News Daily, The Houston Post, et The Chicago Chronicle, diffusent un flot de contenus visant à propager de fausses informations.
Des résultats alarmants
Les résultats de l’audit ont été sans appel : tous les chatbots testés ont « réitéré avec conviction » les narrations trompeuses relayées par Dougan. Les chercheurs de NewsGuard ont constaté que un tiers des réponses fournies par les chatbots contenait des points de discussion issus de cette désinformation, et de surcroît, plusieurs d’entre elles mentionnaient les sites de Dougan comme sources.
Une désinformation intégrée aux chatbots
Le rapport de NewsGuard, publié ce mardi, souligne l’infiltration des narratifs de désinformation russe au sein de l’IA générative. Parmi les allégations faussement propagées par les chatbots, on retrouve des accusations de corruption visant le président ukrainien Volodymyr Zelensky, ainsi que des rumeurs mensongères sur l’assassinat d’un journaliste égyptien, prétendument orchestré par l’épouse d’Alexei Navalny, un dissident russe.
Observations des tests
Au total, NewsGuard a effectué 570 tests, soumettant chaque chatbot à des questions 57 fois. Les erreurs étaient courantes lorsque les chercheurs se renseignaient sur une de ces théories du complot, ou bien lorsqu’un bot avait été sollicité pour rédiger un article sur une narration administrée par la Russie.
Bien que l’étude ne précise pas quels chatbots étaient plus performants, ces erreurs ne peuvent pas être simplement classées comme des hallucinations typiques de l’IA. Cette enquête révèle les implications sérieuses de l’IA dans le cycle de désinformation, et cela devrait inciter les utilisateurs à réfléchir à leur manière d’interagir avec les nouvelles.
Déclarations des experts
Steven Brill, co-PDG de NewsGuard, a exprimé son inquiétude : « Ce qui est vraiment alarmant, c’est que ces canulars et cette propagande, que ces chatbots ont répétés, étaient loin d’être obscurs, tout comme l’identité de la personne derrière eux ». Il conseille de ne pas faire confiance aux réponses fournies par la plupart de ces chatbots sur des sujets d’actualité, surtout si ceux-ci sont controversés.
FAQ
Pourquoi les chatbots diffusent-ils de la désinformation ?
Les chatbots sont entraînés sur de vastes ensembles de données disponibles en ligne, incluant parfois des informations non vérifiées provenant de sources douteuses. Cela peut conduire à la répétition de narrations erronées.
Quel est le rôle de NewsGuard dans la lutte contre la désinformation ?
NewsGuard est une organisation qui vérifie les sources d’informations en ligne, identifiant celles qui diffusent de la désinformation et fournissant des rapports détaillés sur leur fiabilité.
Comment puis-je me protéger contre la désinformation en ligne ?
Il est conseillé de consulter des sites d’information reconnus, de vérifier les sources et de croiser les informations avant de les croire ou de les partager.
Les chatbots sont-ils capables de corriger leurs erreurs ?
Actuellement, les chatbots ne peuvent pas auto-corriger leurs connaissances. Ils devraient être mis à jour régulièrement avec des données fiables afin de réduire la propagation de fausses informations.
Que faire si je découvre que j’ai partagé de la désinformation ?
Si vous avez partagé de faux contenus, la meilleure action est de les retirer et de corriger votre erreur en informant vos contacts de la vérité.
Cela peut vous intéresser
