Les résultats troublants des moteurs de recherche basés sur l’IA
Il peut être déroutant de l’apprendre, mais de nombreuses réponses fournies par les moteurs de recherche basés sur l’IA sont souvent erronées. Une récente étude menée par le Columbia Journalism Review révèle que plus de 60 % des résultats fournis par ces systèmes sont incorrects. Cela souligne l’importance de vérifier les informations, car des raisons d’inquiétude se font jour.
Analyse des modèles d’IA
L’étude a été réalisée par des chercheurs du Tow Center for Digital Journalism et a porté sur huit modèles d’IA, dont ChatGPT d’OpenAI et Gemini de Google. Étonnamment, même le modèle le plus précis, Perplexity AI, fournissait des réponses incorrectes dans 37 % des cas. En revanche, le chatbot Grok 3 d’Elon Musk a été particulièrement mauvais, avec un taux d’erreur de 94 %, un chiffre particulièrement choquant.
Les enjeux des outils de recherche générative
Selon les auteurs de l’étude, ces moteurs de recherche ne se contentent pas d’orienter les utilisateurs vers des sources d’informations fiables. Au lieu de cela, ils reconditionnent et présentent l’information de manière autonome, ce qui détourne du trafic essentiel vers les sources originales. Les réponses qu’ils fournissent peuvent souvent obscurcir des problèmes sérieux liés à la qualité des informations.
La réalité des informations fournies par l’IA
Il est désormais bien établi que les modèles de langage alimentés par l’IA ont une tendance à fournir des informations trompeuses. Cela n’empêche cependant pas les entreprises technologiques d’essayer de remplacer les recherches sur le Web traditionnelles. Par exemple, certaines entreprises ont créé des versions de leurs chatbots pour mieux servir cette fonction, comme le mode « AI Mode » de Google, qui ne fournit que des résumés sans renvoyer à des liens Web.
Méthodologie de l’étude
Pour évaluer la performance des chatbots, les chercheurs ont choisi dix articles au hasard provenant de vingt publications, de The Wall Street Journal à TechCrunch. Les chatbots étaient chargés d’identifier le titre, l’éditeur, la date de publication et l’URL d’un article donné. Pour faciliter la tâche, des extraits d’articles ont été choisis de manière à ce que la source originale se trouve dans les trois premiers résultats d’une recherche Google classique.
Comportements préoccupants des chatbots
Les résultats de cette recherche montrent non seulement que les modèles d’IA se trompent la moitié du temps, mais aussi qu’ils affichent une confiance alarmante dans leurs réponses, même lorsqu’ils ne savent pas. Ils ont souvent tendance à fournir des informations sans qualification, ce qui s’alignerait avec d’autres études démontrant leur inclination à « halluciner » des réponses plutôt que d’admettre leur ignorance.
Mauvaise gestion des citations
En ce qui concerne la citation des sources, les outils de recherche basés sur l’IA se révèlent extrêmement défaillants. Par exemple, ChatGPT Search a lié des articles incorrects près de 40 % du temps et n’a pas fourni de lien dans 21 % des cas. Cela pose un grave problème pour la vérification des faits et représente un obstacle pour les éditeurs, qui perdent la chance de générer du trafic à partir de contenus qu’ils ont créés. Cela soulève des questions inquiétantes pour l’avenir de notre économie médiatique en ligne.
FAQ
Quelle est l’ampleur du problème des erreurs dans les moteurs de recherche IA ?
Les moteurs de recherche utilisant l’IA produisent des réponses incorrectes plus de 60 % du temps, ce qui soulève des préoccupations sur leur crédibilité.
Quelles sont les mesures prises par les entreprises technologiques face à ces enjeux ?
Certaines entreprises ont lancé des versions adaptées de leurs chatbots pour remplacer la recherche traditionnelle sur le Web, mais elles restent souvent peu fiables.
Pourquoi ces outils affichent-ils une telle confiance dans leurs réponses ?
Les modèles d’IA préfèrent générer des réponses, même erronées, plutôt que de reconnaître leurs limites, ce qui reflète un manque de transparence.
Les utilisateurs peuvent-ils toujours faire confiance aux résultats des recherches IA ?
Compte tenu des statistiques alarmantes d’erreurs, il est essentiel de toujours vérifier les informations fournies par ces outils avant de les considérer comme fiables.
Quelles conséquences cela pourrait-il avoir sur les médias en ligne ?
Le manque de citations précises et la défaillance des moteurs de recherche IA pourraient gravement affecter la génération de trafic vers les médias en ligne, compromettant ainsi leur viabilité.
