La crise de la désinformation causée par l’IA de Google
Google met en avant ses résumés générés par intelligence artificielle (IA), mais des études révèlent une crise de désinformation d’une ampleur inédite.
Une analyse récente réalisée par la startup Oumi, à la demande du New York Times, a révélé que les résumés produits par l’IA de Google ne sont exacts qu’environ 91 % du temps. En surface, chiffre impressionnant, mais il cache une réalité inquiétante.
Une échelle alarmante de recherche
En effet, Google traiterait près de cinq trillions de requêtes chaque année. Cela signifie que des millions de réponses erronées sont diffusées chaque heure, et même centaines de milliers chaque minute. Cette situation soulève des inquiétudes majeures, car ces réponses inexactes peuvent influencer de nombreux utilisateurs.
La confiance aveugle dans l’IA
Des études indiquent que les utilisateurs tendent à faire confiance sans réserve à ce que l’IA leur fournit. Un rapport a constaté que seulement 8 % des utilisateurs vérifient les réponses de l’IA. Une autre expérience a montré que les utilisateurs croyaient encore à ces réponses erronées près de 80 % du temps, un phénomène que les chercheurs ont qualifié de « reddition cognitive ».
Un ton autoritaire
Les modèles de langage de l’IA adoptent souvent un ton autoritaire et peuvent présenter des informations fausses comme des faits. La commodité des résumés fournis par Google incite les utilisateurs à les accepter sans réflexion.
Méthodologie de l’analyse
L’analyse d’Oumi a utilisé un test nommé SimpleQA, conçu par OpenAI pour évaluer l’exactitude de l’IA. Les tests initiaux, réalisés en octobre, ont examiné une version de l’IA basée sur le modèle Gemini 2 de Google. En février, un second test a évalué le modèle Gemini 3, sa mise à jour tant attendue.
Amélioration des modèles
Les résultats montrent que sur 4,326 recherches, Gemini 3 a offert des réponses précises 91 % du temps, contrairement à Gemini 2, qui n’était correct qu’à 85 %. Cela indique une amélioration, mais soulève aussi des questions : pourquoi Google a-t-il d’abord déployé un modèle moins efficace, exposant ainsi ses utilisateurs à des informations inexactes ?
Les contradictions de Google
Google a rejeté l’analyse d’Oumi comme étant défaillante, en déclarant qu’elle contenait de graves lacunes. Néanmoins, des analyses internes du modèle Gemini 3 révèlent également que 28 % des réponses étaient incorrectes. La société soutient que ses résumés sont plus fiables car ils s’appuient sur les résultats de recherche Google avant de fournir une réponse.
Un problème plus large
Un chiffre clé dans l’analyse d’Oumi est que 37 % des réponses de Gemini 2 étaient considérées comme « sans fondement », c’est-à-dire référencées à des sites non fiables. Étrangement, ce chiffre a considérablement augmenté à 56 % avec Gemini 3. Cela remet en question la fiabilité des informations fournies par l’IA, car les utilisateurs ont du mal à vérifier les affirmations faites.
FAQ
Qu’est-ce que l’IA de Google ?
L’intelligence artificielle de Google produit des résumés d’informations basées sur les requêtes des utilisateurs, en présentant des réponses concises directement au-dessus des résultats de recherche.
Pourquoi est-ce un problème si sérieux ?
La désinformation peut influencer l’opinion publique, fausser la perception des événements et mener à des décisions basées sur des informations incorrectes.
Quelles sont les solutions possibles pour contrer la désinformation de l’IA ?
Renforcer l’éducation des utilisateurs sur la vérification des informations, améliorer les algorithmes d’IA pour réduire les erreurs et promouvoir la transparence dans le traitement des données peuvent aider à atténuer le problème.
Comment savoir si une réponse de l’IA est fiable ?
Il est essentiel de vérifier les sources des informations fournies par l’IA, en se référant à des sites fiables et en croisant les données avec d’autres sources.
Quels risques l’IA comporte-t-elle à long terme pour les utilisateurs ?
À long terme, la confiance excessive dans les réponses de l’IA pourrait entraîner une dégradation de la pensée critique et une dépendance accrue à des informations potentiellement trompeuses.