Les erreurs d’IA dans la recherche Google
Google commence à reconnaître que son outil de recherche utilisant l’IA, nommé AI Overviews, présente de nombreux problèmes. Les utilisateurs signalent des réponses pour le moins absurdes, comme des recommandations de mélanger de la colle non toxique dans leur sauce à pizza pour qu’elle n’accroche pas. D’autres conseils farfelus incluent des suggestions d’ingérer des rochers ou même de sauter du Golden Gate Bridge.
La société a récemment émis un communiqué en admettant que certaines des réponses fournies étaient effectivement « bizarres », inexactes ou peu utiles. Face à cette situation, Google a annoncé qu’il allait restreindre certaines réponses, notamment lorsqu’il détecte des requêtes insensées qui ne devraient pas déclencher l’affichage d’une synthèse AI.
Malgré tout, Google défend l’idée que l’intégration de l’IA générative a du sens dans ses fonctionnalités de base. Cependant, compte tenu des problèmes évidents de son dernier outil, il lui reste encore beaucoup à prouver.
Un phénomène inattendu
Des enquêtes approfondies révèlent que des posts inappropriés sur Reddit influencent les réponses de l’IA, qui se nourrit de données très douteuses. Google a même conclu un accord de 60 millions de dollars avec Reddit pour entraîner son IA sur les publications des utilisateurs. Ironiquement, cette IA se sert désormais des messages de Reddit pour suggérer aux gens de « manger de la colle ».
D’autres entreprises rencontrent également des difficultés similaires. De nombreux chatbots ont non seulement donné des conseils peu judicieux, mais ont aussi propagé des informations erronées et échoué à résumer correctement des données existantes.
Cette situation n’est pas nouvelle, cela fait plus d’un an que ces incohérences persistent, et le dernier faux pas de Google soulève des inquiétudes pour l’avenir de la technologie.
Une position dominante, mais des signes d’alarme
Pourtant, la situation est particulièrement préoccupante compte tenu du rôle primordial que Google Search a occupé pendant plusieurs décennies. Bien qu’il détienne encore la majorité du marché des moteurs de recherche à l’échelle mondiale, des indices suggèrent que ses concurrents, comme Microsoft avec Bing, commencent à monter en puissance.
Liz Reid, responsable de la recherche chez Google, a exprimé que l’entreprise est consciente que ses utilisateurs s’attendent à des informations précises. En conséquence, Google s’engage à faire le nécessaire pour améliorer jusqu’à l’affichage des réponses de son IA, tout en restant attentif aux retours utilisateurs.
FAQ
Quels types de réponses aberrantes l’IA de Google a-t-elle fournies ?
L’IA a donné des conseils tels que manger des rochers ou incorporer de la colle dans des recettes, ce qui montre une incapacité à fournir des réponses pertinentes.
Quel impact ces erreurs pourraient-elles avoir sur Google ?
Ces problèmes pourraient diminuer la confiance des utilisateurs dans Google Search, surtout en face de la concurrence croissante.
Comment Google prévoit-il de corriger ces erreurs ?
L’entreprise a annoncé qu’elle limiterait certaines réponses et continuera à améliorer son système en tenant compte des avis des utilisateurs.
L’IA de Google est-elle la seule à poser problème ?
Non, d’autres outils d’IA et chatbots, comme ceux sur les réseaux sociaux, rencontrent également des difficultés à fournir des conseils fiables et appropriés.
Quelles étapes supplémentaires Google pourrait-il envisager pour améliorer la fiabilité de son IA ?
Google pourrait renforcer ses protocoles de vérification des sources et la qualité des données utilisées pour entraîner ses modèles d’IA, afin d’éviter les biais et les erreurs dans les réponses.
