Perdu dans la Sauce
Récemment, Google Search a introduit une fonctionnalité d’« Aperçus AI » qui, comme on peut s’y attendre, ne donne pas toujours des réponses très judicieuses. Le dernier exemple en date est particulièrement frappant. Une personne a cherché sur Google pourquoi le fromage ne colle pas à la pizza. L’Aperçu AI a commencé par affirmer que « le fromage peut glisser de la pizza pour plusieurs raisons ».
Ensuite, il a conseillé d’incorporer du fromage dans la sauce, et puis, sans aucune précaution, a suggéré d’ajouter environ 1/8 de tasse de colle non toxique à la sauce pour qu’elle devienne plus collante. Il n’est pas difficile de voir que ce conseil est non seulement absurde, mais potentiellement dangereux.
Sources de l’IA
Ce qui est encore plus intéressant, c’est de découvrir d’où vient cette recommandation. Selon des recherches en ligne, l’IA semble avoir emprunté cette idée à un commentaire aléatoire sur Reddit datant d’il y a 11 ans, posté par un utilisateur au nom peu distingué. Ce commentaire avait probablement été écrit sur le ton de la blague et traitait d’un sujet similaire : « Mon fromage glisse trop facilement de la pizza ». Bien que son contenu soit pertinent pour la recherche, il est difficile de comprendre pourquoi l’algorithme de l’IA aurait choisi spécifiquement ce commentaire qui n’avait reçu que peu de votes positifs à l’époque.
Lacunes de l’IA
Le fait que l’IA soit incapable de distinguer le sérieux de l’ironie n’étonne personne. Cela met en lumière une faille fondamentale dans la manière dont ces modèles d’IA générative sont formés. En gros, on les nourrit avec une quantité massive d’informations récupérées sur Internet. Cela conduit inévitablement à l’absorption de nombreuses informations erronées, qui finissent par être répétées.
Cette situation n’est pas sans précédent : récemment, Google a conclu un accord de 60 millions de dollars avec Reddit pour former son IA avec des publications d’utilisateurs. Actuellement, cette IA se retrouve à recommander aux gens de consommer de la colle.
Un autre problème se dessine ici : ces incidents révèlent à quel point les capacités de ces modèles d’IA sont limitées. Qu’est-ce qui est vraiment gagné en utilisant des résultats issus de ces systèmes au lieu simplement de rajouter « Reddit » à une recherche ? L’avantage de Reddit est que l’on peut consulter les informations dans leur contexte d’origine, permettant ainsi de juger si l’auteur est réellement un expert en pizza.
Si l’Aperçu AI de Google se contente de reprendre les publications des réseaux sociaux, il devrait au moins le faire correctement. La véritable réponse se trouvait dans le fil de discussion original sur Reddit, parmi les commentaires, où un utilisateur sensé a écrit : « Trop de sauce, mec ».
Un porte-parole de Google a depuis déclaré que la majorité des Aperçus AI fournissent des informations de qualité et qu’ils sont en train de réviser leur système à partir des retours d’expérience. Ils s’engagent à prendre des mesures appropriées en fonction des politiques de contenu existantes.
FAQ
Qu’est-ce que l’Aperçu AI de Google ?
L’Aperçu AI de Google est une fonctionnalité qui propose des résumés et des réponses aux recherches effectuées par les utilisateurs en utilisant des modèles d’intelligence artificielle.
Pourquoi Google utilise-t-il Reddit pour alimenter ses suggestions AI ?
Google a signé un accord avec Reddit pour utiliser les données des post d’utilisateurs dans le but d’améliorer ses modèles d’intelligence artificielle, permettant ainsi à ces systèmes d’apprendre des discussions en ligne.
Y a-t-il des risques à suivre les conseils de l’AI de Google ?
Oui, suivre certains conseils fournis par l’IA, surtout ceux qui sont absurdes ou dangereux, comme ajouter de la colle à la nourriture, peut poser de vrais risques pour la santé.
Comment fonctionne la formation des modèles d’IA de Google ?
La formation implique de fournir de grandes quantités de données récoltées sur Internet pour que l’IA soit capable de répondre à diverses questions, mais cela peut également inclure des informations erronées ou inappropriées.
Quel est l’objectif de Google avec ces Aperçus AI ?
L’objectif est d’améliorer l’expérience de recherche en offrant des réponses rapides et précises aux questions des utilisateurs, mais cela doit être accompagné d’une vérification et d’une amélioration continue des résultats obtenus.
