Un faux pas de Gemini, l’IA de Google
Google a récemment appris à ses dépens que même des erreurs mineures peuvent avoir des répercussions considérables. La plateforme a modifié rétrospectivement une publicité YouTube pour son modèle d’intelligence artificielle, Gemini, afin de corriger une affirmation douteuse concernant la consommation mondiale de fromage gouda.
La publicité malheureuse
Le 30 janvier, Google a diffusé une annonce pour le Super Bowl, visant à promouvoir “Google Workspace avec Gemini”, un programme qui prétend intégrer l’IA dans ses outils habituels tels que Docs et Sheets. Dans cette publicité, un commerçant de fromage en Wisconsin évoque son passage à l’e-commerce et souligne l’aide précieuse que lui apporte Gemini pour rédiger des descriptions de produits.
Une affirmation contestée
Dans le cadre de la vidéo, Gemini est invité à créer une “description du Gouda fumé qui séduirait les amateurs de fromage”. L’intelligence artificielle produit alors un texte dans lequel elle avance avec assurance que le gouda représente “50 à 60 % de la consommation mondiale de fromage”. Cette affirmation a rapidement suscité des doutes.
Nate Hake, un utilisateur de X (anciennement Twitter) et blogueur voyage, a souligné cette déclaration. Bien que le gouda soit populaire, il est évident que sa part dans la consommation globale est excessivement surestimée. Des experts, comme Andrew Novakovic de l’Université Cornell, ont confirmé que, bien qu’il puisse être le fromage le plus échangé dans le commerce mondial, cela ne signifie pas qu’il est le plus consommé.
La défense de Google
Malgré les critiques, Google a soutenu son affirmation. Jerry Dischler, président des applications Google Cloud, a même pris la parole sur X pour insister sur le fait que l’erreur n’était pas un simple “hallucination”. Dans ses commentaires, il a affirmé que de nombreux sites internet appuyaient cette statistique de 50 à 60 %.
Cependant, il n’est pas tout à fait clair quels sites soutiennent ce chiffre. Certaines ressources, comme Cheese.com, semblent corroborer cette information, mais cela ne résout pas le problème fondamental de la fiabilité des données générées par l’IA.
Une modification discrète
Face à cette situation délicate, Google a agi rapidement. Le faux pas a été silencieusement corrigé, et la vidéo sur YouTube ne contient plus cette affirmation problématique. Les captures d’écran précédant et suivant la modification illustrent clairement cette altération, mais la description de la vidéo reste inchangée, indiquant toujours la date de publication originale.
Cet ajustement semble non seulement indiquer que l’IA de Google n’est pas tout à fait prête pour un usage public, mais il démontre aussi le pouvoir de la société en tant que gestionnaire de YouTube. Bien que les créateurs de contenu ne soient généralement pas autorisés à modifier le contenu principal d’une vidéo sans en télécharger une nouvelle, Google a dérogé à cette règle dans ce cas particulier.
Répercussions et commentaires
Après publication de cet article, un porte-parole de Google a confirmé que la publicité avait été modifiée après une conversation avec le propriétaire du fromage. Ce dernier a suggéré que Gemini reformule la description sans inclure la statistique controversée.
FAQ
Pourquoi Google a-t-il modifié la vidéo de l’annonce ?
Google a souhaité corriger une affirmation erronée concernant la consommation de gouda, suite à des réactions critiques sur l’exagération de cette statistique.
Quels sont les enjeux de la fiabilité des données générées par l’IA ?
Les erreurs d’informations peuvent nuire à la crédibilité des entreprises utilisant des intelligences artificielles, mettant en lumière des enjeux éthiques et de vérification des faits.
Quelles sont les implications de cette erreur pour l’utilisation de l’IA dans le marketing ?
Cette situation montre que des outils comme Gemini, bien qu’avancés, nécessitent une supervision humaine pour garantir des informations précises et fiables dans des contextes importants.
Comment les entreprises peuvent-elles éviter des erreurs similaires ?
Les entreprises doivent s’assurer d’une vérification minutieuse des données avant leur publication, en s’appuyant sur des experts ou des sources fiables pour valider les affirmations.
Quelles autres entreprises ont rencontré des problèmes similaires avec l’IA ?
D’autres grandes entreprises technologiques ont également connu des situations semblables avec leurs modèles d’IA, soulevant des questions sur l’intégration responsable et précise de cette technologie dans leurs services.
