Problèmes avec le Bot
Google a décidé de suspendre temporairement son générateur d’images basé sur l’intelligence artificielle, Gemini, en raison de sa tendance à produire des illustrations historiques très inexactes. Parmi ces aberrations, on trouve, sans blague, des images de Nazis racialement diversifiés, qui ont provoqué un torrent de moqueries sur les réseaux sociaux.
Ce matin, la firme a annoncé cette pause via un message sur le réseau social X, anciennement connu sous le nom de Twitter. Dans cette publication, Google a affirmé : « Nous travaillons déjà à résoudre les problèmes récents liés à la fonction de génération d’images de Gemini. Pendant ce temps, nous allons mettre en pause la création d’images de personnes et relancerons bientôt une version améliorée. »
Il y a quelques semaines, Google a permis aux utilisateurs de tester l’outil de génération d’images de Gemini. Ceux-ci ont rapidement remarqué que la plateforme générait des images historiquement biaisées, ce qui a conduit à cette embarrassante mise en pause.
Concurrence et Controverses
Les critiques, principalement conservateurs, ont réagi en accusant Google de partialité envers les personnes blanches, ajoutant ainsi une nouvelle dimension aux débats culturels autour de l’IA. Bien que réinterpréter l’histoire puisse être heureux et provocateur — comme avec le spectacle Broadway « Hamilton », qui a successivement reçu des éloges pour avoir représenté des figures historiques comme les Pères Fondateurs des États-Unis avec un casting diversifié — de telles décisions nécessitent une intention artistique humaine.
En revanche, l’IA de Google semblait intégrer la diversité dans les images historiques de manière automatique, même lorsque cela frôle l’absurde ou l’offensant, comme lorsqu’elle produisait des photos de soldats nazis de différentes origines ethniques pendant la Seconde Guerre mondiale. Pire, l’IA augmentait cette diversité de manière proactive, sans que l’utilisateur ne fasse de demande pour modifier les images.
Historique des Échecs
Ce n’est pas la première fois que Gemini, anciennement connu sous le nom de Bard, se retrouve dans une situation délicate. L’année dernière, lors de sa première démonstration, l’outil avait déjà diffusé des informations inexactes, ce qui avait eu pour conséquence de faire chuter les actions de la société mère, Alphabet.
Aujourd’hui, Google essaie de rattraper son retard face à des concurrents comme OpenAI, soutenu par Microsoft, qui a récemment lancé son générateur vidéo Sora, attirant ainsi l’attention des médias. OpenAI a jusqu’à présent dominé ce secteur naissant et très compétitif, offrant à Microsoft un avantage précoce.
Il est certain que des ingénieurs de chez Google sont déjà mobilisés pour corriger les erreurs de Gemini, afin que le géant technologique puisse retrouver son équilibre. Cependant, il risque de rencontrer de nouveaux défis, notamment en matière de droits d’auteur — un problème qui a déjà touché d’autres générateurs d’images. Comme le montre ce dernier incident, l’IA peut se distinguer des technologies antérieures par sa capacité apparemment illimitée à commettre des fautes retentissantes.
FAQ
Qu’est-ce que Gemini ?
Gemini est le nouveau générateur d’images de Google basé sur l’intelligence artificielle, qui a remplacé précédemment Bard.
Pourquoi Google a-t-il suspendu le générateur d’images ?
La suspension est due à la création d’illustrations historiquement inexactes, qui ont provoqué des réactions négatives sur les réseaux sociaux.
Quelles sont les implications de ces erreurs sur le marché de l’IA ?
Ces erreurs soulignent les défis auxquels font face les entreprises d’IA en matière de précision et de perception publique, affectant ainsi leur position sur le marché.
Comment Google prévoit-il d’améliorer Gemini ?
Google a annoncé qu’il travaillait activement sur la fonctionnalité de génération d’images pour éviter de telles erreurs à l’avenir.
Quelles entreprises sont en compétition avec Google dans le domaine de l’IA ?
Des entreprises comme Microsoft avec OpenAI, ainsi qu’autres startup innovantes, représentent une forte concurrence pour Google dans le secteur de l’intelligence artificielle.