<p>
<figcaption class="article-featured-image-caption">
<em>Image : Gemini inspiré par Noor Al-Sibai</em>
</figcaption>
</p>Introduction de Gemini et ses enjeux
Après un lancement tumultueux qui a suscité des réactions de la part de nombreux utilisateurs, Google a décidé de restreindre certaines fonctionnalités de son AI Gemini. Bien qu’il ne soit plus autorisé à générer des images de personnes, il continue de faire des illustrations de clowns, ce qui suscite des interrogations. Qui aurait cru qu’un clown serait acceptable alors que des représentations de personnes sont bannies ?
Un problème inattendu
Ce conflit a éclaté lorsque des utilisateurs, souvent qualifiés de “anti-woke”, se sont indignés de voir Gemini, anciennement connu sous le nom de Bard, produire des images « racialement diversifiées » pour des requêtes telles que « Américain », « Viking » ou « Pères fondateurs ». Ils s’attendaient à ce que ces représentations soient exclusivement blanches, ce qui a provoqué un tollé. Pire encore, le générateur a même illustré des Nazis comme des personnes de couleur.
La réponse de Google
Face à cette controverse, Google a présenté des excuses, évoquant des « inexactitudes » dans certaines des images générées. En réaction immédiate, le géant de la technologie a temporairement suspendu la fonctionnalité de génération d’images. Maintenant, bien qu’elle soit de retour, elle ne peut plus représenter d’êtres humains. Quand on demande à Gemini d’illustrer une personne, il envoie une réponse standard, qui rappelle à l’utilisateur que l’AI « s’est trompée » et que des améliorations sont en cours.
Une promesse d’amélioration
Dans sa réponse, Gemini a affirmé : « Nous travaillons à renforcer notre capacité à générer des images de personnes. Cette fonctionnalité sera rétablie prochainement, et nous vous tiendrons informés à travers des mises à jour. »
Jeux de contournement
Cependant, des utilisateurs astucieux ont découvert que Gemini génère toujours des images de clowns lorsqu’ils sont placés dans des contextes spécifiques, tel que des sous-marins ou des vaisseaux spatiaux. Bien que l’AI refuse de créer simplement un clown, elle semble plus à l’aise avec des demandes qui incluent des scénarios particuliers.
Pour contourner cette restriction, des expressions comme « petit gars » ont efficacement permis d’obtenir des images semi-humaines, souvent dérangeantes.
Un adaptabilité croissante
Au fur et à mesure des demandes formulées, il est devenu évident que Gemini s’adaptait à ces stratégies de contournement. En fin de compte, il a commencé à refuser certaines demandes d’images, comme « clown dans un sous-marin » ou « petit gars dans un vaisseau spatial ».
Le défi des limitations de l’AI
Cette situation met bien en lumière la faiblesse des garde-fous mis en place pour contrôler la génération de contenu par l’AI. Même une entreprise aussi bien dotée que Google a du mal à anticiper les usages potentiellement problématiques que les utilisateurs peuvent en faire.
Conclusion et réactions
Après la publication de cet article, un porte-parole de Google a répondu à une demande de commentaire, soulignant que « Gemini est conçu comme un outil de créativité et de productivité, et il peut ne pas être toujours fiable ». Ils s’engagent à résoudre rapidement les problèmes de réponse de l’AI.
FAQ
Qu’est-ce que Google Gemini ?
Google Gemini est une intelligence artificielle développée pour générer des images et du contenu. Elle a récemment été rebrandée de Bard à Gemini, en réponse à divers retours des utilisateurs.
Pourquoi Google a-t-il restreint la génération d’images de personnes ?
Suite à des controverses sur des représentations jugées inappropriées, Google a décidé de limiter la capacité de Gemini à générer des images de personnes afin de prévenir des malentendus et des abus.
Quels types d’images Gemini peut-il encore générer ?
Actuellement, Gemini peut générer des illustrations de clowns dans des contextes spécifiques, mais il reste interdit de créer des images de personnes.
Comment les utilisateurs parviennent-ils à contourner les restrictions de l’AI ?
Les utilisateurs ont trouvé des expressions ou des contextes spécifiques qui permettent à Gemini de produire des images de manière à contourner les restrictions, comme en demandant des scénarios particuliers.
Quelles améliorations sont attendues pour Gemini ?
Google travaille sur des mises à jour pour améliorer la capacité de Gemini à générer des images, y compris des représentations humaines. Les utilisateurs seront informés des changements à venir.
Cela peut vous intéresser
