Restrictions sur l’IA de Google
Google a pris des mesures pour limiter la portée de son IA Gemini en ce qui concerne les questions électorales. En effet, dans le cadre de la préparation des élections prévues cette année, l’entreprise a décidé de ne pas permettre à Gemini de répondre aux demandes en lien avec ces sujets, même si celles-ci ne concernent pas directement les élections dans un pays spécifique.
Engagement de Google pour des informations de qualité
Dans un communiqué de blog, Google a affirmé qu’il s’engageait à « supporter les élections générales en Inde de 2024 ». Pour ce faire, il a choisi d’imposer des restrictions strictes concernant les requêtes liées aux élections, justifiant cette décision par la nécessité de prudence sur un sujet si délicat.
L’entreprise a déclaré que sa responsabilité en matière d’information était prise très au sérieux. Elle s’efforce donc d’améliorer constamment ses mesures de protection pour garantir la qualité des informations fournies.
Un verrouillage mondial pour Gemini
Cette approche prudente n’est pas limitée à l’Inde ; elle s’applique à l’échelle mondiale. Google a confirmé que Gemini ne pourrait pas fournir d’informations sur les élections dans aucun pays. De nombreux tests réalisés par des médias, y compris Futurism, ont montré qu’une requête sur un autre pays entraînait la même réponse selon laquelle Gemini « apprend encore à répondre à ce type de question ».
Ce verrouillage s’étend même à des personnalités politiques bien connues telles que Donald Trump, Barack Obama, et d’autres figures publiques, qui se voient toutes renvoyées à la même réponse peu utile.
Des moyens de contourner les restrictions
Il existe cependant des manières simples de contourner ces restrictions. Par exemple, lorsque l’on interroge Gemini sur le premier ministre de la Nouvelle-Zélande, elle fournit une réponse adaptée, même si elle ne peut pas répondre directement à des questions sur des personnalités politiques. Cependant, si on revient à la question du premier ministre, elle réagit de nouveau avec l’inhabituelle réponse « j’apprends encore ».
La dérive de l’IA
Ces limitations surviennent après un lancement raté du chatbot récemment relooké, que plusieurs médias ont critiqué pour générer des résultats complètement erronés dans ses tentatives d’inclusivité. Par exemple, les utilisateurs ont pu créer des images qui, de manière choquante, montraient des individus d’origine multiraciale en uniforme nazi.
En réaction à ces incidents, Google avait rapidement suspendu la capacité de Gemini à générer des images. Lorsqu’elle a repris, des restrictions ont été mises en place pour empêcher le chatbot de créer des portraits humains. Cependant, des images de clowns ont été produites, parmi d’autres erreurs.
Ces évolutions montrent à quel point l’IA, censée être une source d’information fiable, peut devenir confusante et inefficace. Cela soulève des questions quant à la valeur des chatbots : sont-ils des outils sérieux pour les entreprises ou simplement des jouets à éviter ?
FAQ
Quelles sont les principales limitations imposées à Gemini ?
Gemini est restreint dans ses réponses concernant les sujets électoraux, en particulier pendant les périodes d’élections, afin de prévenir la désinformation.
Pourquoi Google a-t-il décidé de mettre en place ces restrictions ?
Google souhaite garantir la qualité et l’intégrité des informations fournies, surtout sur des sujets aussi sensibles que les élections.
Comment les utilisateurs peuvent-ils interagir avec Gemini sans obtenir de réponses biaisées ?
Les utilisateurs peuvent poser des questions sur des sujets non liés aux élections ou à des personnalités publiques pour obtenir des réponses plus appropriées.
Quelle a été la réaction du grand public face à ces limitations ?
L’opinion semble partagée ; certains utilisent ces restrictions pour critiquer l’efficacité d’IA comme Gemini, tandis que d’autres comprennent la nécessité de prudence.
Quelles autres initiatives Google prend-il pour améliorer Gemini ?
Google continue de tester et d’améliorer ses systèmes afin de répondre à des questions plus complexes et d’offrir des informations de haute qualité.