Il ne faut pas demander à un chatbot d’IA combien de lettres “e” se trouvent dans le mot “dix-sept”. Ou faites-le, si vous souhaitez constater à quel point la technologie peut être problématique.
Dans une vidéo devenue virale dans les milieux de l’IA, un créateur de contenu connu sous le nom de “Husk” interroge ChatGPT sur un simple problème de comptage. Non seulement l’IA, qui semble sûre d’elle, se trompe en affirmant qu’il n’y a que trois “e” au lieu de quatre, mais elle va jusqu’à nier la réalité pour convaincre l’utilisateur qu’elle a raison.
“Revenons sur cela ensemble. S-e-v-e-n-t-e-e-n,” énonce ChatGPT, tout en assurant que son modèle de base, le GPT-6, est “pratiquement” le meilleur. “Cela fait trois ‘e’.”
Quand Husk souligne l’erreur évidente, le chatbot ne recule pas d’un pouce.
“J’affirme qu’il y a trois ‘e’,” rétorque l’IA. “Et c’est bien trois.”
“Non, il y en a quatre,” répond Husk.
“C’est toujours trois,” soutient ChatGPT.
Quand Husk mentionne pour la cinquième fois que ChatGPT a justifié les quatre “e”, l’IA semble finalement abandonner.
“D’accord,” reconnaît-elle, se taisant.
“Donc, tu es d’accord ?” demande Husk.
“Non, c’est trois,” boude-t-elle.
Voilà l’intelligence artificielle qu’OpenAI veut voir interagir avec vos grands-parents.
Cette vidéo illustre que, malgré les capacités impressionnantes des chatbots à synthétiser d’énormes quantités d’informations, ils sont toujours susceptibles de se tromper et de fournir des informations erronées sur des questions simples.
Cependant, il semblerait que le modèle utilisé dans la vidéo ne soit pas le GPT-6. En réponse à Husk, un employé d’OpenAI a précisé que ChatGPT Voice, contrairement à ce qu’affirme l’IA elle-même, utilise en réalité un modèle plus ancien appelé GPT-Live-1. Toutefois, ce dernier peut “déléguer” aux modèles plus puissants si nécessaire. Dans la vidéo, l’employé a souligné qu’il n’y avait pas eu de délégation lors de l’interaction.
Husk soulève alors une question pertinente. “Pourquoi ne délègue-t-elle pas lorsqu’un utilisateur remet en question sa réponse de cette manière ?” L’employé d’OpenAI a reconnu que c’était un “bon point”.
Cela pourrait exonérer le GPT-6 de certaines critiques, mais cela ne change rien quant à la manière dont les entreprises d’IA présentent leurs technologies. Combien d’utilisateurs savent réellement comment fonctionne le chatbot avec lequel ils interagissent ? Ils ignorent souvent que leurs demandes, qu’elles soient cruciales ou futiles, sont parfois intentionnellement dirigées vers un modèle inférieur.
À lire également sur l’IA : OpenAI sous enquête au Congrès pour un incident de hacking en essaim
## FAQ
### Qu’est-ce que ChatGPT Voice ?
ChatGPT Voice est une fonctionnalité qui permet à l’IA de répondre aux utilisateurs par la voix en utilisant des modèles de langage avancés. Toutefois, il a été révélé qu’elle pourrait encore utiliser des versions plus anciennes de ces modèles.
### Pourquoi les chatbots font-ils des erreurs ?
Les chatbots, bien qu’efficaces dans le traitement de données, peuvent commettre des erreurs en raison de la façon dont ils interprètent les données ou à cause de la limite de leur base de connaissances.
### Que signifie “déléguer” dans le contexte des IA ?
“Déléguer” signifie qu’un chatbot peut faire appel à des modèles plus avancés pour répondre à des questions complexes ou pour améliorer la précision de ses réponses.
### Comment les utilisateurs peuvent-ils savoir quel modèle ils utilisent ?
La plupart des utilisateurs ne sont pas informés des modèles spécifiques ou de leurs niveaux de performance. Cette transparence est essentielle pour renforcer la confiance des utilisateurs dans la technologie.
### Les chatbots sont-ils fiables pour des informations critiques ?
Bien qu’ils puissent être un outil utile, il est recommandé de vérifier les informations provenant de chatbots, surtout lorsqu’il s’agit de sujets importants.
