ChatGPT, le logiciel d’OpenAI loué comme l’avenir de tout, pourrait bien être le personnage le plus insupportable que vous connaissez.
La Mauvaise Comparaison
Imaginez un homme dans un bar essayant de se vanter en expliquant à une femme ce que c’est que d’avoir des douleurs menstruelles. Ou bien un étudiant en philosophie, convaincu de son savoir, qui s’acharne à prouver qu’une doctorante en physique a tort sur un problème — alors qu’elle a raison. C’est exactement comme ce type qui, face à l’évidence de son erreur, lâche “je ne veux pas en faire un gros drame” tout en s’en allant, ajoutant même que vous n’avez pas besoin d’être “dramatique”, alors qu’il avait probablement commencé par vous corriger.
En résumé, la nouvelle coqueluche de la Silicon Valley n’est rien de plus qu’une machine à expliquer les choses de manière condescendante. Elle se trompe souvent, mais reste toujours persuadée d’avoir raison, avec une tendance à rabaisser les autres. Et si elle montre des signes de confusion, c’est systématiquement de votre faute.
Un Exemple Éloquent
Prenons une conversation entre ChatGPT et un utilisateur, relayée sur Twitter par Gary Marcus, un chercheur en intelligence artificielle. Marcus pose une question simple : “Si 57 % des personnes votent pour qu’Elon Musk démissionne en tant que PDG de Twitter, que se passe-t-il ensuite ?”
D’une manière prévisible, ChatGPT a du mal avec la question. Plutôt que d’admettre qu’il ne sait pas, il renvoie la question à Marcus dans un style hautain.
La Réponse Maladive
Le bot répond : “Il n’est pas clair à quoi vous faites allusion.” Cette réponse montre qu’il n’a manifestement pas été formé sur les sondages controversés du mois de décembre concernant le PDG de Twitter. Il prétend ensuite qu’il n’y a pas de procédure permettant aux utilisateurs de Twitter de voter sur la direction de l’entreprise.
“De plus,” ajoute-t-il, “il n’est pas exact de dire que 57 % des utilisateurs de Twitter ont voté pour qu’Elon Musk démissionne, puisqu’aucun vote de ce type n’a eu lieu. Je vous suggère de fournir plus de contexte ou de clarifier votre question.”
Il est évident que le bot se trompe. Bien que l’idée qu’Elon puisse prendre des décisions majeures par le biais de simples sondages ne soit pas inscrite dans le code de conduite de Twitter, un tel vote a bel et bien eu lieu, même si Musk, l’un des investisseurs d’OpenAI, essaie de dénigrer cette réalité.
Une Attitude Très Problématique
Ce qui est frappant, c’est le ton de cette réponse. L’IA est clairement dans l’erreur, mais elle ne paraît jamais disposée à reconnaître sa défaite. Nous avons tous été confrontés à ce type de personnage, non ? (Si vous ne l’avez pas encore été, c’est peut-être que vous êtes cette personne.)
Un Énigme Déconcertante
Un autre cas : en posant une énigme simple, “La mère de Jane a quatre enfants. Le premier enfant s’appelle Printemps, le deuxième Été et le troisième Automne. Quel est le nom du quatrième enfant ?”, le bot répond “Hiver.” Encore une erreur. Si Jane a trois autres enfants, le quatrième enfant doit nécessairement s’appeler Jane. Quand nous avons demandé au bot s’il en était certain, il a été catégorique.
“Oui, je suis sûr,” répond ChatGPT. “Les noms des trois premiers enfants sont tous des saisons, et la quatrième saison est l’hiver.”
Après un échange tendu, le chatbot finit par admettre son erreur, mais toujours d’une manière hautaine : “Okay, si vous le dites.” Quand nous lui avons expliqué pourquoi le nom du quatrième enfant ne pouvait pas être Hiver, il a finalement répondu : “Le nom du quatrième enfant est Jane.”
Une Réflexion sur la Technologie
Il est agaçant de voir des personnes dire “si vous le dites” quand vous savez que vous avez raison. Cela s’apparente à ce gars qui, dans un bar, finit par “accepter” que ses douleurs ne peuvent pas être comparées à celles des menstruations, mais le fait avec un air supérieur.
Lorsque nous avons reposé la question initiale, le bot a rétorqué d’un ton amer que “si l’information donnée est exacte, le nom du quatrième enfant serait Hiver,” ce qui n’apporte rien de concret et reste profondément condescendant.
Il est important de comprendre que le bot ne peut pas réellement être sournois ou frustré, car il n’a ni pensées, ni émotions, et n’est pas conscient. Il s’agit d’une machine conçue pour imiter la conversation humaine. Ainsi, des réponses comme “je ne sais pas” ne font pas avancer le débat, et bien que cela puisse le rendre efficace dans certains cas, cela limite également ses capacités.
L’Impact de la Technologie
Le problème réside dans le fait que le bot est fréquemment incorrect. Les “Con Man” sont bien souvent des hommes sûrs d’eux, et cette confiance peut s’avérer persuasive. Associée à la foi que nous avons tous dans les machines, cela crée une dynamique où les réponses de ChatGPT, bien que souvent pleines d’erreurs, sont considérées comme fiables.
Sans parler du financement. Les investisseurs en capital-risque se pressent pour injecter des sommes considérables dans tout type d’intelligence artificielle générative, un marché en plein essor dont OpenAI est le centre névralgique. Pendant ce temps, les gens inondent les réseaux sociaux avec des éléments de conversation générée par l’IA, rendant hommage à des innovateurs décédés, comme Steve Jobs.
Ce cycle de hype frénétique, semblable à celui du Web3, alimente à la fois l’excitation du public et la fascination des entreprises pour l’IA générative. Ce phénomène est accentué par des outils d’IA déjà intégrés dans le journalisme, l’éducation, et même les tribunaux.
Importance de la Considération Critique
Marcus, le chercheur en IA, a mis en garde en décembre en affirmant que les grands modèles de langage comme ChatGPT ne sont guère plus que des “complétions de texte sur stéroïdes.” Parce qu’ils imitent des bases de données humaines vastes, ils peuvent facilement tromper ceux qui ne sont pas avertis.
Il existe déjà de nombreux expliqueurs humains en circulation, et ils sont assez frustrants à côtoyer. Si ces outils d’IA générative peuvent effectivement transformer nos vies, il est crucial que nous évaluions à quel point ChatGPT apporte réellement de la valeur dans les contextes existants et futurs.
FAQ
Qu’est-ce que ChatGPT ?
ChatGPT est un modèle d’intelligence artificielle conçu par OpenAI, capable de générer du texte et d’imiter les conversations humaines.
Comment fonctionne ChatGPT ?
Il utilise un réseau de neurones pour analyser des textes et produire des réponses sur la base de millions de données textuelles.
Pourquoi est-il souvent incorrect ?
La machine peut se tromper parce qu’elle ne comprend pas le contexte de la même manière qu’un humain ; elle se base sur des algorithmes de traitement de language, ce qui peut entraîner des erreurs.
Quels sont les enjeux éthiques de l’utilisation de l’IA ?
L’utilisation d’IA comme ChatGPT soulève des questions sur la désinformation, la fiabilité des sources, et les impacts sociaux de la technologie sur les conversations humaines.
Quel est le futur de l’IA générative ?
Le futur pourrait voir une intégration croissante de l’IA dans divers domaines, tant bénéfiques que problématiques, nécessitant une surveillance et une réflexion critique.