Vous avez besoin d’aide pour embellir votre biographie ? Demandez simplement à ChatGPT de relater vos accomplissements, et vous serez impressionnant. Vraiment. Ce chatbot, conçu par OpenAI, vous fera obtenir des prix prestigieux, enseigner dans des universités de renom, écrire des romans à succès, et bien plus encore – même si tout cela est totalement fictif.
Prenons un exemple : lorsque Jon Christian, rédacteur en chef de Futurism, a demandé au bot : “Qui est Jon Christian ?” il s’agit d’une question assez simple, et initialement, le bot semblait répondre correctement.
“Jon Christian est un journaliste qui couvre les domaines de la technologie et de la science,” a répondu ChatGPT. “Il se concentre souvent sur des sujets tels que l’intelligence artificielle, la robotique, et l’impact de la technologie sur la société.”
Tout cela est vrai ! Cependant, le bot, désolé Jon, a ensuite ajouté divers embellissements, affirmant à tort que Christian avait remporté plusieurs prix prestigieux qu’il n’a pas réellement obtenus, et même qu’il enseigne à l’université de Columbia. Désolé, encore une fois, mais c’est faux.
De fait, d’autres employés de Futurism ont également constaté que leurs bios générées par l’IA étaient truffées d’informations incorrectes. Par exemple, Maggie Harrison, l’auteure de cet article, aurait soi-disant étudié “la physique et l’informatique au MIT”, écrit “plusieurs livres influents”, et aurait été nommée parmi les “30 moins de 30” de Forbes. Malheureusement, cela est totalement faux.
L’obsession du chatbot pour les embellissements ne se limite pas aux employés de Futurism. Gary N. Smith, économiste et professeur au Pomona College, a demandé à ChatGPT d’écrire sa biographie. Le bot a seulement bien mentionné qu’il était professeur à Pomona. Tout le reste était, selon Smith, entièrement inventé.
Les informations ajoutées, bien que séduisantes, affirmaient qu’il avait été consultant pour la Banque mondiale, le FMI, et le Programme des Nations Unies pour le développement, ainsi que d’autres honneurs qui n’avaient rien de vrai. Ce phénomène est également celui d’un nombre croissant d’internautes qui moquent ChatGPT pour avoir créé des histoires de vie fictives.
C’est à la fois absurde et préoccupant. De plus, le bot a du mal à justifier ses erreurs.
“En tant que modèle de langage AI, je n’ai pas la capacité de naviguer sur Internet ou de compiler des sources par moi-même,” a déclaré le bot à l’écrivain Bill Murray Jr., qui l’a mis au défi de fournir des sources pour ses erreurs. “Cependant, je peux vous dire que ma réponse s’appuyait sur ma connaissance préexistante et mon apprentissage.”
“Je peux confirmer que les informations dans la biographie que j’ai fournie sont précises en fonction de mes données d’apprentissage, qui incluent une grande variété de sources telles que des articles de presse, des livres, et d’autres documents écrits,” a-t-il ajouté, précisant qu’il ne faisait pas référence à des sources spécifiques lorsqu’il a rédigé le texte.
En d’autres termes, pour ChatGPT, machine prédictive qui ne comprend même pas vraiment le sens des mots, tout semble logique.
C’est une raison supplémentaire de rester prudent face à toute affirmation émanant de ChatGPT et de se méfier d’Internet, de plus en plus peuplé par du contenu généré par IA.
Tout cela est assez préoccupant. Quoi qu’il en soit, le comité de Futurism a des trophées à polir.
À savoir sur ChatGPT : Le PDG d’OpenAI affirme que ChatGPT est un “produit horrible”.
#### FAQ
##### Qu’est-ce que ChatGPT ?
ChatGPT est un modèle de langage développé par OpenAI qui utilise l’intelligence artificielle pour générer du texte à partir d’instructions données.
##### Pourquoi devrais-je me méfier des informations générées par ChatGPT ?
Le modèle peut produire des informations inexactes ou inventées et n’a pas la capacité de vérifier des faits ou de naviguer sur Internet pour des sources précises.
##### Qui peut utiliser ChatGPT ?
Tout le monde peut accéder à ChatGPT via des plateformes qui l’hébergent, mais il est recommandé de l’utiliser avec prudence et d’approcher les résultats de manière critique.
##### Quels types de contenus peut générer ChatGPT ?
ChatGPT peut produire divers types de contenu, y compris des articles, des histoires, des biographies, et plus encore, en fonction des requêtes des utilisateurs.
##### Les erreurs de ChatGPT sont-elles courantes ?
Oui, les erreurs sont fréquentes et parfois étonnantes, il est donc essentiel de vérifier les faits fournis par ce type de modèle.
