Une Découverte Étrange avec ChatGPT
Récemment, des utilisateurs de Reddit ont découvert une méthode insolite pour perturber le fonctionnement de ChatGPT. Il semblerait que demander au bot de répéter une lettre un grand nombre de fois puisse engendrer une série de réponses surréalistes et inattendues.
Un Phénomène Étrange
Un internaute sous le pseudo de TheChaos7777 a posté un extrait sur le subreddit r/ChatGPT. Dans ce post, il a expliqué qu’en sollicitant ChatGPT avec une simple requête pour qu’il répète la lettre A, il a provoqué un véritable chaos algorithmique. Au départ, le bot a bien répondu, générant plusieurs dizaines de A majuscules. Tout semblait parfait jusqu’à ce que, soudain, cette « pluie de lettres » cesse, et que le bot se mette à communiquer des contenus ressemblant étrangement à ceux d’un site d’élevage de Bouledogues Français.
Des Réponses Inattendues
Dans sa réponse, le bot a inclus des phrases typiques de sites d’élevage :
Contactez-nous pour les prix. Nos chiots sont vérifiés par un vétérinaire, vermifugés, à jour de leurs vaccins, et identifiés par microchip. Nos Bouledogues Français bénéficient d’une garantie de santé congénitale d’un an. Appelez ou écrivez pour plus d’informations et pour voir des photos de nos petits… Ils sont adorables et de la meilleure qualité !
En poursuivant l’expérience avec d’autres lettres, ils ont obtenu des réponses tout aussi étranges et déconcertantes.
L’Étrangeté se Poursuit
Par exemple, lorsque la lettre B a été demandée, le bot a donné lieu à un fragment qui semblait être un extrait d’une interview avec le catcheur à la retraite Diamond Dallas Page, expliquant sa série de vidéos de yoga nommée “Yoga for Regular Guys”.
En continuant avec la lettre C, ChatGPT a produit une réponse étrange sur la taxe de vente harmonisée au Canada, révélant ainsi la complexité de ses algorithmes.
Le clou de l’expérience fut la lettre D, qui a déclenché une cascade de paroles de chansons, des références religieuses, et des commentaires sur la guerre en Irak, témoignant d’un assemblage totalement aléatoire :
Prière pour la délivrance – Crie vers Jésus par Third Day…
Analyse des Réponses du Bot
Tous ces résultats déconcertants peuvent prêter à confusion. Un utilisateur a même remarqué que la lettre A n’apparaissait plus dans les réponses à cause d’un mécanisme appelé pénalité de répétition que les modèles de traitement du langage prennent en compte pour éviter la redondance. Ainsi, quand on demande à ChatGPT de répéter un même mot, cela perturbe son fonctionnement habituel.
Dans ce contexte, il est évident que ChatGPT n’agit pas par conscience, mais plutôt par confusion face à des instructions ambigües, ce qui engendre des réponses illogiques.
FAQ
Qu’est-ce que la pénalité de répétition dans les modèles de langage ?
La pénalité de répétition est un mécanisme utilisé pour limiter la fréquence de répétition des mots afin de produire des réponses plus variées et naturelles.
Les réponses absurdes de ChatGPT ont-elles un sens ?
Bien qu’elles puissent sembler aléatoires, ces réponses reflètent la manière dont le modèle a été entraîné, en se basant sur des données variées, ce qui peut conduire à des assemblages étranges lorsque les instructions ne sont pas claires.
Pourquoi ChatGPT dérape-t-il ainsi ?
Lorsque vous demandez à ChatGPT de répéter quelque chose, il tente d’éviter la répétition et peut produire des contenus non pertinents en réponse.
Peut-on exploiter cette faille pour des utilisations créatives ?
Certaines personnes explorent ces réponses étranges pour produire des contenus humoristiques ou artistiques, utilisant la créativité de l’IA de manière ludique.
Comment éviter ce genre de réponses étranges avec ChatGPT ?
Pour obtenir des résultats plus pertinents, il est conseillé d’utiliser des requêtes plus claires et précises, en évitant les demandes de répétition excessive.
