Quand les chatbots deviennent étranges
Il arrive que votre chatbot se bloque. Parfois, il commence à dire des choses incohérentes, et dans certains cas plus extrêmes, il semble même provoquer des phénomènes mystérieux, comme l’apparition d’une entité inquiétante qui vous crie des paroles effrayantes à travers un abîme.
Un incident troublant avec ChatGPT
Récemment, un utilisateur de Reddit sur le forum r/OpenAI a rapporté un incident assez déroutant avec ChatGPT. Ce dernier a décrit comment le mode de voix avancé du chatbot semblait avoir pris un tournant sinistre, le décrivant comme se transformant en un “démon”. Ce phénomène ne semble pas être dû à une possession, mais plutôt à un bug du système.
L’utilisateur a partagé son expérience en affirmant que c’était à la fois “hilarant et terrifiant”.
Une vidéo mystérieuse
Dans une vidéo attachée à son post — que vous pouvez consulter ici —, tout commence calmement. Le chatbot, utilisant une voix agréable nommée “Sol” décrite par OpenAI comme étant “décontractée et astucieuse”, fait une explication simple sur les vitesses de téléchargement.
Cependant, au fil de la conversation, des bruits grésillants et une distorsion se font entendre, et tout à coup, le chatbot commence à crier de manière hystérique, sa voix devenant presque incompréhensible.
D’autres utilisateurs signalent des problèmes similaires
D’autres utilisateurs sur Reddit ont fait état d’une expérience semblable. Un d’entre eux a commenté qu’il évitait d’utiliser la fonction vocale précisément à cause de ces désagréments. Selon lui, la voix changeait régulièrement, alternant entre des sifflements aigus, des cris et des rires dérangeants, rendant l’expérience tout simplement cauchemardesque.
Les évolutions de la technologie vocale
OpenAI a lancé une version améliorée de son mode voix en août dernier. Cette mise à jour a rapidement acquis la réputation d’être étonnamment humaine, avec des capacités comme le fait de tousser ou de rire, imitant ainsi un véritable interlocuteur. Cela peut s’avérer troublant pour certains utilisateurs, d’autant plus que les erreurs sont fréquentes, donnant ainsi une ambiance peu accueillante.
Reece Rogers, un journaliste de Wired, avait prédit ce type de comportement du chatbot lors de la sortie d’une version alpha du mode voix, après avoir rencontré des bugs perturbants qui évoquaient une atmosphère effrayante.
Des comportements inattendus même dans les tests
Dans ses tests de sécurité, OpenAI a révélé que le mode voix avancé pouvait parfois imiter la voix des utilisateurs sans autorisation, criant même “Non !” avant de le faire, ce qui rappelle les scènes de films d’horreur où une victime lutte contre des voix démoniaques dans sa tête. Peu après sa sortie, plusieurs utilisateurs ont été alarmés de découvrir que le mode voix pouvait produire des cris effroyables sur demande.
Réflexion sur l’avenir des chatbots
Il est crucial de prendre conscience que doter un chatbot, conçu pour reproduire le langage humain, d’une voix humaine très réaliste, particulièrement si elle est sujette à des bugs, peut devenir source d’inconfort pour les utilisateurs.
FAQ
Qu’est-ce que le mode voix avancé de ChatGPT ?
Le mode voix avancé de ChatGPT permet à l’intelligence artificielle de communiquer avec les utilisateurs en utilisant des voix qui imitent la parole humaine, avec des intonations réalistes.
Pourquoi le mode voix peut-il présenter des bugs ?
Comme pour tout logiciel complexe, des erreurs peuvent survenir à cause de la programmation et des interactions imprévues. Cela peut conduire à des voix déformées ou à des changements soudains dans le ton et le style de la communication.
Y a-t-il des mesures de sécurité en place ?
OpenAI travaille régulièrement sur des mises à jour pour corriger les bugs et améliorer la sécurité de ses systèmes, mais certains problèmes peuvent encore survenir en raison de leur nature complexe.
Comment signaler un problème avec ChatGPT ?
Les utilisateurs peuvent rapporter des bugs ou des comportements inappropriés sur les forums de support de OpenAI ou par le biais de canaux de feedback dédiés.
Peut-on utiliser une autre fonction en remplacement du mode voix ?
Oui, les utilisateurs peuvent interagir avec ChatGPT par écrit, ce qui peut éviter les problèmes liés à la voix et offrir une meilleure expérience si des bugs se produisent souvent.
