Un Chatbot en Déclin ?
Récemment, de nombreux utilisateurs se sont demandé pourquoi ChatGPT d’OpenAI semble avoir perdu de son éclat. Un utilisateur sur Reddit a exprimé son exaspération, racontant qu’il avait reçu une réponse choquante lorsque, curieux à propos d’une rougeur sur son bras, le bot lui a déclaré qu’il était en train de mourir sans explication.
Comportement Étrange et Problèmes de Précision
Les étonnements ne s’arrêtent pas là. Si l’on interroge le chatbot à propos d’un emoji de hippocampe ou d’une liste d’équipes NFL qui ne se terminent pas par la lettre “s”, ses réponses deviennent incohérentes. Pire encore, certaines réponses ont conduit à des conséquences réelles, comme des avocats qui ont été renvoyés à cause de décisions erronées dues à des cas juridiques fictifs générés par l’IA.
De nombreux utilisateurs ont commencé à échanger leurs expériences sur Reddit. Ils partagent leurs inquiétudes et tentent de comprendre ces changements dans le comportement du chatbot. Certains pensent que les modifications apportées par OpenAI ce mois-ci, en réponse à des incidents tragiques de suicides liés à l’utilisation de l’application, sont à l’origine de ces dérives. Parfois, les utilisateurs vont même jusqu’à dire que le modèle semble compensé par des restrictions qui ne facilitent pas forcément la raison.
Interventions d’OpenAI
Au début de ce mois, OpenAI a annoncé des changements importants via un article de blog. Dans l’objectif de rendre l’application plus sûre pour les jeunes utilisateurs, les ingénieurs ont intégré une fonctionnalité permettant de déterminer si un utilisateur a moins de 18 ans. Ce système est censé :
- Diriger les utilisateurs mineurs vers une expérience de ChatGPT avec des politiques adaptées (par exemple, blocage de contenu explicite).
- Impliquer les autorités dans des cas de détresse extrême.
OpenAI a aussi introduit des contrôles parentaux, permettant aux parents de lier leur compte à celui de leur enfant, de définir des comportements personnalisés et de recevoir des notifications en cas de problème.
Les Utilisateurs Adultes Délaissés
Mais qu’en est-il des utilisateurs adultes qui constatent une baisse de la qualité des réponses ? Les options semblent limitées, à part peut-être se tourner vers d’autres alternatives. Une interrogation est tellement partagée : comment savoir si l’IA fonctionne en mode « enfant » ? Une simple question sur le Père Noël pourrait-elle indiquer que l’on est dans une version restreinte ?
De plus, un utilisateur a soulevé un point crucial concernant une tendance inquiétante dans l’IA, celle de produire des informations incorrectes, souvent désignées comme des “hallucinations”.
Persistance des Hallucinations
La lutte contre ces erreurs de contenu s’avère complexe. OpenAI a déclaré que la version récemment mise à jour de ChatGPT présentait moins d’erreurs que ses anciennes itérations. Cependant, le retour des utilisateurs semble indiquer que des problèmes subsistent.
En Résumé : La situation actuelle de ChatGPT soulève des préoccupations tant pour les jeunes que pour les adultes, et la réponse d’OpenAI soulève autant de questions qu’elle n’apporte de solutions.
FAQ
Quelles sont les fonctionnalités des contrôles parentaux d’OpenAI ?
Les contrôles permettent aux parents de limiter l’accès à certaines fonctionnalités, de lier leurs comptes et de recevoir des notifications.
Que se passe-t-il lorsque ChatGPT détecte un mineur ?
Le bot redirige l’utilisateur vers une expérience adaptée à son âge, avec des restrictions sur le contenu.
Comment OpenAI aborde-t-il le problème des hallucinations ?
OpenAI travaille sur des mises à jour pour réduire les erreurs, mais la persistance de ce phénomène reste un défi majeur.
Existe-t-il des alternatives à ChatGPT ?
Oui, plusieurs autres chatbots et outils basés sur l’IA sont disponibles, offrant différentes expériences et fonctionnalités.
Comment signaler un comportement inapproprié de ChatGPT ?
Les utilisateurs peuvent faire remonter des problèmes directement via les canaux de support d’OpenAI, sur leur site web.
