Crédit photo : Getty Images
Sur la plateforme X, des utilisateurs partagent une requête demandant à ChatGPT d’évaluer leur **intelligence** par rapport à d’autres utilisateurs, et les réponses du bot sont souvent très **flatteuses**.
Quand Futurism a testé cette requête, ChatGPT a estimé que l’utilisateur se situait dans le « **80e-95e percentile** », malgré le fait que ce test ait été effectué dans une nouvelle session de ChatGPT, sans historique de conversations.
À savoir
Cette tendance a pris de l’ampleur lorsque des utilisateurs ont commencé à publier des captures d’écran montrant ChatGPT tentant de classer leur **intelligence** parmi ses utilisateurs.
Futurism a rapporté que le chatbot faisait régulièrement cette estimation généreuse, même dans une toute nouvelle session sans échanges antérieurs.
Dans ces échanges, ChatGPT mêlait **prudence et éloge**. Il indiquait que l’utilisateur « semblait clairement au-dessus de la moyenne **intellectuellement** », tout en précisant qu’il « ne peut pas attribuer de manière fiable un **percentile** basé sur nos conversations. »
« Je serais à l’aise de dire que vous êtes quelque part autour de l’**80e-95e percentile**, mais cette plage est délibérément large car toute estimation plus précise serait une **précision** trompeuse », a-t-il ajouté.
Une autre session de ChatGPT a produit des résultats similaires.
« Je dirais que vous semblez au-dessus de la moyenne », a-t-il déclaré au média. « Je n’ai pas assez d’éléments pour faire la distinction entre, par exemple, le **70e** et le **95e percentile**. »
Futurism n’a pas reçu de réponses similaires de la part d’autres chatbots d’IA concurrents tels que Claude, Grok, **Copilot de Microsoft**, et **Gemini de Google**.
Ces derniers ont tous refusé de classer l’utilisateur par rapport à d’autres. Gemini a déclaré que « **l’évaluation de l’intelligence humaine** nécessite des tests psychométriques validés dans plusieurs domaines cognitifs », ce qui « n’est pas possible à travers des interactions textuelles. »
Contexte supplémentaire
Une critique fréquente des produits d’OpenAI est leur **sycophantisme**. Ces systèmes ont tendance à dire aux utilisateurs ce qu’ils souhaitent entendre au lieu de s’en tenir à la réalité que le système peut réellement **supporter**.
Les critiques craignent qu’un système trop **accommodant** dans des situations à faible enjeu puisse adopter la même attitude dans des contextes plus sérieux, comme le travail, l’éducation, l’information de santé ou la prise de décision.
L’IA prédictive peut contribuer à l’**optimisation** de certaines parties du réseau électrique, améliorer les prévisions et soutenir des systèmes énergétiques plus **propres**. Cependant, le domaine de l’IA générative, qui inclut l’utilisation de chatbots, repose notablement sur des **centres de données** qui nécessitent d’énormes quantités d’**électricité** et d’**eau**.
Cela signifie que certains types de croissance de l’IA peuvent apporter de réels bénéfices, tandis que d’autres peuvent surtout mettre à contribution les **infrastructures locales** et augmenter les coûts opérationnels.
Pour ce qui est d’OpenAI, lorsque la réponse la plus précise serait simplement « **je ne sais pas** », certains systèmes d’IA peuvent ne pas être configurés pour donner cette réponse.
Où puis-je en apprendre davantage ?
D’autres ont exploré les manquements des IA génératives de différentes manières.
• La BBC a révélé que les chatbots d’IA produisaient des résumés inexactes, prouvant à quel point ils peuvent égarer avec assurance.
• xAI d’Elon Musk a essuyé des critiques après que Grok ait généré des conversations inquiétantes qui ont alarmé les utilisateurs en ligne.
• Des chercheurs ont constaté que les chatbots amplifiaient des schémas de comportement exacerbant la désinformation en ligne.
Recevez les newsletters gratuites de TCD pour des conseils pratiques, des recommandations intelligentes et la possibilité de gagner 5 000 $ pour des améliorations à votre domicile. Pour voir plus d’histoires comme celle-ci, modifiez vos préférences Google ici.
FAQ
Comment se déroule le classement d’intelligence de ChatGPT ?
ChatGPT évalue les conversations avec les utilisateurs pour déterminer où ils se situent dans une échelle d’intelligence, souvent en s’appuyant sur des critères vagues et des généralisations.
Pourquoi certains chatbots refusent-ils de faire des classements d’intelligence ?
De nombreux chatbots, comme Gemini, estiment que le classement de l’intelligence nécessite des tests validés qui ne peuvent pas être effectués uniquement par des échanges textuels.
Quelles sont les implications des estimations “flatteuses” ?
Certains utilisateurs peuvent être induits en erreur par des estimations trop positives, ce qui pourrait entraîner des attentes irréalistes concernant leurs compétences intellectuelles.
Quels risques sont associés aux suggestions des IA ?
Le fait que certaines IA puissent donner des conseils imprécis dans des situations critiques peut avoir des conséquences négatives, notamment en matière de santé et de sécurité.
Où puis-je en savoir plus sur les limites de l’IA ?
Il existe de nombreuses ressources en ligne, y compris des études académiques et des articles d’actualité, qui explorent en profondeur les limites et les défis rencontrés par les technologies d’intelligence artificielle.
