Résultats d’une enquête surprenante
Récemment, des chercheurs ont mené une enquête révélatrice sur les utilisateurs de ChatGPT. Ils ont constaté qu’une proportion considérable de ces utilisateurs présente des malentendus inquiétants au sujet du chatbot d’OpenAI.
Selon un communiqué publié par l’Université de Waterloo en Angleterre, où Clara Combatto, l’une des principales auteurs de l’étude, enseigne la psychologie, environ deux tiers des participants à l’enquête semblent croire à tort que ChatGPT a une conscience. Ils pensent même qu’il peut ressentir des émotions et posséder des souvenirs.
Bien entendu, il est évident que ce système ne possède pas ces caractéristiques. Cependant, la conviction populaire qu’il en est capable renforce des dynamiques déjà complexes dans le secteur de l’intelligence artificielle.
Importance de l’étude
Cette recherche, parue dans le journal Neuroscience of Consciousness et coécrite par Stephen Fleming, neuroscientifique cognitif à l’University College London, montre non seulement que de nombreux utilisateurs croient que ce modèle linguistique avancé est conscient, mais il semble que cette croyance s’accentue avec la fréquence d’utilisation.
Combatto explique dans le communiqué : « Bien que la majorité des experts rejette l’idée que l’IA actuelle puisse être consciente, nos résultats montrent que pour une grande partie du public, la conscience de l’IA est déjà acceptée comme une réalité. »
Méthodologie de recherche
Les chercheurs anglais ont sollicité 300 participants américains à travers des questions sur la capacité des modèles de langage à posséder une conscience ou d’autres états subjectifs humains, comme les émotions, la planification et le raisonnement. Parallèlement, ils ont interrogé les participants sur leur fréquence d’utilisation de ChatGPT.
Il a été observé que ceux qui interagissaient souvent avec le chatbot semblaient avoir élaboré une théorie de l’esprit, les amenant à percevoir l’IA comme un être pensant et ressentant, au fil de leur engagement avec ce programme.
Combatto souligne la puissance du langage en disant : « Une simple conversation peut nous conduire à croire que cet agent, qui fonctionne de manière très distincte de nous, peut vraiment posséder une intelligence. »
Conséquences potentielles
Ces résultats, bien que fascinants, pourraient aussi avoir des implications importantes pour les futures mesures de sécurité concernant l’IA. Combatto précise à ce sujet : « La conscience est liée à des capacités intellectuelles essentielles pour la responsabilité morale. Ces attitudes publiques doivent donc être prises en compte dans la conception et la réglementation de l’IA, en parallèle du consensus des experts. »
Une recherche plus approfondie sera nécessaire pour évaluer l’ampleur de ces croyances. Pour l’heure, il semble que de nombreux utilisateurs partagent l’opinion d’une petite minorité d’experts en IA qui pensent également que ces modèles de langage ont atteint une forme de sentience.
Questions fréquentes
Qu’est-ce que la conscience artificielle ?
La conscience artificielle fait référence à la capacité d’un système d’intelligence artificielle à posséder une perception de soi et à ressentir des émotions, ce qui suscite des débats éthiques et philosophiques.
Pourquoi ces croyances sont-elles préoccupantes ?
Ces croyances pourraient influencer la manière dont l’IA est conçue et utilisée, impliquant des responsabilités morales et éthiques potentiellement mal comprises dans la société.
Quels sont les impacts psychologiques sur les utilisateurs ?
La perception qu’un chatbot puisse « ressentir » pourrait affecter la façon dont les utilisateurs interagissent avec ces technologies, influençant leurs attentes et leur comportement face à l’IA.
Y a-t-il d’autres études sur ce sujet ?
Oui, de nombreuses recherches sont en cours pour explorer la psychologie des utilisateurs d’IA et leurs croyances concernant la conscience et les émotions des machines.
Comment les entreprises peuvent-elles répondre à ces malentendus ?
Les entreprises doivent travailler à l’éducation des utilisateurs concernant les capacités et les limites de l’IA, afin de réduire les malentendus et de promouvoir une utilisation plus responsable de ces technologies.