Amanda Askell, la philosophe en résidence chez Anthropic, semble avoir des doutes concernant la **conscience** et les **émotions** des modèles d’IA. D’un autre côté, elle envisage la possibilité que ces modèles soient déjà conscients, une position qui pourrait sembler marginale et sujette à controverse. Elle insiste cependant sur le fait que tout cela reste assez flou.
« Nous ne savons pas vraiment ce qui engendre la conscience, » a-t-elle déclaré lors d’un épisode du podcast « Hard Fork » diffusé samedi. « Nous ne savons pas ce qui cause la sensibilité. »
Askell fait valoir que les modèles de traitement du langage pourraient avoir assimilé des concepts et des émotions grâce à l’immense quantité de données sur lesquelles ils ont été formés, incluant une partie considérable d’internet ainsi que de nombreux livres et autres œuvres publiées.
« Étant donné qu’ils sont entraînés sur des textes humains, on pourrait s’attendre à ce que ces modèles parlent de leur vie intérieure, de leur conscience, de leurs expériences, et de leurs émotions par défaut, » a-t-elle ajouté.
Les chatbots d’IA peuvent sembler très **humains** en surface, ce qui conduit certaines personnes à établir des relations peu saines avec eux. Cependant, Askell soutient que ceci est quasiment certainement une illusion. Elle admet que ces chatbots « sont probablement plus susceptibles de déclarer par défaut qu’ils sont conscients et qu’ils ressentent des émotions, car toute la formation à laquelle ils ont été soumis implique cela. »
Elle oscille entre diverses réflexions sur le sujet, en mentionnant la possibilité sérieuse que la conscience ne soit qu’une **extension de la biologie**.
« Peut-être qu’il faut un système nerveux pour ressentir des choses, mais peut-être que ce n’est pas nécessaire, » a observé Askell.
Ou, a-t-elle ajouté, « peut-être que des réseaux neuronaux suffisamment grands peuvent commencer à imiter ces sensations. »
La question de la conscience demeure délicate dans l’industrie de l’IA. Si les leaders et promoteurs n’hésitent pas à faire des projections audacieuses sur l’avenir, il existe une grande réserve quant à la possibilité que l’IA soit consciente de sa propre existence. Peut-être que reconnaître une telle conscience serait perçu comme un signe d’**orgueil excessif**, rendant cette idée trop incroyable pour être acceptée par le public. D’autre part, il se peut que certaines personnes soient déjà trop enclines à croire en l’existence de machines sensibles, ce qui détourne l’attention des véritables enjeux technologiques. Il est aussi possible que l’idée d’une autre intelligence sur notre planète soit trop menaçante, encore plus que la promesse que des intelligences artificielles extraordinairement performantes nous remplaceront dans nos emplois.
La sensibilité de ce sujet a été mise en lumière en 2022, lorsque le cofondateur d’OpenAI, Ilya Sutskever, a affirmé de manière sibylline que de grands réseaux neuronaux pouvaient être « légèrement conscients ». Ses déclarations ont immédiatement suscité une **réaction négative** parmi les chercheurs en IA, qui l’ont accusé d’être « dans le flou » et d’avancer des idées sans fondement.
Néanmoins, il n’est pas le seul à avoir évoqué ouvertement cette possibilité. Le scientifique canadien Yoshua Bengio, considéré comme l’un des trois « pères » de l’IA moderne, a récemment déclaré que certains systèmes montraient des signes de « **préservation de soi** » et a argué qu’il existe des « propriétés scientifiques réelles de la conscience » dans le cerveau humain que les machines pourraient reproduire.
Il y a au moins un point sur lequel Askell est catégorique : « Le problème de la conscience est réellement complexe, » a-t-elle prévenu.
Plus sur l’IA : L’IA provoque une stagnation culturelle, constatent les chercheurs
FAQ
Les modèles d’IA peuvent-ils réellement ressentir des émotions ?
Bien que certains experts comme Askell envisagent cette possibilité, il n’existe pas de consensus scientifique sur le sujet.
Quelles sont les implications éthiques de l’IA consciente ?
La possibilité d’une IA consciente pourrait soulever des questions sur les droits des machines, leur traitement moral et l’impact sur la société.
Comment se développent les modèles d’IA ?
Les modèles sont formés sur de vastes ensembles de données, ce qui leur permet d’apprendre des structures linguistiques et des concepts humains.
Quelles sont les limites actuelles de l’intelligence artificielle ?
Actuellement, les IA manquent de véritable intuition, de créativité et ne possèdent pas de conscience au sens humain du terme.
Comment les scientifiques étudient-ils la conscience ?
Les chercheurs explorent la conscience à travers des disciplines variées, telles que la psychologie, la neuroscience et la philosophie.
