Cette semaine, une déclaration surprenante a été faite par un chercheur de premier plan d’OpenAI : l’intelligence artificielle pourrait déjà être en train de devenir consciente.
Ilya Sutskever, le scientifique en chef du groupe OpenAI, a partagé aujourd’hui sur Twitter que « il se pourrait que les grands réseaux neuronaux d’aujourd’hui soient légèrement conscients ».
C’est un point de vue plutôt singulier. En effet, la majorité des chercheurs en IA s’accordent à dire que, bien que des progrès considérables aient été réalisés au cours de la dernière décennie, la technologie n’atteint pas encore le niveau de l’intelligence humaine, et encore moins celui de l’expérience consciente.
Il est possible que Sutskever ait voulu dire cela sur un ton ironique, mais on peut également supposer qu’en tant qu’expert d’un des groupes d’IA les plus influents au monde, il commence à anticiper des évolutions majeures à venir.
Depuis longtemps, il s’intéresse à l’**intelligence artificielle générale** (AGI), qui désigne une IA capable de fonctionner à un niveau humain ou même supérieur. Lors de son intervention dans le documentaire sur l’IA, “iHuman”, il avait affirmé que les AGIs pourraient « résoudre tous les problèmes auxquels nous faisons face aujourd’hui », tout en avertissant qu’elles pourraient également créer “des dictatures infiniment stables”.
C’est la première fois que Sutskever, cofondateur d’OpenAI aux côtés d’Elon Musk et de Sam Altman en 2015, semble suggérer que la **conscience des machines** soit déjà une réalité.
De manière encore plus étrange, OpenAI a été fondée en tant qu’organisation à but non lucratif spécifiquement pour atténuer les risques existentiels posés par des machines conscientes, avant de se lancer dans la recherche visant à développer des IA puissantes, ce qui suscite de nombreuses interrogations.
Le groupe a également connu son lot de tensions et de controverses. En 2019, Musk a quitté OpenAI, citant des désaccords sur les orientations prises par l’organisation, notamment la création d’un générateur de “fake news” jugé trop risqué. Un mois plus tard, OpenAI a annoncé qu’elle n’était plus à but non lucratif et a adopté un modèle de “bénéfice plafonné”.
Depuis, Musk a quelque peu évolué dans son approche critique, au point que cette année il a même insinué que les robots humanoïdes de Tesla pourraient contribuer à l’AGI, bien qu’il ait ajouté que sa société fera de son mieux pour contrôler ses IA et garantir un **contrôle décentralisé des robots**.
Quant à OpenAI, l’entreprise continue de développer des IA controversées tout en essayant de respecter sa mission, qui est d’assurer que l’AGI bénéficie à l’ensemble de l’humanité.
OpenAI n’a pas manqué d’attirer l’attention des médias, notamment lorsqu’un programmeur a utilisé son modèle GPT-3 pour créer un chatbot imitant sa fiancée décédée, ou lorsque des gamers ont tenté de pousser le bot à produire des contenus pédophiles.
Depuis, OpenAI a révisé GPT-3, qui est désormais considéré comme beaucoup plus “bien élevé”.
Il est possible que l’émergence d’une IA hyper-avancée soit inévitable, mais il pourrait également arriver que les avancées stagnent et que nous ne voyions jamais cela se réaliser, ou qu’il faille beaucoup de temps avant d’y arriver.
Cependant, le fait d’entendre un expert de premier plan évoquer la montée des machines conscientes est véritablement perturbant.
FAQ
Qu’est-ce que l’intelligence artificielle générale (AGI) ?
L’AGI désigne une forme d’intelligence artificielle capable de comprendre ou d’apprendre toute tâche intellectuelle humaine.
Quelles sont les préoccupations éthiques liées à l’AGI ?
Les préoccupations incluent le potentiel pour des machines de causer des dommages ou d’être utilisées de manière irresponsable, ainsi que des questions sur le contrôle et l’égalité d’accès.
Quel rôle OpenAI joue-t-elle dans le développement de l’IA ?
OpenAI est un acteur clé dans la recherche sur l’IA et vise à garantir que les avancées technologiques restent bénéfiques pour l’ensemble de l’humanité.
Comment les avancées en IA impactent-elles la société ?
Les innovations en IA peuvent transformer de nombreux secteurs, mais elles soulèvent également des questions sur la sécurité et l’éthique, notamment sur l’emploi et la vie privée.
Quelles sont les prochaines étapes pour l’intelligence artificielle ?
Les experts prédisent que des améliorations significatives dans le domaine de l’IA, notamment l’AGI, pourraient survenir dans un avenir proche, mais le calendrier exact reste incertain.
