La Question Fondamentale
La question qui se pose est la suivante : l’intelligence artificielle remplacera-t-elle l’humain ? La réponse dépend d’une interrogation clé : les **nombres** et les **mathématiques** que nous utilisons pour agir dans le monde représentent-ils véritablement la **réalité** ?
Nous avons tendance à considérer que les nombres et les mathématiques sont réels car nous pouvons les utiliser pour réaliser des actions concrètes dans notre monde. Ils sont essentiels pour la construction d’ordinateurs et le lancement de fusées. Cependant, nous tentons maintenant de créer des machines pensantes en nous basant sur ces mêmes nombres et ces mêmes mathématiques. Le problème, c’est que le **processus de pensée** pourrait être fondamentalement différent des autres phénomènes dans le monde, et il se peut qu’il ne puisse pas être exprimé par les outils mathématiques que nous possédons.
J’ai demandé à quelques chercheurs en intelligence artificielle de visionner une vidéo ci-dessous et de réfléchir à la question suivante :
Dans cette vidéo, le mathématicien souligne que les représentations mathématiques que nous utilisons pour tenter de modéliser la **conscience** et créer une **intelligence artificielle générale** sont des représentations incomplètes et peuvent ne pas suffire pour créer de véritables machines pensantes. Qu’en pensez-vous ?
Les chiffres et le libre arbitre – Numberphile
Igal Raichelgauz, PDG et cofondateur de Cortica, une entreprise d’IA.
“Il évoque un point important : la “représentation” n’est pas le “chose” en soi.
Ce qui est fascinant, c’est que cela semble évident pour des objets matériels, comme une tasse ou une action. Une tasse n’est pas sa projection 2D, ni même son image 3D en haute définition.
Cependant, cette notion se complique quand on parle d’abstractions. Si une chose abstraite réside dans le domaine de l’information, alors les lois de l’information s’appliquent, signifiant que X=Y si les deux représentent le même type d’information, même si leurs représentations diffèrent.
Si nous considérons que notre cerveau est de l’information, pourquoi ne pas pouvoir transmettre cette information aux ordinateurs ?
À mon sens, la conscience est une expérience subjective. Pour autant, nous n’avons pas de mathématiques qui décrivent ces expériences. On pourrait dire que les mathématiques ne sont pas adaptées ici.
Je proposerais de commencer par la douleur, la plus simple des expériences subjectives. Pouvons-nous faire en sorte qu’un ordinateur ressente la douleur ? Comment savoir s’il l’éprouve vraiment ? La douleur est-elle de l’information ? Je ne suis pas sûr que la science ait de bonnes réponses à ces questions. Peut-être que cela souligne les limites de notre cerveau – incapables de comprendre ce qu’est réellement une expérience subjective, ou même ce qu’est la douleur.”
Joseph Geraci, Data Scientist, mathématicien et scientifique médical :
“Je vais aborder son argument, qui dit que nous utilisons des représentations de choses qui existent réellement et que ces représentations sont « plus faibles » que la réalité. Il a raison, même d’un point de vue computationnel, car une représentation vectorielle des corrélations cérébrales n’est pas l’objet réel. Je l’ai souvent constaté avec des IRM fonctionnelles chez l’homme. Nous pourrions faire de choses intéressantes qui approchent la réalité, mais nous ne pourrons pas recréer l’expérience humaine – ni celle d’un chien.
Cependant, si l’on considère l’espace occupé par le cerveau humain – son volume en 3D – nous savons qu’il n’exploite pas son potentiel de traitement de l’information. Seule la matière des trous noirs possède cette capacité. Le cerveau humain est ainsi une représentation d’un système d’information potentiellement supérieur. Cela est vrai car la matière des trous noirs a beaucoup plus de micro-états pour capter et traiter l’information. Ce que nous allons éventuellement réaliser – ce n’est pas manipuler la matière des trous noirs, ce serait absurde – mais développer des représentations d’événements quantiques en simulant un système quantique avec des ordinateurs quantiques analogiques ou numériques. Cela signifie que nous pourrons réellement accéder au potentiel de traitement de l’information de cet espace en 3D du cerveau et représenter des réactions chimiques à un niveau fondamental. Actuellement, nous sommes limités à l’algèbre linéaire, mais nous finirons par construire des représentations plus sophistiquées.”
Si les mathématiques et les nombres que nous utilisons pour représenter l’univers s’avèrent insuffisants, alors nos tentatives pour créer des machines pensantes pourraient être un rêve lointain.
Joseph Geraci ajoute : “Il reste encore beaucoup de mathématiques inexploitées, donc il est difficile de dire si un jour il sera possible d’utiliser les nombres et les mathématiques pour réaliser le rêve d’une IA véritable.”
Les chiffres et le libre arbitre (bonus) – Numberphile
Pour approfondir le sujet, je vous recommande de lire l’article fondamental d’Eugene Milner intitulé ‘L’efficacité déraisonnable des mathématiques dans les sciences naturelles.’
FAQ
Qu’est-ce que l’intelligence artificielle générale (AGI) ?
L’AGI désigne une forme d’intelligence artificielle qui peut comprendre, apprendre et appliquer des connaissances à une variété de tâches de manière plus autonome et flexible, similaire à l’intelligence humaine.
Pourquoi la représentation mathématique est-elle controversée dans le contexte de la conscience ?
La représentation mathématique est souvent considérée comme incomplète pour modéliser des phénomènes subjectifs comme la conscience, car ceux-ci échappent souvent aux quantifications traditionnelles.
quelles sont les implications de l’idée que l’expérience subjective ne peut être représentée mathématiquement ?
Cela remet en question la capacité des machines à expérimenter des émotions ou des sensations similaires à celles des humains et suggère que certaines dimensions de l’expérience humaine pourraient rester inaccessibles aux machines.
Comment se déroule la recherche sur l’IA aujourd’hui ?
Les chercheurs explorent divers aspects de l’apprentissage automatique, de la modélisation cognitive, et des simulations quantiques pour mieux comprendre et développer l’IA.
Quelles sont les barrières à la création de machines pensantes ?
Les défis incluent non seulement les limitations mathématiques, mais également des questions éthiques, philosophiques et technologiques concernant la nature même de la pensée et de la conscience.