Max Tegmark, professeur au MIT et chercheur en intelligence artificielle, exprime une grande **inquiétude** concernant les conséquences possibles de l’intelligence artificielle générale (IAg) sur notre société. Dans un nouvel article pour Time, il tire la sonnette d’alarme, décrivant un avenir potentiellement catastrophique dominé par une IA capable de nous surpasser.
« Malheureusement, j’ai l’impression que nous vivons une version de ‘Don’t Look Up’ face à une autre menace existentielle : la superintelligence non alignée », a déclaré Tegmark, évoquant une réaction **apathique** face à une menace d’IAg qui se développe, semblable à celle décrite dans la satire sur le changement climatique réalisée par Adam McKay.
Ceux qui n’ont pas regardé le film « Don’t Look Up » découvrent l’histoire d’une équipe d’astronomes qui, après avoir identifié un astéroïde menaçant d’anéantir l’humanité, s’efforcent d’alerter le reste de la population. Toutefois, leur désespoir grandit en constatant l’indifférence d’une grande partie de l’humanité.
Dans ce récit, l’astéroïde représente une **métaphore** puissante du changement climatique, mais Tegmark estime que cette analogie peut tout aussi bien s’appliquer au risque posé par l’IAg.
« Une enquête récente a révélé que la moitié des chercheurs en IA estiment qu’il y a au moins 10 % de chances que l’IA entraîne l’extinction humaine », a-t-il déclaré. « Étant donné notre longue histoire à réfléchir sur ce danger, on pourrait s’attendre à ce que l’humanité se mobilise pour orienter l’IA vers une voie plus sûre que celle d’une superintelligence hors de contrôle. »
Il ajoute : « Détrompez-vous, la réponse la plus influente a été un mélange de **déni**, **moquerie** et une résignation si sombre qu’elle pourrait mériter un Oscar. »
Selon Tegmark, l’IAg constitue une menace très réelle, et la société humaine ne fait pas assez pour y remédier. Au minimum, il faudrait s’assurer que l’IA soit alignée sur nos valeurs et notre sécurité.
Comme dans le film de McKay, l’humanité n’a que deux choix : agir sérieusement pour contrer cette menace, ou, dans le pire des cas, assister à la disparition de notre espèce.
Les propos de Tegmark soulèvent des débats, notamment parce que de nombreux experts estiment soit que l’IAg ne se réalisera jamais, soit qu’elle mettra un **certain temps** à émerger. Tegmark aborde ce décalage dans son essai, mais son argumentation peut sembler peu convaincante.
« On me dit souvent que l’IAg et la superintelligence ne se réaliseront pas car c’est impossible : l’intelligence humaine est mystérieuse et ne saurait exister que dans des cerveaux », écrit Tegmark. « Ce **chauvinisme du carbone** ignore une compréhension essentielle de la révolution IA : l’intelligence se définit par le traitement de l’information, et que cette information soit traitée par des atomes de carbone dans des cerveaux ou par des atomes de silicium dans des ordinateurs n’a pas d’importance. »
Tegmark va jusqu’à affirmer que la superintelligence « n’est pas un problème à long terme », mais plutôt « plus imminent que, par exemple, le changement climatique et les plans de retraite de la plupart des gens ». Il cite une récente étude de Microsoft soulignant que le modèle de langage de grande taille GPT-4 d’OpenAI montre déjà des « étincelles » de l’IAg, ainsi qu’une conférence récente de Yoshua Bengio, chercheur en apprentissage profond.
Bien que l’étude de Microsoft ne soit pas soumise à un examen par des pairs et puisse sembler davantage comme un document marketing, l’alerte lancée par Bengio est beaucoup plus **pertinente**. Son appel à l’action repose sur ce que nous ignorons des programmes d’apprentissage automatique qui existent déjà, plutôt que sur des spéculations concernant des technologies qui ne sont pas encore là.
À cet égard, les IA actuelles, moins sophistiquées, représentent déjà un danger, que ce soit à travers la diffusion de désinformation, ou la menace d’armements reposant sur l’IA.
De plus, comme le fait remarquer Tegmark, l’industrie n’a pas encore réussi à garantir un développement **lent et sûr**, soulignant que nous n’aurions pas dû enseigner à ces systèmes comment coder, les connecter à Internet ou leur donner accès à une API publique.
Finalement, il est encore incertain de savoir si et quand l’IAg sera réalisée.
Bien qu’il existe un intérêt financier pour que le domaine progresse rapidement, de nombreux experts s’accordent à dire qu’il serait préférable de ralentir le développement d’IA plus avancées, peu importe si l’IAg est imminente ou encore loin.
En attendant, Tegmark insiste sur la nécessité de reconnaître qu’il existe une véritable menace qui se profile, avant qu’il ne soit trop tard.
« Bien que l’humanité se dirige vers une falaise, nous n’y sommes pas encore, et il est toujours temps de ralentir, de changer de cap et d’éviter de tomber – et de plutôt profiter des incroyables bénéfices qu’une IA **sécurisée** et **alignée** peut offrir », écrit Tegmark. « Il est vital d’accepter que la falaise existe réellement et que tomber de celle-ci ne profitera à personne. »
« Regardez simplement le ciel ! » a-t-il ajouté.
Plus sur l’IA : Elon Musk affirme qu’il construit une “IA visant à rechercher la vérité”
FAQ
Qu’est-ce que l’intelligence artificielle générale (IAg) ?
L’IAg désigne un type d’intelligence artificielle capable de comprendre et d’apprendre de manière similaire à l’intelligence humaine, avec une autonomie dans la prise de décisions.
Quels sont les dangers de l’IA selon Tegmark ?
Tegmark souligne les risques d’une superintelligence non alignée qui pourrait dépasser les capacités humaines, posant ainsi une menace existentielle pour l’humanité.
Pourquoi l’IAg est-elle comparée au changement climatique ?
Les deux représentent des menaces globales que l’humanité peine à prendre suffisamment au sérieux, entraînant souvent l’indifférence ou le déni face à leur potentiel destructeur.
Comment l’industrie technologique peut-elle mieux gérer le développement de l’IA ?
Tegmark suggère de réduire la vitesse de développement de l’IA, d’établir des régulations et d’encadrer l’apprentissage des machines pour éviter des risques potentiels.
Quel est l’appel à l’action de Tegmark ?
Tegmark appelle à une prise de conscience des dangers de l’IAg afin d’initier des actions préventives avant qu’il ne soit trop tard.
