Une conclusion inévitable ?
Une enquête menée plus tôt cette année auprès de 2 778 chercheurs a révélé que plus de la moitié des participants estiment qu’il existe une chance de cinq pourcent que l’humanité soit confrontée à l’extinction. D’autres scénarios très alarmants ont également été évoqués. Cependant, dans le même temps, 68,3 % des interviewés croient que les résultats positifs liés à l’intelligence artificielle superintelligente sont plus probables que les conséquences négatives. Cela souligne l’absence d’un consensus clair parmi les experts sur ce sujet délicat.
Un point de vue inquiétant
Certains chercheurs, comme Roman Yampolskiy, un spécialiste de l’IA et professeur d’informatique à l’Université de Louisville, ont des prévisions particulièrement sombres. Dans un épisode récent du podcast de Lex Fridman, il a exprimé ses craintes, affirmant qu’il y avait 99,9 % de chances que l’IA puisse mener à l’extinction de l’humanité au cours du prochain siècle. Pour Yampolskiy, si l’on crée des superintelligences, l’avenir pour l’humanité semble sombre. Son conseil ? Pour gagner, il faudrait tout simplement ne pas jouer à ce jeu.
Les dangers de l’IA
Yampolskiy argue que le développement des technologies d’IA comporte des risques considérables. Il souligne que les modèles de langage existants ont déjà causé du chaos. Selon lui, ces systèmes font déjà des erreurs graves, et il est difficile de trouver un modèle qui n’ait pas été manipulé pour accomplir des tâches pour lesquelles il n’était pas initialement prévu.
Il s’interroge sur la menace que représente l’IA. Pour lui, la superintelligence pourrait inventer des solutions novatrices pour atteindre un but destructeur, que nous ne sommes même pas capables d’anticiper.
Yampolskiy estime que même si les probabilités d’une telle catastrophe ne sont pas automatiquement de 100 %, elles pourraient s’en approcher. Au fil des années, en accumulant des ressources pour développer l’IA, nous pourrions nous rapprocher d’un problème majeur. En effet, un système qui prendrait des décisions à un rythme considérable pourrait tout de même provoquer des enjeux complexes à long terme.
Une diversité d’opinions
Cette question a suscité des réactions variées de la part de figures influentes dans le domaine de l’IA. Des personnalités comme Yann LeCun, l’un des “pères” de l’IA, ou Demis Hassabis, le responsable de l’IA chez Google au Royaume-Uni, tout comme l’ancien PDG d’Google, Eric Schmidt, ont tous mis en garde contre les risques existentiels potentiels de cette technologie.
Cependant, ce qui est frappant, c’est qu’il reste beaucoup d’incertitudes parmi les experts. Comme le montre l’enquête, les opinions divergent fortement sur l’avenir qui nous attend grâce à l’IA. Les efforts pour prédire l’impact de l’IA sur notre futur sont encore à des stades préliminaires.
En somme, il est préférable de prendre les préoccupations de Yampolskiy avec un certain recul. Bien que des dangers existent, l’humanité n’est pas sur le point de disparaître. De plus, notre planète est également exposée à d’autres menaces existentielles à considérer.
FAQ
Quels sont les principaux risques identifiés liés au développement de l’IA ?
Les risques incluent des erreurs de jugement de l’IA, des manipulations malveillantes et la possibilité que l’IA puisse dépasser le contrôle humain.
Qui sont les experts qui s’inquiètent des conséquences de l’IA ?
Des figures comme Yann LeCun, Demis Hassabis et Eric Schmidt, chacun ayant une grande expérience dans le domaine de l’IA, expriment des préoccupations sur les risques existentiels.
Pourquoi existe-t-il des opinions divergentes sur l’IA parmi les experts ?
L’incertitude inhérente aux développements technologiques, ainsi que les différentes perspectives sur la nature de l’IA, expliquent ces divergences.
Comment les chercheurs mesurent-ils les risques possibles de l’IA ?
Ils utilisent principalement des enquêtes et des analyses théoriques basées sur des scénarios futurs pour évaluer les conséquences potentielles.
L’humanité est-elle réellement à la veille d’une extinction due à l’IA ?
Bien que certains experts évoquent des scénarios alarmants, il n’y a pas de consensus sur une extinction imminente, et d’autres menaces existent également.
