Préoccupations face à l’intelligence artificielle
Geoffrey Hinton, reconnu comme l’un des pionniers de l’intelligence artificielle (IA), soutient fermement que l’IA finira par surpasser l’intelligence humaine. Ses inquiétudes se concentrent sur le fait que nous ne prenons pas suffisamment de précautions dans le développement de cette technologie.
Bien que ce point de vue soit personnel, il est en accord avec un large consensus parmi les experts du domaine. Lors d’une interview accordée à Newsnight de la BBC, Hinton a affirmé que l’anticipation d’une IA surpassant l’intelligence humaine n’est pas une question d’opinion mais plutôt une réalité partagée par les leaders du secteur.
Une nouvelle ère de défis
« La majorité des spécialistes n’ont aucun doute à ce sujet », a précisé Hinton. Il a ajouté que presque tous les experts qu’il connaît sont convaincus que l’IA finira par dépasser notre intelligence, et il ne s’agit que d’une question de temps.
Hinton est l’un des trois grands figures de l’IA, aux côtés de Yoshua Bengio de l’Université de Montréal et de Yann LeCun de Meta. Ce dernier, selon Hinton, semble minimiser les risques associés à une superintelligence artificielle, la considérant comme « sans problème ».
Des réflexions inquiétantes
En 2023, Hinton a quitté son poste chez Google. S’exprimant avec une inquiétude accrue, il a avoué regretter le chemin qu’il a pris dans sa carrière, tout en prévenant des dangers existentiels que l’IA pourrait poser. Au cours de son entretien à la BBC, il a souligné l’importance d’une approche prudente dans le développement et la régulation de l’IA, déclarant : « Il y a une probabilité significative qu’elle prenne le contrôle. »
Il a également évoqué les applications militaires de cette technologie, comme l’utilisation par les Forces de défense israéliennes d’un système d’IA pour sélectionner des cibles d’attaques aériennes, ce qui le préoccupe particulièrement. « Mon inquiétude principale concerne la capacité de ces systèmes à décider de tuer de manière autonome », a-t-il dit, appelant les gouvernements du monde entier à agir.
Perspectives sur le marché du travail
Hinton est également un fervent défenseur du revenu de base universel. Il s’inquiète des conséquences de l’IA sur les emplois de routine, estimant que si l’IA peut augmenter la productivité, les bénéfices seront principalement captés par les plus riches, laissant ceux dont les emplois disparaissent sans soutien.
Bien que Hinton pense que la domination par une IA malveillante n’est pas inévitable, il reste persuadé que l’IA sera un jour plus intelligente que l’être humain. Cela dit, il est important de noter que les entreprises motivées par le profit qui développent ces modèles d’IA ne sont pas nécessairement les mieux placées pour en garantir un développement sûr.
Une entreprise comme OpenAI, par exemple, a été pointée du doigt pour ses changements fréquents d’éthique. Un ancien employé a récemment exprimé ses doutes concernant la capacité de l’entreprise à développer une IA superintelligente de manière responsable. Ainsi, bien que Hinton exprime des craintes pessimistes, il n’est pas isolé dans ses inquiétudes.
FAQ
Quels sont les principaux risques associés à l’IA selon Hinton ?
Les principaux risques incluent la prise de décisions autonomes par l’IA, notamment dans des situations critiques comme celles mettant en danger la vie humaine.
Qu’entend-on par une superintelligence artificielle ?
Une superintelligence artificielle fait référence à une IA dont l’intelligence surpasserait celle des humains dans presque tous les domaines, y compris la créativité et la prise de décision.
Pourquoi Hinton parle-t-il du revenu de base universel ?
Hinton soutient que la montée de l’IA risque de détruire de nombreux emplois, rendant un revenu de base universel nécessaire pour soutenir ceux qui seront affectés.
Comment les gouvernements devraient-ils réglementer l’IA ?
Hinton appelle à une régulation stricte et proactive de l’IA pour garantir qu’elle soit développée de manière éthique et sécurisée, avant qu’elle ne devienne incontrôlable.
La peur d’un IA malveillante est-elle fondée ?
Bien que les experts comme Hinton estiment que la probabilité qu’une IA malveillante prenne le contrôle est significative, le débat reste ouvert sur la capacité humaine à gérer et contrôler ces technologies.
