Image numérique représentant des sphères néon multicolores dans une tête humaine en verre. Concept d’Intelligence Artificielle. Image : Eugene Mymrin via Getty Images
Inscrivez-vous pour découvrir le futur aujourd’hui
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Innover sans relâche aux confins de la science et de la technologie</p>
</div>
</div>
</div>
Geoffrey Hinton, un vétéran de Google, est souvent considéré comme le « parrain de l’IA ». Il exprime cependant une certaine inquiétude quant aux conséquences de la technologie qu’il a aidé à développer. Ce weekend, lors de sa présence dans l’émission « 60 Minutes » de CBS, il a laissé entendre que l’humanité doit désormais accepter le fait qu’il existe une intelligence supérieure à la sienne sur notre planète.
Un moment particulièrement marquant de cette interview s’est produit lorsque le présentateur, Scott Pelley, lui a demandé si une IA super-intelligente pourrait « supplanter l’humanité ». Hinton a répondu avec prudence, affirmant qu’il n’affirmait pas que cela allait arriver, mais qu’il serait « formidable de pouvoir empêcher cela ».
Cependant, il a ajouté une nuance en soulignant que rien ne garantit que nous puissions empêcher une telle évolution. Cette déclaration reflète une véritable préoccupation pour l’avenir de notre espèce.
L’Inconnu Gigantesque
Concernant les risques d’une IA qui pourrait surpasser les humains, Hinton a émis l’hypothèse que ces systèmes pourraient commencer à « se modifier eux-mêmes ». Cela amène à réfléchir sérieusement aux implications de ce que certains appellent l’aspect boîte noire de ces technologies, c’est-à-dire notre manque de compréhension sur le fonctionnement intérieur des algorithmes d’apprentissage automatique.
D’après Hinton, nous avons une compréhension globale de l’apprentissage des systèmes d’IA, mais dès que cela devient complexe, notre connaissance devient floue, tout comme notre compréhension du fonctionnement du cerveau humain.
Il est crucial de considérer que même si une machine produit des résultats « corrects », la méthode qu’elle emploie pour y parvenir est essentielle. Si, au fil du temps, nous valorisons des résultats appropriés obtenus par des moyens discutables, nous courons le risque de former nos outils d’IA d’une manière qui pourrait se retourner contre nous.
Outre la domination potentielle, Hinton craint aussi les effets de l’utilisation humaine de l’IA. Cela englobe des préoccupations telles que le recours à des armes autonomes, le remplacement massif des travailleurs humains par l’IA, et la diffusion de désinformation générée par l’IA. Bien que son analyse soit plutôt sombre, il est impératif de prendre en compte les menaces potentielles, surtout celles liées à l’usage abusif par les humains, plutôt qu’à des craintes abstraites concernant une éventuelle suprématie des machines.
« Une énorme incertitude** existe », a-t-il conclu, « sur ce qui va se passer ensuite. »
FAQs :
Qu’est-ce que l’Intelligence Artificielle (IA) ?
L’intelligence artificielle se réfère à la capacité d’une machine à imiter des fonctions cognitives humaines, telles que l’apprentissage, la compréhension et la prise de décisions.
Quels sont les risques associés à l’IA ?
Les risques incluent la perte d’emplois, la création d’armes autonomes, la désinformation, et l’émergence d’une intelligence qui pourrait dépasser celle des humains.
Comment peut-on réguler l’IA ?
Des lois et des normes éthiques peuvent être établies pour guider le développement et l’utilisation de l’IA, tout en veillant à protéger les droits humains et la sécurité.
Actuellement, les systèmes d’IA ne possèdent pas d’émotions ou de conscience. Ils fonctionnent selon des algorithmes et des données, mais ne ressentent pas comme les humains.
Quel est l’avenir de l’IA ?
L’avenir de l’IA pourrait inclure des avancées majeures dans des domaines comme la médecine, l’automatisation, et l’industrie, mais aussi des défis à relever pour éviter des dérives.
