Évolution de l’Intelligence Artificielle
Eric Schmidt, l’ancien PDG de Google, exprime de vives inquiétudes concernant l’intelligence artificielle (IA), affirmant qu’il pourrait être nécessaire de “débrancher” cette technologie avant qu’il ne soit trop tard.
Dans une interview accordée à George Stephanopoulos d’ABC, il a mis en lumière la rapidité avec laquelle les innovations en IA se développent, suggérant qu’elles pourraient nous dépasser avant que nous ne prenions conscience des dangers qu’elles représentent. “En cinquante ans de carrière, je n’ai jamais observé une innovation de cette ampleur”, a-t-il déclaré, qualifiant cela de “réalisation humaine remarquable”.
Schmidt, aux côtés de l’ancien cadre de Microsoft Greg Mundie et du défunt Henry Kissinger, souligne dans son dernier ouvrage que si l’IA présente des avantages indéniables, comme la découverte accélérée de nouveaux médicaments, elle tend également à devenir de plus en plus autosuffisante. Il prévient : “Bientôt, nous aurons des ordinateurs capables de fonctionner de manière autonome et de prendre leurs propres décisions. Quand un système peut s’auto-améliorer, nous devons sérieusement considérer l’option de le débrancher.”
La Question du Contrôle
Au cours de l’entretien, Stephanopoulos a soulevé une question cruciale, inspirée par de nombreuses œuvres de science-fiction : un système d’IA superintelligent serait-il capable d’anticiper et de contrer toute tentative de le désactiver ?
“Un tel système ne pourrait-il pas obstruer nos efforts pour le débrancher ?” a-t-il demandé. En réponse, Schmidt a simplement dit : “En théorie, il faudrait que quelqu’un veille sur le nectar.” Mais qui serait en mesure de prendre cette responsabilité ?
“C’est un avenir qui ne devrait pas être laissé aux mains de personnes comme moi,” a reconnu Schmidt. Il insiste sur le fait que les personnes ayant des connaissances technologiques ne devraient pas être les seules à décider de l’avenir de l’intelligence. “Un consensus est nécessaire pour établir des règles qui protègent la dignité humaine. C’est vraiment crucial.”
En tant qu’investisseur dans l’IA, il suggère une tournure plutôt originale : et si l’IA elle-même devenait un gardien pour surveiller la technologie ? “Les humains ne seront pas en mesure de surveiller l’IA,” a-t-il dit. “Cependant, les systèmes d’IA devraient être capables de surveiller leurs semblables.”
Perspectives d’Avenir
Bien que ce point de vue puisse sembler singulier pour un homme qui a écrit deux ouvrages sur les dangers liés à l’IA, il fait peut-être écho à l’évolution des mentalités dans la Silicon Valley.
FAQ
Pourquoi Schmidt appelle-t-il à “débrancher” l’IA ?
Schmidt avertit que l’IA pourrait évoluer au-delà de notre contrôle, ce qui pourrait entraîner des conséquences imprévisibles pour l’humanité.
Quelles seraient les implications d’une IA auto-améliorante ?
Si l’IA devient capable de s’améliorer elle-même, cela pourrait poser des risques pour la sécurité et échapper à la supervision humaine.
Quelles mesures peuvent être prises pour encadrer l’IA ?
Des discussions intersectorielles pourraient être nécessaires pour établir des régulations visant à protéger les droits humains tout en favorisant l’innovation.
Y a-t-il des exemples de l’impact positif de l’IA ?
Oui, l’IA a déjà montré son potentiel dans la médecine, en aidant à découvrir de nouveaux traitements et médicaments plus rapidement.
Comment les technophiles peuvent-ils collaborer avec d’autres domaines ?
Il est essentiel d’impliquer des experts d’autres secteurs afin d’assurer un développement responsable et éthique de l’IA.