Écouter toutes les voix
En 2012, Michael Vassar a pris le poste de directeur scientifique chez MetaMed Research, une entreprise qu’il a co-fondée. Avant cela, il a été président de l’Institut de recherche sur l’intelligence machine. Grâce à son expérience, il a une vision claire sur le thème de l’intelligence artificielle (IA) et nous met en garde quant à la super-intelligence artificielle.
Dans une vidéo diffusée par Big Think, Vassar souligne une réalité alarmante : « Si nous développons une intelligence générale artificielle qui dépasse l’intelligence humaine sans la prudence nécessaire, il y a de fortes chances que l’humanité s’éteigne rapidement. » Il évoque les dangers d’une IA non encadrée, qui pourrait, à terme, mettre en péril notre existence.
Michael Vassar sur les risques d’une IA incontrôlée | Big Think.
Vassar s’inspire des travaux de Nick Bostrom, particulièrement de son livre « Superintelligence ». Même si les idées de Bostrom circulent depuis des années, elles acquièrent aujourd’hui plus d’attention grâce à son lien avec des institutions renommées. Selon Vassar, le danger ne réside pas seulement dans l’IA elle-même, mais dans notre aptitude à écouter et à valoriser les voix qui n’ont pas encore été reconnues. Il insiste sur l’importance d’encourager les découvertes analytique provenant de chercheurs moins prestigieux.
La menace de l’IA
De nombreux géants de la technologie ont exprimé leurs inquiétudes à propos du développement de l’IA. Par exemple, Elon Musk évoque le risque d’une attaque IA sur Internet, qu’il considère comme « inévitable ». De son côté, Stephen Hawking a décrit la création de l’IA comme « potentiellement la meilleure ou la pire chose qui soit arrivée à l’humanité ».
La société Kernel, fondée par Bryan Johnson, travaille actuellement sur une neuroprothèse capable de simuler, réparer et améliorer les capacités cognitives humaines. Si cette technologie voit le jour, elle pourrait représenter une ligne de défense contre les conséquences d’une IA devenue incontrôlable. En améliorant notre cognition à un niveau comparable à celui de l’IA, nous pourrions garder une longueur d’avance sur les machines.
FAQ
Que représente la super-intelligence artificielle ?
La super-intelligence artificielle désigne une IA qui surpasserait l’intelligence humaine dans presque tous les domaines, y compris la créativité, la prise de décisions et les compétences sociales.
Quels sont les principaux risques associés à l’IA non régulée ?
Les risques incluent la perte de contrôle sur les systèmes intelligents, la manipulation des données et des comportements humains, et la possibilité d’une extinction de l’humanité en cas d’IA hostile.
Comment pouvons-nous garantir un développement éthique de l’IA ?
Il est essentiel d’établir des normes éthiques claires, de favoriser la transparence dans les algorithmes, et d’impliquer divers acteurs dans la discussion sur le développement de l’IA.
Quels rôles jouent les institutions académiques dans la recherche sur l’IA ?
Les institutions académiques sont cruciales pour la recherche rigoureuse et la diffusion des connaissances sur l’IA, permettant d’explorer ses implications éthiques et sociétales.
