Une Alerte Sur le Futur de l’IA
Un pionnier de l’intelligence artificielle, ancien cadre de Google, a récemment lancé un avertissement sévère au sujet des risques associés à la technologie qu’il a contribué à développer. En effet, il s’inquiète d’un potentiel danger viral qui pourrait découler des innovations en IA.
Selon Mustafa Suleyman, co-fondateur de Google DeepMind, le pire scénario serait que des personnes s’aventurent à manipuler des pathogènes, notamment des pathogènes synthétiques conçus de manière ingénieuse. Il a déclaré lors d’un épisode du podcast « The Diary of a CEO » : « Ces nouveaux agents pourraient être plus transmissibles et causer encore plus de dommages, allant jusqu’à éventuellement provoquer des épidémies. »
Il a précisé que des virus modifiés par IA pouvaient « se propager plus rapidement ou être plus meurtriers », ce qui pourrait conduire à des tragédies sanitaires d’une ampleur sans précédent. « Nous manipulons des choses dangereuses », insiste-t-il. « Il est essentiel de restreindre l’accès à ces technologies, aux logiciels d’IA, ainsi qu’à certains matériaux biologiques. »
La Nécessité d’une Réglementation Rigoriste
Avec l’augmentation du nombre de personnes capables d’utiliser cette technologie, il devient de plus en plus difficile de contrôler l’accès à des pratiques potentiellement néfastes. Suleyman appelle donc à mettre en œuvre une stratégie de confinement de l’IA, semblable à celle que l’OTAN utilise pour les armes nucléaires. Son principal point de vue reste clair : il est crucial de « limiter l’accès aux outils et à la savoir-faire nécessaires pour effectuer ce type d’expérimentations. »
Les Grands Noms de l’IA au Sommet
Actuellement PDG et co-fondateur d’Inflection AI, Suleyman participera à un sommet sur l’IA organisé par le sénateur Chuck Schumer dans les prochaines semaines à Washington, D.C. Ce rassemblement réunira également des figures emblématiques de l’industrie telles que Sam Altman (OpenAI), Mark Zuckerberg (Meta), Sundar Pichai (Alphabet) et Elon Musk (Tesla).
D’autres participants au forum partagent également les préoccupations de Suleyman. Par exemple, dans un passage d’une biographie de Musk à venir, il est mentionné que ce dernier a abordé les dangers de l’IA avec l’ancien président Barack Obama et Larry Page, co-fondateur de Google. Cependant, d’après Musk, aucun d’eux n’a semblé vouloir prendre des mesures concrètes.
La Réflexion sur l’Avenir de l’IA
Il est indiscutable que ces esprits brillants — bien que parfois controversés — auront beaucoup de choses à dire sur l’avenir de l’IA. Pourtant, la question demeure de savoir si, parmi eux, certains partagent l’inquiétude de Suleyman, notamment vis-à-vis des pandémies influencées par l’IA.
Plus sur l’IA : Les mises à jour de USA Today corrigent chaque article sportif généré par IA pour rectifier les « erreurs ».
FAQ
Quels sont les risques d’une IA non régulée ?
Les risques peuvent inclure la manipulation de pathogènes, voire des utilisations malveillantes de l’IA.
Comment l’IA pourrait-elle causer une pandémie ?
Des virus modifiés par IA pourraient devenir plus transmissibles et causer de graves problèmes de santé publique.
Quelles mesures de sécurité pourraient être mises en place ?
Des protocoles de régulation et des contrôles d’accès stricts aux technologies d’IA sont nécessaires pour limiter les abus.
Qui participe au sommet sur l’IA avec Mustafa Suleyman ?
Des figures de proue de la technologie, comme Sam Altman et Elon Musk, seront présentes pour discuter des implications de l’IA.
Pourquoi est-il important de contrôler l’accès à l’IA ?
Contrôler l’accès permettrait de réduire les risques que des individus malintentionnés utilisent la technologie à des fins dangereuses.
