Un appel inédit réunit des personnalités très diverses pour stopper la course à une IA dite « superintelligente ». Le texte, porté par le Future of Life Institute, demande une interdiction temporaire de ce type de développement tant qu’il n’existe pas de consensus scientifique sur la sécurité, des mécanismes de contrôle solides et un soutien public clair.
Une coalition inhabituelle et un message simple
Un large éventail de signataires issus de la tech, des médias, du monde religieux et de la recherche appuient cette demande. On y trouve notamment des figures entrepreneuriales comme Steve Wozniak et Richard Branson, des voix médiatiques conservatrices telles que Steve Bannon et Glenn Beck, des personnalités culturelles plus progressistes comme Joseph Gordon-Levitt, des membres de la royauté (le prince Harry et Meghan), ainsi que des responsables publics et religieux, dont un conseiller du Vatican sur l’IA. Aux côtés de ces profils visibles, une constellation de scientifiques et d’experts en IA — dont Yoshua Bengio et Geoffrey Hinton — soutiennent l’idée qu’il faut d’abord savoir maîtriser ces systèmes avant de viser plus haut.
Le cœur du message tient en quelques lignes: pas de superintelligence sans garanties concrètes de sécurité, de contrôlabilité et de légitimité démocratique.
Ce que dit l’opinion publique
Les données mises en avant par l’institut montrent une forte réticence à l’accélération non encadrée: très peu d’Américains soutiendraient un déploiement rapide et dérégulé de l’IA avancée. À l’inverse, une large majorité réclame une régulation robuste. Beaucoup considèrent également qu’on ne devrait pas construire de systèmes dépassant l’humain tant que leur innocuité n’est ni démontrée ni contrôlable.
Derrière ce débat se joue une question de définition: par “superintelligence”, les signataires visent des systèmes capables de surpasser les humains sur la plupart des tâches cognitives. Pour certains chercheurs, c’est un cap techniquement atteignable; d’autres jugent cet horizon très lointain, voire incertain.
Qui signe… et qui s’abstient
La liste des soutiens surprend par son éclectisme, mais tout autant par ses absences. Ne figurent pas, entre autres, Sam Altman (OpenAI), Mustafa Suleyman (Microsoft AI, cofondateur de DeepMind), Dario Amodei (Anthropic), David Sacks, ni Elon Musk. Ce dernier avait pourtant co-signé en 2023 un précédent appel réclamant une pause au-delà de GPT-4; dans les faits, la course a continué et un modèle plus avancé est sorti l’année suivante, preuve que ces appels publics ont jusqu’ici eu peu d’effet contraignant.
Les mises en garde des chercheurs
Plusieurs voix scientifiques insistent sur une double réalité: ces systèmes pourraient, d’une part, accélérer des percées majeures en science, santé ou productivité; d’autre part, ils comportent des risques sérieux, particulièrement si leur comportement diverge des objectifs humains ou si des usages malveillants se multiplient. D’où l’exigence d’une ingénierie de la sécurité en amont: concevoir des systèmes structurellement incapables de nuire, et instaurer des dispositifs de gouvernance qui intègrent la voix du public dans les décisions structurantes.
Même sans “superintelligence”, les effets se font déjà sentir
Le texte rappelle implicitement une évidence: pas besoin d’atteindre un niveau “surhumain” pour générer des dommages. Les outils actuels (agents conversationnels, images et vidéos synthétiques) transforment l’éducation, saturent le web de désinformation, facilitent la création de contenus pornographiques non consentis et fragilisent la santé mentale de certains usagers. Les conséquences décrites vont de la détresse personnelle à des ruptures sociales (jusqu’au divorce, à la précarité, à des hospitalisations ou à l’autodestruction). L’argument des signataires est clair: la régulation ne doit pas seulement viser un futur hypothétique; elle doit aussi s’attaquer aux problèmes déjà visibles.
Une exigence de méthode démocratique
Au-delà des risques techniques, c’est une question de légitimité: qui décide de l’orientation de l’IA? Les signataires plaident pour que ces choix ne soient pas laissés à une poignée d’acteurs de la Silicon Valley, mais fassent l’objet d’un débat public, avec des garanties de responsabilité. Selon les promoteurs de la lettre, le public souhaite des outils puissants et utiles, mais rejette une trajectoire où l’on se précipite vers des systèmes “plus intelligents que l’humain” conçus pour remplacer les personnes.
Ce qui reste en suspens
Depuis l’essor de ChatGPT fin 2022, les appels à “ralentir pour mieux encadrer” se sont multipliés. Reste à savoir si cette nouvelle prise de position aura un impact réel sur la réglementation, la stratégie des entreprises et l’allocation des ressources en sécurité de l’IA. Sur ce point, le passé récent invite à la prudence.
Points clés à retenir
- Une interdiction provisoire du développement de la superintelligence est demandée jusqu’à l’obtention de garanties solides.
- L’opinion publique soutient massivement un encadrement strict et rejette l’accélération sans garde-fous.
- Des signataires très variés appuient l’appel; des acteurs majeurs de l’IA ne s’y joignent pas.
- Les risques actuels des systèmes existants justifient des mesures immédiates, indépendamment des débats sur la superintelligence.
- Les décisions doivent être démocratiques, transparentes et orientées par la sécurité et l’intérêt général.
FAQ — Questions fréquentes
Comment une interdiction pourrait-elle être appliquée concrètement ?
Plusieurs leviers sont possibles: lois nationales avec sanctions financières et pénales, obligations de licence pour l’entraînement de modèles au-delà de certains seuils de puissance, audits de sécurité indépendants avant mise sur le marché, et coopérations internationales pour éviter les contournements.
Existe-t-il des alternatives à une interdiction totale ?
Oui. On peut instaurer des moratoires ciblés (sur certaines capacités), des plafonds de calcul (“compute caps”), des normes de tests d’alignement obligatoires, des exigences de traçabilité des données et des modèles, et des mécanismes de retrait d’urgence en cas de comportement dangereux.
Quels secteurs seraient le plus transformés par une superintelligence ?
La recherche scientifique, la médecine, l’ingénierie, la cybersécurité, la finance et la défense subiraient des changements rapides, avec des gains potentiels considérables mais aussi des vulnérabilités systémiques accrues.
Comment le public peut-il participer au débat ?
En répondant aux consultations des régulateurs, en soutenant des associations de défense des droits numériques, en demandant de la transparence aux entreprises et en favorisant des élus porteurs d’une régulation fondée sur la sécurité, l’éthique et la responsabilité.
La superintelligence est-elle réellement à portée ?
Les avis divergent: certains chercheurs estiment qu’elle pourrait émerger en quelques années, d’autres jugent l’objectif lointain ou spéculatif. Dans l’intervalle, la priorité proposée est d’investir dans la sécurité, la gouvernance et la preuve contrôlable d’innocuité des systèmes déjà à l’horizon.