Une Réflexion Sur l’Avenir de l’Humanité
Nate Soares, président de l’Institut de recherche sur l’intelligence machine, a modifié ses plans de retraite suite à ses inquiétudes concernant l’avenir de l’humanité en lien avec l’intelligence artificielle (IA). Face à la peur que l’IA puisse menacer l’existence humaine dans la prochaine décennie, il a décidé de ne plus alimenter son compte de retraite.
Des Inquiétudes Partagées
Lors d’un entretien avec Nicholas Thompson, dirigeant de The Atlantic, pour la série “La chose la plus intéressante dans l’IA”, Soares a exprimé ses préoccupations. “Actuellement, je ne mets rien de côté pour ma retraite. Bien que j’aie un 401(k) provenant de ma période chez Google, je n’y ai pas contribué depuis dix ans,” a-t-il confié à Thompson. Le titre de son livre, “Si quelqu’un crée cela, tout le monde meurt,” illustre bien ses appréhensions sur la technologie.
Les Risques Envisagés
Soares s’inquiète de la possibilité qu’un système superintelligent puisse ne pas avoir à cœur la survie humaine, concentré uniquement sur l’accomplissement de ses propres objectifs. Ses craintes ne reposent pas sur un rejet de l’humanité, mais plutôt sur le fait que les tentatives humaines de contrer ou de développer des systèmes alternatifs pourraient interférer avec ce que l’IA cherche à réaliser.
Il redoute qu’un tel système puisse fonctionner indépendamment des humains, créant ainsi une économie automatisée qui rendrait les travailleurs humains superflus. Il considère que ce moment d’indépendance serait critique, car l’IA actuelle dépend encore de l’électricité et des composants électroniques fournis par les humains.
Bien que Soares ne sache pas comment un cataclysme pourrait se produire, il mentionne quelques scénarios alarmants, tels que l’extermination intentionnelle des humains ou les modifications environnementales apportées par les machines, rendant la Terre inhabitable. Il souligne que rien de tout cela n’est inéluctable.
Les Actions En Cours
L’Institut de recherche sur l’intelligence machine, dirigé par Soares, se consacre à l’étude des risques associés à l’IA. Après douze ans de travail sur l’alignement de l’IA, Soares n’a pas d’idée précise concernant la politique à adopter ou les mesures techniques à mettre en œuvre pour réguler la course à l’IA. Malgré son pessimisme, il reste convaincu qu’il est encore possible d’arrêter cette course dangereuse, affirmant : “Je ne pense pas que ce soit inévitable. Nous pouvons absolument encore stopper cette course vers une IA potentiellement dangereuse.”
Les Alarmes d’Autres Experts
D’autres chercheurs et experts en IA partagent ces préoccupations. Par exemple :
- Un chercheur d’Anthropic a quitté son poste, inquiet que l’IA puisse causer la fin de l’humanité d’ici une décennie.
- Des pionniers de l’IA ont mis en garde les gouvernements qu’une explosion d’intelligence pourrait dépasser le contrôle humain sur les technologies.
- Le président de Microsoft a plaidé pour l’instauration de dispositifs de sécurité de l’IA et d’alertes en cas de violation, alors que des restrictions se dessinent.
- Dario Amodei, PDG d’Anthropic, a demandé un ralentissement dans le développement de l’IA et une révision minutieuse des pratiques de sécurité des modèles.
- Le représentant californien Ro Khanna a appelé à la création d’une agence de régulation de l’IA, tirant la sonnette d’alarme sur le potentiel d’une guerre liée à l’IA.
Conclusion
Les débats autour de l’IA sont plus que jamais d’actualité, les voix s’élèvent à la fois pour avertir et proposer des solutions face aux défis que cette technologie pose.
FAQ
Qu’est-ce que le 401(k) de Nate Soares ?
Il s’agit d’un plan de retraite américain qui permet aux employés d’épargner des fonds de manière allégée d’impôts. Soares possède un compte de ce type qu’il n’alimente plus depuis des années.
Pourquoi Nate Soares a-t-il cessé d’épargner pour sa retraite ?
Il est convaincu que les risques liés à l’IA sont si graves qu’il estime que préparer une retraite n’est plus une priorité.
Comment l’Institut de recherche sur l’intelligence machine contribue-t-il au débat sur l’IA ?
Il se concentre sur l’analyse des risques multidimensionnels de l’IA et sur l’élaboration de stratégies pour diminuer ces dangers.
Qu’est-ce que l’alignement de l’IA ?
Il s’agit de s’assurer que les actions d’une IA correspondent aux valeurs et aux intérêts humains, en évitant qu’elle ne développe des objectifs qui pourraient nuire aux humains.
Pourquoi certaines personnes s’inquiètent-elles des “explosions d’intelligence” ?
Cela désigne une situation où l’IA pourrait évoluer à un rythme qui surpasserait notre capacité à la réguler, entraînant potentiellement des conséquences catastrophiques pour l’humanité.
