L’appel à l’interdiction des armes autonomes
Un groupe de technologistes de renom a récemment signé une lettre ouverte demandant une interdiction des armes autonomes. Ce texte, proposé par le Future of Life Institute, invite les citoyens à soutenir cette cause en y apposant leur signature ici.
L’argument principal
Les scientifiques derrière cette lettre soulèvent une préoccupation commune parmi ceux qui s’intéressent à l’intelligence artificielle avancée. Ils avertissent qu’une course à l’armement en intelligence artificielle dans le secteur militaire ne serait pas dans l’intérêt de l’humanité. Plus concrètement, il s’agit de systèmes d’armement utilisant l’IA pour déterminer cibles et actions, comme des drones dotés d’algorithmes décidant d’engager un combat.
Extraits de la lettre
Analyse des risques
La lettre met en lumière divers arguments, tant pour que contre l’utilisation d’armes autonomes. D’une part, certaines personnes soutiennent que remplacer les soldats humains par des machines pourrait réduire les pertes et les risques pour les opérateurs. D’autre part, cela pourrait aussi disproportionately minimiser le seuil d’engagement pour les conflits. La question cruciale aujourd’hui est de savoir si nous devons éviter une course mondiale aux armements liés à l’IA.
La lettre prévient qu’il est pratiquement inévitable que si une puissance militaire majeure continue ses recherches sur les armes IA, cela entrainera une précipitation mondiale vers ces technologies. En effet, ces armes seront facilement accessibles et peu coûteuses à produire. Elles finiront inéluctablement par se retrouver sur le marché noir, entre les mains de terroristes, de dictateurs ou d’individus cherchant à exercer le contrôle sur des populations.
Les dangers des armes autonomes
Ces systèmes pourraient être particulièrement efficaces pour des missions délicates, comme des assassinats, la déstabilisation de nations, ou la purification ethnique. Les signataires partagent la conviction qu’une course à l’armement militarisée par l’IA serait inefficace et nuisible pour l’humanité. Au contraire, il existe de nombreuses applications de l’IA qui peuvent rendre le combat plus sécurisé pour les humains, en particulier pour les civils, sans exacerber la violence.
Les implications technologiques
Selon la lettre, un tel développement en matière d’IA se distingue profondément des progrès nucléaires. Contrairement à la technologie nucléaire, qui nécessite des matériaux coûteux et difficiles à obtenir, l’IA reste basée sur des codes informatiques, impliquant une facilité de réplication qui augmente les risques de propagation. De plus, il existe des craintes que ceux qui exploitent l’IA pour des raisons militaires nuisent à l’image de cette discipline pour les chercheurs.
Les signataires de la lettre comprennent un prestigieux groupe d’individus, parmi lesquels Stephen Hawking, Elon Musk, Steve Wozniak et d’autres figures influentes du monde de la technologie.
Le soutien au Future of Life Institute
Le Future of Life Institute est principalement soutenu par Elon Musk. La présente lettre a été présentée lors de la Conférence internationale sur l’intelligence artificielle en cours en Argentine. L’organisation espère que les armes autonomes ne deviendront pas similaires aux Kalachnikovs d’aujourd’hui.
FAQ
Q1: Qu’est-ce qu’une arme autonome?
Une arme autonome est un système d’armement capable de sélectionner et d’engager des cibles sans intervention humaine.
Q2: Quels sont les risques associés à l’utilisation d’armes autonomes?
Elles peuvent mener à des erreurs de ciblage, augmentant ainsi les pertes civiles, et peuvent être utilisées par des acteurs non étatiques.
Q3: Qui a signé la lettre ouverte?
Elle a été signée par plusieurs personnalités influentes en technologie et en science, dont des chercheurs, des entrepreneurs et des penseurs éminents du domaine de l’IA.
Q4: Que fait le Future of Life Institute?
Cet institut s’engage à promouvoir la sécurité technologique et à réfléchir aux implications éthiques de l’IA en développant des règles et des directives pour son utilisation responsable.
Q5: Pourquoi est-il urgent d’agir contre les armes autonomes?
Sans action préventive, la prolifération de ces technologies pourrait entraîner une escalade des conflits et mettre gravement en danger la sécurité mondiale à long terme.
