Les **Nations Unies** et le **Comité international de la Croix-Rouge** soulignent que les armes possédant une autonomie croissante ne sont plus uniquement un concept de science-fiction. À présent, la **technologie** alimentée par l’**intelligence artificielle** est capable de choisir des cibles, et ces organismes mettent en garde contre le retard des réglementations mondiales face à cette avancée technologique.
Ils relancent un appel urgent pour établir des limites avant qu’il ne soit trop tard.
Informations essentielles
Dans un appel commun publié le 25 août, le Secrétaire général de l’ONU, António Guterres, et le président de la Croix-Rouge ont renouvelé leur demande pour un **traité mondial** concernant les systèmes d’armement autonomes. Selon eux, les logiciels d’IA et la technologie des drones utilisés dans ces systèmes progressent à un rythme rapide.
« Les scientifiques et les ingénieurs qui développent ces systèmes tirent eux-mêmes la sonnette d’alarme, » ont déclaré Guterres et la Croix-Rouge dans leur appel. « Lorsque les concepteurs de cette technologie appellent à des restrictions, les États ne peuvent pas rester inactifs. Cette année doit marquer un tournant. »
Depuis des années — bien avant que le grand public ne prenne conscience des capacités de l’IA — des inquiétudes croissantes se font entendre concernant ces technologies visant à réduire l’implication humaine dans les décisions liées à l’usage de la force. Cela inclut les drones sans pilote, les sentinelles robotiques et le ciblage facilité par l’IA, qui ont pour effet d’éloigner les personnels militaires des actions qu’ils initient.
Les partisans de cette technologie soutiennent qu’elle pourrait réduire le nombre de victimes et être économiquement avantageuse. Toutefois, les vétérans et les militants pacifistes mettent en garde contre les dangers croissants liés à cet éloignement.
Ils soutiennent qu’à mesure que les actes de violence deviennent plus distants, l’autorisation d’utiliser la force peut sembler plus facile, rendant les conséquences humaines plus difficiles à appréhender pour le public. En outre, la technologie pourrait engendrer de graves erreurs, qui passeraient inaperçues en l’absence d’une supervision humaine.
Contexte supplémentaire
Les armements autonomes et assistés par l’IA sont déjà déployés dans des opérations militaires, même si les garde-fous juridiques et éthiques sont en retard. Matt Howard, directeur par intérim du groupe de vétérans anti-guerre *About Face*, a récemment déclaré à Truthout qu’il existe déjà « un coût profond pour les personnes impliquées dans ces programmes, tant sur le plan des blessures morales que du traumatisme. »
De plus, l’IA est profondément liée au réseau électrique. Elle peut être utilisée pour aider les services publics à gérer la demande d’électricité, à améliorer le stockage des batteries et à intégrer davantage d’énergie solaire et éolienne. Cependant, l’entraînement et l’exploitation de grands systèmes d’IA nécessitent d’énormes quantités d’énergie, d’eau et d’infrastructures de centres de données, ce qui peut perturber les réseaux locaux et augmenter les coûts, tout en posant des risques de sécurité en cas de mauvaise utilisation de la technologie.
Il s’agit d’une question complexe aux conséquences très graves, d’où l’importance de déterminer qui est en contrôle de cette technologie puissante, quel niveau de supervision existe, et si le public peut avoir un mot à dire significatif sur l’usage ou non de ces outils.
Quelles actions sont en cours ?
Plutôt que de poursuivre ce qu’ils appellent des « discussions progressives », l’ONU et la Croix-Rouge exhortent les pays à négocier des règles internationales contraignantes. Ils visent à établir des prohibitions et des restrictions sur les armes qui pourraient fonctionner avec une intervention humaine insuffisante.
Des groupes tels que la campagne *Stop Killer Robots* réclament également des mesures de protection contre ce qu’ils qualifient de « déshumanisation numérique ». Ils estiment que cette menace devient de plus en plus urgente alors que les forces militaires et les entreprises de défense investissent massivement dans les systèmes d’IA, permettant aux algorithmes de prendre des décisions de vie ou de mort qui pourraient échapper à tout contrôle, mettant ainsi des vies en danger et provoquant potentiellement des guerres.
Comme l’a déclaré le vétéran et activiste Rory Fanning à Truthout : « Tuer un autre être humain est la chose la plus contre nature au monde, et la seule façon d’y parvenir est de créer une distance entre la personne qui tue et celle qui meurt. »
Fanning est un fervent défenseur d’un **interdit mondial** sur les systèmes d’armement autonomes, qu’il considère non seulement comme un moyen de sauver des vies, mais aussi de préserver notre humanité.
Abonnez-vous aux **newsletters gratuites** de TCD pour des conseils pratiques et une opportunité de gagner jusqu’à 5 000 $ pour des améliorations de maison. Pour découvrir plus d’histoires comme celle-ci, modifiez vos préférences Google ici.
FAQ
Qu’est-ce qu’un système d’armement autonome ?
Un système d’armement autonome est un dispositif capable de sélectionner et d’engager des cibles sans intervention humaine directe, souvent alimenté par des technologies d’intelligence artificielle.
Quels sont les dangers associés à ces technologies ?
Les dangers incluent des erreurs non détectées sans supervision humaine, une banalisation de la violence, et un risque accru de déclencher des conflits imprévus.
Comment les gouvernements réagissent-ils à cette situation ?
Les gouvernements sont appelés à établir un cadre réglementaire international qui impose des restrictions sur le développement et l’utilisation d’armements autonomes.
Qui milite contre l’utilisation de ces armes ?
Des organisations telles que la Croix-Rouge, l’ONU, et des groupes pacifistes comme Stop Killer Robots militent activement pour une réglementation stricte et un éventuel interdit sur ces technologies.
Quelles alternatives existent pour réduire la violence armée ?
Des initiatives visant à promouvoir la diplomatie, la médiation des conflits et des investissements dans les technologies non létales sont des alternatives souvent proposées.
Cela peut vous intéresser
