Un groupe de sénateurs démocrates souhaite établir des limites strictes concernant l’utilisation de l’intelligence artificielle (IA) par l’armée américaine. Ils proposent d’interdire l’utilisation de cette technologie pour le lancement d’armes nucléaires ou la surveillance des citoyens américains, selon un rapport de The Hill.
Arrière-plan de l’initiative
Cette initiative survient alors que le Congrès commence à discuter du projet de loi sur la politique de défense annuelle. Cela remet à l’ordre du jour un débat éthique sur la technologie qui alimente l’une des batailles les plus surveillées de la capitale, concernant l’impact de l’IA.
Détails du projet de loi
La sénatrice Kirsten Gillibrand, de New York, a déposé cette semaine le projet de loi intitulé Secure and Accountable Military AI Act. Elle prévoit d’intégrer plusieurs de ses dispositions dans la version sénatoriale de la National Defense Authorization Act. Selon les informations de The Hill, cette proposition vise à :
- Interdire que l’IA puisse être utilisée pour lancer des armes nucléaires.
- Empêcher la surveillance des citoyens américains par des systèmes d’IA.
- Limiter le développement et l’utilisation d’armes autonomes.
De plus, toute décision relative à l’utilisation de la force, à la détention, ou à des actions de haute conséquence doit inclure l’intervention d’un être humain. Cela concerne des domaines critiques comme le commandement nucléaire, la ciblage létal, la surveillance interne et les opérations informatiques. Ces décisions doivent également recevoir l’approbation d’un haut fonctionnaire.
Gillibrand a déclaré dans un communiqué que “les décisions les plus cruciales, touchant notre sécurité nationale et la vie de nos militaires, doivent toujours être prises par des humains, et non par des machines sans responsabilité”.
Contexte actuel
Cette mesure survient alors que le Pentagone augmente l’utilisation de l’IA dans ses réseaux classifiés. De plus, un différend public a éclaté avec la société d’IA Anthropic concernant l’opportunité de permettre aux contrats militaires d’inclure “toutes les utilisations légales” des systèmes d’IA avancés.
La sénatrice Elissa Slotkin du Michigan élabore également un amendement similaire, visant à interdire au Pentagone d’utiliser des armes autonomes capables de tuer sans supervision humaine, ainsi que l’utilisation de l’IA pour lancer des armes nucléaires ou espionner des citoyens.
Implications et préoccupations
Ce débat soulève des questions bien plus larges sur la privacité, la sécurité et la possibilité de confier des décisions vitales à un logiciel qui peut faillir, déchiffrer des informations de manière incorrecte ou agir de façon imprévisible. Il met également en lumière des inquiétudes relatives à la croissance rapide de l’IA, notamment sur les effets que cette expansion pourrait avoir sur les réseaux énergétiques et les systèmes d’eau.
Réactions et avis
Gillibrand a averti que l’armée s’oriente vers “une technologie IA incroyablement puissante sans garde-fous sensés en place”, insistant sur le fait que ce chemin pourrait “avoir des conséquences catastrophiques qui nous rendraient tous moins en sécurité”.
Le vice-président JD Vance a récemment exprimé ses craintes concernant l’impact potentiel de l’IA sur la guerre, affirmant qu’« en cas de conflit futur, les décisions de vie ou de mort doivent être prises par des humains, pas par des machines », lors d’un discours aux diplômés de l’Académie de l’Air.
FAQ
Pourquoi établir des limites sur l’IA militaire ?
Les limites visent à garantir que des décisions critiques, notamment celles liées à la sécurité nationale et à la vie humaine, relèvent toujours d’un contrôle humain.
Quels sont les risques associés à l’utilisation de l’IA en milieu militaire ?
L’IA peut commettre des erreurs, mal interpréter des données ou fonctionner de manière imprévisible, surtout dans des situations critiques de combat ou de défense.
Comment les législateurs évaluent-ils l’IA ?
Les législateurs sont préoccupés par l’accélération de l’utilisation de l’IA dans divers secteurs, et le nécessaire équilibre entre innovation technologique et sécurité publique.
Quelle est l’importance de la surveillance des citoyens ?
Surveiller les citoyens à l’aide de technologies avancées peut soulever des questions sérieuses concernant la vie privée et les libertés individuelles, ce qui suscite des débats éthiques dans la société.
Quelles mesures peuvent être adoptées pour encadrer l’IA ?
Au-delà des législations, des protocoles clairs d’utilisation et de supervision humaine dans toutes les applications militaires de l’IA sont recommandés pour assurer une utilisation responsable.
