Les amis du Pentagone
Il se pourrait bientôt que des personnages d’IA contrôlés par le Pentagone fassent leur apparition sur des forums en ligne.
Selon un article d’The Intercept, une liste de souhaits élaborée par le Joint Special Operations Command (JSOC) — une entité secrète spécialisée dans le contre-terrorisme au sein du ministère de la Défense des États-Unis — met en lumière ses intentions d’utiliser l’IA générative pour créer de faux utilisateurs sur Internet.
Cette initiative arrive malgré les avertissements consternants du gouvernement américain concernant la montée des deepfakes et autres contenus générés par IA qui pourraient aggraver la crise de désinformation et embrouiller l’écosystème informationnel global.
Dans ce document, le JSOC précise qu’il recherche des « technologies capables de générer des personnalités en ligne convaincantes » pour les utiliser sur des plateformes de réseaux sociaux et autres contenus Internet, visant à soutenir les forces d’opérations spéciales. Ce projet devrait comprendre des éléments visuels, des vidéos ainsi que des couches audio.
Le souhait exprimé par le JSOC est que ces agents puissent tirer parti de cette capacité pour collecter des informations à partir de forums publics en ligne. En d’autres termes, l’agence cherche à doter ses équipes d’opérations spéciales d’outils avancés pour créer des deepfakes sophistiqués, persuadant les utilisateurs de réseaux sociaux de leur légitimité afin de faciliter la collecte d’informations.
Influence de l’IA
D’une part, il n’est pas surprenant de constater que le personnel de renseignement s’aventure déjà sur des forums en ligne et des canaux de médias sociaux. Le Pentagone a également son expérience en matière de campagnes d’influence extérieures sur Internet.
Cependant, le fait que le ministère de la Défense concentre ses efforts sur l’IA pour renforcer ses capacités de surveillance numérique et d’influence marque un tournant dans ses opérations de renseignement en ligne.
Dans un rapport précédent, The Intercept avait mentionné que le Pentagone s’intéresse aux deepfakes comme moyen d’enrichir les efforts d’influence menés par le Special Operations Command (SOCOM), soulignant un besoin de technologies « plus globales et disruptives » que les outils actuellement utilisés.
Alors que les élections approchent, il est également important de noter que le Projet 2025 — un plan pour un éventuel mandat présidentiel de Donald Trump — semble envisager l’usage de l’IA comme un outil pour élargir les efforts de surveillance et d’espionnage.
Cependant, alors que le Pentagone cherche à intensifier ses activités numériques, des experts mettent en garde que l’adoption de telles technologies dans le secteur de la défense aux États-Unis pourrait encourager d’autres nations à recourir à des pratiques similaires de déception.
Heidy Khlaaf, scientifique en chef à l’AI Now Institute, avertit que cela pourrait renforcer les capacités militaires d’autres pays et créer un contexte où il devient de plus en plus difficile de discerner le vrai du faux, ce qui complique les dynamiques géopolitiques.
Informations complémentaires concernant l’IA et la surveillance : L’usage accru de l’IA pourrait conduire à un comportement « optimal » des citoyens sous bénéfice d’une surveillance constante.
FAQ
Quels sont les risques liés à l’utilisation de l’IA par le Pentagone ?
Les principales préoccupations concernent la possibilité d’aggravation de la désinformation et de la manipulation de l’opinion publique, ce qui pourrait perturber les démocraties.
Comment les autres pays réagissent-ils à ces développements ?
De nombreux pays surveillent attentivement les développements des technologies d’IA utilisées par les États-Unis, certains cherchant à développer des technologies similaires pour leurs propres besoins.
Quel est le rôle des deepfakes dans la guerre d’information moderne ?
Les deepfakes peuvent être utilisés pour créer de fausses narrations, influencer l’opinion publique et même compromettre des élites politiques, d’où leur dangerosité croissante.
Qui surveille l’utilisation de technologies comme l’IA par les militaires ?
Des organismes de régulation et des groupes de défense des droits surveillent de près l’utilisation de ces technologies pour garantir la transparence et prévenir l’abus.
Quels sont les avantages potentiels de l’utilisation de l’IA par le gouvernement ?
L’utilisation de l’IA pourrait améliorer les capacités de surveillance, optimiser les processus de décision et permettre une collecte d’informations plus efficace, mais cela pose des questions éthiques importantes.