Inscrivez-vous pour découvrir le futur dès aujourd’hui.
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
</div>
</div>
</div>
Une nouvelle **techno-dystopique** a récemment fait son apparition, soulevant un nombre important de questions qui ne sont pas abordées dans son annonce sur les réseaux sociaux.
D’après un article du Times de Londres, le Centre National de Science de Hefei, en Chine, a révélé la création d’un **programme** intégré à « l’intelligence artificielle pour renforcer la construction du parti » dans une publication sur Weibo, la deuxième plus grande plateforme sociale du pays.
À l’approche du 1er juillet, date anniversaire du Parti Communiste Chinois, le Centre de Hefei a déclaré dans le texte d’un post désormais supprimé — retranscrit et traduit par Radio Free Asia — que ce programme cherchait à résoudre le « problème » d’**assurer la qualité** des activités des membres du parti.
En d’autres termes, cette **intelligence artificielle**, bien que beaucoup de ses détails restent flous, pourrait potentiellement évaluer la loyauté des membres du parti.
Selon la traduction du post original par RFA, ce dispositif « fonctionne comme une **idéologie intelligente**, utilisant la technologie de l’IA pour analyser les expressions faciales, les ondes cérébrales et la conductivité de la peau, ce qui permet d’évaluer les niveaux de concentration, de reconnaissance et de maîtrise de l’éducation idéologique et politique ». Cela vise à mieux comprendre son efficacité.
Toujours d’après le Times, cette technologie a été testée en lisant des articles sur le Parti Communiste tout en surveillant les ondes cérébrales et les analyses faciales des participants, aboutissant à un **« score de loyauté »**. Ces pratiques soulèvent des inquiétudes sérieuses.
Cette situation fait logiquement résonner des alertes : un dispositif d’IA capable de lire l’esprit et d’évaluer la loyauté politique semble tout droit sorti d’un roman dystopique comme **« 1984 »**, plutôt que de nos jours.
Cependant, la Chine n’est pas le seul pays à utiliser l’IA de manière inquiétante.
Des problèmes liés à l’utilisation **par la police** de logiciels de reconnaissance faciale, à des algorithmes supposés « prédire » les crimes futurs, développés notamment par l’Université de Chicago, jusqu’aux systèmes d’IA souvent discriminatoires employés pour déterminer l’admissibilité à un prêt, l’IA pénètre déjà la vie quotidienne des gens de manière intrusive et totalitaire.
De plus, la mise au point d’une IA utilisant les biométriques pour évaluer la loyauté d’une personne envers un parti ou une nation représente assurément un outil redoutable pour la **répression politique**. Malgré les promesses de notre Département de la Défense de ne pas utiliser l’IA de manière contraire à l’éthique, rien ne garantit qu’une fois cette technologie perfectionnée par la Chine, nous, Américains, ne cherchions pas à l’acquérir pour nous et nos alliés.
EN SAVOIR PLUS : L’IA chinoise pourrait « vérifier la loyauté des membres du parti » [Times de Londres]
Informations supplémentaires sur l’IA gouvernementale : Une vidéo alarmante montre un robot de combat détruisant des voitures
Cette forme d’IA pourrait analyser divers paramètres psychologiques et physiologiques pour évaluer la loyauté des membres d’un parti ou d’une nation.
La Chine emploie l’IA dans divers secteurs, notamment pour la surveillance de la population, la politique et même l’éducation, afin de renforcer l’autorité et la présence du Parti Communiste.
Les technologies comme celles-ci soulèvent des questions cruciales sur la vie privée, les libertés individuelles et la possibilité d’un contrôle totalitaire sur les citoyens.
Les régulations varient selon les pays, mais beaucoup sont encore en développement, laissant place à des abus potentiels.
De plus en plus de voix s’élèvent dans les démocraties pour questionner et réguler l’utilisation de l’IA, afin de protéger les droits des citoyens tout en permettant l’innovation technologique.
