L’avenir de la surveillance avec l’IA
Dans un monde où la technologie avance à grands pas, une innovation troublante est apparue. Selon un article du South China Morning Post, des chercheurs à Pékin ont mis au point un prototype d’appareil capable de détecter les signaux cérébraux d’un individu qui visionne de la pornographie. Pour certaines personnes, effacer l’historique de navigation pourrait ne plus suffire pour échapper à une surveillance accrue.
Cette technologie controversée vise à renforcer l’efficacité des modérateurs de contenu, notamment ceux qui se concentrent sur les contenus pour adultes. L’idée d’un gouvernement totalitaire utilisant des interfaces cerveau-machine pour suivre les activités de ses censeurs suscite de vives inquiétudes.
La surveillance numérique en Chine
Cette nouvelle technologie, qui surveille les motifs cérébraux d’un utilisateur, n’est pas unique. Déjà dans plusieurs environnements professionnels chinois, des dispositifs de lecture des pensées ont été expérimentés. Lorsqu’un employé expose une image explicite, l’appareil est censé détecter une augmentation de l’activité cérébrale, déclenchant une alarme.
En Chine, la pornographie est illégale, et le système de censure, souvent appelé le Grand Pare-feu, ne laisse passer rien qui pourrait être jugé indécent. Le pays s’appuie sur une combinaison d’interventions humaines et technologiques pour maintenir son contrôle sur l’Internet. Cependant, ces deux méthodes présentent des inconvénients : l’IA peut commettre des erreurs et les modérateurs humains nécessitent des pauses pour se restaurer et se reposer.
Les chercheurs derrière cette initiative affirment que l’appareil doit faciliter la coopération entre les modérateurs humains et les systèmes d’IA, permettant ainsi une modération plus rapide et plus précise.
Les lacunes scientifiques
Cependant, l’étude publiée dans le Journal de mesure électronique et instrumentation a mis en lumière des insuffisances majeures. Une efficacité de seulement 80 % a été rapportée, ce qui est loin d’être rassurant. De plus, l’échantillon testé ne comprenait que 15 hommes âgés d’université, ce qui soulève des questions sur la représentativité des résultats.
En raison de la législation en vigueur, les chercheurs n’ont même pas pu présenter de contenu réellement explicite aux participants : toutes les images avaient déjà subi une censure, intégrant des éléments comme le floutage et des barres noires.
Dire que des technologies prétendant lire les pensées soulèvent des interrogations éthiques est un euphémisme. Toutefois, cet appareil, bien que préoccupant, semble encore loin d’être opérationnel. Espérons qu’il en restera ainsi.
FAQ
Quelles sont les implications éthiques de cette technologie ?
Cette technologie soulève des préoccupations majeures concernant la vie privée et le consentement. La capacité d’une machine à surveiller l’activité cérébrale pose la question de la limite entre surveillance et respect de l’individu.
Comment fonctionne exactement le dispositif ?
Le prototype surveille les impulsions cérébrales à l’aide de capteurs placés sur la tête, détectant des variations spécifiques pouvant indiquer que l’utilisateur est exposé à du contenu pour adultes.
Pourquoi la pornographie est-elle particulièrement ciblée en Chine ?
La censure en Chine est particulièrement stricte en matière de pornographie en raison des valeurs culturelles et morales du pays, visant à préserver une image sociale jugée correcte.
Des technologies similaires existent-elles ailleurs ?
Oui, plusieurs entreprises et chercheurs à travers le monde explorent des technologies similaires de lecture de pensée, bien que souvent dans des contextes différents, comme la santé mentale ou le contrôle des prosthèses.
Quel rôle l’IA joue-t-elle actuellement dans la censure en ligne ?
L’intelligence artificielle est utilisée pour identifier et filtrer le contenu inapproprié, mais elle doit être complétée par des modérateurs humains pour des décisions plus nuancées, créant ainsi un équilibre dans la censure.