Dystopie Actuelle
Un psychologue de l’Université de Stanford, Michal Kosinski, a mis au point une intelligence artificielle capable de juger des caractéristiques telles que l’intelligence, les préférences sexuelles et les opinions politiques simplement en analysant le visage d’une personne. Selon un article de Business Insider, cette approche soulève d’importantes questions éthiques. Peut-on vraiment considérer la recherche sur la reconnaissance faciale comme autre chose qu’une version moderne de la phrénologie, une pseudo-science du passé qui tentait de corréler des traits physiques à des traits de personnalité ?
Kosinski rejette cette idée. Pour lui, ses travaux sur la reconnaissance faciale doivent servir d’alerte aux décideurs concernant les risques potentiels de telles technologies, y compris celles développées par d’autres chercheurs. Par exemple, dans une étude qu’il a publiée en 2021, il a démontré qu’un modèle de reconnaissance faciale pouvait prédire les croyances politiques d’une personne avec une précision de 72 %, comparé à seulement 55 % pour des évaluations humaines.
Il a également souligné que les résultats de ses recherches pourraient avoir des conséquences critiques sur la protection de la vie privée et des libertés civiles.
Prévisions Risquées
Bien que Kosinski considère son travail comme une mise en garde, il pourrait aussi avoir des répercussions problématiques. La liste des applications de ses recherches semble souvent néfaste, et le simple fait d’en parler pourrait encourager la création de nouveaux outils pour la discrimination. En outre, ces modèles ne sont pas toujours fiables, ce qui peut entraîner des targetings erronés.
Par exemple, lors de la publication d’un article en 2017, il a présenté un modèle capable de prédire l’orientation sexuelle avec une précision de 91 %. Cette étude a été jugée “dangereuse et défectueuse” par des organisations telles que la Human Rights Campaign et GLAAD, car elle pourrait conduire à la discrimination à l’encontre des personnes queer.
Il est également important de noter que des technologies de ce type peuvent se retrouver dans des contextes marqués par des conflits culturels intenses, comme la misgenreation des athlètes aux Jeux Olympiques cet été. Cela pourrait créer un risque supplémentaire.
Les exemples concrets de la reconnaissance faciale sont déjà nombreux. Des affaires comme celle de Rite Aid, qui a indûment ciblé des minorités comme des voleurs, et Macy’s, qui a accusé à tort un homme d’un vol violent qu’il n’a pas commis, montrent bien les dérives possibles de ces technologies. Quand Kosinski publie ses recherches, il pourrait vouloir avertir, mais cela ressemble aussi à donner des indications détaillées à des voleurs pour cambrioler votre maison.
Informations Supplémentaires sur la Reconnaissance Faciale et l’IA
Pourquoi la reconnaissance faciale est-elle controversée?
La reconnaissance faciale soulève des préoccupations quant à la surveillance invasive et à l’utilisation abusive des données personnelles, notamment par les gouvernements et les entreprises.
Quelles sont les alternatives à la reconnaissance faciale?
Des méthodes biométriques alternatives, comme les empreintes digitales ou l’analyse vocale, sont parfois considérées comme plus éthiques et moins intrusives.
Quels sont les risques psychologiques associés à l’IA ?
L’utilisation de l’IA pour des analyses basées sur des caractéristiques corporelles peut avoir des conséquences psychologiques sur les individus, notamment une flambée de l’anxiété et des problèmes d’image de soi.
Quel encadrement légal existe-t-il actuellement ?
Actuellement, les lois autour de la reconnaissance faciale et de l’IA varient d’un pays à l’autre, avec peu de régulations contraignantes établies pour protéger la vie privée des individus.
Comment sensibiliser le public sur ces questions ?
Une éducation accrue sur les technologies de l’IA et leurs implications sociétales pourrait jouer un rôle crucial dans la prévention des abus et la protection des droits civiques.
