Arrestation Erronée
Un événement préoccupant a eu lieu récemment : pour la première fois, un algorithme de reconnaissance faciale utilisé par la police a conduit à une arrestation injustifiée, en identifiant à tort un homme innocent comme un criminel.
En janvier, Robert Julian-Borchak Williams a été interpellé après que les autorités de Detroit lui ont demandé de se rendre au poste de police, selon des informations rapportées par The New York Times. À son arrivée, il a été arrêté à cause d’une erreur de l’intelligence artificielle de reconnaissance faciale, qui l’a identifié comme l’individu figurant sur une vidéo de surveillance d’un vol à l’étalage survenu en 2018. Malgré des preuves manifestement erronées, Williams a passé 30 heures en prison, une conséquence inquiétante de l’utilisation excessive d’une technologie défaillante.
Erreurs Automatisées
Les critiques de la reconnaissance faciale soulignent depuis longtemps que cette technologie n’est pas encore suffisamment avancée pour identifier les suspects avec précision, en particulier à partir de vidéos de surveillance de mauvaise qualité, comme l’indique le NYT. Les développeurs de cette technologie mettent en garde contre une confiance excessive en leurs systèmes pour justifier des arrestations, mais il semble que cela ait été le seul fondement de l’accusation contre Williams.
Par exemple, le logiciel utilisé par la police de Detroit pour identifier Williams affichait une mise en garde signalant : « Ce document ne constitue pas une identification positive. C’est uniquement une piste d’enquête et ne peut pas justifier une arrestation. »
Un Problème Systématique
Bien que Williams ait été relâché après avoir payé sa caution et que son dossier ait été classé sans suite, son arrestation révèle un problème bien plus large : la tendance de la police à recourir à des algorithmes peu fiables.
« J’ai de fortes raisons de penser que ce n’est pas le premier cas où une personne a été injustement identifiée et arrêtée pour un crime qu’elle n’avait pas commis », a déclaré Clare Garvie, avocate à l’Université de Georgetown, au NYT. « C’est juste le premier dont nous avons connaissance. »
LIRE AUSSI : Erronément accusé par un algorithme [The New York Times]
Plus d’infos sur les algorithmes utilisés par la police : La police utilise la technologie de reconnaissance faciale sur des suspects inconscients
FAQ
Qu’est-ce que la reconnaissance faciale et comment fonctionne-t-elle ?
La reconnaissance faciale est une technologie qui identifie ou vérifie l’identité d’une personne en analysant ses traits faciaux via des images. Elle utilise des algorithmes d’apprentissage automatique pour comparer des visages capturés avec ceux dans les bases de données.
Quels sont les risques liés à l’utilisation de la reconnaissance faciale ?
Les principaux risques incluent des erreurs d’identification, des violations de la vie privée et des biais raciaux. Les algorithmes peuvent être moins précis pour certaines ethnies, entraînant des arrestations injustifiées.
Comment la technologie de reconnaissance faciale est-elle réglementée ?
La réglementation varie selon les pays et même au sein des États. Certains endroits imposent des restrictions strictes quant à l’utilisation de cette technologie par la police, tandis que d’autres manquent de législation claire.
Existe-t-il des alternatives à la reconnaissance faciale ?
Oui, certaines alternatives incluent des méthodes d’identification traditionnelles comme les témoignages oculaires, l’analyse de l’ADN, ou même l’utilisation de dispositifs biométriques comme les empreintes digitales.
Pourquoi est-il important de discuter des erreurs d’algorithmes ?
Discuter des erreurs d’algorithmes est crucial pour s’assurer que les technologies sont mises en œuvre de manière éthique. Cela soulève des questions sur la responsabilité et les standards de justice, en particulier dans des contextes où des vies humaines sont en jeu.