Comportement préoccupant
En 2017, le bureau du shérif du comté de Washington en Oregon a été le premier à adopter Rekognition, l’outil de reconnaissance faciale d’Amazon. En mars 2019, pendant deux jours, ce bureau a permis à des journalistes du Washington Post d’accéder à ses voitures de patrouille et à ses installations pour observer l’impact de cette technologie sur le travail des policiers.
Ce que les journalistes ont découvert était alarmant : les agents utilisaient Rekognition d’une manière nettement plus large que ce qu’Amazon avait prévu. Ils l’employaient pour identifier des suspects inconscients, des personnes ne souhaitant pas s’identifier, des corps sans vie et même des croquis réalisés par la police. C’est un exemple frappant des dangers potentiels liés à une telle technologie lorsqu’elle est mal utilisée par les forces de l’ordre.
Manque de confiance
Amazon conseille aux fonctionnaires de police d’utiliser Rekognition seulement si l’outil affiche une confiance de 99 % dans son identification. Pourtant, le Washington Post révèle que les officiers du comté de Washington n’ont pas accès à cette mesure de confiance lors de l’utilisation du système. Au lieu de cela, ils reçoivent les cinq correspondances les plus probables, sans tenir compte de la confiance que Rekognition leur accorde, que l’entrée soit une photo ou un croquis.
Pistes douteuses
La façon dont le bureau du shérif du comté utilise Rekognition soulève de nombreuses questions. Des experts en intelligence artificielle ont averti que l’utilisation de croquis au lieu de photographies pourrait entraîner un plus grand nombre de faux positifs. Cela pourrait amener les policiers à ajuster leurs enquêtes pour les aligner sur ces correspondances erronées. Marc Brown, défenseur en chef au service de défense publique de l’Oregon, a souligné que les agents considérant leurs résultats comme des vérités indiscutables pourraient orienter leurs recherches dans des directions erronées.
Violations éthiques
Au-delà des graves enjeux pratiques liés à des pistes douteuses, des questions de droits civils émergent également. Recourir à Rekognition sur des suspects inconscients ou réticents à s’identifier – un acte qui n’est pas illégal en Oregon – prive ces individus de leur capacité à consentir à des analyses faciales.
L’enquête du Washington Post met en lumière une réalité inquiétante : tant que les législateurs ne commenceront pas à encadrer l’usage de la reconnaissance faciale, les forces de l’ordre continueront d’exploiter cette technologie à leur guise, risquant d’arrêter des innocents ou d’enfreindre des droits civils.
À lire également : Oregon est devenu un terrain d’essai pour la reconnaissance faciale d’Amazon. Mais que se passe-t-il si Rekognition se trompe ? | Washington Post
Pour approfondir votre compréhension de Rekognition : Les policiers utilisent mal le logiciel de reconnaissance faciale d’Amazon.
FAQ
Qu’est-ce que Rekognition ?
Rekognition est un logiciel de reconnaissance faciale développé par Amazon, utilisé par certaines agences de police pour identifier des personnes à partir d’images ou de vidéos.
Quels problèmes éthiques sont associés à l’utilisation de la reconnaissance faciale ?
Les préoccupations incluent les violations des droits civils, la possibilité de fausses identifications et l’absence de consentement des personnes concernées.
Comment les législateurs peuvent-ils réguler l’utilisation de cette technologie ?
Les législateurs peuvent mettre en place des lois régissant l’utilisation de la reconnaissance faciale, exigeant la transparence et le consentement des individus photographiés.
Quel impact la reconnaissance faciale a-t-elle sur les enquêtes policières ?
Elle peut aider à identifier des suspects mais risque de fausser les enquêtes en s’appuyant sur des résultats erronés.
Que faire si vous êtes victime d’une arrestation injuste liée à la reconnaissance faciale ?
Il est conseillé de consulter un avocat pour explorer les recours juridiques possibles, notamment sur les droits civils.
