Problèmes de Précision
Lorsque le système de reconnaissance faciale d’Amazon, Rekognition, a été critiqué pour ses inexactitudes et son biais envers les femmes et les minorités ethniques, la société a réagi en affirmant que les chercheurs avaient mal interprété l’utilisation prévue du logiciel par les forces de l’ordre. Leur réaction a suscité des interrogations quant à la fiabilité de ces technologies.
Récemment, le bureau du sheriff du comté de Washington, un des rares clients connus d’Amazon pour ce logiciel, a déclaré que son utilisation de Rekognition se rapprochait en réalité des pratiques critiquées par les chercheurs. Cette découverte soulève des préoccupations quant à la façon dont les forces de l’ordre pourraient appliquer ces outils de reconnaissance faciale.
Mesures de Sécurité Volontaires
Amazon a suggéré que les forces de l’ordre devraient établir un seuil de confiance rigoureux pour déterminer les correspondances, stipulant que le visage d’une personne devait correspondre à au moins 99 % à celui d’une image de la base de données pour être considéré comme un match.
Cependant, les policiers de l’Oregon ont indiqué qu’ils ne respectaient pas ces seuils. Des documents antérieurs avaient déjà montré qu’ils avaient obtenu un taux de correspondance de 96 %. Le bureau du sheriff a précisé qu’ils se servaient de Rekognition uniquement pour générer des pistes et que des preuves additionnelles devaient être rassemblées avant toute décision judiciaire.
Amazon a réagi en réaffirmant sa collaboration avec le bureau du sheriff et en notant qu’aucune plainte publique n’avait été formulée à propos de l’outil.
Des Pratiques Inquiétantes
Ce que nous apprend la déclaration du bureau du sheriff, c’est qu’au moins un client d’Amazon — le seul connu à ce jour — ne semble pas suivre les directives établies par la société pour l’utilisation de son logiciel. Cette situation crée des inquiétudes majeures sur l’avenir de l’utilisation de la reconnaissance faciale par les forces de police.
Les implications de ce développement nous obligent à réfléchir aux risques associés à une technologie qui n’est pas rigoureusement régulée. La vision que nous avons de la façon dont les outils de reconnaissance faciale seront utilisés à l’avenir devient ainsi préoccupante.
FAQ
Qu’est-ce que Rekognition ?
Rekognition est un système de reconnaissance faciale développé par Amazon, utilisé principalement par les agences de police pour identifier des individus à partir d’images.
Quels sont les principaux problèmes soulevés par l’utilisation de Rekognition ?
Les critiques se concentrent sur le fait que Rekognition peut être inexact et biaisé, entraînant des erreurs dans l’identification, notamment des femmes et des personnes de couleur.
Les forces de l’ordre suivent-elles les recommandations d’Amazon sur l’utilisation de Rekognition ?
D’après certaines déclarations, des bureaux comme celui de Washington County ne respecteraient pas les seuils de sécurité recommandés par Amazon, ce qui pose des questions sur la fiabilité de l’outil.
Quels pourraient être les impacts futurs de la reconnaissance faciale sur la société ?
L’utilisation de la reconnaissance faciale pourrait entraîner des atteintes à la vie privée, des décisions injustes et un renforcement des biais systémiques dans le domaine de l’application de la loi.
Que dit Amazon sur les plaintes concernant Rekognition ?
Amazon a déclaré qu’à ce jour, il n’y avait pas eu de plaintes publiques au sujet de Rekognition, bien qu’il y ait eu des critiques et des préoccupations soulevées par des études et des rapports.
