Inscrivez-vous pour découvrir l’avenir, dès aujourd’hui.
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Ne manquez pas les innovations clés à la pointe de la science et de la technologie.</p>
</div>
</div>
</div>
VOUS NE ÊTES PAS CONFORME. L’American Civil Liberties Union (ACLU) a récemment dépensé une somme de **12,33 dollars** pour évaluer un système qui pourrait, littéralement, mettre en danger des vies humaines. Ce jeudi, l’organisme à but non lucratif, qui vise à défendre les droits des citoyens américains, a publié un article de blog sur ses essais avec **Rekognition**, un outil de reconnaissance faciale développé par **Amazon**.
En utilisant le seuil de confiance par défaut de **80 pour cent** de Rekognition (ce qui signifie que le système est **80 pour cent certain** de son exactitude lorsqu’il signale une correspondance), l’ACLU a passé en revue une base de données de **25 000 photos de criminalité** disponibles publiquement, cherchant à les associer aux portraits de tous les membres en fonction du Congrès, tant au Sénat qu’à la Chambre des représentants.
Le résultat fut que Rekognition a identifié à tort **28 membres du Congrès** comme étant représentés sur ces photos, bien que ces correspondances étaient erronées.
LA POLICE ET LES PERSONNES DE COULEUR. Non seulement Rekognition a fait des erreurs en pensant que ces 28 congressistes étaient les mêmes que sur les photos, mais les individus mal identifiés étaient en grande partie issus de **minorités raciales**. Selon l’ACLU, alors que les personnes de couleur représentent seulement **20 pour cent** du Congrès, elles constituaient **39 pour cent** des correspondances erronées.
« Les personnes de couleur subissent déjà des préjudices disproportionnés en raison des pratiques policières, et il est manifeste que Rekognition pourrait aggraver cette situation », a souligné l’ACLU dans son article. « Une identification, qu’elle soit correcte ou non, pourrait nuire à la liberté des individus, voire leur coûter la vie. »
LA RÉPONSE D’AMAZON. Un représentant d’Amazon a déclaré à The Verge que la **mauvaise calibration** était probablement la raison pour laquelle Rekognition avait fait autant d’erreurs dans l’identification des membres du Congrès. « Bien que 80 pour cent soit un seuil acceptable pour des images de chiens, de chaises ou d’autres contenus de médias sociaux, il n’est pas approprié pour identifier des individus avec un niveau de certitude raisonnable », a précisé le porte-parole. Il a aussi mentionné qu’Amazon préconisait un seuil d’au moins **95 pour cent** dans les situations où des erreurs pourraient avoir des conséquences significatives, notamment pour les forces de l’ordre.
STOP! Bien que tout un chacun puisse accéder à ce système à bas coût (Rekognition, selon son site web, « facture uniquement pour les images traitées, les minutes de vidéo traitées, et les visages stockés »), Amazon fait activement la promotion de Rekognition auprès des agences gouvernementales et policières. Plusieurs d’entre elles utilisent déjà ce service.
L’ACLU n’est pas la seule organisation à demander l’arrêt de cette utilisation; des **actionnaires** et des **employés** d’Amazon ont exhorté la société à interrompre la fourniture de Rekognition aux agences gouvernementales, tout comme des dizaines de **groupes de défense des droits civiques** et des **dizaines de milliers** de membres du public.
À ce jour, Amazon n’a pas indiqué son intention de répondre à ces demandes. Cependant, si les membres du Congrès prenaient pleinement conscience des défaillances du système, cela pourrait les inciter à agir et à suspendre toute utilisation de logiciels de reconnaissance faciale par les forces de l’ordre, comme le demande l’ACLU dans son article.
EN SAVOIR PLUS : La reconnaissance faciale d’Amazon a faussement associé 28 membres du Congrès à des photos de criminalité [ACLU]
En savoir plus sur Rekognition : La surveillance policière reçoit un coup de pouce de…Amazon !
L’ACLU mène des campagnes pour sensibiliser le public et le Congrès aux dangers de la reconnaissance faciale, et appelle à des restrictions sur son utilisation par les agences gouvernementales.
Actuellement, Amazon n’a pas annoncé de mesures spécifiques à ce sujet, malgré la pression croissante des groupes de défense des droits et du public.
Les biais d’algorithmes peuvent exacerber les inégalités existantes, entraînant des résultats injustes dans des domaines critiques tels que la justice criminelle, la sécurité et l’accès aux services.
