Inscrivez-vous pour découvrir l’avenir, dès aujourd’hui.
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Ne manquez pas les innovations clés à la pointe de la science et de la technologie.</p>
</div>
</div>
</div>
VOUS NE ÊTES PAS CONFORME. L’American Civil Liberties Union (ACLU) a récemment dépensé une somme de **12,33 dollars** pour évaluer un système qui pourrait, littéralement, mettre en danger des vies humaines. Ce jeudi, l’organisme à but non lucratif, qui vise à défendre les droits des citoyens américains, a publié un article de blog sur ses essais avec **Rekognition**, un outil de reconnaissance faciale développé par **Amazon**.
En utilisant le seuil de confiance par défaut de **80 pour cent** de Rekognition (ce qui signifie que le système est **80 pour cent certain** de son exactitude lorsqu’il signale une correspondance), l’ACLU a passé en revue une base de données de **25 000 photos de criminalité** disponibles publiquement, cherchant à les associer aux portraits de tous les membres en fonction du Congrès, tant au Sénat qu’à la Chambre des représentants.
Le résultat fut que Rekognition a identifié à tort **28 membres du Congrès** comme étant représentés sur ces photos, bien que ces correspondances étaient erronées.
LA POLICE ET LES PERSONNES DE COULEUR. Non seulement Rekognition a fait des erreurs en pensant que ces 28 congressistes étaient les mêmes que sur les photos, mais les individus mal identifiés étaient en grande partie issus de **minorités raciales**. Selon l’ACLU, alors que les personnes de couleur représentent seulement **20 pour cent** du Congrès, elles constituaient **39 pour cent** des correspondances erronées.
« Les personnes de couleur subissent déjà des préjudices disproportionnés en raison des pratiques policières, et il est manifeste que Rekognition pourrait aggraver cette situation », a souligné l’ACLU dans son article. « Une identification, qu’elle soit correcte ou non, pourrait nuire à la liberté des individus, voire leur coûter la vie. »
LA RÉPONSE D’AMAZON. Un représentant d’Amazon a déclaré à The Verge que la **mauvaise calibration** était probablement la raison pour laquelle Rekognition avait fait autant d’erreurs dans l’identification des membres du Congrès. « Bien que 80 pour cent soit un seuil acceptable pour des images de chiens, de chaises ou d’autres contenus de médias sociaux, il n’est pas approprié pour identifier des individus avec un niveau de certitude raisonnable », a précisé le porte-parole. Il a aussi mentionné qu’Amazon préconisait un seuil d’au moins **95 pour cent** dans les situations où des erreurs pourraient avoir des conséquences significatives, notamment pour les forces de l’ordre.
STOP! Bien que tout un chacun puisse accéder à ce système à bas coût (Rekognition, selon son site web, « facture uniquement pour les images traitées, les minutes de vidéo traitées, et les visages stockés »), Amazon fait activement la promotion de Rekognition auprès des agences gouvernementales et policières. Plusieurs d’entre elles utilisent déjà ce service.
L’ACLU n’est pas la seule organisation à demander l’arrêt de cette utilisation; des **actionnaires** et des **employés** d’Amazon ont exhorté la société à interrompre la fourniture de Rekognition aux agences gouvernementales, tout comme des dizaines de **groupes de défense des droits civiques** et des **dizaines de milliers** de membres du public.
À ce jour, Amazon n’a pas indiqué son intention de répondre à ces demandes. Cependant, si les membres du Congrès prenaient pleinement conscience des défaillances du système, cela pourrait les inciter à agir et à suspendre toute utilisation de logiciels de reconnaissance faciale par les forces de l’ordre, comme le demande l’ACLU dans son article.
Rekognition est un système de reconnaissance faciale développé par Amazon, destiné à identifier et à analyser des visages dans des images et des vidéos.
Quels sont les risques associés à l’utilisation de la reconnaissance faciale ?
Les principaux risques incluent des identifications erronées pouvant entraîner des violations de droits civiques, ainsi que des biais systémiques qui peuvent désavantager certaines communautés, en particulier les minorités.
Comment l’ACLU se mobilise-t-elle contre cette technologie ?
L’ACLU mène des campagnes pour sensibiliser le public et le Congrès aux dangers de la reconnaissance faciale, et appelle à des restrictions sur son utilisation par les agences gouvernementales.
Amazon prévoit-elle des changements suite aux critiques ?
Actuellement, Amazon n’a pas annoncé de mesures spécifiques à ce sujet, malgré la pression croissante des groupes de défense des droits et du public.
Pourquoi est-il important de prendre en compte les biais des algorithmes ?
Les biais d’algorithmes peuvent exacerber les inégalités existantes, entraînant des résultats injustes dans des domaines critiques tels que la justice criminelle, la sécurité et l’accès aux services.
