La technologie de **reconnaissance faciale** d’Amazon Web Services, **Rekognition**, a récemment annoncé une nouvelle fonctionnalité capable de détecter la **peur**.
C’est ce que déclare Amazon ; cependant, étant donné les nombreuses erreurs de cette technologie, il est difficile de croire que cette nouvelle fonctionnalité fonctionne véritablement.
Le lundi, AWS a partagé un article de blog qui détaille plusieurs améliorations apportées à **Rekognition**, notamment la capacité à détecter avec plus de précision **sept compétences émotionnelles** sur le visage d’un individu : heureux, triste, en colère, surpris, dégoûté, calme et confus, avec l’ajout de la peur en tant que huitième émotion.
Amazon a également affirmé avoir optimisé l’estimation de l’**âge** et du **sexe** des utilisateurs. À présent, la technologie offre une gamme plus restreinte pour les diverses tranches d’âge.
Cette annonce a suscité une vague de critiques en ligne. L’économiste du cloud computing, **Corey Quinn**, a souligné que cet avancement arrive à un moment inopportun à la lumière des **controverses récentes** autour de Rekognition.
« AWS fait face à des critiques pour ses ventes de Rekognition au gouvernement fédéral, qui construit en parallèle des camps de concentration pour enfants, et leur réponse est d’améliorer l’estimation de l’âge et la détection de la peur ? » a-t-il **tweeté**. « Si on m’avait demandé quel serait le pire choix à faire en ce moment, je n’aurais jamais pensé à quelque chose d’aussi catastrophique. »
Au-delà du **moment inapproprié**, il y a une réelle inquiétude que la technologie ne fonctionne pas, mais que les forces de l’ordre continuent de s’en fier.
De nombreux tests réalisés sur Rekognition ont mis en lumière ses insuffisances. Le jour suivant la publication de l’article d’AWS, l’**ACLU** de la région Nord-Caifornia a organisé une conférence de presse pour exposer les **résultats d’une nouvelle étude**. Dans ce cas, Rekognition avait faussement identifié un homme sur cinq parmi des photos de **politiques californiens** avec des documents d’arrestation.
« Si vous êtes accusé à tort d’un **arrestation**, quelles en sont les conséquences ? » s’est interrogé **Phil Ting**, un des politiques mal identifiés, durant la conférence. « Cela peut affecter votre recherche d’emploi et votre accès au logement. Les répercussions sont réelles et peuvent toucher des gens concrets. »
Heureusement, au moins une autre **force de l’ordre** qui a testé cette technologie a déjà **cessé de l’utiliser**. Toutefois, il est difficile de savoir combien d’autres continuent de compter sur Rekognition.
Le fait qu’AWS n’ait pas tardé à annoncer ces nouvelles fonctionnalités malgré le contexte actuel pourrait indiquer que l’entreprise est prête à commercialiser son produit à quiconque est intéressé, sans se soucier de l’opinion publique ou de l’efficacité des technologies.
LIRE PLUS : Amazon intègre la détection de la peur et des tranches d’âge dans sa technologie de reconnaissance faciale alors que la Border Patrol envisage un contrat de 950 millions de dollars. [Business Insider]
En savoir plus sur Rekognition : Les forces de police utilisent la technologie de reconnaissance faciale sur des suspects inconscients.
FAQ
Qu’est-ce que Rekognition ?
Rekognition est une technologie de reconnaissance faciale développée par Amazon Web Services, permettant d’analyser des visages pour détecter plusieurs émotions et attribuer des caractéristiques comme l’âge et le sexe.
Quelles sont les émotions détectées par Rekognition ?
Actuellement, Rekognition peut détecter huit émotions : heureux, triste, en colère, surpris, dégoûté, calme, confus et peur.
Quelles sont les controverses liées à l’utilisation de Rekognition ?
Les critiques portent sur des questions de précision et de biais raciaux, ainsi que sur des préoccupations éthiques concernant l’utilisation de cette technologie par les forces de l’ordre.
Y a-t-il eu des exemples concrets de défaillances de Rekognition ?
Oui, des tests ont montré que Rekognition a fourni des résultats incorrects, comme avoir identifié un sur cinq des politiques californiens comme des criminels dans un test.
Que fait ACLU concernant Rekognition ?
L’ACLU surveille et critique l’utilisation de Rekognition, notamment en tenant des conférences pour exposer des résultats de tests montrant ses insuffisances et appelant à une plus grande régulation de la technologie.
