Inscription à la Newsletter
Inscrivez-vous pour découvrir dès aujourd’hui les innovations qui forgeront le futur. Ne manquez pas les avancées impressionnantes au cœur de la science et de la technologie qui ne cessent de progresser.
Problèmes Rémanents
Il est évident qu’Amazon n’a pas encore résolu les problèmes liés à son logiciel de reconnaissance faciale, Rekognition. Ce programme est largement utilisé par les forces de l’ordre et les services d’immigration, mais il est souvent critiqué pour ses nombreuses erreurs, notamment lorsqu’il a confondu les visages de membres du Congrès avec ceux présents dans une base de données de photos d’arrestation. Des études récentes révèlent que Rekognition excelle généralement sur les visages d’hommes blancs, mais rencontrent de grandes difficultés pour reconnaître les femmes à la peau claire et toute personne à la peau plus foncée.
Biais de Genre
Une étude récente menée par le MIT et l’Université de Toronto met en avant un biais notable dans le logiciel. Quand des visages de femmes à la peau claire sont présentés, Rekognition les identifie incorrectement comme des hommes dans 19 % des cas. Pour les femmes à la peau foncée, cette erreur grimpe à 31 %. Cette recherche sera présentée lors de la prochaine conférence sur l’intelligence artificielle, l’éthique et la société.
Amazon a répondu à ces critiques en affirmant que les chercheurs n’avaient pas utilisé la version la plus récente de Rekognition. Cette défense rappelle les réactions précédentes de l’entreprise face aux critiques, mais elle ne fait pas état du problème fondamental soulevé par les chercheurs.
Un Système Défaillant
Les scientifiques ne se contentent pas de demander une amélioration de la détection par les systèmes de surveillance. Ils aspirent à une régulation appropriée de ces technologies pour garantir qu’elles ne soient pas utilisées abusivement par les autorités ou d’autres parties. Ils indiquent que la simple réduction des erreurs algorithmiques pour certaines sous-catégories ne suffit pas ; un changement complet dans le développement, le déploiement et la régulation des technologies d’analyse faciale est nécessaire pour garantir l’équité.
À LIRE AUSSI : Découvrez les biais de genre et raciaux dans la technologie de reconnaissance faciale d’Amazon (encore une fois).
FAQ
Quels sont les risques de la technologie de reconnaissance faciale ?
Les risques incluent des violations de la vie privée, des erreurs d’identification pouvant mener à des arrestations injustifiées, et des discriminations en raison des biais d’algorithmes.
Comment la technologie de reconnaissance faciale est-elle régulée ?
La régulation varie selon les régions, certaines juridictions imposant des lois strictes, tandis que d’autres n’ont pas de cadre légal spécifique pour encadrer son utilisation.
Quelle est la position d’Amazon sur les critiques de Rekognition ?
Amazon a souvent minimisé les critiques en affirmant que les études n’utilisent pas les versions les plus récentes de leur logiciel et insiste sur le fait que différents systèmes d’analyse et de reconnaissance sont séparés.
Y a-t-il des alternatives à Rekognition ?
Oui, plusieurs entreprises développent des solutions de reconnaissance faciale, mais toute technologie doit être examinée pour ses implications éthiques et son impact potentiel sur la société.
Pourquoi est-il important de réguler la technologie de reconnaissance faciale ?
La régulation est cruciale pour prévenir des abus potentiels par les forces de l’ordre et protéger les droits individuels, surtout dans un contexte où la technologie évolue rapidement.
