Éthique des caméras corporelles
Axon, le principal fournisseur de caméras corporelles et de logiciels pour les forces de l’ordre aux États-Unis, a récemment décidé de ne plus utiliser de systèmes de reconnaissance faciale alimentés par l’intelligence artificielle pour ses dispositifs. Cela a été rapporté par Le New York Times. L’analyse de l’organe éthique indépendant de la société a révélé que cette technologie n’est pas encore assez fiable pour justifier son utilisation éthique.
Selon cette évaluation, les technologies de reconnaissance faciale ne garantissent pas une précision suffisante, en particulier en raison de biais importants liés à la race, à l’ethnicité, et au genre. Axon, qui était précédemment connu sous le nom de Taser, fournit des caméras corporelles, des armes non létales et même des drones aux agences de police. Ce revirement de la part d’Axon souligne les préoccupations croissantes à propos de la technologie.
L’organe éthique a fortement recommandé d’attendre une amélioration des performances de la reconnaissance faciale avant de l’implémenter sur des caméras portées par des agents. Ils ont également soulevé la question de la possibilité d’une justification éthique pour cette technologie dans le futur.
Une tendance en pleine expansion
Cette décision d’Axon survient après que San Francisco a été la première ville des États-Unis à interdire l’utilisation de logiciels de reconnaissance faciale par la police et d’autres agences municipales. Même des entreprises comme Microsoft ont refusé des demandes des forces de l’ordre pour utiliser leur technologie de reconnaissance faciale, craignant que cela ne viole les droits fondamentaux des gens.
À l’international, la technologie est de plus en plus adoptée. Par exemple, des policiers à Zhengzhou, en Chine, ont été vus portant des lunettes équipées de reconnaissance faciale. En 2017, il n’a fallu que sept minutes au réseau de caméras de CCTV de la Chine pour identifier un reporter de la BBC.
Biais biométriques
Les controverses autour de la reconnaissance faciale dans la police se basent sur le fait que ces systèmes, dans leur état actuel, ont des difficultés majeures à distinguer les personnes en fonction de leur ethnicité ou de leur genre. L’évaluation éthique d’Axon a révélé que la technologie ne fonctionne pas aussi efficacement sur les personnes de couleur ou sur les femmes comparativement aux hommes.
Des études réalisées par le MIT ont démontré que le système de reconnaissance faciale d’Amazon, appelé Rekognition, éprouve de grandes difficultés à identifier le genre des femmes ou des personnes à la peau foncée. De plus, une expérience menée par l’ACLU a montré que ce logiciel avait fait des erreurs en associant à tort des membres du Congrès à des fiches de malfaiteurs.
Éviter des dérives
Bien qu’Axon n’ait pas déployé de logiciel de reconnaissance faciale sur ses caméras pour le moment, l’entreprise a annoncé qu’elle ne le commercialiserait pas à l’heure actuelle. Toutefois, cela ne signifie pas qu’elle abandonne complètement cette technologie. Ils envisagent de travailler avec des chercheurs pour neutraliser les biais dans les données d’entraînement et les algorithmes, ce qui pourrait permettre de réévaluer leur position future.
À lire également : Une entreprise majeure de caméras corporelles interdit la reconnaissance faciale
Plus d’informations sur la reconnaissance faciale : Des policiers attrapent un sosie de Woody Harrelson grâce à la reconnaissance faciale.
FAQ
Qu’est-ce que la reconnaissance faciale ?
La reconnaissance faciale est une technologie qui permet d’identifier ou de vérifier l’identité d’une personne en analysant ses traits faciaux via des algorithmes.
Pourquoi y a-t-il des préoccupations éthiques concernant la reconnaissance faciale ?
Les préoccupations éthiques proviennent principalement des biais raciaux et de genre que ces technologies peuvent perpétuer, ce qui peut entraîner des discriminations dans des contextes tels que la police.
Quelles alternatives existent à la reconnaissance faciale ?
Des alternatives incluent des méthodes d’identification basées sur des empreintes digitales ou d’autres formes de biométrie moins sujettes aux biais.
Quel est le rôle d’Axon dans le domaine de la technologie policière ?
Axon fournit des caméras corporelles, des armes non létales et des drones pour aider les forces de l’ordre à exercer leur fonction de manière efficace et sécurisée.
Comment les forces de l’ordre peuvent-elles garantir l’éthique dans l’utilisation de nouvelles technologies ?
Les forces de l’ordre doivent collaborer avec des experts en éthique, tester ces technologies de manière rigoureuse et être transparentes sur leur déploiement afin d’assurer une utilisation responsable.