Une situation préoccupante liée à la reconnaissance faciale
Un couple britannique a récemment vécu une expérience troublante : après plusieurs mois sans fréquenter un supermarché particulier, ils se sont vus contraints de quitter les lieux en raison d’un système de reconnaissance faciale alimenté par l’intelligence artificielle qui les a identifiés à tort.
Les dangers des systèmes de surveillance
Les systèmes de surveillance utilisant l’IA sont de plus en plus présents dans les magasins du Royaume-Uni et ailleurs, mais ils peuvent souvent faire des erreurs. Des organisations comme Futurism et TechRadar ont rapporté des incidents où des clients ont été faussement désignés comme voleurs. Dans le cas du couple, la femme a été accusée de voler « une grande quantité de viande » par une chaîne de magasins appelée Budgens. Quant à son mari, il était visiblement bouleversé et tremblait de peur suite à cette accusation infondée.
Une autre affaire similaire a eu lieu dans un magasin Home Bargains où le système de reconnaissance faciale a également identifié le mari comme un voleur, entraînant l’expulsion immédiate du couple sans possibilité de contester ces accusations. Ce dernier a confié qu’il était désormais terrifié à l’idée d’entrer dans les magasins.
Les implications des accusations erronées
Les conséquences de telles accusations fausses peuvent être graves. Selon Futurism, ces incidents nuisent non seulement à l’accès des personnes à certaines entreprises locales, mais provoquent aussi un stress considérable lorsque les individus ne peuvent pas défendre leur honneur.
L’usage croissant de l’intelligence artificielle soulève également des préoccupations environnementales. Les infrastructures nécessaires au fonctionnement de ces technologies requièrent une consommation énergétique importante, et leur refroidissement demande même des ressources en eau. Bien que l’IA ait le potentiel d’optimiser les systèmes d’énergie propre, elle engendre aussi de nouvelles demandes en ressources et des risques d’abus.
Quelles solutions envisager ?
Pour les clients britanniques qui cherchent à prouver leur bonne foi après de telles expériences, il est possible d’effectuer une demande d’accès à des informations personnelles (SAR). Cela leur permet de comprendre les raisons des accusations portées contre eux. Cependant, cela peut aussi signifier fournir encore plus de données personnelles à ces entreprises.
Il est important de noter qu’une demande d’informations ne garantit pas nécessairement la correction de la situation ni la levée d’une interdiction d’entrée dans le magasin. Les témoignages de personnes confrontées à cette bureaucratie montrent à quel point le processus pour laver leur nom peut être difficile.
Jack Coulson, un responsable d’organisation pour les libertés civiles chez Big Brother Watch, a souligné le poids immense que représentent ces accusations non fondées. Il évoque un véritable « enfer bureaucratique » où les victimes doivent naviguer dans un dédale de formalités pour même entendre les accusations portées contre eux.
Comment approfondir le sujet ?
Les préoccupations concernant les accusations de vol à l’étalage au moyen de la reconnaissance faciale ne sont qu’un aspect des enjeux liés à cette technologie.
-
Une femme en Floride a connu une expérience traumatisante, se retrouvant en isolement à la suite d’une identification erronée par une caméra.
-
Au Royaume-Uni, la fonction de tagging facial de Ring suscite des craintes sur la surveillance de masse continue des citoyens.
-
Une start-up dénommée Outlit promeut des agents d’IA destinés à suivre chaque client, arguant que cela aide les entreprises à fidéliser leur clientèle.
-
Aux États-Unis, l’utilisation des tarifs en fonction des clients, grâce à l’IA et à des étiquettes numériques, soulève des inquiétudes sur la possibilité de prix biaisés.
-
Une employée du New Jersey a affirmé que des caméras d’IA prenaient des photos d’elle chez elle toutes les trois minutes avant son licenciement.
FAQ
Qu’est-ce qu’une demande d’accès à des informations personnelles (SAR) ?
Une SAR est un moyen légal permettant à une personne de demander à une entreprise ou à une organisation de lui fournir toutes les informations personnelles qu’elle détient à son sujet, afin de vérifier leur exactitude et leur utilisation.
Quels sont les risques associés à l’utilisation de la reconnaissance faciale ?
La reconnaissance faciale peut mener à des erreurs d’identification, à la violation de la vie privée, et à des abus potentiels dans la surveillance des individus, entraînant des conséquences juridiques et personnelles.
Comment protéger mes données personnelles dans un magasin ?
Il est conseillé d’être vigilant et de se renseigner sur les politiques de confidentialité des entreprises. Limiter l’utilisation de données personnelles et poser des questions sur la manière dont ces données sont traitées peut aider à protéger votre vie privée.
Quels recours existe-t-il en cas d’accusation erronée ?
En cas d’accusation incorrecte, il est possible de demander des explications à l’entreprise concernée, de porter plainte auprès de l’autorité de protection des données ou de consulter un avocat spécialisé en droit des consommateurs.
L’intelligence artificielle peut-elle être bénéfique ?
Bien que l’IA puisse poser des défis éthiques et des préoccupations en matière de vie privée, elle offre également des avantages, tels que l’optimisation de l’énergie, l’amélioration des soins de santé ou l’augmentation de l’efficacité opérationnelle dans divers secteurs.
