Suspension de l’utilisation de la reconnaissance faciale chez Sainsbury’s
Un supermarché de Londres a décidé de suspendre temporairement l’utilisation des alertes basées sur la reconnaissance faciale après un incident où un homme a été écarté par erreur d’une caisse libre-service.
Ce qu’il faut retenir
Le 6 août dernier, des employés de Sainsbury’s situé à East Dulwich ont expulsé Matt Arnold, un promoteur de spectacles de 46 ans, suite à une alerte générée par le système Facewatch qui l’avait identifié comme étant impliqué dans un vol antérieur, selon un article du site The Register. Au lieu d’obtenir l’approbation habituelle pour acheter de l’alcool à la caisse automatique, Arnold a rapporté à la BBC que deux responsables étaient intervenus pour lui refuser le service.
Arnold a précisé : « Un membre du personnel a dit que j’avais été identifié par l’IA, et que les caméras m’avaient signalé. »
Un porte-parole de Sainsbury’s a ensuite exprimé des excuses auprès de Mr. Arnold, affirmant que l’incident résultait d’une erreur humaine et non d’un dysfonctionnement de la technologie de reconnaissance faciale. Il a également ajouté que le système était réputé pour sa précision de 99,98 % et que chaque identification faisait l’objet d’une vérification par un manager formé.
Arnold n’est pas le seul à avoir été victime d’une erreur de ce type : cette situation est la deuxième signalée cette année dans les magasins Sainsbury’s. Au cours d’un autre épisode à Elephant and Castle à Londres, un autre client, Warren Rajah, a également été écarté suite à une alerte et le responsable s’est ensuite excusé pour ce malentendu.
Informations supplémentaires
Les outils d’IA, tels que ceux utilisés pour la reconnaissance faciale, sont souvent vantés pour leur capacité à optimiser l’énergie et à prévoir la demande dans divers secteurs. Néanmoins, même si certaines entreprises affirment une haute précision, ces systèmes sont de plus en plus critiqués. Les inquiétudes portent notamment sur les abus potentiels, les risques liés à la sécurité des données, et des coûts sociaux imprévus, comme une pression accrue sur les infrastructures locales ou des factures d’électricité plus élevées.
Sainsbury’s a prévu d’étendre l’utilisation de la reconnaissance faciale à partir de 55 magasins pour atteindre jusqu’à 200 d’ici fin 2026. Selon les déclarations de l’entreprise, 90 % des personnes signalées par le système ne reviennent jamais dans leurs magasins. D’autres enseignes britanniques, telles que Costcutter, Iceland, Spar, et Sports Direct, utilisent également Facewatch.
Que se passe-t-il en ce moment ?
La suspension temporaire du système dans le magasin d’East Dulwich signifie que aucune alerte supplémentaire ne sera émise pendant que le supermarché revoit ses procédures et envisage de former davantage son personnel.
Pour Matt Arnold, la situation soulève des questions plus larges sur l’avenir de ce type de technologie. Il a partagé ses inquiétudes avec la BBC, en disant : « Ce qui m’a dérangé, c’était de penser que c’est peut-être cela le futur : des gens qui obéissent aveuglément aux directives des machines, sans réfléchir aux conséquences. »
FAQ
Quels sont les risques associés à la reconnaissance faciale dans les commerces ?
La reconnaissance faciale peut engendrer des abus, comme des erreurs d’identification, et pose des questions de protection de la vie privée et de sécurité des données.
Comment sont gérées les erreurs dans les systèmes de reconnaissance faciale ?
Les entreprises doivent vérifier chaque identification par un personnel qualifié pour réduire les erreurs et améliorer la précision.
Quels autres supermarchés utilisent la technologie de reconnaissance faciale au Royaume-Uni ?
Des chaînes comme Costcutter, Iceland, Spar et Sports Direct ont également intégré cette technologie dans leur fonctionnement.
Quelle est la réaction du public face à ces technologies ?
De nombreuses personnes s’inquiètent de l’impact social et des conséquences sur la vie privée, craignant un usage excessif de la surveillance.
Quelles mesures de formation sont envisagées par Sainsbury’s ?
Le supermarché envisage d’intensifier la formation de son personnel pour mieux gérer l’utilisation de ces systèmes technologiques et éviter des incidents similaires à l’avenir.
