L’essor de l’intelligence artificielle promet efficacité et simplicité. Mais lorsqu’il s’agit d’inclusion, son bilan reste fragile. En s’entraînant sur d’immenses volumes de contenus en ligne, les systèmes reproduisent, souvent sans le vouloir, des biais sociaux déjà présents dans la société.
Quand l’IA renforce des inégalités bien réelles
De nombreux outils basés sur la reconnaissance faciale ou l’analyse d’images n’évaluent pas tous les visages de la même manière. Ils ont tendance à amplifier des préjugés liés à la race, au genre ou à l’orientation sexuelle. S’ajoute un angle mort majeur : le handicap et, plus largement, les différences visibles. Lorsqu’un algorithme “apprend” à partir d’images qui reflètent surtout des normes esthétiques dominantes, certains visages sont perçus comme “atypiques” et sont plus souvent rejetés.
Conséquence : ce qui devrait être un simple contrôle se transforme parfois en parcours d’obstacles. De l’ouverture d’un compte en ligne à l’accès à des services essentiels, ces barrières technologiques touchent en premier lieu celles et ceux qui ne rentrent pas dans le moule statistique des modèles.
Une démarche administrative qui vire à l’épreuve
Imaginez une scène banale : une personne mariée récemment se rend à l’administration pour mettre à jour son permis. On lui demande une nouvelle photo. Le dispositif de vérification d’identité automatisé refuse l’image. On réessaie. Nouveau refus. Les essais s’enchaînent, le regard des autres pèse, la situation devient gênante, presque humiliante.
La personne concernée vit avec une maladie génétique rare qui affecte les muscles du visage, en particulier autour de la bouche. Son visage n’entre pas dans les schémas attendus par le système. Le message implicite est violent : l’outil insinue qu’elle n’a pas un “vrai” visage humain. Ici, la technologie ne se contente pas d’échouer : elle déshumanise.
Ce que recouvrent les “différences visibles”
Il n’existe pas de liste officielle, mais on parle de différence visible lorsqu’une marque, une cicatrice ou une condition physique rend l’apparence distincte des standards. Cela peut concerner :
- des taches de naissance ou des brûlures,
- des conditions craniofaciales,
- des affections cutanées (par exemple le vitiligo),
- la perte de cheveux,
- des maladies héréditaires comme la neurofibromatose.
Plusieurs personnes concernées décrivent la même frustration au quotidien : filtres de selfie qui déforment les traits, échecs répétés des applications bancaires lors de la vérification faciale, portiques d’embarquement qui bloquent l’accès, procédures de support client interminables. Chaque interaction devient un test supplémentaire, où l’erreur de la machine retombe sur l’usager.
Quand l’accès aux services dépend d’une “preuve” faciale
À mesure que l’on verrouille des pans entiers de la vie quotidienne derrière des contrôles automatisés, une question cruciale s’impose : qui y gagne, et qui en est exclu ? Si les systèmes accélèrent le traitement pour la majorité, ils complexifient la vie de celles et ceux dont l’apparence ou la motricité ne coïncident pas avec les attentes des modèles. Le risque : créer une société à deux vitesses, où l’accès aux droits dépend du bon vouloir d’un algorithme.
Comment rendre ces systèmes réellement inclusifs
Pour réduire ces échecs et leurs impacts, plusieurs leviers concrets existent :
- Élaborer des jeux de données plus diversifiés, incluant largement les personnes en situation de handicap et les différences visibles.
- Mettre en place des tests d’accessibilité systématiques avec des panels représentatifs et des audits indépendants centrés sur les biais.
- Prévoir des parcours alternatifs à la reconnaissance faciale (vérification humaine, codes secondaires, documents complémentaires) et offrir un droit au recours clair et rapide.
- Imposer de la transparence : expliquer quand et comment la reconnaissance faciale est utilisée, et permettre un opt-out sans pénalisation.
- Former le personnel des services publics et privés aux limites de ces outils pour éviter les situations humiliantes et accélérer la résolution.
L’objectif n’est pas d’abandonner la technologie, mais de la recentrer sur l’humain. Une IA réellement utile ne se contente pas d’être performante en moyenne : elle doit être fiable pour toutes et tous, surtout pour celles et ceux que les systèmes oublient trop souvent.
FAQ
La reconnaissance faciale et la “vérification de liveness”, est-ce la même chose ?
Non. La reconnaissance faciale compare un visage à une identité. La “liveness” vérifie qu’il s’agit d’une personne bien réelle (et non d’une photo ou d’une vidéo). Les deux peuvent coexister et échouer différemment.
Que faire si un service refuse mon visage à plusieurs reprises ?
Demandez immédiatement une alternative : contrôle humain, autre document, vérification en agence. Exigez la traçabilité de l’incident et un canal d’escalade. Gardez des preuves (captures, messages) en cas de réclamation.
Comment les organisations peuvent-elles mesurer leurs biais ?
En conduisant des tests différenciés par groupes (âge, genre, teints de peau, différences visibles, appareils utilisés), en publiant des taux d’erreur segmentés, et en réalisant des audits externes réguliers.
Les filtres “embellisseurs” sont-ils problématiques pour l’inclusion ?
Oui, ils renforcent des normes esthétiques étroites et peuvent dégrader la performance des modèles quand l’image filtrée ne correspond pas au visage réel, augmentant les erreurs en vérification.
Existe-t-il un cadre légal en Europe ?
Le RGPD encadre fortement les données biométriques. Le futur règlement européen sur l’IA prévoit des obligations accrues de gestion des risques, de transparence et d’audit, notamment pour les usages sensibles comme la biométrie.