Récemment, le département de police de Los Angeles a été contraint de rendre publics des documents concernant leurs algorithmes de **police prédictive** et de **surveillance**. Cela fait suite à une action en justice menée par le **Stop LAPD Spying Coalition**, qui a transmis ces informations à In Justice Today.
Que disent ces documents ? Si vous pensez qu’ils révèlent que les algorithmes de police, qui forcent les agents à surveiller un certain nombre d’individus les considérant comme les plus susceptibles de commettre des crimes, contribuent à maintenir un cycle d’arrestations disproportionnées ciblant les Afro-Américains et d’autres minorités, alors vous avez vu juste.
Il est important de comprendre que les algorithmes, peu importe leur avancée technique, ne fonctionnent qu’avec les données qui leur sont fournies. Si vous alimentez une intelligence artificielle avec des données provenant d’une ville au sujet de situations où le **suralimentation policière** affecte principalement des quartiers à forte densité de population racisée, ne vous attendez pas à des résultats équitables dans la surveillance. Malheureusement, le processus lui-même laisse à désirer.
Les logiciels attribuent des **points** à des individus en fonction de leurs infractions passées ou même simplement parce qu’ils ont été arrêtés ou contrôlés par la police. Ces points servent à estimer la probabilité qu’une personne commette un délit. En se basant sur ces algorithmes pour décider qui devrait être surveillé via des vérifications de probation ou des mandats, cela incite les policiers à surveiller des individus — non pas pour les arrêter directement, mais pour déterminer s’ils doivent le faire. Les personnes ciblées par ces algorithmes peuvent ainsi se retrouver sous une surveillance accrue simplement parce qu’elles ont été associées à des activités criminelles, même si elles n’ont jamais enfreint la loi de leur vie.
De plus, grâce à des recherches en **sciences sociales**, nous savons que lorsqu’on fait systématiquement sentir à des individus qu’ils sont considérés comme des criminels avant même qu’ils n’aient commis un délit, ce n’est pas sans conséquences [Et cela n’a rien de bénéfique.]
Ce ciblage, que la police prétend relier au **taux de criminalité** en baisse à Los Angeles, augmente les obstacles pour ceux qui ont déjà été arrêtés ou condamnés, mais qui tentent de reconstruire leur vie. Avec le fonctionnement de l’algorithme du LAPD, ces personnes peuvent rester considérées comme des « personnes d’intérêt » et faire l’objet d’une surveillance prolongée pendant jusqu’à deux ans après leur dernier contact avec la police.
Cependant, ces interactions avec la police sont souvent inévitables. Par exemple, une personne a été arrêtée par la police **deux fois par jour** sur **quatre jours distincts** au cours de six semaines, ce qui réinitialise le cycle de surveillance à chaque fois.
Il n’y a aucune preuve que le LAPD ait intentionnellement utilisé un algorithme ouvertement **discriminatoire**. Toutefois, ce programme, qui semble être parti d’une simple base de données de personnes associées à des gangs, ne peut être attendu qu’il fonctionne de manière juste alors qu’il repose sur des activités policières empreintes de **biais** et de **préjugés**.
En d’autres termes : la seule façon de lire ce fil Twitter et de ne pas penser à Minority Report, c’est de n’avoir jamais vu ce film ou d’être l’algorithme en question.
FAQ
Pourquoi les algorithmes de police doivent-ils être surveillés ?
Les algorithmes de police doivent être examinés pour s’assurer qu’ils ne reproduisent pas ou n’amplifient pas des biais préexistants dans le système judiciaire, ce qui pourrait conduire à des discriminations injustes.
Quel est l’impact psychologique de cette surveillance constante sur les individus ?
La surveillance constante peut entraîner un sentiment de stigmatisation, d’anxiété et un impact négatif sur la santé mentale des personnes ciblées, même si elles n’ont rien à se reprocher.
Quelles alternatives existent aux algorithmes de police prédictive ?
Des méthodes alternatives comprennent l’utilisation de programmes communautaires, de médiation et d’assistance sociale qui favorisent des approches préventives plutôt que répressives.
Comment les citoyens peuvent-ils s’engager contre les algorithmes discriminatoires ?
Les citoyens peuvent participer à des coalitions, soutenir des actions en justice et plaider pour des législations qui protègent les droits individuels contre des pratiques de surveillance injustes.
Quel est le rôle de la technologie dans la modernisation des corps de police ?
La technologie peut offrir des outils d’analyse, de gestion des ressources et de communication qui, lorsqu’utilisés de manière responsable, peuvent améliorer la sécurité publique sans compromettre les droits civiques.