Des erreurs judiciaires inquiétantes
Les forces de l’ordre de Floride doivent reconnaître leurs erreurs après avoir arrêté un homme au hasard en août 2024, sur la base d’une piste fournie par un logiciel de reconnaissance faciale. Cet homme, Robert Dillon, a été injustement accusé d’un crime horrible alors qu’il était totalement innocent.
Une arrestation choquante
Robert Dillon, résidant dans le comté de Lee en Floride, a été stupéfait lorsque des policiers l’ont extrait de son domicile, l’accusant d’avoir tenté de lurer un enfant de 12 ans dans une autre région de l’État en novembre 2023.
Un rapport de police, consulté par le média local Action News Jax, a révélé que Dillon avait été désigné comme le suspect grâce à un logiciel d’intelligence artificielle (IA) utilisé par le bureau du shérif de Jacksonville et le département de police de Jacksonville Beach, qui l’avaient relié à des images de vidéo-surveillance. Le logiciel avait déterminé qu’il était un « correspondance à 93% ».
Identification erronée
Lorsqu’on a présenté la photo de Dillon à deux témoins, ainsi qu’à d’autres personnes ayant des ressemblances, les deux ont identifié cet homme de 51 ans comme le suspect, conduisant à son arrestation, neuf mois après que le crime supposé ait eu lieu.
Des séquences de vidéo des caméras corporelles montrées par ANJax montrent clairement que Dillon et sa femme étaient profondément perturbés par cette accusation. « C’est complètement fou. Mon Dieu, c’est insensé ! » a réagi Dillon alors qu’il était placé dans une voiture de police. Il a également mentionné qu’il n’avait pas quitté Fort Myers depuis deux ans.
Une tendance préoccupante
L’incident de Dillon est loin d’être isolé. De plus en plus d’arrestations injustifiées en raison de l’utilisation de l’IA sont signalées. Cela soulève de sérieuses préoccupations alors que de nombreux départements de police choisissent de déléguer leurs enquêtes à des logiciels algorithmiques, souvent peu fiables.
Aux États-Unis, les forces de l’ordre s’appuient de plus en plus sur des technologies d’intelligence artificielle qui croisent des ensembles de données, y compris des informations d’enregistrement des conducteurs et des images de vidéosurveillance. Ces systèmes sont connus pour leur imprécision, ce qui rend leur utilisation problématique, en particulier lorsqu’il s’agit de décisions qui peuvent avoir des conséquences juridiques graves.
Problèmes de constitutionnalité
Même si cette technologie pouvait un jour identifier correctement un suspect — ce qui est discutable étant donné ses échecs répétés — la Constitution américaine exige qu’il y ait une cause probable pour effectuer une arrestation. Selon des experts juridiques, l’IA ne peut pas fournir cette cause.
« La Constitution ne permet pas d’arrêter quelqu’un sans cause probable, » a déclaré Nate Freed-Wessler, directeur adjoint du projet de l’ACLU consacré à la liberté d’expression, à la vie privée et à la technologie. Il a souligné que l’IA est tellement défectueuse et imprévisible qu’elle ne peut être considérée comme une base fiable pour des arrestations.
Évitement de responsabilité
L’utilisation de ces technologies entraîne également un détournement de responsabilité de la part des agences policières. Dans le cas de Dillon, les deux départements de police concernés se sont relégués la responsabilité. Le shérif de Jacksonville a exprimé sa frustration, indiquant que si un rapport basé sur une reconnaissance faciale était présenté comme preuve probable, il n’hésiterait pas à le rejeter.
De même, les policiers qui ont arrêté Dillon ont déclaré : « Ce n’est pas notre enquête, c’est tout Jacksonville. » Ainsi, chaque agence tentait d’échapper à sa responsabilité.
Au moment où il est devenu évident qu’ils avaient commis une erreur, les deux agences ont renvoyé la responsabilité à l’État de Floride. Le département de police de Jacksonville Beach a déclaré qu’il ne ferait pas de commentaires supplémentaires, affirmant que toutes les demandes de mandat étaient envoyées au bureau de l’avocat de l’État.
Poursuites judiciaires
En conséquence, Robert Dillon envisage maintenant de demander des réparations juridiques pour son arrestation injuste. Si des poursuites similaires sont un indicateur, cet incident pourrait coûter cher aux contribuables de Jacksonville.
FAQ
H4: Qu’est-ce que la reconnaissance faciale ?
La reconnaissance faciale est une technologie qui utilise des algorithmes pour identifier et vérifier des individus basés sur des images de leur visage. Elle est de plus en plus utilisée par les forces de l’ordre.
H4: Quels sont les risques de l’utilisation de l’IA dans la police ?
Les risques incluent des arrestations inappropriées, des violations de la vie privée et un manque de transparence dans les décisions judiciaires. Ces outils peuvent également renforcer des biais existants.
H4: Est-ce que les erreurs d’IA sont courantes ?
Oui, il a été prouvé que la technologie de reconnaissance faciale est souvent peu précise, surtout lorsqu’il s’agit de personnes issues de groupes minoritaires, ce qui peut entraîner des erreurs graves.
H4: Comment les citoyens peuvent-ils se protéger contre les abus ?
Les citoyens peuvent demander davantage de transparence concernant l’utilisation de l’IA par les forces de l’ordre et plaider pour des lois qui régulent son utilisation afin de protéger leurs droits.