L’intégration de l’IA dans les forces de l’ordre : une promesse fragile
Les agences de police à travers le globe ont précipité l’intégration de l’intelligence artificielle dans leurs enquêtes, promettant des arrestations plus rapides et de meilleurs taux de clôture des affaires. Cependant, le nombre croissant d’arrestations injustifiées attribuées aux systèmes de reconnaissance faciale fait ressortir une réalité préoccupante : rapidité et exactitude sont loin d’être synonymes.
Problèmes croissants liés à la reconnaissance faciale
Si l’on peut facilement imputer les arrestations erronées à des logiciels de reconnaissance faciale défectueux, un phénomène encore plus inquiétant émerge. Des policiers utilisant l’IA semblent non seulement se tromper en identifiant des suspects, mais ils pourraient également en venir à fabriquer des preuves.
Enquête sur un policier en Angleterre
Récemment, le BBC a rapporté qu’un agent des forces de l’ordre du comté de Derbyshire, en Angleterre, est sous enquête pour avoir prétendument employé une forme d’IA générative afin de « créer des éléments de preuve dans plusieurs affaires ». Bien que cet agent n’ait pas encore été arrêté, il a été suspendu en attendant les résultats de l’enquête, menée par la police de Derbyshire et le Bureau du Procureur de la Couronne.
Selon un porte-parole de la police de Derbyshire, une enquête criminelle a été ouverte suite à des allégations de détournement du cours de la justice, en raison de l’utilisation présumée de systèmes d’IA par cet agent.
Une première au Royaume-Uni
Cet événement marque un précédent au Royaume-Uni, et il survient quelques jours après que le tout nouveau centre national PoliceAI ait publié des recommandations exhortant les policiers à arrêter l’utilisation de l’IA générative pour la rédaction de déclarations judiciaires, soulignant la tendance de cette technologie à produire des erreurs.
Alex Murray, le responsable du centre PoliceAI, a indiqué aux forces de police concernées qu’elles ne doivent pas continuer cette pratique, insuffisamment vérifiée, et a plaidé pour une approche plus prudente.
Comparaisons inquiétantes
Il est important de noter que, bien que certaines erreurs dues à des hallucinations d’IA puissent provenir de la négligence (comme un cas aux États-Unis où la police a rapporté qu’un officier s’était transformé en grenouille), la gravité de l’enquête en cours à Derbyshire laisse penser que ce n’est pas le cas ici.
Cette situation fait écho à celle de certains agents de l’État du Maine, qui avaient été surpris l’année dernière en train de publier des photos d’une razzia de drogues manifestement truquées à l’aide de l’IA générative.
En savoir plus sur l’IA
Alarmant : Des réseaux de caméras utilisant l’IA sont employés par la police pour surveiller les femmes.
FAQ
Qu’est-ce que l’IA générative ?
L’IA générative est une technologie qui peut créer du contenu, y compris des textes et images, en se basant sur des modèles existants. Ce type d’IA est souvent utilisé pour automatiser des tâches, mais pose également des questions éthiques lorsque utilisé dans des contextes sensibles, comme les enquêtes policières.
Quelles sont les conséquences d’une arrestation injustifiée ?
Une arrestation injustifiée peut détruire des vies, engendrer des traumatismes psychologiques et éroder la confiance du public envers les forces de l’ordre. Elle peut également entraîner des poursuites judiciaires coûteuses pour les agences concernées.
Comment se prémunir contre les erreurs de l’IA dans la police ?
La formation des agents sur les limites des technologies d’IA et l’instauration de protocoles de vérification rigoureux sont essentielles pour éviter les erreurs et les abus associés à l’utilisation de l’IA dans les enquêtes policières.
Quels progrès l’IA peut-elle offrir dans le domaine de la police ?
Malgré les défis, l’IA peut améliorer l’efficacité des enquêtes, aider à analyser de grandes quantités de données et contribuer à une prise de décision plus rapide dans des situations critiques, si utilisée avec prudence et responsabilité.
Cela peut vous intéresser
