Un regard critique sur l’utilisation de l’IA par la police
Une adoption controversée de l’IA
L’usage d’outils intégrant l’intelligence artificielle devient de plus en plus courant parmi les forces de police à travers le monde. Cependant, cette tendance suscite de nombreuses controverses. Les modèles linguistiques de grande taille, souvent sujets à des erreurs, perturbent les opérations des forces de l’ordre, entraînant des répercussions graves telles que des rapports de police erronés, des preuves falsifiées par IA, et même des cas de harcèlement facilités par des caméras de surveillance connectées.
Un incident troublant à Vancouver
Un des incidents les plus récents a eu lieu à Vancouver, où la police a provoqué un vif débat après avoir partagé sur X (anciennement Twitter) une image d’une saisie de drogue, étiquetée « faite avec l’IA ». Selon le rapport de (CTV News), la photo montrait un butin peu impressionnant, comprenant de l’argent liquide et une petite quantité de différentes drogues.
À première vue, l’image ne semble pas altérée, contrairement à ce que l’étiquette pourrait insinuer. Pourtant, une inspection plus attentive révèle des erreurs flagrantes, comme des billets de 50 $ mal étiquetés comme des billets de 20 $, et un billet de 100 $ qui apparaît comme « 00 ».
Une justification déroutante
Lorsque CTV a interrogé le sergent Adam Donalson sur le motif de l’utilisation de l’IA pour modifier l’image, sa réponse a été troublante : « nous avons utilisé un logiciel pour supprimer les noms des accusés ». Cela soulève des questions, surtout quand on sait que l’image originale montrait les objets illégaux disposés sur un morceau de carton et annotés à la main.
Pourquoi la police de Vancouver a-t-elle cru nécessaire d’afficher les noms des accusés dans un premier temps, si l’objectif était de publier une image en ligne ?
Donalson a ensuite précisé que l’image générée par l’IA avait été supprimée et remplacée par la photo d’origine, recadrée pour exclure les noms. Cela complique encore davantage la situation.
Un scepticisme généralisé
Cette utilisation de l’IA pour des images a déjà suscité des inquiétudes, et les citoyens de Vancouver n’ont pas manqué de réagir à cette appropriation de la technologie. Même si c’était juste pour recadrer une photo, beaucoup ont exprimé leur mécontentement. Un utilisateur mécontent a souligné que la police avait projeté une image générée par l’IA, présentant des preuves falsifiées devant le public, y compris des jurés potentiels, ce qui pourrait compromettre l’intégrité de l’affaire.
Un autre commentaire sarcastique a fait remarquer : « Où est la photo AI que vous avez publiée plus tôt ? », faisant allusion à un manque de transparence qui pourrait miner la confiance du public envers les forces policières.
Conclusion
Cette situation soulève des questions cruciales sur l’utilisation admissible de l’IA dans les enquêtes policières. Les risques d’erreurs et de manipulations posent de sérieux défis à l’intégrité du travail des forces de police et la confiance du public.
FAQ
Quelles sont les limites de l’utilisation de l’IA par les forces de l’ordre ?
Les forces de l’ordre doivent veiller à ce que l’IA ne compromette pas l’intégrité des enquêtes. La mauvaise utilisation de l’IA peut entraîner des erreurs dans les preuves, ce qui pourrait avoir des conséquences sur les procédures légales.
L’IA peut-elle remplacer entièrement un policier sur le terrain ?
Non, l’IA peut aider à certaines tâches comme l’analyse de données ou la surveillance, mais elle ne peut pas remplacer le jugement humain, surtout dans des situations complexes requérant une intervention directe.
Quels sont les enjeux éthiques autour de l’utilisation de l’IA dans la police ?
Les enjeux éthiques incluent la confidentialité des citoyens, le respect des droits et le potentiel de discrimination si les algorithmes ne sont pas correctement conçus ou utilisés.
Comment le public réagit-il généralement à l’utilisation de l’IA par la police ?
Les réactions varient; certaines personnes voient l’IA comme un moyen d’améliorer l’efficacité, alors que d’autres expriment des réserves sur la transparence et l’éthique, surtout après des incidents comme celui de Vancouver.
Existe-t-il des lois régissant l’utilisation de l’IA par les forces de sécurité ?
Oui, dans plusieurs pays, des législations sont en place pour réguler l’utilisation de l’IA par les forces de sécurité, mais ces lois varient et peuvent être mises à jour selon les évolutions technologiques et sociétales.
