Les forces de l’ordre ont commencé à utiliser la technologie de l’**intelligence artificielle** pour faciliter le travail des agents. Cependant, cette même technologie devient rapidement une source de **préoccupations** tant pour leurs opérations que pour les communautés qu’elles servent. Source.
Des enfants envoyant à leurs parents des photos flouées par **l’IA** où ils accueillent des sans-abri, amenant des appels au 911, à des arrestations basées sur des **soupçons** d’outils d’IA peu fiables, la technologie n’apporte pas la sérénité tant espérée.
Récemment, la police de l’Oregon a sonné l’alarme sur certaines applications comme CrimeRadar, qui diffuse des **informations erronées** fondées sur des dialogues radio biaisés des forces de l’ordre, comme le rapporte Central Oregon Daily News. CrimeRadar capte les fréquences policieres pour transformer des incidents en billets de blog rédigés par l’IA, un concept désastreux et problématique pour les autorités.
Malheureusement, l’IA interprète mal les messages des agents, tirant des conclusions alarmantes souvent sans fondement. Ces informations peuvent par la suite être diffusées comme de vraies nouvelles sur les réseaux sociaux, entraînant ainsi une grande **confusion**.
« Un agent était à un événement **Shop with a Cop** à Redmond », a expliqué Sheila Miller, responsable de la communication de la police de Bend, parlant de cette tradition annuelle où des agents emmenent des enfants faire du shopping. « Elle ne comprend pas l’expression **Shop with a Cop**. Au lieu de cela, cela devient **shot with a cop**, laissant à penser qu’un agent aurait été touché dans l’exercice de ses fonctions. »
Elle a également ajouté : « C’est préoccupant pour notre communauté. C’est d’autant plus inquiétant pour les familles de policiers. C’est tout simplement faux, et il n’y a aucune **responsabilité**. »
Ce problème ne se limite pas à CrimeRadar. Plus tôt cette année, 404 Media a révélé que l’application d’alerte criminelle Citizen avait réalisé des notifications par IA sans aucune vérification humaine, entraînant des **erreurs** factuelles et la diffusion d’informations sensibles, y compris des numéros de plaques d’immatriculation.
« La version suivante consistait à ce que l’IA génère des incidents à partir de clips radio de manière autonome », a déclaré une source interne à Citizen à 404 Media. « Il n’y avait ni analyste ni intervention humaine dans les informations envoyées dans ces alertes avant leur dispatching. »
Cette situation fait partie d’une nouvelle **réalité inquiétante** qui aggrave les problèmes déjà existants liés à **la désinformation sur Internet**. Nous avons observez une véritable marée d’erreurs causées par l’IA dans les communautés en ligne, provoquant le *chaos*.
L’émergence d’outils de génération d’images basés sur l’IA, comme le puissant **Nano Banana** de Google, suscite également des inquiétudes quant à la possibilité que des personnes soient accusées à tort de crimes qu’elles n’ont pas commis. Des escrocs exploitent déjà la technologie de l’IA pour **imiter** les voix de leurs victimes dans le cadre de schémas de **phishing**, ce qui *alarme* les agences fédérales.
Actuellement, les applications d’écoute de la radio de police basées sur l’IA continuent d’opérer sans régulations appropriées, une situation qui, selon Eric Magidson, professeur en informatique au Central Oregon Community College, ne changera pas sans intervention législative.
Autres actualités sur la police et l’IA : Alerte de la police concernant une farce “d’homme sans-abri” générée par l’IA.
FAQ
Qu’est-ce que CrimeRadar et pourquoi est-il problématique ?
CrimeRadar est une application qui transforme les incidents criminels captés sur les fréquences policières en articles rédigés par une IA, ce qui entraîne des informations erronées diffusées auprès du public.
Comment l’IA peut-elle influencer les arrestations ?
L’IA, en interprétant mal les données provenant des agents, peut conduire à des erreurs lors des arrestations en laissant supposer que des personnes sont impliquées dans des crimes sur la base d’informations fausses.
Quels dangers posent les outils d’IA à la vie privée ?
Certains outils d’IA peuvent exposer des données sensibles comme des numéros de plaques d’immatriculation et d’autres informations personnelles, augmentant ainsi le risque de vol d’identité ou d’autres types de fraude.
Les gouvernements réagissent-ils à ces problèmes ?
Pour l’instant, il n’y a pas de législation en place pour réguler l’utilisation de ces technologies, mais la pression monte pour que des mesures soient prises afin de sécuriser les applications d’IA utilisées par les forces de l’ordre.
Quelle est la portée de la désinformation générée par l’IA ?
La désinformation créée par l’IA peut se propager rapidement sur les réseaux sociaux, créant des panique et des confusions au sein des communautés, impactant négativement la perception de la sécurité publique.