Un incident d’IA soulève des préoccupations dans le domaine policier
Un rapport d’incident généré par une Intelligence Artificielle (IA) pour la police de Heber City, Utah, a suscité de vives interrogations quant à son utilisation dans l’application de la loi. En effet, ce rapport a affirmé qu’un des officiers s’était transformé en grenouille, une assertion difficile à prendre au sérieux. Cette situation a été révélée par un article de Forbes.
Qu’est-ce qui s’est passé ?
Ce rapport erroné a été produit par Draft One, un logiciel développé par Axon, qui est également le fabricant de caméras corporelles utilisées par les forces de l’ordre. L’objectif de ce programme est de simplifier le travail des policiers en transformant les données vidéo en rapports écrits, ce qui pourrait leur faire gagner jusqu’à huit heures de travail par semaine. Malheureusement, une scène du film “La Princesse et la Grenouille”, qui passait en arrière-plan, a dérouté l’outil d’IA, entraînant cette affirmation absurde.
Un utilisateur sur X (anciennement Twitter) a remarqué que bien que la situation puisse sembler cocasse, elle soulève en réalité un risque sérieux. Si les systèmes d’IA ne parviennent pas à faire la distinction entre fiction et réalité dans des documents officiels, cela souligne l’importance d’un examen humain systématique.
Pourquoi l’utilisation de l’IA est-elle si cruciale ?
Normalement, un tel incident pourrait prêter à rire, mais les erreurs de ce type dans le cadre des forces de l’ordre peuvent avoir des répercussions désastreuses. Certaines agences essayent déjà d’utiliser ChatGPT pour créer des portraits-robots de suspects, une démarche qui, bien que prometteuse, comporte des dangers si elle n’est pas supervisée correctement. Les témoignages de témoins montrent de bons niveaux de satisfaction quant aux représentations, mais les risques sont importants si l’IA est utilisée sans précautions adéquates.
S’appuyer de manière excessive sur l’IA dans le domaine policier entraîne déjà des conséquences civiles et juridiques significatives. Par ailleurs, il ne faut pas oublier les répercussions environnementales des technologies d’IA, qui reposent souvent sur des sources d’énergie polluantes comme le charbon et le gaz. Cette dépendance aggravée les problèmes liés aux conditions climatiques et engendre des dommages matériels à grande échelle.
Cependant, un passage à des sources d’énergie plus propres, comme le nucléaire ou le solaire à grande échelle, pourrait réduire l’impact environnemental de l’utilisation de l’IA tout en respectant les enjeux climatiques.
Quelles actions sont entreprises concernant l’IA dans les forces de l’ordre ?
Le logiciel “Draft One”, dont le nom même évoque un premier jet, doit normalement faire l’objet d’une vérification humaine pour garantir la véracité des informations produites. Fort heureusement, le rapport sur l’événement de Heber City n’était destiné qu’à des fins de démonstration.
Suite à cet incident, l’officier Rick Keel a souligné l’importance d’examiner les rapports générés par l’IA pour éviter de telles fausses déclarations à l’avenir.
FAQ
Qu’est-ce qu’Axon et que fabrique-t-il ?
Axon est une entreprise qui produit des solutions technologiques pour les forces de l’ordre, notamment des caméras corporelles et des outils logiciels pour la rédaction de rapports.
Les rapports générés par l’IA sont-ils courants dans d’autres secteurs ?
Oui, l’IA est de plus en plus utilisée dans divers domaines, telle que la santé, la finance et même l’éducation, pour automatiser la création de rapports et faciliter le travail des professionnels.
Quelles pourraient être les prochaines étapes pour l’IA dans le domaine policier ?
Il est probable que les agences policières mettent en place des protocoles plus stricts pour la validation des informations générées par l’IA afin d’éviter les erreurs qui pourraient compromettre des enquêtes.
Quels sont les dangers d’une utilisation non régulée de l’IA dans la police ?
Une utilisation non régulée peut entraîner des erreurs de jugement, des atteintes aux droits des citoyens et un manque de responsabilité, menaçant ainsi la confiance du public envers les forces de l’ordre.
Comment l’IA pourrait-elle améliorer les pratiques policières à l’avenir ?
Avec une régulation adéquate et une supervision humaine, l’IA pourrait aider à analyser des données plus efficacement, à prédire des tendances criminelles, et à soutenir les agents dans leur travail quotidien.
