Des rapports de police soutenus par l’IA
La police aux États-Unis fait un pas vers l’adoption de rapports de police rédigés par intelligence artificielle. Pourtant, selon des spécialistes, cette innovation suscite de vives inquiétudes. En effet, l’outil nommé “Draft One”, développé par la société technologique Axon, a été lancé en avril. Axon, qui produit également des tasers et d’autres équipements, affirme que ce programme utilise le modèle linguistique GPT-4 d’OpenAI pour rédiger des rapports à partir des enregistrements audio des caméras corporelles des agents. L’objectif affiché est de réduire le temps consacré à la paperasse des policiers.
Axon met en avant l’argument selon lequel si un agent consacre une grande partie de sa journée à rédiger des rapports, cela pourrait être diminué de moitié. Le PDG d’Axon, Rick Smith, a déclaré à Forbes qu’une telle réduction permettrait de libérer jusqu’à 25 % du temps des officiers pour qu’ils puissent se concentrer sur leurs missions de patrouille.
Enjeux de fiabilité et de confidentialité
Cependant, il convient de souligner que la nature des rapports de police diffère largement de celle des courriers électroniques ordinaires. Ces documents sont souvent cruciaux dans les procédures judiciaires et d’enquête. L’IA générative, comme celle appliquée ici, présente des risques, notamment des erreurs, souvent qualifiées de “hallucinations” par les professionnels. Ces erreurs peuvent inclure des informations incorrectes ou des faits inventés.
Malgré ces préoccupations, certains départements de police dans des États tels que le Colorado, l’Indiana et l’Oklahoma testent déjà l’outil Draft One. Certains d’entre eux permettent même aux agents de l’utiliser pour une variété de cas, et pas seulement pour des petits incidents. Les experts s’interrogent sérieusement sur les implications de cette technologie. Puisque les rapports de police jouent un rôle fondamental dans les investigations, peut-on vraiment en externaliser la rédaction en toute sécurité ?
Andrew Ferguson, professeur de droit à l’Université américaine et auteur d’une étude sur ce sujet, a exprimé ses inquiétudes : il craint que la facilité d’utilisation de tels outils ne rende les agents moins attentifs lorsqu’ils rédigent leurs documents.
Défense de la technologie par Axon
Axon a réagi aux critiques en affirmant que son outil de rédaction possède des réglages précis. Selon Noah Spitzer-Williams, responsable produit d’IA chez Axon, les utilisateurs de Draft One disposent de plusieurs options de contrôle que les utilisateurs classiques de ChatGPT, comme par exemple la désactivation d’un réglage de créativité destiné à minimiser le risque d’embellissement ou d’erreurs.
Cependant, malgré ces prétentions de contrôle, l’automatisation soulève toujours des questions éthiques et juridiques. On sait que les humains peuvent commettre des erreurs, mais leur jugement s’appuie également sur leur humanité et leur expérience. L’intrusion d’outils automatisés dans ce domaine peut remettre en question des aspects essentiels du travail policier. Les conséquences potentielles, y compris des vies humaines affectées, doivent être discutées ouvertement, surtout après les premiers échecs de l’intégration de l’IA au sein des enquêtes policières.
Ferguson souligne que la question qui reste en suspens est de savoir dans quelle mesure la dépendance à ce type d’IA pourrait affecter les fondations d’un système juridique basé sur des rapports de police.
FAQ
Qu’est-ce que “Draft One” ?
“Draft One” est un outil développé par Axon qui utilise l’intelligence artificielle pour générer des rapports de police à partir des enregistrements audio des caméras corporelles des agents.
Quels sont les risques associés à l’utilisation de l’IA dans la police ?
Les risques incluent des erreurs dans les rapports, appelées “hallucinations”, qui peuvent compromettre l’intégrité de l’enquête et du système juridique.
Comment les départements de police intègrent-ils cette technologie ?
Certaines forces de police testent l’outil dans divers scénarios, notamment pour des affaires mineures, ce qui soulève des préoccupations éthiques sur l’externalisation des décisions critiques.
Quels sont les retours des officiers sur cet outil ?
Les retours sont partagés. Certains agents estiment que cela pourrait les aider dans leur travail, tandis que d’autres s’inquiètent du manque de précision et d’attention liée à l’automatisation.
Que dit la loi sur l’utilisation de l’IA dans les rapports de police ?
Actuellement, la législation n’est pas encore entièrement adaptée à l’intégration de l’IA dans les processus de rédaction des rapports, ce qui générera des débats sur l’éthique et la responsabilité.
