L’utilisation de l’IA par les forces de police
Les forces de l’ordre adoptent de plus en plus l’Intelligence Artificielle (IA) pour diverses tâches, allant de la rédaction de rapports à la reconnaissance faciale. Cependant, cette adoption rapide entraîne des résultats souvent décevants.
Une situation cocasse à Heber City
Un exemple particulièrement frappant vient de Heber City, dans l’Utah. Les autorités ont dû clarifier une situation où un logiciel de rédaction de rapports de police a déclaré qu’un officier s’était transformé en grenouille. Cet incident a suscité des rires, mais soulève des inquiétudes quant aux performances du logiciel utilisé.
Un problème de fond
D’après un rapport de Fox 13, l’erreur du logiciel semble provenir d’un bruit de fond capté, celui d’un film diffusé à ce moment-là, “La Princesse et la Grenouille” de Disney. Le sergent Rick Keel a souligné l’importance de valider ces rapports générés par IA.
Visée d’automatisation
Le département de police avait testé un programme nommé Draft One, qui utilise l’IA pour créer automatiquement des rapports à partir des enregistrements de caméras corporelles. Le but était d’alléger la charge administrative, mais des erreurs notables compromettent l’efficacité des résultats.
Échecs lors des tests
Lors de simples simulations, comme un contrôle routier, le rapport a nécessité de nombreuses corrections, selon Fox 13. Malgré ces difficultés, le sergent Keel a mentionné que l’outil lui fait gagner six à huit heures de travail par semaine. Il a également noté que le logiciel était assez intuitif, même pour ceux qui ne sont pas très familiers avec la technologie.
L’origine du logiciel
Draft One a été développé par la société Axon, connue pour ses dispositifs de Taser. Ce logiciel repose sur OpenAI et vise à transformer des enregistrements audio en rapports complets. Toutefois, des experts soulignent que ces systèmes pourraient être sujets à des hallucinations, c’est-à-dire à la génération d’informations inventées, ce qui est inquiétant pour des documents si importants.
Le risque de partialité
Des spécialistes mettent en garde : l’utilisation de cette technologie pourrait renforcer des biais raciaux et de genre déjà présents au sein des forces de l’ordre. Ce problème est d’autant plus préoccupant étant donné que l’histoire des forces de police montre une tendance à perpétuer ces biais. Les outils d’IA générative pourraient mettre en lumière des injustices existantes.
Inquiétudes autour de la transparence
La fondation Liberating Minds a exprimé ses craintes sur le fait que la technologie soit utilisée par la même entreprise qui fournit des Tasers, un lien troublant. Les analystes notent que cette automatisation pourrait abaisser le niveau de responsabilité des policiers. Une enquête récente a montré que Draft One semble conçu pour éviter toute forme de transparence.
L’avenir de Draft One
Actuellement, le service de police de Heber City n’a pas encore pris de décision quant à la poursuite de l’utilisation de Draft One. Ils examinent également un autre logiciel concurrent appelé Code Four, lancé plus tôt cette année. Avec un produit qui ne distingue pas une réalité d’un univers fantastique, le service devrait sérieusement réfléchir avant de se prononcer.
FAQ
Quels sont les principaux avantages de l’utilisation de l’IA par les forces de police ?
Les forces de police espèrent que l’IA réduira le temps passé sur la bureaucratie, permettant ainsi aux agents de se concentrer davantage sur le travail sur le terrain.
Quelles sont les conséquences potentielles des erreurs d’IA dans la police ?
Les erreurs d’IA peuvent entraîner des injustices, des accusations fausses et même des atteintes à la réputation des agents ou des départements.
Comment les départements de police intègrent-ils l’IA sur le terrain ?
Les départements testent divers outils pour surveiller la sécurité publique, mais doivent équilibrer l’innovation et la nécessité de vérifier les informations produites.
Que disent les experts sur la partialité des outils d’IA ?
Des experts insistent sur le fait que les biais préexistants dans les données utilisées pour former ces systèmes pourraient être amplifiés, ce qui pourrait aggraver des injustices sociales.
Quelle est la réaction du public face à l’utilisation de l’IA par la police ?
La perception du public est partagée, certains voyant cela comme une avancée nécessaire, tandis que d’autres s’inquiètent de la responsabilité et de la transparence.
