Comprendre la Récidive
La récidive désigne la probabilité qu’une personne condamnée pour un acte criminel recommence à enfreindre la loi. Actuellement, ce taux est évalué à l’aide d’algorithmes prédictifs, dont les résultats influencent diverses décisions judiciaires, y compris la détermination de peines ou l’octroi de libérations conditionnelles.
Étude sur la Précision des Algorithmes
Pour évaluer l’efficacité de ces algorithmes, une équipe de chercheurs, dirigée par Julia Dressel et Hany Farid de Dartmouth, a analysé le logiciel COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). Ce programme est conçu pour prédire si un individu sera en infraction dans les deux ans suivant sa condamnation.
Les résultats ont révélé que COMPAS n’était pas plus précis que des volontaires sans expérience judiciaire. En regroupant des participants qui, sur la base d’informations limitées comme le sexe, l’âge et les antécédents criminels des prévenus, devaient estimer leur risque de récidive, les chercheurs ont constaté que la précision des prévisions humaines (62,1 % en moyenne) s’approchait de celle de COMPAS (65,2 %).
Un Problème de Biais
Un point de préoccupation majeur est le biais algorithmique. Les résultats de l’étude ont montré que tant les volontaires que COMPAS avaient des taux de faux positifs similaires pour les prévenus noirs (37 %) par rapport aux prévenus blancs (27 %). Cette disparité soulève des questions, car même sans connaître la race des individus, les préjugés au sein des données pourraient influencer les résultats. Les chercheurs ont souligné qu’une exclusion des données raciales ne permet pas nécessairement d’éliminer les disparités raciales dans les prédictions de récidive.
Résultats Répétitifs
Depuis son lancement en 1998, COMPAS a été utilisé pour évaluer plus d’un million de personnes (le modèle de prédiction de récidive n’ayant été introduit qu’en 2000). La découverte que des personnes sans formation en justice pénale obtiennent des résultats comparables à ceux d’un algorithme sophistiqué est préoccupante.
Lors d’une tentative de validation de leurs résultats, les chercheurs ont entraîné un Nouveau Modèle d’algorithme. Cependant, cette approche a suscité des réactions négatives car l’on craignait que ce modèle ait été trop ajusté aux données. Dressel et Farid ont précisé qu’ils avaient utilisé 80 % des données pour l’entraînement, afin d’éviter un surajustement.
Algorithmes Prédictifs et Conséquences
Les chercheurs ont conclu que les algorithmes prédictifs pourraient ne pas être une méthode efficace pour évaluer la récidive, même si ces outils sont de plus en plus utilisés dans divers domaines. Ils soulignent qu’utiliser des algorithmes pour prendre des décisions aussi cruciales que celles des jugements judiciaires doit être évalué avec prudence. Relying on such algorithms may be akin to handing the decision-making process to random individuals responding to online surveys, tant les résultats peuvent se révéler similaires.
Un juge confronté à une recommandation d’un logiciel commercial pourrait voir cette évaluation différemment s’il tenait aussi compte des avis d’un groupe de personnes sans formation. La distinction est significative : un simple logiciel ne devrait pas avoir le dernier mot sur le futur d’une personne.
FAQ
Qu’est-ce que la récidive et comment est-elle mesurée ?
La récidive désigne le fait qu’une personne, après avoir purgé sa peine, commette à nouveau un crime. Elle est mesurée par des algorithmes qui prennent en compte des données historiques de comportement criminel.
Quels sont les risques associés à l’utilisation d’algorithmes dans le système judiciaire ?
L’utilisation d’algorithmes peut mener à des biais dans les décisions, affaiblissant ainsi la justice équitable, car certains groupes peuvent être désavantagés par les modèles de données.
Que faire pour améliorer les prédictions de récidive ?
Il est crucial d’avoir des données plus complètes et diverses, ainsi que d’assurer que les algorithmes sont régulièrement réévalués pour réduire les effets des biais existants.
Les algorithmes prédisent-ils toujours correctement ?
Non, les algorithmes ne sont pas infaillibles. Leur précision peut varier et dépend largement de la qualité des données utilisées pour leur entraînement.
Pourquoi la question du biais algorithmiques est-elle préoccupante ?
Le biais algorithmiques soulève des inquiétudes éthiques et sociales, car des décisions basées sur ces biais peuvent entraîner des discriminations injustes et affecter la vie des individus de manière disproportionnée.