Le Michigan prévoit de mettre en place un nouveau système logiciel majeur dans tous les établissements pénitentiaires de l’État, destiné à classer les détenus en fonction de leur « niveau de dangerosité ».
D’après la chaîne de télévision de Détroit, Fox2, le Département des Corrections du Michigan avance avec un algorithme de catégorisation des détenus qui permettra de les classer dans différents niveaux d’hébergement.
Actuellement, les détenus dans le Michigan sont répartis en cinq niveaux de sécurité. Auparavant, cette classification était effectuée par un comité de personnel désigné par le directeur de chaque établissement. Pourtant, il semble que l’État souhaite désormais confier cette responsabilité à une ONG spécialisée en logiciels et intelligence artificielle, appelée Recidiviz.
Recidiviz a commencé comme un projet de gestion de données au sein de Google, visant à « standardiser les données de justice pénale et à améliorer le système à l’échelle nationale ». Sa plateforme logicielle intégrant l’IA est conçue pour exécuter diverses tâches, telles que l’identification des individus éligibles aux programmes d’État, la reclassification et la libération, tout en facilitant l’accès à des ressources comme le logement transitoire et l’emploi.
Dans un communiqué de presse depuis supprimé, le MDOC a annoncé que le logiciel Recidiviz serait utilisé pour « optimiser l’affectation des détenus », avec un programme pilote dans plusieurs établissements réservés aux hommes commençant en décembre. L’agence étatique affirme que cet outil pourrait « améliorer la capacité du MDOC à prédire avec précision le risque de violence future des détenus d’environ 30 % ». Toutefois, il n’est pas clair comment cet indicateur a été établi.
Lors d’échanges avec Futurism, tant le MDOC que Recidiviz ont nié que le logiciel en cours d’essai pour les prisons du Michigan — qu’ils appellent « module de classification » — utilise l’intelligence artificielle pour prendre des décisions d’affectation.
« L’IA n’est jamais utilisée dans les outils Recidiviz pour décider du niveau de sécurité ou de libération d’un détenu », a déclaré un porte-parole de l’entreprise.
Cependant, il est difficile d’ignorer la présence marquée de l’IA sur le site internet de Recidiviz et dans ses documents promotionnels.
Un article explicatif mentionne que « la plateforme corrections de Recidiviz utilise des données, de l’automatisation et de l’IA pour économiser le temps du personnel », tandis qu’un onglet d’information sur les « capacités d’accueil » de l’entreprise indique que Recidiviz permet aux agents corrections d’« administrer des évaluations conversationnelles alimentées par IA, permettant aux résidents de répondre à leur propre rythme et dans leur langue de préférence, tout en capturant les données essentielles requises par le personnel ».
Une autre page du site de la société, spécifiquement dédiée à l’utilisation de l’IA, évoque que « l’IA permet de réduire le travail répétitif, de faire émerger des informations importantes plus rapidement et d’améliorer la cohérence entre les équipes ». Plus loin, la société précise qu’elle utilise l’IA pour des tâches telles que « la génération de code sur nos plateformes open-source » et « le rapprochement d’individus avec des emplois, services ou soutiens selon leurs besoins ».
Dans une autre déclaration, Jenni Riehle, responsable des informations publiques du MDOC, a insisté sur le fait que « bien que Recidiviz construise des outils d’IA qui assistent le personnel dans des tâches comme la transcription de réunions, l’IA n’est jamais utilisée pour prendre des décisions concernant le niveau de sécurité ou de libération d’un individu ».
Malgré tout, sans une analyse approfondie du fonctionnement de ce module, des interrogations persistent quant à l’utilisation de l’IA dans la plateforme Recidiviz — et la décision de l’État revêt une importance considérable.
Pour les détenus, la désignation de leur hébergement a des conséquences majeures, car elle détermine les programmes et les ressources auxquels ils auront accès, ainsi que le type de population pénale avec laquelle ils seront logés durant leur peine.
En effet, une enquête de ProPublica sur un logiciel similaire de’analyse des risques utilisé en Louisiane a révélé que les données utilisées pour classifier les détenus contenaient des biais raciaux et socio-économiques inhérents.
Les résultats ont conduit à rendre le système pénal de la Louisiane encore plus cruel et nuisible pour ceux qui travaillent sincèrement à leur réhabilitation. Un exemple flagrant mentionné par ProPublica est celui d’un homme de 70 ans, aveugle et en fauteuil roulant, classé comme ayant un « risque modéré » de récidive, malgré un dossier disciplinaire vierge — une classification qu’entraîne une perte automatique d’éligibilité à la libération conditionnelle.
Bien que le système du Michigan soit axé sur les affectations de logement plutôt que sur les décisions de libération conditionnelle, il semble peu probable qu’un logiciel seul puisse résoudre la crise des corrections actuelle dans l’État — et si l’exemple de la Louisiane est à suivre, cela pourrait aggraver considérablement la situation.
Ce texte a été mis à jour avec des commentaires du MDOC et de Recidiviz.
Plus sur l’incarcération : Quelles sont les éthiques de l’utilisation de casques de réalité virtuelle sur des détenus en isolement ?
## FAQ
### Qu’est-ce que le système de classification des détenus au Michigan ?
Le système de classification vise à évaluer le degré de dangerosité des détenus afin de les assigner à des niveaux de sécurité appropriés, influençant ainsi leur accès aux programmes et ressources.
### Qui est Recidiviz ?
Recidiviz est une organisation à but non lucratif spécialisée dans l’intelligence artificielle et les logiciels, née comme un projet au sein de Google pour améliorer le système de justice pénale en utilisant des données et des technologies avancées.
### L’IA est-elle réellement utilisée pour prendre des décisions concernant les détenus ?
Bien que Recidiviz affirme que l’IA n’est pas utilisée pour prendre des décisions de libération ou de classification, son utilisation dans d’autres contextes soulève des préoccupations, avec des effets potentiels sur le traitement des détenus.
### Quelle est l’importance de la classification dans le cadre pénitentiaire ?
La classification détermine non seulement les ressources et programmes accessibles aux détenus, mais également le type de population avec laquelle ils interagiront, impactant leur réhabilitation et leur bien-être en prison.
### Quels risques l’utilisation de technologies de tri peut-elle engendrer ?
Les systèmes de classification basés sur des données peuvent inclure des biais raciaux ou socio-économiques, menant à des décisions injustes et parfois cruelles qui affectent les opportunités de réhabilitation des détenus.
