Mieux que les juges! Selon une équipe de chercheurs travaillant sur les violences domestiques, les ordinateurs prédisent bien plus précisément que les hommes le risque de récidive d’une personne convaincue de délit ou de crime. Leur article, publié dans le Journal of Empirical Legal Studies en février, laisse ainsi prévoir un avenir où le traitement de la délinquance et l’évaluation de la dangerosité d’un coupable sera assisté par ordinateur – à moins que celui-ci ne prenne carrément cette tâche en mains.
 
Le principe de l’intelligence artificielle et de la robotique qui est ici à l’œuvre suppose évidemment une programmation humaine. Mais une fois les machines dotées de milliers de données, elles peuvent prendre le relais et, jouant sur les probabilités, aller théoriquement jusqu’à dicter des décisions judiciaires.
 

Une étude de l’université de Pennsylvanie confie à un ordinateur le dépistage de la délinquance

 
Il s’agit – comme l’écrit Bloomberg – de dépister le « crime que vous n’avez pas encore commis ». Une nouvelle application toute simple d’une technique qu’Amazon ou Netflix utilisent déjà largement pour prévoir ce qu’un client peut avoir envie d’acheter ou de regarder…
 
L’étude menée par les chercheurs en informatique et en psychologie de l’université de Pennsylvanie s’est intéressée aux profils de 100.000 personnes convaincus de crimes graves liés à la violence domestique commis entre 2009 et 2013. Les chercheurs ont d’abord « nourri » l’ordinateur d’une masse de données : âge, sexe, code postal, âge de la première arrestation, délits antérieurs allant de la cruauté envers les animaux à la criminalité liée aux armes à feu… Politiquement corrects, ils n’ont pas inclus la race dans les paramètres mais le statisticien Richard Berk, principal auteur de la recherche, reconnaît que le code postal donne quelques indications à ce sujet.
 
Environ deux tiers des profils ont été fournis à l’ordinateur, avec l’indication la plus importante : les intéressés avaient-ils oui ou non été arrêtés une deuxième fois pour des faits de violence domestique ? Avec le tiers restant, ils ont « testé » l’exactitude des modèles dégagés par le calcul informatique en ne fournissant que les données dont disposait le juge au moment de accusation où il a dû décider si oui ou non le prévenu devait être libéré sous caution. A l’ordinateur de déterminer alors le risque de nouvelles violences domestiques, avec la tâche de « libérer » les 50 % de prévenus les moins dangereux.
 

Plus efficace que l’homme, l’ordinateur identifie le risque de récidive

 
En définitive, 20 % des personnes qui avaient été effectivement libérées par un juge devaient être arrêtés par la suite pour un crime similaire. Parmi les profils virtuellement choisis par l’ordinateur, il n’y en aurait eu que 10 %.
 
L’idée est intéressante s’il s’agit de protéger des victimes potentielles face à l’erreur d’appréciation d’un juge humain, toujours possible – mais aussi les accusés qui peuvent être retenus à tort. Le système aiderait aussi à réduire les coûts de la délinquance dès lors que le maintien inutile en détention coûte cher à la collectivité. Mais le système « automatisé » possède ses propres limites : celles du risque qu’il y a à laisser des machines « décider » du sort et de la liberté d’êtres humains.
 
A Fresno, en Californie, un système de ce type a déjà été mis en place, destiné à dépister les individus posant un risque de délinquance faible, moyen ou élevé – et il s’intéresse à tous, utilisant aussi bien les échanges sur les réseaux sociaux que les recherches informatiques ou les données financières et immobilières des personnes. Une surveillance à très grande échelle, peu transparente et à l’efficacité insuffisamment vérifiée, d’autant que son mode de fonctionnement est secret et qu’elle a été mise en place sans discussion publique.
 
La recherche menée par l’université de Pennsylvanie s’en distingue par la méthode : elle s’en tient aux données en possession de la justice et ne travaille que sur des profils déjà suspects dont l’évaluation judiciaire est légitime.
 
Cela doit-il suffire à rassurer le commun des mortels, méfiant à juste titre lorsqu’il s’agit de remettre des affaires aussi importantes que les libertés individuelles entre les mains de machines non seulement faillibles, mais aussi manipulables ? Richard Berk a beau protester de l’innocence de ses recherches, il s’est déjà entendu avec la police de Philadelphie pour adapter son système informatique à l’identification des foyers les plus exposés aux risques de la violence domestique, afin de permettre une surveillance plus étroite.
 
Aujourd’hui, la violence domestique. Demain… quoi ?
 

Anne Dolhein