COMPAS : un outil impartial ou biaisé ?

Promotion 2021

COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), un algorithme prédictif développé par la société Equivant, a été conçu pour assister les juges nord-américains dans l’évaluation de la probabilité de récidive des personnes prévenues ou condamnées. Cette « évaluation correctionnelle » (correctional assessment) contribue à la décision sur les dispositions préalables au procès (détention préventive, caution), la libération conditionnelle ou encore la condamnation (en particulier la durée d’une peine d’emprisonnement). Qu’en est-il de l’impartialité des décisions de justice prises avec l’assistance de COMPAS ? COMPAS remet-il en question l’indépendance du juge ? Le machine learning sur lequel repose COMPAS introduit-il un biais en défaveur de certains groupes de la population, les soumettant à la discrimination, notamment raciale ? La pertinence des résultats produits et l’utilité de l’outil sont-ils surestimés ?

Lire l’article