Nous avons vu dans la partie précédente que l’introduction de logiciels prédictifs peut avoir des conséquences directes ou indirectes sur la vie des citoyens. Mais ces logiciels ont d’abord été conçus pour améliorer le travail des policiers, que ce soit en tant qu’assistance informatique propre à fournir des éléments de décision aux gardiens de la paix ou en tant qu’outil de gestion des effectifs. Ainsi, les logiciels prédictifs se veulent une aide pour la police et un garant d’efficacité, des rôles qui lui sont contestés.
Certains acteurs de la controverse tel que Bilel Benbouzid en France ou les associations de défense des droits de l’Homme aux États-Unis pointent les effets pervers que pourraient avoir les algorithmes de police prédictive. Parmi ceux-ci, une possible modification du comportement des policiers. En effet, l’algorithme indique des zones classées rouge aux forces de l’ordre, un code couleur anxiogène et pouvant engendrer une surestimation du risque de la part des policiers (Polloni, 2015). Ceux-ci pourraient être enclins à penser qu’ils sont dans ces zones et donc avoir tendance à être plus violents ou plus agressifs (Polloni, 2015). Ainsi, c’est à une augmentation des abus (parmi lesquels des contrôles infondés ou discriminatoires) et des violences policières que pourrait conduire le predictive policing. Un effet d’autant plus pervers que ces abus se trouveraient légitimés par la machine, assurent les opposants de Predpol.
De leur côté, les services de police utilisateurs d’algorithmes prédictifs réfutent ces accusations (Barotte, 2015). Pour eux, le logiciel ne modifie pas le comportement du policier mais son efficacité. Nous avons vu précédemment que ce point est également controversé.
L’ensemble des acteurs de la controverse utilise le taux de criminalité comme indice de performance principal des logiciels. Mais ils ne sont pas tous d’accord sur leur efficacité compte tenu de ce critère.
D’un côté, les développeurs des algorithmes de police prédictive comme Predpol ou IBM assurent que leurs produits sont efficaces si les policiers les utilisent comme prévu. Dans le cas de Predpol, le logiciel indique aux policiers des zones rouges présentant un risque de cambriolage élevé (Polloni, 2015). Une fois sur place, les gardiens de la paix doivent patrouiller un certain temps avant que la zone ne redevienne verte, signe que leur action a été dissuasive et que le quartier est redevenu sûr. Predpol assure que cette méthode est efficace et base sa communication sur les bons résultats observés dans certaines villes. Par exemple, la police munichoise a indiqué que la criminalité à Munich a chuté de 30 % après l’introduction du logiciel de police prédictive (Lefebvre, 2016).
De l’autre côté, un spécialiste en criminologie tel que Xavier Raufer accuse ces résultats d’être trompeurs (Raufer, 2015). Reprenant l’exemple de Munich, il ajoute que la délinquance a explosé en banlieue, ce qui compense la baisse observée en centre-ville. Pour lui, la conclusion s’impose : les logiciels sont « des arnaques » et ne font que déplacer la criminalité. En ce sens, ils seraient totalement inefficaces. Plus grave pour Predpol : l’utilisation de son logiciel dans le comté anglais du Kent a conduit à une augmentation de la criminalité, d’après la police locale (Moses & Chan, 2016). Bien que l’entreprise soit soutenue par des mairies et des équipes de police convaincues par son algorithme, il semblerait que sa méthode ne soit pas systématiquement efficace.
À en croire Stéphane Clémençon, professeur de machine learning à Télécom ParisTech, il s’agit en fait d’un problème de compréhension et d’utilisation du code. Pour lui, ces « algorithmes prédictifs ne fournissent que des probabilités, aucune certitude. C’est ce que les gens ne saisissent pas » (entretien réalisé le 15 mai 2017). Ce que confirme le colonel Patrick Perrot de la Gendarmerie Nationale, pour qui le logiciel ne doit pas être un outil de décision mais une simple confirmation de l’intuition des policiers sur le terrain (Hourdeaux, 2015).
Les opposants à l’utilisation de la police prédictive comme les associations de défense des droits de l'Homme assurent que celle-ci sera utilisée à mauvais escient, soit pour surveiller la population (comme ce sera le cas en Chine où un logiciel prédictif visant les dissidents est en cours de développement), soit pour justifier des coupes budgétaires (Benbouzid, 2015). Ce dernier point est développé par Bilel Benbouzid dans un article de Rue89. Le sociologue y qualifie Predpol « d’algorithme de droite » et dénonce son aspect "positiviste" (Polloni, 2015). En effet, Predpol permettrait de réduire les effectifs des policiers en les déployant plus efficacement sur le terrain. Il déplore ainsi que les logiciels de police prédictive n’aient pas vocation à localiser les problèmes sociaux afin de traiter le mal à la racine (Benbouzid, 2015). Pour lui, si ces logiciels ne facilitent pas la compréhension de la criminalité et ne s’accompagnent pas de mesures concrètes dans les quartiers sensibles, ils ne serviront à rien et ne traiteront que les symptômes d’un problème bien plus vaste (Untersinger, 2016).
De leurs côté, les municipalités comme les services de police ayant acquis ce type de logiciel assurent l’avoir fait pour améliorer la sécurité des citoyens. C’est aussi ce que dit le colonel Patrick Perrot de la Gendarmerie Nationale, ajoutant que ces logiciels ont aussi vocation à aider le policier et à rendre service aux citoyens en rendant les villes plus sûres (Hourdeaux, 2015).