La police prédictive, discriminante, devrait être interdite (rapport)
La police prédictive, visant à prévenir crimes et délits par l’exploitation des données, devrait être interdite, conclut une étude menée par un chercheur de l’ULB et publiée lundi par la Ligue des droits humains, la Liga voor mensenrechten et Statewatch. Ces techniques manquent de transparence et de contrôle, et sont discriminatoires, selon ce rapport.
La police prédictive exploite des bases de données diverses, dans le but affiché d’améliorer l’efficacité des forces de l’ordre. Il s’agit de mieux anticiper où les ressources policières sont nécessaires ou d’identifier des zones ou individus à risque. Elle se déploie peu à peu dans les polices du monde entier. Quelques zones de police locale y ont déjà recours en Belgique, même si une vue d’ensemble fait défaut, ce que ne manque pas de critiquer le rapport. La police fédérale développe, elle, un projet baptisé “i-Police” visant à centraliser et analyser de multiples données pour les mettre à disposition des forces de police.
En gestation depuis plus de 10 ans, ce projet de numérisation de la police devrait réunir des dizaines de banques de données mais aussi des informations issues de la vidéosurveillance et de sources externes telles que les réseaux sociaux ou la presse. Les policiers auraient accès dans ce projet tant à des informations vérifiées que non vérifiées, dénonce l’étude. Ces pratiques posent question, avance le chercheur Corentin Debailleul, auteur du rapport. “Les données policières sont souvent inexactes et reflètent les biais systémiques présents dans la police comme dans la société”, écrit-il dans son étude.
“Les lois, les procédures et les systèmes en place ne permettent pas réellement de contrôler comment les données sont collectées, stockées, partagées et utilisées. Les personnes concernées n’ont que peu de voies de recours, ou si défaillantes qu’elles en deviennent inutiles.” Selon l’étude, les données sur lesquelles se base la police prédictive sont fondamentalement biaisées, reflétant des préjugés racistes, islamophobes ou de classe, notamment. Corentin Debailleul relève également les risques de “prophétie autoréalisatrice” intrinsèques à ce type de pratiques. Par exemple, près d’une centaine de zones de police locale auraient recours au logiciel Orbit, selon la société qui le développe, Columba. L’outil utilise les données géographiques de criminalité pour identifier des points potentiellement problématiques (hotspots).
Or, en identifiant une zone particulière ou un certain profil d’individus à surveiller, cela entraîne de facto davantage d’interventions policières dans ces endroits ou à l’encontre de ces personnes, pointe le rapport. Les statistiques concernant ces lieux ou individus gonflent alors, renforçant l’idée qu’il faut davantage intervenir dans ces domaines. Les bases de données policières contiendraient en outre moult informations infondées, basées sur des rumeurs. Le rapport donne l’exemple d’un homme enregistré comme voulant infecter des policiers par le VIH.
Une enquête a par la suite démontré que ces affirmations se basaient sur de simples rumeurs. Cela entraîne pourtant des conséquences très concrètes, pendant des années, pour les personnes visées, le rapport mentionnant des personnes ayant loupé un emploi, car elles étaient fichées, ou devant subir des fouilles systématiques à l’aéroport. L’étude pointe également le manque de transparence sur les bases de données utilisées et les algorithmes développés. Les citoyens ne sont ainsi pas toujours conscients d’être fichés. “Ni analyse d’impact sur les droits humains ni analyse coûts-bénéfices de base n’ont été menées en préparation des systèmes ‘prédictifs’ belges. L’absence de toute évaluation préalable du potentiel de nuisance de ces systèmes soulève des doutes quant à l’efficacité, la proportionnalité, la nécessité et les conséquences à long terme de ces mesures”, relève l’étude. Pour le chercheur, la police prédictive doit être interdite. Même une réglementation stricte n’empêchera pas les discriminatoires intrinsèques à ce système.
“La police ‘prédictive’ repose sur l’hypothèse que certains lieux ou individus sont intrinsèquement enclins à des activités criminelles. Ces hypothèses reposent sur des théories criminologiques qui manquent de base empirique et simplifient à l’excès la nature complexe des causes de la criminalité et de la délinquance.” “En interdisant ces systèmes, la Belgique peut faire un pas important vers la construction d’une société plus équitable, plus juste et plus démocratique. C’est l’occasion de réaffirmer un engagement à défendre les droits fondamentaux, à promouvoir l’égalité et à maintenir vivants les principes de justice et de responsabilité”, conclut l’étude.