Le Home Office, le ministère britannique de l’intérieur, ne va temporairement plus utiliser d’algorithme IT pour décider qui est pris en considération pour un permis de séjour. On reproche à l’algorithme d’être raciste.
Voilà du moins ce que révèle Foxglove, un groupe activiste qui, conjointement avec le Joint Council for the Welfare of Immigrants (JCWI), a intenté un procès à l’encontre du logiciel. Selon Foxglove, l’algorithme serait “pro-blanc”, ce que dément le Home Office.
Le procès porte sur un système automatisé qui est utilisé par le ministère pour filtrer les demandes de visa. Le système existe depuis des années déjà et traite une partie des informations des demandeurs d’un permis de séjour, dont le pays d’origine par exemple. Il attribue ensuite un code de couleur: vert, orange ou rouge. Les personnes à code de couleur rouge sont ensuite plus rigoureusement contrôlées. Pour Foxglove, le système dispose d’une liste de pays, qui reçoivent automatiquement un code rouge, ce qui fait que l’algorithme effectue une discrimination sur base de la nationalité. Et comme il s’agit d’une AI (intelligence artificielle), un second problème vient s’y greffer, à savoir celui du ‘feedback loop’. Les résultats finaux des demandeurs d’un permis de séjour sont en effet remis dans le système. Mais comme les personnes provenant de certains pays sont contrôlés de manière nettement plus approfondie, ils sont aussi plus souvent déboutés, ce qui fait que l’algorithme devient encore plus sévère à leur encontre. “Cet outil a des décennies durant fait preuve de pratiques racistes sur le plan institutionnel, telles la sélection ciblée de nationalités spécifiques en matière d’immigration, et en a fait un logiciel”, affirme Chai Patel de JCWI à la BBC.
Le Home Office déclare avoir examiné l’outil qui fera l’objet d’un nouveau design. Le traitement automatique est provisoirement interrompu, et une nouvelle version devrait voir le jour durant l’automne.
En Grande-Bretagne, comme dans beaucoup d’autres pays où est notamment actif le mouvement Black Lives Matter, le débat va bon train à propos d’une discrimination intégrée aux autorités et aux procédures. Le Home Office est dans ce cas une cible récurrente, parce que le ministère a la charge de l’immigration. Il y a deux ans, ledit ministère fut par exemple impliqué dans le scandale Windrush, où il fit arrêter injustement une série de Britanniques noirs et les expulsa. La plupart d’entre eux étaient pourtant nés au Royaume-Uni ou y résidaient légalement depuis les années septante du siècle dernier.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici