‘Facebook a fait stopper une enquête sur un algorithme discriminatoire’

Des chercheurs chez Facebook ont observé en 2019 qu’un algorithme de modération de comptes bloquait nettement davantage des utilisateurs noirs. Lorsqu’ils en firent part à leurs supérieurs, ils furent sommés d’interrompre leur investigation et de ne pas partager leurs résultats avec leurs collègues, selon NBC News.

Il est question d’un algorithme qui fut utilisé dans Instagram, une filiale de Facebook. Si l’algorithme estimait, sur base de leurs activités sur Instagram, qu’il s’agissait d’Américains noirs, il y avait cinquante pour cent de risque environ en plus que leur compte soit automatiquement bloqué que si le comportement suggérait qu’il s’agissait d’un utilisateur blanc.

‘Méthodes non fiables’

Sur base de sources anonymes au sein de Facebook, NBC signale qu’il arrive assez souvent que la direction de l’entreprise ignore ou réprime des enquêtes internes à propos de préjugés et de discrimination au sein des systèmes utilisés. Facebook n’a pas démenti le fait qu’un certain nombre d’enquêteurs aient été incités à interrompre leurs contrôles, mais se contente d’expliquer que leurs méthodes n’étaient pas fiables.

Source: ANP