Amsterdam lance, conjointement avec la capitale finnoise Helsinki, un registre destiné à rendre transparente l’utilisation des algorithmes. Les deux villes sont ainsi les premières au monde à agir ainsi, selon l’échevin amstellodamoise Touria Meliani (digitale stad).
“Les algorithmes sont indissociablement liés à notre vie de tous les jours et deviennent toujours plus importantes pour notre ville”, a ainsi déclaré l’échevine dans son discours prononcé lors du Next Generation Internet Summit. “Mais ils sont malaisément compréhensibles. En tant que ville, nous estimons que tout un chacun a le droit de savoir quels algorithmes sont utilisés et comment ils fonctionnent. Voilà pourquoi je suis extrêmement fière de ce registre.”
Un algorithme est un plan par étapes qu’un ordinateur exécute. Dans ce plan par étapes, on trouve souvent un ou plusieurs moments-clés basés par exemple sur des caractéristiques telles l’âge, le genre ou le salaire annuel. C’est ainsi qu’un algorithme peut effectuer plusieurs choix en fonction des cas.
Le registre indique où et pourquoi la ville utilise des algorithmes, comme pour signaler la présence de déchets dans l’espace public, pour effectuer des contrôles dans les parkings ou encore pour détecter les locations illégales de maisons de vacances. A l’origine, on tient aussi compte des risques que comportent des erreurs passées inaperçues ou des préjugés dans des données, qui peuvent générer de la discrimination ou de la malhonnêteté. Le registre doit servir à trouver d’éventuelles erreurs, afin que les algorithmes traitent les gens de manière équitable.
Les registres d’Helsinki et d’Amsterdam ont tous deux été mis au point par une firme finnoise, Saidot, spécialisée dans les initiatives publiques basées sur l’AI. Ils n’incluent pour l’instant encore qu’un petit nombre d’applications utilisées, mais les deux villes envisageraient d’étendre leurs registres respectifs ultérieurement cette année.
