Plus les pouvoirs publics recourront à l’intelligence artificielle pour prendre des décisions, plus le citoyen devra être clairement informé de la façon dont les algorithmes seront utilisés, selon la ministre des télécommunications Petra De Sutter dans un courrier adressé aux services publics fédéraux.
De Sutter a écrit ce courrier aux différents services publics fédéraux dans le cadre de la transparence administrative. Elle y plaide pour la plus grande transparence possible à propos des algorithmes utilisés. ‘Les citoyens devraient pouvoir savoir quels algorithmes les instances publiques utilisent, surtout celles qui prennent des décisions touchant les gens’, explique De Sutter.
Aujourd’hui, le recours à des algorithmes au sein du gouvernement fédéral est encore limité. Mais des outils sont quand même déjà utilisés pour répondre aux questions des citoyens. A terme, leur utilisation ne fera que croître. Voilà pourquoi De Sutter plaide dès à présent pour élaborer des accords clairs.
Grande-Bretagne: des points basés sur le lieu de résidence
Cette transparence n’est pas un luxe superflu. Ces dernières années, des situations se sont assez souvent déjà produites, où il apparaissait qu’un algorithme entraînait une inégalité de traitement. En 2020, de nombreux étudiants britanniques se virent ainsi attribuer, en raison de la pandémie du coronavirus, une cote par l’AI pour leur GCSE, à savoir des examens déterminant leurs chances d’admission à de prestigieuses universités.
Officiellement, cette cote était basé sur leurs prestations précédentes, mais dans la pratique, il s’avéra que l’algorithme prenait aussi en considération des éléments comme leur lieu de résidence. Il en résulta que des élèves plus pauvres, habitant souvent dans des quartiers ou endroits spécifiques, se virent attribuer moins de points que ceux provenant de lieux aisés. Le système fut ensuite adapté, mais uniquement après de vives protestations.
Explicable
Rien n’a encore été décidé à propos de la portée de cette transparence. Ce qui est essentiel, c’est qu’il y ait de la transparence dans la façon dont les décisions sont prises. ‘Cela doit être explicable’, affirme De Sutter. ‘Les services publics fédéraux peuvent le publier sur leurs sites web. Tous les algorithmes ne doivent pas être mis en ligne sans autre forme de procès. La loi sur la transparence administrative stipule par exemple que la confidentialité ou la discrétion doivent être respectées. Mais chez les services publics, nous voulons amplifier la prise de conscience des effets possibles de quelque chose d’aussi compliqué que l’intelligence artificielle.’
La ministre ne s’oppose à coup sûr pas à l’AI et insiste même sur l’utilité de l’intelligence artificielle pour de très nombreux secteurs. Mais dans le même temps, elle entend surtout éviter que notre pays n’utilise des systèmes menant à des résultats erronés, en référence à l’affaire des allocations aux Pays-Bas. ‘Il est certain qu’en tant que gouvernement, nous pouvons vraiment contribuer à une réflexion sur des normes garantissant que l’intelligence artificielle ne conduise pas à des résultats et à des décisions injustes’, conclut la ministre De Sutter.
