L’UE vote aujourd’hui même à propos de l’AI Act: ‘La discrimination, un problème croissant’

La discrimination et les préjugés sont actuellement des problèmes plus urgents pour l’intelligence artificielle générative que la fin possible de l’humanité. Voilà ce qu’a déclaré la commissaire européenne Margrethe Vestager. Elle a tenu ces propos quelques jours avant le premier vote sur l’AI Act européen.

Selon Vestager qui s’est confiée à la chaîne britannique BBC, l’UE doit dresser des barrières de sécurité plus efficaces contre les principaux risques de la technologie. Parmi ces risques, il y a entre autres le fait que l’IA aidera, ou aide déjà, à prendre des décisions susceptibles d’influencer la vie des citoyens. Pensez par exemple à l’approbation de prêts.

Comme on l’a vu entre-temps avec l’affaire des allocations aux Pays-Bas, la technologie s’embrouille complètement, si elle n’est pas correctement programmée. La discrimination peut être intégrée au programme, si l’algorithme est formé sur base de données historiques par exemple, où réside déjà une certaine forme de discrimination. L’algorithme ne fera alors que la renforcer davantage.

Ces derniers mois, plusieurs experts en IA ont envoyé des lettres ouvertes ci et là de par le monde, dans lesquelles ils mettent en garde contre les dangers de la nouvelle technologie. L’un d’eux évoque même la fin de l’humanité au cas où une puissante et future IA tomberait entre de mauvaises mains. Des esprits critiques, dont à présent donc aussi Vestager, déclare que cette prise de position découle toutefois des problèmes auxquels l’IA est actuellement confrontée, comme la discrimination et un manque de transparence.

Le Parlement européen vote aujourd’hui même à propos de l’AI Act, une nouvelle loi destinée à imposer des règles plus strictes aux technologies telles que l’IA générative. Les règles européennes tiendront entre autres compte du droit d’auteur des textes et des images à partir desquelles l’IA est formée. Il s’agit là d’un premier vote, et la loi n’entrera probablement réellement en vigueur que dans deux à trois ans. Vestager a déjà lancé un appel en faveur d’un code de conduite volontaire des entreprises IA, afin de combler le délai jusqu’à cette entrée en vigueur de la loi.