Le Parlement européen vient d’approuver à une large majorité une première version de ce qu’on appelle l’AI Act (loi sur l’IA) qui vise à élaborer des règles pour les systèmes d’IA. La reconnaissance faciale automatique, entre autres, sera interdite.
La version actuelle répartit les systèmes d’IA sur base du risque qu’ils représentent pour la sécurité. L’UE en identifie quatre allant de ‘inacceptablement élevé’ à ‘minimal’. L’IA présentant un risque inacceptable sera ainsi complètement interdite. Il s’agit en l’occurrence de systèmes de cotation sociale comme ceux en vigueur ci et là en Chine. La reconnaissance faciale en temps réel est pour l’instant interdite aussi, même si la grande majorité de l’hémisphère (le PPE) souhaite ajouter encore des exceptions pour la recherche de suspects en matière de terrorisme ou d’enfants disparus par exemple. Cette règle pourrait donc être encore quelque peu différente dans la version finale.
Ce qui est interdit aussi, c’est l’IA capable d’exploiter des personnes vulnérables ou recourant à une subtile manipulation pour nuire potentiellement. Le ‘predictive policing’ (tout logiciel qui tente de prévoir qui va commettre des méfaits, genre ‘Minority Report’) n’est absolument pas autorisé non plus. Il en va du reste de même des logiciels qui tentent d’identifier des émotions, ainsi que de la reconnaissance faciale basée sur des photos récupérées sur internet (genre Palantir), utilisables par les services de police et de douane, dans les écoles et sur le lieu de travail.
Transparence
Les applications plus risquées de l’IA, telles que celles des ressources humaines ou ciblant les enfants, seront soumises à des règles plus strictes que les applications comportant moins de risques. Elles devront par exemple être davantage transparentes sur leur mode de fonctionnement et sur les données qu’elles utilisent. La question est surtout de savoir si les bases de données sur lesquelles l’IA est formée, sont libres de préjugés inhérents. Faute de quoi, de la discrimination pourrait s’immiscer dans les systèmes mêmes.
Il faut dire que la plupart des systèmes d’IA se retrouveront probablement dans la catégorie ‘faible risque’ et ne devront donc pas satisfaire aux règles particulièrement strictes. Pensez par exemple aux jeux vidéo, filtres IA pour médias sociaux ou encore filtres anti-spam pour votre boîte aux lettres.
IA générative
Une des règles qui est venue s’ajouter ces dernières semaines, porte sur les applications d’IA générative, telles que ChatGPT. L’AI Act exige à présent que les entreprises et organisations documentent les œuvres protégées par le droit d’auteur en vue de former les systèmes d’IA. Voilà qui devrait entre autres répondre à la demande de divers éditeurs, écrivains, musiciens et artistes, dont les œuvres sont copiées.
Par ce vote, l’Europe est l’un des premiers acteurs au monde à tenter de mettre en place un cadre réglementaire pour l’utilisation de l’intelligence artificielle. L’AI Act vient après le Digital Services Act (DSA) en matière de droits numériques des utilisateurs, et après le Digital Markets Act (DMA) visant les grandes firmes technologiques, qui ont déjà limité des technologies précédentes. Avec l’AI Act, l’UE pourrait faire figure de pionnier vis-à-vis d’autres pays. Les Etats-Unis notamment préparent un cadre similaire, mais ils accusent du retard sur l’UE.
Pas encore en vigueur
Le projet de loi était débattu depuis tout un temps déjà au sein de différentes commissions, mais avec l’approbation de la version actuelle par le Parlement, il se rapproche un peu plus de son entrée en vigueur effective. Dans la phase finale, les pays membres devront encore donner leur approbation. Les parlementaires espèrent que cela pourra se faire d’ici la fin de cette année.
Actuellement, les infractions à la loi entraînent des amendes jusqu’à trente millions d’euros ou six pour cent des rentrées annuelles globales d’une entreprise.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici