En avril dernier, la Commission européenne publiait sa vision portant sur des mesures plus strictes concernant l'intelligence artificielle (IA). Une 'proposition de règlement' pour reprendre les termes exacts. Celle-ci portait notamment sur un système harmonisé imposant des règles plus sévères sur l'IA susceptible de représenter un risque pour les droits fondamentaux tels que la non-discrimination, la vie privée ou la sécurité.

Le processus sur la voie d'un tel règlement apparaît cependant comme long et implique notamment différentes consultations publiques auprès de nombreux acteurs. Et que s'est-il passé entre-temps? "Tout d'abord et surtout, une nouvelle consultation a vu le jour, explique Nathalie Smuha, experte en droit spécialisée dans le droit international et l'IA, et chercheuse à la KU Leuven. Cette consultation s'est achevée cet été. Toutes les réactions sont à présent collectées."

Pas pour demain

La Commission elle-même a pratiquement terminé ses travaux, estime Shuma. "En fait, le Parlement européen et le Conseil de l'UE sont maintenant à la manoeuvre." Le Conseil, qui se compose des dirigeants des gouvernements des 27 Etats-membres, et le Parlement des élus européens, doivent à présent s'accorder sur la manière de traduire cette proposition en loi.

Comment les discussions vont-elles se dérouler? Les choses restent assez floues. "Certains parlementaires prennent désormais position pour affirmer que les choses ne vont pas assez loin, précise Smuha. Songez aux logiciels de reconnaissance faciale utilisés par la police notamment. Dans cette matière, le Parlement et le Conseil vont probablement s'affronter." Il y a en effet des chances que les parlementaires soient nettement plus sensibles aux arguments en matière de vie privée que par exemple les ministres de l'Intérieur du Conseil qui sont responsables dans leur pays des services de police. "Ces négociations vont sans doute durer un an ou deux ou trois, parie Smuha. Le vote du RGPD [la législation européenne sur la vie privée, NDLR] a pris quatre ans, et deux ans de plus pour sa mise en application. Ce n'est donc pas pour demain."

Alors quand?

Mais verra-t-elle le jour? "Il est clair qu'une réglementation verra le jour. Dès lors les questions doivent être réglées en amont, notamment la marge qui va être laissée à la police ainsi que les exceptions qui seront prévues, explique encore Smuha. De même, certaines notions devront être affinées. Ainsi, quelle est la définition de l'IA? C'est important à ce niveau. Ce sont des points qui doivent être abordés dès à présent."

Pour les entreprises, la question est en tout cas de se préparer aujourd'hui déjà. Même les entreprises qui ne sont pas vraiment concernées par une telle réglementation, estime Smuha. "Du côté des consommateurs, la prise de conscience est toujours plus forte. Les exigences de l'UE sont finalement les conditions dont nous espérons qu'il sera tenu compte en tant que consommateur." Songez par exemple à l'élimination des idées préconçues ou des violations de la vie privée, ou encore la mise en place d'une documentation sur la conception d'un système d'IA afin de pouvoir le vérifier. "Il s'agit là de sujets relativement logiques, considère Smuha. Il faut en effet un contrôle suffisant par l'humain, une précision suffisante du système, outre sa sécurité et sa fiabilité. Il serait ridicule que les entreprises n'en tiennent pas compte."

Par ailleurs, il faut rappeler que l'Europe n'est pas la seule région du monde à plancher sur une réglementation. "Désormais, les Etats-Unis sont également plus ouverts à des mesures renforcées, ce qui met l'Europe dans une position plus forte, ajoute-t-elle. Nous ne sommes plus les seuls à réglementer." De même, le Conseil de l'Europe (à ne pas confondre avec le Conseil de l'UE) prépare un nouveau traité sur l'IA et les droits de l'homme. Il s'agit là d'une organisation qui regroupe une cinquantaine de pays européens, dont le Royaume-Uni, la Russie et la Turquie. Cette même institution a déjà adopté précédemment la Convention européenne des droits de l'homme. Il y a de fortes chances que le traité du Conseil de l'Europe ressemble à celui de l'UE, en y ajoutant cependant une dimension internationale.

En avril dernier, la Commission européenne publiait sa vision portant sur des mesures plus strictes concernant l'intelligence artificielle (IA). Une 'proposition de règlement' pour reprendre les termes exacts. Celle-ci portait notamment sur un système harmonisé imposant des règles plus sévères sur l'IA susceptible de représenter un risque pour les droits fondamentaux tels que la non-discrimination, la vie privée ou la sécurité. Le processus sur la voie d'un tel règlement apparaît cependant comme long et implique notamment différentes consultations publiques auprès de nombreux acteurs. Et que s'est-il passé entre-temps? "Tout d'abord et surtout, une nouvelle consultation a vu le jour, explique Nathalie Smuha, experte en droit spécialisée dans le droit international et l'IA, et chercheuse à la KU Leuven. Cette consultation s'est achevée cet été. Toutes les réactions sont à présent collectées." La Commission elle-même a pratiquement terminé ses travaux, estime Shuma. "En fait, le Parlement européen et le Conseil de l'UE sont maintenant à la manoeuvre." Le Conseil, qui se compose des dirigeants des gouvernements des 27 Etats-membres, et le Parlement des élus européens, doivent à présent s'accorder sur la manière de traduire cette proposition en loi. Comment les discussions vont-elles se dérouler? Les choses restent assez floues. "Certains parlementaires prennent désormais position pour affirmer que les choses ne vont pas assez loin, précise Smuha. Songez aux logiciels de reconnaissance faciale utilisés par la police notamment. Dans cette matière, le Parlement et le Conseil vont probablement s'affronter." Il y a en effet des chances que les parlementaires soient nettement plus sensibles aux arguments en matière de vie privée que par exemple les ministres de l'Intérieur du Conseil qui sont responsables dans leur pays des services de police. "Ces négociations vont sans doute durer un an ou deux ou trois, parie Smuha. Le vote du RGPD [la législation européenne sur la vie privée, NDLR] a pris quatre ans, et deux ans de plus pour sa mise en application. Ce n'est donc pas pour demain." Mais verra-t-elle le jour? "Il est clair qu'une réglementation verra le jour. Dès lors les questions doivent être réglées en amont, notamment la marge qui va être laissée à la police ainsi que les exceptions qui seront prévues, explique encore Smuha. De même, certaines notions devront être affinées. Ainsi, quelle est la définition de l'IA? C'est important à ce niveau. Ce sont des points qui doivent être abordés dès à présent." Pour les entreprises, la question est en tout cas de se préparer aujourd'hui déjà. Même les entreprises qui ne sont pas vraiment concernées par une telle réglementation, estime Smuha. "Du côté des consommateurs, la prise de conscience est toujours plus forte. Les exigences de l'UE sont finalement les conditions dont nous espérons qu'il sera tenu compte en tant que consommateur." Songez par exemple à l'élimination des idées préconçues ou des violations de la vie privée, ou encore la mise en place d'une documentation sur la conception d'un système d'IA afin de pouvoir le vérifier. "Il s'agit là de sujets relativement logiques, considère Smuha. Il faut en effet un contrôle suffisant par l'humain, une précision suffisante du système, outre sa sécurité et sa fiabilité. Il serait ridicule que les entreprises n'en tiennent pas compte." Par ailleurs, il faut rappeler que l'Europe n'est pas la seule région du monde à plancher sur une réglementation. "Désormais, les Etats-Unis sont également plus ouverts à des mesures renforcées, ce qui met l'Europe dans une position plus forte, ajoute-t-elle. Nous ne sommes plus les seuls à réglementer." De même, le Conseil de l'Europe (à ne pas confondre avec le Conseil de l'UE) prépare un nouveau traité sur l'IA et les droits de l'homme. Il s'agit là d'une organisation qui regroupe une cinquantaine de pays européens, dont le Royaume-Uni, la Russie et la Turquie. Cette même institution a déjà adopté précédemment la Convention européenne des droits de l'homme. Il y a de fortes chances que le traité du Conseil de l'Europe ressemble à celui de l'UE, en y ajoutant cependant une dimension internationale.