L’intelligence artificielle dans l’UE : le juste milieu entre les avantages et le contrôle

Lors de son premier discours devant le Parlement européen en décembre 2019, la présidente de la Commission européenne a officiellement reconnu que l'” intelligence artificielle ” représentait un axe stratégique pour l’Union européenne. Neuf mois plus tard, alors qu’elle s’adressait de nouveau au Parlement européen pour son premier ” discours sur l’état de l’Union “, elle adopta l’acronyme ” IA ” plutôt que la dénomination complète, tant cette technologie est désormais connue au sein de la ” bulle ” européenne. Ce n’est pas étonnant puisque l’IA est déployée dans la plupart des secteurs économiques, voire tous, des diagnostics médicaux à la réduction de l’impact environnemental de l’agriculture.

Il est vrai que la Commission européenne a beaucoup travaillé depuis que la présidente Ursula Von der Leyen est entrée en fonction. Une proposition de loi avait été promise dès décembre 2019 et un livre blanc sur l’IA a été publié en février. Ce n’est certes pas une proposition de loi, mais ce document a accéléré les débats relatifs aux aspects humains et éthiques de l’IA, à l’utilisation des big data ainsi qu’à la manière dont il est possible d’utiliser ces technologies pour la prospérité de la société et des entreprises.

Le livre blanc de la Commission souligne l’importance d’adopter une approche commune de l’IA au sein des 27 États membres de l’UE alors que différents pays ont commencé à adopter la leur en ce qui concerne la réglementation et pourraient ainsi entraver le marché unique européen. Il aborde également les projets consistant à suivre une approche fondée sur les risques pour réglementer l’IA, aspect important pour Huawei.

Huawei a examiné avec intérêt le livre blanc et a participé à la consultation publique de la Commission avec d’autres parties prenantes (plus de 1250 !) qui s’est terminée le 14 juin. Nous avons fait part de nos commentaires et de nos idées en tant qu’expert dans ce domaine.

Trouver l’équilibre

Le point principal sur lequel nous avons insisté auprès de la Commission est la nécessité de trouver le juste milieu entre l’innovation et la protection des citoyens.

Nous avons notamment mis en évidence qu’il était nécessaire de réglementer les applications présentant des risques élevés au moyen d’un cadre législatif clair et proposé des idées quant à la définition de l’IA. Nous pensons qu’elle doit se résumer à son application prévue et l’évaluation des risques doit se concentrer sur celle-ci ainsi que sur les conséquences induites par la fonction d’intelligence artificielle. La mise en place de listes et de procédures détaillées pour cette évaluation à l’attention des entreprises pourrait leur permettre d’effectuer leurs propres évaluations, ce qui réduirait les coûts de l’évaluation initiale des risques qui doit être adaptée aux exigences de chaque secteur.

Nous avons recommandé que la Commission réunisse les associations de consommateurs, le monde universitaire, les États membres et les entreprises afin d’évaluer si un système d’intelligence artificielle pouvait être qualifié de système ” à haut risque “. Il existe déjà une instance chargée de ces aspects, le TCRAI (comité technique permanent des systèmes à haut risque). Nous pensons qu’il pourrait évaluer les systèmes d’IA en fonction de critères de risque légaux et techniques. Le contrôle exercé par celui-ci associé à un système de marquage volontaire nous permettrait de disposer d’un modèle de gouvernance qui présenterait les caractéristiques suivantes :

il tiendrait compte de toute la chaîne logistique

il définirait les critères et ciblerait l’objectif prévu en matière de transparence pour les citoyens et les entreprises

il favoriserait le développement et le déploiement responsables de l’IA

il créerait un écosystème de confiance.

Nous avons déclaré à la Commission que le cadre réglementaire actuel reposant sur la faute et la responsabilité contractuelle est suffisant en dehors de domaine des applications de l’IA à haut risque, même pour les technologies de pointe, comme l’IA, s’il existait la crainte qu’une nouvelle technologie ne nécessite de nouvelles règles. Des réglementations supplémentaires sont toutefois inutiles : elles seraient trop lourdes et dissuaderaient d’adopter l’IA.

Les éléments dont nous disposons nous portent à croire que la Commission estime devoir suivre une approche fondée sur les risques pour réglementer l’IA. Elle propose notamment de cibler les applications à haut risque de l’IA à court terme, c’est-à-dire soit les secteurs à haut risque (comme la santé), soit l’utilisation à haut risque (si elle a des conséquences légales ou d’autres impacts importants sur les droits d’une personne, par exemple).

Quelles sont donc les étapes suivantes ?

Un travail énorme attend la Commission qui doit examiner les réponses à la consultation et tenir compte des besoins des entreprises, de la société civile, des associations commerciales, des ONG, etc. L’obstacle supplémentaire que constitue la crise du coronavirus n’a pas simplifié les choses et la réponse formelle de la Commission n’est pas attendue avant le premier trimestre 2021.

Le coronavirus a changé la donne en ce qui concerne l’utilisation de la technologie dans le domaine de la santé et influencera sans aucun doute la réflexion de la Commission à ce sujet. Il était question de ” télémédecine ” depuis des années par exemple, mais la crise a transformé les consultations virtuelles en réalité quasiment du jour au lendemain.

En dehors du secteur de la santé, nous pensons que l’IA sera déployée dans des domaines comme l’agriculture ou la lutte de l’UE contre le changement climatique. Huawei est fière de participer au développement du numérique en Europe, région dans laquelle et pour laquelle nous travaillons depuis vingt ans. Le développement des compétences numériques est fondamental, car il fournira non seulement les outils pour exploiter le potentiel de l’IA aux futures générations, mais permettra également au personnel actuel de jouer un rôle actif et de s’adapter facilement dans ce monde en perpétuelle évolution : une approche inclusive de l’enseignement de l’IA et de la formation sur celle-ci tout au long de la vie qui se base sur l’apprentissage et l’innovation est nécessaire afin que les collaborateurs puissent changer d’emploi de manière fluide. La crise a durement touché le marché de l’emploi et des solutions rapides sont requises.

Que dire de plus de plus sur l’IA en Europe en attendant la réponse formelle de la Commission en ce qui concerne le livre blanc ? L’intelligence artificielle peut améliorer le secteur de la santé, rendre les transports plus sûrs et plus propres, augmenter l’efficacité de la production, favoriser l’agriculture intelligente, permettre de disposer de sources d’énergie moins chères et plus durables, pour ne citer que quelques-uns des avantages qu’elle peut procurer à nos sociétés et à toute l’UE. Huawei collaborera avec les législateurs de l’UE et s’efforcera à ce que cette région trouve le juste milieu entre l’innovation et la protection des consommateurs.

Par Angeliki Dedopoulou, Senior Manager, EU Public Affairs, Huawei Technologies