"Des contrôles humains et juridiques élevés sont nécessaires pour prévenir la discrimination par l'IA, en particulier dans le cadre des services répressifs ou dans un contexte transfrontalier", estime le Parlement européen dans un communiqué. Selon la vision des eurodéputés, les décisions finales devraient toujours être prises par un être humain, et il faut veiller à ce qu'il y ait un droit effectif de réclamation et de recours pour les personnes "soumises à des systèmes alimentés par l'IA".

Le texte adopté, qui n'a pas force législative (il s'agit d'une résolution) mais vise à inspirer la Commission européenne, a divisé les eurodéputés puisque 377 d'entre eux ont voté pour, mais 248 ont voté contre et 62 se sont abstenus. Le principal groupe politique du Parlement européen, les conservateurs du PPE, a majoritairement voté contre, de même que la plupart des députés d'extrême droite du groupe ID, tandis que les députés de gauche, libéraux et écologistes ont voté en faveur du texte.

"Nous envoyons un message clair: les droits fondamentaux sont irrévocables. Pour la toute première fois, nous appelons à un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, ces technologies ayant démontré leur inefficacité et souvent abouti à des résultats discriminants", a insisté le rapporteur de la résolution, l'eurodéputé socialiste bulgare Petar Vitanov.

Le texte adopté recommande l'utilisation d'algorithmes ouverts et traçables, l'interdiction de bases de données privées de reconnaissance faciale (comme Clearview AI) et de la police prédictive, qui cherche à anticiper les comportements à partir de données. En outre, aucune reconnaissance automatique des individus ne devrait être utilisée aux contrôles aux frontières ou dans les espaces publics, les citoyens ne devant être surveillés que s'ils sont soupçonnés d'un crime ou d'un délit, soulignent les députés européens.

L'eurodéputé belge Tom Vandenkendelaere (CD&V, groupe PPE) estime que c'est "une occasion manquée, de ne pas pleinement laisser nos services de police et de justice utiliser le potentiel de ces nouvelles technologies", qui sont justement "à la veille de leur grande percée".

Sur la même ligne que la proposition de la Commission européenne, le Belge plaide pour l'utilisation de l'intelligence artificielle dans le maintien de l'ordre, mais dans "un cadre solide, qui garantirait et contrôlerait la sécurité et les droits fondamentaux de nos citoyens". De plus en plus de criminels utilisent des technologies digitales, avance-t-il. Si la justice n'a pas les mêmes outils, c'est leur donner carte blanche, estime-t-il.

"Des contrôles humains et juridiques élevés sont nécessaires pour prévenir la discrimination par l'IA, en particulier dans le cadre des services répressifs ou dans un contexte transfrontalier", estime le Parlement européen dans un communiqué. Selon la vision des eurodéputés, les décisions finales devraient toujours être prises par un être humain, et il faut veiller à ce qu'il y ait un droit effectif de réclamation et de recours pour les personnes "soumises à des systèmes alimentés par l'IA".Le texte adopté, qui n'a pas force législative (il s'agit d'une résolution) mais vise à inspirer la Commission européenne, a divisé les eurodéputés puisque 377 d'entre eux ont voté pour, mais 248 ont voté contre et 62 se sont abstenus. Le principal groupe politique du Parlement européen, les conservateurs du PPE, a majoritairement voté contre, de même que la plupart des députés d'extrême droite du groupe ID, tandis que les députés de gauche, libéraux et écologistes ont voté en faveur du texte."Nous envoyons un message clair: les droits fondamentaux sont irrévocables. Pour la toute première fois, nous appelons à un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, ces technologies ayant démontré leur inefficacité et souvent abouti à des résultats discriminants", a insisté le rapporteur de la résolution, l'eurodéputé socialiste bulgare Petar Vitanov.Le texte adopté recommande l'utilisation d'algorithmes ouverts et traçables, l'interdiction de bases de données privées de reconnaissance faciale (comme Clearview AI) et de la police prédictive, qui cherche à anticiper les comportements à partir de données. En outre, aucune reconnaissance automatique des individus ne devrait être utilisée aux contrôles aux frontières ou dans les espaces publics, les citoyens ne devant être surveillés que s'ils sont soupçonnés d'un crime ou d'un délit, soulignent les députés européens.L'eurodéputé belge Tom Vandenkendelaere (CD&V, groupe PPE) estime que c'est "une occasion manquée, de ne pas pleinement laisser nos services de police et de justice utiliser le potentiel de ces nouvelles technologies", qui sont justement "à la veille de leur grande percée".Sur la même ligne que la proposition de la Commission européenne, le Belge plaide pour l'utilisation de l'intelligence artificielle dans le maintien de l'ordre, mais dans "un cadre solide, qui garantirait et contrôlerait la sécurité et les droits fondamentaux de nos citoyens". De plus en plus de criminels utilisent des technologies digitales, avance-t-il. Si la justice n'a pas les mêmes outils, c'est leur donner carte blanche, estime-t-il.