Plus de 150 scientifiques ont cosigné une lettre ouverte dans laquelle ils expriment leurs préoccupations au sujet d’une nouvelle proposition de la Commission européenne. Cette dernière demanderait aux plates-formes technologiques de scanner automatiquement tous les appareils des utilisateurs à la recherche de contenu pédopornographique notamment.
Motif de cette lettre: une proposition de la Commission européenne en vue de s’opposer à la pédopornographie, soit au ‘Child Sexual Abuse Material’ (CSAM). La réglementation proposée inclut entre autres l’exigence que des services tels WhatsApp scannent leurs messages à la recherche de contenus interdits. Les nouvelles règles prévoient en outre une intelligence artificielle chargée de détecter automatiquement du CSAM et ce qu’on appelle en jargon le ‘comportement de grooming’ (visées à caractère sexuel).
Les règles ne seraient pas réalistes et exerceraient un important impact négatif sur la cybersécurité, selon les scientifiques, dont le professeur belge Bart Preneel. La loi se baserait sur une technologie de scannage qui n’existe pas encore et qui s’avère peu sûre du point de vue tant de la cybersécurité que de la confidentialité, comme on peut le lire dans la lettre.
Hashes et apprentissage machine
C’est ainsi que la réglementation exige que les firmes technologiques scannent leurs contenus à la recherche d’images pédopornographiques. Les scientifiques font observer que la principale façon de détecter actuellement la pédopornographie, c’est de convertir les images déjà saisies en hashes (mots-dièses) et de les comparer avec l’ensemble des images sur le réseau. Ce système peut cependant être contourné, selon la lettre, en effectuant de petits ajustements aux images.
La réglementation exige toutefois aussi que les nouvelles images soient scannées à la recherche d’exemples de visée à caractère sexuel (‘grooming’), par laquelle un adulte noue une relation avec un/une mineur(e) d’âge dans le but de le/la manipuler ou de l’exploiter. C’est ici surtout l’affaire de l’apprentissage machine: des algorithmes capables d’identifier certains modèles. Ces algorithmes peuvent opérer de manière très précise, selon les signataires de la lettre ouverte, mais vont quand même toujours commettre des erreurs et donner de faux positifs. Sur base du volume de messages de certains fournisseurs d’applis, cela peut se traduire par des milliers, voire des millions de faux positifs par jour. Et toutes ces images doivent être rapportées, ce qui fait que tout un éventail d’images légales et parfois très intimes seront aussi transmises avec toutes les conséquence que cela implique pour la confidentialité des utilisateurs.
Cryptage bout-à-bout
En outre, les auteurs de la lettre ouverte se font du souci à propos des effets de la proposition pour le cryptage bout-à-bout. Le système, présent entre autres dans WhatsApp, crypte les messages au départ de l’appareil de l’expéditeur et ne les décrypte que chez le destinataire, afin que personne ne puisse les lire sur le réseau. Le système est toujours plus souvent utilisé pour protéger la confidentialité sur le réseau. Pour le contourner, la réglementation de la Commission européenne entend recourir à ce qu’on appelle le ‘client-side scanning’ (CSS). En principe, il s’agit d’une sorte de logiciel qui trace tout ce que l’utilisateur fait sur son téléphone.
Les auteurs de la lettre craignent entre autres des abus de la part de criminels, mais aussi ce qu’on appelle le ‘scope creep’, par lequel le CSS sera non seulement utilisé par les autorités en quête de CSAM, mais aussi de terroristes et, dans un stade ultérieur, d’autres formes de criminalité, jusqu’à des opinions dissidentes.
Controversé
En général, les scientifiques cosignataires de la lettre redoutent que les mesures proposées portent un rude coup au respect de la vie privée et à la cybersécurité des citoyens de l’UE et n’aient guère d’impact sur les auteurs de contenus pédopornographiques. Le risque est en effet très grand qu’ils cherchent refuge ailleurs, fait observer la lettre.
Le CSAM représente l’un des pires délits en ligne, qui exige en outre de faire preuve d’une dose de nuance particulièrement solide pour être identifié. Les tentatives en vue de s’y opposer vont dès lors habituellement de pair avec une législation très poussée. La réglementation actuelle de la Commission européenne est de ce fait très controversée depuis le début, parce que, selon des esprits critiques, elle ouvre la voie à une surveillance massive. En mai déjà, on avait suggéré que la réglementation pouvait être jugée illégale, parce qu’elle contrevient spécifiquement au droit au respect de la vie privée en exigeant en substance le scannage de tous les contenus, sans présomption préalable de culpabilité.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici