Dans les mois à venir, la Commission européenne souhaite soumettre les principales plates-formes en ligne à un test de résistance, afin de clarifier la manière dont elles réagiraient à une manipulation (électorale) recourant à des images contrefaites ou à d’autres contenus générés par l’IA.
Il s’agit avant tout d’une demande d’informations auprès de plusieurs grandes plates-formes, dans le but de garantir que les autorités européennes et les acteurs concernés soient prêts à faire face à toutes les formes possibles de manipulation. A court terme dans la perspective des élections européennes, mais à plus long terme, cela se fera de manière plus large, par exemple avec des images contrefaites d’une personne connue.
On ne sait pas concrètement à quoi les plates-formes doivent se préparer exactement, mais en principe à tout incident potentiel qui pourrait se manifester sur elles, même peu avant les élections, ou qui pourrait être amplifié par elles.
‘Nous demandons aux plates-formes d’être prêtes à des scénarios d’injection de dernière minute de deepfakes (hyper-trucages) à impact majeur’, déclare un porte-parole. La Commission parle entre autres de vidéos deepfake, mais apporte aussi la nuance, selon laquelle il pourrait s’agir de toute forme d’IA générative: texte, audio contrefaite, images fixes, etc.
Grâce à ce test, l’Europe entend connaître la vitesse à laquelle de tels incidents sont amplifiés et abordés par les plates-formes. Dans le même temps, des questions se posent sur le degré d’utilisation de l’IA générative sur les plates-formes, jusqu’à s’avérer nuisible.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici