Meta a annoncé un outil permettant de doter d’un filigrane invisible les contenus générés par IA. Le groupe espère ainsi contribuer à la lutte contre les « deepfakes ».
Depuis l’explosion de l’IA générative, le nombre de photos truquées a considérablement augmenté sur Internet. Selon Sumsub, le volume de deepfakes aurait été multiplié par quatre entre l’année dernière et cette année. La plateforme de vérification affirme même que cette technique est à l’origine de 7 % des cas de fraude recensés, qu’il s’agisse d’usurpation d’identités, de piratage de comptes ou de manipulations plus élaborées par « ingénierie sociale ». Meta dit à présent vouloir y remédier et propose un outil qui ajoute des filigranes invisibles aux vidéos générées par l’IA.
Meta Video Seal, un complément à Watermark Anything et Audio Seal, sera disponible en open source et est conçu pour s’intégrer aux logiciels existants. Dans une interview accordée à TechCrunch, Pierre Fernandez, chercheur en IA chez Meta, admet que d’autres outils de filigranage existent déjà. « Mais ils ne résistent pas à la compression vidéo, ce qui est pourtant crucial quand il s’agit de contenus partagés sur les réseaux sociaux. Ils sont également inefficaces en termes d’échelle, ne sont ni open source, ni reproductibles et sont souvent intégrés aux images, ce qui n’est pas optimal pour les vidéos. »
Classement public
Outre le filigrane, Video Seal permet également d’ajouter un message caché aux vidéos afin qu’il soit possible d’en retrouver l’origine par la suite. Selon Meta, l’outil résiste à des tactiques comme le floutage et le cropping, ainsi qu’aux algorithmes de compression les plus courants. Toutefois, Pierre Fernandez admet dans l’interview qu’une forte compression et des modifications importantes apportées aux vidéos peuvent rendre les filigranes introuvables.
Pour s’assurer que les développeurs et l’industrie utilisent l’outil de Meta, la société va également lancer un classement public, baptisé Meta Omni Seal Bench, qui comparera les performances des différentes méthodes de filigranage. Le groupe organisera également un atelier sur le sujet à l’ICLR, la grande conférence consacrée à l’IA.
