Meta poursuit en justice une entreprise qui a fait sur ses plateformes la promotion d’applis d’IA qui mettent à nu des personnes sans leur consentement. Facebook et Instagram vont également restreindre les mots-clés correspondants.
Tout cela fait suite à une enquête menée par la chaîne d’information américaine CBS, qui a découvert des centaines de publicités pour des ‘applis de déshabillage’ sur différentes plateformes de Meta, dont Facebook, Instagram, Messenger et Threads. Ces applis permettent de télécharger une photo, avant de recourir à l’IA générative pour déshabiller numériquement le sujet photographié, sans son consentement.
En réaction à cette nouvelle, Meta a déjà supprimé les publicités détectées et les comptes sous-jacents. En outre, les mots-clés en langue anglaise tels que ‘nudify’, ‘undress’ et ‘delete clothing’ seront désormais restreints, afin de ne plus générer de résultats. L’entreprise technologique bloquera également les liens vers les sites web de ce genre de services sur ses plateformes.
A des fins de chantage et de harcèlement
Meta accuse l’une des entreprises concernées, Joy Timeline, basée à Hong Kong, qui, selon elle, aurait tenté à plusieurs reprises de contourner le processus de contrôle des publicités et d’afficher ainsi des publicités non autorisées pour des applis de déshabillage.
L’enquête de CBS a révélé que de nombreuses publicités ciblaient spécifiquement les hommes adultes aux Etats-Unis, au Royaume-Uni et dans l’Union européenne. Dans ces publicités, les applis sont présentées comme des outils permettant de voir principalement des femmes et des célébrités dénudées, sans leur consentement. Ces applis pourraient être utilisées, entre autres, pour faire chanter ou harceler les femmes en ligne.