Google a sorti un outil qui permet aux développeurs d’apposer un filigrane sur du texte généré par l’IA. L’outil peut également identifier les textes filigranés.
L’outil s’appelle SynthID et a été développé par le département DeepMind de Google. Il s’agit là du département de recherche en intelligence artificielle du géant technologique. Google a elle-même créé SynthID pour identifier plus facilement du texte généré par l’IA. L’outil est désormais rendu open source et est disponible dans la boîte à outils Responsible Generative AI de Google, selon l’entreprise.
‘A présent, d’autres développeurs d’IA pourront utiliser cette technologie pour les aider à détecter si du texte généré provient bien de leurs propres grands modèles de langage (LLM).’ Cela leur permettra de créer plus facilement une IA de manière responsable’, déclare Pushmeet Kohli, vice-président de la recherche chez DeepMind, au MIT Technology Review.
Filigrane
Déjà intégré au chatbot Gemini de Google, SynthID rend détectable le contenu généré par l’IA en ajoutant des filigranes invisibles aux images, à l’audio, à la vidéo et au texte au fur et à mesure de leur production. Le même outil peut également reconnaître un filigrane sur la base de quelques phrases.
Les filigranes sont un outil important pour les entreprises qui préfèrent ne pas voir leurs modèles d’IA abusés. L’IA générative est utilisée, entre autres, pour générer et diffuser de la désinformation à grande échelle ou pour compiler des images à caractère sexuel sans le consentement des personnes qui y sont présentes. Un filigrane a pour but d’indiquer clairement que des images et des textes ne proviennent pas d’une source fiable.
Plusieurs gouvernements, comme l’état de Californie mais aussi la Chine, souhaitent rendre obligatoires les filigranes pour les contenus générés par l’IA. La technologie nécessaire dans ce but n’est cependant pas encore complètement au point. D’autres firmes d’IA préparent des systèmes similaires. C’est ainsi que le concurrent de Google, OpenAI, affirme disposer d’un filigrane, mais ne souhaite pas encore le rendre public, car cela pourrait effaroucher les clients.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici