Des chercheurs de l’université de Zurich ont, sans l’annoncer au préalable, déployé des robots d’IA sur un sous-forum de la plateforme en ligne Reddit spécialisée dans les débats sensibles. Les chercheurs ont été bannis, et Reddit envisage de porter l’affaire en justice.
L’université de Zurich a indiqué que ses chercheurs avaient ces derniers mois manipulé des millions d’utilisateurs de Reddit via l’intelligence artificielle. Elle a avoué la tromperie au forum même, affirmant aussi que les chercheurs avaient enfreint les règles.
‘Au cours des derniers mois, nous avons utilisé plusieurs comptes pour publier des messages sur le sous-forum ChangeMyView de Reddit’, révèlent les chercheurs de l’université. ‘Notre expérience visait à examiner la force de persuasion des LLM dans un scénario éthique, en demandant aux gens de fournir des arguments contre certaines opinions qu’ils défendent.’ Dans la pratique, les chercheurs ont invité l’IA à élaborer des arguments, puis les ont relus, avant de les publier. Ils l’ont fait spécifiquement dans r/changemyview, un sous-forum portant sur des débats de nature souvent sensible. Ce faisant, ils voulaient vérifier si l’IA pouvait faire changer d’avis quelqu’un. Les chercheurs se sont excusés d’avoir enfreint les règles de Reddit concernant l’utilisation de l’IA, tout en déclarant qu’ils considéraient leur expérience comme cruciale, et qu’il était important de la réaliser indépendamment des règles.
Durant l’expérience, l’IA a endossé le profil, entre autres, d’une victime de viol et d’un homme noir opposé au mouvement Black Lives Matter. Les modérateurs de ChangeMyView affirment qu’il s’agit là d’une grave violation éthique. Pour sa part, Reddit envisage de déposer une plainte contre les chercheurs.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici