La Chine utilise des censeurs pour surveiller les ‘valeurs socialistes fondamentales’ des principaux modèles linguistiques des entreprises chinoises d’intelligence artificielle. Les sujets et informations politiquement sensibles seraient éliminés.
Le gouvernement chinois a étendu sa politique de censure pour y inclure des tests sur les principaux modèles linguistiques des entreprises d’intelligence artificielle du pays, selon le Financial Times. Ce faisant, le régime de Pékin veut s’assurer que les systèmes soient suffisamment imprégnés des ‘valeurs socialistes fondamentales’.
La Cyberspace Administration of China (CAC), un organe de censure qui supervise l’internet chinois, soumettrait les grandes entreprises technologiques et les start-ups d’IA chinoises, dont Alibaba, Moonshot et la société-mère de TikTok, ByteDance, à une évaluation gouvernementale obligatoire de leurs modèles d’IA. Voilà ce qu’expliquent plusieurs sources impliquées dans ce processus.
Questions sensibles
Les responsables du gouvernement chinois testeraient les modèles linguistiques à l’aide de questions souvent liées aux sensibilités politiques de la Chine et du président chinois Xi Jinping. C’est ainsi que les sujets et mots-clés politiquement sensibles seraient filtrés des données d’importation lors de la formation des modèles linguistiques. Une base de données serait également constituée avec des mots-clés sensibles qui violent les ‘valeurs socialistes fondamentales’. La saisie de ces mots-clés ‘interdits’ ne générerait donc pas de réponse pour les modèles de langage censurés.
Le résultat est d’ores et déjà visible pour les utilisateurs de chatbots d’IA en Chine. Les questions sur des sujets sensibles comme la manifestation de Tiananmen du 4 juin 1989 ou le mème internet comparant le président Xi à Winnie l’ourson sont rejetées par la plupart des chatbots chinois. Kimi, un chatbot de la start-up chinoise Moonshot, élude même catégoriquement la plupart des questions sur le président Xi.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici