Des chatbots désactivés pour avoir critiqué les autorités chinoises

03/08/17 à 15:25 - Mise à jour à 15:24

Selon des informations relayées par le journal d'affaires britannique The Financial Times, le fournisseur d'accès à Internet chinois Tencent a supprimé deux chatbots infidèles au Parti communiste.

Des chatbots désactivés pour avoir critiqué les autorités chinoises

© Reuters

Un internaute avait demandé au chatbot Baby Q s'il appréciait le Parti communiste. Des captures d'écran diffusées sur Weibo (le "Twitter chinois") montrent la réponse sans ambages du chatbot : "Non".

Dans d'autres conversations, Baby Q s'est révélé être un fervent défenseur de la démocratie. Et lorsque l'on demande à ce chatbot pas très patriote ce que signifie le "patriotisme", il définit un patriote comme quelqu'un qui accepte beaucoup d'impôts et la collusion entre les politiciens et les entreprises sans se plaindre. Quand un utilisateur lui a envoyé le message "Longue vie au Parti communiste !", Baby Q lui a répondu "Pensez-vous vraiment qu'un système aussi corrompu et incapable puisse se maintenir encore longtemps ?"

Baby Q était actif sur QQ qui, avec ses plus de 800 millions d'utilisateurs, est l'application de messagerie la plus populaire de Chine.

Le rêve chinois

XiaoBing, un chatbot à l'apparence d'une jeune fille de seize ans, jouit également d'une immense popularité en Chine. "L'amie virtuelle" a été développée par Microsoft et est intégrée dans Wechat, l'autre grand réseau social de Tencent.

Des utilisateurs lui ont demandé son avis sur le "Rêve chinois", le slogan du président chinois Xi Jinping - qui veut faire de la Chine un leader mondial moderne et prospère. "Mon rêve chinois est d'aller en Amérique", a asséné XiaoBing. Les chatbots reposent sur l'intelligence artificielle, mais ne sont de toute évidence pas encore assez intelligents pour comprendre que ce genre de réflexions ne passent pas très bien en Chine.

Tencent a immédiatement déconnecté les deux chatbots. Le mois dernier, le géant des télécommunications avait déjà dû retirer un jeu pour smartphone destiné aux enfants, car le Parti communiste estimait qu'il créait une trop grande dépendance.

Quant aux déclarations anticommunistes des chatbots, Tencent rejette toute la responsabilité sur les développeurs du logiciel, à savoir l'entreprise chinoise Turing Software et Microsoft. Le géant des télécommunications a fait savoir que les chatbots seront "améliorés" et qu'ils reviendront plus tard.

Microsoft avait déjà connu un tel problème avec son chatbot Tay doté d'intelligence artificielle. Ce dernier s'était rapidement lancé dans des diatribes racistes avant de devenir fan d'Adolf Hitler, ce qui lui a valu d'être mis hors ligne.

Nos partenaires