Un bug AI transforme Google Translate en oracle défaitiste

23/07/18 à 11:53 - Mise à jour à 11:58

Source: Datanews

Quiconque utilise un tant soit peu le moteur de traduction de Google, aboutit parfois à quelques sinistres prévisions quant à la fin des temps. Il s'agit là d'un bel exemple de la manière dont des réseaux neuraux peuvent complètement délirer.

Un bug AI transforme Google Translate en oracle défaitiste

© Getty Images/iStockphoto

De quoi faire quand même paniquer les personnes aisément émotives. Google Translate propose dans certaines circonstances des traductions particulièrement lugubres. Le 'glitch' (bug) a été découvert pour la première fois par des membres de Reddit. Et les 'posts' qu'ils citent en exemple, vont de bizarres à sinistres. Si l'on saisit le terme 'dog' par exemple et que l'on demande sa traduction du yoruba en anglais, on reçoit un texte qui semble annoncer la fin du monde.

D'autres exemples renvoient aux 'fils de Gerson' et utilisent une terminologie typique de la Bible, comme 'cubits' et 'deuteronomy'. Cela semble surtout révéler la présence d'un bug résultant de la façon dont Google développe son moteur de traduction.

Base de données biblique

Google Translate existe depuis une dizaine d'années déjà et propose des traductions dans plus de cent langues. Pour y arriver, l'entreprise a recours à un réseau neural, qui épluche des milliers de textes et de traductions existants. Un texte, qui a été traduit dans plusieurs langues, constitue pour Google Translate un excellent matériel-source. Or la Bible est précisément l'un des ouvrages les plus traduits au monde. Des passages de la Bible semblent même constituer une grande partie de la base de données, surtout pour des langues relativement rares telles le maori ou le somali.

Comme dans l'exemple susmentionné, lorsque le moteur est confronté à un passage, avec lequel il ne sait pas vraiment comme s'y prendre, il retombe dans ce cas sur des éléments qu'il connaît bien. On ne sait cependant pas très clairement comment le moteur aboutit spécifiquement sur des passages pessimistes. Les réseaux neuraux sont particulièrement malaisés à analyser, ce que fait que même les ingénieurs de Google, qui ont conçu le moteur, ne peuvent dire exactement comment cela se passe. "Google Translate apprend de lui-même à partir de traductions sur le web [...]", explique ainsi Justin Burr, porte-parole de Google, au site technologique Motherboard. "Il s'agit simplement de la conséquence de l'introduction du non-sens, ce qui fait que le système génère parfois une ineptie comme réponse."

Il semble à présent qu'après la découverte du bug, Google ait supprimé les passages plus sinistres de sa plate-forme.

En savoir plus sur:

Nos partenaires