Développement d'un langage propre par des robots: rien de si effroyable

02/08/17 à 15:14 - Mise à jour à 03/08/17 à 15:39

Source: Datanews

Facebook a décidé de mettre un terme à un projet concernant l'intelligence artificielle après que des robots ont développé leur propre langage. Cette information est partiellement vraie, mais la réalité est nettement moins effroyable que ce que vous pourriez imaginer.

Développement d'un langage propre par des robots: rien de si effroyable

. © Getty Images/iStockphoto

Certains médias annonçaient hier que Facebook avait dû interrompre une expérience entre deux robots qui avaient, semble-t-il, développé leur propre langage. Bien que les faits aient été correctement relatés dans la majorité des articles, ils étaient un peu trop volontiers grevés de suppositions selon lesquelles il s'agirait là d'une évolution horrifiante, laissant entendre que des machines dotées d'une intelligence artificielle étaient parvenues à développer leur propre cerveau, et étaient accompagnés d'images issues de Terminator 2, ce film de science-fiction où des robots prennent le pouvoir sur le monde. Vous l'avez deviné : ces suppositions sont grandement exagérées, et non, nous n'écrivons pas ces lignes parce qu'un robot nous y contraint.

Que s'est-il réellement passé ?

Facebook travaille actuellement sur un projet dans le cadre duquel deux chatbots (et donc, pas des machines physiques) communiquent entre eux. L'objectif était de leur apprendre à négocier pour acheter certains objets les uns aux autres, en leur laissant dire ce qu'ils veulent.

Dans la pratique, il semble que les robots n'avaient pas recours à l'anglais normal, mais à des mots fort éloignés de ce que nous considérons, vous et moi, comme des phrases normales. Le projet n'a pas été arrêté, mais les chercheurs ont dû résoudre un bug afin de mieux comprendre les robots.

Ce concept a toutefois rapidement pris de l'ampleur, pour finir par devenir "un langage secret", suscitant l'illusion que des robots ont une conscience propre et veulent communiquer dans un langage incompréhensible pour le commun des mortels.

Pour que vous compreniez clairement de quoi il retourne, voici un fragment du langage secret en question :

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Pourquoi ne parlent-ils pas l'anglais normal ?

Que des chatbots dévient de l'anglais n'est pas anormal en soi, entre autres parce qu'ils n'ont pas besoin de cette langue pour exécuter les tâches relativement simples qui leur sont assignées. The Register s'est entretenu à ce sujet avec Ryan Lowe, un doctorant de la McGill University qui mène des recherches auprès d'OpenAI. Il relativise cette situation qui, d'après lui, se produit fréquemment, et confirme qu'il n'y a pas lieu de s'inquiéter. Il arrive par exemple très souvent que des chatbots reviennent à une sorte de code morse pour communiquer entre eux de manière rapide et efficace.

Pas de règles, pas de langue

"Les tâches qu'ils doivent effectuer sont très limitées et le langage qu'ils emploient à cette fin est à leur image : il est simple et ne ressemble en rien à une vraie langue. Les langues se caractérisent par des règles de syntaxe et de grammaire bien délimitées. Si l'on n'inculque pas explicitement ces conventions aux chatbots, ces agents conversationnels ne parleront pas nécessairement un langage compréhensible. Une langue naturelle ne prend pas spontanément la main", a expliqué Ryan Lowe à The Register.

En résumé : si un robot doté d'une intelligence artificielle doit uniquement répondre par "Oui, c'est OK" ou "Non, ça ne marchera pas", il est fort probable qu'il se limite à un langage comportant un ou deux bips pour signifier cette différence. Tout simplement parce que ce moyen est plus efficace qu'une phrase complète, dont il n'a pas besoin pour effectuer une tâche.

Nos partenaires