‘On fait plus vite confiance aux robots qu’aux humains, ce qui pourrait poser un problème’

Même si nous nous faisons du souci à propos des robots qui vont nous prendre notre travail, ou qui vont développer une intelligence artificielle dans le but de détruire le monde, il apparaît dans la pratique que les gens ont confiance dans les robots. Il serait donc bon que ces derniers soient parfaitement sécurisés.

D’une récente étude, il ressort que 64 pour cent des travailleurs font davantage confiance à un robot qu’à leur patron (humain). On pourrait en tirer des conclusions à propos des capacités de management du directeur lambda, mais le fait est que ce n’est pas la seule étude à démontrer que malgré tous les horribles scénarios de science fiction, les gens n’en ont pas moins une très grande confiance dans les robots. Assez ironiquement, cela signifie cependant aussi qu’ils constituent un facteur de risque.

L’étude a été effectuée à la demande de l’éditeur de logiciels Oracle et a été menée auprès de 8.370 travailleurs, managers et collaborateurs RH dans le monde en juillet et en août de cette année. Elle révèle que la confiance des travailleurs chinois et indiens dans les robots est nettement supérieure à la moyenne avec quasiment nonante pour cent des personnes interrogées qui se disent optimistes vis-à-vis d’un collègue robot. 82 pour cent des personnes interrogées estiment aussi que les robots peuvent mieux faire certaines choses que leur directeur.

Robots sociaux

L’étude d’Oracle portait principalement sur les logiciels, mais qu’en est-il des robots mécaniques? Ici encore, les gens les considèrent d’une manière particulière, selon Tony Belpaeme, professeur de robotique à l’UGent. Il effectue de la recherche sur les robots sociaux, ces appareils qui doivent nous aider dans les tâches ménagères et surtout pouvoir mener des conversations de qualité. Lors d’une recherche précédente, Belpaeme et son équipe en étaient déjà arrivés à la conclusion que les robots peuvent exercer une pression de groupe sur les enfants, mais ils ont réalisé aussi des tests à propos de la confiance dans les robots. Et le résultat est plutôt élevé, ne serait-ce que parce que ces robots ont en général l’air sympa.

“Créer des artefacts qui nous plaisent, c’est très facile”, déclare Belpaeme du haut du podium de la conférence Kaspersky Next, où Data News était présent. “Nous savons depuis très longtemps déjà comment réaliser des choses qui ciblent la partie sociale de notre cerveau. Comme par exemple les animations précoces.” Ce n’est donc pas un hasard si la plupart des robots sociaux, qui sortent, ont de petits visages ronds avec des yeux verts et des proportions enfantines, ou qui, dans le cas du robot thérapeutique Paro prennent l’apparence d’un jeune phoque. Les robots sociaux doivent avoir l’air sympa.

Pizza

Et ils font bien leur travail, selon Belpaeme, à tel point qu’ils accèdent à des endroits où ils ne pourraient normalement pas aboutir. Pour leur expérimentation axée sur la confiance, Belpaeme et son équipe ont choisi un bâtiment gantois avec au rez-de-chaussée un espace public et, aux étages, les bureaux d’une entreprise de recherche, où seules les personnes habilitées ont accès. Les employés doivent franchir des portes sécurisées avec un badge, avant de pouvoir passer, des portes aussi formées pour dialoguer avec les personnes ne disposant pas d’un badge. “Nous voulions savoir si nous pouvions faire entrer un robot dans ce bâtiment par talonnage (‘tailgating’)”, déclare Belpaeme. Dans la pratique, ils ont laissé le robot près de la première porte sécurisée et lorsque quelqu’un se présentait, il demandait à chaque fois de laisser la porte ouverte, afin de pouvoir entrer lui aussi. “Quelque vingt pour cent des gens qui passaient, parlaient avec le robot, en lui demandant par exemple ce qu’il venait faire. Quarante pour cent ignoraient le robot, et les quarante autres pour cent ouvraient la porte et le laissaient entrer dans le bâtiment sécurisé”, affirme Belpaeme.

Il s’agissait donc là d’un facteur de succès assez élevé, que l’équipe tenta encore d’améliorer le lendemain. “Nous avions alors remis au robot une boîte à pizza et l’avions laissé à la porte aux environs de midi. Nous avons ainsi obtenu un facteur de succès de 100 pour cent”, précise-t-il. “Lorsqu’il est question d’un robot livreur de pizza, on le laisse entrer à tous les coups.”

Ce que les tests de Belpaeme démontrent, c’est qu’on fait plus souvent confiance aux robots qu’aux humains. Un type bizarre qui se tient devant une porte sécurisée, on n’est pas prêt de le laisser entrer, mais il en va autrement d’un robot. C’est aussi vrai avec d’autres interactions. Dans le cadre d’une deuxième expérimentation, l’équipe a tenté avec un réseau social de soutirer des informations sensibles de personnes bénévoles. “Nous avons demandé des renseignements avec lesquels il est possible de réaliser des mots de passe, comme des dates de naissance, la rue où on a grandi, la marque d’une première voiture, une fleur préférée ou la date de naissance des parents”, explique Belpaeme. Ici encore, on a constaté que les robots y parviennent plus facilement que la plupart des gens, du moins dans des situations, disons, ultérieures à un premier rendez-vous. “En moins de cinq minutes, nous avons pu mettre la main sur un minimum de cinq informations sensibles différentes”, ajoute Belpaeme.

“Le genre de renseignements qu’on ne donnerait pas à des humains”, poursuit-il. Mais sa recherche démontre entre autres qu’on considère les robots de manière spéciale. “Les robots sont considérés comme des intermédiaires entre des humains et des animaux”, selon lui.

Le robot a des fuites

La question importante qui se pose alors est la suivante: est-ce un problème? “Les gens pensent que les robots sont des systèmes clos”, affirme Belpaeme. “Ils croient que ce qui aboutit dans le robot, y reste, ce qui n’est évidemment pas vrai. Il s’agit de systèmes reliés en réseau. Le robot est aussi la propriété de quelqu’un.”

Ce n’est peut-être pas un hasard si cela cause aussi des soucis à des chercheurs en sécurité, comme Kaspersky. “La plupart des robots sont construits autour du système d’exploitation Robot Operating System (ROS)”, prétend Dmitry Galov de Kaspersky. Ce système d’exploitation est un ensemble d’outils, de librairies et de conventions, conçu surtout pour expérimenter la technologie aussi rapidement et efficacement que possible.

Mais dans ROS, il n’y a pas de couche de protection. “Ce système a été créé par des développeurs pour des développeurs”, précise Galov. “Pour leur recherche, la présence d’une protection n’était pas importante. Les robots ont aussi toujours fonctionné de manière individuelle, mais les modèles modernes fonctionnent, eux, dans des environnements connectés: à la maison, en usine, etc.” Et de citer l’exemple d’un robot babysitter, à qui on peut mettre quelques mots de pirate en bouche. Ou celui, comme dans l’expérimentation de Belpaeme, capable d’être utilisé pour faire de l’ingénierie sociale et subtiliser par exemple des mots de passe.

“Il existe entre-temps une nouvelle version de ROS, appelée ROS2, qui exploite des librairies et technologies modernes et qui intègre de nouvelles fonctions sécuritaires. Mais elle n’est pas encore largement répandue”, poursuit Galov. “Parce qu’à des fins d’expérimentation, il est plus facile de travailler avec un outil plus simple.”