Des chercheurs de l’université israélienne Ben Gurion ont démontré comment une voiture autonome peut subitement freiner à cause d’un panneau publicitaire à l’aspect tout à fait normal pour nous, les humains.
Il s’agit ici de ce qu’on appelle une ‘split-second phantom attack’, par laquelle une illustration d’un panneau ‘stop’ s’affiche durant quelques millisecondes sur un panneau publicitaire électronique ordinaire. Les pirates pourraient cependant abuser de ce genre d’attaque.
Les chercheurs ont testé deux systèmes autonomes sophistiqués, celui d’une Tesla Model X et celui d’une Mobileye 630. A côté d’un signal ‘stop’ affiché très brièvement sur un panneau publicitaire, les chercheurs ont également projeté l’illustration d’un piéton sur la route au moyen d’un beamer. Dans les deux cas, la voiture a freiné directement. Comme l’illustration n’est visible que brièvement, les gens ne s’aperçoivent pas que la voiture détecte un danger. Or ce genre de panneau publicitaire manipulé ne peut être que malaisément désactivé de manière préventive.
Heureusement, il y a aussi, selon les chercheurs, une façon d’initier les voitures autonomes pour qu’elles ne soient plus sensibles aux manipulations. Ils ont en effet mis au point un système baptisé ‘GhostBusters’ qui, sur base d’un réseau neural notamment, doit pouvoir détecter si un objet est bien réel, dans ce cas un piéton ou un signal ‘stop’ physique en lieu et place d’une projection. Le système y parviendrait en se basant sur la lumière, le contexte, la surface et la profondeur.
En novembre, les chercheurs présenteront leur invention lors de la conférence ACM Computer and Communications Security.
