Une centaine de CEO d’entreprises spécialisées en robotique et en intelligence artificielle ont appelé à une interdiction internationale des robots tueurs. Doit-on prendre au sérieux leur cri d’alarme? Et où en est cette technologie aujourd’hui déjà?
Les killer robots sont des systèmes d’armement à utiliser de manière entièrement autonome et qui peuvent détecter et détruire des cibles ennemies comme des drones ou d’autres armes complètement automatisées. Ce genre de système n’existe pas encore, mais se trouve en préparation avancée. Ce n’est pas la première fois que les Nations Unies sont prévenues du danger. Suite à un courrier rédigé il y a deux ans par Elon Musk, Steve Wozniak, Stephen Hawking et Human Rights Watch notamment, les Nations Unies ont créé un groupe d’experts dans le but d’aborder l’utilisation des armes autonomes. Ce groupe devait se réunir pour la première fois aujourd’hui même, mais par manque de moyens financiers, cette réunion ne se tiendra pas avant novembre au plus tôt. Les signataires du courrier appellent les Nations Unies à respecter cette nouvelle date.
Les spécialistes préviennent que les robots tueurs menacent, après la poudre à canon et les armes nucléaires, de devenir la troisième révolution guerrière. ‘Une fois ces robots mis au point, des conflits armés avec des armes mortelles autonomes pourraient être menés à une échelle plus importante que jamais auparavant, mais aussi beaucoup plus rapidement que ce que les humains peuvent imaginer. Les robots tueurs pourraient être utilisés par des terroristes et des despotes contre des gens innocents. En outre, des armes piratées pourraient se comporter de manière totalement indésirable’, selon les auteurs du courriel.
Ce scénario fataliste n’est pas de la science fiction. Mais aujourd’hui, la technologie est encore loin d’être au point. ‘Les systèmes entièrement autonomes ne peuvent actuellement pas encore être développés’, explique Bram Vanderborght, professeur en robotique (VUB). ‘Les capteurs actuels ne peuvent même pas encore distinguer des citoyens ordinaires de soldats ennemis, à moins que ces derniers déambulent en uniforme orange par exemple. Dans la convention de Genève, cette distinction est laissée à l’interprétation du soldat même. Et s’il y a une chose que les ordinateurs ne sont pas encore capables de faire, c’est bien d’interpréter.’
Ce problème ne se pose pas dans la Zone Démilitarisée Coréenne, cette région-tampon entre la Corée du Nord et celle du Sud, car personne n’a en effet le droit d’y pénétrer. C’est là que se trouve déjà le robot Hanwha Techwin SGR-A1, qui exige provisoirement encore une intervention humaine pour ouvrir le feu, mais qui dispose également d’une fonction automatique.
Le drone américain X-47B peut de son côté déjà décoller de manière entièrement autonome d’un porte-avions, mais aussi naviguer et y atterrir. Initialement, le Pentagon a investi des millions pour permettre au drone d’ici 2020 d’exécuter des missions de combat autonomes, mais ce projet a été revu l’année dernière. Le drone autonome ne serait à présent plus utilisé que pour alimenter des avions de combat avec équipage.
Boîte de Pandore
Pour l’instant, les armes entièrement autonomes en sont donc encore à leurs balbutiements, mais si l’on y investit encore, les choses pourraient se précipiter. Les auteurs du courrier indiquent qu’il n’y a plus guère de temps à perdre pour contrer cette évolution. Le courrier se termine du reste par ces mots: ‘Si cette boîte de Pandore est ouverte, il sera très malaisé de la refermer.’ Cette mise en garde évoque des images à la Robocop ou à la Terminator, ces robots qui écrasent leur propre code et s’en prennent alors massivement à l’humanité. Mais il ne s’agit probablement pas de la menace visée par les auteurs du courrier.
Il s’agit en effet pour les ministères de la défense de prendre en considération les possibilités de cette nouvelle technologie et de consacrer quelques millions de dollars pour la contrer. Au moment où des pays auront sérieusement investi dans son développement, ils seront moins rapidement enclins à accepter son interdiction. Voilà pourquoi ce genre d’interdiction serait préférable avant qu’une nouvelle course aux armes ait lieu.
