I, Robot

Seul un tiers des 9 millions de Juifs qui vivaient en Europe avant la guerre a échappé à l’Holocauste. Combien en auraient réchappé si les nazis avaient possédé des technologies informatiques modernes? Pratiquement aucun, peut-on craindre.

Seul un tiers des 9 millions de Juifs qui vivaient en Europe avant la guerre a échappé à l’Holocauste. Combien en auraient réchappé si les nazis avaient possédé des technologies informatiques modernes? Pratiquement aucun, peut-on craindre.

Faites donc l’expérience de pensée suivante. Essayez d’imaginer comment vous pourriez, en tant que Juif, témoin de Jéhovah, tzigane, moins-valide, holebi, socialiste, communiste ou opposant, échapper à un régime totalitaire qui contrôle totalement ses citoyens via l’exploration de données, les caméras de surveillance, le contrôle des itinéraires, les cartes d’identité électroniques, la surveillance internet, les systèmes GIS et les réseaux GSM. Mais la technologie informatique et l’internet peuvent aussi être utilisés contre des régimes totalitaires. Les révolutions en Tunisie, en Egypte, en Syrie et en Libye le démontrent. Ces mouvements ont été, de façon quelque peu exagérée, qualifiés de révolutions Facebook ou Twitter. Dans tous ces pays, les autorités essaient d’ailleurs de paralyser le trafic internet, GSM et téléphonique afin de limiter autant que possible les fuites d’informations. Mais du fait de la mondialisation, il s’avère que cela n’est pas si simple à réaliser. Les réseaux sont souvent détenus par des sociétés internationales qui ne se laissent pas facilement intimider par les autorités locales. Sur ce plan, Kadhafi semble plus malin que ses collègues dictateurs. Lui-même, ou du moins l’un de ses fils, est tout simplement propriétaire du principal réseau GSM de Libye.

De tous ces exemples, il nous faut retenir une leçon importante. La technologie est peut-être désintéressée (chose dont je ne suis finalement plus très sûr), mais elle peut être utilisée et détournée à des fins idéologiques. Peut-être devrions-nous, en tant que démocratie, y réfléchir un peu plus. Ne devons-nous pas coder au niveau matériel une série de principes de la démocratie et des Droits de l’Homme dans la technologie occidentale? L’idée n’est pas nouvelle. Dans les années ’40, l’écrivain américain Isaac Asimov avait déjà formulé les 3 lois de la robotique dans son recueil de nouvelles I, Robot: un robot ne peut porter atteinte à un être humain, ni le laisser mourir; il doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi; il doit protéger son existence tant que cette protection n’entre pas en conflit avec la première et la deuxième loi.

Les lois de la robotique imaginées par Asimov restent de la fiction. Mais ses robots sont aujourd’hui devenus une réalité. Deux pour cent des troupes américaines en Afghanistan sont des robots. Et ceux-ci n’aident sûrement pas tous au désamorçage de bombes. Dans Obama’s Wars, Bob Woodward raconte qu’en avril 2010, des robots liquidaient tous les 3 jours un ou plusieurs combattants d’Al-Qaida dans la région frontalière entre le Pakistan et l’Afghanistan. Du reste, le codage au niveau matériel de valeurs humaines ne relève plus non plus de la science-fiction. C’est un secret bien gardé que certaines armes de guerre américaines destinées à l’exportation contiennent des puces électroniques garantissant que l’arme ne pourra pas servir contre des soldats américains. Et actuellement, les Américains expérimentent en Afghanistan des balles intelligentes dotées d’un processeur directionnel. Si cela peut déjà se faire au plan technique, pourquoi ne pourrions-nous pas couler au moins la Charte des Droits de l’Homme de l’ONU d’une façon ou d’une autre dans un firmware informatique?