'Les développeurs détiennent un grand pouvoir qu'ils doivent utiliser à bon escient'

07/03/17 à 14:02 - Mise à jour à 15:27

Source: Datanews

Uber et Volkswagen ont commis des fraudes à grande échelle sur base du code écrit par leurs développeurs, selon le blogueur technologique Quincy Larson, qui demande à ce que les programmeurs assument leur responsabilité: 'Il n'y a que vous qui puissiez vous opposer à du code malfaisant.'

'Les développeurs détiennent un grand pouvoir qu'ils doivent utiliser à bon escient'

© iStock

'Aucun ingénieur software ayant reçu une formation éthique ne pourrait un jour accepter de créer une procédure dans le but d'anéantir Bagdad. La déontologie exige de sa part qu'il écrive en lieu et place une procédure générale en vue d'anéantir des villes, où on pourrait prévoir Bagdad comme paramètre', selon Nathaniel Borenstein, chercheur en informatique.

Uber et les taxis inexistants

Le 3 mars dernier, The New York Times publiait le plus imposant article à ce jour sur Uber. Depuis 2013, l'entreprise de taxi recourt à un outil complexe pour saper l'application de la législation locale. Ce programme s'appelle Greyball et fonctionne comme suit:

1. Dans les villes, où Uber opère dans l'illégalité - et elles sont encore nombreuses -, Greyball est capable d'identifier les agents de police en civil qui tentent d'attraper les chauffeurs d'Uber et de confisquer leur voiture.

2. Lorsque la police ouvre l'appli d'Uber et essaie d'y détecter une course, elle y voit des chauffeurs factices en train de rouler dans les villes, mais elle ne parvient pas à les prendre sur le fait.

3. Comme les voitures que la police voit, ne sont pas réelles, celle-ci ne peut attraper le moindre chauffeur pour le contrôler. Résultat: Uber peut simplement négliger le fait qu'une ville n'ait pas encore approuvé le covoiturage, et y opérer comme si de rien n'était.

Prenez donc un instant pour y réfléchir et vous en arriverez à la conclusion qu'Uber se place au dessus des lois grâce à son logiciel Greyball.

Son mode d'identification est assez génial. Sur base des cartes de crédit des agents, Uber peut comparer les bases de données des commerçants avec les listes des fonctionnaires publics et ainsi savoir qui est probablement un policier. Il ne reste plus alors à l'entreprise qu'à empêcher ces personnes d'utiliser son service de taxi.

Les agents de police ne peuvent donc réserver un taxi, mais pensent qu'ils se trouvent simplement au mauvais endroit au mauvais moment. Voilà comment Uber a pu recourir des années durant à ce subterfuge et ce, jusqu'à ce que deux ingénieurs de l'entreprise tiraillés par le remords exposent le pot aux roses.

Zenefits et les agents d'assurance illégaux

L'entreprise Zenefits fournit du software aux entreprises et tente de leur vendre des packs d'assurances. En 2016, on a appris que son CEO Parker Conrad avait demandé à son équipe de développeurs de concevoir un outil libérant la route aux agents de Zenefits, afin qu'ils décrochent facilement leur licence.

A l'aide d'une extension de navigateur créée sur mesure, les agents de Zenefits ont pu sauter un cours en ligne légal obligatoire de 52 heures se clôturant par des examens. Au lieu de payer du nouveau personnel pour suivre un cours pendant une semaine et demie, l'entreprise a pu ainsi leur faire vendre directement des assurances.

Immédiatement après que la nouvelle ait été dévoilée, Conrad démissionna. Suite à ce scandale, l'entreprise perdit la moitié de sa valeur - 2,5 milliards d'euros - et se vit forcer de licencier des centaines de personnes.

Volkswagen et le cancer du poumon

Entre 2008 et 2015, Volkswagen produisit plus de 10 millions de voitures diesel 'propres'. Nombre d'ingénieurs se disaient surpris que des moteurs diesel émettent nettement moins de gaz nocif que la moyenne, tout en permettant de parcourir le même nombre de kilomètres. Résultat: leurs soupçons étaient fondés, puisqu'en 2014, des chercheurs découvrirent que les voitures en question étaient équipées de ce qu'on appelle un logiciel de bidouillage.

La direction de Volkswagen avait en fait ordonné à ses ingénieurs software de trouver une manière de tromper l'Environmental Protection Agency lors des tests d'émissions. Ils savaient que les contrôleurs utiliseraient des paramètres spécifiques durant ces tests. Ils conçurent dès lors une logique déterminant que quand ces paramètres étaient sélectionnés, le moteur fonctionnerait d'une certaine façon.

Le logiciel de bidouillage masquait le fait que les moteurs diesel de Volkswagen émettaient en réalité bien plus d'oxyde d'azote que le seuil légalement toléré. Cela allait même jusqu'à quarante fois plus.

Et ce sont ces émissions qui sont à l'origine du cancer du poumon. Des chercheurs du MIT américain estiment du reste qu'elles provoqueront en fin de compte la mort précoce de nombreuses personnes dans le monde.

Conclusion: le logiciel conçu par ces développeurs tue des innocents.

Après l'arrangement d'un montant de 13,86 milliards d'euros en 2016, Volkswagen a encaissé le choc. Son image ne sera sans doute plus jamais ce qu'elle était avant. Cela restera l'une des plus grandes tromperies environnementales de notre époque, causée par quelques développeurs qui n'ont fait que suivre les ordres.

With great power comes great responsibility. - Uncle Ben

Le fil rouge? Le code

Le monde est toujours plus dépendant du code écrit par les développeurs. Ces derniers appartiennent donc progressivement aux personnes les plus puissantes au monde.

Coder, c'est détenir un superpouvoir. C'est imposer une réalité au monde, dans la mesure où on peut l'améliorer ou le détruire.

Il est possible de tromper la législation, la police et la Justice, mais aussi l'opinion publique. Il est même possible de le faire à l'infini sans être pris.

Mais ce genre d'attitude ne peut être cautionné.

Les développeurs détiennent un grand pouvoir qu'ils doivent utiliser à bon escient.

Si vous êtes un développeur ou que vous voulez le devenir, je vous recommande de lire The Code I'm Still Ashamed Of, un article signé Bill Sourour.

Et si quelqu'un vous demande de concevoir quelque chose de clairement illégal ou de malfaisant, ameutez la presse. Les développeurs dans les trois cas susmentionnés auraient pu le faire et épargner ainsi pas mal de problèmes au monde.

Vous seul pouvez vous opposer à du code malfaisant.

Cette chronique a été initialement publiée en anglais sur FreeCodeCamp.

Nos partenaires