Le genre de réponse qu'on entend assez souvent dans les firmes technologiques. Or en réalité, c'est généralement le contraire qui se passe. Même si les algorithmes et séduisantes interfaces utilisateurs visent à générer la croissance, ils ont tous un effet secondaire social. Des effets secondaires négatifs tels les itinéraires furtifs de Waze destinés à perturber la quiétude des quartiers résidentiels. Mais aussi des effets secondaires positifs, tels une appli de livraison de repas qui propose régulièrement des aliments végétariens en vue de réduire l'empreinte écologique de l'utilisateur.

Les applis avisées vont-elles sauver le monde?

L'amie en question n'était pas satisfaite de ma réponse: 'Pas mal de responsabilité pèse donc sur vos épaules'. Et elle avait raison. Plus de 100.000 réunions durant des événements de networking (en ligne) ont déjà été planifiées via Conversation Starter. En gros, 70.000 d'entre eux ont été préparés par nos algorithmes de suggestion. Que se passera-t-il si Conversation Starter atteint bientôt des millions d'utilisateurs? Dans ce cas, un seul algorithme, développé à Anvers, exercera une influence sur le trajet suivi par de très nombreux entrepreneurs.

Conversation Starter n'a cependant pas encore des millions d'utilisateurs, mais d'innombrables applis en sont à ce stade. Voyez par exemple le gouvernement flamand qui a récemment signé un contrat avec l'entreprise Via, afin de regrouper divers moyens de transport dans une plate-forme logicielle unique. La mobilité de 6,5 millions de Flamands en sera bientôt impactée.

Pour optimaliser son logiciel, Via pourrait cibler les besoins de l'utilisateur individuel. Préfère-t-il prendre la voiture plutôt que le vélo? Dans pareil cas, priorité sera accordée à la voiture dans le planificateur routier.

Pour optimiser son logiciel, Via pourrait aussi tenir compte du choix stratégique du gouvernement flamand. Des entreprises influentes tenteraient-elles alors de contrôler les algorithmes du planificateur routier? Ce n'est pas impensable. Facebook semblait par exemple avoir élaboré un programme XCheck secret, par lequel des utilisateurs influents pouvaient contourner les algorithmes et les règles.

Le logiciel neutre est impossible, et c'est peut-être bien ainsi.

Le logiciel neutre est impossible, et c'est peut-être bien ainsi. Les applis exerçant des effets secondaires sociétaux étudiés peuvent-elles améliorer le monde? Via pourrait par exemple choisir de promouvoir au maximum la mobilité verte. Et les algorithmes de Conversation Starter pourraient par exemple faire en sorte que les utilisateurs de petites entreprises aient plus d'opportunités lors de réunions fructueuses que les utilisateurs de multinationales.

Je propose qu'on prenne moins à la légère les effets secondaires sociétaux des logiciels dominants:

  • En autorisant des audits indépendants, la société pourrait acquérir une meilleure connaissance des effets secondaires. La plate-forme de participation citoyenne belge Citizen Lab se distingue par exemple en rendant open source le coeur de son logiciel.
  • En impliquant lors de la conception les utilisateurs du logiciel et quiconque en ressent les effets secondaires, afin de développer un logiciel à la mesure de la société. Cela pourrait se faire via le trajet démocratique classique, mais aussi par le biais d'une mini-démocratie incorporée au logiciel. Une technologie telle la chaîne de blocs pourrait permettre cette dernière option.

La conversion dans la pratique ne sera pas simple. Je suis cependant optimiste quant au fait que ces propositions non seulement généreront une différence sociale, mais satisferont aussi les actionnaires, parce qu'elles veilleront à fidéliser davantage les clients. Avec de bons résultats d'audit, la confiance et la loyauté seront favorisées, et en impliquant toutes les personnes intéressées, le logiciel sera continuellement adapté au marché.

Merci à Thomas Smolders, Hans Constandt, Gerda Tersago, Marieke Carpentier et Pieter Seyssens.

Le genre de réponse qu'on entend assez souvent dans les firmes technologiques. Or en réalité, c'est généralement le contraire qui se passe. Même si les algorithmes et séduisantes interfaces utilisateurs visent à générer la croissance, ils ont tous un effet secondaire social. Des effets secondaires négatifs tels les itinéraires furtifs de Waze destinés à perturber la quiétude des quartiers résidentiels. Mais aussi des effets secondaires positifs, tels une appli de livraison de repas qui propose régulièrement des aliments végétariens en vue de réduire l'empreinte écologique de l'utilisateur.L'amie en question n'était pas satisfaite de ma réponse: 'Pas mal de responsabilité pèse donc sur vos épaules'. Et elle avait raison. Plus de 100.000 réunions durant des événements de networking (en ligne) ont déjà été planifiées via Conversation Starter. En gros, 70.000 d'entre eux ont été préparés par nos algorithmes de suggestion. Que se passera-t-il si Conversation Starter atteint bientôt des millions d'utilisateurs? Dans ce cas, un seul algorithme, développé à Anvers, exercera une influence sur le trajet suivi par de très nombreux entrepreneurs. Conversation Starter n'a cependant pas encore des millions d'utilisateurs, mais d'innombrables applis en sont à ce stade. Voyez par exemple le gouvernement flamand qui a récemment signé un contrat avec l'entreprise Via, afin de regrouper divers moyens de transport dans une plate-forme logicielle unique. La mobilité de 6,5 millions de Flamands en sera bientôt impactée.Pour optimaliser son logiciel, Via pourrait cibler les besoins de l'utilisateur individuel. Préfère-t-il prendre la voiture plutôt que le vélo? Dans pareil cas, priorité sera accordée à la voiture dans le planificateur routier. Pour optimiser son logiciel, Via pourrait aussi tenir compte du choix stratégique du gouvernement flamand. Des entreprises influentes tenteraient-elles alors de contrôler les algorithmes du planificateur routier? Ce n'est pas impensable. Facebook semblait par exemple avoir élaboré un programme XCheck secret, par lequel des utilisateurs influents pouvaient contourner les algorithmes et les règles.Le logiciel neutre est impossible, et c'est peut-être bien ainsi. Les applis exerçant des effets secondaires sociétaux étudiés peuvent-elles améliorer le monde? Via pourrait par exemple choisir de promouvoir au maximum la mobilité verte. Et les algorithmes de Conversation Starter pourraient par exemple faire en sorte que les utilisateurs de petites entreprises aient plus d'opportunités lors de réunions fructueuses que les utilisateurs de multinationales.Je propose qu'on prenne moins à la légère les effets secondaires sociétaux des logiciels dominants:La conversion dans la pratique ne sera pas simple. Je suis cependant optimiste quant au fait que ces propositions non seulement généreront une différence sociale, mais satisferont aussi les actionnaires, parce qu'elles veilleront à fidéliser davantage les clients. Avec de bons résultats d'audit, la confiance et la loyauté seront favorisées, et en impliquant toutes les personnes intéressées, le logiciel sera continuellement adapté au marché.Merci à Thomas Smolders, Hans Constandt, Gerda Tersago, Marieke Carpentier et Pieter Seyssens.