En 2016, Microsoft était sous pression : son nouveau système d'exploitation Windows 10 venait à peine de sortir, mais ne semblait pas suffisamment populaire. Du coup, l'éditeur américain décidait de prendre des mesures : les utilisateurs voyaient s'afficher un 'pop-up' leur demandant de migrer vers cette version. Or même s'ils fermaient cette fenêtre, Windows 10 s'installait quand même sur leur ordinateur. Bref, la signification de ce bouton avait été modifiée.

Il s'agit d'un exemple type de 'dark pattern', une astuce de conception qui incite l'utilisateur à faire quelque chose qu'il ne désire pas par le biais de la psychologie. Le phénomène peut faire valoir une longue histoire, mais il a acquis une dimension nouvelle avec le numérique. C'est ainsi que des entreprises comptant des millions d'utilisateurs comme Microsoft ou Facebook utilisent régulièrement ce type de technique pour collecter des clics, des données ou des téléchargements. Et ces interfaces truquées s'inscrivent dans une évolution plus vaste où les plates-formes numériques exploitent la manipulation psychologique.

UX sombre

" Les 'dark patterns' trompent sciemment les utilisateurs, franchissant ainsi une frontière éthique en contraignant une personne à faire ce qu'elle ne veut pas ", explique Hannes Van de Velde, director of Product Design au studio numérique In The Pocket, où il contribue au document-cadre en matière d'éthique Web et de conception d'applis. " Et si les notions de 'dark patterns' ou de 'dark UX' sont récentes, elles n'en ont pas moins une longue histoire. Cela a malheureusement existé de tous temps. On trouvera toujours dans les mondes physiques et numériques des gens qui tentent par des portes dérobées de duper d'autres personnes. "

On trouvera toujours dans les mondes physiques et numériques des gens qui tentent par des portes dérobées de duper d'autres personnes.

Les interfaces truquées recouvrent de nombreuses astuces souvent bon marché. Songeons à la modification de la signification de boutons, comme le fit Microsoft en 2016. Ou le 'confirm shaming' qui culpabilise l'internaute afin de lui faire dire oui. Par exemple, en lui donnant le choix entre 'Oui, je veux réussir' (l'option qui lui fait recevoir de la publicité) et 'Non, je ne veux pas réussir' (l'option qui ne lui fait pas recevoir de la publicité).

" Un autre exemple classique est de faire payer automatiquement pour un service au terme d'une période d'essai gratuite, ajoute Van de Velde. De même, ce 'confirm shaming' peut utiliser la double négation ou les 'check boxes'. C'est ainsi que certains services vous incitent à cocher une case pour ne pas recevoir de publicité, estimant que l'utilisateur ne va pas lire le texte et que le comportement standard consiste à ne pas cocher une case pour refuser de la publicité. "

Certes, la technologie numérique a accentué ce type de phénomène, mais les bases restent identiques. " Les vendeurs d'aspirateurs en porte-à-porte ou les camelots notamment utilisent les mêmes astuces psychologiques ", poursuit Van de Velde.

Secteur de l'engagement

Mais selon Ben Caudron, sociologue en technologie à la Haute Ecole Erasmus de Bruxelles, ces 'dark patterns' s'inscrivent dans un contexte plus large d'évolution économique. " Aujourd'hui, on trouve un secteur de l'engagement en ligne particulièrement puissant, estime Caudron. Celui-ci incite l'internaute à passer un maximum de temps sur leur plate-forme afin de générer un maximum de données. Une poignée d'entreprises installent ainsi une nouvelle forme de capitalisme qui déploie des systèmes susceptibles de modifier les comportements en temps réel. "

Les 'dark patterns' sont donc une déclinaison d'une utilisation plus généralisée de la psychologie par des entreprises comme Facebook, Google ou Amazon. Certes, il ne s'agit pas toujours de 'dark patterns', mais de telles astuces posent question. " D'ailleurs, Facebook recherche de nombreux spécialistes en comportement, remarque Caudron. Ceux-ci doivent plancher sur des astuces de conception, comme le 'nudging' pour aiguiller les utilisateurs. " C'est ainsi que Facebook vous propose de très nombreux stimuli lorsque vous postez quelque chose pour la première fois sur leur plate-forme, mais ralentit ces stimuli à mesure que vous mettez davantage de posts. Ce faisant, ils vous font pénétrer plus profondément dans leur système en générant des stimuli ou des récompenses à des moments stratégiques.

Toujours selon Caudron, cette technique est fort similaire au behaviorisme ou comportementalisme, un paradigme psychologique selon lequel le comportement humain est essentiellement conditionné par des stimuli externes. L'expérience la plus connue à cet égard est celle du scientifique russe Ivan Pavlov qui n'alimentait un chien que lorsqu'une sonnette retentissait. Après un certain temps, ce chien salivait dès que la sonnette était actionnée.

Aujourd'hui, les adeptes de Pavlov n'expérimentent plus sur les chiens, mais sur les internautes. " En l'occurrence, l'homme devient un élément mécanique susceptible d'être aisément manipulé, poursuit Caudron. Vous proposez quelque chose et vous obtenez un résultat prévisible. Certes, l'opération n'a rien d'humanitaire. Mais ce type de technique permet d'obtenir des résultats à un niveau basique puisqu'il est alors possible de manipuler facilement certains comportements. "

Psychologie et tri

Mais ce type d'astuce psychologique peut également être utilisé à des fins positives. " L'un des biais psychologiques les plus connus et l'aversion à la perte, explique Maarten Van den Bossche, growth strategist chez In The Pocket. L'être humain a davantage peur de perdre quelque chose qu'il n'est content de gagner quelque chose. C'est ainsi que Snapchat utilise cette technique via des 'streaks' où l'utilisateur perd des points s'il ne poste rien un jour. Dans un tel cas, il est évidemment douteux qu'il soit souhaitable d'utiliser Snapchat tous les jours. Mais il est possible d'utiliser les mêmes techniques pour inciter les personnes à mieux trier leurs déchets, avec les avantages écologiques que cela suppose. "

Lorsque Facebook parle d'éthique ou de responsabilité sociétale, c'est souvent leur machine PR qui s'enclenche.

Pour In The Pocket, qui tente à prévenir ce type de manipulation négative via un cadre éthique dans l'entreprise, la relation entre objectifs et moyens est en tout cas très importante. " Nous demandons toujours en premier lieu comment créer de la valeur pour l'entreprise et l'utilisateur, après quoi nous regardons les moyens qui peuvent s'appliquer au mieux en fonction des objectifs ", précise Hannes Van de Velde.

Métriques et isolement

Les métriques représentent une autre dimension majeure de l'éthique en ligne. " Nous travaillons souvent pour des médias et journaux. Dans ce domaine, il serait très facile d'augmenter le nombre de clics en mettant en place des pièges à clics et autres notifications, ajoute Maarten Van den Bossche. Pourtant, il est très important de prévoir un large éventail de métriques pour mesurer la véritable satisfaction. Car les pièges à clics risquent de perturber la relation à long terme avec l'utilisateur. "

D'ailleurs, les 'dark patterns' peuvent être le résultat de mauvaises métriques. " Dans de grandes entreprises, il n'est pas impensable que l'évaluation d'un travail comme celui de concepteur dépende d'une seule métrique spécifique, estime Hannes Van de Velde. Ce faisant, on en arrive à une vision de tunnel sur cette seule métrique, le concepteur risquant de perdre sa vision d'ensemble. Cette vision de tunnel risque d'inciter un concepteur de bonne foi à imaginer consciemment ou non de telles interfaces truquées. "

Dès lors, le cadre éthique de In The Pocket insiste non seulement sur des métriques de qualité, mais aussi des équipes pluridisciplinaires. " L'isolement est toujours très mauvais pour l'éthique. Si l'on ne travaille que sur un seul élément, on n'est jamais confronté à d'autres opinions et on néglige l'image globale, note Van den Bossche. C'est pourquoi nous insistons sur de petites équipes autogérées comprenant des profils différents. Un programmeur ne doit donc pas se limiter aux questions purement techniques, mais pouvoir apporter de la valeur pour les utilisateurs. "

Enseignement

Caudron ajoute encore que l'enseignement a également un rôle très important à jouer. " Les ingénieurs et les concepteurs sont souvent intéressés d'abord par les aspects techniques, sans s'occuper vraiment de l'impact social. Leur formation ne porte que peu ou pas du tout sur ces questions sociales et éthiques. Ceci reflète une tendance plus large que touche la plupart des gens : on n'apprend plus à réfléchir au développement technologique en tant que donnée sociale. "

Quoi qu'il en soit, Caudron se montre sceptique quant au fait que porter davantage d'attention à l'éthique puisse réduire la manipulation psychologique négative. " Lorsque Facebook parle d'éthique ou de responsabilité sociétale, c'est souvent leur machine PR qui s'enclenche. Tant qu'il n'y aura pas de contrainte, par exemple du fait des utilisateurs, elle n'a pas intérêt à changer. L'entreprise n'a d'ailleurs que peu été impactée par le mouvement #deletefacebook qui a suivi le scandale Cambridge Analytics. Finalement, il faudra sans doute s'en remettre aux décideurs, même si ceux-ci ne voient aujourd'hui que peu d'intérêt électoral à aborder de tels thèmes. "