Le problème des réseaux sociaux ? ” Les algorithmes qui essaient de vous manipuler”

Après avoir longtemps prêché dans le désert, son discours prend progressivement toute sa dimension. Jaron Lanier avait sans doute raison lorsqu’il mettait en garde contre le danger des médias sociaux tant pour l’individu que pour la société dans son ensemble. ” Nous n’aurions jamais dû commencer. “

Les gens me demandent parfois si je ne regrette pas que mes idées soient peu à peu reprises par le grand public, explique Jaron Lanier, pionnier de la réalité virtuelle, musicien et artiste. Ils préféreraient que je sois une personne radicale. ” C’est précisément ce qu’a longtemps été Lanier : un radical. En 1984, il fonde une société spécialisée dans les applications commerciales de la réalité virtuelle, bien longtemps avant que d’autres en aient même entendu parler (cette entreprise fera faillite en 1993). Dans son nouveau livre ’10 arguments for deleting your social media accounts right now’, il explique comment, à la fin des années 1990, il a écrit un programme avec un groupe d’amis pour pouvoir intégrer les expressions faciales d’une personne de manière numérique dans un dessin ou une photo. Aujourd’hui, nombre de sociétés petites ou grandes de la Silicon Valley essaient d’imposer cette technologie. Or Lanier adopte depuis un certain temps, surtout depuis l’avènement de sociétés comme Google et Facebook, une attitude critique face à l’évolution de l’Internet. ” Le problème n’est pas de pouvoir se connecter à des amis, ni de devoir toujours avoir un appareil à portée de main. Le problème se situe dans les algorithmes qui essaient de vous manipuler. C’est la seule manière pour Facebook et Google de gagner de l’argent. ”

N’est-il pas logique, après coup, de voir Facebook et Google se tourner vers un modèle d’annonces publicitaires ? Gagner de l’argent grâce à la pub n’est pas nouveau en soi.

JARON LANIER: Il ne faut pas comparer l’ancien modèle des publicités, où des annonceurs essaient de vous vendre quelque chose via le journal ou la TV, avec le modèle actuel. Sur les médias sociaux, vous êtes constamment sous surveillance, celle-ci étant utilisée contre vous pour vous manipuler. Vous êtes enfermé dans une boucle de feedback individualisée, où toutes vos recherches sont consignées et utilisées pour vous faire adapter votre comportement. C’est fondamentalement différent de ce qui se passait autrefois et c’est dangereux. Dès lors, je ne parle plus d’annonceurs, mais de manipulateurs.

Dans votre livre, vous regrettez, comme d’autres pionniers de l’Internet, de ne pas avoir attaché suffisamment d’importance à l’architecture du Web.

JARON LANIER: C’est exact. L’Internet a été imaginé fin des années 1980, début des années 1990. Nous, les concepteurs, avons expressément ignoré certaines fonctions. Notre idéologie était qu’il valait mieux de laisser des entreprises privées compléter les éléments restants au lieu de les construire nous-mêmes. Tel était notamment le cas pour le fait que l’on ne peut pas s’identifier en tant que personne dans la structure de base de l’Internet, mais uniquement avec le numéro d’un ordinateur [il ne s’agit pas d’un numéro personnel, puisque si vous vous connectez avec un autre appareil, il s’agira d’un autre numéro, NDLR]. Une autre lacune est de ne pas avoir permis de trouver d’où venait une information. Il n’y a en effet pas de ‘backlinks’ dans la structure de base de l’Internet. C’était un énorme cadeau fait aux entreprises privées : les premiers algorithmes de recherche de Google étaient basés sur ces liens retour. Facebook est devenu la manière pour les gens de s’identifier comme personne. Mais ce fut une erreur monumentale de ne pas avoir intégré ces éléments, tout en sachant qu’ils seraient indispensables. Ces aspects auraient dû tomber dans le domaine public. Au lieu de cela, quelques monopolistes ont bâti des systèmes gigantesques qui sont désormais détournés pour devenir des systèmes de surveillance.

L’un de vos arguments pour supprimer vos comptes est que les médias sociaux ont tendance à vous considérer comme un enfoiré. Dans votre livre, vous expliquez comment dans les années 1970, par le biais d’un lointain précurseur des médias sociaux, en l’occurrence Usenet, vous êtes entré en contact avec votre troll interne. Cette expérience vous a-t-elle rendu prudent face à l’émergence des médias sociaux ?

JARON LANIER: Si j’ai fait référence à mes expériences antérieures avec mon troll interne, c’était pour montrer que Facebook ou Twitter n’ont pas créé les troubles de la personnalité des trolls. Il s’agit là d’un effet étonnant du design en ligne. Mais malheureusement, Facebook, Google et Twitter ont traduit cet effet en valeur commerciale. Si les gens sont irrités et fâchés, ils restent plus longtemps en ligne. Les entreprises appellent cela de l’engagement, pour ma part il s’agit d’asservissement. Et cet asservissement est renforcé par des récompenses tant positives que négatives, mais les négatives sont plus intenses. Ces entreprises ont transformé ce phénomène effrayant que j’avais déjà expérimenté voici plusieurs décennies en une possibilité de gagner de l’argent, alors que c’est quelque chose que l’on devrait éviter en tant que société.

Vous dites que les médias sociaux peuvent aider dans un premier temps certains courants activistes, mais qu’ils ont finalement plus d’effets négatifs que positifs. Pouvez-vous nous l’expliquer à la lumière du mouvement #BalanceTonPorc ?

JARON LANIER: Ce que je vois se répéter, c’est le fait suivant : un mouvement social utilise les médias sociaux pour concrétiser une certaine amélioration. Les activistes travaillent avec une extrême honnêteté et atteignent des résultats positifs. Au bout d’un certain temps, des personnes indésirables, qui ne veulent que faire le mal, qui travaillent pour un Etat ennemi ou qui que ce soit, ont subitement plus de poids dans les médias sociaux que les personnes bien intentionnées du début. Un exemple en est le Printemps arabe. Dans un premier temps, les médias sociaux étaient en faveur des activistes, après quoi on a vu apparaître des racistes blancs. Comment est-ce arrivé ? Parce que des algorithmes tournent derrière les écrans. Ceux-ci n’ont aucune morale ou éthique. Ils ne font qu’exploiter des données provenant de milliers d’utilisateurs pour maximiser un certain résultat (engagement). Au début, il s’agit de personnes ‘honnêtes’ qui sont mises en contact entre elles grâce à l’algorithme. Mais à un certain moment, l’algorithme trouve des utilisateurs pour qui un certain contenu suscite précisément de l’aversion. Or les sentiments négatifs sont nettement plus forts que les positifs. Les anti-activistes ont un engagement nettement plus fort vis-à-vis du contenu, ce qui fait que l’algorithme se tourne rapidement vers ceux-ci pour maximiser cet engagement. Du coup, des nazis entrent en contact avec d’autres nazis. Et avant que l’on ne s’en rende compte, l’algorithme ne se focalise plus sur les personnes honnêtes pour s’optimiser en fonction d’éléments douteux. Il s’agit d’une étrange machine qui transforme les choses bonnes en mauvaises. En ce qui concerne #BalanceTonPorc, il conviendra de surveiller le phénomène dans les 2 prochaines années. Si ma théorie se confirme, nous assisterons alors à un renversement de situation.

Vous écrivez aussi que vous voulez apprendre aux gens à être un chat. Tout le contraire d’un chien qui a été domestiqué par l’homme, puisque le chat a encore une volonté propre. En supprimant tout compte des médias sociaux, nous conservons notre propre identité sans être dirigé par l’industrie technologique. Ne peut-on être un chat qui utilise les médias sociaux en connaissance de cause ?

JARON LANIER: (rire) C’est une bonne question. J’ai dit à maintes reprises que je ne connaissais pas la vie d’autrui. Il est possible que quelqu’un ait de bonnes raisons de conserver son compte. Il ne m’appartient pas d’en juger. Certes, il existe aussi des avantages réels à disposer d’un compte. Ce que je veux dire, c’est que pour être un chat, il faut bien se connaître. Et peut-être est-ce une bonne chose de fermer ses comptes tous les 6 mois et de voir ce qui arrive. Si vous trouvez après 6 mois que la situation est intenable, vous pourrez toujours rouvrir vos comptes.

Je suis surpris de constater que vous ne considérez pas Amazon comme l’un des principaux coupables. J’ai eu durant un certain temps un compte Prime et j’ai constaté que j’achetais énormément de choses. J’ai dû résilier mon abonnement pour protéger mes finances.

JARON LANIER: C’est bien possible que je critique moins Amazon qu’elle ne le mériterait. Mais au final, le modèle financier d’Amazon est clair : vous êtes le client. Peut-être êtes-vous manipulé pour acheter davantage, mais la société est fondamentalement honnête dans sa manière de travailler : vous êtes celui qui paie. Pour Facebook et Google, vous n’êtes absolument pas le client, mais le produit. Cela étant, je ne sous-entends pas qu’Amazon, Apple ou Microsoft soient exempts de critique, mais il est facile d’être conscient de ce qui se passe au niveau de ces sociétés. Vous avez conscience d’être manipulé, ce qui est mieux que de ne pas en être conscient. Ces sociétés sont moins sournoises et diaboliques que Google et Facebook.

Quels comptes devrions-nous supprimer ?

JARON LANIER: Google, Facebook, Twitter et tout ce qui est associé. Donc également YouTube, Instagram, Messenger et Whatsapp. Et sans doute aussi Reddit.

Pas Netflix et Spotify ?

JARON LANIER: Si vous payez une entreprise pour un produit ou un service, vous êtes le client. Vous avez alors un peu plus de pouvoir et vos intérêts sont davantage pris en compte. C’est dans l’intérêt de Netflix que le client continue à la payer. C’est une relation sincère, pas un ‘mind control’ à grande échelle.