« Internet nous a rendus incapables de régler les vrais problèmes »
Jaron Lanier n’est pas anti-technologie, mais comme
beaucoup, il est déçu. L’internet dans lequel il a cru n’est plus, et
cela fait déjà quelques années que ce chercheur américain en fait le
constat, à travers des essais aux titres évocateurs : You are not a gadget, paru en 2010, Who owns the future ?, traduit et publié en français en
2014 (Le Pommier), dans lequel il s’intéressait au profit que les
entreprises tiraient de nos données personnelles, et, fin 2018, Ten Arguments for Deleting Your Social Media Accounts Right Now (Dix arguments pour supprimer immédiatement vos comptes sur les réseaux sociaux),
petit ouvrage dans lequel il se livre à une attaque en règle des
Facebook, Twitter, Snapchat et autres, ces réseaux formant ses yeux un
système géant de « modification comportementale » qu’il est urgent
d’affaiblir, si ce n’est d’abolir.
Jaron Lanier est aussi reconnu comme l’un des fondateurs
de la réalité virtuelle, dont il a même inventé le terme dans les années
1980, se retrouvant soudain, à une vingtaine d’années, en Une du New York Times ou du Wall Street Journal, convaincu à l’époque que ses camarades et lui inventaient « la chose la plus importante que l’humanité ait jamais connue.»
Quelques décennies - et une place dans un classement du Time
des 100 personnalités les plus influentes du monde - plus tard, Jaron
Lanier a 59 ans, vit à Berkeley entre un poste de consultant qu’il
occupe chez Microsoft Research depuis 2006, et une vie parallèle de
plasticien, de musicien et de collectionneur d’instruments de musique
traditionnelle que nous n’avons pas le temps d’évoquer quand nous
l’appelons, en cette mi-novembre. Nous commençons plutôt par le titre de
son dernier essai : pourquoi faut-il quitter les réseaux sociaux immédiatement ?
Usbek & Rica : Au commencement d’Internet
était… la gratuité. Nous nous sommes tous lancés à corps perdu dans un
Web où tout était disponible et gratuit, et c’est pour vous le péché
originel. Pourquoi ?
Jaron Lanier : Le désir qu'il y a eu de
tout rendre gratuit n'est qu'une partie de l'histoire. S'il n'y avait eu
que la gratuité, une réelle gratuité, peut-être aurions nous eu une
certaine forme de socialisme, ou de communautarisme, je pense que cela
aurait été intéressant. Mais ce n'est pas ce qui s'est passé. L'autre
partie de l'histoire, c'est que tout le monde s'est mis à vouer un culte
aux entrepreneurs de la tech, comme Steve Jobs, ou Bill Gates. Or si
vous voulez combiner les deux, si vous voulez un monde sans argent fondé
sur le partage mais qu'en même temps vous croyez fortement dans l'idée
de devenir super riche grâce à une carrière d'entrepreneur dans un
système capitaliste, vous vous retrouvez face à une contradiction. Et
pour résoudre cette contradiction, votre seule solution, c'est de
mentir. C'est de donner aux gens l'expérience d'un monde où tout est
gratuit, mais de faire en sorte qu’à chaque fois qu'une personne fait
quelque chose en ligne, cela soit payé par une autre qui espère pouvoir
la manipuler… et de gérer ce qui devient dès lors une entreprise de
modification des comportements.
« Internet a créé une société fondée sur la ruse, sur des personnes qui en trompent d'autres »
Le
"business" est caché pour la majorité des gens, mais il s'agit bien de
business de la part d'entreprises qui ont été les plus rapides de
l'histoire à croître à une telle vitesse. Vous vous retrouvez donc avec
un problème : vous avez une société fondée sur la ruse, sur des
personnes qui en trompent d'autres. Avec un tel modèle de société, nous
ne devrions pas être surpris d'être devenus incapables de régler les
vrais problèmes. Nous sommes désormais déconnectés de la réalité. Nous
ne traitons pas correctement la question du changement climatique. Nous
ne nous traitons pas correctement les enjeux de paix, de guerre,
d'immigration, de ressources alimentaires, de ressources en eau, de
santé publique, et tous ces sujets réellements importants. Nous sommes
devenus incompétents, parce que toute la société s'est mise à se
concentrer sur la façon dont tromper et duper les gens.
Parce que nous sommes happés par les mécanismes
des réseaux sociaux qui cherchent à déclencher en nous des comportements
(ou « triggers »), nous ne serions plus en mesure de régler les vrais
problèmes ?
Je ne crois pas que les termes que vous employez soient
assez forts. Nous ne sommes pas soumis qu'à une série de mécanismes de
déclenchement. Nous sommes tous impliqués dans une sorte de boucle de
modification des comportements. C'est différent. Les publicités
diffusées sur des affiches, à la télé ou dans les journaux étaient
parfaitement capables de déclencher des comportements. Ce qui est
nouveau, c'est la surveillance constante. Et quand vous la mettez en
place via des expériences conçues pour essayer de modifier ce que vous
pensez, ce que vous faites, qui vous êtes, même si l’effet est d'abord
léger, il finit par être cumulatif et affecter la société dans laquelle
nous devenons fous.
Pourquoi ce système de surveillance généralisée ne
pose-t-il alors pas davantage problème aux citoyens ? Nous communiquons
tous sur des réseaux sociaux qui nous manipulent, affirmez-vous, mais
la plupart d'entre nous ne s'en rendent pas compte, ou ne s'en
préoccupent pas vraiment.
Beaucoup d'entre nous ont grandi dans ce monde. Pour eux,
il en a toujours été ainsi. Tout cela n'a commencé qu'à la fin du XXe
siècle. Beaucoup de gens n'ont pas d'éléments de comparaison. Vous
m'appelez depuis la France, c'est ça ? Laissez-moi vous donner une autre
perspective qui peut être utile. Il y a cet argument selon lequel à
chaque fois qu'émerge une nouvelle forme de média, ce qui en résulte est
souvent beaucoup de violence, beaucoup de choses horribles pour un
temps, jusqu'à ce que les gens s'y habituent. Par exemple, les Nazis
étaient pionniers dans la façon dont ils ont coordonné des événements de
propagande de masse, ce qui était en fait une forme de "high-tech",
parce que sans la radio il aurait été impossible de coordonner
d'immenses rassemblements comme ils l'ont fait. Ils ont été aussi les
pionniers du cinéma de propagande, de la télévision. Il y a cet argument
selon lequel les nouvelles technologies ont fait partie des éléments
qui ont rendu le mouvement nazi "sexy", et qui ont attiré tant de monde
vers eux... Je ne pense pas que ce soit l'hypothèse principale pour
laquelle les Nazis sont arrivés au pouvoir, c'est seulement une idée
parmi d'autres, mais les médias peuvent avoir un vrai effet
déstabilisateur. Donc avec Internet, le plus important, c’est de mettre
le plus de gens possible au courant des dynamiques en jeu, le plus vite
possible. Internet, c'est formidable. Ce qui pose problème, c'est la
partie qu'on ne voit pas, celle de la manipulation. J'aimerais me
débarrasser de la mauvaise partie et garder celle que les gens aiment. (Il éclate de rire) Et ça semble possible. Mais d’ici là, il faut au moins essayer que les gens y réfléchissent davantage.
« Plus il y aura d'automatisation dans le futur, plus les gens seront payés pour leurs données. Cela deviendrait donc une solution au chômage créé par l'automatisation »
Vous
défendez l’idée d’un retour au payant. A vos yeux, notre seule issue
est que les entreprises se mettent à payer les gens pour leurs données.
Ce serait une façon honnête de faire du business. Au lieu
de voler les données aux gens et de prétendre que les choses sont
gratuites alors qu'en réalité ils sont manipulés, les entreprises
pourraient payer pour ces données. L'autre avantage, c'est que les
robots et l'intelligence artificielle ayant besoin de beaucoup de
données, plus il y aura d'automatisation dans le futur, plus les gens
seront payés pour leurs données. Cela deviendrait donc une solution au
chômage créé par l'automatisation. Je vous le dis de façon très
simplifiée, c'est un sujet compliqué. Mais je pense que c'est un moyen
de parvenir à un modèle économique différent. S'il y a un moyen d'aller
vers une absence de modèle économique, où tout serait gratuit, je suis
ouvert... Mais je pense que c'est presque impossible. Nous vivons dans
des sociétés capitalistes. Nous payons nos loyers, notre nourriture...
Nous avons choisi un système de marché. Nous devons donc inclure les
données là-dedans afin de faire un Internet de façon plus honnête.
Vous listez dans votre essai dix arguments pour
lesquels nous devrions supprimer immédiatement nos comptes sur les
réseaux sociaux, et le premier d’entre eux est le suivant : « Vous
perdez votre libre arbitre ». Est-ce l’argument le plus efficace ?
N’avons-nous pas déjà cédé une grande partie de notre liberté à la
technologie ?
Je ne crois pas. Il n'y a pas tant de situations dans
lesquelles quelqu'un peut vous prendre votre libre-arbitre de façon
prévisible, orchestrée, et à leurs fins. Par exemple si vous regardez la
façon dont Internet est utilisé pour bouleverser les élections, c'est
vraiment devenu un art, une science. La Russie est en train de faire des
tests à Madagascar (la Russie a financé les campagnes de plusieurs candidats à l'élection présidentielle à Madagascar en décembre 2018, ndlr).
Même si Madagascar n'est pas très important pour eux, je pense qu'il ne
s'agit que d'un entraînement... Dire que nous ne perdons pas notre
libre-arbitre, c'est ignorer ce qui se passe dans le monde, c'est
ignorer le fait que des personnes, dans des pays où elles allaient à peu
près bien et qui si l'on se fie au passé et aux normes historiques ne
se seraient pas révoltées ont choisi de se rallier à des décisions
politiques très stupides, et qui leur font du tort. Et cela a lieu un
peu partout dans le monde. Les changements ont lieu, et sont clairement
perceptibles. Il est difficile de le remarquer chez soi-même, il peut
être complexe de le remarquer chez ses proches ou ses amis, mais il ne
devrait pas être difficile de le remarquer si vous observez la situation
à plus grande échelle.
Vous expliquez ne vouloir diaboliser ni les
entreprises de la Silicon Valley, ni leurs employés, les dérives étant à
vos yeux loin de ne reposer que sur leurs seules épaules. Que vous
inspire la révolte actuelle des employés de la tech, aussi appelée « techlash » : ces employés ont-ils réellement le pouvoir de faire changer les choses ?
La structure du pouvoir dans ces entreprises est en grande
partie nouvelle, donc tout est en expérimentation. Et en fin de compte,
ces entreprises sont complètement dépendantes des scientifiques et des
ingénieurs qui travaillent pour elles. C’est peut-être moins le cas
aujourd'hui qu'il y a 10 ans, parce que Google et Facebook occupant
désormais des positions de monopole, vous pourriez vous dire qu’elles
n'ont plus besoin d'innover, et qu’elles n’ont donc plus besoin des
scientifiques et ingénieurs... Il y a à mon sens du vrai là-dedans, mais
je pense que les scientifiques et ingénieurs restent malgré tout très
importants. Donc s'ils sont presque tous alignés sur quelque chose qui
leur semble essentiel, ils devraient avoir la possibilité de s'organiser
et d'avoir une influence sur leur entreprise.
Il y a un certain nombre de sujets sur lesquels les
entreprises ont essayé de changer. Mais le résultat a été médiocre. Je
ne sais pas quel peut être le réel impact de ce techlash. Mon
point de vue, c'est que pour améliorer le système, il faut des actions à
tous les niveaux : il faut que le gouvernement joue un rôle, que les
individus soient plus au courant et réfléchissent davantage, que les
employés réfléchissent davantage. Notre meilleure chance d'y arriver
n'est pas de laisser l'un des trois réparer les choses pour tout le
monde. C'est l'effort cumulé de tous qui peut faire changer les choses.
« Si nous regardons en arrière, nous voyons que notre espèce a réussi à traverser toutes sortes de périodes stupides de l'histoire »
Vous
lancez l’alerte mais défendez également un certain optimisme qui dénote
parmi les commentateurs critiques d’Internet : pour quelles raisons ?
D’abord parce que si nous regardons en arrière, nous
voyons que notre espèce a réussi à traverser toutes sortes de périodes
stupides de l'histoire. Donc je pense qu'au bout du compte, assez de
personnes de bonne volonté trouveront des moyens de nous sortir de là...
Ceci dit, le danger auquel nous faisons face, c’est à dire la
destruction de notre environnement, est différent, car il arrive de
façon progressive, et notre responsabilité est réelle mais indirecte, et
non pas directe (à l’inverse du danger nucléaire par exemple), c'est
donc un peu plus délicat. A mon sens, la question est : pouvons-nous
rester sains d’esprit face à ce danger ? Je suis absolument certain que
nous avons les moyens d'affronter la crise climatique, nos problèmes de
ressources en eau, en alimentation, etc.. Mais pouvons-nous éviter la
folie ? C'est pour ça qu'avoir une industrie centrale conçue pour nous
rendre fous, nous manipuler, nous faire faire des choses qui servent
l'intérêt commercial ou politique de quelqu'un d'autre, cela devient la
menace la plus forte à laquelle nous faisons face.
Depuis quelques années, nous avons pris conscience
de l’impact environnemental du numérique, et de celui d’Internet. Que
pensez-vous des réflexions autour d'un internet low-tech
? Faut-il soutenir un internet plus léger et résilient avant que
celui-ci ne s'impose de lui-même en cas de crise économique ou
énergétique dans l’avenir ?
L'empreinte carbone d'Internet est un sujet très, très,
très important. Malheureusement, certaines des personnes les plus
idéalistes d'Internet, celles qui essaient d'inventer de nouveaux
modèles économiques, et de les décentraliser, sont aussi très obsédées
par la blockchain, système qui est délibérément aussi peu inefficace que
possible, et a une énorme empreinte carbone. Par ailleurs, Internet
dépend de plus en plus de l'intelligence artificielle. Et l'idée
actuelle autour de l'IA, c'est de faire tourner de plus en plus de
programmes géants afin d’entraîner les algorithmes. Tout cela a une
énorme empreinte carbone. C'est donc un sujet essentiel. Mais c’est à
mon sens un problème d'ingénierie. Et j'ai confiance dans notre capacité
à résoudre ces problèmes-là tant que nous ne serons pas devenus fous.
Quel a été, dans votre parcours personnel, le
point de bascule ? Le moment où l’utopie d’Internet commence à
s’effriter, et avec elle la confiance que vous avez dans les réseaux
sociaux ?
Je me suis rendu compte du problème il y a longtemps. Je
sentais qu’avec la technologie je devenais plus irritable, plus
susceptible de rejeter les personnes avec lesquelles j'étais en
désaccord. Ce type de choses que nous voyons tous les jours sur les
réseaux sociaux aujourd'hui. Et je n'aimais pas voir ces changements là
chez moi. C'était avant que les réseaux sociaux existent. Je connaissais
les personnes qui ont créé Facebook, je vois toujours certains d'entre
eux. Et en réalité, cela a créé de l'incompréhension, beaucoup de gens
étaient très contrariés que je ne me crée pas de compte sur Facebook ou
sur Google, etc. Mais je sentais que ces réseaux en train de naître
étaient une énorme erreur, donc je ne m’y suis jamais créé de compte,
même si certains de leurs créateurs étaient mes amis.
Vous êtes un déçu de longue date…
J'écrivais sur ces problèmes dans les années 1990. Nous
savions déjà que cela pouvait arriver. Vous connaissez le psychologue
B.F. Skinner ? Il a été le premier à concevoir une expérience de manipulation, bien avant Internet,
dans les années 1960. Nous savons depuis longtemps que les réseaux
numériques pourraient être utilisés pour modifier les comportements,
qu’il y aurait la tentation de créer une société de surveillance, que
cela pourrait risquer de détruire la société. C'est un sujet traité par
la science-fiction depuis très longtemps. J'ai écrit dans les années
1990 des articles sur la façon dont les réseaux numériques pourraient
être utilisés pour bouleverser des élections. Ce n'est pas nouveau, mais
toutes ces choses ont vraiment eu lieu. Et ont eu lieu assez vite... Je
ne sais pas. J'aurais aimé avoir fait plus. J'aurais aimé faire plus
pour prévenir les gens. J’ai fait de mon mieux.
« Après le 11 septembre 2001, tout le monde avait envie de quelque chose qui serait optimiste, tourné vers l'avenir »
Comme
vous le dites, il y a eu des avertissements, et pas seulement de la
part des auteurs de science-fiction. Mais c'est comme si la machine
était inarrêtable…
Ce dont je me souviens à titre personnel, c'est d'un lien
fort avec l'attaque du 11 septembre à New York. Pour ma part, j'y étais,
et j'ai été assez traumatisé et déprimé après cela. Mais de façon plus
générale, je pense que dans les années qui ont suivi, tout le monde
avait envie de quelque chose qui serait optimiste, tourné vers l'avenir.
Et les seules personnes qui semblaient incarner ça étaient les techies.
A l'époque la seule chose dans le monde qui mettait tout le monde
d'accord, c'était que la technologie était une bonne chose. C'était
l'unique consensus positif. Donc c'est devenu vraiment difficile de dire
« oh non, non, ça aussi, c'est en fait une chose horrible de plus ». Ca
semblait presque cruel de dire une telle chose. Il y a eu beaucoup de
ça. En tout cas dans mon expérience.
N’est-ce pas tout aussi cruel, bien que nécessaire, de tenir ce discours aujourd'hui ?
Le problème maintenant, c'est qu'il n'y a aucun consensus
positif. Il n'y a pas une seule chose sur laquelle tout le monde soit
d'accord, aucun point d'accord sur ce qui pourrait être positif pour le
futur. Donc on a perdu ça, on a perdu le dernier que l'on avait. Il y a
dans des petits groupes, dans des bulles, des personnes qui diront,
“nous avons hâte d'améliorer la technologie et la science”, ou “nous
avons hâte d'un monde contrôlé par Poutine” ou par qui que ce soit
d’important pour eux. Mais il n'y a plus rien qui fasse consensus…
SUR LE MÊME SUJET :> Lisons, comme chaque année, l'avertissement de Tim Berners-Lee, inventeur du Web
> Evgeny Morozov : « Il faut supprimer les gardiens des données que sont Google, Facebook et Amazon »
Image à la Une : Jaron Lanier (©Jonathan Sprague)