Que signifie être critique par rapport à la technologie ? Et qu’est-ce que cette critique peut accomplir ? interroge l’iconoclaste Evgeny Morozov (@evgenymorozov) dans le dernier numéro de Baffler. Une double interrogation qui résonne autant pour Morozov que pour la plupart d’entre nous qui nous intéressons aux technologies.

Où est passée la critique radicale de la technologie ?

Etre contre les perturbations qu’introduit la Silicon Valley ne dit rien de la teneur de votre critique politique. L’opposition à la Silicon Valley ne dit rien du caractère progressif ou conservateur de votre critique. Au contraire, rappelle Morozov. La critique à l’encontre de la technologie s’est souvent révélée conservatrice. Elle se cristallise souvent sous la forme d’une technophobie, un rejet du progrès technique, des innovations, des évolutions et des révolutions que la technique introduit, qui peine à distinguer ce qui relève de la technique de ce qui relève de son ingénierie, de la manière dont elle est implémentée, mais aussi et surtout du système politique, social et économique qui la conduit. Comme le disait avec subtilité l’historien des techniques George Dyson : « Que faire si le coût des machines qui pensent est les gens qui ne pensent pas ? »

La plupart des critiques des technologies de Jaron Lanier à Andrew Keen ou Sherry Turkle sont trop souvent des conservateurs ou d’indéfectibles romantiques. Ils dénoncent l’arrogance de la pensée technique confrontée aux traditions humaines, et en restent souvent à une rhétorique humaniste. Ils s’inquiètent uniquement de ce que l’éthique de la perturbation permanente signifie pour le libéral comme pour celui qui défend les institutions existantes, des universités aux journaux papier.

En fait, estime Morozov, la critique radicale de la technologie est à l’arrêt. Pourquoi ? Parce qu’elle dépend de la vision de l’émancipation à laquelle elle est attachée. « Pas de vision. Pas de critique ! », lâche, cinglant, Morozov. « Vouloir changer l’attitude du public à l’égard de la technologie – à l’heure où les projets politiques radicaux que la technologie pourrait encourager manquent – est vain. »

La technocritique n’aide pas à prendre de la hauteur

Il prend pour exemple le dernier livre de Nicholas Carr, qui avec La cage de verre (voir notre article), prolonge son oeuvre critique des technologies. Dans ce dernier opus, Carr soutient que nous avons omis de tenir compte des coûts cachés de l’automatisation.

Mais l’automatisation permet-elle de comprendre les impacts des changements en cours ? Pas si simple, estime Morozov, notamment parce qu’il y a plusieurs formes d’automatisation. Celle qui permet aux voitures autonomes de rouler n’est pas la même que celle qui permet la reconnaissance faciale ou que celle de Shazam, le système qui permet de reconnaître n’importe quelle chanson. Dans la première, le conducteur devient inutile, pouvant certes inspirer un certain néo-luddisme. Dans la seconde, la technologie augmente les capacités humaines à reconnaître des visages. Dans la dernière, Shazam créer une nouvelle capacité puisque les humains ne savent pas reconnaître toutes les chansons qui existent. Qu’automatise-t-on dans ces derniers cas ?

Pour Carr, l’automatisation permet l’émancipation de l’homme, mais si elle est faite de manière excessive, elle érode ses compétences, amoindri ses perceptions et ralentis ses réactions, explique-t-il longuement en prenant pour exemple la diminution des capacités des pilotes d’avion à faire face à un incident du fait du développement de l’automatisation ou celle des conducteurs assistés par leurs GPS à mémoriser leurs trajets (voir Numérique : la représentation spatiale en question).

En fait, estime Morozov, le problème de la critique de la technologie est qu’elle peine à quitter le débat technologique. Quand il évoque la voiture autonome, Carr critique le fait que l’automatisation de la voiture risque de nous faire perdre des compétences cognitives essentielles liées à la conduite, comme si nos options se limitaient à conduire une voiture ou être conduit par une voiture autonome. « Des pays ayant d’excellents systèmes de transports publics fourmillent de malheureux attardés mentaux transformés en automates parce que leurs cerveaux sont sous-utilisés quand ils empruntent des rames de métros entièrement automatisés », ironise Morozov. Au lieu de débattre de la question politique du transport, Carr réduit les perspectives entre le coût émotionnel et cognitif d’un système existant et celui de l’automatisation des seules voitures. « Déconnectée des luttes politiques réelles et de la critique sociale, la critique des technologies ne devient qu’une note élaborée et favorable au statu quo ».

Limites et impasses de la technocritique

Mais pourquoi devrions prendre le statu quo pour acquis ? Pour Morozov, la critique technologique remplace la critique politique et sociale. Les catégories analytiques habituelles (l’exploitation, les classes sociales…) sont abandonnées au profit de concepts flous et moins précis. Quand il critique les transactions financières à haute fréquence, Carr reste plus préoccupé de l’impact que ces algorithmes ont sur les marchés que de l’impact du marché sur chacun d’entre nous. L’automatisation érode les compétences et connaissances des professionnels de la finance, note-t-il, sans dire un mot du rôle de ces professionnels sur la marche du monde…

Pour Morozov, l’appel de Carr à une conception qui prenne plus en compte l’humain, qui élargisse plutôt que ne rétrécisse nos expériences intellectuelles et sensorielles, oublie l’essentiel. Notre travail ennuyeux et automatisé sera certes peut-être rendu un peu moins ennuyeux si nous avons à enregistrer nos travaux manuellement en appuyant nous-mêmes sur un bouton plutôt que si le système le sauvegarde automatiquement pour nous, se moque Morozov. Mais l’enjeu est-il vraiment là ? Dans la prise en compte de l’humain à la marge des systèmes techniques ?

Carr ne voit même pas les limites de son techno-idéalisme, estime Morozov. Soit il est naïf quand il propose des solutions qui ne fonctionneront pas, puisque les gens préfèrent les solutions automatisées même si elles ne sont pas dans leur intérêt. Soit il est cynique quand il pense que les gens pourraient convaincre les entreprises de modifier leurs produits au détriment de leurs profits. En fait, estime Morozov, Carr croit fermement que notre amour de l’automatisation vient de notre paresse. « En théorie, nous pouvons tous vivre sans nous reposer sur les merveilles de la technologie moderne : nous pouvons cultiver nos capacités cognitives et esthétiques en abandonnant nos GPS, faire notre propre cuisine ou fabriquer nos propres vêtements plutôt qu’en acheter de tout prêts, surveiller nous-mêmes nos enfants plutôt que le faire via des applications. Mais ce que Carr oublie de mentionner c’est que toutes ces choses sont plus faciles à faire si vous êtes riches et si vous n’avez pas besoin de travailler. L’automatisation – de la cognition, de l’émotion, de l’intellect – est le prix intolérable que nous devons payer pour l’industrialisation croissante de nos vies quotidiennes ». Car, à bien lire Carr, seuls les riches pourront cultiver leurs compétences… tandis que les pauvres se limiteront à des substituts virtuels médiocres, tranche Morozov.

Quand la critique technologique remplace la critique politique et sociale

Pour Morozov, le livre de Carr est une bonne illustration de l’impasse que représente la critique technologique quand elle est découplée d’une critique sociale. Carr ne fait que moraliser et blâmer ceux qui optent pour l’automatisation sans être en mesure de voir où cela nous conduit. « En nous proposant de réduire la quantité de travail que nous avons à faire, en promettant d’imprégner nos vies avec plus de facilité, de confort et de commodités, les ordinateurs et autres technologies qui économisent notre travail nous demandent de nous libérer de ce que nous percevons comme un labeur », explique Carr de tout son élitisme. « Ami prolétaire, détend toi, ton labeur n’est qu’une perception ! », ironise, cinglant, Morozov, qui montre Carr comme un universitaire pédant et désincarné. Peut-on reprocher aux gens de réchauffer des plats tout prêts sans comprendre ce qui les conduit à le faire ?

« L’oeuvre de Carr est représentative de la critique de la technologie contemporaine à la fois dans les questions qu’elle pose et les questions qu’elle évite ». Carr se préoccupe plus de conception que des raisons qui font que des startups qui se montent sur des idées ridicules arrivent si facilement à attirer autant de capitaux. « Que cela puisse avoir quelque chose à voir avec les profondes transformations structurelles de l’économie, l’expansion de la financiarisation par exemple, est une conclusion que la critique à l’égard de la technologie aujourd’hui n’atteint jamais », estime Morozov en renvoyant dos à dos les experts de la technologie.

Mais Morozov ne s’exclut pas du champ. Lui aussi se retrouve aussi dans les lacunes des critiques qu’il dénonce. N’est-il pas l’un des premiers pourfendeurs des dérives de la technologie comme nous le montrions dans un dossier consacré à son dernier livre et dans nombre d’articles que nous lui avons consacrés ? Cela ne l’empêche pas de livrer son constat, lucide : « La critique de la technologie est une entreprise vide, vaine et inévitablement conservatrice. Au mieux nous faisons simplement carrière, au pire nous sommes des idiots inutiles. »

Pourtant ce qui distingue les critiques dans leur radicalité repose sur la façon dont ils perçoivent la technologie. Certains ne voient les entreprises technologiques que comme des acteurs économiques, tandis que d’autres ne les voient que comme une agrégation de mauvaises idées sur la société et la politique. Certains déplorent leur superficialité en espérant qu’elles puissent devenir éthiques et responsables, les autres les considèrent comme inutiles.

Morozov a longtemps cru que la critique de la technologie avait un sens. Elle pourrait révéler les slogans simplistes des gourous du secteur, leur penchant pour l’absence de friction, leur culte de la commodité et de la transparence totale, leur célébration de l’autonomie et de l’immédiateté… Au lieu d’avoir des envolées lyriques sur l’utilité de telle ou telle application, la critique de la technologie pourrait pointer du doigt les programmes politiques et économiques que la techno a aidé à adopter…

Mais Morozov ne semble plus y croire. « Aujourd’hui, il est évident pour moi que la critique de la technologie, si elle n’est pas couplée à un projet de transformation social radical, n’atteint pas son but ». Il est plus simple de discuter sans fin de notre dépendance excessive à nos téléphones et à leurs applications. Comment pouvons-nous être si aveugles aux effets profondément aliénants de la technologie moderne ?, répètent les critiques de la technologie. Leurs réponses qui visent à nous culpabiliser se révèlent être insupportablement moralisatrices et oublient de regarder les raisons qui nous poussent à utiliser la technologie, c’est-à-dire les rapports économiques, sociaux et politiques à l’oeuvre. En fait, l’édifice même de la critique de la technologie repose sur la réticence de cette critique à reconnaître que chaque gadget ou application n’est qu’un élément d’une matrice plus large de relations sociales, culturelles, économiques et politiques. Pour trop de critiques, nos problèmes ne viennent que de mauvaises idées que nous pouvons avoir sur la technologie, jamais des erreurs de notre organisation sociale et politique. Si tout le monde critique les gadgets, qui s’intéresse aux conceptions politiques et économiques qu’ils recouvrent ?

« Ainsi, les critiques de la technologie romantiques et conservateurs peuvent certainement nous dire comment concevoir un compteur d’énergie plus humain et intelligent… Mais décider si les compteurs d’énergie intelligents sont une réponse appropriée au changement climatique ne relève pas de leur mandat. Or pourquoi devrions-nous les concevoir plus humainement si nous devrions plutôt ne pas les concevoir du tout ? »

La technocritique est-elle complice du projet technique ?

En fait, l’expertise technologique s’avère périphérique, marginale, pour répondre à cette question. La plupart des experts des technologies ne sont pas intéressés par ces réponses. « Libérés de toute inclination radicale, ils prennent la réalité institutionnelle et politique telle qu’elle est », mais, sentant que quelque chose ne va pas, ils proposent des solutions ingénieuses ou demandent à chacun d’internaliser les coûts de toutes les horreurs qui sont autour d’eux, parce que celles-ci proviennent probablement de leur manque de maîtrise de soi… « En reléguant les problèmes sociaux et politiques au seul niveau des individus (il n’y a pas de société, seulement des individus et leurs gadgets), la critique de la technologie est finalement à l’avant-garde théorique du projet néolibéral » que porte le système technique.

Même si le projet de Carr réussit, c’est-à-dire, même s’il parvenait à convaincre les utilisateurs que leur aliénation croissante est le résultat de leurs fausses conceptions de l’automatisation, même si les utilisateurs à leur tour parvenaient à convaincre les entreprises technologiques de produire de nouveaux produits, il n’est pas évident de trouver en quoi ce pourrait amener le moindre changement.

Aujourd’hui, les technologies de l’information, par l’optimisation incessante qu’elles proposent, sont devenues le principal moyen pour générer du temps libre… Un temps libre qui, dans un passé pas si lointain, était au coeur des batailles politiques et qui était conquis par des lois (pensez aux limites des heures de travail quotidiennes, au temps de repos hebdomadaire, au nombre d’heures travaillées…). Autant de batailles politiques qui semblent désormais révolues. Dans le passé, c’était les institutions politiques, les syndicats, les partis de gauche qui se battaient pour défendre l’accroissement du temps de repos… Aujourd’hui, c’est Google qui vous propose de gagner du temps en en sachant toujours plus sur vous.

Au mieux, le projet de Carr et de nombreux autres critiques de la technologie, de prendre mieux en compte l’humain, pourrait réussir à produire un autre Google. « Mais son manque d’ambition est lui-même un témoignage du triste état de la politique aujourd’hui. C’est principalement dans le marché des fournisseurs de technologie, et non plus dans le domaine politique que nous cherchons des solutions à nos problèmes. Un Google plus humain n’est pas nécessairement une bonne chose, au moins, pas si ce projet d’humanisation ne cesse de nous distraire de tâches politiques plus fondamentales. Mais les critiques de la technologie ne s’en soucient pas. Leur travail consiste juste à écrire sur Google »… Pas à remettre la marche du monde en question.

Hubert Guillaud

MAJ : Nicholas Carr a publié une réponse à la critique de Morozov, pas très inspirée, qui s’en prend plus au côté doctrinaire et virulent de Morozov plutôt que de lui répondre sur le fond. Peut-être parce que Morozov a touché juste.