L’illusion de l’innovation… et l’illusion de sa critique

Plus de gens semblent écrire sur les problèmes réels et potentiels des technologies, constate l’iconoclaste professeur de sciences et technologie de la Virginia Tech Lee Vinsel (@sts_news) sur son blog. Reste que parmi ces critiques, beaucoup se révèlent plus parasitaires qu’autre chose. Notamment, souligne le chercheur, ceux qui supposent que la technologie procède d’un changement extraordinaire, mais dénoncent les risques et les problèmes en appelant à les dépasser. Pour Vinsel, les trolls professionnels de la technoculture sont devenus nombreux. Une part importante de la critique technologique nourrit et se nourrit du battage médiatique. Par exemple, il est clair que le documentaire The Social Dilemma (Wikipedia, qui déploie notamment les propos du designer Tristan Harris cofondateur du Center for Humane Technology) ou que le livre de Shoshana Zuboff, L’âge du capitalisme de surveillance surestiment la capacité des médias sociaux à nous influencer sans en fournir aucune preuve (c’est ce que nous soulignions également dans notre critique).

Capture d'écran du film The Social Dilemma
Image : capture d’écran du film The Social Dilemma, où Tristan Harris explique que deux milliards de personnes ont des pensées qu’ils n’avaient pas l’intention d’avoir, alors que le réalisateur montre une animation avec une marionnette contrôlée par les doigts de marionnettistes.

Couverture du livre de Tim HwangVinsel rappelle pourtant que les études contradictoires à ces thèses existent, à l’image du livre de Tim Hwang (@timhwang), directeur de l’Initiative pour l’éthique et la gouvernance de l’IA de Harvard et du MIT, Subprime Attention Crisis et d’études et articles qui soulignent que le ciblage publicitaire serait moins efficace qu’un ciblage aléatoire…

« Contrairement à ce que racontent Harris et Zuboff, il semble que Mark Zuckerberg ne réussisse pas vraiment à me vendre ces putains de chaussettes, et encore moins changer de manière intentionnelle/significative mon orientation politique ou mon image de moi. » Pour Vinsel, nous devons continuer à regarder comment l’utilisation des réseaux sociaux façonne nos comportements et nous inquiéter de la désinformation, de la radicalisation, de la polarisation… Mais de là à affirmer qu’ils contrôlent les esprits !

Pour Vinsel, la technologie n’est pas sans risque, mais ses effets sont surtout surestimés (dans une promesse marketing toujours renouvelée) ou sous-estimés (au détriment des plus pauvres et des plus marginaux). Le problème est que cette surcritique nous invite à travailler sur des situations technologiques qui ne sont pas réelles et qui ne sont même pas des projections réalistes de la direction que prennent la science et la technologie.

La critique est corollaire à l’innovation

En fait, estime Vinsel, le problème est que cette critique est devenue un modèle économique pour la recherche. Cette transformation du modèle économique de la recherche, Vinsel la fait remonter au Projet génome humain (Wikipédia), qui a consacré 3 % puis 5 % de son imposant budget de recherche à étudier les impacts moraux et sociaux du séquençage de l’ADN, ouvrant le chemin des recherches sur les « aspects éthiques, légaux et sociaux des sciences » (ELSI). On en trouve également des traces dans le rapport de 2003 du Conseil de bioéthique américain qui s’inquiétait des dangers de l’ingénierie génétique (qui a donné lieu à ce que je me permais d’appeler l’alarme posthumaine, c’est-à-dire la multiplication des propos pour dénoncer les risques du transhumanisme alors même que, très concrètement, ces perspectives demeurent extrêmement éloignées de nos réalités). Même avec la technologie Crispr aujourd’hui, l’ingénierie génétique demeure encore bien plus loin de nous que bien des gens ne l’imaginent.

Couverture du livre The VisioneersVinsel dresse d’ailleurs le même constat autour des critiques de la nanotechnologie quand elle a été promue comme la technologie qui changerait le monde. L’historien des sciences, Patrick McCray (@leapingrobot) dans The Visioneers (Princeton University Press, 2012), comme le président de l’université d’Arizona, Michael Crow, en appelaient néanmoins, face à la nanotechnologisation de la société, à financer plus avant une forme de connaissance critique permettant de reconnecter les résultats de la R&D aux résultats souhaités par la société. Depuis 2003 et la loi de recherche sur la nanotechnologie, une partie des fonds de la NSF sont dirigés vers des préoccupations sociétales, éthiques et environnementales, donnant naissance par exemple au Centre pour la nanotechnologie dans la société de l’université de l’Arizona. Avec le temps, nombre d’exagérations autour de la promesse nanotechnologique semblent être devenues depuis farfelues.

Plus récemment, c’est l’intelligence artificielle qui subit le même battage médiatique et a vu naître nombre d’Instituts et de Centres de recherche privés, financés par des fondations et l’industrie technologique, qui certes ont publié des travaux nuancés sur les problèmes des technologies numériques, mais ont aussi, sans aucun doute, développé un battage critique disproportionné (Vinsel parle de « criti-hype »). Vinsel remarque d’ailleurs que ces centres sont plus nombreux que pour les technologies émergentes précédentes, comme si ce modèle économique s’était mieux diffusé ! Ici, Lee Vinsel taille des croupières à l’AI Now Institute par exemple qui à la suite du World Economic Forum ou des prévisions de McKinsey exagérait dans son rapport de 2017 l’impact à venir de ces technologies pour mieux positionner l’importance des critiques que l’Institut publie. Selon lui, trop souvent, la « criti-hype » a tendance à maximiser le risque dystopique autour de l’IA. Pourtant, pour d’autres chercheurs, comme le consultant Jeffrey Funk (@jeffreyleefunk) qui a examiné l’impact de 40 des principales entreprises de l’IA, il faudra des décennies pour que leurs produits aient un effet concret sur la productivité. D’autres conclusions soulignent encore que l’IA ne devrait pas avoir d’effets à court terme sur l’emploi, comme le pointait le rapport (.pdf) de l’initiative pour l’avenir du travail du MIT comme du Centre de recherche Keystone.

En fait, souligne Vinsel, la critique n’est pas si simple. Le battage sur la biologie de synthèse par exemple est très surévalué, mais le dire n’est pas si évident sauf à se voir couper ses crédits. Enfin, cette critique tente de créer une demande pour quelque chose dont personne ne veut. Jane Flegal (@janeaflegal) dans sa thèse (.pdf) sur la géo-ingénierie ne disait pas autre chose. La critique est aussi un marché !

Pour l’iconoclaste Vinsel, il est fort probable que ces centres de recherches disparaissent à court terme. Mais d’autres naîtront pour promouvoir à nouveau de la responsabilité ou de l’éthique… pour récupérer une part des investissements qui se dirigeront vers les prochains sujets technos à la mode.

Couverture du livre Bubbles and CrashesTout cela pourrait ne pas être si grave. Finalement, on pourrait se dire que, même imparfaits, des contrepoints aux pires battages médiatiques sur la technologie sont nécessaires. Mais pour Vinsel, cette criti-hype a un coût : elle contribue à créer un environnement d’information malsain et donne de la crédibilité aux conneries marketing de l’industrie. Dans Bubbles and Crashes (Stanford University Press, 2019), les spécialistes du management Brent Goldfarb (@brentdg2) et David Kirsch (@darchivist) dissèquent l’importance du storytelling dans la création des bulles spéculatives liées aux nouvelles technologies. Pour eux, quand les universitaires s’engagent dans la critique, ils donnent plus d’autorité à ces récits. Quand McKinsey estime que 60 % des professions auront 1/3 de leurs activités automatisées par l’IA, la firme de consulting vend son baratin, la peur qui va avec et tente de faire croire aux dirigeants d’entreprises que leur environnement va radicalement se transformer. Quand l’AI Now Institute cite ce rapport comme une source crédible et affirme que les décideurs politiques devraient le prendre au sérieux et investir de l’argent pour mieux comprendre les problèmes que cela pourrait générer, cela pose un problème, car cette source n’est pas crédible. Au final, l’AI Now Institute rend ces élucubrations plus crédibles qu’elles ne le sont !, affirme Vinsel. C’est peut-être faire grand cas d’une critique insuffisante il me semble. En tout cas, c’est montrer que la critique est souvent insuffisamment mordante !

Là où Lee Vinsel a raison, c’est que nous avons besoin d’informations solides partout, y compris pour armer les décisions politiques, citoyennes ou d’entreprises. Mais nous perdons notre temps quand les décideurs le perdent à imaginer un avenir qui n’est pas là. Pour lui, le criti-hype, comme le battage technologique, nous détournent des problèmes du monde réel.

On s’intéresse trop aux technologies émergentes !

Dans un autre article, Vinsel rappelait que l’évolution techno, sur le plan économique, a été plus lente depuis 1970 que durant la période précédente. Pour lui, la technologie numérique n’a jamais eu les répercussions économiques que ses promoteurs avaient annoncées et, pour diverses raisons, dont la mondialisation, la surpopulation, en particulier l’augmentation des populations qui n’ont pas de diplômes universitaires et qui n’ont guère accès à de bons emplois. En outre, malgré le battage publicitaire autour de leurs applications, rien de ce qui se passe actuellement dans le domaine des technologies émergentes ne devrait changer les conditions économiques dans un avenir proche.

Couverture du livre Innovation DelusionPour Vinsel, spécialiste des tendances de fond de la technologie, ce point d’aveuglement est lié au fait que trop de personnes s’intéressent aux technologies émergentes. Il y a plus de chercheurs sur la biologie synthétique, l’IA que sur les problèmes technologiques existants, comme les fosses septiques ou le logement, alors que ces sujets sont « pleins de problèmes technologiques et de souffrances humaines qui se produisent maintenant ». Tel est d’ailleurs le sujet de The Innovation Delusion (Penguin Random House, 2020), le livre que Vinsel a publié avec Andy Russell (@RussellProf), avec lequel il avait lancé The Maintainers (@The_Maintainers, voir notre article), un réseau de recherche sur la question de la maintenance de nos infrastructures techniques. Le discours sur l’innovation nous détourne des problèmes ordinaires de la technologie et de ses infrastructures. Et il façonne également la recherche.

Pour Vinsel nous devrions mieux nous former à remettre en question les affirmations de l’innovation technologique. Seule une compréhension nuancée de l’histoire, de la sociologie et de l’économie de la technologie est un bon remède contre une vision trop souvent exagérée du changement technique. Dans son précédent billet, justement, Vinsel dresse un tableau en regard de l’évolution de la technologie et de l’économie américaine depuis les années 50. Les années 50 à 70, sont une Période extraordinaire (Basic Books, 2016), comme l’a souligné l’historien et économiste Marc Levinson. Dans les années 60, juste avant que ce boom économique et technologique ne se termine, les économistes et les politiques se sont concentrés sur l’innovation et le changement technologique comme principal moteur de croissance.

Couverture du livre The Rise and Fall of American GrowthPourtant, depuis les années 70, comme le soulignait les travaux de l’économiste Robert Gordon dans The Rise and Fall of American Growth (Princeton University Press, 2016), le changement technique et la productivité ont été plus lents que durant la période précédente. L’innovation depuis les années 70 s’est surtout concentrée sur les technologies de l’information et de la communication, mais qui ont été bien moins rentable que prédit. L’innovation en tout cas, sectorisée, a été bien plus spécifique que durant les cent précédentes années, puisque les transformations ne concernaient pas seulement les réseaux et l’informatique, mais aussi les automobiles, la production de masse, l’électricité, l’aviation, les installations sanitaires, l’industrie chimique, pharmaceutique, pétrolière, électronique… « Depuis 1970, il y a eu plus de discours sur l’innovation que d’innovations réelles », assène, cinglant, Vinsel.

Couverture du livre Morts de désespoirDans les années 80, la mondialisation a commencé à ronger l’industrie manufacturière américaine, notamment la production chinoise axée sur l’exportation. Pour l’économiste du MIT David Autor (@davidautor), le « choc chinois » a été responsable de 25 % du déclin de l’industrie américaine entre 1990 et 2007 et 45 % du déclin entre 2000 et 2007. Rien n’est venu remplacer l’industrie comme source d’emploi en nombre comme en qualité, notamment pour les non-diplômés. Ce qui a été lourd de conséquences pour la classe ouvrière américaine, comme l’ont montré les économistes Anne Case et Angus Deaton dans leur récent livre : Morts de désespoir : l’avenir du capitalisme (Puf, 2021) qui comptabilise les dégâts de la désindustrialisation.

Couverture du livre TempSi nous vivons une époque de battage technologique, le numérique ne modifie pas vraiment le tableau économique. Les changements qu’apportent les grandes entreprises du numérique se concentrent sur le divertissement et la commodité de consommation. Pire, nombre d’entreprises numériques contournent le droit du travail et nuisent finalement à la qualité de l’emploi, comme le montrait l’historien Louis Hyman (@louishyman) dans Temp (Penguin Random House, 2018), son livre sur l’insécurité dans le monde du travail, ou la juriste Veena Dubal (@veenadubal), dans un remarquable article pour Logic Mag sur l’histoire de la Gig Economy. Ces startups ne sont pas non plus rentables (et la rentabilité des startups a diminué depuis les années 80). Comme le pointait dans un autre article (en trois parties) le consultant Jeffrey Funk, sur 130 licornes américaines, seules 18 % sont rentables en 2019 alors que c’était le cas de 80 % des licornes des années 80. Si elles ne le sont pas, c’est surtout parce que les technologies qu’elles proposent ne sont pas si révolutionnaires, souligne Vinsel. Funk en examinant 40 entreprises de l’IA a estimé qu’il faudra des décennies pour qu’elles aient un effet significatif sur la productivité ou sur l’emploi. Dans un autre article sur la crise du capital risque, Funk souligne d’ailleurs que la faible rentabilité des startups n’est que le reflet du ralentissement de la croissance et de la productivité, de la stagnation de l’innovation et de la baisse de la productivité de la recherche. Pour Susan Houseman, directrice de la recherche de l’Institut Upjohn (@upjohninstitute) sur la recherche sur l’emploi, nous surestimons depuis des décennies les effets de l’automatisation sur l’emploi. Pour Vinsel, le deuxième âge des machines ou la 4e révolution industrielle sont des « flatulences passagères ». L’économie du futur proche devrait surtout ressembler à celle que l’on connaît déjà et le changement technique, parce qu’il demeure marginal, ne nous permettra pas de sortir du sous-emploi chronique. Enfin, nos systèmes de production, de transport et de consommation ne sont pas viables, sur le plan environnemental bien sûr, mais également parce que leurs infrastructures se dégradent. Pour Charles Marohn, de Strong Towns, notre développement est une chaîne de Ponzi ! Pour Vinsel, le discours sur l’innovation tient de platitudes, alors que la dégradation économique a des effets politiques directs. Nous sommes dans une phase de stagnation qui cristallise : les bas salaires persistent, les bons emplois disparaissent…

Vinsel envoie balader la prospective et la science-fiction, qui ne sont pas des leviers pour penser la politique publique. Mais il sauve néanmoins Périphériques, de William Gibson, un roman de SF particulièrement noir où les gens vivent dans de vieilles camionettes, dans un état de chômage constant et où les seuls emplois disponibles consistent à fabriquer des drogues illégales. Avec la montée de la crise économique, ce pourrait ressembler d’une manière assez réaliste à notre avenir. Sombre.

Dans leur livre, Lee Vinsel et Andy Russell semblent un peu plus optimistes et velléitaires pourtant. L’innovation n’est jamais qu’un « moyen pour arriver à une fin », rappellent-ils. Elle fonctionne souvent comme un substitut, notamment à l’efficacité et à la commodité. Mais pour créer une société prospère, centrée sur l’épanouissement humain, nous devons veiller à ce que tout le monde ait accès aux biens de base et aux infrastructures, que les personnes qui s’en occupent soient rémunérées justement et que la société alloue suffisamment de ressources pour préserver ses structures. Trop souvent, l’illusion de l’innovation dévalue la maintenance et le soin, avec des résultats désastreux. Le monde serait assurément différent si nous nous concentrions davantage sur sa réparation, si nous apprenions à respecter les technologies quotidiennes plutôt qu’à vénérer leurs tranformations !

Hubert Guillaud

À lire aussi sur internetactu.net

0 commentaires

  1. Super article mais… qu’est-ce qui permet de dire que le rapport de McKinsey est une source « pas crédible » en revanche ?

    1. Si j’entend bien la position de Lee Vinsel, pour lui, les productions non scientifiques ne sont pas crédibles par nature. Dans son rapport sur le sujet (.pdf) McKinsey ne structure pas ses prévisions par des études et données documentées et référencées. Pour le dire autrement, ça a l’apparence de la science, mais les méthodes de l’exercice peuvent laisser effectivement sceptique.

      1. Bonjour,
        Je généraliserai volontiers le propos de HG en vous faisant part d’une impression qui s’accroît chez moi : on affirme de plus en plus de choses que l’on démontre de moins en moins. Selon le côté de la table où on se situe, on postule les inconvénients des technos ou leurs avantages, sans jamais démontrer de façon nette. Et cette position se rencontre, me semble-t-il, dans de nombreux champs (politique, médiatique et autres) très au-delà des technos.

  2. Lee Vinsel est assez « vachard » avec Zuboff …on peut discuter de sa thèse sur les « modifications comportementales » qui seraient en train de se jouer, reste qu’elle a le mérite de questionner la position des médias sociaux (notamment) concernant le traitement et l’exploitation des données personnelles. Donc l’associer à cette tendance « criti-hype » me paraît réducteur.
    Son approche me semble honnête et documentée (sources, méthode…). Le problème se trouve peut-être moins dans les travaux de Zuboff et consors que dans l’absence de relais médiatiques généralistes pour ceux qui y apporteraient des nuances voire des contrepoints.

  3. Je suis bien content d’être tombé sur cet article très complet comme d’habitude sur Internet Actu.
    La seconde partie notamment fait écho à ce questionnement que j’ai depuis quelques années par rapport à l’innovation et le sens à lui donner. J’avais repéré ce bouquin de Lee Vinsel, mais l’article me donne des élements complémentaires. J’aime bien notamment cette attention porté aux questions de maintenance qu’on a en général beaucoup tendance à oublier. Cela me rappelle la lecture d’un ouvrage de David Edgerton : quoi de neuf ? Sur le rôle des techniques dans l’histoire globale . Il mettait bien en évidence cette tendance à négliger le coût de maintenance des infrastructures que nous mettons en place pouvant aller jusqu’à l’incapacité à les soutenir. Ce sont des sujets particulièrement prégnants quand on travaille chez Orange ou la tendance dominante est quand même plutôt à suivre la technohype.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *