Plus de gens semblent écrire sur les problèmes réels et potentiels des technologies, constate l’iconoclaste professeur de sciences et technologie de la Virginia Tech Lee Vinsel (@sts_news) sur son blog. Reste que parmi ces critiques, beaucoup se révèlent plus parasitaires qu’autre chose. Notamment, souligne le chercheur, ceux qui supposent que la technologie procède d’un changement extraordinaire, mais dénoncent les risques et les problèmes en appelant à les dépasser. Pour Vinsel, les trolls professionnels de la technoculture sont devenus nombreux. Une part importante de la critique technologique nourrit et se nourrit du battage médiatique. Par exemple, il est clair que le documentaire The Social Dilemma (Wikipedia, qui déploie notamment les propos du designer Tristan Harris cofondateur du Center for Humane Technology) ou que le livre de Shoshana Zuboff, L’âge du capitalisme de surveillance surestiment la capacité des médias sociaux à nous influencer sans en fournir aucune preuve (c’est ce que nous soulignions également dans notre critique).

Image : capture d’écran du film The Social Dilemma, où Tristan Harris explique que deux milliards de personnes ont des pensées qu’ils n’avaient pas l’intention d’avoir, alors que le réalisateur montre une animation avec une marionnette contrôlée par les doigts de marionnettistes.

Vinsel rappelle pourtant que les études contradictoires à ces thèses existent, à l’image du livre de Tim Hwang (@timhwang), directeur de l’Initiative pour l’éthique et la gouvernance de l’IA de Harvard et du MIT, Subprime Attention Crisis et d’études et articles qui soulignent que le ciblage publicitaire serait moins efficace qu’un ciblage aléatoire…

« Contrairement à ce que racontent Harris et Zuboff, il semble que Mark Zuckerberg ne réussisse pas vraiment à me vendre ces putains de chaussettes, et encore moins changer de manière intentionnelle/significative mon orientation politique ou mon image de moi. » Pour Vinsel, nous devons continuer à regarder comment l’utilisation des réseaux sociaux façonne nos comportements et nous inquiéter de la désinformation, de la radicalisation, de la polarisation… Mais de là à affirmer qu’ils contrôlent les esprits !

Pour Vinsel, la technologie n’est pas sans risque, mais ses effets sont surtout surestimés (dans une promesse marketing toujours renouvelée) ou sous-estimés (au détriment des plus pauvres et des plus marginaux). Le problème est que cette surcritique nous invite à travailler sur des situations technologiques qui ne sont pas réelles et qui ne sont même pas des projections réalistes de la direction que prennent la science et la technologie.

La critique est corollaire à l’innovation

En fait, estime Vinsel, le problème est que cette critique est devenue un modèle économique pour la recherche. Cette transformation du modèle économique de la recherche, Vinsel la fait remonter au Projet génome humain (Wikipédia), qui a consacré 3 % puis 5 % de son imposant budget de recherche à étudier les impacts moraux et sociaux du séquençage de l’ADN, ouvrant le chemin des recherches sur les « aspects éthiques, légaux et sociaux des sciences » (ELSI). On en trouve également des traces dans le rapport de 2003 du Conseil de bioéthique américain qui s’inquiétait des dangers de l’ingénierie génétique (qui a donné lieu à ce que je me permais d’appeler l’alarme posthumaine, c’est-à-dire la multiplication des propos pour dénoncer les risques du transhumanisme alors même que, très concrètement, ces perspectives demeurent extrêmement éloignées de nos réalités). Même avec la technologie Crispr aujourd’hui, l’ingénierie génétique demeure encore bien plus loin de nous que bien des gens ne l’imaginent.

Vinsel dresse d’ailleurs le même constat autour des critiques de la nanotechnologie quand elle a été promue comme la technologie qui changerait le monde. L’historien des sciences, Patrick McCray (@leapingrobot) dans The Visioneers (Princeton University Press, 2012), comme le président de l’université d’Arizona, Michael Crow, en appelaient néanmoins, face à la nanotechnologisation de la société, à financer plus avant une forme de connaissance critique permettant de reconnecter les résultats de la R&D aux résultats souhaités par la société. Depuis 2003 et la loi de recherche sur la nanotechnologie, une partie des fonds de la NSF sont dirigés vers des préoccupations sociétales, éthiques et environnementales, donnant naissance par exemple au Centre pour la nanotechnologie dans la société de l’université de l’Arizona. Avec le temps, nombre d’exagérations autour de la promesse nanotechnologique semblent être devenues depuis farfelues.

Plus récemment, c’est l’intelligence artificielle qui subit le même battage médiatique et a vu naître nombre d’Instituts et de Centres de recherche privés, financés par des fondations et l’industrie technologique, qui certes ont publié des travaux nuancés sur les problèmes des technologies numériques, mais ont aussi, sans aucun doute, développé un battage critique disproportionné (Vinsel parle de « criti-hype »). Vinsel remarque d’ailleurs que ces centres sont plus nombreux que pour les technologies émergentes précédentes, comme si ce modèle économique s’était mieux diffusé ! Ici, Lee Vinsel taille des croupières à l’AI Now Institute par exemple qui à la suite du World Economic Forum ou des prévisions de McKinsey exagérait dans son rapport de 2017 l’impact à venir de ces technologies pour mieux positionner l’importance des critiques que l’Institut publie. Selon lui, trop souvent, la « criti-hype » a tendance à maximiser le risque dystopique autour de l’IA. Pourtant, pour d’autres chercheurs, comme le consultant Jeffrey Funk (@jeffreyleefunk) qui a examiné l’impact de 40 des principales entreprises de l’IA, il faudra des décennies pour que leurs produits aient un effet concret sur la productivité. D’autres conclusions soulignent encore que l’IA ne devrait pas avoir d’effets à court terme sur l’emploi, comme le pointait le rapport (.pdf) de l’initiative pour l’avenir du travail du MIT comme du Centre de recherche Keystone.

En fait, souligne Vinsel, la critique n’est pas si simple. Le battage sur la biologie de synthèse par exemple est très surévalué, mais le dire n’est pas si évident sauf à se voir couper ses crédits. Enfin, cette critique tente de créer une demande pour quelque chose dont personne ne veut. Jane Flegal (@janeaflegal) dans sa thèse (.pdf) sur la géo-ingénierie ne disait pas autre chose. La critique est aussi un marché !

Pour l’iconoclaste Vinsel, il est fort probable que ces centres de recherches disparaissent à court terme. Mais d’autres naîtront pour promouvoir à nouveau de la responsabilité ou de l’éthique… pour récupérer une part des investissements qui se dirigeront vers les prochains sujets technos à la mode.

Tout cela pourrait ne pas être si grave. Finalement, on pourrait se dire que, même imparfaits, des contrepoints aux pires battages médiatiques sur la technologie sont nécessaires. Mais pour Vinsel, cette criti-hype a un coût : elle contribue à créer un environnement d’information malsain et donne de la crédibilité aux conneries marketing de l’industrie. Dans Bubbles and Crashes (Stanford University Press, 2019), les spécialistes du management Brent Goldfarb (@brentdg2) et David Kirsch (@darchivist) dissèquent l’importance du storytelling dans la création des bulles spéculatives liées aux nouvelles technologies. Pour eux, quand les universitaires s’engagent dans la critique, ils donnent plus d’autorité à ces récits. Quand McKinsey estime que 60 % des professions auront 1/3 de leurs activités automatisées par l’IA, la firme de consulting vend son baratin, la peur qui va avec et tente de faire croire aux dirigeants d’entreprises que leur environnement va radicalement se transformer. Quand l’AI Now Institute cite ce rapport comme une source crédible et affirme que les décideurs politiques devraient le prendre au sérieux et investir de l’argent pour mieux comprendre les problèmes que cela pourrait générer, cela pose un problème, car cette source n’est pas crédible. Au final, l’AI Now Institute rend ces élucubrations plus crédibles qu’elles ne le sont !, affirme Vinsel. C’est peut-être faire grand cas d’une critique insuffisante il me semble. En tout cas, c’est montrer que la critique est souvent insuffisamment mordante !

Là où Lee Vinsel a raison, c’est que nous avons besoin d’informations solides partout, y compris pour armer les décisions politiques, citoyennes ou d’entreprises. Mais nous perdons notre temps quand les décideurs le perdent à imaginer un avenir qui n’est pas là. Pour lui, le criti-hype, comme le battage technologique, nous détournent des problèmes du monde réel.

On s’intéresse trop aux technologies émergentes !

Dans un autre article, Vinsel rappelait que l’évolution techno, sur le plan économique, a été plus lente depuis 1970 que durant la période précédente. Pour lui, la technologie numérique n’a jamais eu les répercussions économiques que ses promoteurs avaient annoncées et, pour diverses raisons, dont la mondialisation, la surpopulation, en particulier l’augmentation des populations qui n’ont pas de diplômes universitaires et qui n’ont guère accès à de bons emplois. En outre, malgré le battage publicitaire autour de leurs applications, rien de ce qui se passe actuellement dans le domaine des technologies émergentes ne devrait changer les conditions économiques dans un avenir proche.

Pour Vinsel, spécialiste des tendances de fond de la technologie, ce point d’aveuglement est lié au fait que trop de personnes s’intéressent aux technologies émergentes. Il y a plus de chercheurs sur la biologie synthétique, l’IA que sur les problèmes technologiques existants, comme les fosses septiques ou le logement, alors que ces sujets sont « pleins de problèmes technologiques et de souffrances humaines qui se produisent maintenant ». Tel est d’ailleurs le sujet de The Innovation Delusion (Penguin Random House, 2020), le livre que Vinsel a publié avec Andy Russell (@RussellProf), avec lequel il avait lancé The Maintainers (@The_Maintainers, voir notre article), un réseau de recherche sur la question de la maintenance de nos infrastructures techniques. Le discours sur l’innovation nous détourne des problèmes ordinaires de la technologie et de ses infrastructures. Et il façonne également la recherche.

Pour Vinsel nous devrions mieux nous former à remettre en question les affirmations de l’innovation technologique. Seule une compréhension nuancée de l’histoire, de la sociologie et de l’économie de la technologie est un bon remède contre une vision trop souvent exagérée du changement technique. Dans son précédent billet, justement, Vinsel dresse un tableau en regard de l’évolution de la technologie et de l’économie américaine depuis les années 50. Les années 50 à 70, sont une Période extraordinaire (Basic Books, 2016), comme l’a souligné l’historien et économiste Marc Levinson. Dans les années 60, juste avant que ce boom économique et technologique ne se termine, les économistes et les politiques se sont concentrés sur l’innovation et le changement technologique comme principal moteur de croissance.

Pourtant, depuis les années 70, comme le soulignait les travaux de l’économiste Robert Gordon dans The Rise and Fall of American Growth (Princeton University Press, 2016), le changement technique et la productivité ont été plus lents que durant la période précédente. L’innovation depuis les années 70 s’est surtout concentrée sur les technologies de l’information et de la communication, mais qui ont été bien moins rentable que prédit. L’innovation en tout cas, sectorisée, a été bien plus spécifique que durant les cent précédentes années, puisque les transformations ne concernaient pas seulement les réseaux et l’informatique, mais aussi les automobiles, la production de masse, l’électricité, l’aviation, les installations sanitaires, l’industrie chimique, pharmaceutique, pétrolière, électronique… « Depuis 1970, il y a eu plus de discours sur l’innovation que d’innovations réelles », assène, cinglant, Vinsel.

Dans les années 80, la mondialisation a commencé à ronger l’industrie manufacturière américaine, notamment la production chinoise axée sur l’exportation. Pour l’économiste du MIT David Autor (@davidautor), le « choc chinois » a été responsable de 25 % du déclin de l’industrie américaine entre 1990 et 2007 et 45 % du déclin entre 2000 et 2007. Rien n’est venu remplacer l’industrie comme source d’emploi en nombre comme en qualité, notamment pour les non-diplômés. Ce qui a été lourd de conséquences pour la classe ouvrière américaine, comme l’ont montré les économistes Anne Case et Angus Deaton dans leur récent livre : Morts de désespoir : l’avenir du capitalisme (Puf, 2021) qui comptabilise les dégâts de la désindustrialisation.

Si nous vivons une époque de battage technologique, le numérique ne modifie pas vraiment le tableau économique. Les changements qu’apportent les grandes entreprises du numérique se concentrent sur le divertissement et la commodité de consommation. Pire, nombre d’entreprises numériques contournent le droit du travail et nuisent finalement à la qualité de l’emploi, comme le montrait l’historien Louis Hyman (@louishyman) dans Temp (Penguin Random House, 2018), son livre sur l’insécurité dans le monde du travail, ou la juriste Veena Dubal (@veenadubal), dans un remarquable article pour Logic Mag sur l’histoire de la Gig Economy. Ces startups ne sont pas non plus rentables (et la rentabilité des startups a diminué depuis les années 80). Comme le pointait dans un autre article (en trois parties) le consultant Jeffrey Funk, sur 130 licornes américaines, seules 18 % sont rentables en 2019 alors que c’était le cas de 80 % des licornes des années 80. Si elles ne le sont pas, c’est surtout parce que les technologies qu’elles proposent ne sont pas si révolutionnaires, souligne Vinsel. Funk en examinant 40 entreprises de l’IA a estimé qu’il faudra des décennies pour qu’elles aient un effet significatif sur la productivité ou sur l’emploi. Dans un autre article sur la crise du capital risque, Funk souligne d’ailleurs que la faible rentabilité des startups n’est que le reflet du ralentissement de la croissance et de la productivité, de la stagnation de l’innovation et de la baisse de la productivité de la recherche. Pour Susan Houseman, directrice de la recherche de l’Institut Upjohn (@upjohninstitute) sur la recherche sur l’emploi, nous surestimons depuis des décennies les effets de l’automatisation sur l’emploi. Pour Vinsel, le deuxième âge des machines ou la 4e révolution industrielle sont des « flatulences passagères ». L’économie du futur proche devrait surtout ressembler à celle que l’on connaît déjà et le changement technique, parce qu’il demeure marginal, ne nous permettra pas de sortir du sous-emploi chronique. Enfin, nos systèmes de production, de transport et de consommation ne sont pas viables, sur le plan environnemental bien sûr, mais également parce que leurs infrastructures se dégradent. Pour Charles Marohn, de Strong Towns, notre développement est une chaîne de Ponzi ! Pour Vinsel, le discours sur l’innovation tient de platitudes, alors que la dégradation économique a des effets politiques directs. Nous sommes dans une phase de stagnation qui cristallise : les bas salaires persistent, les bons emplois disparaissent…

Vinsel envoie balader la prospective et la science-fiction, qui ne sont pas des leviers pour penser la politique publique. Mais il sauve néanmoins Périphériques, de William Gibson, un roman de SF particulièrement noir où les gens vivent dans de vieilles camionettes, dans un état de chômage constant et où les seuls emplois disponibles consistent à fabriquer des drogues illégales. Avec la montée de la crise économique, ce pourrait ressembler d’une manière assez réaliste à notre avenir. Sombre.

Dans leur livre, Lee Vinsel et Andy Russell semblent un peu plus optimistes et velléitaires pourtant. L’innovation n’est jamais qu’un « moyen pour arriver à une fin », rappellent-ils. Elle fonctionne souvent comme un substitut, notamment à l’efficacité et à la commodité. Mais pour créer une société prospère, centrée sur l’épanouissement humain, nous devons veiller à ce que tout le monde ait accès aux biens de base et aux infrastructures, que les personnes qui s’en occupent soient rémunérées justement et que la société alloue suffisamment de ressources pour préserver ses structures. Trop souvent, l’illusion de l’innovation dévalue la maintenance et le soin, avec des résultats désastreux. Le monde serait assurément différent si nous nous concentrions davantage sur sa réparation, si nous apprenions à respecter les technologies quotidiennes plutôt qu’à vénérer leurs tranformations !

Hubert Guillaud