Contrairement à ce que laisserait entendre son titre – La tyrannie des algorithmes, Textuel, 2019 -, le petit livre d’entretien avec le philosophe et psychanalyste Michel Benasayag (Wikipédia) qui parait ce jour, n’évoque pas vraiment la réalité qu’exerce la tyrannie des algorithmes. Benasayag n’est pas Kate Crawford, Virginia Eubanks ou Cathy O’Neil. Il n’est pas un spécialiste du sujet. Tant mieux ! Son propos n’est pas de regarder comment, très concrètement, les algorithmes transforment nos existences. Sa réflexion est bien plus épistémologique. Il livre en 90 pages une très synthétique histoire de philosophie des sciences, qui permet de mettre en perspective l’erreur que représente notre colonisation par la machine et combien la proposition que formule le numérique semble une anomalie de l’histoire de la pensée. Et ça, c’est vraiment passionnant !

Dans son précédent livre, Fonctionner ou exister (Le Pommier, 2018), le philosophe rappelait déjà que lorsque nous ne contrôlons pas les programmes, nous sommes réduits à fonctionner plutôt qu’exister, c’est-à-dire à être objectivés par la seule performance, à devenir les machines des programmes. Pour lui, nous aurions largement intériorisé une idéologie rationnelle, performative et productiviste… Une idéologie du fonctionnement principalement soutenue par l’innovation technologique. Et ce, au détriment du lien social, du sens, de notre appréhension existentielle de l’existence.

Heurs et malheurs de la rationalité occidentale

Dans la première partie de ce court livre d’entretien, Benasayag revient très synthétiquement sur l’histoire de l’échec de la rationalité occidentale. La rationalité a tenté de façonner une réalité purement quantitative et à contrôler – discipliner dirait Foucault – le champ du vivant. Mais la numérisation n’est pas le même projet que la mathématisation (Pablo Jensen ne disait pas autre chose !). Les mathématiques tentent de faire ressembler le territoire à la carte, là où « le numérique absorbe le territoire dans la carte » (à l’image de Google par exemple). La numérisation nie toute forme d’altérité, de complexité, élimine tout ce qui résiste à sa modélisation, tout ce qui n’est pas calculable. L’enjeu est de transformer tout signe en signal, de créer une interprétation du monde, même imparfaite, même si elle n’est pas fiable, à l’image de l’analyse émotionnelle. L’enjeu est de calculer et donc de rationaliser le monde, même si cet hyper-rationalisme produit surtout de l’irrationnel !

Pourtant, rappelle fort justement Benasayag, la théorie des catastrophes de Thom ou les théorèmes d’incomplétudes de Gödel, la théorie quantique et la physique relativiste… étaient autant d’éléments qui, dès le début du XXe siècle, ont mis à mal la raison conquérante en en pointant les limites. Les catastrophes de Hiroshima et Nagasaki comme la Shoa ont fini d’enterrer la quête d’une libération de l’homme par la rationalité. La raison non seulement était imparfaite, mais pouvait également mener au pire…

Le doute de la vertu du rationalisme aurait dû nous conduire à produire une pensée scientifique plus complexe, comme l’a montré le travail d’Edgar Morin par exemple. Ce n’est pourtant pas ce qu’il s’est passé, souligne Benasayag. À la fin de la Seconde Guerre mondiale, l’informatique et la cybernétique viennent renouveler la promesse d’une rationalité totale et conquérante, que la science comme la folie des hommes avaient pourtant fortement ébranlée. La promesse de l’IA redonne des perspectives au rationalisme en le poussant toujours plus loin. La machine « promet de rendre à nouveau la rationalité prévisible ». Le succès de la théorie de l’information et son application dans tous les champs des technosciences repose sur un développement du fonctionnalisme, c’est-à-dire d’une forme de modularité dont on cherche à saisir le fonctionnement pour lui-même. Mais l’idée du vivant comme un ensemble d’informations laisse de côté un principe vital fondamental, qui est le principe d’intégration, c’est-à-dire que le vivant n’est pas qu’un assemblage de modules qui interagissent, mais un ensemble de modules en relations les uns avec les autres. Pour Benasayag, c’est là l’erreur du numérique : les algorithmes auto-apprenants sont censés exister en dehors de toute signification. Ils suivent une logique « asémantique », dénuée de sens, permettant de les appliquer à tout et n’importe quoi ! C’est à la machine d’accomplir désormais l’hyper-rationalité dont nous n’avons pas été capables !

Pour le philosophe, nous n’avons pas été capables de faire le deuil de la puissance de l’homme, même si nous voyons bien que nous ne sommes pas le seul sujet agissant de l’histoire. Nos actions entrent en interaction avec d’autres, à l’image de la planète qui rétroagit en retour à nos activités. À l’heure de la complexité, notre pensée ne peut plus être linéaire et déterministe. Or, l’IA ne nous promet rien d’autre qu’une simplification du réel linéaire et déterministe, qu’une maîtrise devenue impossible. Personne n’a souhaité transformer le monde en poubelle ! Notre non-maîtrise du monde, notre incapacité à comprendre les conséquences de nos actes se sont retournées contre nous ! C’est un peu comme si, déçus de nous-mêmes, déçus par la science et la raison, rebutés par la complexité, nous avions délégué nos fonctions de décision à la machine pour rendre le monde plus accessible. Et ce d’autant que la machine ne cesse de s’adapter aux situations, nous paraît toujours parfaitement fiable. L’humain « a délégué sa puissance d’agir aux machines ». Comme le souligne le mythe de l’homme augmenté, du transhumain, d’une vision « post-organique du monde », « le temps de la sacralité de l’homme est fini ». Pour Benasayag, c’est là le signe d’une post-démocratie, où le corps des êtres humains est le dernier obstacle récalcitrant qu’il faut soumettre à la machine, incorporer dedans… ce qui ne se fait pas sans violences.

Face à ce constat, le philosophe montre que nous en sommes réduits à deux types de réactions : d’un côté, une déception, un constat d’échec et d’impuissance ; de l’autre une tentation de repolitiser les questions prises en charge par les machines. Et surtout, surtout, pour la plupart d’entre nous, une acceptation, une disciplinarisation, qui consiste à soumettre nos corps au numérique, à le transformer en pur fonctionnement.

Voilà longtemps que nous déléguons, rappelle le philosophe. « La démocratie est majoritairement perçue comme une façon de se débarrasser du souci de penser ». Nos représentants occupent seuls la charge de nous représenter. Pour le philosophe, nous devons reconquérir notre capacité d’agir. Et Benasayag de proposer une troisième voie : nous devons accepter la gouvernementalité algorithmique. Nos vies individuelles comme nos sociétés sont orientées et structurées par les programmes. Nous sommes vus comme des éléments modulaires, réduits à nos micro-comportements que les machines décryptent par-devers nous. Les réalités des machines s’imposent à nous : la décision de fermer une maternité sous couvert d’efficacité économique devient plus réelle que la réalité d’accoucher. Derrière l’hyper-rationalisme se cache un un hyper-intégrisme, qui veut réduire le monde à sa seule efficacité, produisant un monde sans faille, inexplicable, donc invivable. Avec un pessimisme rare, Benasayag estime que nous devons abandonner toute promesse d’avenir. Nous ne pouvons trouver que des motivations immanentes. Agir repose sur un pari, pas sur une certitude ou une exactitude.

Pourtant, le philosophe ne semble pas se résoudre complètement à cette acceptation : nous devons non pas nous opposer aux machines, mais à la colonisation du vivant par la machine, explique-t-il encore, en nous invitant à créer des foyers de dysfonctionnement. Une forme de rébellion par les marges, stimulante, mais peu convaincante. Pourtant, il souligne également qu’un autre enjeu demeure, celui de distinguer les usages, les fonctions que nous voulons déléguer aux machines et celles que nous devons leur refuser. L’enjeu de maîtrise demeure. A l’heure de l’emballement mécanique de la technique, il semble plus que jamais nécessaire de parvenir à déterminer ce qui doit en relever de ce qui doit en être exclu. Mais comment distinguer les « bonnes » technologies des mauvaises ? Comment déterminer là où notre raison doit s’exercer, de là où elle doit s’effacer ? Comment orienter le sens de la technologie ?

Comment nous défaire de la fascination de la technologie ?

Dans son dernier livre (Les besoins artificiels : comment sortir du consumérisme, La Découverte, 2019), le sociologue Razmig Keucheyan (Wikipédia) tente justement de distinguer non pas les technologies, mais les besoins. Son livre esquisse des solutions pour nous aider à trouver des solutions pour briser le consumérisme qui nous dévore. Pour cela, il dresse une histoire politique de la consommation et éclaire nos actions à venir des luttes passées – comme s’il suffisait d’accélérer les solutions d’hier pour lutter contre nos addictions présentes.

Pour nous défaire de l’emprise de la marchandise, nous devons collectivement redéfinir nos besoins et réinterroger notre trouble compulsif, à l’image du travail très concret des alcooliques anonymes, des débiteurs anonymes ou des cercles de simplicité (on pourrait ajouter également « les paumés » (voir leur groupe FB), qui proposent, selon un mode de fonctionnement assez proche, des formes de réunions codifiées, fraternelles et bienveillantes pour briser l’isolement de l’individu face à ses troubles afin de l’aider à comprendre les pathologies de ses besoins irrépressibles… Ces cercles de discussions se révèlent être des moyens pour pointer les causes sociales de nos consommations compulsives, d’en comprendre les raisons et de retrouver une dignité en reprenant le contrôle de ses gestes. « Recouvrer une dignité face à la marchandise suppose donc l’immersion dans un collectif », rappelle le sociologue. Ces formes introspectives et critiques de nos aliénations contiennent pourtant une leçon essentielle pour qui s’intéresse à la question des besoins : « Seul l’interaction avec autrui est susceptible de faire prendre conscience à la personne de ce dont elle a besoin ». « Distinguer les besoins authentiques des besoins superflus suppose donc de sortir l’individu de son tête-à-tête avec la marchandise ». Ici, les collectifs n’imposent rien aux individus qui y participent. Leurs comportements ne sont pas pris en charge par des experts. La réunion permet à chacun de redéfinir ses besoins d’une manière dialogique plutôt qu’ontologique, dans des groupes profondément égalitaristes et à échelle humaine.

Peut-être que nos pratiques technologiques compulsives ou inéluctables ont besoin d’être ainsi discutées. Discutées face aux pratiques des autres. Mais également discutées avec ceux avec lesquels nous sommes en relation. C’est un autre moyen de regarder ensemble nos pratiques, d’interroger notre attention et nos intentions. Pour mieux saisir le rôle des technologies, pour être critiques de leurs modalités, pour définir des technologies qui apportent de la valeur à tous, peut-être avons-nous besoin de faire ce travail ensemble, en petits groupes, d’évoquer la question technologique de manière collective. Délibérer sur les besoins, sur la manière dont ils sont aujourd’hui produits, conçus, sur nos pratiques, nécessite peut-être d’inventer, à l’heure où il nous échappe, ces cercles de discussions sur notre rapport à la technologie ?

Razmig Keucheyan nous invite également à nous défaire de la fascination de la nouveauté, du changement… Mais plutôt que nous confronter très frontalement à cette fascination irrépressible, il nous invite plutôt, très concrètement, à prolonger la durée de vie de nos objets, à privilégier la maintenance à l’innovation, à étendre les garanties pour le consommateur afin d’étendre la responsabilité des producteurs, à ouvrir les boîtes noires des produits en favorisant la robustesse, la démontabilité, l’interopérabilité et leur évolution… On ne pourra qu’être d’accord.

Pourtant, son livre reste court sur comment distinguer les besoins, lesquels satisfaire, lesquels interdire. Nous avons certes à en discuter, mais avec quelle boussole ? Pour lui, il est pourtant essentiel de parvenir à distinguer les besoins, c’est-à-dire les besoins « vitaux » des besoins « nuisibles »… Dans le Manifeste négaWatt, le sociologue indique qu’on trouve une première taxonomie des besoins, qui distingue les besoins vitaux « essentiels », « indispensables », « utiles » et « convenables » des besoins nuisibles « futiles », « extravagants », « inacceptables » ou « égoïstes ». Les auteurs du manifeste précisent : « Un peu comme nous classons aujourd’hui les appareils électroménagers ou les logements selon « l’étiquette énergie » qui va de A à G, il est possible de classer l’ensemble de nos besoins selon une échelle allant des besoins « vitaux » (…) aux besoins « nuisibles » (…) ». Pour le sociologue, nous avons besoin de mettre en délibération les besoins selon une grille d’intérêt ou de valeurs pour laquelle il sera difficile de trouver des consensus. Comment rationner les besoins, les usages et mésusages ? Pour lui, « distinguer entre des besoins authentiques et superflus est crucial dans le contexte de la transition écologique »… Et la seule façon d’y parvenir consiste à faire de ces enjeux le fruit d’une délibération collective permanente, un théâtre des négociations. La réponse n’est pas simple : elle est profondément politique !

On pourrait dire la même chose des technologies et de la tyrannie rationaliste de l’IA. Dans un monde nécessairement plus frugal, la question de distinguer les technologies selon les projets qu’elles portent, les valeurs qu’elles induisent, les sociétés qu’elles dessinent risque de devenir un enjeu plus pressant que jamais. Pas sûr pourtant que nous soyons facilement d’accord sur les valeurs, les enjeux et les modèles de société qui s’y projettent.

Hubert Guillaud