Prochain arrêt, la Singularité (4/4) : Un mythe venu du futur ?

graphique de l'évolution du nombre de lame par rasoir chez GiletteEvidemment la singularité n’a pas que des adeptes. Clive Thompson, journaliste au New York Times et à Wired, se moque ainsi des perspectives eschatologiques de Kurzweil et consorts. Remarquant à propos des lames de rasoir qu’« il a fallu quatre-vingts ans à l’industrie pour ajouter une seconde lame, mais qu’il n’en a fallu que quinze pour en ajouter une troisième, et il ne s’est écoulé que deux ou trois ans entre le Schick Quattro à quatre lames et le Gillette Fusion qui en possède cinq. Les amis, ce qui nous attend est clair : la singularité Gillette. Le moment ou l’acte de se raser devient si différent de tous les rasages précédents que l’histoire ne peut plus nous fournir de modèle pour prédire l’avenir. »

Les ennemis de la Singularité
Dans IEEE Spectrum, divers chercheurs mentionnent aussi leurs réserves. Parmi les sceptiques, on trouve, – surprise ! – Gordon Moore, inventeur de la loi du même nom qui est souvent invoquée par les singularitariens pour justifier leurs croyances : « Le développement de l’être humain, son évolution, implique beaucoup plus que les facultés intellectuelles. Vous pouvez bouger vos doigts et les autres parties de votre corps. Je ne vois pas comment les machines pourraient combler ce fossé, atteindre ce niveau de complexité, même si nous les rendons intellectuellement plus capables que les humains ».

Pourtant, malgré le scepticisme de certains, il est aussi frappant de voir combien de scientifiques de haut niveau souscrivent à ce concept (ce qui montre bien qu’on a déjà dépassé largement le stade de la marginalité) : Douglas Hofsdatter, par exemple, auteur du fameux Godel Escher Bach pense que la Singularité se produira un jour, même s’il est sceptique sur les prédictions à court terme des singularitariens.

Créé par un auteur de science-fiction, le concept de Singularité est également attaqué par d’autres auteurs de science-fiction. On a vu les objections de Rudy Rucker à propos du Computronium. Un autre romancier, Karl Schroeder, est l’un des critiques les plus virulents de la Singularité. « Concernant l’idée que la Singularité arrivera quand tous les modèles du futur cesseront de donner des réponses crédibles ou exactes, j’ai une grande nouvelle à vous annoncer : les modèles actuels du futur n’ont jamais donné de réponses crédibles ou exactes. Lorsqu’il s’agit de prédire l’avenir, c’est déjà la Singularité, et tout le temps, baby. »

Il propose de remplacer la Singularité par la notion de « maximum technologique » qui désigne le moment où une technologie donnée atteint son efficacité optimale, au point qu’elle ne puisse plus être améliorée. Elle cesse alors de jouer un rôle transformateur au sein de l’environnement social. Au lieu du grand soir de la Singularité, on aurait donc, sans cesse, de minuscules « fins de l’histoire », beaucoup plus spécifiques : fin de l’histoire du socle de charrue, du roulement à billes, etc.

Il se pourrait que la convergence et l’accélération accélérante multiplient, dans un futur proche, le nombre de « maximums technologiques » ce qui possède bien sûr un petit air de Singularité, mais avec des conséquences radicalement différentes. On en viendrait en fait à un point où la technologie cesserait de revêtir l’importance qu’elle possède aujourd’hui : « A l’âge futur du maximum technologique, explique Schroeder, la technologie cesse de diriger le changement social. Les règles sont inversées : le changement devient entièrement affaire de valeurs, nous met en face de ce que nous voulons, et l’idéologie, la religion, l’esthétique et la culture dominent le paysage des mutations à venir ». En d’autres termes, conclut-il,  » le facteur dominant de transformation dans le futur ne sera pas la technologie, ce sera la politique ».

La Singularité : un mythe moderne
De fait, l’idée de Singularité s’est développée dans un environnement très spécifique, dans une culture obsédée depuis sa fondation par les puritains par l’approche imminente de l’apocalypse.

On a souvent appelé la Singularité  : « une extase pour les geeks » (Rapture of the geeks). Le mot anglais utilisé étant rapture, un terme très connoté de l’autre côté de l’Atlantique. Il sont en effet nombreux là-bas à croire que dans un laps de temps très proche, le Christ va revenir et « enlever » les justes de cette planète, n’y laissant que les pécheurs. Un film et même un jeu vidéo, tous deux intitulés Left Behind, d’après un best-seller du même nom, ont été réalisés sur ce sujet. Il n’est pas difficile de voir à quel point la Singularité, avec son caractère à la fois rapide, inévitable et bien entendu ses promesses quasi théologiques se rapproche de cette conception.

Un autre courant culturel très américain aime à se référer à l’approche d’une fin des temps imminente. Les partisans des mouvements « neo-hippies » et « néo-psychédéliques » mentionnent fréquemment dans leur discours « l’Eschaton », une accélération des évènements culminant le 12 décembre 2012, date de l’apocalypse selon le calendrier maya, soit trois ans avant 2015, date prédite par Ray Kurzweil. Certains, comme Mark Pesce, coinventeur du VRML (le premier langage de programmation de réalité virtuelle sur le Web), n’hésitent pas d’ailleurs à combiner la métaphysique de l’Eschaton avec les spéculations technologiques de la Singularité.

Le retour des mythologies professionnelles ?
Peut-être que le développement de thèmes comme la Singularité peut-il apparaitre comme le signe de l’éclatement de nos sociétés modernes sous la pression de l’explosion informationnelle ? Dans un monde où les points de vue possibles se multiplient et où chacun crée ses propres repères en fonction de sa trajectoire personnelle, il n’y plus de place pour les grands thèmes universalistes, qu’ils s’expriment dans des religions comme les monothéismes ou le bouddhisme, ou dans l’humanisme rationaliste des Lumières. Du coup, une multitude de micro-religiosités se développent, dont le New Age à son époque, mais peut être aussi le transhumanisme et le singularitarianisme.

Cela implique un retour aux formes de sacralité primitives, où chaque groupe, chaque guilde possède ses propres rites, ses propres mythes, ses propres « mystères » : cultes des forgerons, des chasseurs, des hommes et des femmes, des agriculteurs… Dans nos sociétés, des institutions comme le compagnonnage ou la franc-maçonnerie (qui à l’origine était constituée de véritables maçons, de bâtisseurs de cathédrales) sont des survivances de ces systèmes de valeurs propres à une corporation.

On pourrait alors interpréter la Singularité comme l’un des mythes fondamentaux d’une « guilde » contemporaine, celle des chercheurs impliqués dans le domaine des TICs. Comme on l’a vu, ils constituent le gros des troupes « singularitariennes ». Culte de la vitesse, culte de la puissance de calcul : voilà des concepts auxquels tout informaticien est confronté tous les jours.

On peut imaginer que la fragmentation progressive de la société nous amène d’autres types de mythes, eux aussi adaptés à l’activité de ceux qui y souscrivent. La Singularité sera-t-elle au menu des futurs développeurs en biologie synthétique, par exemple, ceux qui, pour reprendre Esther Dyson, feront pousser les choses au lieu de les construire ? Peut être pas. La pratique agricole, fut-elle artificielle, repose sur la patience et l’observation des cycles, et l’accélération fulgurante n’est pas forcément pour ses adeptes une perspective exaltante. Quant à l’intellect, il passe pour un biologiste loin derrière la capacité à s’adapter et à se reproduire. Peut-être leurs mythes lorgneront-ils plutôt vers la vieille alchimie, avec ses expériences infiniment répétées au fil des années. Et sans doute préfèreront-ils les thèses de « l’horloge du long maintenant » (qui sonne tous les mille ans) de Stewart Brand et Brian Eno à l’ivresse singularitarienne ?

Au delà du mythe
La Singularité est donc sans doute un exemple parfait de l’apparition de nouveaux mythes, produits par la société moderne et adaptés à ses catégories mentales. Mais il ne suffit pas de dire « c’est un mythe » pour l’envoyer figurer définitivement au catalogue des absurdités. Un mythe n’est ni vrai ni faux. Pendant des siècles, le mythe de l’homme oiseau, celui d’Icare, a fasciné les esprits. Et aujourd’hui, des milliers de gens volent chaque jour au-dessus des océans.

Souligner le caractère mythologique de la Singularité est certainement très amusant pour rabattre le caquet de chercheurs qui se présentent souvent comme des parangons de rationalité. Plus sérieusement, l’analyse des fondements imaginaires d’une idée permet de comprendre les racines de son développement et nous montre à quel point le rêve, le délire, constituent un des moteurs fondamentaux de l’activité humaine, même dans les domaines intellectuellement les plus rigoureux. Pourtant, vouloir faire de cette « déconstruction » l’argument principal à opposer à un thème comme la Singularité serait la manifestation d’une erreur commune à bon nombre de rhétoriciens ; l’idée qu’on puisse démolir un argument en cherchant à mettre en lumière les motivations cachées de celui qui les défend ressemble à la pratique condamnable de demander à un locuteur « d’où il parle ».

Le cadre mythologique d’une théorie ou d’une idée ne nous dit rien sur la valeur ou son exactitude. Au XVe siècle, le philosophe Giordano Bruno imagina le monde comme un système héliocentrique baignant dans un univers infini ; ce faisant, il faisait cadrer sa vision du monde avec sa conviction qu’un Dieu infini ne pouvait créer qu’un univers infini et que placer le soleil au centre du système planétaire était plus compatible avec ses théories sur le renouveau de la magie hermétique pseudo-égyptienne que le modèle de Ptolémée. Aucun de ces arguments n’était rationnel ou purement astronomique. Cependant, sa conception de l’univers, la première comparable à notre vision moderne, était en avance sur celle de Copernic, et même sur celle de Galilée, qui devait venir cinquante ans après lui.

Ce sur quoi un mythe peut nous renseigner, en revanche c’est sur le contexte dans lequel se développent un certain nombre de thématiques et questions qui, elles, méritent une attention soutenue. L’intelligence est-elle une variable qui peut augmenter sans limites ? L’être humain risque-t-il d’être dépassé par une de ses créations ? Peut on reconfiguer le monde jusque dans ses bases mêmes ? Et quelle est la nature et le rythme du progrès technologique ? Ces questions, avec leurs tentatives de réponses forment-elles ou non la racine des débats de demain ou resteront-elles les agitations d’un petit cercle de fanatiques déconnectés du réel ? L’intérêt des critiques d’un Rucker, d’un Schroeder ou d’un Jones (voir premier volet), vient justement du fait que, bien qu’ils aient remarqué et souvent moqué le fond religieux de la notion de Singularité, ils ne s’arrêtent pas là et la prennent au sérieux ; du coup, ils vont plus loin et élaborent de nouveaux concepts plus adaptés : problème de la complexité du réel chez Rucker ; notion de maximum technologique chez Schroeder. Et pour Jones, une toute nouvelle conception de la nanotechnologie, qu’il expose dans son excellent ouvrage, Soft Machines.

Au fond, même si le mythe de la Singularité nous choque et nous fait sourire par son côté extrême et « déjanté », il a peut être le mérite de souligner de façon spectaculaire un certain nombre de phénomènes et d’interrogations qui passeraient sinon inaperçues. Les singularitariens, qui imaginent un futur proche dominé par des changements radicaux dans notre mode de vie et dans la structure même du monde sont peut être plus proches de la vérité que les prospectivistes réalistes qui imaginent sans sourciller le futur en 2050 comme une version un peu transformée de notre présent. Une attitude circonspecte et conservatrice est toujours passée pour un gage de sérieux dans le domaine de la prospective scientifique et technique. Le mythe de la Singularité, avec son futurisme radical, nous amène à interroger la valeur d’une telle timidité.

À lire aussi sur internetactu.net

19 commentaires

  1. Très déçu par cette suite d’articles qui relève plus de la science-fiction qu’autre chose. J’aime bien la SF mais j’attends d’Internet Actu des réflexions sur l’impact sociétal des TIC et sur de nouvelles applications/situations. Pas sur les derniers délires de nos amis d’outre-atlantique qui leur servent en général à justifier leur demandes de budget à la Darpa. À la limite, il y aurait précisément matière à faire un article sur cette capacité extraordinaire (qu’ils partagent avec les japonais ?) à mélanger science (?), technique et mythologie/positivisme 🙂

    Par ailleurs, Douglas Hofsdatter n’est clairement pas un « scientifique de haut niveau » ! Son livre est certes très distrayant mais complètement anecdotique sur le fond, voire fallacieux. La fixation qu’il fait sur le codage dû Gödel, construction triviale qu’il érige en résultat majeur, en est un exemple. Exemple qui illustre là aussi la dérive antirationaliste de certains scientifiques (peut-être est-ce ce que la société préfère entendre ?).

  2. hé Rémi, il faut aussi citer en la matière le livre de Philip K. Dick: VALIS (Vast Activ Living Intelligent System) dans lequel il suggère que l’Univers a bien été créé par les hommes par l’entremise d’une sorte de monade absolue par laquelle le temps se boucle (c’est ma lecture personnelle du roman). VALIS a inspiré en 1986 la création du Générateur Poïétique, vu comme un dispositif de théophanie automatique, permettant de vivre l’expérience de la Singularité comme une Révolution spirituelle personnelle et collective, un gigantesque retournement à 360° autour de soi-même qui finalement laisse l’Univers inchangé, y-compris les rasoirs Gillette 😉

    L’idée de Ruecker y ressemble: “Le brin d’herbe peut d’ores et déjà être envisagé comme un assemblage de nanomachines simulant un brin d’herbe.”

    Générateur Poïétique
    http://perspective-numerique.net/wakka.php?wiki=GenerateurPoietique

  3. … par ailleurs d’accord avec la suggestion de ToTo: « faire un article sur cette capacité extraordinaire (qu’ils partagent avec les japonais ?) à mélanger science (?), technique et mythologie/positivisme »

  4. Toto, il me semble pour ma part que nombre de nos articles (comme cette série ci) n’évoquent rien d’autre que « cette capacité extraordinaire (qu’ils partagent avec les japonais ?) à mélanger science (?), technique et mythologie/positivisme. » ;-).

  5. Oui et non Hubert, mais il me semble que Toto appelle plutôt un article de sociologie des sciences. Cela implique entre autres d’enquêter sur le jeu des acteurs. Rémi le dit lui-même, il considère que mettre en lumière les motivations cachées de celui qui […] défend (telle ou tel idée) ressemble à la pratique condamnable de demander à un locuteur “d’où il parle”.
    Cela dit l’enquête de Rémi me semble un formidable point de départ pour qui voudrait entreprendre ce travail.

  6. #5 : C’est exact, je pencherais pour une approche de type sociologique.
    #4 : Le reproche que je ferais est précisément que cette série d’articles me semble s’inscrire *dans* le mouvement qu’elle décrit, plutôt que d’adopter une position externe nécessaire à une approche sociologique. Dit autrement, je lis dans ces articles une certaine séduction passive par les idées que vous décrivez. J’attendrais plutôt une position plus distanciée, moins prise au jeu.

  7. Bonsoir à tous,
    Pour préciser, ma sympathie va plus vers les idées de Rucker, Schroeder, Grand ou Jones (je suis sûr qu’on reparlera de Jones !) que vers celles de Kurzweil, Minsky et consorts, mais bon, ce n’est pas à moi de juger si mon article véhicule une « séduction passive » ou pas… J’essaie juste de présenter les idées de chacun avec le plus grand respect possible , afin que chacun puisse se faire son idée, mais c’est un exercice toujours difficile…

    Le problème de l’analyse des motivations cachées c’est qu’elle peut être entreprise par tous les côtés d’un débat, et qu’il ne reste plus, après, qu’à analyser les motivations des analystes…

    Je ne doute personnellement pas que nous autres européens, et singulièrement français, ayons la même capacité que les américains (et les japonais) à mélanger science et mythologie, mais comme il s’agit de nos propres présupposés métaphysiques, il nous sont invisibles et nous paraissent comme de simples manifestations du bon sens!
    Mais il s’agit naturellement d’un point de vue purement personnel et subjectif, et libre à tous d’analyser les motivations qui m’ont poussé à l’adopter ! 😉

  8. Une telle étude sociologique sur les américains permettrait peut-être de cerner pourquoi de ce côté de l’Atlantique, à 99% on justifie le développement technologique par la recherche de « compétitivité » point barre, pourquoi les grosses annonces telles celles du dernier congrès de l’INRS : « de l’interaction à la fusion entre l’humain et la technologie » ( http://tinyurl.com/3lwfl5 ) semblent racoleuses, comment aussi beaucoup d’idées sont étouffées… Bref, en regardant les autres, on peut apprendre à se connaître soi-même, et tu y as déjà beaucoup contribué. Merci.

  9. natura facit saltum

    il n’y a pas de continuité entre l’hélice et le réacteur, entre la machine à vapeur et le moteur à essence, entre la bougie et l’ampoule électrique, entre le boulier et l’ordinateur, entre le singe et l’homme, de même entre l’homme et …….

  10. « fin de l’histoire du socle de charrue » : J’ai trouvé le socle bien singulier.

    P.S. désabonnez-moi, maintenant j’ai Internet au bureau !!!

  11. Sigmund Freud parlait du language onirique des mythes. C’est peut être ça que l’on appelle le rêve américain ? passer du rêve au mythe puis du mythe à la réalité.

  12. #9 : Tout à fait, je suis sidéré par ce genre de sous-titre pour une conférence. Preuve que je suis bien un chercheur français 😉

    Et d’ailleurs, on peut bien entendu autant s’interroger sur les motivations et représentations des ingénieurs et chercheurs de ce côté-ci de l’Atlantique (cf message #8).

    #8 : Je ne souscris toutefois pas complètement à la dernière partie de votre message, ou alors nous ne parlons pas de mythologie exactement de la même manière. Je dirais (bêtement et rapidement car je ne suis pas sociologue) qu’il me paraît relativement plus fréquent dans la littérature scientifique américaine/japonaise d’observer un mélange direct de technologie et de « science-fiction ». Voir les délires du MIT ou de la Darpa quand ils présentent des projets de recherche qui, sur le fond, n’ont rien d’original par rapport à des projets européens du même domaine (et vice-versa, d’ailleurs).

    Du côté européen/français, il me semble qu’on est plus dans un idéal de rationalité. J’ajoute immédiatement que c’est probablement là qu’est le mythe : l’idée qu’une approche complètement factuelle, raisonnée, cartésienne et dénuée d’imaginaire est possible.

    Pour participer de temps à autres à des évaluations de projets ou d’articles, il est notable que les européens justifient leur recherche par des arguments extrêmement concrets (emploi, déblocage d’un « verrou technologique », retour sur investissement, compétitivité) quand nos amis américains/japonais décrivent une nouvelle société idéale grâce aux applications de leurs recherches. Alors que, dans le fond, tous produiront des résultats peu ou prou équivalents.

    #13 : L’emploi du mythe peut se justifier et on l’observe bien dans le « mythe scientifique » que Freud élabore pour la horde primitive. Toutefois, on est dans le champ d’une discipline (assez éloignée de l’informatique) qui nécessite probablement ce genre de détour.

  13. Une série d’articles passionnants.
    Avec tous ces bouleversements annoncés – transhumanité,Singularité,quantronique,etc…- il est souhaitable et sans doute nécessaire que le débat sur les conséquences sociales et économiques de l’Intelligence artificielle soit riche et …..médiatisé !
    A moins que l’on ne préfére laissé les militaires décider de ce qui sera souhaitable (!) pour nos enfants.
    Emparons nous donc,comme le fait InternetActu et ces partenaires de ces débats prospectifs.Que sera une économie orchestrée par
    une Singularité ? qui va gagné dans la course à la Singularité ? Il est certainement plus logique d’anticiper des phénomènes technologiques que de prévoirla météo à 1 semaine.C’est même un des atouts du capitalisme.
    Pour sur,ça donne des frissons et en tout état de cause que va devenir l’Ontologie de papa (?)

  14. #14: « tous produiront des résultats peu ou prou équivalents ».
    C’est bien là qu’est le côté vertigineux, il semble qu’il y ait une logique scientifique et instrumentale qui se développe de manière implacable (loi de Moore, etc.) quelles que soient les représentations que nous portions sur elle et les finalités que nous poursuivons…

    La Singularité pourrait être ainsi vue comme le moment où ce processus sur lequel nous n’avons aucune prise révèlerait lui-même sa finallité.
    Ce jour là, ce serait comme je l’ai écrit plus haut (c’est un pari) un gigantesque retournement à 360° autour de nous-mêmes qui finalement laisserait l’Univers inchangé, y-compris les rasoirs Gillette 😉

  15. ANTHROPO ET SINGULARITEES
    Donner un avis aux antipodes de vos lois scientifiques dures,ce sera mon chemin,encore a deffricher et de fait tres peu communique car mes recherches internationales deviennent complexes^:
    EX :passer du regard MACRO au regard MICRO
    ANTHROPO DE LA CHINE,ANTHROPO DE MADA
    EUGENE CHERCHEUR INDEPENDANT

  16. J’ai trouvé votre analyse sociologique de la singularité très pertinente : “guilde” contemporaine, celle des chercheurs impliqués dans le domaine des TICs
    et votre reprise au delà du mythe très constructive.
    bravo et merci pour cette analyse.

    ps : il est remarquable que les « chercheurs » en IA mettent un signe égal entre puissance de calcul et intellignence, c’est tout simplement stupide 🙂

  17. Merci pour ce dossier béton ! car il y a peu de littérature française sur ce thème. A ce propos, je vous recommande un livre (en français) qui en parle et voit même au-delà de la Singularité Technologique , concernant l’évolution humaine : “Idée” de Zosj Aabram (disponible sur http://www.aabram.com, ou fnac.com). L’auteur ne voit pas 1 Singularité, mais Cinq, la prochaine étant la 3ème. La théorie est romancée mais elle interpellera les contradicteurs de cette théorie, et enchantera ses adeptes

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *