Dans quel monde vivront nos successeurs, qu’il s’agisse d’humains « augmentés » ou de pures intelligences artificielles ? Peut-être dans un monde rendu lui aussi « intelligent », capable de se conformer au moindre de nos désirs.

Deux voies pour accomplir ce but ultime, sont présentées dans le numéro spécial de IEEE Spectrum. La première a pour champion Ray Kurzweil, qu’on ne présente plus, et pour qui l’avenir consiste essentiellement à construire une réalité virtuelle ultra-sophistiquée dans laquelle nous pourrions nous installer définitivement.

L’autre idée est de rendre la matière elle-même plus « intelligente ». C’est la voie choisie par Neil Gershenfeld, professeur au MIT, où il dirige le Centre pour les bits et les atomes. Gershenfeld est connu notamment pour la création des Fablabs, ces micro-usines peu onéreuses permettant à tout un chacun, particulièrement dans les contrées pauvres, de manufacturer les objets qu’il souhaite. Mais son ambition va bien plus loin encore. Gershenfeld cherche à éliminer la barrière entre le monde de la physique et celui des ordinateurs : il veut rendre le processus de computation omniprésent.
Toujours donc l’intelligence avant toute chose, dans la droite lignée de la pensée singularitarienne Vingienne…

Mais l’attitude de Gershenfeld est particulièrement intéressante, car elle indique un emploi particulièrement positif des mythes issus de la Singularité. Bien, que l’homme soit habité par des visions très lyriques et singularitariennes du futur du monde physique intelligent, l’essentiel de son travail consiste à rendre ce genre d’idées fécondes dans notre environnement actuel, notamment à l’aide de technologies en direction des pays en voie de développement, comme le Fablab.

Les conceptions de Kurzweil et Gershenfeld sont-elles vraiment opposées ?
Dans le « futur de Gershenfeld, les ordinateurs disparaissent et deviennent une part de la réalité ». Dans le futur de Kurzweil, au contraire, « la réalité disparait et devient une partie des ordinateurs ».

Si apparemment les deux buts semblent contradictoires, ils se complèteraient plutôt : « comme l’explique Neil, nous allons intégrer à la réalité physique une computation, distribuée, autoorganisée et ubiquitaire. Et dans le même temps nous utiliserons ces ressources massives et en constante expansion pour créer des environnements de réalité virtuelle complètement immersifs et de plus en plus réalistes, qui entreront en compétition avec la réalité réelle et finalement la remplaceront », explique Kurzweil.
Et de son côté Gershenfeld renchérit : « que les ordinateurs fusionnent avec la réalité ou que la réalité fusionne avec les ordinateurs, le résultat est le même : la frontière entre les bits et les atomes disparait. C’est comme si Ray était parti vers l’est et moi vers l’ouest, pour arriver au même point, ce qui est exactement la définition d’une Singularité ».

Cette notion d’univers intelligent, poussée à son maximum, aboutit au concept de Computronium, très prisé par certains singularitariens extrémistes. On va là plus loin que truffer la matière de dispositifs intelligents : on la reconfigure pour la rendre « intelligente », capable d’effectuer des calculs au niveau moléculaire. Avec du Computronium, la puissance de calcul disponible deviendrait quasiment infinie, tout en conciliant les idées de Gershenfeld et Kurzweil.

Reste que par certains côtés le Computronium est une idée dangereuse. En effet, pour transformer l’ensemble de notre environnement en un cosmos sur mesure, nous allons avoir besoin de matière première : le Computronium pourrait être obtenu en « désassemblant » la matière « stupide » originelle, pour la convertir en son équivalent intelligent. Autrement dit, pour créer notre paradis numérique, il faudra peut-être détruire un petit peu le monde. Mais bon, il ne faut pas exagérer : pour Ray Kurzweil, convertir 1/20 du système solaire en Computronium devrait suffire aux besoins des transhumains. Nous voilà rassurés.

Reste à savoir si une super intelligence artificielle s’arrêtera-t-elle là ? Quelle serait la « nourriture » d’une telle entité ? L’information, bien évidemment. Notre IA, si elle s’avère insuffisamment « amicale » (ou si elle est mue par un sens très personnel de l’amitié), pourrait bien transformer toute matière (y compris nous même) en Computronium pour maximiser ses capacités de calcul. Le Computronium ne serait alors qu’une version « intelligente » de la « gelée grise« , mais pas nécessairement plus optimiste. Pour Nick Bostrom, qui dirige à Oxford l’Institut pour le futur de l’humanité et qui s’est spécialisé dans les « risques existentiels » qui la menacent, une telle situation pourrait bien se produire comme un stupide accident, en « élevant un sous-but au statut de superbut. Par exemple en demandant [à l’intelligence artificielle] de résoudre un problème de mathématiques, et que pour cela, elle convertisse l’ensemble du système solaire en une gigantesque machine à calculer, tuant par la même la personne qui a posé la question ».

Créer une réalité « plus vraie que la vraie », est–ce vraiment envisageable ?
L’écrivain et mathématicien Rudy Rucker a consacré un roman entier, Postsingular, à critiquer l’idée selon laquelle la nature pourrait être remplacée par une version 2.0, plus intelligente.

Rucker base son argumentation sur les théories de Stephen Wolfram, le milliardaire créateur du logiciel de calcul Mathematica, également scientifique de haut niveau. Pour résumer, disons que d’après Wolfram, l’univers est déjà le produit d’un très long « calcul » et qu’il présente déjà la plus grande efficience computationnelle possible : une sorte de version informatique du « meilleur des mondes possibles » du philosophe Leibniz. Pour bâtir une réalité virtuelle plus élaborée que l’originelle, il faudrait être capable d’écrire une version optimisée du « code » à l’origine des phénomènes naturels. Mais pour Rucker, cela est impossible. Pour employer le jargon informatique, le code de la réalité est « incompressible ».

« Pour simuler un ensemble de particules pendant une certaine période de temps, il faudrait créer un système utilisant le même nombre de particules pendant à peu près la même période de temps. Les phénomènes naturels n’acceptent pas les raccourcis ». Cela signifie que « si vous construisez un univers simulé plus petit que le monde physique, la simulation devra arrondir les angles et faire des compromis, comme utiliser des textures de bois bitmap et des arrière-plans répétitifs comme dans les dessins animés. Les petits mondes simulés sont condamnés à ressembler à des environnements de type Las Vegas, Dysneyland ou Second Life. »

Pour simplifier, selon Rucker, l’univers actuel est déjà composé de Computronium, et de la meilleure qualité possible. « Si vous voulez transformer un brin d’herbe en un ensemble de nanomachines simulant un brin d’herbe, pourquoi se fatiguer à pulvériser le brin d’herbe ? Tout objet peut être considéré comme un type de computation quantique. Le brin d’herbe peut d’ores et déjà être envisagé comme un assemblage de nanomachines simulant un brin d’herbe. »