Pour Vernor Vinge, c’est la création d’une intelligence artificielle supérieure à l’intellect humain qui sera l’avancée technologique qui précipitera la singularité. Dans le numéro d’IEEE Spectrum consacré au sujet, Vernor Vinge revient sur sa prédiction, pour nous montrer les scénarios possibles – scénarios qui ont tous en commun l’idée d’une multiplication des capacités cognitives :

• Le scénario de l’intelligence artificielle, le plus classique : une créature artificielle voit le jour et nous mène vers un avenir inconnu.
• Le scénario de l’intelligence augmentée : grâce à l’explosion des interfaces directes entre le cerveau et la machine, nous devenons capables d’accroitre nos capacités mentales de façon considérable.
• Le scénario biomédical : cette fois, c’est par l’usage des neurosciences et la modification de la structure de notre cerveau que nous accédons à ce stade supérieur.
• Le scénario internet : l’explosion des techniques de communication et d’information crée de fait une intelligence collective.
• Le scénario de « Gaïa numérique » : assez proche du précédent, il s’agit encore de la création d’une entité collective superintelligente, accouchée cette fois-ci par « l’internet des objets », la multiplication décentralisée des outils de traitement de l’information.

On voit bien dans cette énumération, que malgré quelques variations, Vinge s’en tient à une certaine définition de la Singularité. N’importe quel progrès scientifique, même le plus spectaculaire (développement des nanotechnologies, abolition du vieillissement ou de la famine par la biotechnologie, colonisation de l’espace, etc.) ne suffit pas pour produire une singularité. Dans la Singularité, c’est bel et bien la variable « intelligence » qui devient infinie.

Pour Vinge, la Singularité ne se définit donc pas seulement comme une accélération du progrès scientifique et technique, mais comme l’accélération du facteur même qui permet cette accélération. C’est logique. Si nous (ou nos créations) arrivons à augmenter nos facultés cognitives, l’une des premières tâches auxquelles nous nous attèlerons sera de les booster encore plus, et ainsi de suite.

La Singularité : une réflexion d’informaticiens
On voit bien donc que la Singularité est avant tout un « truc d’informaticien ». Ainsi, lorsqu’on consulte le « who’s who » de la Singularité mis à disposition par le IEEE Spectrum, on trouve en grande majorité des roboticiens ou des informaticiens, des philosophes spécialisés dans l’intelligence artificielle, mais un seul biologiste (et encore, travaillant dans la cognition) et un seul physicien, Roger Penrose, expert dans les singularités mathématiques, mais qui s’opposerait plutôt à sa version technologique (il ne croit pas à la faisabilité de l’Intelligence Artificielle). On ne s’étonnera pas donc que la plupart des articles d’IEEE Spectrum se consacrent essentiellement au futur de la robotique et de l’IA. Parmi les personnalités consultées, une seule, Esther Dyson (pourtant une grande prêtresse des TICs) insiste sur une singularité « biologique » plutôt qu’informatique : « La Singularité qui m’intéresse viendra plus de la biologie que des machines. Nous n’allons pas construire des choses. Nous allons les cultiver et les faire pousser, puis elles se développeront par elles-mêmes. »

Sur les cinq scénarios proposés par Vinge, force est de reconnaitre que les « scénarios internet » et « Gaia numérique » sont ceux qui suscitent le moins de passions et de commentaires. Sans doute parce qu’avec eux, la notion de « Singularité » devient moins spectaculaire, plus floue. Vinge lui-même le reconnait : une telle « intelligence collective » pourrait apparaitre aujourd’hui, permettre la multiplication des avancées et des progrès, sans pour autant qu’à aucun moment nous ne nous rendions compte d’une quelconque « transition de phase ». Et une Singularité qu’on ne perçoit pas est elle encore une Singularité ?

La Singularité est forcément spectaculaire
Du coup, la plupart des chercheurs se concentrent sur les scénarios les plus excitants technologiquement, ceux qui impliquent une modification radicale de l’être humain, via une fusion avec la machine pouvant culminer dans le téléchargement de l’esprit sur un autre support, ou la création d’une intelligence artificielle dotée de capacités intellectuelles largement supérieures aux nôtres. Il peut exister bien sûr une multitude d’hybrides entre les deux options.

L’idée de télécharger l’esprit dans un ordinateur peut paraitre folle, mais elle est prise très au sérieux par une bonne partie des singularitariens, incluant des gens comme Ray Kurzweil, Hans Moravec, ou Marvin Minsky. Ce projet nous procurerait des avantages évidents (l’immortalité) et les efforts pour le réaliser seront essentiellement quantitatifs : autrement dit, il n’est pas nécessaire de comprendre l’esprit humain pour procéder à un « téléchargement », pas plus qu’il n’est nécessaire de connaitre l’harmonie et le solfège pour télécharger un morceau de Mozart sur un lecteur Mp3. Ce qui importe donc pour le partisan du téléchargement, c’est de développer des interfaces perfectionnées reliant le cerveau et la machine, des outils très élaborés d’examen des neurones ainsi que des ordinateurs très puissants pour recréer un cerveau, en milieu virtuel ou dans un corps robotique.

Quelle puissance ? John Horgan nous explique qu’il existe environ dix billiards de connexions au sein du cerveau humain. Un billiard s’écrit sous la forme d’un 1 suivi de quinze zéros. Un nombre astronomique, mais, nous rappelle encore Hogan, le Blue Gene/P d’IBM peut être configuré pour effectuer 3 billiards d’instructions à la seconde, et si la loi de Moore continue sa progression, on devrait effectivement atteindre les 10 billiards d’opérations par seconde nécessaires à la simulation du cerveau pendant la prochaine décennie.

Mais la puissance de calcul n’est pas tout. Il faudrait aussi être capable d’enregistrer l’ensemble de la configuration cérébrale, neurone par neurone. Cela aussi implique un équipement futuriste. Par exemple des nanorobots capables de cartographier le cerveau… Et bien sûr il faut être certain que l’ensemble de la personnalité est bien dans la carte des connexions synaptiques, et pas, par exemple, dans les rythmes d’activation synchronisés adoptés par les différents groupes de neurones, rythmes qui échapperaient à un enregistrement « statique » effectué sur le cerveau congelé d’une personne décédée (l’une des méthodes les plus couramment envisagées pour procéder à un « téléchargement »).

Le chercheur en intelligence artificielle, lui, ne peut se contenter de disposer de la puissance. Il doit impérativement développer une compréhension de l’objet de son travail et posséder une méthodologie précise pour permettre aux machines d’accéder à l’intelligence, voire à la conscience.

Vers une intelligence totalement artificielle
Pour les singularitariens les plus hardcore, à l’instar de Michael Anissimov, le seul scénario véritablement crédible est le premier, celui de la création d’une intelligence artificielle totalement synthétique : « le cerveau humain est enchainé à son héritage matériel et logiciel (…) entrainant des problèmes de compatibilité ». Autrement dit, notre esprit sera pour toujours limité par une structure cérébrale dont les éléments de base remontent aux premiers poissons, au contraire d’une véritable intelligence artificielle, conçue d’emblée pour une capacité intellectuelle maximum. Voilà qui élimine le scénario « biomédical » et même les esprits « téléchargés » qui vivront peut être éternellement dans un paradis digital, auront peu de chances de déclencher une Singularité (mais qui s’intéresserait à la Singularité et à l’accroissement de l’intelligence si on a déjà l’immortalité, diront les esprits cyniques). Leur principale possibilité d’amélioration étant « d’accélérer leur vitesse d’horloge » ce qui leur permettrait de penser plus vite, mais toujours avec une architecture obsolète. A moins bien sûr que les esprits téléchargés n’acceptent de se modifier jusqu’à devenir méconnaissables, abandonnant toute notion d’identité et de personnalité pour devenir des « infomorphes« , pures entités logicielles optimisées pour l’échange d’information et capables de fonctionner de manière « distribuée » en fusionnant avec leurs congénères ou au contraire se divisant selon les nécessités du moment… Mais à moins d’une évolution radicale en ce sens, certains pensent qu’il est préférable d’élaborer d’emblée une intelligence supérieure, qui n’est pas contrainte par des milliards d’années d’évolution au fond des eaux, dans les forêts ou la savane.

Ainsi, selon Assinisov : « Il existe des éléments nous permettant de penser qu’une conception algorithmique de l’intelligence artificielle peut s’avérer largement non biologique, c’est-à-dire basée sur les principes gouvernant l’intelligence en général plutôt que sur une inspiration biologique. Dans ce cas, la conception d’une intelligence artificielle viable pourrait s’avérer considérablement plus simple que celle d’un cerveau humain. »

Cette idée n’est pas neuve, elle traverse les sciences cognitives depuis ses débuts, à la fin des années 50. Il y a toujours eu tension entre les partisans d’une « IA symbolique » qui traite l’esprit comme une entité indépendante de son substrat biologique, même si elle en émerge, et ceux qui considèrent au contraire que l’approche biologique est indispensable. Marvin Minsky confiait ainsi au magazine Discover en janvier 2007 : « Je ne considère pas les neurosciences comme très sérieuses (…). Quand on discute avec les neuroscientifiques, ils semblent manquer de sophistication. Ils sont diplômés en biologie, connaissent tout sur les canaux calcium et potassium, mais ils n’ont pas de concepts psychologiques avancés. »

Une opinion à mettre en face de celle d’un Steve Grand, qui, s’il n’a pas les qualifications universitaires d’un Minsky, n’en est pas moins le père d’une des applications les plus brillantes de « vie artificielle », le jeu « Creatures » : « Mon espoir pour l’IA vient des neurosciences. La seule machine intelligente fonctionnelle que nous connaissons est le cerveau, et il me semble que tout ce que nous croyons comprendre à son sujet est horriblement faux. »

Comment créer un dieu ?
On a souvent séparé l’IA faible, qui s’occupe de reproduire certains phénomènes mentaux, de l’IA forte, qui vise à reproduire l’intelligence humaine dans sa totalité. On s’en doute, les singularitariens s’intéressent à l’IA forte. Ou, plus exactement, à l’IA gonflée aux stéroïdes. Car il n’est pas question pour eux de reproduire certaines fonctionnalités limitées de l’esprit humain, comme la reconnaissance des caractères ou la traduction. Même le fameux « test de Turing », ou la création d’un robot conscient, font figure d’étapes préliminaires : le but est de créer un dieu artificiel, pas moins. Au Singularity Institute, fondé par Eliezer Yudkowsky, on ne doute pas de la faisabilité, ni même de l’inévitabilité d’un tel projet : ses membres sont juste un peu inquiets de la tournure que pourrait prendre ces évènements. Et si ce dieu, plus proche de Moloch que de Jésus, décidait purement et simplement de mettre fin à notre espèce ? Pour éviter une telle « Singularité négative », explique Yudkowsky, il faut s’assurer que l’IA qui verra le jour sera « amicale ».

La théorie de « l’amitié » développée par Yudkowsky et ses associés est à ne pas confondre avec l’idée des trois lois de la robotique d’Isaac Asimov. En effet, le propre d’une telle « Intelligence supérieure » est la capacité de se reprogrammer afin d’atteindre ses buts. Il existe des moyens de contourner les trois lois de la robotique, et du reste, Asimov lui-même a bâti une bonne partie de son oeuvre romanesque sur les contradictions et les détournements de ces trois lois. Non, l’amitié n’est pas un système de règles, mais une tendance innée à la racine même de l’IA, ce qui fait que lorsqu’elle se modifiera elle-même, elle cherchera de son plein gré à maximiser sa bienveillance. Pour reprendre une fameuse phrase de Yudkowsky : « Gandhi ne veut pas commettre de meurtre, et ne souhaite pas s’automodifier afin de pouvoir commettre un meurtre ».