Anders Sandberg : Concevoir des superintelligences collectives

Quel est l’avenir de l’intelligence humaine ? Pourra-t-on augmenter nos capacités mentales et jusqu’où ? Qu’est-ce qui pourrait détruire l’humanité ? Comment penser rationnellement ? Voilà le genre de questions dont on débat à l’ Institut pour le futur de l’humanité, produit d’un partenariat entre l’école James Martin du 21e siècle et la faculté de philosophie d’Oxford, dont Anders Sandberg est, avec Nick Bostrom (fameux pour son « argument de la simulation »), l’un des principaux chercheurs, en compagnie d’autres penseurs futuristes comme Robin Hanson.

Bien connu des milieux dits « transhumanistes« , Anders Sandberg a été le créateur d’un des premiers sites sur le sujet, et probablement le plus complet. C’est dire s’il n’a pas froid aux yeux quand il s’agit de spéculer sur le futur, et notamment sur l’amélioration de l’intelligence, une de ses spécialités.

anderssandberg
Image : Anders Sandberg dans les studios de la BBC.

Pourtant, il a ces derniers temps quelque peu déserté implants, smart drugs et autres cerveaux téléchargés pour s’intéresser de près à une technologie bien plus contemporaine, celle de l’intelligence collective, qui, par bien des côtés, apparaît comme une préfiguration des « superintelligences » artificielles ou humaines rêvées par les transhumanistes.

Toutefois, cet intérêt pour un aspect plus « social » de l’amélioration cognitive ne lui a pas fait perdre ses habitudes issues des sciences dures (il est diplômé en neuroscience computationnelle), ce qui fait de lui, comme il l’a rappelé dans une conférence donnée en septembre 2009 à Ars Electronica (vidéo .mp4), « le seul gars à utiliser régulièrement des statistiques dans un département de philosophie ». Son travail sur le sujet consiste donc souvent à faire tourner des simulations numériques et informatiques afin de comprendre les mécanismes de l’intelligence collective et les variables optimisant son fonctionnement. Ce genre d’exercices lui permet de donner des réponses mesurables à diverses questions. Par exemple pourquoi la qualité des articles de la Wikipedia augmente-t-elle ? Que se passe-t-il si les intervenants sur un article ont une fausse idée de leur compétence ? etc. Ces simulations permettent de révéler l’importance de certains paramètres, par exemple l’importance du nombre de participants d’un groupe dans l’augmentation de son intelligence globale. Et cela ne concerne pas que les systèmes en ligne, mais permet de repenser l’évolution de nos civilisations. Pourquoi, par exemple, les Tasmaniens ont-ils perdu un certain nombre de connaissances comme la fabrication des outils en os, diverses techniques de pêche, etc. ? Cela pourrait s’expliquer en terme de « densité du nuage », explique-t-il, toujours dans sa conférence. Utilisant un de ses modèles, Sandberg montre ainsi que dans un petit groupe de 30 personnes, une technologie ne sera connue que par un encore plus petit nombre d’experts, qui ira en diminuant avec le décès des plus vieux, aboutissant à une perte des connaissances. Lorsqu’on fait une simulation avec 300 agents, au contraire, la technologie tend à se répandre et à rester dans le groupe. Selon lui, il se pourrait bien que la révolution néolithique soit due à des circonstances favorisant la densité de population, et donc le maintien d’un certain nombre de connaissances, d’idées ou de valeurs.

Autre sujet d’intérêt, les blogs. Toujours en lançant une simulation, on voit, affirme-t-il, que les blogs constituent un système de filtrage optimisé. Sachant que les lecteurs possèdent en général plusieurs centres d’intérêt, mais disposent d’un temps limité de consultation, ils doivent donc choisir entre les différentes ressources disponibles, répercutant éventuellement sur leur blog (qui concerne rarement un seul et unique sujet) les informations qui les ont intéressés. Au final, on assiste à un processus darwinien d’autoorganisation capable de rediriger les informations de façon très ciblée vers les gens concernés.

Anders Sandberg présentera ses travaux à la seconde édition de Lift France les 5-7 juillet 2010. Dans l’attente, j’ai pu me glisser dans la peau d’un avatar et assister à une conférence « virtuelle » sur TeleXLR8 (vidéo), et j’ai pu par la suite l’interroger sur les sujets variés concernant les techniques d’amélioration du mental.


Vidéo : La présentation d’Anders Sandberg à la conférence virtuelle TeleXLR8

InternetActu.net : Il y a quelques années, vous affirmiez que les seuls « nootropiques » efficaces étaient la caféine et le sucre blanc. Y-a-t-il eu des progrès depuis ?

Anders Sandberg : Je pense qu’il est encore difficile de battre ces produits en termes de sécurité, de légalité, de connaissance des effets secondaires et de facilité d’utilisation. Mais je crois que certains stimulants cognitifs, comme le Modafinil, s’en rapprochent aujourd’hui.

InternetActu.net : Et que penser des produits naturels comme la l-théanine ?

Anders Sandberg : Cette molécule ressemble au glutamate et se montre capable de traverser la barrière existant entre le flux sanguin et le cerveau, donc j’imagine bien qu’elle puisse avoir de l’effet. Mais son rôle n’est pas très précis. C’est d’ailleurs un problème existant actuellement avec la plupart des stimulants : ils agissent sur beaucoup de choses, même si on ne cherche qu’une stimulation de la pensée.

InternetActu.net : Peut-on vraiment parler d' »amélioration cognitive » d’ailleurs avec des produits de ce type ? Est-il possible d’optimiser l’ensemble du cerveau, ou ne peut-on améliorer une fonction qu’en en inhibant ou en supprimant une autre, comme le pense par exemple Allan Snyder ?

Anders Sandberg : La plupart des améliorations impliquent un compromis. Concentrer son attention permet de mieux effectuer certaines formes de travail, mais il peut devenir difficile de conduire correctement par exemple. Au contraire, élargir son attention peut s’avérer excellent pour comprendre un contexte, mais mauvais pour faire une seule chose à la fois. Savoir quel produit utiliser pour quelle tâche est une compétence importante.

Mais il y a aussi des facultés qui entrent en jeu dans toutes nos fonctions mentales. Une plus grande vitesse de réflexion ou une bonne mémoire de travail me semblent être des améliorations avantageuses sans impliquer forcément de contrecoups.

InternetActu.net : Certains économistes comportementaux comme Kahneman opposent le système 1 (émotionnel, intuitif, rapide) et le système 2 (rationnel, verbal, linéaire). Cela veut-il dire qu’il existe une méthode pour améliorer le système 1, et une autre pour le système 2 ?

Anders Sandberg : La plupart des débats sur les améliorations cognitives se concentrent sur des facultés – mémoire attention, réflexion – que nous associons spontanément au « système 2 ». Mais elles font en fait tout autant partie du système 1. On peut produire différents effets. Les betâ-bloquants nous calment et changent nos modes de perception et notre façon de nous souvenir : on pourrait les considérer comme des « stimulants du système 1″. Un régulateur de l’humeur ne nous rendra pas plus intelligents, mais nous fera travailler différemment. Et il y a peut-être un grand potentiel à chercher à rendre nos réponses émotionnelles plus intelligentes : j »ai d’ailleurs personnellement écrit sur la « neuroamélioration » des relations de couple (.pdf). Les gens qui prennent du MDMA (l’ectasy) pensent souvent que cela leur améliore leur empathie… mais dans ce cas précis, je ne suis pas sûr que ce soit vrai.

InternetActu.net : Lors de votre conférence virtuelle, vous avez dit que se forcer à sourire, voire en plaçant un stylo horizontalement dans sa bouche, pouvait contribuer efficacement à améliorer l’humeur. Y-a-t-il d’autres postures, d’autres attitudes susceptibles de transformer notre mental ?

Anders Sandberg : J’en suis convaincu. L’un de mes exemples favoris est la respiration profonde. Respirer lentement possède un effet calmant, partiellement parce que cela réduit la pression sanguine (le cœur n’est plus pressé par les poumons) mais aussi parce que cela réduit l’activité de l’amygdale. On a peu effectué de recherches là dessus, mais il y a probablement de bonnes idées dans la littérature des arts martiaux ou du mysticisme qu’on pourrait perfectionner.

InternetActu.net : Il me semble que le principal défi de notre monde complexe est la capacité à réagir aux cygnes noirs, aux nouvelles situations qu’il est impossible de prédire de quelque manière. Un individu peut-il réagir plus facilement à ce genre d’évènements ?

Anders Sandberg : On peut gérer la surprise de bien des manières. Parfois, il vaut mieux une réaction rapide qu’une autre, optimale, mais plus lente. De nombreux stimulants nous font réagir aux nouvelles informations en nous permettant d’effectuer rapidement des actions précédemment apprises, et c’est sans doute la meilleure réponse à donner face à l’attaque inattendue d’un prédateur. Mais souvent, nous avons besoin de créativité et de flexibilité pour gérer les cygnes noirs, et l’adrénaline crée l’effet opposé. Dans ce cas, il faudrait choisir une amélioration cognitive susceptible d’inhiber les réponses classiques de fuite ou de combat. Je suis intrigué par une recherche montrant que le Modafinil accroit l’appréciation de l’humour chez les personnes privées de sommeil (contrairement aux amphétamines). C’est le signe que leur ouverture d’esprit est plus large et qu’ils ont conservé une certaine flexibilité cognitive.

InternetActu.net : Qu’appelez-vous un « exoself » ?

Anders Sandberg : J’appelle ainsi les systèmes qui se lient à notre moi et collaborent avec lui, élargissant notre esprit et notre corps. Cela comprend nos vêtements, nos lunettes, nos téléphones portables, notre présence en ligne et bien d’autres choses.

InternetActu.net : Un tel « exoself » changera-t-il ma conscience d’être moi, ou seulement mes processus mentaux ?

Anders Sandberg : Oui, il est très facile, en utilisant des miroirs, de la téléprésence ou des faux membres de changer notre perception du corps. Et comme dit le proverbe, l’habit fait le moine. En changeant notre exoself, nous nous trouvons nous aussi transformés .

Certaines parties de l’exoself peuvent être partagées, comme un blog collaboratif, ou une base de données partagée par des agents logiciels. Les parties externes de notre exoself se fondent doucement dans le collectif : nos identités Facebook n’ont essentiellement de signification que par les liens qui les relient aux autres.

InternetActu.net : Et cela peut évoluer, comme Kevin Kelly l’envisage, en un superorganisme ?

Anders Sandberg : Je pense que c’est le cas. Nous cohabitons déjà aujourd’hui avec différents superorganismes, qui ont la forme d’organisations de sociétés commerciales ou de Nations, mais aussi de systèmes autorégulés comme la Wikipédia.

InternetActu.net : Justement, vous faites une différence entre les formes modernes d’intelligence collective et la « délibération », comme celle d’un jury lors d’un procès…

Anders Sandberg : La délibération classique se déroule sans médiation technologique. Au mieux, elle est retranscrite par un scribe ou un secrétaire. Avec une médiation technologique, on peut l’améliorer : elle peut devenir persistante, s’améliorer avec le temps, se répandre dans des groupes plus larges et être présentée de diverses manières. Twitter vous force à être bref et clair. Lorsqu’on pose des questions via Twitter dans une conférence, il y a moins de longs commentaires ou de divagations et plus de vraies questions. Mais il n’est pas toujours facile de choisir le bon système pour la bonne situation.

Pour éviter les situations de conformisme collectif, courantes dans les anciens modes de délibération, il existe des logiciels, comme par exemple AntiGroupThink , il existe également des processus permettant d’éviter les biais dans une organisation (par exemple en obligeant la police, à mi-chemin d’une enquête, à envisager toutes les raisons pour lesquelles le principal suspect pourrait ne pas être coupable).

InternetActu.net : Comment l’intelligence collective peut elle nous aider à répondre à des grandes questions comme la géoingénierie, la transformation humaine, la biologie synthétique, etc. ?

Anders Sandberg : A longue échéance, l’intelligence collective pourrait nous aider à comprendre que nous sommes tous membres du même groupe. Mais ça prendrait du temps, si jamais cela arrive un jour ! Un autre moyen de résoudre les grands problèmes consiste à trouver un grand nombre de solutions potentielles et à les tester. C’est là que l’intelligence collective est intéressante, car elle permet à différents groupes de se former, d’essayer leurs approches, et de distribuer la connaissance sur ce qui a marché ou pas.

InternetActu.net : Qu’en est-il des futurs progrès : de la faisabilité des implants cybernétiques, des modifications biologiques du cerveau, voire du téléchargement de son contenu dans un ordinateur ?

Anders Sandberg : Tout cela avance, mais comme toujours avec les technologies radicales, il est facile de surestimer la vitesse à laquelle elles vont se développer (nous disposons d’implants cybernétiques simples depuis des décennies), et aussi facile de sous estimer le potentiel apparemment moins radical de technologies comme la blogosphère. Ces neurotechnologies mettront longtemps à murir et possèdent un coût important en terme de prix, d’effort, de risque et de douleur, donc les gens s’en tiendront éloignés assez longtemps. Mais j’espère que des dérivés ou variantes vont apparaître étonnamment vite. Par exemple si un jour on arrive à établir une relation sécurisée entre le système nerveux et un accélérateur d’apprentissage guidé par nanoparticule, il deviendra possible de perfectionner le procédé de manière exclusivement logicielle, qui sera alors en mesure de connaître le développement rapide propre aux technologies internet.

Personnellement, je suspecte qu’environ à la moitié de ce siècle, il existera une ou deux neurotechnologies qui changeront profondément notre société. Je parie d’abord sur l’émulation du cerveau : la capacité de créer des copies logicielles d’un cerveau lancerait une révolution dans les neurosciences et probablement aussi en intelligence artificielle. Et ça permettrait de rendre reproductible le capital humain : l’équivalent d’un « plutonium économique ». Mais je me doute que mes prédictions apparaitront bien ringardes et amusantes dans quelques décennies.

InternetActu.net : Reste évidemment la question de l’acceptation sociale de toutes ces techniques d’amélioration cognitive…

Anders Sandberg : Je pense que la société est fondamentalement pragmatique. S’il existe un outil qui fonctionne, on l’utilisera. Même si auparavant, les gens se lamentent sur son immoralité et ses effets corrosifs sur l’esprit humain…

Parfois, la forme que revêt l’outil est importante pour son acceptation : les remèdes naturels et les compléments alimentaires sont bien plus acceptables que produits pharmaceutiques ou les modifications génétiques – même s’ils ont les mêmes effets et visent les mêmes buts.

Les gens craignent que ces améliorations soient une forme d’égoïsme, ou donnent un trop gros avantage aux petits groupes, … alors qu’ils sont prêts à accepter les améliorations susceptibles d’aider autrui. D’après mes recherches, il m’apparait que l’amélioration cognitive est une situation gagnant-gagnant pour l’individu et la société, mais cela n’est pas encore largement admis. Je pense que lorsque des améliorations s’avèreront vraiment utiles, on devra alors débattre de la manière dont elles pourraient bénéficier de financements publics, afin qu’elles soient accessibles aux plus démunis.

Mais afin de faire des progrès, nous devons explorer et inventer. Une chose qu’on ne peut pas faire en top-down, en prenant les décisions d’en haut. Nous avons besoin de gens capables d’essayer des choses nouvelles et étranges, capables d’écrire des logiciels perturbants – même si leurs résultats ne semblent pas utiles ou sûrs. Nous avons besoin de plus d’exploration et d’expérimentation, pas de moins. Pour être responsable de ce que nous faisons, il nous faut disposer de la liberté de le faire.

Propos recueillis par Rémi Sussan en juin 2010.

LiftFrance10-banner_carreLa prochaine édition de Lift aura lieu à Marseille du 5 au 7 juillet 2010 au Grand Théâtre de la Criée, organisée en partenariat avec la Fing, éditrice d’InternetActu.net. Sur le thème Changer le monde par le web, Anders Sandberg sera l’un des nombreux intervenants de cette édition, aux côtés d’Alma Alma Whitten, directrice technique sécurité et vie privée de Google, de Geoff Mulgan directeur de la Young Foundation, d’Adrian Bowyer, l’inventeur de la RepRap, de l’économiste et philosophe Yann Moulier-Boutang, de Michael Cross du Guardian initiateur de la campagne de libération des données publiques britanniques… parmi de nombreux autres.

Comme à Genève cette année (et les précédentes), à Marseille l’année dernière, Lift est un évènement toujours étonnant.

Prenez vos billets. Venez. Faites venir.

À lire aussi sur internetactu.net

5 commentaires

  1. Cet article nous montre clairement que la société actuelle rechigne à intégrer dans l’éducation, les nouvelles recherches sur la cognition, les émotions et le comportement humain ainsi que les neurosciences. Alors que nous pourrions tous y gagner
    Pour compléter merveilleusement, de mon point de vue cet article: voici des recherches appliquées, encore peu connues, qui montrent l’importance de notre cerveau préfrontal
    – Jacques Fradin avec l’Approche NeuroCongnitiviste :
    http://www.futura-sciences.com/fr/doc/t/medecine-1/d/stress-comprendre-et-gerer-le-stress_855/c3/221/p1/
    http://www.neurocognitivism.fr/asp/l1.asp?doc_id=31

    – Olivier Houdé sur l’apprentissage:
    http://olivier.houde.free.fr/entretien.pdf
    http://olivier.houde.free.fr

  2. merci pour ses ressources, je reste ouverte à communiquer sur nos approches, et associons à l’avenir nos concepts, nos sources, nos ressources pour développer une intelligence collective et collaborative- Coach Consultante

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *