Intervenant dans un débat en ligne du New York Times autour des enjeux de l’IA, Joi Ito (@joi), le directeur du Media Lab du MIT, expliquait que même très bien intentionné, l’usage des technologies peut mal tourner. « La majeure partie de la recherche en IA se concentre sur l’apprentissage profond : des ingénieurs « entraînent » des machines pour augmenter l’intelligence collective de nos gouvernements, de nos marchés et de nos sociétés ». Pour lui, plus que d’intelligence artificielle (IA), on devrait parler d’intelligence étendue (IE) pour évoquer cette forme appelée à devenir dominante de l’IA. Les algorithmes qui façonnent l’IE sont entraînés par des humains et peuvent de ce fait propager les mêmes biais qui ruinent la société, les perpétuant sous couvert de « machines intelligentes », à l’image des biais qui affectent les systèmes de police prédictive. Joi Ito dresse un constat d’échec. En 2003, il pensait qu’un internet ouvert jouerait un rôle significatif pour démocratiser nos sociétés et promouvoir la paix. Mais force est de constater que cela n’a pas suffi.

Pour le directeur du Media Lab, le risque est qu’il se passe la même chose avec le développement de l’Intelligence étendue. « Il est absolument essentiel pour nous de développer un cadre éthique pour nous permettre d’évoluer à l’ère des machines intelligentes ». Nous avons besoin d’une science informatique capable de créer des technologies qui ne soient pas seulement intelligentes, mais aussi socialement responsables.

Devons-nous nous adapter à l’évolution technologique ?

En compagnie du journaliste de Wired, Jeff Howe, Joi Ito vient de publier Whiplash : How to survive our faster future (qu’on pourrait traduire par « Coup de fouet : comment survivre à l’accélération du futur », le site du livre, @whiplashfuture). Un livre dans lequel, nous explique le Boston Globe, les humains doivent apprendre à s’adapter pour s’adapter eux-mêmes à l’évolution technologique. C’est ce que nous avons fait par exemple avec la grammaire cinématographique. Désormais, chacun d’entre nous en connaît le vocabulaire. Nous savons tous décoder un plan rapproché lors d’une scène cruciale. Mais au tout début du cinéma, il n’y a pas si longtemps, nul ne savait comment utiliser des plans pour raconter une histoire. Ils étaient alors des images qui bougeaient plus que des films. Pour comprendre ce qu’il se passait, il nous a fallu inventer un vocabulaire nouveau et nous l’avons parfaitement intégré. Pour Joi Ito, nous commençons à peine à maîtriser les nouvelles formes d’organisation sociales rendues possibles par une puissance informatique sans limites et la communication instantanée en réseau.

Pour aider les gens à comprendre les enjeux des transformations à venir, les deux auteurs établissent 10 principes pour survivre à l’accélération du futur (qui se veulent pareil à la grammaire des plans du cinéma pour décoder les transformations à venir) :

• désobéir plutôt que se conformer ;
• tirer plutôt que pousser (pull over push) ;
• proposer des boussoles plus que des cartes ;
• favoriser l’apprentissage plus que l’éducation ;
• la résilience plutôt que la résistance ;
• le risque plutôt que la sécurité ;
• la pratique plutôt que la théorie ;
• la diversité plus que la capacité ;
• les systèmes plutôt que les objets ;
• l’émergence plutôt que l’autorité.

Ces principes, Joi Ito les abordait déjà en 2012. Ils sont d’ailleurs devenus depuis les principes du Media Lab lui-même (voir les explications qu’il en donnait en 2014).

Des principes pour répondre à notre incapacité à comprendre l’évolution à venir ?

Mais comprendre les évolutions à venir n’est pas si simple. Les plus grands inventeurs eux-mêmes ont très souvent fait preuve d’une grande incapacité à comprendre les implications de leurs innovations. Thomas Edison lui-même pensait que son phonographe servirait surtout aux hommes d’affaires pour dicter leur correspondance et il mit du temps à admettre que son usage ne serait pas celui-ci. C’est Eldridge Johnson qui en réalisa le vrai potentiel en inventant en 1901 l’industrie musicale en faisant signer un premier disque au célèbre ténor Enrico Caruso.

Pour Ito et Howe, l’enjeu dans un monde toujours plus complexe est donc de comprendre ce qu’on ne comprend pas de prime abord. Et ce alors que « nos technologies ont devancé notre capacité, en tant que société, à les comprendre ». Nos outils cognitifs nous laissent mal équipés pour comprendre les implications profondes des avancées technologiques, d’où la nécessité d’avancer des principes plus adaptés parce que l’accélération du futur à tendance « à démolir tout ce que l’on pouvait croire aussi rigide que des règles ». Ces principes permettent d’utiliser, disent-ils en prenant une métaphore certainement trop facile, le « nouveau système d’exploitation du monde »… Un nouvel OS qui n’est pas une nouvelle itération de celui que nous utilisions jusqu’à présent : il tourne sur de nouvelles logiques, fondées notamment sur la loi de Moore qui dit que tout ce qui est numérique devient plus rapide, moins cher et plus petit à un niveau exponentiel, et fondées sur l’internet, c’est-à-dire sur une transformation radicale de nos modes de communication. Pour Howe et Ito, ces changements technologiques induisent qu’il faut désormais prendre en compte : l’asymétrie (c’est-à-dire que les coûts et les bénéfices ne sont plus proportionnels à la taille : les changements viennent désormais des plus petits) ; la complexité (qui dépend de l’hétérogénéité, des réseaux, de l’interdépendance et de l’adaptation ) ; et l’incertitude (qui est la conséquence des facteurs précédents). Le réchauffement climatique par exemple ne signifie pas que toutes les régions vont connaître une augmentation de leurs températures, mais surtout que la plupart vont connaître des événements météorologiques extrêmes. C’est surtout dû au fait que la montée des températures introduit plus de variabilité dans les modèles climatiques, les rendant plus volatiles. Le réchauffement est le début d’une plus grande incertitude météorologique,et par interdépendance, d’une plus grande incertitude sur notre avenir lui-même.

En fait, pour Ito et Howe, contrairement à ce que nous annoncent l’IA et les Big data, l’avenir semble de moins en moins prévisible, il faut donc apprendre à devenir plus agile. C’est ce que Joi Ito applique au Media Lab : dans un monde plus ouvert, plus complexe, plus en réseau, le Media Lab doit devenir toujours plus antidisciplinaire.

Mais pouvons-nous vraiment nous adapter ?

Le livre de Ito et Howe navigue d’un exemple à l’autre pour magnifier sa démonstration. Dans cette ode à l’innovation ouverte, multiple, bienveillante et agile, Ito et Howe subliment toujours notre incroyable adaptation à l’innovation et au progrès. Dans leur conclusion par exemple, ils livrent une véritable ode à l’IA. Pour eux, notre avenir repose sur une forme d’intrication entre l’homme et la machine. Si nous sommes une part de l’intelligence collective, nos machines, qui s’intègrent toujours plus avant dans nos réseaux et sociétés, deviennent une extension de cette intelligence et nous conduisent à ce qu’ils appellent l’intelligence étendue (IE). Un avenir de co-évolution entre humains et machines, où les normes sociales viennent développer l’IA, où la société est mise dans une boucle de rétroaction, comme l’évoque Iyad Rahwan, responsable du groupe des coopérations évolutives au MIT.

Reste que malgré ses côtés stimulants – parce qu’iconoclaste – Whiplash n’arrive pas vraiment à devenir le manuel d’utilisation du XXIe siècle que les auteurs ambitionnent. Le pas de côté qu’ils nous invitent à faire n’est pas à la hauteur de l’évolution cognitive que la complexité inextricable du monde annonce. C’est ce que pointe, mieux que moi, l’écrivain de Fantasy, Richard Scott Bakker dans la longue lecture critique de Whiplash qu’il livre sur son blog. Pour lui, notre compréhension du monde dépendant des invariances de notre environnement. « Plus la technologie transforme nos écologies cognitives, plus nous devrions nous attendre à ce que nos intuitions échouent ». Le pas de côté auquel nous invitent Howe et Ito ne signifie pas pour autant que nous allons renoncer à notre mode de pensée et à nos intuitions propres à notre fonctionnement cognitif. Comprendre la complexité du monde ne signifie pas pour autant par exemple que nous n’allons pas embrasser des solutions inefficaces pour résoudre des problèmes difficiles, comme voter pour des gens qui proposent des solutions simples à des problèmes complexes. En d’autres termes, pour Bakker, la question des problèmes politiques et sociaux auxquels nous devons faire face repose sur un plafond de verre cognitif que l’IA ne suffira pas à déplacer ou élargir. Or, Howe et Ito semblent imaginer un monde où la capacité cognitive humaine semble illimitée et sans contrainte, alors que les êtres humains, individuellement comme collectivement, ne sont peut-être pas capables de s’adapter à toutes les circonstances. Pour le dire autrement, tant que la cognition humaine est ce qu’elle est, les humains, même aidés des machines, sont peut-être incapables de transcender le système. Au final, pour Richard Bakker, ce manuel d’utilisation du XXIe siècle ressemble plutôt à un manuel de suicide de la civilisation, car il n’est pas sûr que les pistes qu’il propose soient capables de dépasser nos limites intrinsèques. Favoriser l’émergence plus que l’autorité n’est pas nécessairement suffisant pour mettre à bas l’autorité.

Pour Ito et Howe, la caractéristique du XXIe siècle est que nous serions passés de systèmes simples à des systèmes complexes, mais pour Scott, c’est oublier que nous sommes l’une des choses les plus compliquées que nous connaissions dans l’univers et que celui-ci n’est pas si simple que cela. Pour lui, ce que décrivent Ito et Howe, c’est que nos outils eux-mêmes se complexifient, comme le pointe, à sa manière, Yuval Harari. La simplicité de nos outils physiques a longtemps limité les dommages que nous pouvions causer à notre environnement, comme la simplicité de nos outils cognitifs a limité les dommages que nous pouvions causer à notre capacité cognitive, explique Scott. « A mesure que la puissance et la complexité de nos outils physiques intensifient les dommages causés à notre environnement physique, la puissance et la complexité de nos outils cognitifs » risquent d’intensifier les dommages à notre « écologie cognitive », estime Scott. Les principes que Ito et Howe veulent faire passer en pertes et profits, comme l’autorité, la conformité, le push, la sécurité… sont des principes dont il n’est pas si simple de se débarrasser. L’agilité et la résilience sont peut-être de bons principes dans un monde incertain, mais ils ne se suffiront pas à eux-mêmes. Cette ode à regarder le monde d’une manière décalée peine finalement à dire ce qu’il en reste. L’ode à de nouveaux principes pour commander le futur ne ramènera pas hélas la simplicité de l’ère du contrôle-commande !

Hubert Guillaud