L’avenir de l’intelligence artificielle est-il… inévitable ? (1/2) : l’intelligence, du service à l’oppression

Sur la scène des conférences USI, Kevin Kelly (@kevin2kelly) apparaît fringuant. « Nous vivons la meilleure époque que l’humanité ait jamais connue », estime le fondateur de Wired souriant derrière sa sévère figure de pasteur mormon. Avant d’entamer, tel un professeur, son petit cours de prospective, nous promettant de nous expliquer tout ce dont nous avons besoin pour affronter les 30 prochaines années. Pas sûr qu’il y parvienne vraiment en déroulant, en conférencier un peu blasé, une grande synthèse des propos qu’on lui entend tenir depuis quelques années, et notamment dans son dernier livre, The Inevitable.

L’intelligence ? Pas si simple !

Pour comprendre ce qui nous attend, il faut intégrer 3 grandes tendances. La première, c’est la « cognitisation » du monde, qui consiste à apporter de l’intelligence à tout ce qu’on créé (« Tout ce qu’autrefois nous avons électrifié, nous allons désormais le cognitiser », expliquait-il dès 2014). Le problème est que nous avons bien du mal à définir l’intelligence, s’amuse Kelly. On pense qu’elle possède une seule dimension, et nous conduit, selon une courbe linéaire de l’intelligence de la souris à celle du génie. Et on place l’intelligence artificielle trop facilement tout au bout de ce spectre. Or ce n’est pas ainsi qu’il faudrait voir les choses, rappelle-t-il (notre collègue Rémi Sussan avait d’ailleurs pointé récemment les critiques de Kevin Kelly sur la Singularité). Nous devrions plutôt parler de « débrouillardise artificielle » que d’intelligence artificielle. Nos GPS, nos calculatrices, nos moteurs de recherche sont plus débrouillards que nous. « Google est meilleur dans sa mémoire à long terme et ce d’autant plus qu’il a mémorisé chaque mot des 60 milliards de pages web qu’il nous présente, soit bien plus que nous saurions faire… »

Kevin Kelly par USI
Image : Kevin Kelly s’envole sur la scène d’USI 2017.

L’intelligence a plusieurs dimensions. Elle ressemble à un assemblage multiple, une symphonie musicale de plusieurs instruments, différents d’une personne l’autre, d’une espèce l’autre. Même les animaux ont un « portefeuille d’intelligences », avec parfois des capacités plus élevées que nous, même si dans l’ensemble leurs formes d’intelligences sont plus petites que les nôtres. Reconnaissons à Kevin Kelly de ne pas céder à la simplification ou au réductionnisme. Pour Kevin Kelly, l’intelligence artificielle ne consiste pas tant à créer une intelligence au-delà des autres formes d’intelligence, mais des intelligences, différentes manières de penser. Les intelligences artificielles vont nous aider à faire des choses, sans qu’elles ressemblent à l’intelligence des humains. L’IA consiste plutôt à inventer des esprits différents. Les voitures autonomes ne conduiront pas comme les humains. Elles conduiront mieux que nous, notamment car elles sauront ne pas être distraites. Pour Kevin Kelly, les intelligences artificielles vont nous aider à penser différemment, à sortir des sentiers battus. Certaines sauront optimiser la perception, d’autres auront une grande attention à ce qui les entoure, d’autres seront très fortes en raisonnement symbolique… Pour Kelly, l’enjeu pour nous sera surtout d’apprendre à vivre avec ces différentes intelligences, de trouver entre elles et nous des complémentarités, du fait de leurs différences entre nos capacités et les leurs.

La puissance artificielle est le second levier de cette transformation qui arrive. Avant la révolution industrielle, la puissance reposait sur la force musculaire. Avec l’avènement de l’électricité, c’est la puissance électrique qui prend le relais. Elle est devenue une marchandise, une commodité, qui a transformé le monde en devenant toujours plus accessible. L’électricité nous a permis de construire le monde, les routes, les immeubles, les gratte-ciels, les échanges… « La puissance artificielle va transformer l’intelligence en commodité ». Le moteur a permis de créer la voiture, équivalente à la force musculaire de 250 chevaux. Demain, nous allons y ajouter 250 esprits. « L’intelligence va devenir un service, comme le montre déjà le cloud computing. Demain, nous pourrons acheter de l’IA à la demande, comme aujourd’hui on tourne un bouton pour avoir la lumière. » Avec la révolution industrielle, les entreprises ont réinventé le monde en lui ajoutant de la force électrique, avec la révolution de l’IA, les startups vont réinventer le monde industriel en lui ajoutant de l’intelligence, assène le technogourou.

Pour Kevin Kelly, ce monde qui s’annonce sera plein de surprises. On va être surpris par le lien émotionnel qu’on va créer avec les robots. L’écran nous regarde autant qu’on le regarde : les logiciels vont analyser notre étant émotionnel, et les logiciels décoderont et réagiront à nos émotions. Mieux, ils éprouveront des émotions eux-mêmes, comme le montrent les recherches sur ce thème, à l’image de celles rassemblées dans le Journal of Synthetic Emotions.

Ces IA vont également apprendre la créativité. Avec AlphaGo, Google a appris à un logiciel à jouer au jeu de Go. Lors d’une des phases du tournoi, où la machine a battu l’homme, bien des joueurs ont été surpris par un coup très créatif que l’IA a accompli. Demain, l’IA sera capable de créativité, même si cette créativité sera très différente de celle que l’homme peut accomplir. La capacité créative d’un système technique est souvent mécanique, explique Kevin Kelly en montrant un robot planteur et ramasseur de salades, capable également d’adapter les engrais qu’il dispense à chaque plante selon ses besoins. Les robots sont très forts en matière de productivité ou d’efficacité sur des tâches définies, des choses pour lesquelles les humains sont profondément inefficaces, par nature. Pour Kevin Kelly cela montre que tout travail dont on ne pourra pas mesurer la productivité, comme la science, la création ou l’innovation – inefficaces par nature, car nécessitant du tâtonnement pour arriver aux résultats – sera conservé aux humains. À moins que, comme l’a montré le joueur d’échecs Garry Kasparov, l’un des premiers humains à avoir perdu face à une intelligence artificielle, l’avenir soit plutôt à trouver des modalités d’interaction entre hommes et machines. Après avoir perdu face à Deep Blue, Kasparov a lancé « les échecs avancés » où les joueurs jouent avec l’assistance des programmes (voir l’article que Xavier de la Porte consacrait à ce phénomène en 2010). « Ces dernières années, les meilleurs joueurs d’échecs au monde sont des Centaures, une combinaison entre humains et intelligence artificielle ». Tout comme l’armée travaille à combiner le soldat du futur en apportant le meilleur de la machine et le meilleur de l’humain, notre avenir est celui du Centaure, estime Kelly, une entité mi-homme mi-machine, une complémentarité où les forces de l’un viennent compléter les faiblesses de l’autre et inversement.

Qu’allons-nous faire de 1000 cerveaux qui travailleraient tout le temps pour nous ? Quelles nouvelles opportunités cela créera ? Kevin Kelly n’en sait rien. « Nul n’est expert de cet avenir », assure-t-il. La seule chose dont il est convaincu est que l’Intelligence artificielle sera une marchandise, une commodité disponible pour chacun d’entre nous. Et que pour que ces dispositifs prennent des décisions, il va nous falloir travailler à leur instiller des valeurs et une déontologie.

Devenir centaures, suppose que nos modes d’interaction avec les ordinateurs vont changer, comme l’a très bien montré le film Minority Report, explique Kevin Kelly. Demain les machines sauront prendre en compte nos gestes, nous identifierons biométriquement, sauront traduire nos paroles en temps réel à l’image des traducteurs temps réels comme Pilot ou Ili… Mais surtout, « la manière dont nous interagissons avec les ordinateurs va changer : avec la réalité virtuelle, nous allons entrer dedans ! » Nous allons entrer dans les écrans. Nous allons entrer en immersion avec la machine. La réalité virtuelle agit autrement sur notre cerveau, elle nous convainc d’une autre réalité… Elle trompe nos sens. Or, « on se souvient bien plus de ce qu’on a ressenti que de ce qu’on a vu ou lu ». La réalité mixte ou combinée, superposant des éléments d’information sur la réalité elle-même, est l’avenir de l’apprentissage comme l’avenir d’Office, le logiciel de Microsoft, assure tout de go, Kevin Kelly. Pour lui, nous allons passer « d’un internet de l’information à l’internet des expériences », comme nous sommes passés des commodités (le café par exemple), aux biens de consommation (le paquet de café moulu), au service (Starbucks…) à l’expérience seule (boire un très bon café). L’avenir consiste à vendre des expériences, notamment parce que le prix des marchandises et des services ne cessent de baisser, seules les expériences gardent une valeur forte. « L’expérience est la nouvelle monnaie, la nouvelle devise de référence ». Et la réalité virtuelle sera le média social le plus social permettant justement de vivre des expériences. La réalité virtuelle sera la prochaine plateforme de nos expériences, assure avec un ton prophétique Kevin Kelly. Reste encore à faire que la réalité virtuelle assure des expériences qui soient plus riches que celles que propose le réel, à mon sens. Pas sûr que l’argumentation déployée par Kevin Kelly suffise à convaincre.

Après le déploiement de l’intelligence comme service, après le déploiement de nouvelles formes d’interactions, la 3e force que l’avenir va activer c’est celle du partage, estime Kevin Kelly en annonçant un peu rapidement une transformation liée au croisement de l’économie de la demande et des données. « Les données sont désormais plus précieuses que les clients eux-mêmes ». Aujourd’hui, Tesla, qui n’existe que depuis quelques années et n’a vendu que 180 000 véhicules, vaut plus que Ford qui a vendu plus de 100 millions de véhicules en 50 ans. Pourquoi ? Pour Kevin Kelly cela s’explique principalement par le fait que Tesla dispose de données sur plus d’un milliard de kilomètres parcourus par ses voitures. « Les plus grosses entreprises du monde son désormais celles qui disposent du plus de données », et les entreprises de réalité virtuelles seront certainement celles qui en auront le plus à leur disposition dans une vingtaine d’années (notamment liées aux capteurs qui équipent leurs casques…). Pour Kevin Kelly, les entreprises du numérique, comme Facebook et ses 2 milliards d’utilisateurs, proposent de nous faire accéder à un niveau de collaboration jamais atteint jusqu’à présent. Pour l’instant, les formes collaboratives que ces plateformes proposent sont encore assez frustes : on partage des potins, des vidéos… Mais comment évolueront ces formes de coopérations à l’échelle de plateformes sociales permettant d’impliquer des milliards d’utilisateurs, à l’image de Wikipédia ? Que serons-nous capables de faire à l’échelle de la planète d’ici 30 ans ? interroge le gourou qui verse dans une simplification un peu rapide, comparant des modalités d’interaction avec d’autres, évoquant le partage de silos de données qui ne se partagent pas tant que cela…

Pour lui, l’IA en réseau annonce une machine dont la taille de la mémoire ne cesse de doubler. Nous avons déjà à notre disposition une machine plus complexe que le cerveau humain qui va permettre au cours des 20 prochaines années de faire des choses que nous n’avons jamais faites. La fatigue semble l’avoir peu à peu emporté sur le bon sens. Le prophétisme un peu facile tourne à plein régime. À croire qu’on ne peut tenir longtemps sur la question de l’IA sans verser dans les facilités. Et le gourou de terminer son évangélisme par d’autres facilités : « les plus grands produits des 30 prochaines années n’ont pas été inventés ». Il y a 30 ans, quand le magazine Wired a été lancé, internet n’existait pas, rappelle l’un de ses fondateurs. « En 2047, les gens diront que tout a commencé en 2017. Nous sommes dans la meilleure époque qui soit pour faire des choses. Et ce d’autant que l’expertise est de moins en moins nécessaire, que la compétition est moindre, que le ticket d’entrée sur la technologie n’a jamais été aussi faible », estime Kevin Kelly pour caresser son public dans le sens du poil. Autant de messages de mobilisation un peu simplistes qui séduiront seulement les plus convaincus.

Sainte IA priez pour nous !

Le philosophe Nick Bostrom (Wikipédia), le fondateur de l’association transhumaniste, et directeur de l’Institut pour le futur de l’humanité (@FHIOxford) de l’université d’Oxford, et auteur de Superintelligence était également sur la scène d’USI pour parler de l’intelligence artificielle. Hélas, pas pour faire dans la finesse.

Avec sa casquette de directeur de l’Institut pour le futur de l’humanité, Nick Bostrom commence sa présentation en tentant de prendre un regard surplombant et global pour comprendre les événements les plus importants de l’histoire humaine. Et de tisser à grand trait une histoire de l’humanité se résumant à la révolution agricole, qui a permis de développer des élites et des idées, et la révolution industrielle, qui a permis d’augmenter la croissance économique et démographique. Selon lui, l’intelligence artificielle sera le 3e événement majeur de l’histoire de l’humanité. L’infrastructure neuronale et la taille de nos cerveaux se sont profondément modifiées avec l’apparition d’Homo Sapiens. Mais l’IA, n’a pas besoin de nous modifier ou de pénétrer dans nos crânes pour déployer ses capacités de traitement. Si le cerveau humain est très contraint, ce n’est pas le cas de l’intelligence des machines. Là où les humains opèrent à 200 hertz, les transistors, eux, ont un taux de transmission bien plus élevé. Cette vitesse assure aux machines des capacités bien plus importantes que celles des hommes – pour autant que la vitesse, le stockage ou la mise en réseau (et même leur combinaison) soient vraiment des critères suffisants pour reproduire l’intelligence.

Nick Bostrom
Image : Nick Bostrom sur la scène d’USI.

Pour Bostrom, l’IA façonne des objets de connaissance dans des programmes capables de faire des calculs logiques mieux que nous. Ainsi, une machine est capable de résoudre un Rubik’s cube plus vite et mieux que nous. Désormais, elles sont capables de voir et d’écouter mieux que nous. Google sait décrire des images, d’une manière parfois imparfaite, mais plutôt précise. Il produit des images étranges qui recomposent les patterns que ces logiciels détectent. Ces réseaux de neurones ont la capacité de comprendre les styles visuels par exemple et de transformer une image en une image inspirée du style de Picasso ou de n’importe quel grand artiste, comme le racontait récemment Wired. Cette inspiration n’a pas besoin de règles exactes ou formelles pour opérer, rappelle-t’il. Il faut juste que la machine ait été nourrie de modèles lui permettant d’en comprendre la texture globale.

DeepMind, la filiale de Google spécialisée dans l’IA, a d’abord appris à jouer au Pong, rappelle-t-il. Pour cela, le programme a multiplié les parties et s’est entraîné à améliorer son score, jusqu’à devenir très comptent, c’est-à-dire jusqu’à trouver les stratégies les plus efficaces pour optimiser ses résultats, en l’occurrence le nombre de points nécessaires pour gagner chaque partie. L’intelligence artificielle fonctionne par entraînement : elle interagit avec l’environnement, tâtonne pour parvenir à optimiser ce qu’on lui demande de faire. C’est un secteur qui avance vite, estime Bostrom, pointant la démultiplication des conférences sur ce sujet. Pour lui, « on accomplit 7 années de progrès en 1 an, actuellement ». Bien sûr, les progrès de l’IA n’ont pas toujours été aussi forts. Ils sont restés souvent lents, hormis quelques moments d’effervescence. Aujourd’hui, on connaît un « 3e printemps » de l’IA, qui va certainement connaître prochainement un nouveau ralentissement. Reste que l’outil n’en propose pas moins des formes commerciales déjà très pertinentes, comme celles appliquées à la reconnaissance vocale, à la gestion des stocks ou même aux voitures autonomes… Le domaine ne cesse de s’améliorer. Et des progrès même réduits permettent de réaliser parfois de belles performances. Bien sûr le champ de l’IA a encore de nombreux défis à relever et a besoin que les technologies qui la façonnent deviennent plus mûres.

Une récente étude basée sur un sondage d’opinion auprès d’experts de l’IA, soulignait que l’IA forte, c’est-à-dire une machine capable d’avoir conscience d’elle-même et capable de définir ses définir ses propres objectifs devrait apparaître vers 2066 en moyenne. Reste qu’en en donnant une vision moyenne, l’étude, comme Bostrom, oublient le désaccord profond des experts, et que la moyenne d’une opinion ne fait pas prédiction, surtout quand les conjonctures font dissensus. Qu’importe, pour Bostrom, cela démontre que la plupart des experts estiment que nous allons connaître des ordinateurs plus puissants que les humains de notre vivant.

En observant la chronologie des progrès de l’IA en matière de jeu de Go, Bostrom souligne que nous sommes passés en quelques mois seulement d’une technologie incapable de s’affronter au problème, à un système très puissant, « surhumain », dans le sens d’être capable de battre des humains. « Que se passe-t-il quand on génère une IA qui est de même niveau qu’un être humain ? Est-ce la naissance d’une superintelligence ? À partir du moment où les systèmes atteignent l’intelligence humaine, combien de temps leur faudra-t-il pour devenir super-intelligent ? Quelques années ? Quelques semaines ? Quelques jours… ou seulement quelques heures ? » Pour Bostrom, la superintelligence consiste en un système polyvalent, qui aurait les mêmes capacités d’apprentissage que les êtres humains. Mais, plutôt que de pointer les limites techniques à cet avènement, Bostrom préfère faire de la philosophie de comptoir, et s’interroger sur le sens de cette rupture dans l’histoire de l’humanité, aux défis que cela va poser. Pour lui, les impacts à court terme de l’intégration de l’IA ne posent aucun problème particulier. L’intelligence artificielle va faire rouler les voitures autonomes et prendre pour nous des décisions difficiles, comme l’évaluation des libérations conditionnelles. Certes, il faudra corriger quelques-uns de leurs biais, mais rien d’insurmontable… Qu’importe si les problèmes sont déjà bien concrets, cela semble trop terre à terre pour motiver le grand penseur.

Pour lui, il faut s’interroger sur l’avènement de l’IA forte (qu’importe si pour l’instant, cela relève plus de la science-fiction qu’autre chose). Pour Bostrom, il nous faut anticiper les problèmes que ce point de rupture va engendrer… Que se passera-t-il, quand, comme Midas, nous aurons des machines qui réalisent ce qu’elles veulent ? Qui transformeront tout en or ? Tout comme Midas, les conséquences d’une telle perspective montrent qu’une bonne idée peut se transformer en catastrophe absolue. Pour lui, une IA trop forte risque de créer des effets pervers, notamment parce qu’une IA optimise son propre objectif… explique-t-il en reprenant l’exemple de son livre qu’avait pointé notre collègue Rémi Sussan d’une IA qui détruirait l’humanité pour produire des trombones… Pour lui, cela doit nous inviter à imaginer des méthodes de contrôle modulables, comme y travaille le champ de recherche consacré à « l’alignement », c’est-à-dire à l’alignement du travail des machines avec l’éthique des humains, de leurs valeurs avec les nôtres. Or, rappelle Bostrom, il n’a pas de lien entre l’intelligence et le fait d’être bon ou mauvais. Nous avons besoin de plus de recherches sur l’éthique des machines, comme le montre les consortiums Partnership on AI et OpenIA. Car l’enjeu est bien de faire de l’IA un bien pour l’humanité. Afin que, quand l’IA sera partout, nous puissions accomplir la tâche du Berkley Zen Center qui existe depuis 1967 : à savoir, « ne rien avoir à accomplir ».

Je ne suis pas sûr que ce soit un objectif très motivant pour les besogneux humains que nous sommes. Finalement, sur la scène d’USI, Bostrom a déroulé sa présentation, sans même intégrer les nombreuses critiques qu’a suscitées son livre. Il agite avec une grande naïveté les cauchemars lointains de l’IA comme pour donner plus de profondeur à sa propre présentation. Reste à savoir si ces considérations spéculatives si incertaines ont réellement du sens. J’ai plutôt l’impression que cela nous empêche de regarder les problèmes très actuels et concrets que pose l’IA et qui vont façonner très concrètement son évolution et « sa force » – ou plutôt ses lacunes – à venir.

Hubert Guillaud

À lire aussi sur internetactu.net

1 commentaire

  1. Il manque du texte à l’avant dernier paragraphe: … explique-t-il en reprenant l’exemple de son livre qu’avait pointé notre collègue Rémi Sussan d’une IA qui détruirait l’humanité pour produire des trombones… Pour lui, cela doit nous inviter à imaginer des méthodes de contrôle modulables, comme y travaille le champ de recherche consacré à « l’alignement », c’est-à-dire à l’alignement du travail des machines avec l’éthique des humains, de leurs valeurs avec les nôtres. Or, rappelle Bostrom, il n’a pas de lien entre l’intelligence et le fait d’être bon ou mauvais. Nous avons besoin de plus de recherches sur l’éthique des machines, comme le montre les consortiums Partnership on AI et OpenIA. …

    – Merci ! Un maudit problème de guillemets ;). – Hubert Guillaud

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *