L’intelligence artificielle peut-elle nous apprendre ce que c’est qu’être humain ? C’est la question qu’a posé Brian Christian, dans son livre Le plus humain des humains, qui a obtenu de figurer dans le top des essais du New Yorker pour l’année 2011. Récemment, l’auteur (qui possède à la fois des diplômes en sciences de l’information et en poésie) a donné une conférence au Santa Fe Institute au cours de laquelle il a exposée bon nombre de ses idées.

Le titre étrange de son ouvrage vient d’une caractéristique du fameux Loebner Prize. Tout le monde connait le « test de Turing ». Mais alors que le scientifique britannique l’envisageait comme une expérience de pensée, les organisateurs du prix Loebner essaient chaque année de le mettre en pratique. Au cours de cette compétition, on met côte à côte un certain nombre de bots capable de suivre une conversation, et un groupe d’individus qui, eux aussi, peuvent discuter par tchat avec des jurés, mais ignorent quand ils conversent avec une machine ou avec un véritable humain. A la fin de chaque discussion, les jurés attribuent une « note d’humanité » à leur interlocuteur invisible. Au final, le « bot » qui a la meilleure note cumulée gagne le prix. Il devient « le plus humain des robots ». Mais il y a un effet secondaire ! Comme les juges ignorent à qui ils ont affaire, ils notent aussi les humains. Et celui qui remporte le plus de suffrages devient du coup « le plus humain des humains ».

Brian Christian, pour poursuivre son étude, a été un de ces humains testés lors du Prix Loebner.

Lors de sa conférence, il a insisté sur le « paradoxe de Moravec« , du nom d’un des plus célèbres roboticiens de l’université Carnegie Melon. Celui-ci peut se résumer, a-t-il expliqué, par « ce qui est difficile est facile, et ce qui est facile est difficile ». Autrement dit, il est bien plus simple pour une machine de gagner un championnat d’échecs que de reconnaître un chien sur une photo.

Cela n’est pas sans remettre en cause tout l’édifice de la pensée occidentale. Déjà, Aristote distinguait trois sortes d’âmes : l’âme végétative, l’âme sensitive et l’âme intellective. La première n’est concernée que par les actes basiques de la survie (se nourrir, dormir, se reproduire). La seconde s’occupe des émotions, des désirs… Mais la troisième est celle qui nous rend véritablement humains explique Aristote. C’est celle qui permet de comprendre les choses abstraites, comme les nombres, de philosopher, de contempler (« la contemplation étant l’activité humaine la plus haute, ce qui est très pratique pour nous autres philosophes » a ironisé Brian Christian). La version des Descartes, qui affirme le doute sur toute chose – y compris l’existence du corps – sauf sur la pensée (« je pense donc je suis ») ne serait, selon Christian, que la version modernisée et christianisée de la pensée d’Aristote. Or, on, découvre aujourd’hui que les fonctions de l’âme sensitive sont beaucoup plus complexes que celle de l’âme intellective ; et dans ce domaine, les ordinateurs nous battent largement nous faisant perdre « ce qui fait de nous des humains » au sens aristotélicien du terme. Mais heureusement, sans doute, l’humanité réelle ne se trouve-t-elle pas dans l’exercice de nos facultés d’abstraction.

L’intelligence artificielle, c’est l’intelligence collective

Ce que révèle le Loebner Prize, c’est qu’en réalité il existe bien encore des différences entre le cerveau humain et sa simulation machinique, mais elles sont plus subtiles qu’on pourrait le croire. Brian Christian rappelle que dans les années 50, Turing avait prédit que dans les années 2000 un programme informatique serait capable de tromper 30 % des juges. Il s’est trompé, mais en 2008, un tel artefact a réussi à tromper 25 % des jurés du prix Loebner !

Brian Christian lui-même a failli manger son chapeau, lorsqu’il a eu une conversation avec l’un des bots le plus sophistiqué du moment, Cleverbot. Ce programme a-t-il expliqué, a pour particularité d’enregistrer tout ce que lui dit son interlocuteur, pour le réutiliser par la suite. Et il a eu plus de 65 millions de conversations.

Christian s’est « chauffé » en commençant par lui poser des questions assez simples, lui demandant différentes capitales. Ainsi lorsqu’il lui demande la capitale de la France, Cleverbot a répondu Paris. Rien d’étonnant. Mais plus tard, lorsqu’il lui demande celle de la Roumanie, le bot lui répond :
– Euh, Budapest ? Je ne sais pas vraiment ».

Là c’est plus étonnant : non seulement le bot se trompe, mais sa confusion repose sur une ressemblance phonétique entre Bucarest et Budapest : une erreur très « humaine »…

Il a ensuite testé son sens de l’humour :
« Sais-tu pourquoi on appelle une Xbox une Xbox 360 ?
-Pourquoi ?
-Parce que dès qu’on en voit une on tourne les talons et on s’en va.

Ce à quoi Cleverbot lui a répondu du tac au tac :
« Non, parce dans ce cas vous vous retrouveriez face à elle, et ce ne serait pas drôle ».

De plus en plus étonnant ! Brian Christian essaie alors de piéger plus avant le programme. Il écrit un mot unique, sans contexte : Twilight. Le bot lui répond : « Je déteste ce roman. Et le film aussi ».

De plus en plus impressionné, Christian tente alors de le décontenancer en citant un passage du fameux tube de Queen « Bohemian Rhapsody », « Galileo, galileo ». La machine ne se démonte pas et lui répond par le vers suivant : « Will you do the fandango ».

Puis tout à coup il lui demande : « as-tu un petit ami ? »
– Non lui répond l’ordinateur, mais j’espère bientôt trouver l’amour.
– Puis-je être ton petit ami ?
– Non, je suis heureux en mariage.

A partir de là, les choses se dégradent. Christian lui repose la question : Puis-je être ton petit ami ?
– Non, répond Cleverbot, je suis hétéro.
– Quel est ton genre ?
– Féminin.

Cleverbot s’était montré brillant tant qu’il s’agissait de répondre à des questions isolées, même les plus complexes. Mais voilà, il est incapable de suivre une conversation. Il n’y pas de continuité dans son discours.

L’algorithme employé par les chatbots, explique Christian, est basé sur les chaînes de Markov. A chaque question correspond une réponse. Mais entre humains, a-t-il continué, les choses ne se passent pas exactement comme cela. L’algorithme saurait plutôt que la réponse est conditionnée à la fois par la question et par tout l’historique précédent de la conversation. Et c’est là que Brian Christian développe une argumentation tout à fait intéressante. Finalement discuter avec Cleverbot c’est comme discuter avec un collectif. En accumulant des millions de réponses d’interlocuteurs humains, Cleverbot est en fait une incarnation de « l’intelligence collective ».

Cherchant ses références dans la littérature et la philosophie, Brian Christian cite une phrase de Nietzsche extraite du Gai Savoir. « Enfin, lorsque l’oeuvre est terminée, on reconnaîtra comment ce fut la contrainte d’un même goût qui, en grand et en petit, a dominé et façonné : la qualité du goût, s’il a été bon ou mauvais, importe beaucoup moins qu’on ne croit, – l’essentiel c’est que le goût soit un. »

C’est ainsi que se définit l’individualité, par l’exploration d’un parti pris, d’un point de vue, quelle que soit la qualité de celui-ci. L’idée de l’intelligence universelle, propose Brian Christian, n’a plus aujourd’hui l’attirance qu’elle aurait pu exercer sur nos ancêtres. C’est Walt Whitman qu’il convoque cette fois-ci, avec sa fameuse illustration de l’universalité du regard du poète :

Je suis un esclave pourchassé, je tressaille à la morsure des chiens…
Je suis un pompier enseveli, avec le torse brisé…
Je suis un vieil artilleur – je parle du bombardement de mon fort…
Tout cela je l’absorbe – cela devient moi…
Je vois et entends le Tout

Aujourd’hui, ironise Brian Christian, l’homme universel, ce serait plutôt ça : et de montrer des images du capitaine Picard de Star trek transformé en borg (une intelligence collective cherchant à assimiler l’ensemble de la galaxie dans cette série TV) ou encore l’agent Smith de Matrix. Deux personnages de fiction qui partagent ce regard panoptique et peuvent simultanément revêtir une infinité d’identités. Mais ce désir d’universalité ne date pas d’aujourd’hui puisque la Bible elle-même considère la distinction des langages comme une malédiction, les humains cessant de parler à l’unisson. « Ce qui fait de nous un être humain, c’est précisément que nous sommes UN être humain », a affirmé Christian.

Zigzaguant entre culture classique et technologie moderne, Christian rejoint ainsi la critique de Jaron Lanier, qui dénonce depuis des années la disparition de l’individu au sein du collectif. Pour Christian, la phrase de Nietzsche illustre bien la défense de Myspace par Lanier : la plupart des pages sont affreuses, mais c’est ce qui arrive lorsque la conception de la page est le produit des inclinations personnelles de son auteur, au contraire de Facebook où tout est propre, mais finalement normalisé et impersonnel.

Le style, c’est ce qui fait de nous un individu

Du reste, a-t-il conclu, le test de Turing loin de se cantonner aux chercheurs en IA et aux aficionados du Loebner prize, est devenu un exercice que nous pratiquons tous sans nous en rendre compte. « Si je reçois un e-mail d’un ami me vantant les qualités d’une pharmacie russe en ligne », a expliqué Christian, « je ne me précipite pas pour cliquer sur le lien, j’écris plutôt à mon ami pour lui suggérer de changer de mot de passe ».

Chaque fois que nous nous trouvons face un message électronique, nous cherchons à savoir savoir si nous avons ou non accès à un robot. Cela a des conséquences sur la sécurité informatique, a-t-il expliqué. Des systèmes comme Yahoo ! qui demandent des informations personnelles assez simples pour renvoyer un mot de passe oublié appartiennent à cette mentalité robotique qui élimine la personnalité de l’internaute. Il est facile aujourd’hui de récupérer ces informations personnelles sur le réseau. Au contraire, dans un système d’authentification comme celui qui utilise la signature manuscrite, l’information n’est rien, c’est la façon de la présenter qui est tout. Brian Christian, qui n’en est pas à une jonglerie près, compare cela aux bonnes pratiques en matière de speed dating. Si vous voulez séduire, il ne faut pas parler de son travail, de son lieu d’origine, etc. Ce n’est pas le contenu qui prime, c’est le style qui fait de nous un individu.

Brian aborde bien d’autres sujets dans une intervention dense, mais souvent hilarante, sans sous-titres malheureusement, mais dans un anglais limpide et aisément compréhensible pour nous autres francophones !

Rémi Sussan