Kevin Slavin : « il nous faut dresser l’Atlas des algorithmes contemporains »

Kevin Slavin est le cofondateur d’Area/Code devenu il y a peu Zynga, un studio de conception de jeux. Et c’est pour ce travail qu’il est surtout connu (voir ses interventions en 2009 à Picnic dont nous vous avions rendu compte ici et ), mais c’est à une tout autre exploration – oh combien passionnante, bien que particulièrement alambiquée – à laquelle il nous a conviée à la conférence Lift qui se tenait récemment à Genève.

kevinslavinlift11
Image : Kevin Slavin sur la scène de Lift11, photographié par Ivo Näpflin.

Sa présentation s’appuyait sur une précédente présentation faite il y a 4 ans qui portait sur le bas Manhattan, le quartier financier de New York, et qui s’interrogeait pour comprendre comment les villes pouvaient apprendre à écouter le pouls de la ville. Il y expliquait que les villes devaient construire des radars, comme on construisait des amplificateurs acoustiques pour détecter l’approche des avions.

Mais ce qui conduit à construire des radars, conduit aussi à construire des avions furtifs pour y échapper, pour voler sans laisser de traces. L’histoire de l’avion furtif pourtant s’est mal terminée puisqu’en 1999, l’un de ses avions a réussi à être touché par un missile (Wikipédia). Or, c’était là quelque chose qui n’aurait jamais dû se passer.

Ce qui est intéressant, explique Kevin Slavin, c’est de regarder comment les avions furtifs disparaissent des radars. Le principe pour tromper les radars consiste à faire passer les avions pour des oiseaux. Faire disparaître les gros objets et les rendre plus petits qu’ils ne sont. « C’est la façon de faire disparaître les choses à notre époque ». C’est notre façon de construire des boites noires.

C’est un peu la même chose sur les marchés financiers, estime Kevin Slavin, qui arrive enfin à son propos. Si l’on veut déplacer une grosse quantité d’argent, il faut faire de manière à ce que cela ne se voie pas. Les banques disposent ainsi d’algorithmes pour rendre invisibles certaines transactions, faire passer de gros échanges massifs pour de petits échanges insignifiants, en les découpant en petits paquets pour que le marché remarque moins les transactions en cours. Mais comme dans le monde militaire, les parades se développent. Il existe d’autres algorithmes qui surveillent les petites transactions pour les analyser, prévoir les évolutions du marché et comprendre ce qu’ils masquent. 70 % des échanges à Wall Street passent par des algorithmes qui tentent soit de les rendre invisibles soit de les repérer… Nanex est ainsi une de ces sociétés qui extraient des algorithmes des comportements d’investissements.

Dans le monde financier, la vitesse est une arme. Si vous faites des échanges financiers à haute fréquence ou que vous essayez de voir comment ceux-ci se comportent, il vous faut de bons algorithmes, de bons processeurs et surtout un très bon réseau. Et pour gagner quelques millisecondes, il faut être proche de l’internet. Or, tout le monde pense que l’internet est un réseau également et équitablement distribué. Mais ce n’est pas si vrai. A New York, à proximité du Carrier Hotel, il y a un endroit où arrivent les principaux tuyaux de l’internet mondial et qui permet d’obtenir des temps de latence quasiment nuls, explique encore Kevin Slavin. Et cet endroit est justement très proche de Wall Street. Ces quelques millisecondes valent des millions de dollars et les immeubles des environs se remplissent de serveurs plutôt que de gens.

kevinslavin02lift11

Les bâtiments et les villes sont structurellement façonnés par les algorithmes. Dans ce quartier de New York, on vide les bureaux et les appartements pour y mettre des tonnes de serveurs, parce que cette localisation peut donner un avantage stratégique en étant au plus près d’un des coeurs de l’internet. « La ville de New York est en train d’être optimisée pour fonctionner comme une puce électronique. » Et tout ce que nous pourrions faire en tant qu’être humain dans ces mêmes locaux, vaut bien moins que ce que ces machines font et gagnent.

« Si on commence à tirer sur le fil rouge des algorithmes, on se rend compte qu’ils déterminent de plus en plus de choses dans nos vies. Pas seulement les échanges commerciaux ou le niveau de remboursement de nos pensions de retraite… Ils déterminent également la valeur de l’immobilier, ce qu’on regarde à la télé, le prix des produits, ce que nous mangeons, comment nous circulons, ce qui va nous arriver, la manière dont sont conçues les chansons, ce que nous allons voir au cinéma, ce que nous lisons, le titre des livres que nous lisons, ce que nous pensons de ce que nous lisons… » Tant et si bien que dresser l’Atlas des algorithmes contemporains, de tous les domaines où ils ont une influence, est déjà devenu quasiment impossible.

Les inconvénients des effets de ces algorithmes sont bien sûr nombreux. D’abord, il y a l’opacité. C’est-à-dire que nous ne savons pas ce qu’ils font. Observez ces nouveaux types d’ascenseurs sensés être mieux capables de distribuer les personnes dans les étages. On indique son étage, et l’algorithme vous propose de prendre tel ou tel ascenseur en fonction des multiples demandes qu’il reçoit au même moment et de la situation des ascenseurs. Mais dans l’ascenseur vous n’avez plus de boutons pour demander un autre étage. Il n’y a que le bouton stop. « L’effet des algorithmes est bien plus concret quand on est enfermé dans une boîte », s’amuse Kevin Slavin. « Regardez les trajets des robots aspirateurs. On constate qu’ils ne fonctionnent pas tous de la même manière en observant comment ils se déplacent. Certains, comme le Roomba, ont un algorithme aléatoire, qui les fait se comporter d’une manière très angoissante, car leurs mouvements n’ont rien à voir avec le fonctionnement d’un humain, d’autres fonctionnent avec des algorithmes qui ont l’air plus rationnels, qui balaient la pièce dans un sens puis un autre. »

Autre inconvénient : l’impénétrabilité, c’est-à-dire le fait que les algorithmes ne soient pas lisibles et ne correspondent pas à la manière dont les humains réfléchissent. Et Kevin Slavin de prendre l’exemple d’un programme d’algorithme génétique qui va trouver seul comment déplacer des formes triangulaires et rondes dotées de caractéristiques physiques et motrices, comme sait le faire un ordinateur : par essai-erreur (vidéo). Dans un premier temps, l’ordinateur ne sait même pas que les roues doivent aller sur le sol. Il apprend de chaque essai et génère une nouvelle réponse en utilisant ce qui a réussi. En une heure, il a appris à générer une voiture efficace, mais il ne sait toujours pas ce que sont des roues. Pour Slavin, c’est un bon exemple pour montrer comment l’ordinateur réfléchit et combien ce mode est différent de la façon dont les humains eux réfléchissent. CoreWar (Wikipédia) est un jeu imaginé par des programmateurs d’algorithmes, qui consiste à les faire se battre. « C’est un jeu absurdement abstrait, mais qui ne l’est pas plus que votre retraite où vos investissements vus par les algorithmes financiers ».

Enfin, il y a un dernier inconvénient que Slavin reconnait ne pas encore savoir nommer. Pour tenter de l’expliquer, il remonte à Frances Galton, le cousin de Darwin (Wikipédia), qui voulait savoir comment trouver des structures dans l’agencement des éléments. C’est sa réflexion qui est à l’origine du développement de l’algorithmie – mais aussi de l’eugénisme. Aujourd’hui, le volume de données produites est si immense qu’on peut produire des algorithmes sur tout et n’importe quoi. Orley Ashenfelter, professeur d’économie à Princeton, sait par exemple déterminer si le vin que va produire un vignoble sera bon, juste en analysant les raisins et en y appliquant un algorithme en fonction de la météo et du sol. Une approche qui n’a rien à voir avec celle de Robert Parker (Wikipédia), le grand gourou mondial du vin, puisque lui, c’est avec son palais qu’il détermine les qualités d’un vin. Les données produites par les algorithmes génèrent des données que l’on ne peut appréhender. Désormais, les mathématiques disent qu’ils peuvent influencer le goût et la préférence des gens. « 60 % des films loués sur Netflix sont des films qui ont été mis en avant pour vous par l’algorithme de Netflix en se basant sur ce que d’autres et vous-mêmes avez déjà apprécié ». Pire, une société comme Epagogix permet d’évaluer un film avant même qu’il soit fait : on introduit un scénario dans l’ordinateur et celui-ci peut vous dire le profit qu’il devrait générer…

« Désormais, des algorithmes déterminent quels films vont être tournés. D’autres disent s’ils ont été bons… Que se passe-t-il quand le crash qu’a connu la bourse va se dérouler dans l’industrie du cinéma ou sur le marché du vin ? Que signifient, à long terme, cette production et cette consommation façonnées par les algorithmes ? Où tous les films se ressemblent. Où tous les vins ont le même goût ? Jusqu’où cela va fonctionner et jusqu’où cela va nous conduire ? Que produit cette monoculture, cette culture moyenne, où tout est lissé par les algorithmes ?… »

On savait pourtant que les emprunts immobiliers des gens ne pourraient pas être remboursés. Mais on a largement ignoré les faits et les données – pourtant produits par les marchés. On a autorisé des gens à emprunter au-dessus de ce qu’ils pouvaient rembourser, conclut Kevin Slavin. La leçon que l’on peut tirer de ce qu’il s’est passé à Wall Street vient peut-être de ceux qui ont décidé de quitter le marché des échanges, écoeurés. Peut-on faire la bourse ailleurs, autrement ? Peut-on créer des systèmes alternatifs (des Dark Pools), c’est-à-dire des marchés où d’immenses liquidités se déplaceraient en-dehors du royaume des algorithmes ? Quel serait le dark pool de l’art, de la musique, de l’immobilier ? Peut-on sortir du champ – du chant – des algorithmes ? Ou est-il déjà trop tard ?

À lire aussi sur internetactu.net

2 commentaires

  1. Agréable surprise que ce monsieur! Car Zynga a quand même inventé les jeux où l’on paye pour jouer moins (passer moins de temps à cliquer etc..) Et là il nous livre une belle analyse de l’impact de l’informatique sur nos sociétés, et surtout sur ses facettes peux connues du publique.

    Notamment sur la question de la bourse, on pourrait ajouter que c’est la raison pour laquelle la bourse de paris est condamnée (enfin la façon dont on l’utilise), puisque ses serveurs informatiques sont maintenant à Londres, réaliser des transactions bancaires à partir de la France devient une bêtise..

    Quand aux algorithmes à « tubes » ils existent bien depuis longtemps.. il reste tout de même des belles surprises et les films les plus rentables de tout les temps ne remplissaient pas les critères.. Et même si après leurs succès les dits critères ont été modifiés..

    Sur la question de ces critères et de ces algorithmes.. finalement le problème ce n’est pas le moyen de la prise de décision qui compte, mais c’est plus le modèle qui pèche: si on donne uniquement à quelques uns le pouvoir de décider on bloque la création. Remplacer la machine par 2 personnes qui auraient la « meilleur critique » et on se retrouve exactement avec le même problème.. Le jour où il ne reste plus que une ou deux grandes maison de disques on se retrouvera toujours avec les mêmes soupes à écouter.. D’où la création en permanence de petits labels, et surtout les artistes recherchent via des médias indépendants à se faire connaitre du public sans passer par les goulets d’étranglements que sont les majors, avec ou sans logiciel..

    Les softwares ne sont que les outils d’une société voulant faire du chiffre en asservissant les hommes, en tentant de les formater à des goûts et des opinions.. Heureusement qu’il y a de nombreux échappatoires à cela.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *