Le mois dernier, Mike Isaac (@mikeisaac) pour le New York Times révélait l’existence de Greyball, un programme secret développé par Uber pour protéger ses chauffeurs en trompant des utilisateurs, et qui aurait été utilisé pour se jouer des autorités de contrôle ou permettre à ses chauffeurs d’éviter la police dans les villes où la société n’était pas la bienvenue (le programme ne serait plus utilisé depuis 2015, rappelle le Monde).

Fake world, true manipulation

Comme l’explique l’essayiste Nicholas Carr sur son blog, le principe de Greyball consistait à présenter une fausse carte (fake map) et des voitures fantômes à ceux qu’Uber identifiait, depuis leurs données personnelles, comme ses « opposants ». Pour Carr, derrière les questions éthiques et juridiques que ces révélations soulèvent, Greyball montre combien les représentations numériques fabriquent de la réalité, même si celles-ci se révèlent complètement fausses. À l’heure où les cartes, via la personnalisation, poursuivent des buts marketing plus que cartographiques, la carte n’est plus la carte. La carte des voitures fantômes d’Uber montre combien la représentation numérique du monde peut être manipulée.

Comme l’a reconnu l’entreprise elle-même, Greyball a été utilisé à plusieurs fins : tromper les autorités, tester de nouvelles fonctionnalités, prévenir de la fraude, protéger les chauffeurs, dissuader des utilisateurs d’utiliser le service… Un portefeuille d’utilisation illimité, qui montre qu’il est impossible, à l’utilisateur, de savoir s’il a été trompé. Si la carte d’Uber est flatteuse pour l’utilisateur placé en son centre, avec ces voitures surdimensionnées prêtes à répondre au moindre de ses désirs, elle nous place dans une histoire fictionnelle qui personnalise la ville pour l’utilisateur, comme le fait Google Maps, quand elle met en évidence certains points plutôt que d’autres… Pour Carr, les fake maps répondent aux fake news. Les fictions centrées autour de l’utilisateur fabriquées par les flux de Facebook ou de Twitter servent également à attirer les désirs et préjugés des utilisateurs et à leur fournir un contexte pour la publicité, c’est-à-dire pour les tromper. Les fake news sont le moteur de Facebook, de même que les fake maps sont celles d’Uber. Greyball semble une aberration, mais au final, la tromperie qu’il symbolise ne serait-elle pas l’essence même du monde virtuel ?

Pour le développeur Quincy Larson de FreeCodeCamp, Uber comme Volkswagen ont en commun d’avoir utilisé le code pour casser les règles et contourner la loi. Quincy Larson souligne combien les informations et les capacités de traitement d’Uber lui permettent de se placer au-dessus des lois. Nous n’avons appris le problème, uniquement parce que quelques employés d’Uber, lanceurs d’alertes, tiraillés par leur culpabilité, on fait fuiter l’information… insiste-t-il. Pour Quincy Larson ces exemples nous rappellent que si les développeurs sont désormais surpuissants, ils doivent utiliser ce pouvoir d’une manière responsable… Ce qui n’est pas sans rappeler les questions éthiques qui agitent le numérique, dans le domaine du design et de la conception des produits et services, à l’image des propos récents de Paul Sourour, de Mike Monteiro, comme des chercheurs de Data&Society.

Discriminations réelles et fantômes

Pour Adrienne LaFrance (@adriennelaf) sur The Atlantic, Greyball pose une autre question de fond : dans un environnement numérique, à quoi ressemble le droit de refuser de servir quelqu’un ?

Ce droit est invisible. Quand on vous refuse l’entrée physique d’un bar, ce refus est visible. Mais dans un environnement numérique, ce refus peut-être totalement invisible. Un utilisateur peut-être ainsi bloqué sans le savoir, comme cela a visiblement été le cas de fonctionnaires gouvernementaux cherchant à accéder à Uber. Or, cette invisibilité même protège Uber de tout contrôle. Pour Ethan Zuckerman (@ethanz), directeur du Centre des Médias civiques du MIT, « il est extrêmement important pour les gens de savoir qu’on leur refuse le service, car c’est ce qui leur permet de déposer une demande de discrimination, de recueillir des preuves de leur exclusion… » Avec un logiciel de ce type, il serait extrêmement difficile de montrer que Uber procède à des discriminations envers certains types d’usagers par exemple.

Un contrôle sans précédent

Pour le Time, les révélations sur l’existence de Greyball confirment les pires craintes à l’encontre d’Uber : le fait qu’une entreprise soit capable d’exclure certaines personnes ou certaines catégories de personnes en fonction de ses propres prérogatives.

Les chercheurs Alex Rosenblatt (@mawnikr) et Ryan Calo (@rcalo) soulignent que des plateformes comme Uber, Aibnb ou Lyft disposent d’un contrôle sans précédent sur tous les aspects de leurs marchés et des expériences qu’ils proposent. Pour eux, l’économie du partage se révèle être surtout une économie de la prédation, expliquent-ils dans un article de recherche. Greyball fait partie d’un modèle de manipulation et de jeu sur les paramètres qu’ils contrôlent beaucoup plus vaste, allant de la classification des conducteurs au contrôle des prix… Pour Elizabeth Joh (@elizabeth_joh), professeure de droit à l’Université de Californie, Greyball montre une tentative délibérée de contourner la loi et pas seulement d’y échapper.

Pour Christian Sandvig, chercheur à l’université du Michigan, Greyball rappelle les techniques discriminatoires des banques pour refuser des prêts aux minorités, interdits depuis par la réglementation fédérale. Quant aux poursuites que cette affaire pourrait déclencher, les villes touchées par les révélations sont encore en phase de collecte d’informations et d’enquête.

Derrière le constat accablant de l’utilisation trompeuse voire manipulatrice d’Uber, une question de confiance se pose à l’encontre de tous les dispositifs numériques qu’on utilise. À quoi peut-on faire confiance ? Depuis quels éléments ? Force est de constater qu’il semble que nous ayons de moins en moins d’éléments pour le savoir ! L’expérimentation permanente dans laquelle nous plonge le numérique nous transforme en cobaye contre notre gré, sans que nous n’ayons beaucoup de prise pour être au moins informé de la manière dont nous sommes utilisés par-devers nous.

Hubert Guillaud

MAJ : TechCrunch, à la suite de The Information, annonce qu’Uber aurait utilisé un autre logiciel secret, baptisé Hell, pour tracer les conducteurs de son concurrent, Lyft, leur permettant de connaître la disponibilité des chauffeurs du concurrent, leurs tarifs, et ceux qui étaient également chauffeurs pour Uber, permettant à l’entreprise de faire des incitations adaptées à ses chauffeurs afin de limiter cette concurrence. Uber aurait arrêté d’utiliser Hell en 2016.

MAJ : Comme si tout cela ne suffisait pas, Bloomberg révèle que Uber teste un nouveau système de tarification qui facture les clients en fonction de ce que Uber prédit qu’ils seraient prêts à payer. Pour Daniel Graf, d’Uber, les techniques de tarification d’Uber sont devenues incroyablement sophistiquées et l’entreprise considère désormais l’ingénierie financière comme son principal avantage concurrentiel. Le problème est qu’en transformant toujours plus le prix en boîte noire, l’entreprise risque surtout de générer des tensions tant avec les conducteurs qu’avec ses clients.