L’année dernière, la société hongkongaise Deep Knowledge Venture a nommé un algorithme à son conseil d’administration, rapportait notamment le Huffington Post. L’algorithme, développé par Aging analytics, avait pour mission d’analyser les résultats prévisionnels des sociétés dans laquelle la société d’investissement en capital risque envisageait d’investir. Cette préfiguration du nouveau rôle des données dans la prise de décision va-t-elle aller encore plus loin ?

Les robots ne nous volent pas notre travail, ils deviennent nos patrons !

C’est ce que suggère Elizabeth Dwoskin pour le Wall Street Journal. Travis Kalanick, le PDG de Uber, s’est souvent défendu du fait que Uber n’était pas le patron de ses chauffeurs, rappelle-t-elle : l’algorithme d’Uber est le vrai patron des chauffeurs.

Un passionnant article de recherche signé Alex Rosenblat (@mawnikr) et Luke Stark (@luke_stark) du Data & Society Research Institute souligne que Uber utilise son logiciel pour exercer un contrôle sur ses chauffeurs équivalent à celui qu’accomplirait un manager humain. L’algorithme de la société utilise des indicateurs de performance, des systèmes de planification, des suggestions de comportement, une tarification dynamique et l’asymétrie d’information “comme substitut au contrôle managérial direct”.

En fait, résume la journaliste : « les robots ne sont pas tant en train de voler votre travail, que de devenir votre patron. Et les niveaux de contrôle et de surveillance qu’ils exercent sont souvent plus importants que ceux exercés par des managers humains ».

Les entretiens avec les chauffeurs qu’ont réalisés les chercheurs montrent que ceux-ci tentent de résister de multiples manières aux injonctions algorithmiques dont ils sont les destinataires, notamment en essayant de tromper le système sur leur position ou leur disponibilité. Mais, un environnement dans lequel Uber dispose de toute l’information, de manière asymétrique, rend difficile pour les pilotes de prendre des décisions qui sont dans leur intérêt, expliquent les chercheurs. Si l’entreprise ne demande jamais aux chauffeurs de prendre le volant, le logiciel le fait pour elle. Pour les chercheurs, le logiciel de Uber n’est pas passif, mais manipule l’offre de travail et façonne complètement le marché, avec les mêmes critères qu’un management traditionnel. Une relation asymétrique qui profite à l’entreprise et au client, expliquent-ils en détaillant les fonctionnalités du logiciel de la société de location de voiture avec chauffeurs à la demande.

En fait, si l’algorithme est le nouveau directeur des ressources humaines, les clients sont les cadres intermédiaires chargés de surveiller les chauffeurs, réalisant une externalisation inédite du management.

Systèmes de notation ou systèmes disciplinaires ?

Pour Josh Dzieza sur The Verge, l’économie collaborative a brouillé les rôles de l’employeur et de l’employé d’une façon telle que les tribunaux et le régulateur peinent à analyser. « Les systèmes de notation ont transformé les clients en cadres intermédiaires involontaires et parfois involontairement impitoyables. Ils se révèlent souvent bien plus efficaces que les cadres d’entreprises que ces entreprises pourraient vouloir embaucher ». Hypersensibles à la moindre erreur, l’algorithme n’a plus qu’à s’adapter à leur moindre jugement. L’évaluation déportée sur les clients permet bien sûr de diminuer le coût du service en faisant disparaître le management intermédiaire. Pour le juge Edward Chen les notations des clients ne sont pas qu’un outil de rétroaction, mais représentent un nouveau niveau de contrôle.

Pourtant, rappelle Josh Dzieza, à l’origine, les systèmes de notation initiés par eBay ont d’abord été décrits comme des moyens pour établir la confiance entre usagers. Nous n’en sommes plus là.

Pour Joshua Gans, économiste à l’université de Toronto, « Uber et Airbnb sont en fait certains des écosystèmes les plus réglementés au monde ». Tout le monde y est surveillé en permanence par un système de jugement croisé, sans mesurer très bien le pouvoir que le système technique exerce puisque chacun n’en voit que sa part. L’évaluation mutuelle cache pourtant bien souvent un réel déséquilibre, souligne Josh Dzieza : il n’y a que celui qui travaille ou qui rend le service qui dépend de la note que lui donnent les clients. Travailleurs et clients sont soumis à des normes de notation différentes. Chez Uber, les chauffeurs sont remerciés quand leur note tombe en dessous de 4,6/5, mais ce n’est jamais le cas des clients. Et si les chauffeurs peuvent refuser des clients mal notés, ils peuvent être remerciés s’ils le font trop souvent. L’asymétrie d’information de ces systèmes de notation est fréquente. Sur Handy ou Task Rabbit, les évaluations des clients ne sont pas accessibles aux travailleurs à la tâche. Un déséquilibre d’information que chacun tente de contourner, mais qui génère au final beaucoup de névrose chez celui qui sera sanctionné au moindre faux pas. « L’évaluation permanente aboutit à une convivialité sous contrainte » forçant les employés à sourire, à se comporter comme des domestiques. Un chauffeur musulman plaisantait à moitié en constatant que sa note baissait à mesure que sa barbe s’allongeait, malgré ses qualités de conduite et sa gentillesse et qu’un chauffeur plus brutal de ses connaissances, mais blanc, avait invariablement de meilleures notes que lui. Un autre chauffeur raconte qu’un matin, il a été désactivé pour avoir refusé la veille un passager qui voulait boire de l’alcool dans sa voiture, alors que les chauffeurs sont encouragés à le faire… Sur Task Rabbit, les travailleurs ne sont pas désactivés, mais si leurs notes ne sont pas bonnes, ils n’ont accès qu’aux emplois les moins bien rémunérés.

Comment contrôler ou contre-balancer les jugements des clients ?

Ces systèmes de notation sont des systèmes disciplinaires, explique le professeur Arun Sundararajan. Les moins bien notés ont moins de travail et gagnent moins que les autres. Si les clients ont toujours eu beaucoup de pouvoir, ce qui est nouveau c’est la facilité avec laquelle ils peuvent donner leur avis et le fait que ceux-ci prennent le pas sur toute évaluation managériale, estime le professeur Benjamin Sachs. Or dans les organisations traditionnelles, les managers ont un certain degré d’appréciation des réclamations clients et ils ont des obligations légales envers leurs employés. « Une grande part de l’histoire syndicale s’est concentrée sur la lutte contre les décisions arbitraires. Une direction ne peut licencier quelqu’un parce qu’elle ne l’aime pas ou parce qu’il a un « drôle de regard ». Les syndicats imposent des règles pour mettre en place des dispositions visant à réduire le pouvoir managérial. Mais comment contrôler les jugements des clients ? » Sur son site, le professeur Sachs, estime que le classement des chauffeurs par les clients conduit à des pratiques discriminatoires, c’est-à-dire que la plateforme de Uber fournit un mécanisme pour traduire les biais des clients en décisions discriminatoires. Invitant la plateforme à introduire des mécanismes pour compenser ces biais par exemple sous forme d’une autre notation de qualification (pouvant prendre en compte par exemple des critères que la base calcule, comme la ponctualité, l’ancienneté, etc.).

Reste que les systèmes de notation par les clients sont tellement efficaces pour organiser et discipliner les travailleurs que nul ne semble pouvoir croire qu’ils ne vont pas se propager. « Comment s’assurer autrement qu’un million de conducteurs font bien leur travail », questionne Gans. Les travailleurs avec lesquels a échangé Josh Dzieza ne sont d’ailleurs pas pour leur suppression, mais pour leur amélioration. Certains voudraient que les notes soient plus transparentes encore, d’autres voudraient pouvoir les contester, d’autres encore mieux faire comprendre aux clients leurs conséquences… Mais ces changements nécessiteraient de mettre en place des départements de ressources humaines plus conséquents. Pour Kati Sipp (@KatiSipp), la responsable de Hack The Union, un site qui réfléchit et agit pour transformer les syndicats Américains et les adapter aux règles professionnelles du XXIe siècle, une autre solution pourrait être que les travailleurs se saisissent eux-mêmes des outils de réputation. Et si les travailleurs possédaient leurs notes ? Et si les notations d’une plateforme pouvaient aussi en alimenter une autre ? Les notes ne sont-elles pas la principale caractéristique qui rend ces plateformes monopolistiques ?

Pour l’investisseur Albert Wenger (@albertwenger), la portabilité de la réputation est une solution partielle à la puissance des plateformes, explique-t-il en se demandant si le remède ne risque pas d’être pire que le mal, comme l’a montré la plateforme Peeple permettant de noter n’importe qui selon trois critères (personnel, professionnel et amoureux), qui a disparu aussi vite qu’elle est apparue. En attendant, il est peu probable que ces entreprises ouvrent leurs données de réputation, à moins d’y être contraintes.

Pour Josh Dzieza, les clients doivent aussi penser à leur responsabilité dans ces systèmes : ils n’en sont pas seulement les clients, ils en sont aussi les patrons.

Hubert Guillaud