Qui des algorithmes ou des clients seront nos nouveaux patrons ?

L’année dernière, la société hongkongaise Deep Knowledge Venture a nommé un algorithme à son conseil d’administration, rapportait notamment le Huffington Post. L’algorithme, développé par Aging analytics, avait pour mission d’analyser les résultats prévisionnels des sociétés dans laquelle la société d’investissement en capital risque envisageait d’investir. Cette préfiguration du nouveau rôle des données dans la prise de décision va-t-elle aller encore plus loin ?

Les robots ne nous volent pas notre travail, ils deviennent nos patrons !

C’est ce que suggère Elizabeth Dwoskin pour le Wall Street Journal. Travis Kalanick, le PDG de Uber, s’est souvent défendu du fait que Uber n’était pas le patron de ses chauffeurs, rappelle-t-elle : l’algorithme d’Uber est le vrai patron des chauffeurs.

Un passionnant article de recherche signé Alex Rosenblat (@mawnikr) et Luke Stark (@luke_stark) du Data & Society Research Institute souligne que Uber utilise son logiciel pour exercer un contrôle sur ses chauffeurs équivalent à celui qu’accomplirait un manager humain. L’algorithme de la société utilise des indicateurs de performance, des systèmes de planification, des suggestions de comportement, une tarification dynamique et l’asymétrie d’information “comme substitut au contrôle managérial direct”.

uber-appnotation

En fait, résume la journaliste : « les robots ne sont pas tant en train de voler votre travail, que de devenir votre patron. Et les niveaux de contrôle et de surveillance qu’ils exercent sont souvent plus importants que ceux exercés par des managers humains ».

Les entretiens avec les chauffeurs qu’ont réalisés les chercheurs montrent que ceux-ci tentent de résister de multiples manières aux injonctions algorithmiques dont ils sont les destinataires, notamment en essayant de tromper le système sur leur position ou leur disponibilité. Mais, un environnement dans lequel Uber dispose de toute l’information, de manière asymétrique, rend difficile pour les pilotes de prendre des décisions qui sont dans leur intérêt, expliquent les chercheurs. Si l’entreprise ne demande jamais aux chauffeurs de prendre le volant, le logiciel le fait pour elle. Pour les chercheurs, le logiciel de Uber n’est pas passif, mais manipule l’offre de travail et façonne complètement le marché, avec les mêmes critères qu’un management traditionnel. Une relation asymétrique qui profite à l’entreprise et au client, expliquent-ils en détaillant les fonctionnalités du logiciel de la société de location de voiture avec chauffeurs à la demande.

En fait, si l’algorithme est le nouveau directeur des ressources humaines, les clients sont les cadres intermédiaires chargés de surveiller les chauffeurs, réalisant une externalisation inédite du management.

Systèmes de notation ou systèmes disciplinaires ?

Pour Josh Dzieza sur The Verge, l’économie collaborative a brouillé les rôles de l’employeur et de l’employé d’une façon telle que les tribunaux et le régulateur peinent à analyser. « Les systèmes de notation ont transformé les clients en cadres intermédiaires involontaires et parfois involontairement impitoyables. Ils se révèlent souvent bien plus efficaces que les cadres d’entreprises que ces entreprises pourraient vouloir embaucher ». Hypersensibles à la moindre erreur, l’algorithme n’a plus qu’à s’adapter à leur moindre jugement. L’évaluation déportée sur les clients permet bien sûr de diminuer le coût du service en faisant disparaître le management intermédiaire. Pour le juge Edward Chen les notations des clients ne sont pas qu’un outil de rétroaction, mais représentent un nouveau niveau de contrôle.

Pourtant, rappelle Josh Dzieza, à l’origine, les systèmes de notation initiés par eBay ont d’abord été décrits comme des moyens pour établir la confiance entre usagers. Nous n’en sommes plus là.

Pour Joshua Gans, économiste à l’université de Toronto, « Uber et Airbnb sont en fait certains des écosystèmes les plus réglementés au monde ». Tout le monde y est surveillé en permanence par un système de jugement croisé, sans mesurer très bien le pouvoir que le système technique exerce puisque chacun n’en voit que sa part. L’évaluation mutuelle cache pourtant bien souvent un réel déséquilibre, souligne Josh Dzieza : il n’y a que celui qui travaille ou qui rend le service qui dépend de la note que lui donnent les clients. Travailleurs et clients sont soumis à des normes de notation différentes. Chez Uber, les chauffeurs sont remerciés quand leur note tombe en dessous de 4,6/5, mais ce n’est jamais le cas des clients. Et si les chauffeurs peuvent refuser des clients mal notés, ils peuvent être remerciés s’ils le font trop souvent. L’asymétrie d’information de ces systèmes de notation est fréquente. Sur Handy ou Task Rabbit, les évaluations des clients ne sont pas accessibles aux travailleurs à la tâche. Un déséquilibre d’information que chacun tente de contourner, mais qui génère au final beaucoup de névrose chez celui qui sera sanctionné au moindre faux pas. « L’évaluation permanente aboutit à une convivialité sous contrainte » forçant les employés à sourire, à se comporter comme des domestiques. Un chauffeur musulman plaisantait à moitié en constatant que sa note baissait à mesure que sa barbe s’allongeait, malgré ses qualités de conduite et sa gentillesse et qu’un chauffeur plus brutal de ses connaissances, mais blanc, avait invariablement de meilleures notes que lui. Un autre chauffeur raconte qu’un matin, il a été désactivé pour avoir refusé la veille un passager qui voulait boire de l’alcool dans sa voiture, alors que les chauffeurs sont encouragés à le faire… Sur Task Rabbit, les travailleurs ne sont pas désactivés, mais si leurs notes ne sont pas bonnes, ils n’ont accès qu’aux emplois les moins bien rémunérés.

Comment contrôler ou contre-balancer les jugements des clients ?

Ces systèmes de notation sont des systèmes disciplinaires, explique le professeur Arun Sundararajan. Les moins bien notés ont moins de travail et gagnent moins que les autres. Si les clients ont toujours eu beaucoup de pouvoir, ce qui est nouveau c’est la facilité avec laquelle ils peuvent donner leur avis et le fait que ceux-ci prennent le pas sur toute évaluation managériale, estime le professeur Benjamin Sachs. Or dans les organisations traditionnelles, les managers ont un certain degré d’appréciation des réclamations clients et ils ont des obligations légales envers leurs employés. « Une grande part de l’histoire syndicale s’est concentrée sur la lutte contre les décisions arbitraires. Une direction ne peut licencier quelqu’un parce qu’elle ne l’aime pas ou parce qu’il a un « drôle de regard ». Les syndicats imposent des règles pour mettre en place des dispositions visant à réduire le pouvoir managérial. Mais comment contrôler les jugements des clients ? » Sur son site, le professeur Sachs, estime que le classement des chauffeurs par les clients conduit à des pratiques discriminatoires, c’est-à-dire que la plateforme de Uber fournit un mécanisme pour traduire les biais des clients en décisions discriminatoires. Invitant la plateforme à introduire des mécanismes pour compenser ces biais par exemple sous forme d’une autre notation de qualification (pouvant prendre en compte par exemple des critères que la base calcule, comme la ponctualité, l’ancienneté, etc.).

Reste que les systèmes de notation par les clients sont tellement efficaces pour organiser et discipliner les travailleurs que nul ne semble pouvoir croire qu’ils ne vont pas se propager. « Comment s’assurer autrement qu’un million de conducteurs font bien leur travail », questionne Gans. Les travailleurs avec lesquels a échangé Josh Dzieza ne sont d’ailleurs pas pour leur suppression, mais pour leur amélioration. Certains voudraient que les notes soient plus transparentes encore, d’autres voudraient pouvoir les contester, d’autres encore mieux faire comprendre aux clients leurs conséquences… Mais ces changements nécessiteraient de mettre en place des départements de ressources humaines plus conséquents. Pour Kati Sipp (@KatiSipp), la responsable de Hack The Union, un site qui réfléchit et agit pour transformer les syndicats Américains et les adapter aux règles professionnelles du XXIe siècle, une autre solution pourrait être que les travailleurs se saisissent eux-mêmes des outils de réputation. Et si les travailleurs possédaient leurs notes ? Et si les notations d’une plateforme pouvaient aussi en alimenter une autre ? Les notes ne sont-elles pas la principale caractéristique qui rend ces plateformes monopolistiques ?

Pour l’investisseur Albert Wenger (@albertwenger), la portabilité de la réputation est une solution partielle à la puissance des plateformes, explique-t-il en se demandant si le remède ne risque pas d’être pire que le mal, comme l’a montré la plateforme Peeple permettant de noter n’importe qui selon trois critères (personnel, professionnel et amoureux), qui a disparu aussi vite qu’elle est apparue. En attendant, il est peu probable que ces entreprises ouvrent leurs données de réputation, à moins d’y être contraintes.

Pour Josh Dzieza, les clients doivent aussi penser à leur responsabilité dans ces systèmes : ils n’en sont pas seulement les clients, ils en sont aussi les patrons.

Hubert Guillaud

À lire aussi sur internetactu.net

5 commentaires

  1. Je ne suis pas vraiment d’accord avec la grille de lecture patron=algorithme ou patron=clients du problème « Uber », et je suis pas non plus sûr que le cas Uber soit applicable à la majorité des professions (cf. le titre de l’article), mais c’est vrai que leur pratiques manageriales sont complètement abusives. Mon réflexe de Français serait d’adapter le code du travail aux abus rendus possibles par le numérique. Il me semble qu’il y a déjà des clauses qui encadrent la surveillance, comme la vidéo-surveillance des écrans des employés, donc pourquoi pas quelque chose contre la notation par les clients. D’ailleurs à mon sens ici le problème est plus la surveillance abusive que l’absence d’intervention humaine dans l’usage des notations. Les RH peuvent ou non déléguer leur décision à un mécanisme, comme certains le font depuis longtemps avec des feuilles Excel. Qu’ils décident de déléguer 100% de leur travail, c’est leur affaire et c’est je pense rarement au bénéfice de l’entreprise.

  2. @Hadrien : comme tente de le montrer l’article, l’enjeu n’est pas de supprimer ou réguler les notations de clients, mais de faire, dans ces systèmes techniques, que d’autres critères soient pris en compte (ancienneté, régularité, ponctualité, critères réévaluant la discrimination possible, prise en compte de la qualité des commentaires et des commentateurs…). Le problème des systèmes qui ne reposent que sur la notation des clients est qu’ils ne sont pas assez complexes pour moduler la notation. L’algo d’Uber (et d’autres) doit se complexifier 😉

  3. Je comprends la position de l’article, et si l’algo d’Uber pouvait être plus nuancé et plus « intelligent », tant mieux, mais selon moi il y a quand même un grave problème de surveillance, bien plus préoccupant que la surveillance type NSA qui traite essentiellement des masses plutôt que des individus (pour le dire grossièrement : chaque employé d’Uber est affecté dans son quotidien). Peeple s’inscrit dans cette logique aussi et n’est pas loin du « Down and Out in the Magic Kingdom » de Doctorow, même si les comparaisons avec des oeuvres de fiction ont leur limite.

  4. Quand Uber baisse unilatéralement le prix des courses de 20%, c’est une intervention humaine pas d’une machine.

  5. Pour Über, les chauffeurs humains sont une étape. L’étape suivante est le transport de personnes (et pourquoi pas de matériel) via des voitures autonomes, type Google Car mais à bas coût. Ainsi, finies les revendications humaines et salariales.
    Et ce serait encore plus rentable si Über ne possède pas ces voitures autonomes.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *