Sur son blog, John Robb (@johnrobb), spécialiste du terrorisme et des nouvelles formes de guerre, est revenu sur l’affaire d’United Airlines. Pour rappel, la vidéo de l’évacuation violente d’un passager d’un avion d’United Airlines le 10 avril 2017 a choqué le monde entier et a même provoqué un décrochage du cours de la compagnie comme le soulignaient Les Echos, notamment liée à la très mauvaise gestion de crise par l’entreprise.

Pour Robb, l’incident est un très bon exemple d’une décision algorithmique rigide et autoritaire et de comment elle peut créer des catastrophes pour les entreprises à l’heure des réseaux sociaux.

Robb rappelle d’abord ce qu’il s’est passé. Contrairement à ce qu’on a entendu, le vol n’était pas surbooké. A Louisville, 4 agents d’United Airlines se sont présentés pour prendre l’avion au dernier moment, or, l’algorithme de réservation d’UA leur a donné priorité et a proposé à plusieurs passagers de changer de vol en leur proposant une compensation financière élevée. Cette proposition a été faite en fonction du statut de fidélisation des clients, des correspondances disponibles, du prix du billet… en ciblant les 4 clients les moins prioritaires pour l’entreprise. Ce n’était donc pas un tirage au sort aléatoire, mais une sélection discrétionnaire demandant de façon claire et explicite à certains voyageurs de reporter leurs vols. L’équipage a donc approché les passagers sélectionnés par l’algorithme pour leur proposer de changer de vol. Trois des personnes ont obtempéré, la quatrième a refusé. Depuis les mesures prises par les compagnies aériennes suite au 11 septembre, les passagers ne peuvent refuser les instructions de l’équipage. Face au refus du dernier passager, l’équipage a alors demandé l’aide de la police de l’aéroport pour réitérer sa demande, sans succès et celle-ci a alors décidé d’évacuer la personne. C’est la vidéo de cette évacuation particulièrement violente qui s’est propagée sur les réseaux sociaux, aggravée par le fait que le PDG d’UA ait, après avoir regretté cette situation, a rappelé que le respect de la procédure avait bien eu lieu, malgré la violence.

Plus qu’une guerre des classes que dénonçait un peu rapidement Paul Constant sur CiviSkunk, pour Robb, l’un des problèmes vient notamment du fait que les employés de UA aient suivi aveuglément la décision de l’algorithme de l’entreprise. Et que celle-ci s’est révélée rigide et inflexible. En fait, cela a donné l’impression que le processus logique était inévitable. Pour Robb, cette histoire est une parfaite illustration de l’autoritarisme qui régit les décisions algorithmiques et qui s’imposent aux hommes. Pour lui, l’histoire montre que les organisations doivent améliorer leurs réponses et notamment que les entreprises ont besoin de soupapes pour échapper aux décisions des systèmes. « Si un processus algorithmique se révèle incorrect, il faudrait permettre aux utilisateurs de trouver une solution alternative », même non prévue par le système. Cela montre également que les entreprises doivent faire un effort pour éviter l’escalade autoritaire des décisions automatiques qui ne peut que conduire à des réactions violentes. Pour lui, les organisations les plus agiles doivent trouver des moyens de dissocier les décisions commerciales de l’escalade autoritaire, par exemple en augmentant les incitations comportementales volontaires, à l’image de la prime offerte à ceux qui reporteraient leur vol qui aurait pu être augmentée ou proposée à d’autres passagers. Enfin, les organisations agiles doivent admettre leurs échecs et reconnaître que les solutions automatiques ne sont pas toujours parfaites. Pour l’instant, United a décidé d’introduire une nouvelle règle dans son algorithme soulignait Le Figaro : celle d’empêcher le personnel d’United de prendre des places une fois que l’embarquement a été fait. Effectivement…