La conférence Ethics by Design (@designethique) qui se tenait à Saint-Denis début octobre était l’occasion de faire le point sur la conception éthique dans ses multiples acceptions. L’un des fils rouges de ces rencontres, interrogeait la question de l’éthique dans les organisations… Retour sur quelques-unes des présentations, pour tenter de cerner les forces et les limites du sujet.

Éthique, la démocratie en entreprise ?

Dans une table ronde qui introduisait la question de l’éthique dans les organisations, le philosophe Stéphane Vial (@svial), faisait quelques salutaires rappels préalables. « L’éthique, c’est l’ensemble des règles qui déterminent le comportement ou l’action ». Ces règles dépendent notamment de valeurs qui peuvent être personnelles, organisationnelles, politiques, etc. « L’éthique est donc faite de dilemmes ». Cette éthique s’inscrit dans des processus, des modèles et des pratiques… qui deviennent éminemment complexes à mesure que les organisations elles-mêmes sont complexes, comme le pointait la chercheuse danah boyd. Il semble donc toujours plus facile d’être éthique quand on est petit, ce qui entre en contradiction avec le fait que tout le monde souhaite avoir un impact à grande échelle. « Comment garder ses buts éthiques initiaux quand une structure grandit, quand elle gagne trop d’argent ? », questionne Stéphane Vial. Trop souvent, le design agit sur le registre des moyens, des outils… plus que sur la finalité. Or celle-ci aussi se doit d’être interrogée par le design estime le philosophe.

Pour la chercheuse Marie-Julie Catoir-Brisson (@MJcatoir) du laboratoire Projekt de l’université de Nimes et du projet Som’Health (un projet de recherche sur l’amélioration de la prévention, la prise en charge et le suivi des troubles du sommeil), il est difficile de prendre en compte à la fois les questions éthiques qui reposent sur la techno, sur la conception, sur l’organisation des organisations… Pourtant, c’est dans tous les process et dans tous les processus qu’il faut trouver des réponses éthiques. Les questions éthiques se posent donc tout le temps, partout, à chaque instant et de manière dynamique. C’est assurément ce qui en fait une question difficile et une question importante.

Reste que quand elles n’appliquent pas des réponses éthiques toutes faites, nombre d’entreprises se parent des oripeaux de leurs vertus. Mais bien souvent, la question éthique devient d’autant plus béante qu’il y a un décalage fort entre le discours et la réalité.

C’est sur ce fossé que travaille la doctorante Margaux Langlois (@mechagow), qui s’intéresse à la démocratie dans l’entreprise. « Bien souvent, on estime que la démocratie est éthiquement supérieure, pourtant nous peinons à l’appliquer dans les organisations. D’où vient cette différence entre théorie et réalité ? »

Le gouvernement par le peuple s’organise selon 3 principes fondateurs, rappelle la chercheuse, à savoir la participation des membres aux décisions qui les concerne, la liberté individuelle d’action ou de participation et une égalité de statut entre les membres. De son côté, la question de la démocratie au travail ne se résume pas aux entreprises libérées. Dès les années 30, on commençait à se poser des questions sur le management participatif. Dans les années 50, de grandes entreprises, comme Volvo en Suède, ont cherché à organiser des équipes autonomes. Dans les années 70, les pays scandinaves ont imaginé la « démocratie industrielle », initiant les participations des salariés au conseil d’administration, les délégués du personnel ou les comités d’entreprises… Depuis les années 2000, ce sont les entreprises libérées, les formes holacratiques ou sociocratiques et l’économie des plateformes qui drainent ce mouvement, en valorisant la participation et l’autonomie des salariés (voir notamment nos articles L’autogouvernance peut-elle devenir un modèle de société ? et notre dossier Vers des organisations du travail humaines). Reste qu’il demeure bien souvent un écart entre la volonté démocratique et sa réalité. La chercheuse rapporte ainsi l’exemple d’une Scoop, sans hiérarchie ni organigramme, mais où les membres reconnaissaient pourtant qu’une hiérarchie s’impose de fait. Dans cette structure, l’égalité elle-même avait des limites. Les stagiaires par exemple avaient moins de droits que les autres. Mais pas seulement : la hiérarchie informelle restait liée à l’ancienneté dans l’organisation et au niveau de compétence perçus, au détriment des nouveaux qui avaient du mal à se faire entendre. Pour Margaux Langlois, il y a là une tension entre l’éthique de l’entreprise et l’éthique de la démocratie qu’on retrouve souvent dans les organisations. D’un côté on favorise la hiérarchie et la domination et de l’autre pas. Si on peut comprendre qu’il y ait des limites au partage de pouvoir, reste qu’elles ne peuvent pas se justifier par des contradictions qui demeurent non explicites.

Image : Margaux Langlois sur la scène d’Ethics by Design, photographié par Marie-Julie Catoir-Brisson.

La chercheuse évoque ensuite un autre de ses terrains, une communauté en ligne où membres, sympathisants et quelques rares salariés sont censés partager la gouvernance d’une organisation. Dans les faits pourtant, la communauté partage peu de règles explicites sur son fonctionnement. Les relations informelles semblent la règle. On y valorise la liberté d’entreprendre, qui ressemble plus à une injonction, mais qui n’est définie par aucune limite en terme de droits ou de devoirs. Qui est légitime pour parler ou être critique ? Au final, constate la chercheuse de son travail sur cette organisation, la démocratie se révèle plutôt excluante qu’autre chose.

Historiquement, la démocratie a longtemps été élitiste (censitaire). C’est encore le cas parfois. Dans bien des entreprises démocratiques, la démocratie tient plus du régime monarchique éclairé que de la démocratie. Le management participatif « sert » parfois à faire adhérer aux innovations proposées par le « despote éclairé ». « Offrir un permis de voter ne signifie pas vraiment toujours offrir un choix ». Il n’est pas rare ainsi que sous prétexte d’insuffler plus de démocratie, s’impose des dispositifs ou des méthodes qui ne sont pas choisies démocratiquement…

Plusieurs formes de démocratie organisationnelles existent. On distingue notamment une démocratie représentative (sur le mode de l’élection) qui donne les coopératives. La démocratie participative (sur le mode de la participation directe) qui donne l’entreprise libérée. La démocratie délibérative (qui valorise la délibération et la décision par consensus) : qui est plutôt du type sociocratique. Derrière ces formes variées, elles répondent à plusieurs critères : à savoir un système de gouvernance qui valorise à la fois des objectifs personnels et organisationnels, qui valorise les contributions et la politique d’organisation et qui valorise l’alignement entre l’individu et le collectif et le fait de modifier collectivement les objectifs.

La question de l’éthique interroge le jugement de valeur lui-même. Les exemples rapidement esquissés soulignent les dérives de ce qu’il y a d’informulé dans le pouvoir, l’écart entre le discours affiché et la réalité des pratiques. Or, bien souvent, on voudrait qu’une opinion soit légitimée pas tant par la qualité de la personne qui l’énonce, mais par le nombre de personnes qui la défendent. « L’éthique nécessite aussi de prendre en compte un principe qui n’est pas nécessairement affiché derrière les idéaux de participation, de liberté et d’égalité : celui de la subjectivité ». Pour Margaux Langlois, la démocratie en entreprise n’est pas un principe si simple à plaquer sur une organisation. Elle pose aussi des questions sur la souveraineté et la propriété des moyens de production, sur le rôle des actionnaires, sur le temps démocratique… « Les principes démocratiques ne sont pas magiques ! » Dans certaines organisations, ils permettent de couvrir le fait que rien n’avance, car nul n’est en situation de force. Le système démocratique doit convenir aux finalités, et il ne peut peut-être pas s’appliquer à tous les champs d’intervention de l’entreprise. Reste à délimiter clairement ce qui relève de la démocratie dans les organisations et ce qui n’en relève pas. C’est certainement sur ce point qu’il y a des progrès à faire !

L’éthique : c’est s’intéresser aux formes concrètes

Le grand écart entre le discours et les pratiques, c’est également ce que constate le designer Xavier Figuerola (@xavierfiguerola), du collectif VraimentVraiment (@vrmtvrmt, blog). VraimentVraiment est une agence qui travaille particulièrement sur et pour les organisations publiques. Leurs activités vont par exemple de la conception de stratégies d’accueil pour un centre des impôts à l’heure de la dématérialisation (un travail réalité pour la Direction générale des Finances publiques qui s’adressait notamment aux publics éloignés du numérique), à des travaux réalisés avec des allocataires du RSA pour le CD76… Ces travaux s’intéressent donc à des artefacts spécifiques qui bien souvent, concrètement, incarnent les politiques publiques. « La particularité des objets qui incarnent les politiques publiques est que quand ils sont ratés, ils impactent tout de même des publics et notamment des publics en difficulté ». Et ce, alors que l’acteur public a pour principe fondamental d’accompagner tout le monde.

Image : Xavier Figuerola sur la scène d’Ethics by Design, photographié par Stéphane Vial.

Pour Xavier Figuerola, ce travail s’intéresse à la complexité même que sont les objets des organisations publiques… À l’image du travail du photographe Jan Banning qui a pris des images de la réalité de la bureaucratie à travers le monde, l’enjeu consiste également à montrer les personnes et les complexités qui font les politiques publiques. Si les organisations publiques portent des valeurs comme la défense de l’intérêt général, leur mise en oeuvre se révèle souvent complexe et lourde, ce qui conduit parfois à échouer ou ne pas délivrer jusqu’au bout les valeurs qu’elles portent. Pour Xavier Figuerola, c’est là qu’intervient le « design des politiques publiques, pour relier les discours, les valeurs, et la politique telles qu’elles s’incarnent au quotidien.

Tout le monde connaît par exemple les Conseils de quartier, ces dispositifs de participation qui ont pour but de construire avec les habitants les politiques des villes. Via ces dispositifs, on invite les habitants à la table de la conception. Si le message est « fort et beau », son rendu opérationnel sur le terrain pose bien souvent question. Souvent, il s’incarne dans des réunions tardives, où des élus et des techniciens viennent parler à des habitants plus que les écouter. Dans leur mode d’organisation même, ces dispositifs mettent de côté nombre de publics, comme les jeunes, les parents, ceux qui maîtrisent mal la langue et le discours… « La manière même dont s’incarne le dispositif génère du non recours et fait que ceux qui devraient prendre la parole ne la prennent pas ».

Le RSA est un dispositif complexe. Pour y avoir recours, il faut passer des étapes nombreuses et compliquées. Devenir allocataire est difficile notamment du fait de devoir gérer des courriers et des demandes provenant d’administrations très différentes. Au final, 50 % des personnes qui pourraient en bénéficier n’ont pas recours au RSA. « Le RSA ne répond pas à l’enjeu d’inclusivité qui est le sien ! »

Xavier Figuerola est pragmatique. Le problème n’est pas dans les valeurs ou dans l’éthique, mais dans leurs incarnations : comment les rendre concrètes de bout en bout ? Comment maintenir le sens des projets, de l’analyse qui les décide à leur mise en oeuvre effective ? Comment rendre l’éthique concrète ?

En guise de réponse, le designer propose plusieurs pistes, fruit de l’expérience de l’agence. La première consiste bien sûr à s’intéresser à la forme concrète des politiques. « Trop souvent, on rencontre une négligence (quand ce n’est pas un mépris) pour la forme ». Le Conseil de quartier par exemple se reproduit sans toujours interroger la manière dont le dialogue est institué. Il reproduit des postures de pouvoir habituelles, sans interroger l’absence de certains publics ou la verticalité du dialogue orchestré. Que se passerait-il s’il avait lieu au marché ? Ou s’il se faisait à la sortie du lycée ? Il est nécessaire de réinventer le processus de dialogue lui-même, les moments de rencontres, les lieux, la forme même de la rencontre… Ce mépris de la forme est particulièrement présent dans les formulaires et courriers. Ces objets administratifs, très normés, soulignent, dans la façon même dont ils sont conçus, que certains peuvent les consulter et d’autres les remplir. « Le formulaire n’est pas neutre ! » Celui du RSA par exemple raconte plus un contrôle qu’un accompagnement social. L’agence a ainsi travaillé sur un formulaire, pour en faire un objet de négociation entre le demandeur et le demandant, pour en faire un objet de suivi entre un travailleur social et un allocataire et remettre de la confiance plutôt que du contrôle.

Image : Proposition de l’agence Vraiment Vraiment pour transformer le formulaire du RSA, image extraite de la présentation de Xavier Figuerola.

Pour Xavier Figuerola, « la forme est un niveau d’intervention trop souvent oublié ». « Anticiper la façon dont les politiques publiques s’incarnent au quotidien permet de penser des objets plus en phase avec les politiques qu’elles mettent en oeuvre ». Reste, prévient le designer, que faire de très belles formes sur des objets qui n’ont pas de fonds, ne suffira pas à leur donner du sens. La forme donne du sens, pour autant qu’il y ait du fond !

Un autre constat d’amélioration consiste à inclure les usagers au bon moment. « Beaucoup de projets viennent vers le design pour créer de la participation et des cadres de collaboration. Et effectivement, inclure les usagers à la conception permet de construire des cahiers des charges plus pertinents » Le risque est que les démarches participatives deviennent une mode au détriment de la promesse qu’elles portent. Beaucoup des commanditaires publics qui viennent chercher l’agence le font avec une appétence pour faire participer les publics, que ce soit par souci démocratique ou par souci de vouloir paraître innovant… Reste que si inclure les usagers dans certaines étapes de la conception est pertinent, inclure tout le monde en permanence contribue plutôt à créer des cahiers des charges mous ou obèses, des ensembles de doléances qui ne font pas projet. Les projets ont besoin d’être pilotés ! Il faut savoir régler quand la participation apporte et quand elle dessert. « Les usagers ne sont pas des designers. Les usagers sont experts de leurs usages certes, mais ne sont pas pour autant des concepteurs. À trop en faire, le risque est de piloter de belles démarches, sans en faire de bonnes !

L’autre valeur sur laquelle insister pour que le sens demeure consiste à « faire remonter le terrain le plus haut possible ». En fait, l’administration a beaucoup d’information sur ses usagers. Cette sur-connaissance laisse entendre qu’elle les connaît bien. Mais les outils statistiques qu’elle utilise projettent des moyennes plus que des personnes. Beaucoup d’information n’aide pas nécessairement à comprendre. Les Big data font disparaître la réalité des usagers derrière les services, alors qu’il est nécessaire de les rendre à nouveau visibles. Xavier Figuerola montre ainsi la photo d’une volumineuse boîte d’archive. C’est le dossier de demande d’allocation d’une personne en perte d’autonomie. Une valise de 4,5 kilos de papiers de démarches. Pour le designer, réincarner la question des usagers est primordiale pour la faire remonter jusqu’aux directions, jusqu’à ceux qui sont au pilotage stratégique des projets. Le terrain permet toujours de comprendre ce qui est pertinent de ce qui ne l’est pas.

Une autre modalité qui permet de conserver l’éthique des projets consiste à construire de nouvelles représentations. Dans les approches qu’utilise Vraiment Vraiment, le récit pour imaginer des futurs possibles permet de faire réagir sur des choix stratégiques, de questionner les organisations publiques. En cela, la fiction n’est pas un exercice hors sol, elle permet d’envisager autrement les sujets.

Enfin, dernier levier, mais non des moindres : il est nécessaire d’embarquer les agents, les partenaires et les directions dans ces exercices. « Faire des projets ne transforme pas ». Il faut aussi parvenir à changer les approches, les équipes elles-mêmes. Ce travail d’accompagnement est un processus qui vise, derrière les projets portés, à accompagner les organisations dans leur transformation, à trouver de nouveaux positionnements. C’est tout le travail du programme la Transfo de la 27e région que l’agence accompagne : construire des laboratoires dans les organisations pour créer de l’innovation en interne. Cela passe par des modalités de travail, des rôles à réinventer pour permettre à différents services par exemple de travailler ensemble. Et cet accompagnement méthodologique a souvent plus d’impact que le projet lui-même. Pour cela, il faut accepter qu’un projet ait parfois une portée limitée, au profit d’un cadre de travail apprenant.

L’enjeu au final consiste surtout à respecter les valeurs, à les rendre opérationnelles jusqu’au bout. Reste que transformer les organisations n’est pas facile. Trop souvent, les organisations publiques rangent ce type d’interventions dans les prestations : une logique simple qui n’aide pas toujours à inventer un cadre de collaboration différent, à dépasser le projet pour lui-même…

Comment être une entreprise éthique ?

Guillaume Champeau (@gchampeau), directeur éthique et juridique du moteur de recherche Qwant, pose des questions similaires : la question éthique est-elle compatible avec le modèle d’affaire d’une entreprise ?

S’interroger sur l’éthique d’un moteur de recherche consiste à identifier les responsabilités inhérentes à un service de ce type. Un moteur de recherche donne accès à l’information… Sa première responsabilité consiste donc à ne pas restreindre les résultats et à assurer la liberté d’expression de ceux qui l’utilisent comme de ceux qu’il référence. Cela implique de choisir quelles informations sont mises en avant dans les recettes algorithmiques du moteur, quand toutes les requêtes sont automatisées et appliquent partout les mêmes méthodes. Quel résultat renvoie une requête ? Qui donne la bonne information ? La question des contenus illicites pourrait paraître assez simple, puisque ceux-ci sont définis assez clairement : il suffirait de supprimer les contenus qui font l’apologie du terrorisme, de la pédopornographie, ou qui contreviennent au droit d’auteur… Le problème, c’est que ces définitions achoppent vites sur des zones grises, à la frontière du licite et de l’illicite. Sans compter qu’il faut aussi appliquer des lois locales : si on a recours à Qwant en Russie, en Chine ou en Turquie, quelles lois appliquer ?… Les zones grises sont innombrables, pointe Guillaume Champeau. Faut-il indexer tel ou tel site ? Qui décide de ce qu’est une fake news ? Que faire des contenus choquants ou violents qui ne ressortent pas clairement des contenus illicites ? Quand on créé un moteur de recherche dédié pour les enfants, comme Qwant Junior, certain nous reproche de faire du filtrage… Comment mettre en avant ses propres services – comme le service de cartographie que prépare Qwant – dans les résultats de recherche ? Comment distinguer les résultats d’indexation des partenariats commerciaux ?… Travailler aux questions éthiques que posent les résultats d’un moteur de recherche semble poser bien plus de questions difficiles que d’apporter des solutions simples, à en croire les captures d’écrans de requêtes sur Qwant que montre Guillaume Champeau. Sans compter que, demander aux plateformes de résoudre cette zone grise est compliquée souligne-t-il très pertinemment, « Plus on va demander aux plates-formes comme Qwant ou les Gafam de se faire juge à la place du juge, régulateur à la place du régulateur, moins on aura de liberté d’expression ».

Par nature, les moteurs de recherche collectent de l’information sur leurs utilisateurs, du fait même des questions que les utilisateurs posent. Or, on peut déduire beaucoup de choses depuis leurs requêtes. Quand on enregistre les requêtes des utilisateurs, on sait rapidement tout de lui : ses idées politiques, son niveau de revenu, son niveau socioculturel, ses goûts, etc. La mission de Qwant n’est pas de collecter ce type d’information. « Pour nous, la souveraineté individuelle est primordiale et se situe entre la vie privée et la liberté d’expression et d’information des utilisateurs ». Cette question de souveraineté n’est pas anodine : « personne ne doit exploiter ce que vous faites sur internet, plus vous reprenez la main sur vos données plus vous êtes souverain dans vos choix ». Ce n’est pas le positionnement de tous les moteurs, rappelle Guillaume Champeau en égratignant son principal concurrent. Google sait ce que vous cherchez, à qui vous écrivez, où vous aller, ce que vous avez prévu de faire (agenda), sait avec qui vous partagez vos documents… Via l’étendue de sa gamme d’outils, du mobile aux enceintes connectées, il connaît la composition de votre foyer, votre rythme de vie, etc. Le principe de Qwant est inverse : « on ne veut pas savoir ! » Pour cela, le moteur développe des services sans collecte d’information, sans cookies, sans historiques de recherche… où les recherches sont chiffrées par défauts, où les journaux des connexions des utilisateurs sont anonymisés… Cela suppose un travail technique nécessitant de déployer des infrastructures propres et de mettre en place une galaxie de services basés sur ces principes.

Image : Guillaume Champeau, sur la scène d’Ethics by Design, qui explique tout ce que Google sait de nous, photographié par Yaël Benayoun.

Si Qwant se pose des questions éthiques, reste que le moteur est avant tout un service commercial. Qwant propose des publicités sans ciblage des profils : elles sont simplement liées aux requêtes que vous tapez dans le moteur. C’est un modèle qui reste assez efficace. Aujourd’hui, 80 % des revenus liés à la publicité en ligne ne sont pas le fait de publicités personnalisées. Google ne gagne que 10 à 20 % de revenus de plus par la publicité ciblée, ce qui signifie suggère-t-il qu’ils pourraient très bien vivre sans…

Pour Guillaume Champeau, l’éthique est une contrainte créatrice qui permet de se distinguer de la concurrence, de proposer un service différent, de porter des valeurs différentes dans un monde qui a besoin de diversité. Cela se traduit dans le poste qu’occupe Guillaume Champeau depuis 2016. Le directeur de l’éthique dispose ainsi d’un droit de veto sur les projets et leur intégration, est intégré au comité de direction et est interlocuteur de toutes les équipes. Au quotidien, cela consiste à observer les innombrables questions que remontent les utilisateurs, prendre des décisions au cas par cas et aussi décider de politiques globales. Reste que la fonction a permis d’inscrire les valeurs que portait le fondateur de Qwant dans le cahier des charges de tous les projets de l’entreprise…

En tout cas, la difficulté à faire se rejoindre le discours éthique et les pratiques n’est pas si simple. C’est une oeuvre de longue haleine dans un océan de difficultés. À défaut de grands principes, beaucoup oeuvrent à résoudre chaque défi problème après problème, embûche après embûche. Patiemment. Courageusement. Il n’y a définitivement pas de solution éthique magique !

Hubert Guillaud