Sasha Costanza-Chock (@schock), activiste, professeure associée au Laboratoire d’études comparatives sur les médias du MIT et chercheuse associée à la Ligue pour la justice algorithmique (@ajlunited), fondatrice du défunt Codesign Studio du MIT, est l’auteure de Design Justice : community-led practices to build the worlds we need (MIT Press, 2020, non-traduit, disponible en accès ouvert).
Comme son titre l’indique, Design Justice invite à reconcevoir la justice sociale, c’est-à-dire les rapports de pouvoir. Notre conception du monde « trop souvent contribue à la reproduction d’une oppression systémique », explique la chercheuse qui travaille à la rencontre des études sur le numérique et des questions raciales et intersectionnelles (voir également le blog du chercheur Marc Jahjah pour une mise en perspective introductive à ces questions). Nos systèmes encodent des normes, des valeurs et des présupposés. Comme disait Langdon Winner (@langdonw), dans La baleine et le réacteur : les dispositifs techniques sont politiques. C’est l’expérience que vit Sasha Costanza-Chock, qui, du fait de sa transidentité, affole les systèmes de sécurité des aéroports dès qu’elle doit les franchir. Les scanners corporels imposent leurs normativités de genre, de race, de culture, de validité… sans qu’ils soient même questionnés. Comme y invitait Joi Ito, ancien directeur du Media Lab du MIT, dans son manifeste à résister à la réduction, pour Sasha Costanza-Chock, l’approche normative, genrée, raciste, validaire des scanners corporels des aéroports est la règle de développement de la technologie et donc de réduction normative qui reproduit les inégalités structurelles de nos sociétés.
Pour répondre à ces enjeux, Sasha Costanza-Chock développe le concept de Design Justice (qu’il est difficile de traduire, entre « Conception juste » et « justice en matière de design », son but est de remettre les personnes et groupes exclus ou marginalisés par les pratiques créatives ou collaboratives en maîtrise des développements et de la conception des systèmes qui s’appliquent sur eux). Ce terme n’est pas de son fait : il est né d’une communauté de pratique de designers et de militants embarqués dans des mouvements sociaux et des organisations communautaires aux États-Unis et tout autour du monde. À l’issu d’un atelier organisé en 2015 est né le réseau Design Justice (@design__justice) qui a formalisé en 2018 une série d’une dizaine de principes pour une conception plus juste :
- Nous utilisons le design pour soutenir, soigner et donner de la puissance d’agir à nos communautés, ainsi que pour chercher à nous libérer des systèmes d’exploitation et d’oppression.
- Nous remettons au centre les voix de celles et ceux qui sont directement touché.e.s par les résultats du processus de conception.
- Nous privilégions l’impact du design sur la communauté plutôt que les intentions des designers.
- Nous considérons le changement comme émergeant d’un processus responsable, accessible et collaboratif plutôt que comme le point final à l’issue d’un processus.
- Nous considérons le rôle du designer comme celui d’un facilitateur plutôt que comme celui d’un expert.
- Nous croyons que chacun.e est un.e expert.e depuis sa propre expérience et que nous avons tous.tes des contributions uniques et brillantes à apporter au processus de conception.
- Nous partageons les connaissances et les outils de conception avec nos communautés.
- Nous travaillons à des résultats durables, dirigés et contrôlés par la communauté.
- Nous travaillons à des solutions qui ne relèvent pas de l’exploitation et qui nous reconnectent à la terre et les un.e.s aux autres.
- Avant de chercher de nouvelles solutions de conception, nous recherchons ce qui fonctionne déjà au niveau communautaire. Nous honorons et renforçons les connaissances et pratiques traditionnelles, autochtones et locales.
« La justice en matière de design est un cadre d’analyse de la manière dont le design répartit les avantages et les charges entre différents groupes de personnes. La justice en matière de design se concentre explicitement sur les façons dont le design reproduit et/ou conteste la matrice de domination (qu’elle soit celle de la suprématie blanche, de l’hétéropatriarcat, du capitalisme, du validisme, du colonialisme et autres formes d’inégalité structurelle). La justice en matière de design est également une communauté de pratique croissante qui vise à assurer une distribution plus équitable des avantages et des charges du design, une participation significative aux décisions de design et la reconnaissance des traditions, des connaissances et des pratiques de design communautaires, autochtones et diasporiques. »
Ces principes sont depuis appliqués par nombre d’organisations militantes, qu’elle évoque longuement dans son livre. Pour SCC, ces principes devraient être structurels au design et infuser tous les champs de la conception.
S’intéresser aux problèmes plus qu’aux solutions : aux disaffordances plus qu’aux affordances !
Le Design Justice vise à se focaliser plus sur les problèmes que les solutions. Le design, comme le disait Fred Turner, est encore trop souvent le processus par lequel les politiques d’un monde sont les contraintes de l’autre. La critique de Sasha Costanza-Chock à l’encontre des limites du design est forte. Pour elle, l’aveuglement du secteur aux enjeux politique est profond et constant. Les questions d’inégalités ont longtemps été ignorées par les designers soutient-elle. Par exemple, la notion d’affordance, (c’est-à-dire la caractéristique d’un objet à suggérer son usage), initiée par le psychologue James Gibson dès les années 70 et théorisée par
En suivant les critiques du professeur de design William Gaver, auteur de « Technology Affordances » (1991), plus critique envers celles-ci, les affordances d’un dispositif ne sont jamais également perceptibles à tous ni jamais également disponibles à tous, rappelle Sasha Costanza-Chock. Elle préfère d’ailleurs évoquer les « Disaffordances » qu’explorait le philosophe des technologies, D.E. Wittkower (@dwittkower) en fondant les principes d’un design antidiscriminatoire. Dans les « disaffordances », les indices perceptifs sont bloqués ou limités, à l’image d’un scanner d’empreinte digitale de téléphone qui vous permet d’accéder à son contenu, mais qui vous bloque l’accès de tous les autres systèmes. Dans les « dysaffordances », les objets exigent que les utilisateurs s’identifient mal pour accéder à leurs fonctions (comme le fait de devoir sélectionner homme ou femme si vous n’êtes ni l’un ni l’autre). Le mouvement pour l’accessibilité questionne depuis longtemps les limites de l’universalité des réponses : il n’y a pas une configuration unique qui réponde à toutes les situations. « Les affordances de certains sont les disaffordances des autres ».
Les designers n’excluent pas toujours intentionnellement les groupes marginalisés, modère-t-elle, en rappelant néanmoins l’impact discriminatoire des travaux de l’urbaniste de New York, Robert Moses, privilégiant la voiture sur les transports publics et surtout construisant des ponts menant aux plages de Long Island trop bas pour les laisser passer et empêcher ainsi les populations pauvres et noires de s’y rendre. Comme le raconte Langdon Winner dans son livre, la technologie matérialise les relations de puissance. Si la plupart des designers ne sont ni sexistes, ni racistes, ni homophobes, ni xénophobes, ni islamophobes, ni libéraux…,le problème ne relève pas tant de leurs intentions, l’enjeu est plutôt d’interroger les processus et les résultats de leurs actions. Trop souvent les affordances d’un objet ou d’un système réduisent les opportunités de personnes déjà oppressées ou marginalisées et augmentent celles des groupes dominants, indépendamment des intentions des concepteurs. Pour Sasha Costanza-Chock, il est donc essentiel d’interroger la conception discriminatoire, c’est-à-dire le voile de la représentation d’une perception qui serait universelle, c’est-à-dire la normalisation des hiérarchies sociales qui sous-tend la conception, comme les dénonçait Ruha Benjamin (@ruha9) dans son livre, Race after technology (voir notre critique « De l’automatisation de la discrimination ») ou comme le soulignait Soraya Chemaly (@schemaly), auteure du Pouvoir de la colère des femmes (Albin Michel, 2019) et responsable du projet Speech du Women’s Media Center, en pointant que les assistants vocaux étaient capables de répondre à des questions sur une crise cardiaque ou un suicide, mais pas sur des questions portant sur le viol.
Défaire la « matrice de domination »
La discrimination provient souvent de la standardisation, explique Sasha Costanza-Chock, qui évoque par exemple la taille des sièges ou les algorithmes de crédit, qui normalisent les caractéristiques de certains comme étant celles de tous. Or, pour les groupes sociaux minoritaires dans les représentations, ces standardisations sont souvent autant de microagressions à leur encontre. Pour elle, s’intéresser aux microagressions permet justement de comprendre l’impact de la normalisation sur les populations marginales, à l’image des distributeurs automatiques de savon par capteur optique qui ignorent les peaux foncées qu’évoquait Benjamin dans son livre. La standardisation fait éprouver à certains un sentiment constant d’altérité : la sensation que « ce monde n’a pas été construit pour nous ». « Le design instancie constamment l’inégalité de pouvoir par des moyens technologiques ».
Pour répondre à cela, l’approche Design justice se veut sensible aux valeurs (value-sensitive design) embarquées dans les technologies, à l’image par exemple de la politique des vrais noms de Facebook, qui repose sur une vision eurocentrée, qui rejette par exemple les noms de peuples indigènes ou l’anonymisation nécessaire aux populations LGBT pour se protéger. L’historienne Sarah Elizabeth Williamson (@besswww) dans son histoire de l’accessibilité en Amérique (NYU Press, 2019) comme Aimi Hamraie (@AimiHamraie), directrice du Critical Design Lab (@criticaldesignl) auteure de Building Access (University of Minnesota press, 2017) ont montré que le mouvement pour l’accessibilité a travaillé sans cesse à encoder l’accessibilité à tous les niveaux d’intervention. La critique a influé sur la standardisation et les bonnes pratiques ont infusé peu à peu. La révision de la standardisation n’est pas toujours parfaite souligne Sasha Costanza-Chock, mais le mouvement de défense de l’accessibilité nous montre que plutôt que de masquer la réalité et ses problèmes, l’enjeu est de les rendre explicites. La conception juste vise à rééquilibrer la relation, à apporter des bénéfices à ceux qui sont systématiquement désavantagés par « la matrice de domination » qui s’impose à eux. Elle s’appuie sur un design inclusif, comme le prône l’Inclusive Design Research Centre (@idrc_ocadu), qui défend une approche de production de solutions adaptées plutôt que des solutions à taille unique.
L’enjeu, ici, est bien de changer de paradigme : de passer d’une conception qui vise à « démanteler activement [la matrice de domination] plutôt qu’à la renforcer involontairement ». Cela suppose que les designers réinterrogent et repensent les outils et techniques spécifiques qu’ils utilisent dans leurs pratiques quotidiennes. Sasha Costanza-Chock démonte ainsi l’une des bibles du design d’interface, le livre du designer Steve Krug (@skrug), Don’t make me think (Pearson, 2014), qui explique qu’un design réussi suppose de réduire au minimum la charge cognitive de l’utilisateur. Mais est-ce possible et est-ce souhaitable ?, interroge Sasha Costanza-Chock. En fait, explique-t-elle, les designers font constamment des choix pour savoir quel utilisateur privilégier, sans qu’ils soient explicites. Elle en donne un exemple éclairant : le choix de la langue par défaut, notamment l’anglais sur l’espagnol sur les sites américains. En fait, un outil comme l’A/B testing a tendance à renforcer ces choix et biais : si vous procédez à un test entre la nécessité par défaut de faire une interface en anglais et une interface en espagnol, pour un site américain, il y a de grandes chances que ce test renforce l’exclusion initiale. Pourtant, les études critiques ne manquent pas à l’encontre du fait qu’un design identique est le mieux adapté à tous les utilisateurs. Katharina Reinecke, cofondatrice de Lab and the Wild (@labinthewild) et Abraham Bernstein ont souvent montré (voir cette étude notamment) que les utilisateurs préféraient les interfaces adaptées à leurs différences culturelles. Pour Sasha Costanza-Chock, il est temps de reconnaître que les designers ne cessent de prendre des décisions intentionnelles sur l’utilisateur qu’ils mettent au cœur des systèmes et rendre ceux qui décident responsables de leurs choix. L’A/B testing renforce une efficacité du design, dont on oublie d’interroger à qui elle bénéficie. Plus encore, « il est urgent de déstabiliser l’affirmation sous-jacente que ce qui est le mieux pour la majorité des utilisateurs est le mieux pour tous les utilisateurs ». Pour Sasha Costanza-Chock, l’A/B testing ne devrait pas être une technique utilisée, où alors uniquement au profit des moins favorisés. Pour elle, la conception de la justice propose surtout de normaliser ces interrogations, en utilisant des modalités d’analyses intersectionnelles, comme l’évoquaient Joy Buolamwini (@jovialjoy) et Timnit Gebru (@timnitgebru). Pour Sasha Costanza-Chock, il nous faut dépasser la question mal posée de l’équité algorithmique pour atteindre la question de la justice algorithmique, c’est-à-dire appliquer les principes du Design Justice à la question des décisions automatisées, explique-t-elle en faisant référence aux travaux de Safiya Noble (@safiyanoble), Virginia Eubanks (@poptechworks), Kate Crawford (@katecrawford)… que nous avons souvent évoqué. Pour elle, « les hiérarchies raciales (de genre, etc.) ne peuvent être démantelées qu’en y appliquant activement une conception antiraciste des systèmes, pas en prétendant qu’elles n’existent pas ! »
La justice et pas seulement l’égalité
Dans la logique intersectionnelle, l’individualisation de l’égalité, en promouvant des traitements égaux, symétriques, pour tous, promeut un aveuglement à la couleur et aux discriminations structurelles de nos sociétés. Trop souvent un algorithme considéré comme loyal est un algorithme qui a montré qu’il n’avait pas de biais dans sa distribution. Mais l’enjeu n’est peut-être pas qu’ils aient moins de biais, mais de diminuer leurs impacts sociaux. Ainsi, explique-t-elle, le calcul du risque de récidive ne doit pas tant chercher à corriger ses biais, inhérents à une longue histoire carcérale américaine discriminatoire, qu’à diminuer le recours à l’emprisonnement préventif ! « Nous devons remettre en question l’hypothèse sous-jacente selon laquelle notre objectif ultime dans la conception d’algorithmes est le traitement symétrique. En d’autres termes, nous devons nous demander si la conception des algorithmes doit être structurée selon la logique de l' »équité », à savoir la cécité aux couleurs et aux sexes, ou selon la logique de la justice en matière de race, de sexe et de handicap. La première implique que notre objectif est de produire un algorithme équitable qui « traite tous les individus de la même manière », dans les limites étroites de son domaine opérationnel et indépendamment des effets des discriminations passées ou présentes. La seconde implique autre chose : que l’objectif final est de fournir un accès, des opportunités et de meilleures chances dans la vie à tous les individus, et que cela nécessite une action de redistribution pour défaire l’héritage de centaines d’années de discrimination et d’oppression. Nous devons discuter de la différence entre le daltonisme algorithmique et la justice algorithmique. » Kate Crawford ne disait pas autre chose !
Sasha Costanza-Chock prend un exemple, pour bien se faire comprendre. Une approche qui favorise l’équité dans l’admission à l’université tente de garantir que deux personnes ayant les mêmes caractéristiques, mais qui ne différeraient que par le sexe ou l’origine ethnique, reçoivent la même recommandation. En ce sens, l’audit algorithmique vise seulement à vérifier qu’il n’y ait pas plus d’admissions d’hommes ou de personnes blanches sur les autres. Une approche intersectionnelle, elle, demande plus de vérifications pour mieux mesurer les marqueurs d’identité, afin de regarder si le système est biaisé à l’encontre de la race, du genre, de l’orientation sexuelle, du handicap, de la religion, du statut de citoyenneté… La difficulté est de savoir combien de variables on doit inclure et sa complexité (a minima, assure-t-elle, il est nécessaire d’analyser celles protégées par la législation contre la discrimination telle qu’elle existe aux États-Unis). Enfin, si l’on vérifie le même algorithme avec l’approche Design Justice, alors il ne faut pas seulement observer les effets individualisés, mais également les effets au niveau des groupes et discuter de ce que serait une répartition plus juste des résultats. Par exemple, un algorithme d’admission pourrait décider qu’une juste répartition des décisions d’admission devrait produire une répartition par sexe qui reflète la population générale (environ 51 % de femmes aux États-Unis). Ils pourraient décider aussi que leur enjeu est de corriger les déséquilibres de répartition dans toute la population étudiante : si le taux d’étudiants latinos de tous les étudiants présents à l’université est plus faible qu’il n’est dans la population, alors l’admission en première année devrait tenter de venir compenser la sous-admission structurelle des années précédentes. En poussant l’exemple à son paroxysme, on pourrait estimer que pour corriger des années de biais d’admission, l’algorithme pourrait être calibré pour n’admettre en première année que des femmes de couleur !
Derrière ce que beaucoup prendront comme une provocation ou une réaffirmation de la discrimination positive… Sasha Costanza-Chock précise : pour l’instant, « la question de ce qu’est un résultat juste n’est même pas sur la table ! ». Nous en restons à une conception étroite et individualisée de l’équité. Or, l’enjeu est bien d’interroger plus largement et partout, les questions de justice. « Dans tout système décisionnel, quelle répartition des bénéfices est, selon nous, juste ? »
Le design s’imagine trop souvent universel. Nous en sommes loin. Pour Sasha Costanza-Chock, au contraire, les designers doivent reconnaître les spécificités des utilisateurs, interroger leurs approches, leurs outils, leurs méthodes. Et de les inviter à s’inspirer des approches décoloniales, comme la question de l’informatique postcoloniale proposée par Lilly Irani notamment (@gleemie). Où la nécessité de repenser l’informatique depuis des ontologies indigènes, comme s’y intéressent Ramesh Srinivasan (@rameshmedia) dans son livre Whose Global Village (NYU Press, 2017) ou l’anthropologue Arturo Escobar dans Designs for the pluriverse (Duke University Press, 2018). Escobar notamment défend une conception de l’autonomie plurielle : il s’intéresse au concept zapatiste de créer un monde où plusieurs mondes se côtoient, plutôt qu’au projet du monde unique pour tous, telle que le promeut la mondialisation néolibérale.
Nombre d’organisations se saisissent de ces enjeux, rappelle la chercheuse, évoquant pêle-mêle les travaux de Data & society (@datasociety), de l’AI Now Institute (@ainowinstitute), du Digital Equity Lab (@digitaleqlab), du Data Justice Lab (@datajusticelab), du Public Data Lab (@publicdatalab), de Coding Rights (@codingrights), du Digital Justice Lab (@digitaljustlab), Allied Media (@allied_media), du studio de design And Also Too (@and_also_too), de Our Data Bodies, de Data4blacklives (@data4blacklives) ou du FemTech network… qui illustrent très bien le « renouveau militant des questions technologiques » que nous avions déjà évoqué.
« Rien pour nous sans nous » : lever le voile des mythes de l’innovation
Le secteur de la technologie est l’un des pires qui soit en matière de racisme et de sexisme – voir notamment les travaux de l’anthropologue Christina Dunbar-Hester. La matrice de domination y est omniprésente. Pour Sasha Costanza-Chock, la question de la diversité est un premier levier pour faire bouger les choses. D’innombrables études ont montré que la diversité permettait aux entreprises de prendre de meilleures décisions, de produire des produits plus compétitifs, d’être plus profitables… mais sans que cela ait eu vraiment d’impact décisif. Le capitalisme continue de prioriser certains utilisateurs sur d’autres, notamment les plus favorisés et les plus solvables, au détriment de solutions plus structurelles qui s’adressent aux moins favorisés. Pour elle, le design centré sur l’utilisateur favorise de même une forme d’utilisateurs sur les autres, tout en étant encore moins explicite dans cette priorisation que ne l’est le capitalisme. Trop souvent, rappelle-t-elle, « les designers tendent à inconsciemment imaginer des utilisateurs par défaut proches d’eux-mêmes », socialement et économiquement favorisés notamment, à leur image. Diversifier la force de travail dans la technologie est un bon début, mais cela ne produit pas pour autant un utilisateur par défaut plus divers.
Sasha Costanza-Chock revient sur les « utilisateurs pilotes » (Lead users) théorisés par Eric von Hippel dans son livre de référence Democratizing Innovation (2005) (voir par exemple, l’un de nos articles « le paradigme de l’innovation par l’utilisateur »). Les utilisateurs pilotes de von Hippel demeurent bien souvent des utilisateurs qui appartiennent aux groupes sociaux dominants (à l’image des premiers surfeurs, exemple que prend von Hippel dans son livre) et ceux-ci ont plus de moyens que d’autres de trouver les modalités pour que leurs besoins spécifiques soient satisfaits par les processus d’innovation (la fabrication de surfs).
Si en théorie, les designers cherchent à intégrer plus de diversité, en pratique, c’est bien souvent plus difficile, souligne la chercheuse. Cela est dû, notamment, aux outils qu’ils mobilisent pour cela. Les « personas », ces utilisateurs imaginaires, de plus en plus génériques (comme le propose l’outil userforge) n’ont pourtant jamais montré qu’ils produisaient moins de discrimination qu’attendu. Trop souvent, ces utilisateurs fictifs reposent surtout sur les stéréotypes que nous en avons. Leurs comportements relèvent d’imaginaires et de représentations plus que de réalités. Pire, estime-t-elle, les personas trompent peut-être plus les designers en leur faisant croire qu’ils sont engagés dans des processus inclusifs. Une méta-étude a montré que les simulations produisaient surtout une compréhension irréaliste des formes de handicap réelles, notamment parce qu’on saisit mal les compétences que les personnes handicapées développent pour compenser leurs invalidités. Comme le disait plus simplement Chris Schweidler (@scumbly), cofondatrice du Research Action design, « si vous n’êtes pas à la table, c’est que vous n’êtes pas au menu », un écho au « rien pour nous sans nous » (une référence surtout au livre éponyme de David Werner de 1998) des associations de défense des droits des handicapés, réclamant justement d’être à la table et au menu de ce qu’on conçoit pour eux ! Pour Sasha Costanza-Chock une conception plus juste nécessite « la pleine intégration dans le processus de conception de personnes ayant une expérience directe des conditions que l’équipe de conception veut changer ». C’est ce que le design appelle depuis longtemps, la conception participative. Une approche qui a certes augmenté la contribution de l’utilisateur à la conception, mais qui a écarté des enjeux plus politiques, comme la responsabilité de la communauté, la propriété ou le partage des bénéfices. En fait, trop souvent, cette participation est très balisée, encadrée et limitée – pour ne pas dire manipulée. En fait, pointe très justement Sasha Costanza-Chock, « de nombreuses approches de conception soi-disant plus inclusives, participatives et démocratiques remplissent en fait une fonction extractive », par exemple d’utiliser la participation pour générer des idées de produits nouveaux qui seront ensuite revendus aux utilisateurs. Trop souvent, l’essentiel des bénéfices de la conception participative va aux designers et aux institutions qu’ils représentent. Sasha Costanza-Chock invite donc à aller plus loin. Pas seulement s’asseoir à la table, mais également redistribuer le pouvoir d’un projet en interrogeant le processus de décision lui-même. Pour le dire autrement, il faut aussi mettre le couvert et faire la cuisine !
À son meilleur, un processus de conception juste est une forme de community organizing, c’est-à-dire qu’il doit interroger qui a le pouvoir dans le processus et le rendre à la communauté tout le long de son action. C’est ce que synthétise très bien le programme #morethancode du projet Tech for Social Justice qui a interrogé des centaines de praticiens pour souligner que les projets de civic tech nécessitaient d’impliquer non seulement les gens, mais plus encore les communautés, comme de rejeter les propositions centrées sur des outils. Le risque, trop souvent, est de parachuter des techniciens et de la technique, plutôt qu’investir dans la longue et lente construction de capacités au sein des collectifs. Le programme recommande également de développer des mécanismes adaptés pour s’assurer de la responsabilité de la communauté, d’investir dans l’éducation pour que les méthodes infusent, ou encore de favoriser la maintenance sur l’innovation… Comme le dit encore Sasha Costanza-Chock : « une conception plus juste signifie considérer les valeurs qu’on encode dans les objets et systèmes qu’on conçoit ». Cela signifie bien sûr construire une critique de l’innovation telle qu’elle est trop souvent proposée et pratiquée. Trop souvent, elle met en avant et favorise la figure de l’innovateur, isolé et brillant, très éduqué, mâle, blanc, riche… Masquant sa tout autre réalité : elle est plus souvent qu’on ne le croit le fait de communautés marginales et marginalisées.
Dans les toilettes de Bill Gates : la dépolitisation technosolutionniste
Si von Hippel a bien montré que les entreprises avaient intérêt à encourager l’innovation des utilisateurs, c’est principalement pour se l’approprier. D’où le fait que le mouvement Design justice insiste, dans ses principes clés, sur la question de l’attribution pleine et entière. Trop souvent, le design repose sur une forme d’extractivisme des idées au profit des plus favorisés. C’est particulièrement le cas dans les hackathons et autres challenges de coconception (voir par exemple, Hackathons une culture d’exploitation ou notre dossier sur les dispositifs créatifs en questions), et ce d’autant plus quand désormais ces défis sont plateformisés, à l’image d’OpenIDEO, DiscoverDesign ou IdeaScale… Pour Sasha Costanza-Chock, le crédit doit être rendu là où il est dû. Les participants devraient être toujours les copropriétaires et coauteurs des projets dont ils participent. « La justice en matière de design considère que la question de savoir « qui a contribué » est une question cruciale pour l’évaluation d’un projet de design donné. »
Il nous faut nous défaire des mythologies entrepreneuriales sur l’innovation, pour favoriser une approche qui s’intéresse bien plus à la contribution essentielle des mouvements sociaux à l’innovation, estime la chercheuse. Or, les activistes, la résistance et la critique contribuent bien plus à l’innovation qu’on ne le pense.
Pour John Dewey, rappelle-t-elle, la connaissance est particulière et contingente. « La façon dont un problème est conçu et encadré a de réelles implications sur l’éventail des solutions possibles. Ainsi, pour Dewey, déterminer la portée d’un projet est toujours une décision éthique critique. » Or, trop souvent, les designers ont une approche top-down qui commence avec des objectifs, des exigences et des contraintes pour aller à des solutions. Comme le soulignait déjà Paul Dourish, le design fonctionne trop souvent comme une « machine antipolitique », c’est-à-dire qu’il produit par nature de la dépolitisation. Sasha Costanza-Chock fournit plusieurs exemples à cette dépolitisation. Le plus marquant est certainement le concours de réinvention des sanitaires proposé entre 2011 et 2018 par la Gates Foundation, pour apporter des solutions d’assainissement durables aux 2,5 milliards de personnes dans le monde qui n’ont pas accès à un assainissement sûr et abordable. En sept ans, la Fondation de Bill et Melinda Gates a investi plus de 200 millions de dollars dans ces concours. Pourtant, très vite, les critiques ont été nourries à l’encontre d’une approche trop technosolutionniste. Les experts qui travaillaient déjà dans les pays en voie de développement ont souligné que les solutions technologiques proposées n’étaient pas accessibles aux gens auxquels elles se destinaient, malgré les contraintes du concours qui cherchaient à s’assurer du contraire. Construire des toilettes n’est pas si difficile, le problème reste de les faire fonctionner dans la durée sur le terrain. Le défi, n’est pas un défi technologique, comme souvent, c’est une question d’accès, d’entretien, de maintenance… Bref, un défi social.
En fait, les alternatives peu coûteuses aux stations d’épurations centralisées existent depuis longtemps. Cela ne signifie pas qu’imaginer des toilettes innovantes n’est ni souhaitable ni possible, explique Sasha Costanza-Chock, mais cela nécessite d’interroger l’objectif du défi :
Tous les défis ne sont pas aussi bornés que celui proposé par Bill Gates, rappelle la chercheuse, en invitant à regarder plutôt les défis proposés par le Design Justice Network, ou encore le « Make the Breast Pump Not Suck » (ces hackathons visant à réinventer le tire-lait, qui ont dépassé cet objectif pour devenir des événements visant à réorienter les politiques publiques et techniques à l’encontre des femmes), MigraHack, Trans*H4CK ou les DiscoTech (pour Discoverying technology community fair) créées par Diana Nucera et le Detroit Digital Justice Coalition dès 2009, comme autant de contre-exemples.
Pour Sasha Costanza-Chock, le design est poreux aux problèmes de cadrages et de délimitation, au risque d’invisibiliser la matrice de domination existante et donc de dépolitiser les problèmes… Trop souvent, ces cadrages font disparaitre également les solutions qui existent, portées par les gens et les communautés. La Justice en matière de design doit s’intéresser à l’exact inverse : amplifier, soulever, rendre visible les solutions, les pratiques et les praticiens qui existent déjà… Elle doit repolitiser, plutôt que dépolitiser ! Son but est de transformer les participants en citoyens, en militants, pour qu’ils se remettent à agir sur leur monde. La justice en matière de design est intrinsèquement politique !
Le design pour politiser ce qui a été dépolitisé
Sasha Costanza-Chock consacre de nombreuses pages aux hackathons et tiers lieux, pour souligner justement leur longue dépolitisation. Pour elle, il est essentiel de relier ces espaces et événements aux mouvements sociaux, notamment pour les diversifier et surtout les repolitiser. En fait, explique-t-elle, la culture hacker a été envahie par le néolibéralisme. Les espaces techniques partagés ont été normalisés par les outils et pratiques techniques high-tech. Ce n’était pas le cas pourtant avant leur renouveau, explique-t-elle en évoquant autant les bricoleurs jamaïcains qui ont transformé la façon de faire de la musique par le sample, en bricolant leurs platines jusqu’au lancement des MakerNurse par le MIT, des espaces pour valoriser et faciliter les connaissances, les pratiques et le développement de nouveaux objets à destination des infirmières, qui s’est inspiré de recherches montrant que les infirmières, dès la première moitié du XXe siècle avaient constamment adaptées des technologies médicales dans leurs pratiques. Si les pratiques de conception, de modification et de fabrication des classes ouvrières, des femmes, des communautés de couleurs ont toujours existées, elles n’ont pas reçu les ressources, la visibilité, ni la reconnaissance qu’on a accordées aux mêmes pratiques des classes favorisées, blanches et masculinisées (et n’ont d’ailleurs pas toujours été appelées innovations, comme le souligne le journaliste Craig Watkins dans
Sasha Costanza-Chock a des mots très durs sur le mouvement des Fablabs. Derrière leur promesse à démocratiser radicalement les moyens de production des objets quotidiens, ces espaces concourent surtout à la reproduction de la matrice de domination. La charte des Fablabs indique que les espaces sont ouverts, mais ne mentionne pas ne serait-ce qu’un désir de diversité ou d’inclusion. Elle souligne qu’ils ont plus participé au discours de l’entrepreneuriat néolibéral qu’à celui de la démocratisation technologique, à l’image de la fameuse MakerBot, l’imprimante 3D qui s’est approprié le modèle ouvert original de la RepRap. Même à Barcelone, le déploiement de ces espaces s’est parfois fait en conflit avec les aspirations et besoins des habitants, par exemple quand la ville a décidé de remplacer une banque alimentaire par un atelier de fabrication digitale suscitant de fortes contestations…
La plupart de ces espaces ont échoué à perturber la matrice de domination. Certains ont certes résisté et ont tenté de soutenir des mouvements sociaux et locaux, mais beaucoup ont surtout amplifié l’autonomie individuelle plus que collective à faire des choses. Beaucoup se sont vus comme des incubateurs plus que comme des centres sociaux. Si la démocratisation de l’accès aux technologies est essentielle, soutient Sasha Costanza-Chock, en refusant une posture politique, ces espaces se sont refermés sur eux-mêmes. Sasha Costanza-Chock critique également longuement le modèle des hackathons qui renforcent les réseaux élitaires sans produire de produits qui fonctionnent. Ces événements produisent surtout de l’attribution, du crédit, de la visibilité qu’autre chose.
Pour elle, comme l’ont souligné Grensfurthner et Schneider, l’enjeu est de repolitiser ces espaces et événements. Comme disait Marx, la nature de la politique est toujours dans l’intérêt de ceux qui agissent, et ces espaces aujourd’hui, favorisent essentiellement les intérêts de la classe moyenne blanche et masculine. Pour renverser cela, certains espaces font d’autres paris, comme celui d’être radicalement inclusifs, à l’image du Design Studio for Social Intervention de Boston (@ds4si), de l’Intelligent Mischief à Brooklyn (@IntelMischief), du LOLspace et de Double Union en Californie… Elle évoque les travaux de Sophie Toupin sur les liens entre technologie, féminisme et activisme hackerspace féministes. Elle évoque nombre d’événements qui eux prennent en compte et intègrent ceux qui sont concernés, depuis des codes de conduites clairs, comme ceux détaillés par #MoreThanCode ou ceux recensés par la designer Victoria Palacios (@toriamia) dans les principes de « How to hack hackathons ».
Décoloniser l’éducation
Sasha Costanza-Chock consacre tout un chapitre à la question de l’éducation populaire et à la conception de pédagogies adaptées. Elle s’inspire bien sûr de la pédagogie critique initiée par le pédagogue radical brésilien Paulo Freire dans sa Pédagogie des opprimés, qui défendait une alphabétisation militante, où le rôle de l’éducateur est de poser les problèmes pour créer un espace collectif pour le développement d’une conscience critique afin d’aider à développer un sens de l’action. Pour Freire, rappelle-t-elle, le but de l’éducation est de transformer les individus opprimés en sujets capables de s’engager dans des actions collectives pour qu’ils transforment leurs conditions. Pour l’enseignant Myles Horton, dès les années 30, les principes de l’éducation populaire rappelaient déjà que l’éducation n’est jamais neutre : elle peut soit maintenir le système de domination, soit être conçue pour libérer les gens ! La pédagogie constructiviste est également convoquée, à l’image des travaux de Mitchel Resnick (@mres), le fondateur du Lifelong Kindergarten du Media Lab.
En 2017, plusieurs organisations ont réfléchi et proposé
Pour un design libératoire !
Sous le hastag #techwontbuildit (« la technologie ne le construira pas »), les travailleurs du secteur de la technologie ont plusieurs fois, récemment, refusé de travailler et de participer à la construction de technologies de l’oppression. De l’opposition aux projets de l’agence de contrôle des frontières américaine, à celle du projet Maven, aux protestations contre les armes robotisées ou contre le développement de la vidéosurveillance, les mots d’ordre pour organiser les contestations se sont multipliés, notamment à l’intérieur même des entreprises technologiques, comme #NoTechForICE… Les organisations se sont structurées, notamment autour de la Tech Workers Coalition (@techworkersco, fondée en 2016) organisation clé du mouvement social en réseau. Ces mots d’ordres et structurations vont à l’encontre du mythe persistant selon lequel les travailleurs de la technologie seraient apolitiques, rappelle Sasha Costanza-Chock, qui revient sur l’effacement de l’histoire des engagements politiques des ingénieurs et scientifiques, à l’image de la Fédération des scientifiques américains, créée en 1945 en réaction au projet Manhattan et qui a activement participé à la création de la Commission à l’énergie atomique américaine. Les campagnes visant à démocratiser la technologie sont plus efficaces lorsqu’elles sont liées à des mouvements sociaux, soulignent les auteurs du livre collectif Grassroots Innovation Movements (Routledge, 1016). Plus qu’avant, notamment en réaction à l’administration Trump, les travailleurs du secteur de la technologie ont rencontré les mouvements sociaux qui s’y opposaient. Des conversations plus fécondes ont lieu, à la fois pour résister à la conception de systèmes oppressifs, mais aussi pour concevoir, construire et maintenir des alternatives.
Reste que la critique est difficile, conclut Sasha Costanza-Chock. « la justice en matière de design exige à la fois des processus de design équitables et des résultats de design justes. Cependant, en pratique, tous les projets de design ont des ressources et un temps limités, et il y a presque toujours des compromis entre l’inclusivité d’un processus et la nécessité d’expédier un produit. En d’autres termes, il existe de réelles tensions entre les principes de justice en matière de design qui mettent l’accent sur un processus de design inclusif et ceux qui donnent la priorité à l’impact sur une communauté plutôt qu’aux intentions des concepteurs. Un projet de design peut être merveilleusement inclusif, donner à tous les participants un sentiment d’appartenance et récompenser équitablement les gens pour leur travail, mais ne pas produire un produit de design utile à la communauté. Par contre, un processus qui n’est pas du tout inclusif peut produire un produit utile et largement apprécié. » Pour le dire autrement, si les principes et les valeurs sont nécessaires, ils ne suffisent pas toujours hélas. Pour Sasha Costanza-Chock, l’enjeu est de trouver un équilibre entre l’évaluation des impacts et mener les projets. Parfois, il est impossible d’envisager toutes les conséquences en termes d’inégalités. La justice en matière de design ralentit considérablement les processus de design du monde réel, peut-être parfois trop pour qu’ils soient viables, soulignent nombre de critiques, mais « peut-être qu’il vaut la peine d’aller plus lentement pour construire un monde meilleur, plus juste et plus durable », répond Sasha Costanza-Chock. « Il n’est peut-être pas de processus de design parfait », souligne-t-elle – et ce d’autant que l’innovation traditionnelle non plus ne produit pas toujours ce qu’elle promet.
La justice en matière de design ne doit pas seulement produire de la critique, elle doit aussi produire des choses, même imparfaites. Pourtant, rappelle-t-elle, « si les contraintes de ressources deviennent une excuse pour éviter d’examiner la racine des problèmes, alors les concepteurs finiront presque toujours, au mieux, par fournir des pansements pour les problèmes profonds et, au pire, par servir activement les structures de pouvoir existantes. » Nous ne pouvons pas nous contenter d’un design pragmatique ! Le designer Carl DiSalvo plaide pour un design contradictoire, à créer des objets de contestation pour produire du changement. Quant à la vision intersectionnelle du design, pour Sasha Costanza-Chock, l’enjeu est bien de renverser, depuis le modèle construit notamment par le mouvement féministe noir, la matrice de domination, qui est un processus mondial en cours qui se répand et se diffuse partout. Le dynamisme des mouvements féministes noirs n’est peut-être pas tant un angle unique pour regarder le monde, mais assurément, un modèle particulièrement inspirant pour comprendre et lever les inégalités structurelles, pour repolitiser le monde au profit des délaissés, des démunis, des oubliés… comme a pu l’être à une autre époque, le mouvement ouvrier.
Design Justice, travaille à déconstruire « la matrice de domination » en interrogeant les valeurs encodées par les technologies, les pratiques du design (qui est payé et qui contrôle les processus), les récits de l’innovation (et ceux qu’ils oublient ou invisibilisent), l’inclusion et l’exclusion (en observant les lieux et la reproduction sociale des lieux où l’innovation se construit) et les méthodes. Pour évaluer les projets de design en fonction des principes du Design Justice, il est toujours nécessaire de poser des questions critiques, notamment pour en évaluer l’impact : « Qui a participé au processus de conception ? Qui a bénéficié de la conception ? Et qui a été lésé par le design ? » Pour cela, il est nécessaire de démultiplier les évaluations (des tests de conformités aux normes d’accessibilité tout en passant par les méthodes d’audits algorithmiques), mais aussi de s’inscrire dans des lignes directrices, des outils de normalisation et des standards pour la justice sociale.
Les pratiques du design justice prône le contrôle de la conception par la communauté, mais celle-ci est souvent considéré comme inefficace, voire antinomique avec la créativité, souligne-t-elle encore. Ces principes ne signifient pas tant qu’il faut instaurer un contrôle permanent que de garantir que tous ceux qui contribuent à un processus de design reçoivent une reconnaissance, une attribution et, le cas échéant, une rémunération pour leur travail. Reste que s’affranchir d’un processus décisionnel clair et partagé, structuré (que ce soit par consensus, vote, décision majoritaire…) est le seul moyen de rendre les processus démocratiques. Le risque à concevoir pour tout le monde est de concevoir des objets ennuyeux, sans inspiration, reposants sur le plus petit dénominateur commun, reconnait-elle. Mais le risque à concevoir des objets pour certains est le même ! Les principes du design justice ne sont pas « un entonnoir pour réduire les options, mais un prisme pour élargir les choix aux groupes auxquels ils doivent s’adapter ». La justice en matière de design cherche à rendre les choix explicites plutôt qu’invisibles. Le design justice nécessite que nous « spécifiions, examinions et décidions intentionnellement de la meilleure façon de répartir les avantages et les inconvénients des objets et des systèmes que nous concevons, en tenant compte de leur contexte d’utilisation ».
Pour Sasha Costanza-Chock, l’enjeu consiste également à changer la narration autour du design et de l’innovation. Elle nécessite de politiser le design pour sortir du technosolutionnisme pour l’inscrire dans un cycle de luttes plus large. Dans ce cadre par exemple, elle défend le coopérativisme de plateforme contre l’ubérisation, notamment parce qu’il permet bien sûr d’impliquer les travailleurs à leur libération.
Au final, les propositions de Sasha Costanza-Chock semblent surtout chercher à réancrer le design dans la politique. À lui redonner une voix, à un moment où il s’affadit, se dilue en étant trop souvent soumis au marketing. Il nous rappelle que l’enjeu du design est libératoire ! Ce n’est pas une petite promesse !
Hubert Guillaud
0 commentaires
Profitons-en pour signaler un intéressant projet d’Allied Media Project, dans le droit fil des perspectives des principes de justice en matière de design : un manifeste pour des technologies pleinement consenties ! Le manifeste parle de « technologies de plein consentement », « sans pression, réversibles, informées, enthousiastes et spécifiques ». Stimulant !
Et j’aimerais également signaler le travail remarquable de Sara Hendren (https://sarahendren.com/about/) qui travaille depuis des années sur la question des « technologies d’assistance ».
Merci pour cette note de lecture très intéressante (comme toujours !).
Le sujet me renvoie à la fabrique de la ville (et dans une mesure et un peu plus largement des politiques publiques), plus précisément aux enjeux de « participation citoyenne » (au sens très large – ce qui est d’ailleurs une partie du problème) sur ces sujets, qui font ressortir les mêmes enjeux, causes et conséquences – sur des objets qui relèvent d’ailleurs en partie de ce que l’on peut appeler « design » (au sens de la méthodologie de fait, mais aussi de la démarche revendiquée depuis quelques années), avec deux pendants : 1- si la situation est peut-être d’ores et déjà plus « participative » (et vaguement inclusive, au moins sur le papier ou pour certains acteurs) sur la fabrique de la ville (et a beaucoup évolué en 50+ ans), les problèmes soulevés dans cet ouvrage n’en sont pas moins toujours présents (même si peut-être atténués ou déplacés) : dépolitisation, récupération, biais, impensé du résultat, attribution et rétribution… et 2- on ne peut que constater une grande difficulté à créer du lien entre des secteurs pourtant proches (j’avais écrit une modeste tribune à ce sujet accompagné d’un petit événement à Lyon il y a déjà 6 ans sur le lien design – démocratie participative), les mêmes débats étant sans cesse recréés parfois même d’une génération à l’autre dans le même secteur (voire les générations « assos d’éducation populaire » et « collectif d’architecte » dans la fabrique de la ville). La mauvaise nouvelle est que les réponses sont souvent au final similaires (inexistantes ou défaillantes). La bonne nouvelle est que les questions sont reposées, preuve d’un intérêt pour ces questions.
En tout cas, le chantier est toujours ouvert et les propos relatés ici me ramènent (encore une fois) à l’espoir que l’on va pouvoir trouver des manières de faire réellement transformatrices, dans le seul sens qui a mon humble avis permettrait de réellement bouger : changer de « système d’exploitation » (au sens malheureusement trop littéral) de nos sociétés pour un système autre – ou de multiples systèmes comme évoqué (de manière réjouissante) dans cet article. Au moins considérer la dimension nécessairement sociale et politique de toute question et donc de toute réponse que ces sujets.
À ce titre je suis surpris que ne soit pas abordé plus frontalement la dimension industrielle de notre société occidentale, pourtant une des principales sources de ce besoin de « standardisation » qui pose bien des problèmes…