Si les systèmes techniques sont discriminants, c’est souvent parce qu’ils sont eux-mêmes l’oeuvre d’une petite élite, très homogène culturellement, sociologiquement, idéologiquement. Outre les biais de représentation historique des données, le manque de diversité du secteur des technologies serait la source même de son caractère discriminant… D’où l’appel, continu et répété, à diversifier les équipes qui travaillent dans le secteur des technologies, que ce soit en intégrant plus de femmes ou plus de personnes de couleurs ou plus de spécialistes des sciences sociales…

Pourtant, quand bien même on parviendrait à augmenter le nombre de femmes, de personnes provenant de minorités ethniques ou sociales… il n’est pas sûr que cela suffise à transformer la culture discriminatoire de la technologie, estime l’iconoclaste Ian Bogost (@ibogost) dans The Atlantic (@TheAtlantic). Certes, améliorer la diversité des personnes impliquées dans la conception et l’ingénierie des systèmes techniques, améliorer leur représentation chez ceux qui fabriquent les systèmes, permettrait d’améliorer la conception même de ces systèmes auprès de ces populations. Mais, si la diversité est une solution nécessaire, elle pourrait ne pas être suffisante pour produire l’équité sociale qu’on est en droit d’attendre des systèmes techniques.

Pendant des années, les entreprises et les programmes de formation dans le secteur des technologies ont défini la diversité comme un problème de « pipeline », de recrutement. Pour Bogost, qui assure des cours au Centre Constellations pour l’équité en informatique de l’Institut de technologie de Georgie, les programmes d’études soucieux d’équité ont travaillé à augmenter le ratio d’étudiantes ou de personnes de couleur en informatique en allant faire la promotion de ces métiers dès le plus jeune âge. Mais si ces efforts sont méritoires, leur impact demeure invisible. Pour Charles Isbell (@isbelhfn), directeur du Centre, il est important distinguer la diversité de l’intégration. « L’intégration des femmes, des personnes de couleur et d’autres voix sous-représentées signifierait que le comportement de l’ensemble du secteur changerait en raison même de leur présence… » Or, souligne le spécialiste de ces questions, promouvoir « la diversité, ce n’est que de l’adhésion », alors que favoriser l’intégration, consiste à évoquer vraiment les questions d’influence, de pouvoir et de leur partage. L’intégration est bien plus difficile à réussir que la diversité. Cela suppose que les nouveaux entrants soient capables et confiants et que ceux qui sont en place soient disposés à partager leurs prérogatives. Or, aux États-Unis, les femmes ne représentent que 25 % des employés dans les métiers de l’informatique. En Grande-Bretagne, seulement 15 % des employés des secteurs des sciences, de la technologie, de l’ingénierie et des mathématiques sont des femmes, et elles sont seulement 5 % dans les postes de direction.

Pour Kamau Bobb (@kamaubobb), responsable de la diversité chez Google, beaucoup de gens impliqués dans des programmes de diversité, d’équité et d’inclusion dans la Silicon Valley sont des gens très engagés. Mais si leur objectif est souvent d’intégrer plus d’acteurs dans le jeu, ils ne visent pas nécessairement à changer les règles du jeu. Pour Isbell, la représentation doit passer d’un impératif économique à un impératif moral. Or pour l’instant, l’industrie est dans l’argument économique ! Pour Bobb, l’intérêt de Google pour le « prochain milliard d’utilisateurs » suppose une meilleure compréhension des personnes de couleurs, a-t-il déclaré, mais pour l’instant cet intérêt semble surtout reposer sur le constat que la société a enfin compris que ces personnes représentaient un marché inexploité en matière de publicité !

Pour Amy Webb (@amywebb), fondatrice du Future Today Institute (@FTI), qui vient de publier un livre qui invite les plus grandes entreprises des technologies à changer de cap en matière d’intelligence artificielle, cela ne signifie pas pourtant que la situation soit sans espoir. Aujourd’hui, pour les entreprises de la technologie, la vitesse est plus importante que toute autre chose, rappelle-t-elle. La course concurrentielle explique que les dispositifs proposés, notamment en matière d’IA, soient bien souvent imparfaits, qu’ils comportent et propagent d’innombrables biais sociaux… Pour elle, l’enjeu à venir est de trouver les modalités pour encourager la collaboration entre les projets des entreprises pour les aider à réviser les questions où les données ne représentent pas suffisamment la population dans sa diversité. La sous-représentation des femmes, des minorités ethniques ou sociales est un problème réel, mais pas nécessairement fondamentale. « Nous sommes tous discriminés par l’informatique », souligne-t-elle. Seuls les professionnels de l’informatique y échappent, mais non pas tant en fonction de leur sexe, de leur nationalité ou de leurs origines culturelles… mais du fait même de la prédominance de la culture technique dans nos sociétés. « Tous ceux qui ne font pas partie de ce groupe d’intérêts ne sont pas représentés ». Le problème avec l’informatique n’est donc pas tant qu’il ne représente pas les besoins d’un public varié, mais qu’il prône et ne défend que sa propre puissance.

Pour la professeure de Princeton, spécialiste des African-American studies, Ruha Benjamin (@ruha9), fondatrice du Just Data Lab et auteure de Race after technology évoque dans un entretien pour le Guardian, le fait que la discrimination soit inscrite dans le code même des systèmes algorithmiques. Pour elle aussi, si une plus grande diversité dans le secteur des technologies est importante, elle ne résoudra pas automatiquement les biais algorithmiques. « La diversité est une ruse », explique-t-elle, en appelant à une refonte complète des structures de responsabilité qui conditionnent le développement technologique. Attendre que la Silicon Valley se diversifie n’est pas suffisant : il est nécessaire de mettre en place une réglementation et une responsabilité plus stricte.

Pour Emiliy Chang (@emilychangtv), journaliste à Bloomberg et auteur de Brotopia, un livre qui dénonce la culture sexiste de la Silicon Valley, la diversité nécessite des actions concrètes de la part des entreprises de technologies. Elles doivent se doter d’objectifs précis et les appliquer, à l’image de Slack, qui a développé des outils pour standardiser ses recrutements, ses entretiens et ses évaluations en permettant aux recruteurs de prendre conscience de leurs biais, ou l’entreprise Redfin qui recrute des femmes sans expérience pour les former au code et les promouvoir au même titre que les autres. Ces questions de diversité ne progressent réellement que dans les entreprises qui en font une priorité, rappelait-elle à The Economist.

Appeler à améliorer la diversité, sans prendre des mesures pour effectivement la faire progresser, ne suffira pas. Encore faut-il parvenir à agir aussi sur la culture bien particulière du milieu de l’informatique. C’est ce que rappelait en février L’enquête-fleuve du journaliste Clive Thompson (@pomeranian99) pour le New York Times sur la crise de la présence des femmes dans l’informatique. Il y soulignait que cette masculinisation du secteur est profondément liée au manque de capacité en professeurs de la fin des années 80, qui a favorisé le recrutement d’étudiants qui y connaissaient déjà quelque chose, notamment des jeunes hommes qui avaient eu accès aux premiers ordinateurs personnels. Un recrutement qui a imposé une culture informatique antisociale, qui, rapidement, a encore plus fermé les portes de cet univers aux femmes. Cela n’a pas empêché certaines formations de réagir très tôt et avec une relative efficacité à cette tendance… Dès la fin des années 90, l’université Carnegie Mellon a lancé un programme pour relever la présence des femmes dans ses formations en informatique. Alors que dans la plupart des formations en informatique, les femmes représentent moins de 20 % des diplômés, il est de 48 % à l’université Carnegie Mellon. L’un des principaux leviers de ce succès : s’ouvrir à des candidats ayant moins d’expérience personnelle dans la programmation, tout en exigeant toujours de bonnes références en mathématique et en science. Pour l’université également, favoriser l’équité a nécessité de mettre en place des pratiques spécifiques et le soutien effectif de l’institution, en faisant monter les femmes dans les postes à responsabilité. Comme quoi, ce n’est pas impossible. Changer la culture des écoles ne devrait pas être plus difficile que de changer celle des entreprises !