Nombre de politiques publiques reposent désormais sur des questions technologiques. Et quand on envisage de répondre à des problèmes politiques par des solutions technologiques, bien souvent, la conversation publique se concentre sur les choix de conception et les détails des mises en œuvre, au détriment des questions plus difficiles auxquelles il faudrait répondre, à savoir les questions de pouvoir et d’équité. Dans la mise en place par nombre de gouvernements occidentaux d’applications de suivis de contacts, les discussions ont surtout porté sur des questions techniques (l’efficacité du protocole choisi, l’architecture des données, les mesures pour protéger ou pas la vie privée, …), plutôt que de savoir si ces outils étaient de bonnes réponses au problème, explique Sean Martin McDonald dans une tribune pour CIGI online, le média du Centre international pour la gouvernance de l’innovation.

Sean Martin McDonald (@seanmmcdonald), est l’un des experts associés au Centre international pour la gouvernance de l’innovation (@CIGIOnline). Il est également le cofondateur (avec – et cela a son importance ! – Bianca Wylie, @biancawylie, connue pour être l’opposante phare du projet de ville numérique de Google à Toronto, que la firme a finalement abandonné), de Digital Public – @DigitalPublic -, une entreprise qui créée des consortiums pour protéger et régir les actifs numériques et qui défend notamment les « fiducies de données » – ou data trusts défendus par l’Open Data Institute, @ODIHQ -, des structures juridiques dédiées à la gouvernance des données – voir le rapport (.pdf) de Element AI et du Nesta sur le sujet).

Le théâtre technologique, ce solutionnisme

Pour Sean McDonald, la réponse aux catastrophes par des solutions technologiques au mieux distrayantes au pire problématiques est assez récurrente. Malgré leurs échecs répétés, il demeure toujours surprenant de constater combien les autorités ont tendance à toujours se tourner vers les technologies pour apporter des réponses politiques à un problème. Le solutionnisme technologique garde visiblement bonne presse, alors que ses lacunes et échecs sont chaque jour toujours mieux et plus documentés. Pour McDonald, les débats publics d’experts sur les technologies semblent fourbir une réponse politique sérieuse, mais ils tiennent plus d’une théâtralisation des réponses qu’autre chose. Ce « théâtre de la technologie » n’est pas sans rappeler le théâtre de la sécurité que dénonçait il y a longtemps l’expert en sécurité Bruce Schneier : des mesures de sécurité qui permettent aux gens de se sentir en sécurité sans qu’elles ne fassent concrètement quelque chose pour les protéger. À l’époque, Schneier dénonçait des réponses inadaptées au terrorisme, à l’image du contrôle des chaussures de tous ceux qui prennent l’avion ou de la confiscation du moindre liquide… Pour ceux qui jouent au théâtre de la sécurité, il est important de montrer que l’on fait quelque chose, que l’on prend des mesures et de les rendre visibles, même si celles-ci sont foncièrement inadaptées et non proportionnelles. Le problème, pointait-il déjà, c’est que les mesures de sécurité qui fonctionnent demeurent souvent invisibles, peu démonstratives, laborieuses, ingrates…

Pour McDonald, le théâtre technologique tient du même leurre… Il consiste à utiliser des solutions technologiques qui donnent aux gens le sentiment qu’un gouvernement est en train de résoudre un problème, sans rien faire pour le résoudre réellement.

Les modalités techniques… plutôt que les enjeux démocratiques !

Les applications de recherche de contacts ont été le dernier « grand succès » du petit théâtre technologique pour répondre à la récente pandémie mondiale, malgré leurs limites. Un succès bien relatif, comme le signalait encore récemment la BBC en pointant les échecs de nombre de ces applications. « Les gouvernements du monde entier ont saisi l’occasion et ont utilisé toute une série de pouvoirs pour lancer des technologies presque entièrement inefficaces et souvent carrément dangereuses. Plus alarmant encore, très peu de mesures ont été prises pour empêcher ces déploiements, pour contester les arguments des gouvernements concernant leur nécessité, leur efficacité ou leur proportionnalité, ou pour remettre en question les décisions de financement de ces technologies, dont le développement et le déploiement n’ont pas été faciles. Au lieu de se concentrer sur les questions de pouvoir sous-jacentes, la plupart des institutions publiques et des experts se sont seulement concentrés sur les modalités de conception de la technologie. »

Ce que souligne ici McDonald, c’est que nos institutions peinent à s’opposer aux choix de nos autorités, quand bien même leurs justifications sont lacunaires.

« Le théâtre technologique est particulièrement visible lorsque le débat d’experts, amplifié par les débats médiatiques et les plateformes numériques, crée l’apparence d’un débat public tout en ne faisant pas grand-chose pour engager le public de manière significative dans ce débat. Lorsque le public se concentre sur une technologie plutôt que sur une solution plus large pour aborder des questions politiques complexes, c’est que le théâtre technologique fonctionne à plein régime ».

Effectivement, quand le débat se résume à une question autour des modalités techniques, c’est souvent qu’il est mal posé ou qu’il a déjà glissé. La question de la justification du développement d’une application de suivi de contact en France a ainsi très rapidement basculé sur la question des modalités techniques de la protection des données. Son refus ou la discussion de son utilité, ne relevait rien de moins que d’une position idéologique, où étaient renvoyés, prestement, ceux désignés pour les disqualifier, comme « gauchistes du web » !

Pour Sean Martin McDonald, le coût le plus important et le plus dommageable du théâtre technologique est la fragilité politique qui en résulte par la construction d’institutions sans compréhension, investissement ou intérêt du public. Remplacer le soutien public par l’apport d’experts est un choix structurel, qui a des répercussions majeures sur la quantité et la qualité des débats liés aux projets techniques, sur la responsabilité de ceux impliqués dans leur conception, ainsi que sur les protections et garanties dont dispose le public pour contester ces décisions techniques.

Le petit théâtre technologique constitue finalement une menace pour l’industrie comme pour le politique. Elle repose sur un quarteron d’experts, politiquement fragiles, car dénués d’autorité démocratique. Pour McDonald, c’est par exemple le cas de l’OMS. Le fait que Trump ait décidé de mettre fin au financement et à la participation des États-Unis à l’OMS n’a guère suscité de réactions des autres pays ou encore moins du public, notamment parce que celui-ci comprend mal la valeur de l’Organisation mondiale pour la santé. Plutôt que d’agir comme un porte-parole de l’autorité scientifique, l’OMS a tendance à se concentrer sur des solutions immédiates et a parfois fait des propositions contradictoires sur celles-ci, par exemple sur l’utilité des masques. La fragilité politique de l’expertise n’est pas nouvelle, mais dans le contexte du théâtre technologique, elle est souvent exacerbée.

De l’absence de légitimité de la technique

Exacerbée, d’abord, parce que la numérisation des questions politiques modifie l’équilibre du pouvoir en déplaçant un certain nombre de questions politiques hors du débat public, notamment en les présentant comme des questions liées à des passations de marchés publics (c’est ce que disaient également les juristes Ryan Calo et Danielle Citron dans leur analyse des limites de l’Etat automatisé). Les litiges ne relèvent plus du législatif, « mais du service client des plateformes » ! La question du contrôle est ramenée à une simple adhésion du public à un service. Et la contestation est en grande partie réduite à une surveillance des conditions d’attribution du marché et à l’inspection du code source des plateformes déployées. On pourrait en ajouter d’autres. Dans la gouvernance des solutions mises en place, comme dans les comités qui orientent les décisions techniques, la place des usagers ou du public est réduite quand ce n’est pas inexistante. Si les associations d’usagers ou de malades ou de défense des libertés numériques par exemple s’expriment dans le débat public, elles n’ont souvent pas même de strapontin là où les choses se décident.

Ensuite, le recours à des solutions techniques sensationnalise les débats. Plutôt que de discuter des actions et responsabilités requises pour contenir l’épidémie, bien des débats se sont concentrés sur les modalités techniques des applications de suivi de contact. Pour McDonald, le solutionnisme finit par intégrer la fragilité de l’expertise dans la techno et accentue le problème de sa légitimité. En devenant le médiateur des institutions et experts qu’elle sert, la technologie renforce son pouvoir en fragilisant celui du politique. Au final, les entreprises technologiques, les universitaires, les institutions qui oeuvrent à l’utilisation des technologies pour résoudre des problèmes sociaux complexes, se posent peu la question des limites des solutions qu’ils proposent… Or, il n’existe pas d’applications pour prévenir les violences policières ni de système de surveillance de données pour arrêter le changement climatique, pas plus qu’un groupe d’expert ne peut remplacer la valeur d’une légitimité publique. Le théâtre technologique peut proposer des démonstrations puissantes, mais bien souvent, il n’est qu’une distraction. Il est le signe d’une industrie immature ». Il est souvent le fruit d’une réflexion politique court-termiste et pour l’instant, elle a surtout montré ses limites et ses échecs qu’autre chose. « Lorsque les institutions publiques substituent la consultation d’experts à la contribution et au contrôle du public, elles ne constituent que la moitié du groupe d’intérêt nécessaire à leur durabilité et à leur légitimité. » Le théâtre techno se focalise sur la techno alors qu’elle ne fonctionne pas, qu’elle demeure souvent expérimentale et qu’elle reste sujette aux biais de gouvernance, martèle McDonald. Elle surinvestit sa promesse de commodité au détriment de sa légitimité. Elle passe surtout aux pertes et profits tout enjeu démocratique.

Qui contrôle la transformation numérique ?

La transformation numérique des administrations publiques est devenue partout prédominante : les technologies sont désormais en premières lignes pour fournir des services aux gouvernements, mais aussi pour surveiller les populations. Le problème c’est que cette évolution n’a pas eu beaucoup d’impact sur la gouvernance, c’est-à-dire n’a pas redéfini les moyens et formes de contrôles par le public ou d’autres institutions publiques. De plus, le secteur technologique demeure peu réglementé. Cela n’empêche pourtant pas les autorités d’avoir recours à une industrie qu’ils contrôlent peu et qu’ils utilisent de plus en plus comme intermédiaires dans des opérations fondamentales de l’action publique.

Contrairement aux processus législatifs qui fonctionnent par négociation itérative, les marchés publics – par lesquels passent beaucoup des commandes technologiques -, eux, fonctionnent sur une demande émise par l’acteur public à laquelle répond un fournisseur. Ils sont conçus pour être limités, instrumentaux et relativement transparents, et sont jugés selon des normes professionnelles, pas en fonction de leur capacité à répondre au problème qu’ils adressent. Pour les militants, la contestation d’un marché public se révèle souvent limitée, juridiquement et procéduralement difficile. Au final, la surveillance des marchés n’est pas tant le fait de ceux qui défendent l’intérêt public, que celui de professionnels, plus procéduraux que politiques. Les choix fondamentaux qui président à une proposition de marché public reposent surtout sur les fonctionnaires et agences chargées de déployer des solutions et laissent bien souvent une bien faible marge de manoeuvre aux utilisateurs ou à ceux impactés par ces technologies pour contester ces développements et déploiements. Enfin, si les représentants sont responsabilisés et surveillés, la responsabilité des fonctionnaires, elle, relève surtout de leur éthique professionnelle. Il existe peu de mécanismes de responsabilité qui évaluent la performance de chaque fonctionnaire ou de chaque agence ou de chaque appel d’offres. Quand un service public opte pour une solution technique, il est rare que soit mis en place un cadre ou une infrastructure de participation du public, voire des explications ou modalités de contribution du public pour améliorer le service proposé. Enfin, en passant trop souvent par des contractants extérieurs, privés, pour fournir un service, bien souvent, on abaisse les normes et la responsabilité du service proposé. Bien souvent, il est bien plus difficile d’obtenir les informations nécessaires pour savoir si un service gouvernemental fourni par une entreprise privée est partial, à l’image des exemples qu’évoquait Virginia Eubanks dans son livre.

Pour McDonald, la transition numérique limite donc le débat démocratique et érode les moyens dont nous disposons pour protéger le public. En tout cas, nous pouvons constater avec lui que nous n’avons pas beaucoup augmenté les garanties et contreparties en regard des transformations technologiques en cours… S’il a donné lieu à plus de surveillance, le numérique a visiblement donné lieu à moins de contrôle, en tout cas à des contrôles qui relèvent plus de l’expertise que de la surveillance citoyenne ou démocratique ! Partout où le numérique passe, le contrôle « pour, de et par » les utilisateurs, recule.

Le problème, argumente-t-il encore, c’est que ces limites se font d’autant plus sentir lors des catastrophes et des situations d’urgences. Alors que les défis pour répondre aux conséquences de la pandémie sont encore majeurs, le théâtre technologique a battu son plein, déployant moult efforts pour nous distraire des difficultés que rencontraient les gouvernements. Des universitaires, des professionnels de la politique, des entreprises technologiques et des opportunistes ont joué la petite pièce technosolutionniste. « Des milliards de pixels ont été déversés pour soutenir le potentiel des données, l’intelligence artificielle et un certain de nombre de technologies de surveillance pour gérer notre coexistence avec le virus », et ce, alors que les professionnels de la santé nous avertissaient que les technologies d’avant-garde contribuent assez peu à la réponse. Nombre de gouvernements se sont engagés dans des applications de suivis de contacts, soutenus par la »communauté politique numérique », des professionnels et experts qui défendent, produisent, légifèrent ou étudient l’impact des technologies. Le partenariat entre Google et Apple a été la première brique qui a permis le déploiement d’applications, en mettant à jour les systèmes d’exploitation des téléphones du monde entier, sans que les utilisateurs n’aient leurs mots à dire. Le débat européen sur la centralisation ou non des données, sur l’efficacité relative des protocoles (entre l’utilisation du Bluetooth ou de la géolocalisation), sans compter les faux logiciels de suivis de contacts qui sont également venus polluer un débat complexe, sont resté difficiles à saisir pour le grand public. Partout, le débat s’est rapidement concentré sur des points techniques, reléguant bien loin la justification du recours ou pas à la technologie. Or, rappelle McDonald, « une fois que nous commençons à nous concentrer sur la technologie, nous pouvons commencer à oublier qu’elle ne fonctionne pas, qu’elle demeure hautement expérimentale et qu’elle est particulièrement sujette aux abus notamment d’une piètre gouvernance ».

« La vérité est que le fait de lancer, et, dans de nombreux cas, d’imposer l’utilisation d’une technologie – même en cas d’urgence – constitue un changement radical du pouvoir gouvernemental. Or, dans la plupart des démocraties, les changements importants dans le pouvoir gouvernemental, en particulier lors de situations d’urgences, sont soumis à un examen et à un contrôle substantiels par d’autres instances de gouvernements. À court terme, ces contrôles – quand ils ont existé – n’ont guère contribué à ralentir le développement ou le déploiement des outils de suivis de contacts, soulignant à quel point la science, la santé publique ou l’efficacité semblent avoir peu à opposer à l’expansion des pouvoirs de surveillance. La quasi-totalité des décisions importantes concernant le déploiement de technologies pour répondre à la pandémie a été prise à huis clos, parfois en dehors des gouvernements eux-mêmes et souvent par des personnes ayant des intérêts directs à proposer ces déploiements. Ces dynamiques ne sont pas particulièrement propres à la technologie, mais l’émergence d’un espace politique numérique semble avoir un coût significatif pour la santé ».

… et donc plus encore pour la démocratie et pour la politique !

Sean Martin McDonald fustige le petit théâtre de la scène technologique qui s’est vite empressé de revenir aux solutions techniques, et à leurs promesses magiques, malgré toutes les critiques que nous leur connaissons. C’est comme si des années de critiques à l’encontre du solutionnisme et des défaillances technologiques avaient été rayées d’un coup, sous prétexte de l’urgence. Partout dans le monde, les solutions de suivi de contact ont déroulé leurs programmes. Industriels et politiques ont retrouvé leurs vieilles habitudes, écartant au passage toute question quant à la justification démocratique des choix qu’ils ont engagés pour d’autres.

Régir le numérique, lancinante question !

Or, rappel McDonald, « le monde ne sait pas comment réglementer l’industrie technologique ». Cela ne veut pas dire qu’on ne peut pas, mais personne n’a fait un travail particulièrement convaincant jusqu’à présent dans ce sens, précise-t-il. Les nouvelles technologies de la communication ont souvent un impact important sur la politique et, en particulier, sur les autorités administratives. « Contrairement aux industries traditionnelles, les gouvernements contrôlent assez mal les marchés numériques, et la plupart des moyens utilisés par les gouvernements pour réglementer les entreprises traditionnelles (accès aux marchés, accès aux infrastructures/à la main-d’œuvre, fiscalité, etc.) ne se transposent pas facilement à l’échelle des services que produisent les grandes plateformes numériques ». Alors que l’ampleur des problèmes que génère la techno devrait être un appel à l’action, notamment pour les fonctionnaires… la plupart des gouvernements préfèrent se tourner vers les acteurs privés et ses experts.

Si l’expertise technologique peut prendre de nombreuses formes, elle est généralement exercée pour prendre des décisions sur la façon dont une technologie doit être conçue – et généralement sans contribution significative du public ni grande responsabilité à son égard. « Le problème est que les choses les plus dangereuses qui se produisent grâce à la technologie sont davantage liées à l’absence de contribution significative du public et de responsabilité à son égard qu’à la technologie elle-même ». Il existe de nombreuses applications dites privées et sécurisées qui ne savent pas empêcher la discrimination en matière d’emploi, désamorcer la violence politique ou améliorer des systèmes de santé publique ou d’éducation surchargés. Or, lorsque des problèmes majeurs de politique et de gouvernance se posent, il est souvent plus pratique de se concentrer sur la conception d’une technologie que sur la manière dont une technologie va réellement résoudre les problèmes de participation du public et de responsabilité des fournisseurs de solutions. Bien qu’il soit difficile de décrire ou d’étiqueter le groupe de personnes qui travaillent à influencer la manière dont les technologies influencent nos droits fondamentaux, pour les besoins de son article, Sean Martin McDonald propose de les appeler : « la communauté politique du numérique » (oubliant peut-être un peu vite, justement, que cette communauté politique du numérique n’est pas unique ou soudée. On y trouve aussi nombre d’associations qui soutiennent et abondent le petit théâtre technologique).

Soumettre les technologies à leurs responsabilités

Les membres de la communauté politique du numérique, contrairement aux représentants publics ou aux législateurs, n’ont pas nécessairement de mandats directs de la population pour débattre de ces sujets. Les associations de défense des droits numériques ou les associations d’usagers ne bénéficient souvent d’aucun soutien public, et sont donc contraints de compter sur des mécènes (ou les contributions de leurs adhérents) pour obtenir des financements et avoir accès à une influence. De fortes barrières structurelles empêchent cette communauté de proposer des idées politiques, et encore moins des réformes radicales. Et lorsque la défense des droits publics dépend du soutien, de l’amplification ou de la prise en compte d’intérêts privés bien positionnés, la légitimité de l’ensemble de ces communautés est encore plus fragile. Les experts de ces institutions ne sont pas en mesure de se reposer sur la crédibilité de la représentation ni de revendiquer l’indépendance par rapport aux décisions politiques nécessaires pour être entendues. La communauté politique numérique se retrouve au final souvent en situation de vulnérabilité ou désynchronisée par rapport aux personnes qui vivent le plus directement les échecs de la technologie.

Bien qu’il y ait beaucoup de choses techniques importantes à régler dans un déploiement technologique, très peu d’entre elles peuvent régler la façon dont des intérêts bien établis peuvent exploiter la technologie. En fait, la technologie est plus souvent utilisée par des intérêts bien établis pour éviter de devoir rendre des comptes. Plutôt que de s’engager dans les mécanismes de pouvoir qui ont une influence sur les entreprises technologiques, la plupart des responsables de la politique numérique s’agitent en attirant l’attention du public sur les détails de la technologie, comme ses caractéristiques de confidentialité ou de sécurité. Mais, comme nous l’avons vu, « la plupart des dommages que la technologie peut causer ne peuvent pas être contenus par la technologie ». « C’est comme essayer de mettre fin à la violence armée en agissant uniquement sur la conception d’armes à feu – c’est précieux, mais ce n’est ni la source ni la solution du problème ». Dans la réponse à COVID-19, la communauté de la politique numérique s’est concentrée davantage sur la sécurité comparative des protocoles que sur l’impact probable de l’utilisation de la technologie sur la santé publique ou sur les droits des patients.

Le principal facteur de succès parmi les réponses COVID-19 des différents gouvernements n’a pas été la puissance militaire, la richesse économique ou même le pouvoir exécutif, mais bien la confiance des gouvernés, comme le soutenait le magazine Foreign Policy. Les technologies peuvent contribuer à instaurer ou à briser cette confiance nécessaire. Tant que la communauté politique du numérique ne trouvera pas le moyen de concentrer son travail sur la tâche structurelle et difficile de construire des systèmes capables de rendre des comptes, elle continuera à être instrumentalisée et délégitimée par ceux qui bénéficient du solutionnisme.

Du besoin d’une gouvernance démocratique des choix techniques !

« La vulnérabilité ultime pour la démocratie n’est pas une technologie spécifique, c’est lorsque nous cessons de gouverner ensemble », conclut McDonald. Pour lui, l’enjeu principal à lever repose sur la gouvernance des questions numériques. C’est bien au mur d’une gouvernance fermée, excluant la participation même des habitants que les technologies étaient censée aider,  que s’est opposée sa partenaire Bianca Wylie dans sa lutte contre le projet de Google/Alphabet sur les quais de Toronto. C’est bien des enjeux démocratiques que soulevaient ce projet technologique. « Les réponses technologiques à la pandémie de COVID-19 ne sont pas remarquables sur le plan technologique. Elles sont remarquables parce qu’elles mettent en lumière les prises de pouvoir des gouvernements, des entreprises technologiques et des forces de l’ordre. Même dans les meilleures circonstances, très peu d’interventions gouvernementales axées sur le numérique ont défini de manière transparente les exigences de validation, effectué des analyses de nécessité ou d’impacts ou coordonné des protections politiques pour faire face aux préjudices prévisibles. »

Et, en pleine pandémie mondiale, il existe très peu de leviers politiques pour arrêter le rouleau compresseur technosolutionniste – beaucoup de ceux qui existent ont été utilisés pour négocier des détails technologiques, au lieu de contester ou d’empêcher la prise de pouvoir par la technologie. Les situations d’urgence exacerbent les pires de ces lacunes, car la panique typique, de bonne foi, nécessitant de faire quelque chose « a créé un grand nombre de marteaux technologiques très médiatisés dans un monde largement dépourvu de clous ». Plus dangereux encore peut-être : le passage de la représentation à l’expertise dans la prise de décision gouvernementale, administrée par le biais des marchés publics, réduit les ambitions politiques et la légitimité démocratique de l’ensemble du processus.

Pour Sean Martin McDonald, nous avons assurément besoin de discussions plus fortes, plus nourries, de négociations plus difficiles que des décisions prises à huis clos dans le confort de gens d’accord entre eux. Les industries mâtures sont confrontées à des régulations, à des oppositions plus fortes et structurées (syndicats, clients, législation, concurrence…). Les technosolutions ne suffisent pas à imposer la confiance, au contraire. Elles sapent le plus important : la force des décisions collectives ! Pour Sean Martin McDonald, sans gouvernance, le petit théâtre technologique pour le progrès risque surtout de tourner de plus en plus à vide.

La question de la participation du public dans les structures de gouvernance de données (et donc de participation aux projets numériques, discutés pieds à pieds avec ceux qui les imposent) se révèle une perspective bien plus stimulante à creuser, que de continuer à laisser le petit théâtre numérique faire ses représentations en circuit fermé et décider pour tous des choix qui restent les leurs. En tout cas, les enjeux que pose Sean Martin McDonald, malgré leurs difficultés, ont l’avantage de nous rappeler qu’il est temps de demander à la techno de répondre de ses choix. « Pas d’innovation sans représentation », rappelions-nous récemment. Le propos n’a jamais été autant d’actualité !

Hubert Guillaud