L’artiste James Bridle (@jamesbridle), qui publiera en juillet Le nouvel âge sombre : la technologie et la fin du futur, dans une tribune pour Wired.co.uk, interpelle le monde de la technologie : nous ne pouvons pas laisser les décisions morales de la technologie reposer sur la conscience de la petite élite qui la compose. Il rappelle que l’information que les citoyens obtiennent sur le fonctionnement des technologies numériques dépend de plus en plus (ou trop souvent) de lanceurs d’alertes, allant d’Edward Snowden à Christopher Wylie, le jeune data scientist de Cambridge Analytica (auxquels il faudrait ajouter le rôle des repentis (voir également le dossier d’Usine Digitale), des fuites de données, des chercheurs qui permettent de comprendre le fonctionnement des systèmes et bien sûr des journalistes, à l’image du travail de Mike Isaac, qui avait signalé l’existence de fonctionnalités secrètes d’Uber…).

« Malheureusement (…) la figure du lanceur d’alerte semble accomplir un acte curieux dans le discours moderne : fournir à la fois un messie et un bouc émissaire, pointant vers les abus les plus graves et les plus spécifiques qui peuvent ensuite être entrelacés dans une série de scandales avant de disparaître de la vue du public dans un torrent sans fin d’autres révélations. Reste que la mise en avant d’un lanceur d’alerte enracine dans nos esprits l’un des pires aspects de la culture numérique contemporaine : à savoir le fait qu’une petite élite technologique privilégiée nous fournisse les moyens, mais également les récits de notre avenir commun. »

L’acte de dénonciation est emblématique de l’agentivité personnelle, c’est-à-dire de la capacité d’agir, reléguée au niveau individuel plus que collectif. C’est un acte de conscience accompli par une personne dont le sens moral ne peut plus s’accommoder des tâches qui lui sont confiées. Mais pouvons-nous ou devons-nous laisser des décisions morales qui nous concernent tous reposer sur la conscience de quelques individus qui travaillent dans des formes de régimes oppressifs, interroge James Bridle. Oppressifs, parce que les grands acteurs de la technologie, comme les agences de sécurités auxquelles elles ressemblent et avec lesquelles elles coopèrent souvent, visent à construire d’énormes machines de surveillance dont nous ne savons rien, hormis lors de quelques fuites. L’universitaire et mathématicien suisse, Paul-Olivier Dehaye (blog, @podehaye), cofondateur de PersonalData.io, qualifie d’ailleurs ces systèmes d' »abusifs par conception » (abusive by design).

Comme nous le signalions d’ailleurs dans les conclusions du groupe de travail NosSystèmes, nombre de révélations sur les biais des systèmes techniques proviennent de lanceurs d’alertes ou d’enquêtes liées à des fuites de données qui permettent de poser un regard critique sur le travail des entreprises de technologies, mais dont nous aurions bien du mal à éclairer les effets autrement.

Bridle nous invite à prendre la mesure de cette limite et contradiction. Comment pouvons-nous, nous, utilisateurs, fournir un consentement éclairé à des systèmes dont les opérations sont obscures, dont la portée est sans limites et dont les produits sont sans fin… Nous ne pouvons pas prendre la mesure de ces systèmes sur la base de la confiance que nous demandent ces entreprises, de leurs politiques (bien timides) d’auto-divulgation… Leur manque de transparence n’est contrebalancé que par les révélations des lanceurs d’alertes qui semblent montrer l’existence d’un fossé entre des politiques affichées par ces entreprises et certaines de leurs pratiques qui nous sont cachées. Bridle conclu son propos en rappelant les propos de l’écrivain suédois, militant de la non-violence, Sven Lindqvist qui s’adressait ainsi à ses lecteurs en évoquant les violences coloniales : « Vous en savez assez. Moi aussi. Ce n’est pas la connaissance qui nous manque. Ce qui nous manque, c’est le courage de comprendre ce que nous savons et d’en tirer les conclusions ». De combien de lanceurs d’alertes aurons-nous besoin pour nous rendre compte qu’il y a quelque chose de pourri au royaume de la Silicon Valley ?

Le livre que s’apprête à publier Bridle est visiblement de cet acabit. Un peu abattu par le monde qui est le nôtre. Celui qui a pointé l’année dernière le problème des vidéos automatiques pour enfants sur YouTube, semble, dans son livre, un peu déprimé. Alors que notre vision est de plus en plus universelle, notre capacité d’action semble de plus en plus réduite. Nous en savons de plus en plus en plus sur le monde, tout en étant de moins en moins capables d’agir sur lui, du fait de sa complexité et de son intrication. Le sentiment d’impuissance qui en résulte, plutôt que de nous inviter à reconsidérer le monde, semble nous pousser plus avant dans la paranoïa et la désintégration sociale. Pour Bridle, nous avons déchaîné avec la technologie des systèmes si complexes qu’il nous devient difficile de comprendre ce qu’ils veulent. Pourtant, nous ne sommes pas aussi dépourvus qu’on veut bien le penser.

Alors que « la nouvelle esthétique », ce concept forgé par Bridle nous a permis de rendre visible l’invisible en montrant l’imbrication croissante entre culture numérique et environnement physique, le « Nouvel âge sombre » semble vouloir nous demander de penser l’impensable. Pour Bridle, souligne Niki Seth-Smith de OpenDemocracy.net, l’accès à plus d’information était censée nous conduire à prendre de meilleures décisions. Mais cet idéal, prolongement des Lumières, est en panne (voir le constat similaire que dressait récemment la chercheuse danah boyd). Les experts et leurs machines se noient dans les données. La NSA n’arrive pas à extraire du sens de sa collecte de masse qui se révèle en grande partie inutile, car produisant plus de bruit que de sens. Pour Bridle, ce n’est pas que les données nous submergent et nous induisent en erreur, c’est aussi qu’elles nous fournissent une image si convaincante du monde (même si faillible) qu’elles relèguent notre bon sens aux oubliettes. Nous faisons plus confiance aux machines qu’à nous-mêmes, hélas.

Dans son livre, visiblement, Bridle explique ainsi que la crise climatique est aussi une crise de connaissance et de compréhension. Nos systèmes de prévision échouent à prédire des événements climatiques qui sont appelés à devenir de plus en plus imprévisibles, comme ils échouent à nos faire prendre les décisions nécessaires. Et il est probable que les données au final ne nous aident pas autant qu’on le pense… à l’heure où l’incertitude est en passe de devenir la norme. Pour lui, le climat est à l’image de notre perte de connaissance et de contrôle. Bridle nous invite à embrasser l’incertitude et à refuser la pensée computationnelle. Pas si simple pourtant. Notamment parce que nous sommes accros à l’information, et que celle-ci est une ressource libre et infinie. Cependant, rappelle Bridle, les habitudes de consommation de données actuelles ont un coût environnemental élevé : « à mesure que la culture numérique gagne en rapidité, en bande passante et en images, elle devient plus coûteuse et destructrice ». À défaut de pouvoir changer de culture, peut-être est-il possible de ralentir, comme nous y invite le best-seller du neuroscientifique Daniel Levitin (@danlevitin), L’esprit organisé : penser clairement à l’ère de la surcharge informationnelle, qui offre des conseils pratiques et des stratégies pour naviguer dans un monde trop riche en information. C’est également l’un des enjeux que James Bridle adressera. Pour lui, nous devons avoir recours à de nouvelles catégories, à de nouvelles autorités pour apprendre à naviguer dans la complexité qui est la nôtre. Nous devons apprendre à parler les langues des réseaux. On a hâte de la le lire.

PS : Nous avons plusieurs fois évoqué les travaux de James Bridle, notamment l’un de ses précédents livres, Ring of Steel où il s’attaquait au système de vidéosurveillance de Londres ; lors d’une de ses conférences à Lift… Il a récemment publié une longue réflexion critique sur la génération quasi automatique de vidéo pour les enfants sur YouTube – voir le compte rendu en français de Rue89) dont les constats poussent YouTube a réfléchir à une désalgorithmisation des vidéos automatisées pour enfants.

PS2 : L’avocat Jean-Baptiste Soufron (@soufron) me fait pertinemment remarquer que « Le lanceur d’alerte en lui-même n’est-t-il pas une figure décupalbilisante, un élément qui empêche l’action et la réflexion collective, à l’image de la figure du hacker ? » Comme il le pointe dans un récent article d’ailleurs (.pdf) : « Avec l’invention de la figure du hacker – un objet transitionnel permettant de positiver la rébellion au numérique, la politique numérique, les protestations et la violence ne semblent plus se dérouler que dans un monde virtuel et appartenir à une zone grise où les valeurs morales sont distantes et floues. Le choix même des dénominations de White Hat – un bon hacker – ou Black Hat – un mauvais hacker – semble plus lié au Seigneur des anneaux qu’au Manifeste du parti communiste. »