Sur son toujours aussi excellent blog, le chercheur en science de l’information Olivier Ertzscheid (@affordanceinfo) nous invite à construire une « téléologie du numérique », c’est-à-dire à construire « l’étude des causes finales » des outils et des entreprises du numérique, à en comprendre les finalités, les objectifs et les enjeux.
Il pointe notamment l’annonce par Gizmodo d’une collaboration entre Google et le département de la défense américain, afin de fournir à ce dernier des technologies d’intelligence artificielle pour faire du guidage de drones de combat sur des terrains d’opération militaire. L’objectif du « projet Maven » consiste à fournir à l’armée des objets identifiés. Or ces objets identifiés sont ceux que chacun d’entre nous identifions en utilisant les outils de Captchas de Google, en étant les travailleurs de l’ombre des plateformes, ses travailleurs du clic du digital labor chers au sociologue Antonio Casilli (@antoniocasilli). « Chaque jour, dans le cadre de ce que l’on nomme le « Digital Labor » nous entraînons donc et nous « améliorons » les technologies embarquées dans des drones militaires qui seront utilisées sur des zones de guerre. »
Le problème de ce projet, c’est que chacun d’entre nous, en renseignant des images pour les robots de Google participons potentiellement aux tirs futurs des drones militaires, tant et si bien qu’un simple clic sur une image peut nous rendre coresponsables d’une frappe, d’un mort… sans que nous ne l’ayons jamais voulu. Comme le pointe très justement le chercheur, la question de l’intentionnalité des régimes de collecte de données est donc une question essentielle. » Il ne faudrait pas que le numérique nous rende anonymes par excès de données ou que nous l’envisagions comme une excuse possible à chaque fois que nous perdons la capacité de tracer ce qui en sera réellement fait. Car ce qui est fait de nos données aujourd’hui, comme hier ce qui était fait de notre force de travail ou de nos impôts, est ce qui façonne nos sociétés, pour le meilleur de ce qui peut relier et émanciper les êtres humains comme pour le pire de ce qui peut les détruire. » Comme s’énerve légitimement le chercheur, nous devons pouvoir dire non. Nous devons pouvoir savoir clairement et explicitement ce dont il est fait de nos données, avec quelles intentions elles seront utilisées. Derrière l’utilisation qui est faite de nos données, à quoi consentons-nous réellement ?, comme le pointe avec force pertinence le juriste Lionel Maurel.
Ce projet entre Google et le département de la défense américain a – fait assez rare dans une entreprise (comme chez tous les géants de la tech) où la contradiction est toujours très mal vue – fait sortir quelque 3000 employés de Google (sur 72 000) de leur réserve. Une pétition adressée à la direction a demandé le retrait de Google du projet Maven pointe le New York Times.
La nécessité d’éclairer les projets politiques des géants de la techno, comme le pointait également Diana Filippova (@dnafilippova), cofondatrice de l’agence Stroïka, sur AOC, reste néanmoins à construire. Il est plus que jamais nécessaire décoder les valeurs et les méthodes des entreprises. Reste que ce n’est pas si simple. A la fois, comme le montre le projet Maven de Google, parce que les méthodes et projets sont insidieux, opaques et intriqués d’une manière complexe. De l’autre, parce que les objectifs poursuivis par les entreprises ne sont pas clairs, mais multiples. Peut-on dire ainsi comme le pointe Diana Filippova que Google incarne un projet politique transhumaniste ? Ou que Uber vise à la destruction systématique de la relation salariale ?
La difficulté demeure d’identifier l’intention derrière ce qui transparaît des actions. « Les intentions n’y sont jamais saisissables à l’œil nu, les liens de causalité par nature cachés et trompeurs, l’intentionnalité des individus étant toujours contrariée par celle, invisible, fourbe, et in fine inconnaissable de forces qui nous dépassent. »
Il n’y a qu’en comprenant les finalités par l’analyse des modalités que nous pourrons mettre à jour le projet politique qui se joue par-devers nous. Tout le problème est que bien souvent, la finalité n’est pas nécessairement inscrite à l’origine du projet mais se construit peu à peu. Assurément, nous sommes là devant une question difficile, quoiqu’essentielle.