La journaliste Sara Watson (@smwat) nous invitait, il n’y a pas si longtemps, à rendre la critique technologique constructive. Dans une tribune pour MotherBoard, elle nous explique que nous devons construire de meilleures fictions sur notre avenir technologique.

La SF nous aide-t-elle à comprendre notre rapport à la techno ?

Pour elle, nous sommes un peu coincés dans des figures simplistes allant de Hal9000, Terminator, à Her, Minority Report ou Ex Machina. Grosso modo, la plupart des histoires de science-fiction produites par Hollywood autour de l’intelligence artificielle notamment caricaturent notre relation homme-machine – c’est à mon sens réduire la diversité des fictions de SF à leur expressivité la plus visible, mais passons. Dans Minority Report par exemple, la technologie catalyse l’action, mais le conflit demeure celui de l’homme contre la société. Or, estime-t-elle, dans l’industrie de la techno et notamment dans l’IA, le conflit est plus un conflit entre l’homme et l’homme qu’entre l’homme et la techno. Les progrès de l’IA montrent des systèmes qui battent l’homme à des défis toujours plus complexes et subtils. De Jeopardy au jeu de Go, la technologie célèbre ses réalisations contre l’homme lui-même. La communauté de l’IA s’intéresse davantage à la célébration de ses succès – qui visent à reproduire un comportement toujours plus intelligent – qu’aux batailles un peu simplistes où l’homme serait terrassé par la machine. Pour elle, au final, les récits apocalyptiques de l’IA contre l’humanité s’avèrent caricaturaux. Ils sont finalement très éloignés de ce que va être la réalité de notre rapport à l’IA : à savoir vivre avec elle, vivre à ses côtés.

Or, rappelle la journaliste, les histoires, les fictions sont un des meilleurs moyens que nous ayons pour discuter des responsabilités de la technologie. Mais, à être grossièrement simplifiées, elles nous font tomber dans le piège de l’erreur narrative et ce d’autant plus qu’elles pointent vers des conflits qui ne sont pas les bons et risquent de nous faire rater l’état réel de la recherche en IA, comme le soulignaient Kate Crawford et Ryan Calo dans Nature. Dans cet article, Calo et Crawford soulignent qu’il nous faut comprendre l’impact social, culturel et politique des technologies, notamment des systèmes d’IA.

Pour Sara Watson nous avons besoin de récits qui nous montrent comment nous allons travailler avec ces machines, plutôt que de nous y opposer. Peut-on convoquer d’autres imaginaires pour l’IA que ceux du majordome ou de la secrétaire (des imaginaires de l’infantilisation disait avec raison Umair Haque) ? Des récits écrits du point de vue de l’IA pourraient-ils nous permettre de mieux comprendre la « logique de la machine » ?… Pour Sara Watson, l’enjeu est de savoir si les outils narratifs peuvent permettre de déplacer les questions vers la scrutabilité, la lisibilité, l’intelligibilité ou l’interprétabilité de l’IA. Nous devons raconter des histoires plus diverses et réalistes sur l’IA si nous voulons comprendre comment ces technologies s’insèrent dans notre société aujourd’hui et demain.

« Nous avons besoin de mettre à jour nos cauchemars »

Pour le sociologue Nathan Jurgenson (@nathanjurgenson), effectivement, les récits populaires informent notre réaction et notre compréhension, réagit-il sur Cyborgology. Si la critique de Sara Watson est centrée sur l’IA, son argument pourrait s’élargir à bien d’autres sujets, comme la surveillance ou le réchauffement climatique… par exemple. La sociologue Zeynep Tufekçi avait déjà pointé les limites des analogies orwelliennes comme 1984 ou des métaphores panoptiques pour comprendre la réalité de la surveillance actuelle et celle de demain. « Nous avons besoin de mettre à jour nos cauchemars », lançait-elle. Or, quand on parle de surveillance, la première image qui nous vient demeure reste celle d’une caméra de surveillance… Mais cette image dit-elle quelque chose de la réalité et de la diversité des formes de surveillance que nous connaissons aujourd’hui ?

Dans son article, Jurgenson pointe deux livres récents – Discognition de Steven Shaviro (@shaviro) et Four Futures : Life After Capitalism de Peter Frase (@pefrase) – qui parlent tous deux de l’utilité de la fiction spéculative pour imaginer le présent et sa relation avec le futur. Pour Shaviro, la science-fiction est « un récit qui devine l’avenir sans calcul de probabilité, et donc sans aucune garantie de faire correctement ». L’enjeu de la science-fiction n’est d’ailleurs absolument pas de prédire l’avenir, mais plutôt d’exploiter des tensions réflexives induites par les avancées technologiques ou les théories scientifiques, pourrait-on rapidement esquisser à la suite de Marc Atallah, directeur de la Maison d’Ailleurs (même si la diversité de la SF ne peut se résumer à cela, comme le montre la difficulté même à la définir). Dans l’avant-propos à Four Futures, Peter Frase affirme également sa préférence pour la « speculative fiction«  et la « science-fiction sociale« , quand bien même il semble difficile de croiser l’une avec l’autre. La première s’élargissant à toutes les littératures de l’imaginaire, quand la science-fiction sociale, elle, s’intéresse plus à la transformation de la société qu’aux évolutions technologiques.

L’enjeu de la SF n’est pas tant de décrire un avenir probable ou correct, que de rendre compte de tensions plausibles, de questions d’une époque se projetant dans une autre. Reste que pour y parvenir, il faut encore que ces tensions soient en phase avec la société. Or la surveillance que projette 1984 (écrit en 1948 et inspiré par les errements du nazisme et du stalinisme) ne correspond plus vraiment à celle que nous connaissons.

Dans le Manifeste Cyborg, Donna Haraway affirmait que « la frontière entre la science-fiction et la réalité sociale est une illusion d’optique ». Considérant les nombreux récits et approches possibles que la fiction offre, le désenchantement qu’expriment Watson et Tufeçki dans leurs constats respectifs semble encore plus approprié. Il est au final décourageant de constater que la promesse évoquée par Haraway puisse, par répétition narrative, devenir banale. Pour Jurgenson, s’il est difficile de trouver les responsables de la fatigue de la fiction de la surveillance, la série Black Mirror, malgré ses qualités, incarne parfaitement ce malaise. Comme le soulignait Adam Rothstein dans un vieux article de Cyborgology consacré à la série, Black Mirror met en scène les névroses de nos relations à la technologie. La technologie y fonctionne comme une métaphore de la monstruosité sociale des technologies d’aujourd’hui.

Nous avons besoin de mieux raconter la frontière floue qui sépare la science-fiction de la réalité sociale

Pour Jurgenson, la plupart des récits spéculatifs sur la surveillance illustrent soit la nécessité urgente de protéger notre intimité personnelle soit les risques indésirables de la visibilité. Pour lui, par exemple, il y a très peu de cas où la surveillance est traitée comme une question sociale faisant interagir des groupes, des structures et des dynamiques de pouvoir plus nuancés que l’observation par les puissants. Pour Jurgenson, il nous faudrait lister les récits qui sont ignorés.

Et pour cela, le spécialiste des questions numériques convoque les questions que posent la recherche, comme le font Robin James, Jenny Davis ou PJ Patella-Rey qui élargissent les questions de surveillance et les questions de contrôle social qui leurs sont liées. Pour lui, nous avons effectivement besoin de nouvelles histoires pour raconter la frontière floue qui sépare la science-fiction de la réalité sociale. La technologie, dit Latour, c’est la société devenue solide, durable (voir l’article .pdf). Pour les médias, le récit est c’est la culture devenue solide, durable, parodie Jurgenson. Mais coincée « entre l’intimité et le contrôle, notre dévotion un peu rigide à des récits sur la surveillance dépassés laisse trop peu d’espace à l’imagination », c’est-à-dire ne reflètent plus la réalité dont ils devraient s’inspirer.

Reste à savoir si cette diversité n’existe réellement pas, ou si le fait de se concentrer sur les récits de SF les plus emblématiques et visibles (qui nécessitent du temps pour être digérés par la société et des formes de simplification pour être mâchés par Hollywood), nous empêche d’en voir l’étendu et la pertinence. Pour le dire autrement, la SF ne manque pas de pertinence et réduire sa production à ce qu’en retient Hollywood ne permet peut-être pas d’en faire ressortir le meilleur, la richesse, la diversité ou la profondeur, mais certainement le plus consensuel ou les peurs les plus évidentes, les plus simplifiées. Or, des récits plus complexes existent. Les affinités de Robert Charles Wilson par exemple donne une vision un peu complexe – bien que partiellement réussie – des relations de pouvoir à l’heure des réseaux sociaux. Le recueil de nouvelles Au bal des actifs donne de la matière à la complexité des transformations du travail… Et ce ne sont là que des exemples tirés de lectures récentes.

A moins que, comme le soulignait Nicolas Nova, ces formes narratives aient été remplacées par d’autres, à l’image de cette science-fiction du quotidien un peu sensationnaliste qu’on voit passer tous les jours dans l’actualité, improbable et à la fois déjà réelle. Comme si les nouveaux services qui naissent étaient déjà une façon de glisser dans la fiction comme dans le futur.

Hubert Guillaud