Pour Nicolas Nova (@nicolasnova), initiateur et organisateur de cette ultime session de l’édition 2016 des conférences Lift, l’un des mantras du design d’interaction consiste à rendre la technologie invisible… et donc parfaitement magique. Cette intuition repose s’une l’une des 3 lois de l’écrivain de Science-fiction, Arthur C. Clarke : « toute technologie suffisamment avancée est indiscernable de la magie ». Cela signifie que, pour l’individu lambda, l’usage de technologies est tout aussi compréhensible qu’un tour de magie : le fonctionnement de la technologie demeure obscur et son expérience relève de l’évidence. Ou encore : l’important est que cela fonctionne, qu’importe comment ça marche.

L’idée que les produits et services numériques doivent proposer une expérience « magique » ou « enchantée » n’est pas nouvelle, comme l’avait souligné David Rose, lors d’une précédente conférence Lift. Le succès du design d’un service ou d’un objet numérique semble d’ailleurs de plus en plus se mesurer à ce caractère magique, évident et simple à la fois. Comme une porte automatique qui s’ouvre devant vous sans que vous n’ayez rien à faire. Le double problème, c’est que tout ne marche pas toujours si bien comme le soulignait le designer Fabien Girardin dans une autre conférence Lift. Concevoir des objets magiques n’est pas si simple, même pour des choses qui semblent aussi évidentes que des portes, comme le soulignait le psychologue et designer Don Norman, dans une vidéo récente publiée sur Vox.

L’internet des objets hantés

Pour l’artiste et designer Tobias Revell (@tobias_revell), cofondateur de Strange Telemetry et de Haunted Machines, nos machines sont toujours des êtres magiques. A l’image du turc mécanique construit en 1770 par Johann Wolfgang von Kempelen, ce faux automate joueur d’échecs, qui a pourtant longtemps conservé son secret et a longtemps été considéré comme une « machine pure », comme le soulignait Edgar Allan Poe dans son essai Le joueur d’échecs de Maelzel. Il est intéressant de remarquer que l’une des premières oeuvres critiques de la technologie soit le fait d’un écrivain d’épouvante, d’un précurseur de la science-fiction.

Bien que Poe ait montré combien la technologie n’avait rien de magique, on parle toujours de la technologie comme relevant de la magie. Dans les années 80, 46 % des articles du Time Magazine parlant d’informatique relevaient de ce champ lexical, soulignait William Stahl. Si un vocabulaire simple permet de mieux évoquer les systèmes complexes, ce mode culturel a nécessairement son revers. Si nos interactions relèvent de la magie, leur revers, quand elles tournent mal, relève alors de l’horreur. Et les attentes raisonnables que nous pouvons avoir de la technologie oscillent donc entre les meilleures et les pires expériences, entre la magie et l’horreur. Si la technologie relève de la magie, les pires expériences que nous pouvons en avoir, relèvent elles de l’horreur : à l’image des innombrables récits sur ces dispositifs qui enregistrent nos conversations par-devers nous, sur ces innombrables objets piratés et piratables, sur les serrures intelligentes qui ne s’ouvrent qu’à 80 % du temps…

Image : Tobias Revell sur la scène de Lift, photographié par Ivo Naepflin, montre que nos attentes envers les technologies autonomes sont cernées par l’horreur et la magie.

On raconte que, lors des premières projections de l’arrivée du train en gare de La Ciotat des frères Lumière, les premiers spectateurs auraient fui la salle du fait qu’ils n’avaient pas l’expérience des films et qu’ils pensaient qu’un train leur fonçait dessus (une version qui est aujourd’hui très contestée). Ne sommes-nous pas aujourd’hui dans un rapport exactement inverse aux technologies, questionne Tobias Revell en versant au débat la vidéo d’une voiture autonome qui renverse des gens qui la regardait fonctionner persuadés qu’ils ne pouvaient rien leur arriver. Dans notre rapport magique à la technologie, nul n’imagine plus qu’elle ne fonctionnera pas.

A l’image de ceux qui ont cru au canular les invitant à placer leur smartphone Apple dans leur four à micro-ondes pour le recharger en quelques secondes… Pour Tobias Revell, les récits sur le fonctionnement magique des technologies favorisent le fait que les gens n’aient pas le cadre conceptuel nécessaire pour comprendre comment les choses qu’ils utilisent autour d’eux se comportent et fonctionnent. La perspective de ramener dans nos foyers ces technologies faillibles n’est pas rassurante. Qui a envie de frigos qui parlent ? De télévisions hantées ? De thermostats fous ? … Dans le film House on haunted hill, la maison hantée dont il est question est en fait fabriquée par Vincent Price pour tuer sa femme. Il ne fait qu’utiliser l’aura du surnaturel pour commettre un meurtre. Il présente une réalité pour en cacher une autre… Comme le soulignait l’anthropologiste Alfred Gell dans son article Technologie et magie, bien des stratégies techniques exploitent les biais psychologiques de manière à enchanter leurs utilisateurs afin de l’amener à percevoir la réalité sociale d’une manière qui soit favorable aux intérêts sociaux de ceux qui les proposent, les « enchanteurs »…

Les technologies ne sont pas nécessairement malveillantes, mais sont souvent mal conçues. Le fait qu’elles soient peu sécurisées, facilement piratables (à l’image du Thermostat Nest) et que leurs concepteurs n’hésitent pas à se déresponsabiliser (à l’image de l’ourson connecté de Fisher-Price qui permettait de connaître le nom, l’âge et le sexe des enfants qui l’utilisaient ou de VTech, qui, quelques mois après avoir été piraté, a mis à jour ses conditions d’utilisations en informant les utilisateurs que leur site n’était pas sécurisé et que les informations que les utilisateurs pouvaient y envoyer pouvaient être interceptées par des tiers…)…

Quand Wired explique que la serrure connectée August ne marche pas toujours très bien, il souligne que la serrure peut parfois vous empêcher d’entrer chez vous ou laisser la porte ouverte alors que vous pensiez qu’elle était fermée… Les innombrables bugs technologiques qui envahissent nos appareils, qui semblent fonctionner indépendamment de ce qu’on leur commande, semblent rendre les appareils hantés et risquent de briser la relation de confiance entre utilisateurs et entreprises. Les designers oublient bien souvent de concevoir les conséquences inimaginables des objets et services qu’ils imaginent, regrette Tobias Revell. Dans la course à laquelle nous nous livrons pour apaiser nos angoisses sociales et culturelles avec les technologies de l’enchantement, nous devons être conscients de l’horreur inattendue qu’elles pourraient apporter si elles sont utilisées avec malveillance ou mal conçues… conclut le designer, en invitant les designers à s’intéresser aux conséquences inattendues de leurs réalisations. « La magie est une métaphore, mais en créant des possibilités magiques, on libère d’abord la possibilité de l’horreur. »

La perte du contexte est une perte de contrôle

Natalie Kane (@nd_kane) qui lui succédait sur la scène de Lift, est écrivain. Elle travaille au laboratoire d’innovation Future Everything et à Changeist. Elle a cofondé avec Tobias Revell Haunted Machine.

« Je m’intéresse aux histoires de fantômes parce que ce phénomène culturel me semble révéler l’anxiété de nos sociétés ». Pour Natalie Kane, les fantômes sont un phénomène technologique. Houdini, le célèbre prestidigitateur américain, reconnaissait utiliser la technologie pour créer des illusions et s’était spécialisé dans la démystification des médiums. Pourtant, comme le montre Tobias Revell, la technologie est souvent assimilée à une forme de magie, permettant d’éluder la question de son fonctionnement pour concentrer le discours commercial sur son seul résultat. Quand l’une des dernières publicités d’Apple nous dit que nous sommes plus puissants que nous le croyons, ce n’est rien d’autre qu’une puissante technique d’obfuscation, qui vous pousse à penser que vous êtes le magicien alors que vous n’êtes qu’un composant, alors que les vrais magiciens sont les techniciens qui permettent à chacun de s’engager dans le processus utilisé. Nous sommes en fait de plus en plus confrontés à des boîtes noires qui nous masquent la manière dont les technologies fonctionnent, dont les décisions sont prises…

Image : Natalie Kane sur la scène de Lift, photographiée par Ivo Naepflin.

Natalie Kane évoque l’histoire de Rehtaeh Parsons, cette jeune Canadienne qui avait été la victime d’un viol collectif et qui a mis fin à ses jours pour échapper au harcèlement qu’elle subissait sur internet. Des images d’elle, qui avaient beaucoup circulé sur les réseaux sociaux, ont été collectées par des banques de données et ont fini par réapparaître, des mois après son suicide, dans une publicité pour un service de rencontre en ligne sur Facebook, au plus grand effroi de ceux qui l’ont connu. Si Facebook s’est excusé et a retiré la publicité, démêler l’écheveau des responsabilités de l’usage de cette image est compliqué. Etait-ce une image provenant d’une publicité sociale générée automatiquement par Facebook ou une image ajoutée par erreur dans une banque d’image utilisée peut-être automatiquement et en dehors de tout contexte par le site de rencontre ? Quand des choses comme celle-ci arrivent, nous ne prévoyons pas que cette décision puisse être régie par un algorithme fonctionnant aveuglément, chargé de recueillir des images selon des caractéristiques spécifiques. Les algorithmes ne comprennent pas le contexte d’une image et les programmeurs n’anticipent pas les conséquences des fonctions qu’ils mettent en place, explique Natalie Kane sur son blog. La fonction de Facebook (On This Day) consistant à vous proposer des souvenirs postés les années précédentes pour vous inviter à les republier, ramène parfois de manière aléatoire et douloureuse un ex ou un proche disparu sur le mur des utilisateurs, comme l’évoquait déjà l’artiste et écrivain Joanne McNeil. Si les algorithmes ne sont pas neutres, ceux-ci savent nous rappeler un événement, mais pas nécessairement le sens qu’il a eu pour nous. S’ils sont capables de décrire ce qu’il y a sur une image que nous avons partagé, ils sont absolument incapables de décrire ce que cette image nous dit.

Pour Natalie Kane, ces histoires de fantômes sont révélatrices, des limites de conception des technologies qu’on utilise. Les technologies veulent nous faire du bien, elles sont naïvement bienveillantes, mais placées dans un autre contexte, les meilleures intentions peuvent produire le pire, notamment en arrivant dans nos sphères privées sans en comprendre le contexte particulier. Elles produisent des frictions. Nous sommes hantés par des choses invasives, intrusives, qui ressurgissent en dehors de leur contexte. Et cette perte de contexte est une perte de contrôle (comme le soulignait déjà la chercheuse Helen Nissenbaum).

« Où est l’exorciste qui nous débarrassera de ces fantômes ? » Il n’y en a pas, estime la designer. Peut-être peut-on au moins travailler à réduire l’étendue des dommages causés ? Comme le dit la chercheuse canadienne Deb Chachra, en se réappropriant et en détournant la 3e loi d’Arthur C. Clarke qu’évoquait Tobias Revell : « toute négligence suffisamment avancée est indiscernable de la malice ». Nous sommes les victimes de technologies créées par d’autres. L’imaginaire des technologies idéalise les utilisateurs et nous propose toujours une vision de demain sans problèmes aucun, à l’image d’un des exercices de prospective vidéo de Microsoft.

Il nous faut nous préparer à des avenirs incertains. L’avenir est quelque chose qui nous échappe. Imaginer des bugs, des fonctionnalités cassées, brisées, des frictions, ou les difficultés auxquelles seront confrontés les utilisateurs est le meilleur moyen de créer des systèmes plus résilients et plus empathiques. Et la designer de pointer vers quelques exemples qui permettent de mieux mettre en situation la réalité à venir, que des exemples trop lisses. A l’image du sketch de la série écossaise Burnistoun, qui montre un ascenseur qui se commande par la reconnaissance vocale et qui peine à reconnaître l’accent écossais (vidéo) de l’un de ses occupants. Ou encore, cette vidéo du Near Future Laboratory, où une utilisatrice d’un GPS à commande vocal doit épeler une destination pour tenter d’être comprise… Ou encore, cet épisode de l’excellente série télévisée d’anticipation, Black Mirror, où une femme interagit avec le clone virtuel de son petit ami décédé créé depuis la somme de ses interactions sur les réseaux sociaux, jusqu’à finir terrorisé par cette étrange manifestation de son défunt mari. Pour Natalie Kane, ce type d’histoire permet de montrer les limites de ces technologies. Nous avons besoin de raconter et d’écouter ces sinistres histoires de fantômes… ces histoires où la vie d’une personne est compromise parce que les concepteurs d’une technologie ne pensaient pas qu’on pourrait utiliser leur technologie différemment de la façon dont eux la concevaient. A l’image de l’histoire de Janet Vertesi tentant de cacher sa grossesse aux réseaux, où celle où la grossesse d’une adolescente a été révélée à son père par la publicité qu’elle recevait, où encore ces histoires de parents ayant découverts l’homosexualité de leurs enfants via les réseaux sociaux… Pour Natalie Kane être capable d’imaginer ces histoires horribles nécessite d’avoir des équipes plus diverses qu’elles ne le sont actuellement. Comme le disait danah boyd en faisant le même constat, « si les gens ne comprennent pas ce que les systèmes font, comment pouvons-nous espérer que les gens les contestent ? »

Hubert Guillaud