La technologie est-elle magique ou hantée ?

Par le 09/03/16 | 12 commentaires | 2,487 lectures | Impression

Pour Nicolas Nova (@nicolasnova), initiateur et organisateur de cette ultime session de l’édition 2016 des conférences Lift, l’un des mantras du design d’interaction consiste à rendre la technologie invisible… et donc parfaitement magique. Cette intuition repose s’une l’une des 3 lois de l’écrivain de Science-fiction, Arthur C. Clarke : “toute technologie suffisamment avancée est indiscernable de la magie”. Cela signifie que, pour l’individu lambda, l’usage de technologies est tout aussi compréhensible qu’un tour de magie : le fonctionnement de la technologie demeure obscur et son expérience relève de l’évidence. Ou encore : l’important est que cela fonctionne, qu’importe comment ça marche.

L’idée que les produits et services numériques doivent proposer une expérience “magique” ou “enchantée” n’est pas nouvelle, comme l’avait souligné David Rose, lors d’une précédente conférence Lift. Le succès du design d’un service ou d’un objet numérique semble d’ailleurs de plus en plus se mesurer à ce caractère magique, évident et simple à la fois. Comme une porte automatique qui s’ouvre devant vous sans que vous n’ayez rien à faire. Le double problème, c’est que tout ne marche pas toujours si bien comme le soulignait le designer Fabien Girardin dans une autre conférence Lift. Concevoir des objets magiques n’est pas si simple, même pour des choses qui semblent aussi évidentes que des portes, comme le soulignait le psychologue et designer Don Norman, dans une vidéo récente publiée sur Vox.

L’internet des objets hantés

Pour l’artiste et designer Tobias Revell (@tobias_revell), cofondateur de Strange Telemetry et de Haunted Machines, nos machines sont toujours des êtres magiques. A l’image du turc mécanique construit en 1770 par Johann Wolfgang von Kempelen, ce faux automate joueur d’échecs, qui a pourtant longtemps conservé son secret et a longtemps été considéré comme une “machine pure”, comme le soulignait Edgar Allan Poe dans son essai Le joueur d’échecs de Maelzel. Il est intéressant de remarquer que l’une des premières oeuvres critiques de la technologie soit le fait d’un écrivain d’épouvante, d’un précurseur de la science-fiction.

Bien que Poe ait montré combien la technologie n’avait rien de magique, on parle toujours de la technologie comme relevant de la magie. Dans les années 80, 46% des articles du Time Magazine parlant d’informatique relevaient de ce champ lexical, soulignait William Stahl. Si un vocabulaire simple permet de mieux évoquer les systèmes complexes, ce mode culturel a nécessairement son revers. Si nos interactions relèvent de la magie, leur revers, quand elles tournent mal, relève alors de l’horreur. Et les attentes raisonnables que nous pouvons avoir de la technologie oscillent donc entre les meilleures et les pires expériences, entre la magie et l’horreur. Si la technologie relève de la magie, les pires expériences que nous pouvons en avoir, relèvent elles de l’horreur : à l’image des innombrables récits sur ces dispositifs qui enregistrent nos conversations par-devers nous, sur ces innombrables objets piratés et piratables, sur les serrures intelligentes qui ne s’ouvrent qu’à 80% du temps

25063534365_8b2d452e90_z
Image : Tobias Revell sur la scène de Lift, photographié par Ivo Naepflin, montre que nos attentes envers les technologies autonomes sont cernées par l’horreur et la magie.

On raconte que, lors des premières projections de l’arrivée du train en gare de La Ciotat des frères Lumière, les premiers spectateurs auraient fui la salle du fait qu’ils n’avaient pas l’expérience des films et qu’ils pensaient qu’un train leur fonçait dessus (une version qui est aujourd’hui très contestée). Ne sommes-nous pas aujourd’hui dans un rapport exactement inverse aux technologies, questionne Tobias Revell en versant au débat la vidéo d’une voiture autonome qui renverse des gens qui la regardait fonctionner persuadés qu’ils ne pouvaient rien leur arriver. Dans notre rapport magique à la technologie, nul n’imagine plus qu’elle ne fonctionnera pas.

A l’image de ceux qui ont cru au canular les invitant à placer leur smartphone Apple dans leur four à micro-ondes pour le recharger en quelques secondes… Pour Tobias Revell, les récits sur le fonctionnement magique des technologies favorisent le fait que les gens n’aient pas le cadre conceptuel nécessaire pour comprendre comment les choses qu’ils utilisent autour d’eux se comportent et fonctionnent. La perspective de ramener dans nos foyers ces technologies faillibles n’est pas rassurante. Qui a envie de frigos qui parlent ? De télévisions hantées ? De thermostats fous ? … Dans le film House on haunted hill, la maison hantée dont il est question est en fait fabriquée par Vincent Price pour tuer sa femme. Il ne fait qu’utiliser l’aura du surnaturel pour commettre un meurtre. Il présente une réalité pour en cacher une autre… Comme le soulignait l’anthropologiste Alfred Gell dans son article Technologie et magie, bien des stratégies techniques exploitent les biais psychologiques de manière à enchanter leurs utilisateurs afin de l’amener à percevoir la réalité sociale d’une manière qui soit favorable aux intérêts sociaux de ceux qui les proposent, les “enchanteurs”…

Les technologies ne sont pas nécessairement malveillantes, mais sont souvent mal conçues. Le fait qu’elles soient peu sécurisées, facilement piratables (à l’image du Thermostat Nest) et que leurs concepteurs n’hésitent pas à se déresponsabiliser (à l’image de l’ourson connecté de Fisher-Price qui permettait de connaître le nom, l’âge et le sexe des enfants qui l’utilisaient ou de VTech, qui, quelques mois après avoir été piraté, a mis à jour ses conditions d’utilisations en informant les utilisateurs que leur site n’était pas sécurisé et que les informations que les utilisateurs pouvaient y envoyer pouvaient être interceptées par des tiers…)…

Quand Wired explique que la serrure connectée August ne marche pas toujours très bien, il souligne que la serrure peut parfois vous empêcher d’entrer chez vous ou laisser la porte ouverte alors que vous pensiez qu’elle était fermée… Les innombrables bugs technologiques qui envahissent nos appareils, qui semblent fonctionner indépendamment de ce qu’on leur commande, semblent rendre les appareils hantés et risquent de briser la relation de confiance entre utilisateurs et entreprises. Les designers oublient bien souvent de concevoir les conséquences inimaginables des objets et services qu’ils imaginent, regrette Tobias Revell. Dans la course à laquelle nous nous livrons pour apaiser nos angoisses sociales et culturelles avec les technologies de l’enchantement, nous devons être conscients de l’horreur inattendue qu’elles pourraient apporter si elles sont utilisées avec malveillance ou mal conçues… conclut le designer, en invitant les designers à s’intéresser aux conséquences inattendues de leurs réalisations. “La magie est une métaphore, mais en créant des possibilités magiques, on libère d’abord la possibilité de l’horreur.”

La perte du contexte est une perte de contrôle

Natalie Kane (@nd_kane) qui lui succédait sur la scène de Lift, est écrivain. Elle travaille au laboratoire d’innovation Future Everything et à Changeist. Elle a cofondé avec Tobias Revell Haunted Machine.

“Je m’intéresse aux histoires de fantômes parce que ce phénomène culturel me semble révéler l’anxiété de nos sociétés”. Pour Natalie Kane, les fantômes sont un phénomène technologique. Houdini, le célèbre prestidigitateur américain, reconnaissait utiliser la technologie pour créer des illusions et s’était spécialisé dans la démystification des médiums. Pourtant, comme le montre Tobias Revell, la technologie est souvent assimilée à une forme de magie, permettant d’éluder la question de son fonctionnement pour concentrer le discours commercial sur son seul résultat. Quand l’une des dernières publicités d’Apple nous dit que nous sommes plus puissants que nous le croyons, ce n’est rien d’autre qu’une puissante technique d’obfuscation, qui vous pousse à penser que vous êtes le magicien alors que vous n’êtes qu’un composant, alors que les vrais magiciens sont les techniciens qui permettent à chacun de s’engager dans le processus utilisé. Nous sommes en fait de plus en plus confrontés à des boîtes noires qui nous masquent la manière dont les technologies fonctionnent, dont les décisions sont prises…

24700855749_60faf51b8b_z
Image : Natalie Kane sur la scène de Lift, photographiée par Ivo Naepflin.

Natalie Kane évoque l’histoire de Rehtaeh Parsons, cette jeune Canadienne qui avait été la victime d’un viol collectif et qui a mis fin à ses jours pour échapper au harcèlement qu’elle subissait sur internet. Des images d’elle, qui avaient beaucoup circulé sur les réseaux sociaux, ont été collectées par des banques de données et ont fini par réapparaître, des mois après son suicide, dans une publicité pour un service de rencontre en ligne sur Facebook, au plus grand effroi de ceux qui l’ont connu. Si Facebook s’est excusé et a retiré la publicité, démêler l’écheveau des responsabilités de l’usage de cette image est compliqué. Etait-ce une image provenant d’une publicité sociale générée automatiquement par Facebook ou une image ajoutée par erreur dans une banque d’image utilisée peut-être automatiquement et en dehors de tout contexte par le site de rencontre ? Quand des choses comme celle-ci arrivent, nous ne prévoyons pas que cette décision puisse être régie par un algorithme fonctionnant aveuglément, chargé de recueillir des images selon des caractéristiques spécifiques. Les algorithmes ne comprennent pas le contexte d’une image et les programmeurs n’anticipent pas les conséquences des fonctions qu’ils mettent en place, explique Natalie Kane sur son blog. La fonction de Facebook (On This Day) consistant à vous proposer des souvenirs postés les années précédentes pour vous inviter à les republier, ramène parfois de manière aléatoire et douloureuse un ex ou un proche disparu sur le mur des utilisateurs, comme l’évoquait déjà l’artiste et écrivain Joanne McNeil. Si les algorithmes ne sont pas neutres, ceux-ci savent nous rappeler un événement, mais pas nécessairement le sens qu’il a eu pour nous. S’ils sont capables de décrire ce qu’il y a sur une image que nous avons partagé, ils sont absolument incapables de décrire ce que cette image nous dit.

Pour Natalie Kane, ces histoires de fantômes sont révélatrices, des limites de conception des technologies qu’on utilise. Les technologies veulent nous faire du bien, elles sont naïvement bienveillantes, mais placées dans un autre contexte, les meilleures intentions peuvent produire le pire, notamment en arrivant dans nos sphères privées sans en comprendre le contexte particulier. Elles produisent des frictions. Nous sommes hantés par des choses invasives, intrusives, qui ressurgissent en dehors de leur contexte. Et cette perte de contexte est une perte de contrôle (comme le soulignait déjà la chercheuse Helen Nissenbaum).

“Où est l’exorciste qui nous débarrassera de ces fantômes ?” Il n’y en a pas, estime la designer. Peut-être peut-on au moins travailler à réduire l’étendue des dommages causés ? Comme le dit la chercheuse canadienne Deb Chachra, en se réappropriant et en détournant la 3e loi d’Arthur C. Clarke qu’évoquait Tobias Revell : “toute négligence suffisamment avancée est indiscernable de la malice”. Nous sommes les victimes de technologies créées par d’autres. L’imaginaire des technologies idéalise les utilisateurs et nous propose toujours une vision de demain sans problèmes aucun, à l’image d’un des exercices de prospective vidéo de Microsoft.

Il nous faut nous préparer à des avenirs incertains. L’avenir est quelque chose qui nous échappe. Imaginer des bugs, des fonctionnalités cassées, brisées, des frictions, ou les difficultés auxquelles seront confrontés les utilisateurs est le meilleur moyen de créer des systèmes plus résilients et plus empathiques. Et la designer de pointer vers quelques exemples qui permettent de mieux mettre en situation la réalité à venir, que des exemples trop lisses. A l’image du sketch de la série écossaise Burnistoun, qui montre un ascenseur qui se commande par la reconnaissance vocale et qui peine à reconnaître l’accent écossais (vidéo) de l’un de ses occupants. Ou encore, cette vidéo du Near Future Laboratory, où une utilisatrice d’un GPS à commande vocal doit épeler une destination pour tenter d’être comprise… Ou encore, cet épisode de l’excellente série télévisée d’anticipation, Black Mirror, où une femme interagit avec le clone virtuel de son petit ami décédé créé depuis la somme de ses interactions sur les réseaux sociaux, jusqu’à finir terrorisé par cette étrange manifestation de son défunt mari. Pour Natalie Kane, ce type d’histoire permet de montrer les limites de ces technologies. Nous avons besoin de raconter et d’écouter ces sinistres histoires de fantômes… ces histoires où la vie d’une personne est compromise parce que les concepteurs d’une technologie ne pensaient pas qu’on pourrait utiliser leur technologie différemment de la façon dont eux la concevaient. A l’image de l’histoire de Janet Vertesi tentant de cacher sa grossesse aux réseaux, où celle où la grossesse d’une adolescente a été révélée à son père par la publicité qu’elle recevait, où encore ces histoires de parents ayant découverts l’homosexualité de leurs enfants via les réseaux sociaux… Pour Natalie Kane être capable d’imaginer ces histoires horribles nécessite d’avoir des équipes plus diverses qu’elles ne le sont actuellement. Comme le disait danah boyd en faisant le même constat, “si les gens ne comprennent pas ce que les systèmes font, comment pouvons-nous espérer que les gens les contestent ?”

Hubert Guillaud

Rétroliens

  1. La technologie est-elle magique ou hanté...
  2. La technologie est-elle magique ou hanté...
  3. Anthropologie et numérique | Pearltrees
  4. La technologie est-elle magique ou hanté...
  5. La technologie est-elle magique ou hantée ? | Jean-Paul Pinte, expert en cybercriminalité depuis 2006
  6. Veille Cyber N68 – 13 mars 2016 |
  7. Veille sur la cybercriminalité de Jean-Paul PINTE, cybercriminologue – 22/03/2016
  8. La technologie est-elle magique ou hanté...

4 commentaires

  1. par yoananda

    Certes, mais tant que ces “bugs” et autres anomalies restent marginales, ça n’intéressera personne.

    Je m’intérroges plus sur les conséquences sociales d’une société ou les gens ne comprennent plus rien aux technologies qu’ils utilisent.
    Est-ce qu’on va développer de nouvelles formes de superstitions ?
    Est-ce que la société va se scinder entre ceux qui construisent les machines et ceux qui les utilisent sans avoir la compétence pour les comprendre, les premier devenant des sortes de prêtres/oracles ?
    Peut-on vraiment utiliser des technologies sans les comprendre et sans avoir de conséquences négatives (je pense par exemple aux africains / indiens qui utilisent le plastique comme n’importe quel objet qu’ils utilisent et qu’ils ont toujours jetté dans la nature sans se soucier de sa biodégradation, et qui donc polluent leur pays et les océans de plastiques).

    Il y a beaucoup de questions qui se posent.

  2. par Dr. Goulu

    @yonanda : à mon humble avis on a toujours utilisé des technologies qu’on ne comprenait pas. Pas besoin de comprendre le feu pour griller un steak de mamouth. Pas besoin de maîtriser la résistance des matériaux pour construire un château fort ou la chimie des colorants pour teindre du tissu.

    Donc oui, on développe de nouvelles formes de superstition (homéopathie et autres pseudo-sciences auxquelles il suffit de croire plutôt que de savoir)

    Et oui, la société est scindées en deux : ceux qui maitrisent l’informatique et les autres. Et en deux : ceux qui maitrisent la chimie et les autres. Et en deux : ceux qui maitrisent l’atome et les autres. Et ainsi de suite ce qui fait que quasi tout le monde possède une partie du savoir. La grande différence par rapport à avant, c’est qu’il y a ainsi des centaines de castes de prêtres/oracles et qu’elles sont ouvertes : il suffit d’étudier pour y entrer.

    Quand aux “conséquences négatives” il y en a toujours eu. J’ai grandi près de mines exploitées par les Romains qui avaient rasé toute la forêt environnante pour alimenter leurs bas fourneaux. Aux emplacements de ces fours, la contamination des sols en plomb et mercure dépasse les normes autorisées aujourd’hui …

    Rien ne sert de se poser des questions à l’avance (à long terme), l’humain ne fonctionne pas comme ça. Notre horizon varie entre un jour et une génération, maximum. On a assez à faire pour résoudre nos problèmes actuels, nos descendants résoudront les leurs.

  3. par Yann

    Il devient évident qu’il est impossible de suivre la technologie sur tous les fronts. Il ne suffit pas d’apprendre à écrire un algorithme pour avoir une vision claire de ce que peuvent faire les objets connectés par exemple. Car ils reposent sur plusieurs protocoles, dont ceux liés aux réseaux informatiques. La notion de “risque” et de testing va se faire de plus en plus importante. Qu’un programme informatique comme un traitement de texte plante à cause d’une fonction mal programmée ne prête pas trop à conséquence. Mais il n’en va pas de même lorsqu’il s’agit d’un programme comme celui qui pilote la voiture qui renverse un homme dans la vidéo ci-dessus. D’ailleurs peut-être que la faute revient à l’utilisateur du programme, qui l’a mal utilisé (comme certains usagers des portes Norman).
    Bref.
    Il va falloir prêter une attention extrême aux risques de mauvaise utilisation. Pour ne pas que la magie dont il est question dans le titre ne se transforme en magie noire !

  4. par Nicolaï

    Toute technologie est un pharmakon, conçu d’abord comme remède mais finalement poison – ou ayant beaucoup d’effets délétères. L’ordinateur, par exemple, en est un. Faire de telle sorte qu’en amont, le concepteur ralentisse et anticipe l’apparition du poison est un début de solution. Mais avec la complexité croissante des techniques, qui convoquent plus d’un spécialiste, les temps à venir ont de quoi inquiéter. Il faudrait réfléchir à une éthique de la technologie, une écologie de l’esprit. Certains s’y emploient, comme le philosophe Bernard Stiegler.