Vers des technologies malhonnêtes ?

A Dusseldorf, en Allemagne, juste devant un hôpital qui soigne des gens atteints de démence, les autorités ont installé un arrêt de bus où ne passe aucun bus. Il sert seulement à attirer les patients qui s’échappent et qui s’installent alors là pour prendre un bus qui les ramènerait chez eux. Ce faux arrêt de bus n’est qu’un subterfuge pour les retrouver plus facilement…

La technologie nous pousse-t-elle à mentir ?

Pour le psychologue et membre du Social Media Lab de l’université Cornell, Jeffrey Hancock (@jeffhancock), la technologie a modifié notre répertoire de mensonge, rappelle Kate Green (@kgreene) pour le Pacific Standard dans un stimulant article intitulé « Comment devrions-nous programmer nos ordinateurs pour qu’ils nous trompent ? » Notre arsenal d’excuses (votre e-mail a du disparaître dont ma boîte à spam, je suis en route…) s’est adapté et s’est élargi pour nous prémunir des attentes sociales infinies d’un monde connecté en permanence. Pour autant, estime le psychologue – voir notamment « Tromperie numérique : pourquoi, quand et comment les gens mentent-ils en ligne » (.pdf) -, il semble que les gens aient plus tendance à dire la vérité via les médias numériques que via d’autres médias. Ses recherches ont montré que nous avons moins tendance à mentir par e-mail qu’au téléphone, sur un CV en ligne que sur un CV papier… Certainement du fait que les médias numériques ont la mémoire longue. La synchronicité du médium, la capacité à conserver une trace et la distance qui sépare deux personnes sont les trois facteurs qui favorisent ou pas la tromperie, analyse Hancock.

Mais, comme comme le disait déjà l’anthropologue Genevieve Bell lors d’une conférence à Lift en 2008, il n’y a pas que les humains qui mentent, les systèmes techniques en sont tout autant capables que nous. De quels genres de mensonges la technologie est-elle capable ?

Comment les technologies nous mentent

« Les technologies malhonnêtes existent sous différentes formes et pour diverses raisons, pas toutes nécessairement inquiétantes », rappelle Kate Green. Il existe de nombreux boutons placebo à l’image des boutons d’appels que les piétons trouvent aux feux de circulation qui n’ont la plupart du temps aucun effet sur le rythme de passage des feux rouges au vert. De même, bien des barres de téléchargement qui envahissent nos écrans lors d’installations logicielles sont sans lien avec la quantité de téléchargement ou de décompression que réalise l’ordinateur en nous invitant à patienter.

loading99

Pourtant, rappelle Green, « un bon design est honnête » disait le designer industriel allemand Dieter Rams dans ses 10 principes de design. Et pourtant, la tromperie n’est pas toujours nécessairement mauvaise…

Eytan Adar (@eytanadar), chercheur en informatique à l’université du Michigan, Desney Tan (@desneytan) et Jaime Teevan (@jteevan) de Microsoft Research ont publié cette année un article de recherche sur la « Tromperie bienveillante dans l’interaction homme-machine  » (.pdf).

Dès les années 60, à l’heure des premiers réseaux de téléphonie électronique, les ingénieurs ont décidé que quand le système faisait une erreur, il devait continuer… qu’importe s’il mettait en communication les gens avec un mauvais numéro. La plupart des gens supposaient que l’erreur était leur, raccrochaient et recomposaient leur numéro. C’est ainsi que « l’illusion d’un système de téléphonie infaillible a été préservée », explique Adar.

Eytan Adar a recueilli ainsi des centaines d’exemples de conception trompeuse. Il a cherché à départager la tromperie bienveillante (celle qui bénéfice à l’utilisateur) de la tromperie malveillante (celle qui bénéficie au propriétaire du système au détriment de l’utilisateur). Sur le web, nous sommes familiers de ces darks patterns, ces interfaces conçues pour nous tromper, ces trucs et abus qui nous conduisent par exemple à devoir cliquer sur une publicité alors qu’on cherche à la fermer… Beaucoup de systèmes, lorsqu’ils ne parviennent pas à atteindre la requête, sont programmés pour renvoyer un choix par défaut pour couvrir leurs erreurs, comme quand les serveurs surchargés de Netflix renvoient vers la page des films les plus populaires. Les boutons placebo et les interfaces d’apaisement sont également des formes de tromperie bienveillantes qui donnent aux gens l’illusion du contrôle.

La technologie doit-elle apprendre à savoir quand elle doit être honnête ?

La tromperie bienveillante semble trouver ses origines en médecine, où les médecins pensent bien souvent que dire un diagnostic d’une manière trop brutal risque de faire plus de mal que de bien. On la retrouve naturellement dans le domaine des technologies, là où il y a aussi une importante asymétrie d’information entre utilisateurs et fournisseurs de service. Pour autant, serions-nous prêts à affronter la complexité d’une divulgation complète ? Les interfaces de nos ordinateurs elles-mêmes ne sont-elles pas déjà un moyen de nous masquer la complexité du code, interroge Kate Green…

La taxonomie simple d’Eytan Adar ressemble un peu à celle de Thomas d’Aquin : distinguant notamment les mensonges malveillants, des mensonges facétieux ou des mensonges officieux. Un logiciel dont les tromperies seraient parfaitement détectables serait aussi parfaitement répulsif, comme le sont les gens qui mentent toujours. Ceux qui nous trompent à notre avantage sont plus communément pardonnés.

boutonpietonLe développement de l’informatique à venir va-t-il conduire les mensonges logiciels et matériels un stade plus loin ? Est-ce que les mensonges incorporés dans nos systèmes techniques peuvent perdurer ? Sont-ils toujours implémentés consciemment et peuvent-ils être mieux conçus ? Qui croit encore aux boutons d’appels piétons des feux de circulation ? Comment concevoir la tromperie et à partir de quand produit-elle des contre-effets ? Quel est notre degré de tolérance à ces systèmes ?…

Kate Green prend pour exemple la voiture autonome… Si celle-ci détecte une fatigue du conducteur, va-t-elle prendre petit à petit le relai sans nous en informer ? Nos objets connectés sauront-ils prendre en compte nos personnalités, comme tentent de le faire les médecins, sachant être francs avec certains et plus diplomates avec d’autres ? Kate Green fait référence à Meursault, le personnage principal de L’Etranger, de Camus, accusé d’être un monstre, un homme sans moral du fait de sa brutale honnêteté. En étant honnêtes sans concessions, nos systèmes techniques risquent surtout de nous paraître inhumains. Ils devront donc apprendre quand il faut être honnête et quand il ne faut pas l’être…

Hubert Guillaud

À lire aussi sur internetactu.net

3 commentaires

  1. En parlant des boutons d’appels piétons des feux de circulation, Smart, la marque de voiture, communique actuellement sur une expérience, le Dancing Traffic Light… Les piétons n’appréciant pas d’attendre aux feux rouges, les designers de Smart ont eut l’idée de tester un signal d’attente invitant les passant à danser plutôt qu’à traverser.

  2. Rue89 revient sur les boutons-poussoirs pour piétons et souligne qu’effectivement, la plupart du temps, ils ne servent à rien… Sauf la nuit, sauf sur de grandes départementales… En fait les feux sont contrôlés par de petits ordinateurs se déclenchant en fonction de comptage des voitures via des capteurs insérés dans la chaussée, ou selon des scénarios qui peuvent varier selon l’heure de la journée ou selon des modalités envoyées à distance.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *