La lecture de la semaine, il s’agit de la dernière production du chercheur biélorusse Evgueny Morozov, elle est parue dans le Wall Street Journal il y a quelques jours et s’intitule « les objets intelligents nous rendent-ils bêtes ? », un texte qui fait écho, de manière très critique à l’émission que nous avons consacrée il y a trois semaines à l’internet des objets.
Morozov prend pour commencer l’exemple d’une poubelle intelligente créée par un groupe de designers britanniques et allemands. A chaque fois que vous en ouvrez et refermez le couvercle, cette poubelle prend une photo qui permet l’analyse de vos déchets, et elle partage cette photo avec vos amis Facebook. L’idée étant, évidemment, de vous rendre vigilant en matière de recyclage de vos déchets et de gaspillage alimentaire et, le cas échéant, d’influer sur vos comportements. Morozov voit là la convergence de deux tendances qui travaillent en profondeur le monde qui nous entoure. Tout d’abord la prolifération d’objets connectés – ce qu’on appelle l’internet des objets -, d’objets qui ne sont plus bêtes et passifs, mais qui, avec l’aide d’un peu d’intelligence artificielle, peuvent distinguer un comportement responsable d’un comportement irresponsable, et même punir le comportement irresponsable et valoriser le comportement responsable, ceci en temps réel. La seconde tendance, c’est la possibilité, via Facebook et Google, de socialiser cette nouvelle interaction avec l’objet, de la rendre visible à nos amis. Ce sont là les ingrédients essentiels de ce qu’on appelle les technologies intelligentes.
Image : Un profil augmenté de ses déchets sur Facebook, via le projet BinCam.
Pour Morozov, certaines de ces technologies sont relativement inoffensives et pas fondamentalement révolutionnaires – la montre qui vibre quand vous êtes poké sur FB, la balance qui twitte votre poids à vos followers sur Twitter ou le pilulier qui alerte votre docteur si vous oubliez de prendre vos médicaments. Mais d’autres technologies intelligentes ouvrent des perspectives plus inquiétantes. Car beaucoup de penseurs de la Silicon Valley voient là le moyen d’améliorer les comportements. Ce n’est plus de l’ingénierie de produit, mais de l’ingénierie sociale. Et Morozov de remarquer une tendance chez ces penseurs de la Silicon Valley à designer le monde ou la réalité comme broken, cassés, brisés. « Des voitures intelligentes aux lunettes intelligentes, écrit-il, cette « intelligence » est le considéré par la Silicon Valley comme le moyen de transformer la réalité sociale d’aujourd’hui et les âmes désespérées qui l’habitent. »
Mais il y a pour Morozov motif à s’inquiéter de cette révolution qui se profile. « A mesure qu’elles deviennent plus intrusives, explique-t-il, les technologies intelligentes risquent de toucher à notre autonomie en supprimant des comportements que quelqu’un, quelque part, aura désignés comme indésirables. Les fourchettes intelligentes nous informent que nous mangeons trop vite. Les brosses à dents intelligentes nous incitent à passer plus de temps à nous brosser les dents. Les senseurs de nos voitures peuvent nous dire si nous conduisons trop vite ou freinons trop brutalement. » Morozov ne nie pas l’utilité de ces informations, mais il met en garde contre le fait qu’elles peuvent intéresser des institutions qui ont tout intérêt à surveiller nos comportements. A commencer par les compagnies d’assurance, qui offrent déjà des réductions sur leurs polices aux conducteurs qui acceptent d’installer des senseurs intelligents dans leur voiture. Combien de temps faudra-t-il pour que ce soit obligatoire pour avoir une assurance ? demande Morozov.
Pour lui, il est essentiel de faire la différence entre « bonne intelligence » et « mauvaise intelligence ». Et privilégier évidemment celle qui nous laisse le contrôle total de la situation et a comme seul but d’améliorer la prise de décision en fournissant des informations. Morozov considère comme « mauvaises » les technologies qui prennent une décision à notre place et interdisent certains comportements. Car, écrit-il « le problème de beaucoup de ces technologies est que leurs concepteurs, tout à leur idée de dénicher les imperfections de la condition humaine, s’arrêtent rarement pour se demander combien de frustration, d’échec et de regret il est nécessaire pour que le bonheur et le sentiment d’accomplissement aient du sens. Bien sûr c’est formidable quand les objets qui nous entourent fonctionnent bien, mais c’est encore mieux quand, accidentellement, ils cessent de bien fonctionner. C’est comme cela, après tout, que nous gagnons un espace pour prendre des décisions – dont la plupart sont indubitablement très mauvaises – et que, d’échecs en erreurs, nous murissons jusqu’à devenir des adultes responsables, tolérants au compromis et à la complexité. Ces espaces d’autonomie seront-ils préservés dans un monde rempli de technologies intelligentes ? », se demande Morozov.
Ce qui se profile, c’est notre infantilisation, voire la pauvreté intellectuelle. Le monde transformé en un lieu dont toute erreur est bannie, où il est impossible de dévier de la voie tracée. Un monde qui ressemble plus à une usine tayloriste qu’à une incitation à innover. Car, selon lui, « tout artiste ou chercheur le sait, sans un espace protégé, et même sanctuarisé, où l’erreur est possible, l’innovation cesserait d’exister. » Morozov ajoute : « Des technologies intelligentes, au sens humain du terme, ne devraient pas avoir pour fonction de trouver les solutions pour nous. Ce dont nous avons besoin, c’est qu’elles nous aident à résoudre les problèmes. » Il conclut : « Si les designers de ces technologies ne prennent pas acte de la complexité et de la richesse de l’expérience humaine – avec ses failles, ses défis et ses conflits -, leurs inventions finiront dans la poubelle intelligente de l’Histoire. »
Xavier de la Porte
Xavier de la Porte (@xporte), producteur de l’émission Place de la Toile sur France Culture, réalise chaque semaine une intéressante lecture d’un article de l’actualité dans le cadre de son émission.
L’émission du 2 mars 2013 était consacrée à comment les ordinateurs ont pris possession des marchés financiers en compagnie d’Alexandre Laumonier, l’auteur ou porte-parole de l’algorithme de transaction à haute fréquence Sniper (@sniperinmahwah – son blog), qui signe l’excellent livre 6 aux éditions Zones sensibles dont il est également le fondateur. Ainsi que de Marc Lenglet, directeur du Département Management, stratégie, systèmes de l’European Buisiness School de Paris qui est l’auteur de plusieurs travaux sur les transactions à haute fréquence notamment dans Comprendre les marchés financiers paru à La Documentation française.
0 commentaires
Je ne suis pas très en phase avec cette vision des choses. J’ai l’impression de revoir mes parents il y a un peu plus de 10 ans qui ne comprenaient pas pourquoi je mettais les numéros de téléphone de mes amis dans la mémoire de mon téléphone au lieu de les retenir par cœur. Oui aujourd’hui, je n’ai en mémoire que 5 numéros au lieu de 40 auparavant, est-ce ça me manque ? Non ! Oui j’utilise un agenda électronique pour retenir l’ensemble de mes rendez-vous et les dates d’anniversaires. Alors pourquoi ne pas utiliser une autre intelligence que la nôtre qui va s’occuper de baisser le chauffage lorsque cela n’est pas nécessaire, ouvrir les volets si le soleil permet de chauffer la maison… Les objets connectés ne nous rendent pas plus bêtes, ils nous permettent d’éviter d’encombrer notre cerveau avec des tâches inutiles.
@Alexis:
Je ne pense pas que ce soit le propos de Morozov. Il ne vise pas l’utilisation neutre des technologies, mais la perte de contrôle. Mettre des numéros de téléphones dans une mémoire évite l’effort idiot, bien sûr (« Le sportif intelligent évite l’effort inutile », comme dit M. Mégot dans « Le Petit Spirou »…), mais n’a aucune conséquence ni ne présente aucun risque. La technique reste parfaitement neutre.
Le problème, que pour ma part je vois très bien, c’est de voir la technologie mal employée se transformer en machine à imposer des normes. « Il faut », « Tu dois »… te brosser les dents un certain temps, ne pas manger trop vite, ne pas conduire trop vite, ne pas fumer, ne pas boire, NE PAS ceci, NE PAS cela… bref être bien conforme, bien sage, bien komilfo, bien respectueux des normes sociales.
Et le passage au Panopticon suit logiquement: « Mais je m’aperçois que tu as dépassé 90 km/h: c’est très laid! Alors, pour te punir, je vais augmenter ta prime d’assurance de 20%… ».
Bref, si elle est dévoyée, la technologie peut nous conduire à un monde infernal de contrainte et de perte de libre arbitre. C’est ce que nous dit Morosov, et il a raison.
Je ne suis pas certain que le commentaire d’Alexis ci dessus porte réellement sur les craintes exprimées par Morozov. Morozov ne dit rien de ces « gagne temps » ou des machins qui nous servent de mémoire annexe : il craint d’une part que l’auto contrôle tourne à la norme ; et d’autre part que ces système d’auto contrôles profitent un peu trop à ceux qui ont interet à nous controler…
Ce raisonnement me semble intelligent et pertinent. Outre le fait qu’ un monde, ou une vie quotidienne sans sérendipité, ç adoit vite devenir un cauchemar !
dont tout est erreur est banni : dont toute erreur est bannie
– corrigée, merci – elle n’était pas très belle celle-là ! – HG
Ce que je voulais dire, c’est que j’estime ne pas avoir besoin de mon libre arbitre pour certaines choses. Je n’ai pas besoin que l’on m’aide en me disant que ça serait bien que je baisse mon chauffage car j’ai atteint une température que je juge acceptable, je préfère que le système agisse seul, à ma place, sans que j’ai besoin d’y penser.
Et concrètement sur l’exemple de la conduite, s’il est prouvé que conduire en dessous de telle vitesse à tel endroit permet de réduire les accidents, je ne suis pas opposé sur le principe à ce que ma voiture se bloque pour ne pas dépasser la vitesse. Si l’on n’est pas d’accord avec la limite, c’est contre la réglementation qu’il faut se révolter (c’est ici que se situe notre pouvoir de révolte) et non contre l’appareil qui la fait respecter. Et je ne trouve pas ce type de blocage infantilisant. Appliquer aux contrats d’assurance, cela signifiera que les personnes qui ont une conduite adaptée paieront moins et les autres paieront plus. Est-ce que c’est une mauvaise chose d’aider à ce qu’il y ait moins d’accident, moins de blessés même si à la base l’intérêt n’est pas philanthropique mais financier ?
Je reste malgré tout d’accord avec le fait, que la technologie va avoir de plus en plus de « contrôle » sur nos vies et qu’il sera important de mettre des limites et notamment de s’assurer que les règles ne deviennent pas dictées par des intérêts purement commerciaux.
« Je reste malgré tout d’accord avec le fait, que la technologie va avoir de plus en plus de « contrôle » sur nos vies et qu’il sera important de mettre des limites et notamment de s’assurer que les règles ne deviennent pas dictées par des intérêts purement commerciaux. »
ah oui ! vite ! un comité national d’éthique (sans pouvoir) ! une série de débats publics (une fois que le mal est déjà fait) !
@Alexis:
C’est vrai, vous avez raison, et je vous trouve même un peu tiède.
Pour la voiture: pourquoi une limitation autoritaire à 90 ou 130 km/h? Je pense que 50 km/h suffisent largement, car en principe on ne court pas de risque vital à cette vitesse. Sauf en ville, bien sûr, où je propose que comme en Angleterre vers 1900, on oblige les automobiles à rouler au pas et à être précédées par une personne portant un fanion pour protéger les piétons. De même, interdisons les deux-roues: c’est très dangereux. Quant à Internet, repaire de pédophilo-terroristo-néonazis, il faut en subordonner l’usage à une autorisation délivrée par une autorité compétente, bien entendu après vérification de bonne vie et moeurs. L’alcool donne la cirrhose, et le tabac donne le cancer: prohibons! Je suggère également de rendre obligatoire la pose de caméras de surveillance – pardon: de vidéo-PROTECTION – dans les appartements, pour vérifier que les parents élèvent bien leurs enfants et leur interdisent la télévision après 20 heures. Sous le contrôle, bien sûr, de ligues de vertu dûment accréditées.
Bref, bienvenue en enfer – pardon: dans le meilleur des mondes du Bonheur et de la Sécurité. Mais je pense que vous y seriez mieux préparé que moi, et que vous auriez moins de difficultés que moi à vous y adapter.
@Alexis
La différence entre une voiture qui affiche que vous dépassez la limite et une qui coupe l’injection si vous essayez de la dépasser est la réduction de votre liberté (rien que ça). Un jour vous pouvez souhaiter les dépasser, bien qu’étant conscient des dangers, en raison d’un impératif supérieur (genre une vague de tsunami qui vous arrive dessus, c’est pas de la fiction, suffit de (re)voir les images tournées par hélico lors du tremblement de Terre au Japon). Dans un cas vous pouvez, dans l’autre vous mourez.
Plus prosaïquement, il est possible qu’il vous soit arrivé à un guichet commercial quelconque (moi c’était à la SNCF) d’avoir une demande inhabituelle, pourtant simple et légitime, mais que l’opérateur navré vous réponde « désolé, la machine ne veut pas faire ça ». S’en suit 15mn de frustration et de discutions pour trouver -enfin – si seulement c’est possible, la personne qui peut outrepasser les limitation du système informatique.
Si la machine est a mon service, tant mieux, si je deviens esclave de ses décisions mécaniques, c’est très dangereux.
@Pierre,
Le débat est-il que la limite soit à 90, 130 ou 50km/h ou le fait que la limite puisse être contrôlée? Insurgez vous contre la limite mais pas contre le radar.
(Très intéressant débat: merci à Xavier et à Hubert de l’avoir initié!)
La question n’est pas la limitation de vitesse ni le radar: ils sont justifiés l’une et l’autre. La question bien plus générale que pose Morosov, c’est celle de l’extension du domaine du contrôle. Toujours pour notre sécurité, bien sûr! La brosse à dents « intelligente », c’est uniquement pour nous protéger des caries! De même que les caméras de surveillance à tous les coins de rue ne sont là que pour nous protéger des malfaiteurs, bien sûr! La SNCF nous le répète à longueur de journée: « Pour assurer votre sécurité, la SNCF vous demande blablabla… »: c’est pour nous protéger des terroristes, assurément! Si demain on nous impose du DPI sur Internet, ce sera pour nous protéger des pédophiles et des néonazis! D’ailleurs, tous les Américains le savent: le Patriot Act n’est là que pour leur sé-cu-ri-té! Si demain on nous impose un dispositif de géolocalisation sur les voitures neuves – la menace est réelle – ce ne sera que pour nous retrouver plus vite en cas d’accident, évidemment! Le fingerprinting des visages sur les réseaux sociaux généralistes, ce n’est que pour nous permettre de retrouver plus facilement nos amis, personne n’en doute! D’ailleurs, les gens honnêtes n’ont rien à cacher, c’est bien connu!
Et c’est comme ça, avec toutes ces belles intentions et justifications, qu’on se retrouve insidieusement – comme la fameuse grenouille dans l’eau froide – avec un système orwellien, où tout déviant devient suspect, premier pas vers un système de surveillance et de contrôle généralisés, autrement dit totalitaire.
C’est l’éternel débat entre liberté et sécurité, où chacun règle le curseur selon son vécu personnel. Si on a bien suivi ses cours de peur à la télévision, on règlera sur « Sécurité »; si on est plus méfiant, ou si on a plus de culture historique (ou pire si, comme moi, on a du sang juif et un historique familial de système soviétique), on aura tendance à être réservé sur les marchands de peur et les missionnaires de la sécurité.
Il est vrai que n’ayant pas connu certaines époques je suis moins craintif, peut-être à tort.
Je me rend compte par contre que nous nous sommes un peu éloignés du sujet de départ, qui était « les objets intelligents nous rendent-ils bêtes? » et non le risque d’un système orwellien.
Bien dit, Alexis ! Alors voilà ce que j’en pense. J’ai tellement soupé des bons conseils de ma brosse à dents et de mes objets intelligents et des ‘astuces du jour » que mon cerveau fait le tri automatique de cette pléthore d’information. Ce qu’Orwell n’avait pas prévu, c’est la surinformation, aussi efficace que la désinformation. Enfin je pense (comme ça, intuitivement, sans capteur) que votre chauffage trop parfait est en grande partie responsable des problèmes qu’a l’occidental moderne à se reproduire.
Curieux cette poubelle… pourquoi ne pas relier aussi sa voiture au poste de gendarmerie? ^^ pour ne pas citer le film « le 5 ème élément ».
Pour ceux qui serait interessé par ce sujet lié à la liberté des usages et des objets « responsabilisants », je vous invite à jeter un coup d’oeil à mon mémoire en version numérique: http://pourdesusageslibresetdurables.wordpress.com/ qui traite d’ailleur de l’impact des « objets » sur nos comportements envers les déchets 😉
Merci pour cet article 🙂 Toujours des sujets passionnants à lire sur ce blog !
Le mot « sensor » (en anglais) se traduit en français par « capteur » et non pas « senseur », surtout avec un sujet où le censeur pointe le bout de son nez…