Le chercheur Ethan Zuckerman (@EthanZ) s’est rendu récemment à la conférence sur les machines qui écoutent, nous raconte-t-il sur son blog. Les machines dotées d’un micro pour nous écouter sont de plus en plus nombreuses : outre Google ou Siri, outre votre téléphone, il y a aussi votre télé, des jouets et des jeux (des jouets transactionnels, comme le souligne avec justesse le chercheur Olivier Ertzscheid), Echo, des robots, et nombre d’objets connectés. La dernière poupée Barbie, dont le logiciel est développé par ToyTalk, est emblématique. 

Ces machines d’écoute reposent sur trois caractéristiques de la surveillance : elles sont omniprésentes (et envahissent tous les aspects de nos vies), persistantes (elles tiennent un registre de ce que nous dit, indéfiniment), et elles traitent les données (en cherchant à comprendre ce que les gens disent et en agissant en retour sur ce que les gens comprennent). Pour évacuer l’aspect effrayant de leur comportement, elles sont proposées sous forme de dispositifs charmants, mignons et agréables : jouets, robots, assistants personnels à la voix douce… qui souhaitent juste nous rendre heureux. 

Mais l’écoute permanente pose nombre de problème, souligne Zuckerman. Pour autant que ces dispositifs soient aussi intelligents qu’ils tentent de nous le faire croire – ce qui n’est pas encore le cas -, un robot qui écoute des violences domestiques, doit-il appeler la police ? Si la poupée barbie apprend par confidence que votre enfant fume doit-elle prévenir les parents qui l’ont acheté ?… Que se passe-t-il quand des systèmes comme ShotSpotter, conçu pour identifier les coups de feu en ville, prévient la police par erreur ? Nos employeurs auront-ils le droit de nous écouter travailler ? 

Quel sera le cadre réglementaire de ces machines, interroge Ethan Zuckerman. Ce qu’on observe depuis un certain temps, c’est que la réglementation arrive toujours après. Les entreprises inventent de nouvelles technologies et les mettent sur le marché. Parfois, les consommateurs sont suffisamment nombreux à réagir pour qu’une réglementation surgisse. Mais “dans ce modèle, la réglementation n’est qu’un contrepoids très modeste des forces du marché”. Dès qu’un produit est sur le marché, il tend à convaincre les gens que le nouveau comportement qu’il induit est la nouvelle normalité. Quand Apple lance Siri, il a été capable de réduire les obstacles à l’adoption en le pré-installant sur son téléphone, en le rendant disponible gratuitement et en faisant de la publicité pour cette nouvelle fonctionnalité. Les gens parlent à leur téléphone, lui confient des informations sensibles et c’est devenu la nouvelle normalité. “Le problème avec cette approche de la réglementation est que nous n’avons rarement, sinon jamais, une conversation sur le monde technologique que nous voudrions avoir. Voulons-nous d’un monde dans lequel nous nous confions à nos téléphones ? Comment les entreprises doivent-elles gérer les données générées par ces nouvelles interactions ?” 

Le problème, c’est que ces débats nous sont en grande partie confisqués.