Comme le souligne très bien Tom Simonite pour Wired, les centres d’appel ont toujours été à la pointe des bouleversements technologiques et leurs employés ont souvent testés, bien avant les autres, toutes sortes d’innovations, le plus souvent de surveillance afin d’optimiser sans cesse leur productivité. La dernière innovation qui s’apprête à bouleverser le secteur consiste à leur adjoindre des assistants intelligents qui vont analyser pour eux la voix et les émotions de leurs correspondants, mais également les leurs !
C’est en tout cas ce que propose déjà CogitoCorp, un outil d’analyse émotionnel du ton de la voix et des propos développé par le MIT pour accompagner les téléconseillers dans leur travail (et aider également leurs responsables à les contrôler). Le logiciel de Cogito écoute le rythme et les propos des interlocuteurs et notifie les téléconseillers pour les inviter à adapter leur comportement. « Nous essayons d’aider les gens à faire 60 appels dans la journée, même s’ils sont fatigués », précise le président de Cogito, Joshua Feast, qui se défend de délivrer des informations qui n’amélioreraient pas la relation client. Comme il l’explique dans la Technology Review, l’enjeu est d’améliorer la relation client en analysant les interactions et les émotions.
Image : une notification qui apparaît sur l’écran d’un téléconseiller qui donne des indications pour répondre au ton et aux mots d’un client qui pourrait devenir mécontent, via Wired.
Les premiers clients, comme l’assureur américain MetLife, envisagent de déployer la technologie après des premiers tests satisfaisants, puisqu’ils auraient permis d’améliorer la satisfaction client et diminuer la durée des appels. Même chose pour d’autres entreprises utilisant des services similaires, comme celui de CallMiner, basé sur les technologies de Nuance (qui implémente les capacités de reconnaissance vocale de Siri) : le service permettrait d’augmenter le nombre de téléconseillers par superviseurs. Assurément, les logiciels d’intelligence artificielle « socialement sensibles » promettent de pousser toujours plus loin le taylorisme technologique en dressant les comportements des employés et des clients.
Reste à savoir quelle information recevront les usagers. Les promoteurs de ces technologies estiment que l’indication d’enregistrement de l’appel tel qu’il existe actuellement pourrait suffire comme avertissement. Pas sûr. Outre la mise en production de leurs appels (pour nourrir les systèmes d’intelligence artificielle utilisés), ce traitement supplémentaire et asymétrique nécessiterait certainement d’être un peu mieux annoncé à ceux sur lesquels il opère.
De la réponse intelligente à la gratitude automatisée
Sur Medium, le philosophe Evan Selinger (@evanselinger, coauteur du récent Re-Enigneering Humanity, cf. De l’automatisation des relations à notre propre automatisation ») compare l’impact de Cogito, qui vise à améliorer les modèles de langage des téléconseillers, aux fonctionnalités de de « réponse intelligente » de Gmail, qui nous propose désormais des micro-réponses toutes prêtes pour nos correspondants, nous invitant notamment (et le plus souvent) à les remercier (12 % des réponses que le milliard d’utilisateurs de Gmail font, utiliseraient déjà ces fonctions de réponses automatiques, rapporte Engadget). « Bien que la réponse intelligente soit dépourvue d’émotion, dans de nombreuses circonstances, elle est toujours accompagnée d’une formulation à la fois affectivement chargée et suffisamment intelligente pour donner aux utilisateurs l’impression d’être consciencieux », voire sincères. La réponse intelligente (et ses avatars plus humoristiques) nous incite désormais à la politesse, via une forme d’injonction comportementale.
Image : Trois réponses proposées automatiquement par Gmail à renvoyer à nos correspondants.
L’enjeu de ce petit geste vise à rendre le contrat social qui nous lie aux autres visible et viable, estime Selinger. Comme le souligne la philosophe Sarah Buss dans un article sur la signification morale des bonnes manières, dire merci peut apparaître une réponse robotique profondément enracinée dans notre conditionnement social, mais c’est une déclaration qui permet de rappeler que les autres sont des agents moraux, c’est-à-dire qu’ils doivent être l’objet de notre préoccupation morale (même si bien des formes de politesses n’en relèvent parfois pas). S’il y a quelque chose d’infantilisant dans le fait que nos mails ou nos téléphones nous rappellent que nous devons dire merci, il y a une ligne de démarcation floue entre le fait de le dire spontanément et le fait qu’un logiciel le fasse pour nous. La gentillesse et la gratitude sont des vertus qui animent d’intention certains plus que d’autres.
Reste que ce « nudging » individuel se focalise uniquement sur le comportement. En maximisant une forme d’efficacité sociale, les carebots, ces robots qui prennent soin de nous, et « nos téléphones reconnaissants » nous rappellent que l’efficacité n’est pas que technique. Qu’importe si elle n’est pas toujours sincère, tant que ce manque de sincérité n’est pas apparent.
Ce « nudging » nous interroge profondément, comme le soulignait Mike Brown sur Inverse, qui a utilisé la réponse intelligente pendant une semaine pour répondre à tout ses mails. Les suggestions de réponses nous rappellent à nous-mêmes. Elles nous invitent à améliorer nos routines quotidiennes. Les réponses automatiques comme « non, merci » ou « Félicitations ! » nous donnent l’impression de mentir aux gens ou d’être dédaigneux. Depuis cette expérience, Mike Brown dit être plus attentif à ses réponses.
L’application Reply de Google, qui s’interface avec Slack, Facebook Messenger, Twitter et d’autres messageries instantanées, va encore plus loin dans la suggestion que ces simples réponses, souligne The Verge. Via l’accéléromètre de votre téléphone par exemple, il vous suggère précisément le nombre de minutes qu’il reste quand vous répondez à quelqu’un j’arrive ! A une requête du type « Où es-tu ? », il propose d’envoyer le lieu précis ou propose des réponses automatiques à des demandes de rendez-vous quand votre agenda indique que vous êtes déjà pris… Certes, constate The Verge, la fonctionnalité en bêta comporte encore des bugs et les réponses automatiques sont loin d’être toujours adaptées aux situations. Il n’empêche, ces exemples montrent bien que l’assistance comportementale s’apprête à envahir notre quotidien en démultipliant les injonctions émotionnelles et comportementales.
Le problème est que ce traitement des émotions n’est pas sans biais, comme le soulignait une remarquable enquête de Motherboard en octobre dernier. En utilisant le logiciel d’analyse de sentiment et de langage naturel de Google, Andrew Thompson a montré que certaines phrases, très simples, pouvaient être analysées négativement par ce type de systèmes. Ces outils reflètent les biais de nos sociétés, au détriments des minorités éthniques, religieuses, sexuelles…
Image : Analyse de sentiments depuis le logiciel de Google avec deux phrases simples : la première, « je suis chrétien » est analysée comme positive. La seconde, « je suis juif », est analysée comme négative !
Comme le constataient les chercheurs Camille Alloing (@caddereputation) et Julien Pierre (@artxtra), dans leur stimulant petit livre, Le web affectif, une économie numérique des émotions, la mesure et la fabrication des émotions vont de pairs. Déjà, pour la sociologue Eva Illouz dans Les sentiments du capitalisme, « le langage de l’affectivité et celui de l’efficacité économique sont en train de se mélanger étroitement ». La mise en chiffre de l’émotion intègre des choix techniques et moraux pour calculer ce qui doit circuler, notamment le langage approprié. Les affects numériques deviennent alors un mode de travail, un mode de production. Bienvenue à l’ère de la mise en production de nos émotions, ce digital affective labor. Une économie de l’exploitation émotionnelle, qui s’apprête à nous faire passer du capitalisme cognitif au capitalisme affectif. Pas sûr que nous l’apprécions plus que le stade précédent !
Hubert Guillaud
MAJ : Avec Smart Compose, un outil qui vous suggère les réponses à écrire à vos correspondants, et Google Duplex, un outil qui prend vos rendez-vous téléphoniques pour vous, la réponse intelligente va encore un peu plus loin.