Les interfaces conversationnelles automatisées (chabots) sont appelé à remplacer les moteurs de recherche et les assistants virtuels comme Siri, Google Now, Alexa ou Cortana…. estime Mike Elgan sur ComputerWorld. Mais, à l’heure ou Google et Facebook travaillent à des messageries automatisées, incorporant de l’Intelligence artificielle pour répondre aux utilisateurs (voir notamment “L’intelligence artificielle : une technologie sans alternative”), le risque est que ces systèmes remplacent aussi nos amis.

Google a créé un moteur de chatbot philosophique (voir l’article de recherche des ingénieurs de Google ayant travaillé sur ce projet), capable de discuter de grandes questions, comme du sens de la vie, en puisant ses réponses dans une base de données de dialogues de films. Baser les réponses de ces nouvelles interfaces sur celles des utilisateurs semble une approche qui fonctionne assez bien pour rendre ces robots plus humains. C’est aussi celle de Xiaoice, le chatbot développé par Microsoft en Chine et utilisé par quelques 40 millions d’utilisateurs sur leurs smartphones. Contrairement à Siri, Xiaoice semble plus amical : il est capable de soutenir des conversations, de raconter des blagues. Le New York Times notait que 25 % des utilisateurs avaient déjà déclaré leur amour à Xiaoice. Xiaoice, plutôt que de puiser ses réponses dans des bases de données de dialogue de films, les puise dans les réseaux sociaux chinois. Ainsi, quand vous demandez à Xiaoice le sens de la vie, celui-ci regarde dans les réseaux sociaux les réponses les plus populaires à ce type de question. Il se souvient de vos conversations passées et vous demande des nouvelles par rapport à ces informations.

Pour Mike Elgan, les chatbots sont donc appelé à remplacer à la fois les moteurs de recherche et les réseaux sociaux. Le risque est qu’à terme, la différence entre discuter avec un ami ou une IA soit de plus en plus flou. Le problème est que la combinaison de l’intelligence, de la loyauté et de la fidélité dont seront doté ces machines, est une alchimie irrésistible pour l’esprit humain. Le psychiatre et psychanalyste Serge Tisseron ne disait pas autre chose dans son dernier livre, Le jour où mon robot m’aimera dénonçant le risque que les hommes finissent par préférer “les illusions programmées avec des machines aux relations difficiles avec leurs semblables”. A croire que Her, le fameux film de Spike Jones, n’était pas une fable, mais une vision très réaliste de notre avenir…

Sur Slate, Will Oremus s’interroge sur les choix par défauts des réponses des  interfaces vocales, comme Echo d’Amazon, Siri ou Google Now. Dans les nombreux services proposés désormais par Echo, comment règle-t-on les réponses que fourni le service ? Quand on pose une question à Echo, d’où vient la réponse ? Alors que quand on interroge un moteur de recherche on accède à une liste de réponse, permettant d’évaluer les sources des réponses, ce n’est pas le cas de ces interfaces qui citent rarement la source dont elles extraient l’information. A qui fait-on confiance ? Comment règle-t-on les paramètres ? Et quand bien même nous avons accès aux réglage des paramètres, sur quels critères Amazon ou Google choisissent-ils les paramètres par défauts ?