Enseigner l’éthique aux machines est un problème complexe. Peut-on leur apprendre à distinguer le vrai du faux ? Fasciné par l’idée, le roboticien Alan Winfield (blog, @alan_winfield) du Laboratoire de robotique de Bristol au Royaume-Uni a construit un piège éthique pour robot – et a été surpris par la réponse de la machine, rapporte le New Scientist. 

Winfield et ses collègues ont programmé un robot dont le rôle était d’éviter que d’autres robots tombent dans un trou (vidéo). L’idée était de reproduire ici la première loi de la robotique d’Asimov : un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger – le second robot représentant les humains donc. Le robot a très bien réussi sa tâche, se précipitant sur les robots humains pour les expulser de leur trajectoire et leur faire éviter le danger. Mais le jeu s’est compliqué quand l’équipe a mis en place un deuxième robot humain se précipitant vers le trou depuis un autre trajet. Le robot sauveur a donc été obligé de choisir qui sauver… Parfois, il a réussi à en sauver un. Quelques fois, il est parvenu à sauver les deux. Mais la plupart du temps (un peu plus de 1 fois sur trois), il a tellement perdu de temps à prendre une décision, que tous les robots humains sont tombés dans le trou. 

Cette expérience sur l’éthique robotique, rappellent le fameux problème de la voiture autonome qui doit choisir entre renverser un bus scolaire ou une personne âgée. Winfield est plus modeste. Son robot n’a qu’une éthique de zombie. Il n’a pas d’autre choix de comportement que de se comporter comme il fait, il ne comprend pas le raisonnement derrière ses actions. 

Ronald Arkin, chercheur à l’Institut de technologie de Géorgie à Atlanta, travaille à des algorithmes pour robots militaires appelés le “gouverneur éthique” (vidéo) qui vise à les aider à prendre des décisions éclairées sur le champ de bataille. Pour Wendell Wallach, l’auteur de Machines morales, l’éthique des robots est un sujet de recherche en laboratoire, qui ne concerne que des robots capables de fonctionner dans des espaces très prescrits. Peut-être que la clef est de les amener à fonctionner dans des environnements plus complexes.