Qu’est-ce que la conscience ? La question est tellement difficile que bon nombre de penseurs ont renoncé à y répondre, préférant se cantonner à réfléchir à une autre notion (pourtant à peine plus aisée à définir) : « l’intelligence ». Pourtant, comprendre la conscience s’avère central pour envisager notre futur, et touche autant à la psychologie humaine qu’à l’intelligence artificielle.

Dans nos colonnes, nous avons déjà présenté une théorie de la conscience, celle de l’information intégrée, proposée par le neuroscientifique Giulio Tononi. Pour résumer, Tononi postule qu’une conscience est le produit d’une intégration entre les différentes parties d’un système. Cette intégration peut être mesurée et exprimée sous la forme d’un nombre particulier, que Tononi désigne par la lettre grecque Phi.

Comme toutes les théories sur la conscience, celle de Tononi est loin de faire l’unanimité. Mais, nous explique Wired, une récente expérience, pourrait constituer, selon le magazine, « la première vraie preuve de la théorie de l’information intégrée ».

Ce travail a été réalisé par l’équipe de Marcello Massimini, de l’université de Milan. Il a tout d’abord testé un panel de 102 personnes en bonne santé ainsi que 48 personnes ayant subi des lésions cérébrales, mais capables de réagir à leur environnement. Il leur a appliqué une stimulation magnétique transcranienne, ciblant certaines zones du cerveau particulièrement connues pour être liées à la présence de conscience, tout en analysant les résultats par EEG, alors qu’ils étaient conscients et inconscients. Massimini a ainsi pu obtenir un nombre qu’il a nommé l' »index de complexité perturbatrice » ou PCI (pour Pertubational Complexity Index). Sur les 150 cas analysés, lorsque cette valeur était au-dessus de 0,31, le sujet était systématiquement conscient. En dessous, il était inconscient.

Masimini s’est ensuite livré à une autre expérience. Il a testé des patients qui étaient éveillés, mais qui, suite à un accident ou une maladie, avaient cessé de communiquer avec le monde extérieur. Et les résultats sont assez inquiétants : en effet, sur les 43 personnes testées, 34 obtenaient un résultat inférieur à cette valeur de 0,31, ce qui était attendu. Mais 9 autres se trouvaient au-dessus de cette limite. Ce qui pourrait bien signifier, selon Wired qu’« ils possédaient peut-être une expérience du monde, mais qu’ils étaient incapables de communiquer à qui que ce soit qu’ils étaient toujours présents, comme s’ils étaient enfermés dans une cloche de plongée au fond de la mer ».

Quel rapport entre PCI et Phi ? Pour Tononi qui a travaillé sur le design de l’expérience avec Massimini, le PCI serait, une version « simplifiée » de Phi, mais plus facilement testable. « C’est peut-être une version du pauvre, mais elle fonctionne mieux que toute autre chose. Le PCI fonctionne sur le rêve et sur le sommeil sans rêves. (…) Maintenant, nous pouvons dire, juste en regardant cette valeur, si quelqu’un est conscient ou non. Nous pouvons évaluer la conscience chez les patients non réactifs.  »

Bien sûr, la théorie de l’information intégrée possède un véritable retentissement sur les recherches en intelligence artificielle. Car, si la thèse de Tononi reconnait la possibilité d’une conscience à des systèmes dont nous considérons généralement qu’ils en sont dépourvus (comme les insectes qui possèdent un cerveau minuscule), il rejette cette même éventualité pour d’autres entités, comme les machines, en tous cas les machines actuelles.

L’article de Wired nous explique que Tononi est en train d’écrire un papier expliquant pourquoi les actuelles IA, même celles utilisant le deep learning, seraient incapables d’accéder à la conscience : « Le phi d’un ordinateur numérique serait égal à zéro, même s’il pouvait parler comme moi », explique le neuroscientifique italien.

En effet, pour lui, la structure physique sur laquelle repose une conscience est fondamentale. Il rejette ainsi la doctrine « fonctionnaliste » ou « computationaliste », qui suggère que si une entité se comporte comme nous, alors elle éprouvera une expérience consciente analogue à la nôtre. Rappelons que c’est exactement l’hypothèse de base sur laquelle repose le fameux « test de Turing ». Mais pour Tononi, une simulation reste une simulation, tant que le système physique qui la supporte ne dispose pas d’un Phi élevé, ne possède pas une structure suffisamment « intégrée »…