A l’occasion de la parution de « ProspecTic, nouvelles technologies, nouvelles pensées ? » par Jean-Michel Cornu, directeur scientifique de la Fing – un ouvrage pédagogique et de synthèse sur les défis des prochaines révolutions scientifiques (Amazon, Fnac, Place des libraires) -, il nous a semblé intéressant de revenir sur les enjeux que vont nous poser demain nanotechnologies, biotechnologies, information et cognition.

Quelles sont les prochaines révolutions technologiques à venir ? Quels défis nous adressent-elles ?

Les neurosciences et les trois sciences cognitives

Différentes nouvelles sciences se sont développées grâce aux progrès de l’imagerie cérébrale et au développement des capacités de simulation apportées par l’informatique : les neurosciences (l’étude du cerveau), les sciences cognitives (l’étude des fonctions cognitives) et les sciences de la complexité (l’étude des réseaux d’éléments interconnectés entre eux, comme par exemple des neurones ou des fonctions cognitives).

L’imagerie cérébrale nous a permis de mieux comprendre le cerveau. Celui-ci est constitué d’un ensemble de cellules reliées entre elles. Il est capable d’évoluer en créant ou détruisant des neurones et des liaisons (on a découvert récemment que des neurones se créaient dans le bulbe olfactif et dans l’hippocampe). Le cerveau dispose d’une grande plasticité, c’est à dire d’une capacité à s’adapter à l’environnement.

Les sciences cognitives regroupent la part des sciences qui traite de « comment on connaît ». Elle se trouvent au croisement de trois approches :

• Les sciences cognitives physicalistes s’intéressent au cerveau et à la façon dont il apprend.
• Les sciences cognitives fonctionnalistes cherchent à simuler les différentes fonctions sur un ordinateur, indépendamment de ce que l’on connaît du cerveau physique.
• La cognition située s’intéresse à l’influence de l’environnement et de la culture sur notre façon d’apprendre.

Trois changements de paradigme

L’imagerie cérébrale a apporté un véritable changement de paradigme : la capacité à observer le cerveau en fonctionnement. Encore récemment, on ne pouvait faire que des études post mortem. Avec la possibilité d’étudier l’activité cérébrale grâce à une variété de moyens, la compréhension des phénomènes neuronaux prend un tout autre essor.

Un deuxième changement de paradigme est associé cette fois aux sciences cognitives. Auparavant, il n’était possible d’étudier les comportements qu’en prenant le cerveau comme une boîte noire. Un stimulus à l’entrée devrait produire telle réaction. Mais il existe de nombreuses boucles de rétroactions dans les réseaux neuronaux. Mieux, l’activité cérébrale change le cerveau lui-même en créant de nouvelles synapses, de nouveaux neurones.

Le cerveau a une extraordinaire plasticité qui lui permet de s’adapter aux événements. Mais la conséquence de cela est qu’un deuxième stimulus, identique au premier, ne produira pas le même résultat. Le développement de la simulation sur ordinateur de fonctions cognitives a donné la possibilité d’étudier l’intérieur de la boîte noire en permettant de comparer les résultats des fonctions simulées avec ceux des fonctions cérébrales. Le cognitivisme va plus loin encore en considérant que le cerveau n’est pas simplement simulable mais qu’il est également lui-même un système de traitement de l’information (une machine de Turing).

Cette évolution rapide de la connaissance du cerveau et des fonctions cérébrales a permis de mieux comprendre non pas seulement un objet extérieur, comme cela a été l’objet principal de la science, mais d’étudier notre mode de pensée lui-même. La cognition réfléchie nous permet de nous comprendre nous-mêmes. La philosophie et la science, qui ont suivi un temps des chemins différents, pourraient de nouveau se rapprocher. Les sciences cognitives peuvent-elles apporter un fondement scientifique et même calculatoire de l’éthique et des systèmes de loi ? Une éthique cognitive ? Ce domaine de recherche est actuellement appliqué aux elfes, des automates virtuels qui nous aident dans notre vie ordinaire mais qui doivent aussi respecter des règles – par exemple, savoir à qui diffuser des informations sur la santé d’une personne. Au-delà de la compréhension, on peut également imaginer transformer l’homme lui-même : dans ses aptitudes physiques, ses perceptions, mais également dans ses facultés intellectuelles.

Bien que le transhumanisme soit largement spéculatif, il est d’ores et déjà possible non seulement de réparer mais aussi d’augmenter certaines caractéristiques de l’homme. À terme, ces techniques pourraient conduire à des scissions de l’humanité en plusieurs groupes ayant des facultés physiques ou intellectuelles différentes.

Encore une fois, il est possible de décomposer les risques selon quatre grands domaines.

Le risque sanitaire
Il faudrait parler principalement ici de santé mentale. Quelles seront les conséquences sur le long terme des transformations opérées ? On sait déjà, dans le domaine de la médecine, que l’amputation et la greffe de membres ont des conséquences fortes sur le long terme. La découverte du marquage émotionnel aide à comprendre le syndrome de stress posttraumatique.

us avons également appris combien notre cerveau peut être transformé par des émotions fortes. Quelles conséquences auront sur le long terme des processus de développements cérébraux allant jusqu’à l’activation de la neurogénèse ? Le développement de nouvelles facultés se fera-t-il au détriment d’autres ?

Le risque pour les libertés individuelles
La faculté d’influencer nos capacités cognitives est une porte ouverte pour des réparations, des améliorations mais aussi des manipulations qui pourraient se faire à l’insu de la personne ou bien qui lui seraient imposées.

Encadré
Faut-il « transformer » les hyperactifs ?
Aux États-Unis, certaines écoles menacent de renvoyer des enfants qu’elles considèrent souffrir d’un trouble déficitaire de l’attention avec hyperactivité (TDAH) s’ils ne prennent pas de la Ritaline, un médicament psycholeptique. D’un autre côté, 10 % des collégiens et lycéens américains emploieraient la Ritaline, ou un produit analogue, hors de toute prescription médicale, afin de mieux réviser leurs examens…

En septembre 2005, un rapport de l’Inserm préconisait un dépistage dès 36 mois des troubles de conduite (comportements colériques et désobéissants) qui conduiraient potentiellement à une évolution vers des comportements délinquants à l’âge adulte. Ce rapport a servi de base à un article allant dans ce sens dans la proposition de loi sur la prévention de la délinquance. L’article a été supprimé du projet de loi après que 20 000 scientifiques, pédiatres, pédopsychiatres, pédagogues et intervenants sociaux eurent signé une pétition contre ce projet, appelée « pas de zéro de conduite ». Le Comité national d’éthique a considéré que « la tentation de réduire, classer et hiérarchiser l’ensemble des dimensions de la complexité des comportements humains à l’aide d’une seule grille de lecture, et de s’en servir pour prédire l’avenir des personnes est une tentation ancienne. Certains pensent aujourd’hui pouvoir tout lire de l’identité et de l’avenir d’un enfant par l’étude de son comportement, de la séquence de ses gènes, ou par l’analyse en imagerie de ses activités cérébrales. L’histoire des sciences nous révèle la vanité de tenter de réduire à tel ou tel critère la détermination de l’avenir d’une personne. La médecine doit d’abord considérer l’enfant comme un enfant en souffrance et en danger, qu’il faut accompagner, et non pas comme un enfant éventuellement dangereux, dont il faudrait protéger la société. Nous redisons notre opposition à une médecine qui serait utilisée pour protéger la société davantage que les personnes. »

Cette confusion entre trouble de l’attention, hyperactivité, et même délinquance est d’autant plus dommageable qu’un pourcentage de la population souffre effectivement de troubles de l’attention (environ 3 %). Lorsque le diagnostic médical est bien posé, la Ritaline constitue alors une aide très efficace pour traiter cette pathologie sans réduire la créativité de l’enfant.

Le risque de voir dériver l’usage des technologies
À l’inverse, certains pensent que tous les êtres capables de cognition doivent être protégés. Ainsi, les sciences cognitives montrent que certaines espèces animales ont une capacité élémentaire à raisonner, se remémorer, compter ou encore éprouver des émotions. Les tenants du projet « grands singes » considèrent donc que la frontière entre humains et non-humains n’existe plus et qu’il faut donc accorder des droits humains aux animaux munis d’un système nerveux suffisamment complexe, comme les primates. Des auteurs célèbres comme Richard Dawkins ou Jane Goodall ont apporté leur soutien à ce projet.

Avec les technologies d’augmentation, le problème de la liberté cognitive va se poser de façon de plus en plus urgente. Dans un monde où les moyens de modifier le fonctionnement de son cerveau se multiplient, comment s’assurer que ceux qui désirent opérer ces modifications puissent le faire au nom de la propriété de son propre esprit, tandis que ceux qui désirent éviter d’opérer certaines modifications se voient protégés ? La personne qui ne souhaitera pas être transformée, pourra-t-elle encore trouver du travail dans un monde où une part significative de l’humanité disposerait de facultés plus évoluées ? Le cas de l’athlète Oscar Pistorius montre que ces questions ne sont pas aussi futuristes qu’on pourrait le penser au premier abord.

Le risque de déconnexion entre les grandes entreprises et le reste de la société
Les possibilités de manipulation, qui sont la contrepartie négative des progrès offerts par les neurosciences et les sciences cognitives, pourraient être utilisées par des entreprises peu scrupuleuses. Le manque de transparence sur l’utilisation de ces découvertes peut conduire, à tort ou à raison, le grand public à développer une méfiance à l’égard des grandes entreprises, mais également des chercheurs et des politiques, avec le risque d’un rejet massif aussi bien des côtés pernicieux que des côtés positifs apportés par ces recherches.

Les difficultés qui rendent plus difficile le traitement de ces risques sont les mêmes que celles rencontrées dans les autres domaines.

Le déséquilibre entre la rentabilité et la gestion des risques
La question du conflit d’intérêts est toujours centrale dans ces domaines. Nous y reviendrons.

La difficulté culturelle à travailler de façon pluridisciplinaire
Comme pour les autres domaines, le dialogue entre les scientifiques mais aussi entre les différents acteurs impliqués de la société (chercheurs, politiques, industriels, société civile) est difficile. Ceci est dû non seulement au manque de diffusion des résultats et au manque de vulgarisation, mais également à une différence d’approche plus fondamentale.

Jean-Michel Cornu

Extrait de ProspecTic, nouvelles technologies, nouvelles pensées, FYP Editions, 2008.

Pour en savoir plus, voir les annexes sur le blog de Jean-Michel Cornu :

• Le Ba, un lieu pour faire émerger l’innovation
• Deux modes de représentation de la connaissance : logique ou sémantique
• La classification internationale des fonctions mentales
• Les fonctions cognitives réceptives et celles de mémorisation
• Les différentes formes de décision : des fonctions essentielles
• Les différentes formes de cognitivisme
• Quelle place pour l’homme ?