Ergo Ego

Rechercher si la conscience peut émerger dans une machine est un voyage au long cours à bord d’un improbable esquif philosophico-mathématique, dont nous suivons les étapes semaine après semaine. Quel qu’en soit le point d’arrivée, il offre l’occasion de découvertes et de rencontres parfois déconcertantes mais riches d’enseignements…

Il m’est un peu difficile de raconter cette histoire en sachant que vous n’en croirez pas un mot. De fait, à la relire, je n’y crois guère moi-même. Je soupçonne que quelque chose a commencé à sérieusement disjoncter quand j’ai reçu ce SMS de Descartes. Après cela, tout est parti en vrille et je n’ai pu que suivre. Mais voilà : il y a tout de même quelque chose de profondément vrai dans ce récit, et c’est tout ce qui compte à mes yeux. Pour tout le reste, si non e vero e bene trovato. Vous voilà prévenues, précautions oratoire prises, alors allons-y.

Depuis pas mal de temps j’avais en tête de renouer avec mes premières amours intellectuelles des années 80, à savoir l’Intelligence Artificielle, la vraie, celle qui étudiait la possibilité pour un programme informatique d’acquérir une conscience dans la droite ligne tracée par l’article fondateur d’Alan Turing en 1950. Nourri comme toute une génération de geeks par les promesses de la programmation fonctionnelle et de la programmation logique, abreuvé à des sources de sagesse comme le best-seller de Douglas Hofstadter, Gödel-Escher-Bach (et plus tard le merveilleux Vues de l’Esprit co-écrit avec le philosophe Daniel Dennett), j’avais ensuite délaissé ce domaine au profit d’autres tout aussi passionnants mais plus rémunérateurs (les algorithmes d’optimisation puis l’analyse des données) tout en me promettant d’y revenir un jour. Accord de pré-retraite en poche et après de longues vacances, ce jour arriva.

Donc, retour à la grande question. Une machine peut-elle penser ? Un programme d’ordinateur peut-il avoir une conscience ? Je me mis à y gamberger, et même à jouer avec quelques structures mathématiques dont nous reparlerons. Mais il me manquait, je le sentais bien, un angle d’attaque. Une méthode.

Il n’est donc sans doute pas surprenant que je me sois retrouvé une nuit dans le bureau de Descartes. Eclairé à la bougie, vêtu d’un pourpoint plutôt négligé, attablé devant un ordinateur steampunk en cuivre et ronce de noyer avec écran au mercure et clavier de bakélite, ce dernier mettait justement la dernière main à un écrit qui resterait dans les annales en marmottant :

– Cogito… Ergo… Sum. Voilà. Si ça c’est pas de la formule, je ne sais pas ce qui en est. Allez, zou, imprimatur ! Ça va faire le buzz !

– Euh… Bonjour !

– Bonjour à vous. Que me vaut l’honneur ?

– Je crois qu’un petit dialogue philosophique avec vous ne me ferait pas de mal. Voyez-vous, je m’intéresse à la nature de la conscience, dans le but peut-être d’en fabriquer une moi-même, mais je ne sais pas très bien par quel bout prendre le problème.

– Vous pourriez commencer par définir les termes de la question, comme tout bon philosophe vous le suggèrerait. Qu’est-ce donc pour vous que la conscience ?

– Être un sujet. Ressentir, éprouver des choses. Avoir un point de vue. Pour reprendre l’expression du philosophe Thomas Nagel, une entité est consciente si cela fait un effet d’être cette entité.

– Je vois. C’est un début. Et qu’est-ce qui vous manque, muni de cette définition, pour avancer ?

– Elle n’est absolument pas scientifique ! Je n’ai aucun moyen d’y accoler la moindre théorie mathématique qui me permettrait de programmer quelque chose.

– Tiens donc ? Expliquez-moi ça.

– Eh bien, il nous est logiquement impossible d’éprouver la subjectivité de ce qui n’est pas nous, car nous ne sommes rien d’autre que notre propre subjectivité. Nous ne pouvons pas constater empiriquement qu’un être (autre que nous-même) possède un « Je ». Aucune expérience ne pourra nous l’indiquer. Nous pouvons le croire, ou croire le contraire ; mais nous ne pouvons pas construire une théorie scientifique falsifiable qui nous permette d’en décider dans l’absolu.

– Ah, je vois. Vous êtes un adepte de Karl Popper.

– Mais… Vous ne pouvez pas connaître Popper ! Il est né en 1902 et vous, euh…

– Je sais ce que vous allez dire et il serait poli de vous en abstenir. Puis-je vous faire observer que vous êtes ici dans mon bureau alors que vous êtes né en 1960 ? Vous êtes en train de rêver, dois-je vous le rappeler. Nous ne sommes pas à un anachronisme près.

– C’est juste… Eh bien, oui, j’aimerais pouvoir construire une théorie mathématique de la conscience, mais je ne peux pas m’appuyer sur l’approche scientifique pour cela.

– C’est exact, mais je ne vois pas où est le problème. Vous n’avez qu’à construire une théorie mathématique métaphysique, à la place.

– C’est possible, ça ?

– Bien entendu. Les mathématiques n’ont pas pour seule vocation de représenter la réalité observable, même si elles sont déraisonnablement efficaces dans ce domaine comme le dira quelqu’un. Les mathématiques dérivent des théorèmes à partir d’axiomes, mais vous êtes libres de choisir ces derniers comme vous le souhaitez. Juste à l’instinct, je vois au moins deux manières différentes dont vous pourriez utiliser les mathématiques pour construire une théorie de la conscience. Trois, si je triche un peu.

– Ah bon ?

– Ben, oui. Je suis un génie, vous aviez oublié ? Donc, voici une première thèse, que j’appellerai l’approche dualiste, et qui m’est chère. Selon elle il est impossible de créer un quelconque système mécanique ou informatique qui puisse à lui seul avoir une conscience de soi. Pour la défendre, vous pourriez proposer un argument mathématique édictant que la conscience utilise des fonctions non calculables (avant que vous ne me posiez la question : oui, je connais aussi Alan Turing). Après tout il est, je veux dire il sera prouvé que l’ensemble des fonctions est infiniment plus grand que celui des programmes pouvant les calculer, donc les probabilités sont largement en faveur de cette conjecture. Bien entendu, pour justifier votre propre conscience (et celle des autres si vous n’êtes pas solipsiste), vous devrez alors logiquement conclure à l’existence d’une âme ou de quelque chose du même acabit qui fournit ces fameuses fonctions non calculables. Je suis certain que cela ravirait beaucoup de gens, dont moi-même.

– Merci, mais ce n’est pas du tout ce que j’ai en tête.

– Je m’en doutais un peu, mais ça valait le coup d’essayer. Deuxième option, que j’appellerai l’approche objective : Vous définissez a priori des critères externes, objectifs et observables, caractéristiques d’une conscience de soi. Une fois cela fait, vous pourrez revenir à la méthode scientifique pour étudier à quelles conditions un système peut exhiber ces caractéristiques, dans l’espoir de trouver des principes généraux qui les régissent et que vous pourrez modéliser mathématiquement. Dans ce cas, votre compromission avec la métaphysique est minimale : vous acceptez que vos critères de conscience soient arbitraires, mais ensuite ce n’est plus que de la science.

– Hmm. Vous parlez d’établir des a priori dans le genre, « Si un animal se reconnaît dans un miroir, alors il est conscient » ; « si un cerveau humain présente tel modèle d’activation des aires cérébrales, alors il est conscient » ; « si un programme réussit à se faire passer pour humain dans une conversation écrite, alors il est conscient » ?

– Exactement. Prenons le premier, le test du miroir. Si vous adoptez ce critère, vous pouvez étudier scientifiquement, par exemple, quels animaux le réussissent, et tenter de lier cette propriété à leurs caractéristiques anatomiques, à leur histoire évolutive, que sais-je. Les éthologues de votre époque découvrent de plus en plus de choses à ce sujet, si je comprends bien.

– Oui, bien sûr, et c’est passionnant. Mais je n’ai aucune compétence dans ce domaine. Ni dans celui des neurosciences.

– Et votre troisième exemple, cette histoire de programme ?

– Je m’y connais davantage. Je faisais référence au fameux test de Turing. Mais personne n’a encore réussi à écrire un programme qui le passe réellement, et je n’ai pas les moyens de Google ou Amazon. De plus, ce critère est beaucoup plus fort que ce qui m’intéresse réellement, car il exige que le programme se conduise comme un humain. Je cherche pour ma part les conditions minimales pour un système conscient même basique, je ne lui demande certainement pas d’être humain !

– Je vois. En résumé, vous n’avez tout bonnement pas les compétences requises pour explorer cette approche dans les détails. C’est fâcheux ; il faudra vous contenter de faire de votre mieux, j’imagine. Par ailleurs, je dois vous préciser que cette démarche présente deux écueils méthodologiques.

– Lesquels ?

– Tout d’abord, la définition a priori de critères observables de conscience a toutes les chances d’être biaisée par vos préjugés, conscients ou non. Je pense bien entendu à la récente controverse concernant les travaux de Copernic, mais aussi et surtout aux débats du siècle dernier portant sur le fait d’établir si les Indiens d’Amérique avaient ou non une âme, avant que le pape ne tranchât la question en 1537. Ne croyez pas être plus malin ou plus objectifs que les clercs de cette époque : vous avez de fortes chances de commettre le même type d’erreurs qu’eux.

– J’y serai attentif.

– D’autre part, cette approche ne vous permettra jamais de confirmer réellement l’existence d’une subjectivité chez les animaux ou systèmes que vous étudierez, puisque seuls des éléments observables vous seront accessibles. Vous pourrez appliquer toute la science que vous voudrez sur ces derniers, et obtenir des résultats intéressants en soi, mais ils ne concerneront que les caractéristiques observables que vous aurez décidé d’associer à la conscience de soi et non pas cette dernière, qui restera à jamais inobservable. Votre science restera à l’extérieur de la conscience, si je puis dire.

– Laissez-moi vérifier que j’ai bien compris ce que vous dites. Je sais que j’ai une conscience – et grâce à vos écrits je sais même que c’est à peu près la seule chose dont je puisse être certain. Il m’est facile et confortable de supposer que les autres êtres humains en ont également une, car le solipsisme (ou votre fameux démon) est une alternative assez déprimante ; je peux donc décréter qu’un être humain qui peut parler et interagir est conscient. Mais si je rencontrais une machine de chair subtilement programmée, un pur (quoique pas simple) objet biologique ayant les mêmes comportements qu’un humain sans aucune conscience, je ne serais pas capable de faire la différence. Et une plante verte ? Après tout elle évolue, s’adapte à son environnement, se protège des agressions, montre des signes chimiques de stress. A-t-elle au moins un embryon de conscience, de « je » ? Les avis sont partagés, et je ne vois aucun moyen de trancher par une expérience menée de l’extérieur. La même plante, « sujet » ou non, se comportera exactement de la même manière dans toute situation. Aucune prédiction n’éliminera l’une des possibilités. La science ne peut pas m’aider à choisir.  Mais si je décrète qu’un système qui évolue, s’adapte et se protège a une conscience de soi, alors la science peut m’aider à établir qu’une plante verte est consciente. C’est bien cela ?

– Oui.

– De même, si je savais définir la conscience humaine comme un ensemble d’états cérébraux, je pourrais alors observer un cerveau humain par imagerie cérébrale – en sommeil et à l’état de veille ; je pourrais mesurer ses réactions à différents stimuli, lui faire passer des tests d’IRM fonctionnelle, identifier ses biais et illusions perceptives, puis tenter de construire une théorie du fonctionnement d’une conscience humaine ou organique vue de l’extérieur, voire la généraliser à des systèmes plus abstraits. Je pourrais ensuite, par exemple, tenter d’utiliser ce modèle pour déterminer si une personne en état de coma profond éprouve des sensations ou non. De telles approches existent et ce sont des sources d’inspiration importantes et passionnante. Mais une telle théorie à elle-seule ne me dit rien sur ce qui se passe à l’intérieur d’une subjectivité.

– Absolument. Ce qui nous laisse avec la troisième option, que j’appellerai justement l’approche subjective.

– Je vous écoute.

– Le seul exemple de conscience de soi dont vous soyez vraiment sûr, c’est la vôtre. Vous pourriez l’explorer pour identifier des caractéristiques internes, subjectives de votre conscience. C’est ce que j’ai pour ma part très modestement commencé à faire avec ce cogito qui, je dois l’admettre, m’a valu pas mal de likes. Quelles sont les propriétés intrinsèques de votre conscience ? Pourriez-vous les modéliser mathématiquement ? Si oui, ce modèle mathématique vous permettrait d’opérer des prédictions dont certaines, peut-être, porteraient sur des comportements objectivement observables, que vous pourriez alors tester.

– Vous voulez dire : Une conscience comme la mienne doit avoir telle propriété, j’en déduis qu’elle doit interagir avec son environnement d’une certaine façon, j’observe si c’est bien le cas, et si ce n’est pas le cas je remets en cause mon modèle ?

– Exactement. Au lieu d’explorer la conscience de l’extérieur vers l’intérieur à partir de ses caractéristiques observables – ce qui se heurte à un mur –, vous faites l’inverse.

– C’est prometteur ! Par exemple, j’ai toujours pensé que nous, êtres humains, sommes amenés à généraliser les situations individuelles que nous rencontrons en catégories plus larges, ce qui nous permet de réagir vite dans une situation nouvelle, mais au risque de définir des catégories trop larges qui nous induisent en erreur. Or il est effectivement possible d’observer objectivement ces biais de surgénéralisation.

– C’est un bon exemple, mais n’allez pas trop vite. Faites-y attention : cette approche non plus n’est pas sans danger. Muni pour seul guide de votre introspection, vous pourriez facilement donner beaucoup trop de crédit à vos intuitions, prendre des vessies pour des lanternes, et vous retrouver seul à explorer des chemins sans issue, hors d’atteinte de tout secours intellectuels puisque vous seul y serez confronté. Il vous faudra vraiment douter de tout si vous voulez arriver à quelque chose.

– Le doute cartésien, donc. Je m’en souviendrai.

– C’est une formule, ça ? Elle me plait ! Attendez, je la note pour mon blog… Bien, je vous laisse réfléchir à tout cela. Nous nous reverrons sans doute, votre projet m’intrigue.

(à suivre)

Yannick Cras
Ex Machina