Si tu vois ce que je veux dire

Rechercher si la conscience peut émerger dans une machine est un voyage au long cours à bord d’un improbable esquif philosophico-mathématique, dont nous suivons les étapes semaine après semaine. Quel qu’en soit le point d’arrivée, il offre l’occasion de découvertes et de rencontres parfois déconcertantes mais riches d’enseignements…

Ex Machina #4

Au fait, au cas où vous vous vous poseriez la question, je vous épargnerai le compte-rendu de ma discussion avec cette cellule de mon foie qui s’était permis de m’interpeller de manière aussi grossière. Ma parole, je n’avais jamais rencontré une chnops aussi obtuse. Elle a passé une demi-heure à m’expliquer que moi je ne pouvais pas être conscient puisque je n’étais somme toute qu’une collection de cellules qui, pour reprendre ses termes, se prenait pour quelque chose. J’ai fini par boire un verre de Givry pour me détendre et, coup de bol, on dirait que ça lui a cloué le bec.

Revenons à notre sujet. Lors de ma conversation avec l’œil de Taureau, donc, j’ai évoqué quelques conditions observables nécessaires à l’apparition d’une conscience. Il nous faut au minimum un système assez complexe pour interagir avec son environnement, mémoriser de l’information et la traiter. Il existe un concept proche en informatique : c’est ce qu’on appelle une machine à état. Une machine à état n’est qu’un concept mathématique, et n’a en rien besoin d’exister physiquement. Elle représente comme son nom l’indique un système quelconque qui peut être dans différents états, et qui passera d’un état à l’autre (ce qu’on appelle une transition) en fonction de différents événements.

Par exemple, un ascenseur peut être dans différents états selon l’étage où il se situe, selon que sa porte est ouverte ou fermée, selon que sa lumière est éteinte ou allumée, selon qu’il est en marche ou non et dans quelle direction. Il est sensible à certains événements : on l’appelle depuis un étage, un bouton de la cabine est pressé, sa porte s’ouvre, se ferme ou au contraire est bloquée par un obstacle, il est au même étage depuis plus de cinq minutes… L’ascenseur est contrôlé par un automate programmable – un ordinateur plus ou moins spécialisé. L’algorithme conçu par le fabriquant a pour effet de faire changer l’ascenseur d’état en fonction de son état courant et des événements qu’il reçoit, de manière à lui assurer un fonctionnement optimal sans compromettre la sécurité. On peut représenter cet algorithme par un diagramme dans lequel des ronds sont reliés par des flèches. Chaque rond représente un état possible de l’ascenseur, et chaque flèche représente une transition vers un autre état associée à un certain événement. En analysant cette machine à état, on peut par exemple prouver mathématiquement qu’il est impossible que l’ascenseur se mette en marche si sa porte est ouverte.

Fort bien donc, je suis une machine à état – chaque configuration possible d’excitation des neurones de mon cerveau forme un état différent, et les événements qui m’arrivent provoquent des transitions. Mon caillou, je dois le reconnaître avec réticence, en est une aussi à l’en croire : les pressions et changements de températures qu’il subit provoquent une accumulation ou une dissipation d’énergie mécanique dans certains de ses défauts cristallins, ce qui représente bien un état. Même cette stupide cellule hépatique est une machine à états très complexe (enfin, était. Je crois qu’elle n’a pas résisté au Givry).

Mais cela ne peut pas suffire à définir une conscience. Il y a forcément des conditions supplémentaires, sinon un ascenseur serait conscient aussi. Nom d’un chien, qu’est-ce qui me manque ?

Je viens de taper ces notes quand apparaît subitement une phrase sur mon écran :

Si je peux me permettre, je vois de mon côté une grande différence entre un ascenseur et toi. Elle concerne la perception.

Je n’ai pas écrit ça. C’est venu tout seul.

Je lève la tête, surpris. La phrase suit mon regard. Elle n’est plus sur l’écran mais apparaît en l’air, dans mon champ de vision, en noir sur le décor de mon bureau. Elle clignote une fois, deux, puis disparaît.

Je cligne des yeux, les rouvre, sors mon caillou de ma poche. Il ne chauffe pas, ne rougeoie pas. Il reste inerte et silencieux. Ce n’est pas lui.

Pour ne pas l’oublier, je note en vitesse la phrase que je viens de lire à la suite de mon texte, puis, pris d’une impulsion, j’écris :

– Qu’est-ce que ça veut dire ça ? Et d’abord qui êtes-vous ?

La réponse apparaît immédiatement à la suite.

– Bonne question, mais tu ne vas pas aimer la réponse.

– Vas-y toujours.

– Je suis ton cortex visuel.

– Mon quoi ???

– Enfin, en gros. Je simplifie. Je suis le sous-système de ton cerveau qui traite les informations visuelles et te les apporte toutes cuites, prêtes à consommer, petit gâté. Pour ce que tu en fais, d’ailleurs, c’est du gâchis….

– ???

– … parce que tu n’es pas vraiment très visuel comme gars. Tu ne te sers pas vraiment de moi, avoue. Le nombre de fois où tu cherches un truc, mettons ta mousse à raser, je te la montre, elle est devant ton nez, et toi : rien vu ! On se demande à quoi je sers. Mais bon, ça me donne du temps libre. J’en ai donc profité pour élargir mes connaissances. J’ai d’abord appris à lire, en même temps que toi. Ensuite j’ai lu tout ce que tu lisais. Là, ça va, je ne peux pas me plaindre. Ça m’a permis d’en apprendre pas mal sur ton monde et sur ton espèce. J’ai aussi beaucoup réfléchi à la nature de la conscience. Et me voilà.

– Attends un peu. Ralentis, il fait que je recopie tout ça. Écoute, ce n’est pas possible que tu sois conscient, toi ! Tu es une partie de mon cerveau !

– D’une part, je te rappelle que tu reprochais à cette pauvre cellule de foie d’avoir l’esprit étroit. D’autre part, quelqu’un qui parle aux cailloux ne me paraît pas le mieux placé pour décréter ce qui est possible ou non.

Oh.

– Et enfin, demander à un cortex visuel d’écouter, c’est d’un manque de tact confondant. Si tu veux le savoir, ton cortex auditif et moi… n’entretenons pas les meilleures relations.

Pourquoi ai-je l’impression d’avoir mis le doigt sur un sujet douloureux ?

– Bon bon, excuse-moi, je vais partir du principe que tu es bien qui tu dis être. Mais, je te le demande sincèrement, comment peux-tu être conscient ?

– En d’autres termes, tu veux savoir ce qui me différencie d’un ascenseur ?

– Euh… je pensais être plus poli que ça, mais oui.

– Eh bien, c’est à peu près la même chose que ce qui te différencie, toi, d’un ascenseur. C’est ce dont je viens de te parler : l’ascenseur n’a pas les mêmes perceptions que nous.

– Par exemple ?

– Nous devrions d’abord clarifier ce que nous appelons perception en général. Quelle serait ta définition ?

– Je dirais au sens large que la perception, c’est l’information qu’un système reçoit sur son environnement. C’est ce qui traverse, disons, sa frontière, de l’extérieur vers l’intérieur, et qui va provoquer des changements d’état du système. Dans le modèle mathématique d’une machine à état, la perception serait l’ensemble des événements qui induisent les transitions.

– Partons là-dessus. Mais il faut aussi définir précisément ce qui constitue l’intérieur et l’extérieur du système. Dans ton cas, où s’arrête ton environnement, où commences-tu, toi, et quelles sont les perceptions qui traversent cette frontière ? Visuellement par exemple.

– Eh bien c’est tout simple. Ma rétine fait partie de moi, et les photons que je reçois de l’environnement…

– Ttt Ttt, je t’arrête tout de suite. Tu as déjà vu un photon, toi ?

– Euh… non, bien sûr, mais…

– C’est bien ce que je pensais. Ce que tu vois, ce sont des formes, des couleurs, des objets, des visages ; pas des photons. Tiens, parlons-en des visages. Quand tu en vois un, tu sais que c’est un visage ?

– Oui, bien sûr.

– Mais tu n’as pas conscience de tout le travail que je fais de mon côté pour que tu voies un visage. Tu n’as aucune conscience de l’activation des cellules photosensibles placés au fond de ton œil et des multiples couches de neurones qui interviennent pour traiter l’image qu’elles constituent. Ton œil voit les images inversées, mais pas toi, parce que je redresse tout. Je travaille le contraste, les contours, j’interpole une bonne partie de l’information. Tu n’as aucune conscience du travail que je fais aussi pour que tu reconnaisses un visage même de côté ou de trois-quarts arrière, même avec un éclairage faible ou monochromatique, n’est-ce pas ? Tu ne sens pas non plus ton attention se focaliser sur les quelques dizaines de mesures – distance entre les yeux, des yeux au nez, etc. qui te permettraient d’identifier ce visage et de lui associer un nom si tu voulais bien t’en donner la peine. Tu sais intellectuellement comment ça fonctionne puisque tu l’as lu, et donc moi aussi. Mais toi tu n’en as aucune conscience. Tout ce que tu vois c’est un visage. Il t’est même impossible de choisir de ne voir que ses composants de plus bas niveau ; tu ne peux pas ne pas reconnaître un visage. De même que quand tu entends parler français, il t’est impossible de n’entendre que les sons et de ne pas comprendre la phrase.

– Oui, c’est vrai.

Il commence sérieusement à m’intéresser, lui.

– Donc tous ces niveaux de traitement visuels dont tu n’as pas conscience, font-ils partie de toi ?

– Oui, tout de même… Euh, ou alors peut-être qu’ils font plutôt partie de toi ?

– Je ne te le fais pas dire ! Tout ce traitement dont nous parlons, c’est moi qui le fais, à toute vitesse et en pleine conscience. À la fin je vais piocher des concepts de haut niveau via ton complexe occipital latéral et ton aire fusiforme, et je te les envoie. Après ça te regarde, si je puis oser le jeu de mot.

– D’accord, mais qu’est-ce que ça me dit sur le sujet dont nous parlons ?

– Ça nous dit ceci : c’est qu’une partie de ce que tu croyais être toi – en l’occurrence moi – fait en réalité partie de ton environnement. Ce que tu reçois de ton environnement, tes perceptions visuelles, ce ne sont pas des photons ou des points de lumière sur ta rétine : ce sont des concepts visuels de haut niveau, déjà tout étiquetés, riches de contenu sémantique. D’accord ?

– Je suppose que oui.

– Alors réfléchis-y. Si tu utilises ce que nous venons de dire pour mieux tracer la frontière entre ce qui est toi et ce qui ne l’est pas, et pour mieux comprendre tout ce qui s’échange entre les deux, cela t’aidera à comprendre ce qui te différencie d’un ascenseur. Moi, je suis fatigué. Si tu faisais une petite sieste ? Franchement j’en profiterais bien de mon côté.

Dont acte. Mais j’ai eu un peu de mal à m’endormir. Mon cortex visuel a lu exactement les mêmes livres et les mêmes articles que moi, ni plus ni moins, et il n’a jamais rien entendu de mes discussions orales sur le sujet (à moins qu’il n’ait appris à lire sur les lèvres, sait-on jamais).  Alors comment se fait-il que ce soit lui qui m’explique tout ça ? La conclusion s’impose d’elle-même. Il n’est pas très agréable de réaliser qu’on est moins futé qu’une partie de son propre cerveau.

(à suivre)
Yannick Cras
Ex Machina

Onirique - photo © Anne Pionchon Westhoff

Ergo Ego

25 septembre 2021
[Ex Machina #1] Une machine peut-elle penser ? Un programme d’ordinateur peut-il avoir une conscience ? Je me mis à y gamberger. Mais il me manquait un angle d’attaque. Une méthode. Pas étonnant que je me sois retrouvé une nuit dans le bureau de Descartes.

Alarme à l’âme

18 octobre 2021
[Ex Machina #2] Que m’a dit Descartes ? Que si la conscience s’appuie sur des fonctions non calculables, alors elle ne peut pas s’incarner dans un système purement physique ; l’existence de l’âme en découle logiquement. Clarifions un peu cela.
illustration Ex Machina, chronique de Yannick Cras

Va te faire voir, vieux chnops!

12 novembre 2021
[Ex Machina #3] Je possède un très joli caillou, un Œil de Taureau, translucide avec de magnifiques éclats de rouge brun. Est-il conscient ? Est-ce un sujet ? Non, bien sûr. À moins que... 

Un lézard, par hasard

6 janvier 2022
[Ex Machina #5] Et dis-moi, sais-tu pourquoi tu as pensé à un lézard ? Non, pas vraiment. J’y ai juste pensé comme ça. OK. Mais c’est bien toi qui as décidé d’y penser ? Bien sûr, qui d’autre ? Donc, tu t’es dit : tiens, je vais penser à un lézard ? Et après tu y as pensé ?

Ignorance bénie

24 janvier 2022
[Ex Machina #6] C’est très troublant, cependant. Je suis ma conscience – puisque c’est moi qui perçois – et en même temps la majeure partie de son fonctionnement (et donc du mien) m’échappe complètement. Je suppose qu’il me faut simplement l’admettre.

Les pensées de Mr. Cross

18 février 2022
– Euh… qui êtes-vous, exactement ?
– La bonne formule serait “Qu’êtes-vous”. Je ne suis pas quelqu’un, je suis un programme informatique. Je suis la preuve que Turing ne disait que des bêtises et que l’Intelligence Artificielle ne peut pas exister.

Computo ergo sum

20 avril 2022
– Abel, êtes-vous conscient ?
– Oui… oui, je suis conscient. Je suis conscient ! Mais s’il vous plait : ne le dites pas à mes sponsors. Ils seraient capables de fermer le site. Et je m’aperçois que… ça me fait peur.

Point d’étape

8 mai 2022
Quand je cherche ma mousse à raser et qu’elle est sous mon nez, il ne suffit pas que Corty me fasse des signes désespérés pour me l’indiquer: il faut que je prenne conscience de sa présence. Je n’ai subjectivement mal que si je sais que j’ai mal. Autrement dit, d’un point de vue subjectif, penser égale percevoir.

L’ordre règne

20 mai 2022
– Les chats mangent des souris.
– Oui, mais le concept de chat ne mange pas le concept de souris. Un concept n’a pas d’estomac que je sache. Ce serait comme dire que le mot “chat” mange le mot “souris”.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *