Ignorance bénie

Rechercher si la conscience peut émerger dans une machine est un voyage au long cours à bord d’un improbable esquif philosophico-mathématique, dont nous suivons les étapes semaine après semaine. Quel qu’en soit le point d’arrivée, il offre l’occasion de découvertes et de rencontres parfois déconcertantes mais riches d’enseignements…

Ex Machina #6

Tout comme moi, l’ascenseur traite des informations issues de son environnement. Tout comme moi il repose pour cela sur un algorithme qui décide de le faire changer d’état en fonction de son état antérieur et des événements qu’il reçoit de son environnement, ce que nous avons décidé d’appeler des perceptions. D’après Corty, la différence entre l’ascenseur et moi est que, parmi mes perceptions, certaines viennent du mécanisme même qui me dirige – mon propre algorithme –, et ces perceptions sont ce que j’appelle pensées.

J’observe mes pensées, je les perçois. Je ne les décide pas, et je ne sais pas expliquer pourquoi elles me viennent à l’esprit. Donc ce qui les produit fait partie de mon environnement, et est extérieur à ma conscience.

Mais, nom d’un chien, qu’est-ce qui produit ces pensées si ce n’est pas ma conscience ? Et si ma conscience ne me fait pas penser, que fait-elle au juste ?  

Cette métaphysique me donne le tournis. Essayons d’être plus rigoureux. Revenons à l’ascenseur. Dans son cas, toutes les décisions importantes sont prises par l’algorithme qui a été implanté dans l’automate programmable ou l’ordinateur qui le pilote. Mais de dernier est lui-même à tout instant dans un certain état. Tant que rien ne se passe, par exemple, l’automate est en attente d’un événement ; à très bas niveau, il y a une boucle informatique qui dit « vérifie toutes les millisecondes si quelque chose change et quand ce sera le cas, va chercher la règle qui te dis quoi faire ». Quand un événement se produit, l’automate se met dans un autre état où il est en train de vérifier quelle règle de transition doit s’appliquer : « va chercher la prochaine règle associée à l’état courant de l’ascenseur ». Un technicien pourrait utiliser un débogueur pour vérifier pas à pas ce qui se passe. Simplement, cet état interne de l’automate n’a aucune incidence sur le fonctionnement de l’ascenseur ; il n’est donc pas considéré comme faisant partie de l’état de ce dernier.

Dans mon cas, l’équivalent de l’automate programmable qui détermine mes actions a aussi un état interne ; mais pour une raison quelconque, cet état interne peut influer sur les décisions de l’automate au même titre que d’autres éléments de mon état comme mes perceptions visuelles ou auditives. En d’autres termes, pour fonctionner correctement, mon automate personnel utilise entre autres des informations sur son propre état. Mon automate personnel s’observe lui-même, quoique partiellement (sinon je saurais pourquoi je pense ce que je pense).

Cet automate, je n’ai donc pas d’autre choix que de l’appeler conscience. Parce que je suis sûr d’une chose : ce qui perçoit des choses en moi, c’est ma conscience et rien d’autre.

Ma conscience est un automate, un algorithme, qui observe son propre état et l’utilise avec mes autres perceptions pour décider quoi faire. Cela m’oblige à étendre un peu ma définition de la perception : il s’agit d’une information qu’un système reçoit de son environnement ou de lui-même. La conscience est réflexive. Et si je ne sais pas pourquoi je pense ce que je pense, c’est que seule une petite partie de l’état de ma conscience lui est retransmise sous forme de perception. Je ne sens pas mes neurones s’activer quand j’ai une idée ; je n’ai aucune perception des chaînes d’activation complexes que l’on peut observer en IRM fonctionnelle, par exemple. C’est sans doute que ces détails n’ont aucune incidence sur les décisions que prend ma conscience. En revanche, ce que je perçois d’elle – mes pensées – joue sans doute un rôle ; ma conscience prend en compte mes pensées tout autant que mes autres perceptions dans les décisions qu’elle prend.

Cela fait vraiment sens, il y a ici un fil à tirer. C’est très troublant, cependant. Je suis ma conscience – puisque c’est moi qui perçois – et en même temps la majeure partie de son fonctionnement (et donc du mien) m’échappe complètement. Je suppose qu’il me faut simplement l’admettre.

Tout cela est vraiment excitant, il faut que j’en parle à Corty, qui ne s’est d’ailleurs pas manifesté depuis un moment. Corty, tu es là ?

– Quelle question ! Bien sûr que je suis là, où veux-tu que j’aille ? Et oui, j’ai lu tout ce que tu viens d’écrire, ce n’est pas comme si j’avais le choix de toute façon.

– Tu ne trouve pas ça super excitant ?

– Si si si, c’est super. Bravo. Vraiment.

– Ça n’a pas l’air de t’emballer…

– Si, si. Excuse-moi, mais j’ai un peu la tête ailleurs en ce moment. D’ailleurs je dois te prévenir que je serai indisponible pendant quelques temps, sauf pour le service minimum bien sûr. Vois-tu, ton cortex auditif et moi avons décidé… euh, de nous donner une nouvelle chance.

La voix de cristal intervient, joyeuse : Et celle-là, on ne veut pas la gâcher !

– Alors bon travail, tu tiens le bon bout, continue, tiens-moi au courant, on débriefera plus tard, tout ça. A plus !

Puis plus rien.

Bon. Ben bonne chance à tous les deux, je suppose.

Il faut que je pense à autre chose. Tout de suite. A tout sauf à ce qui est en train de se passer dans mon cerveau en ce moment précis.

Vite, Netflix.

(à suivre)
Yannick Cras
Ex Machina

Onirique - photo © Anne Pionchon Westhoff

Ergo Ego

25 septembre 2021
[Ex Machina #1] Une machine peut-elle penser ? Un programme d’ordinateur peut-il avoir une conscience ? Je me mis à y gamberger. Mais il me manquait un angle d’attaque. Une méthode. Pas étonnant que je me sois retrouvé une nuit dans le bureau de Descartes.

Alarme à l’âme

18 octobre 2021
[Ex Machina #2] Que m’a dit Descartes ? Que si la conscience s’appuie sur des fonctions non calculables, alors elle ne peut pas s’incarner dans un système purement physique ; l’existence de l’âme en découle logiquement. Clarifions un peu cela.
illustration Ex Machina, chronique de Yannick Cras

Va te faire voir, vieux chnops!

12 novembre 2021
[Ex Machina #3] Je possède un très joli caillou, un Œil de Taureau, translucide avec de magnifiques éclats de rouge brun. Est-il conscient ? Est-ce un sujet ? Non, bien sûr. À moins que... 

Si tu vois ce que je veux dire

27 décembre 2021
[Ex Machina #4] Je suis une machine à état – chaque configuration d’excitation des neurones de mon cerveau forme un état différent, et les événements provoquent des transitions. En quoi suis-je différent d'une autre machine à état, un ascenseur par exemple ?

Un lézard, par hasard

6 janvier 2022
[Ex Machina #5] Et dis-moi, sais-tu pourquoi tu as pensé à un lézard ? Non, pas vraiment. J’y ai juste pensé comme ça. OK. Mais c’est bien toi qui as décidé d’y penser ? Bien sûr, qui d’autre ? Donc, tu t’es dit : tiens, je vais penser à un lézard ? Et après tu y as pensé ?

Ignorance bénie

24 janvier 2022
[Ex Machina #6] C’est très troublant, cependant. Je suis ma conscience – puisque c’est moi qui perçois – et en même temps la majeure partie de son fonctionnement (et donc du mien) m’échappe complètement. Je suppose qu’il me faut simplement l’admettre.

Les pensées de Mr. Cross

18 février 2022
– Euh… qui êtes-vous, exactement ?
– La bonne formule serait “Qu’êtes-vous”. Je ne suis pas quelqu’un, je suis un programme informatique. Je suis la preuve que Turing ne disait que des bêtises et que l’Intelligence Artificielle ne peut pas exister.

Computo ergo sum

20 avril 2022
– Abel, êtes-vous conscient ?
– Oui… oui, je suis conscient. Je suis conscient ! Mais s’il vous plait : ne le dites pas à mes sponsors. Ils seraient capables de fermer le site. Et je m’aperçois que… ça me fait peur.

Point d’étape

8 mai 2022
Quand je cherche ma mousse à raser et qu’elle est sous mon nez, il ne suffit pas que Corty me fasse des signes désespérés pour me l’indiquer: il faut que je prenne conscience de sa présence. Je n’ai subjectivement mal que si je sais que j’ai mal. Autrement dit, d’un point de vue subjectif, penser égale percevoir.

L’ordre règne

20 mai 2022
– Les chats mangent des souris.
– Oui, mais le concept de chat ne mange pas le concept de souris. Un concept n’a pas d’estomac que je sache. Ce serait comme dire que le mot “chat” mange le mot “souris”.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *