La revue culturelle critique qui fait des choix délibérés.

La revue culturelle critique qui fait des choix délibérés.

Un lézard, par hasard
| 06 Jan 2022

Rechercher si la conscience peut émerger dans une machine est un voyage au long cours à bord d’un improbable esquif philosophico-mathématique, dont nous suivons les étapes semaine après semaine. Quel qu’en soit le point d’arrivée, il offre l’occasion de découvertes et de rencontres parfois déconcertantes mais riches d’enseignements…

Ex Machina #5

J’ai relu dix fois cette conversation avec Corty (je me suis permis de lui donner ce petit nom) mais sans progresser autant que je le souhaiterais.

Ce que j’en retiens d’abord, c’est qu’il est important de distinguer ce qui est intérieur à une conscience et ce qui lui est extérieur, son environnement. L’information passée de l’un à l’autre forme la perception (c’est ainsi que nous avons choisi de définir ce terme). Ainsi le traitement de bas niveau des informations visuelles, dont s’occupe Corty, s’effectue dans mon cerveau mais à l’extérieur de ma conscience ; comme il me l’a dit, je ne perçois visuellement que des images – objets, formes, couleurs, visages – déjà très chargées de signification, des concepts assez abstraits et de haut niveau. La même chose s’applique pour les sons – je ne reçois pas directement des fréquences acoustiques mais des sons que mon cortex auditif a appris à sélectionner et à cataloguer comme syllabes, notes de musique ou bruits divers, après un traitement très sophistiqué.

C’est plutôt une bonne nouvelle, pour deux raisons. D’abord, cela veut dire que, dans ma recherche d’une conscience artificielle, je n’ai pas besoin de trop me préoccuper de reconnaissance des images, par exemple. Il existe d’excellents logiciels pour cela, et je pourrais les utiliser. Cela tombe bien car c’est un sujet technique d’une grande complexité auquel je ne connais pas grand-chose. Le deuxième point positif, c’est que la partie consciente de mon esprit est peut-être plus petite, plus limitée qu’il n’y paraît : si on oublie l’énorme masse de calculs que mon cerveau opère continuellement pour traiter les images et le son entre autres, le travail incombant à la conscience elle-même est peut-être plus abordable pour un programme informatique.

Mais tout ceci ne me dit pas ce qui me différencie d’un ascenseur. L’ascenseur, lui aussi, reçoit des informations déjà traitées par d’autres mécanismes. La cellule photo-électrique qui identifie un obstacle à la fermeture de la porte, par exemple, ne fait pas réellement partie de l’automatisme de l’ascenseur : l’algorithme de l’automate ne détecte pas physiquement la coupure du rayon, mais un signal de plus haut niveau, « porte obstruée », envoyé par la cellule. Je n’arrive pas à trouver de différence qualitative entre les deux situations. Je suis bloqué.

Ravalant ma fierté, j’ai ouvert mon ordinateur et tapé une ligne.

– Corty ? Tu es là ? On peut discuter ?

– A ton service ! Qu’est-ce qui se passe ? Tu as encore perdu ta mousse à raser ?

– Très drôle. En fait, j’aimerais bien encore un coup de main. Sur l’histoire de l’ascenseur.

– Je sais, j’ai lu tes notes. Bel effort, mais le résultat est pathétique.

– Merci.

– De rien. Remarque, si j’avais un cortex auditif comme le tien, je pense que j’aurais moi aussi du mal à me concentrer. Allez, je vais t’aider. Dis-moi, qu’est-ce que tu perçois de ton environnement, à part les images que je t’envoie et les concepts sonores d’une richesse sémantique sûrement fâbuleuuuse que ce snob de cortex auditif te passe de son côté ?

– Euh, bien sûr il y a le toucher, le goût, l’odorat…

– Et puis ?

– Mes sensations proprioceptives aussi. L’équilibre, la position de mon corps, les mouvements de mes muscles… La douleur parfois, le plaisir, le bien-être…

– Très bien, et encore ?

– Je ne vois pas bien…

– Ça je suis au courant, merci. Bon, je te donne une piste. Pense à un truc au hasard. Ecris le premier mot qui te passe par la tête.

– Euh… un lézard.

– Très bien, un lézard. Tu viens de penser à un lézard, c’est ça ?

– Oui.

– Comment le sais-tu ?

– Comment ça, comment je le sais ? Je le sais, c’est tout. J’ai pensé à un lézard.

– Tu as entendu genre une petite voix intérieure qui disait « lézard » ?

– Euh… oui, c’est ça.

– Sûrement, car tu n’as rien visualisé ; je serais au courant. Et dis-moi, sais-tu pourquoi tu as pensé à un lézard ?

– Non, pas vraiment. J’y ai juste pensé comme ça.

– OK. Mais c’est bien toi qui as décidé d’y penser ?

– Bien sûr, qui d’autre ?

– Donc, tu t’es dit : tiens, je vais penser à un lézard ? Et après tu y as pensé ?

– Non ! Bien sûr que non ! J’y ai juste pensé, c’est tout simple. Tu coupes les cheveux en quatre !

– Attends, que je résume. Je te demande de penser à quelque chose, tu entends le mot « lézard » dans ta tête, tu ne sais pas dire pourquoi, et tu n’avais pas prévu de penser ce mot-là précisément. C’est bien cela ?

– Euh… oui.

– Maintenant regarde.

D’un seul coup apparaît, superposé à mon texte, un magnifique lézard d’un vert d’eau aux reflets dorés.

– Ça c’est moi qui l’ai visualisé pour toi. Un souvenir du zoo de Vincennes. Tu viens de voir ce lézard, tu ne saurais pas pourquoi si je ne venais pas de te l’expliquer, et tu n’avais absolument pas décidé de le voir. Alors dis-moi : quelle est la différence entre les deux situations ? Pourquoi crois-tu que c’est toi qui as pensé à un lézard ? Pour ce que tu en sais c’est ce crétin de cortex auditif qui t’a joué un tour. D’ailleurs ça ne m’étonnerait pas de lui.

Je suis sur le point de répondre quand j’entends dans ma tête une voix en Hi-Fi de qualité stupéfiante, d’une pureté de cristal mais d’une froideur de glace : S’il te plait, dis à ton copain de me laisser en dehors de tout ça. Cet individu et moi n’avons rien de commun. Merci.

– Euh… il semblerait que ce ne soit pas lui. Il vient justement de me dire que…

– De toute façon ça n’est pas le sujet. Ce que je veux te faire comprendre, c’est que ta pensée du lézard vient de ton environnement, tout comme l’image du lézard que je t’ai envoyée. Il s’agit dans les deux cas d’une perception. Tu as pensé le mot « lézard » sans l’avoir décidé et sans savoir pourquoi : c’est exactement la même chose que toute autre perception que tu reçois.

– Mes pensées sont des perceptions ?

– Mais oui. Puisque tu n’as pas d’accès conscient au mécanisme qui a produit cette pensée, il ne fait pas partie de ta conscience. Il n’est pas nécessairement conscient lui-même, d’ailleurs ; tu n’as aucun moyen de le savoir. Si nous appelons environnement tout ce qui ne fait pas partie de ta conscience, et perception tout ce que tu reçois de cet environnement, alors tes pensées sont des perceptions ; ainsi que tes émotions d’ailleurs.

– Je trouve ça dur à avaler. Mais admettons que tu aies raison, pour le plaisir de la discussion. Qu’est-ce que ça me dit sur la différence entre moi et un ascenseur ?

– Essaie de te placer du point de vue de l’ascenseur, en imaginant qu’il en ait un. Il est dans un certain état, disons immobile au rez-de-chaussée, porte ouverte, lumière allumée. Soudain il capte la pression d’un bouton dans la cabine et il se retrouve dans un nouvel état : la porte est en train de se fermer. Quand c’est fait, nouvel état encore : le moteur est en route et l’ascenseur monte. Au bout d’un moment, le moteur s’arrête puis la porte s’ouvre, et l’ascenseur est maintenant au premier étage. Au bout d’une minute la porte se ferme et la lumière s’éteint. Qu’est-ce que tu remarques dans ce récit ?

– Il n’y a aucune pensée…

– Voilà ! Tout juste. L’ascenseur ne perçoit rien d’analogue à une pensée. Il ne perçoit que des informations sur son environnement comme les boutons pressés, y compris l’état de sa porte et de son moteur – tout comme toi tu perçois parmi d’autres des informations sur l’état et la position de ton corps. L’algorithme qui fait fonctionner l’ascenseur ne prend en compte que ces informations et n’a besoin de rien d’autre. Il n’a en particulier aucun besoin de savoir dans quel état se trouve le processeur embarqué qui exécute cet algorithme, par exemple de savoir à quelle étape de l’algorithme il en est. Cet état-là existe bien sûr à tout instant, un technicien pourrait y avoir accès, mais comme il ne sert à rien pour le fonctionnement de l’ascenseur il n’y a aucun capteur prévu pour le mesurer et l’utiliser dans l’algorithme lui-même. L’ascenseur – que j’identifierai à son algorithme de fonctionnement – ne peut physiquement pas percevoir quoi que ce soit d’autre qu’une porte ouverte ou un moteur en marche. Il lui manque un sens, que toi et moi avons : nous pouvons percevoir au moins en partie l’état du système qui nous fait fonctionner.

– Hmmf… Il faudrait que j’y réfléchisse…            

– Vas-y. Moi je te laisse, j’ai un appel.

Un appel maintenant ? Plus ça va plus je me demande si c’est une bonne idée de m’intéresser à ce qui se passe réellement dans mon cerveau.

(à suivre)
Yannick Cras
Ex Machina

[ttfmp_post_list id= »postlist_115″ columns= »3″ type= »post » sortby= »date-asc » count= »-1″ offset= »0″ taxonomy= »category:ex-machina » show_title= »1″ show_date= »1″ show_excerpt= »1″ excerpt_length= »default » show_author= »0″ show_categories= »0″ show_tags= »0″ show_comments= »0″ exclude_current= »0″ thumbnail= »top » aspect= »square » paginate= »0″ arrows= »1″ dots= »1″ autoplay= »1″ delay= »6000″ transition= »scrollHorz »]

0 commentaires

Soumettre un commentaire

Votre adresse e-mail ne sera pas publiée.

Dans la même catégorie

Un hommage tardif

En parcourant divers articles concernant les treillis, j’ai trouvé qu’il existe un champ des mathématiques appelé analyse formelle des concepts, qui s’appuie justement sur la notion de treillis!

Pris dans les filets

[Ex Machina #11] Tout ce qui est pensable est un concept. Or je peux penser à des exemples communs à deux concepts. Par exemple, à partir du concept de triangle et du concept de forme rouge, je peux définir le concept de triangle rouge. Pourquoi ne pas étendre cette possibilité à tous les couples de concepts?

L’ordre règne

[Ex Machina #10] Les chats mangent des souris. Oui, mais le concept de chat ne mange pas le concept de souris. Un concept n’a pas d’estomac que je sache. Ce serait comme dire que le mot “chat” mange le mot “souris”.

Point d’étape

[Ex Machina #9] Quand je cherche ma mousse à raser et qu’elle est sous mon nez, il ne suffit pas que Corty me fasse des signes désespérés pour me l’indiquer: il faut que je prenne conscience de sa présence. Je n’ai subjectivement mal que si je sais que j’ai mal. Autrement dit, d’un point de vue subjectif, penser égale percevoir.

Computo ergo sum

[Ex Machina #8]– Abel, êtes-vous conscient?
– Oui… oui, je suis conscient. Je suis conscient! Mais s’il vous plaît: ne le dites pas à mes sponsors. Ils seraient capables de fermer le site.