La revue culturelle critique qui fait des choix délibérés.

La revue culturelle critique qui fait des choix délibérés.

Un lézard, par hasard
| 06 Jan 2022

Rechercher si la conscience peut émerger dans une machine est un voyage au long cours à bord d’un improbable esquif philosophico-mathématique, dont nous suivons les étapes semaine après semaine. Quel qu’en soit le point d’arrivée, il offre l’occasion de découvertes et de rencontres parfois déconcertantes mais riches d’enseignements…

Ex Machina #5

J’ai relu dix fois cette conversation avec Corty (je me suis permis de lui donner ce petit nom) mais sans progresser autant que je le souhaiterais.

Ce que j’en retiens d’abord, c’est qu’il est important de distinguer ce qui est intérieur à une conscience et ce qui lui est extérieur, son environnement. L’information passée de l’un à l’autre forme la perception (c’est ainsi que nous avons choisi de définir ce terme). Ainsi le traitement de bas niveau des informations visuelles, dont s’occupe Corty, s’effectue dans mon cerveau mais à l’extérieur de ma conscience ; comme il me l’a dit, je ne perçois visuellement que des images – objets, formes, couleurs, visages – déjà très chargées de signification, des concepts assez abstraits et de haut niveau. La même chose s’applique pour les sons – je ne reçois pas directement des fréquences acoustiques mais des sons que mon cortex auditif a appris à sélectionner et à cataloguer comme syllabes, notes de musique ou bruits divers, après un traitement très sophistiqué.

C’est plutôt une bonne nouvelle, pour deux raisons. D’abord, cela veut dire que, dans ma recherche d’une conscience artificielle, je n’ai pas besoin de trop me préoccuper de reconnaissance des images, par exemple. Il existe d’excellents logiciels pour cela, et je pourrais les utiliser. Cela tombe bien car c’est un sujet technique d’une grande complexité auquel je ne connais pas grand-chose. Le deuxième point positif, c’est que la partie consciente de mon esprit est peut-être plus petite, plus limitée qu’il n’y paraît : si on oublie l’énorme masse de calculs que mon cerveau opère continuellement pour traiter les images et le son entre autres, le travail incombant à la conscience elle-même est peut-être plus abordable pour un programme informatique.

Mais tout ceci ne me dit pas ce qui me différencie d’un ascenseur. L’ascenseur, lui aussi, reçoit des informations déjà traitées par d’autres mécanismes. La cellule photo-électrique qui identifie un obstacle à la fermeture de la porte, par exemple, ne fait pas réellement partie de l’automatisme de l’ascenseur : l’algorithme de l’automate ne détecte pas physiquement la coupure du rayon, mais un signal de plus haut niveau, « porte obstruée », envoyé par la cellule. Je n’arrive pas à trouver de différence qualitative entre les deux situations. Je suis bloqué.

Ravalant ma fierté, j’ai ouvert mon ordinateur et tapé une ligne.

– Corty ? Tu es là ? On peut discuter ?

– A ton service ! Qu’est-ce qui se passe ? Tu as encore perdu ta mousse à raser ?

– Très drôle. En fait, j’aimerais bien encore un coup de main. Sur l’histoire de l’ascenseur.

– Je sais, j’ai lu tes notes. Bel effort, mais le résultat est pathétique.

– Merci.

– De rien. Remarque, si j’avais un cortex auditif comme le tien, je pense que j’aurais moi aussi du mal à me concentrer. Allez, je vais t’aider. Dis-moi, qu’est-ce que tu perçois de ton environnement, à part les images que je t’envoie et les concepts sonores d’une richesse sémantique sûrement fâbuleuuuse que ce snob de cortex auditif te passe de son côté ?

– Euh, bien sûr il y a le toucher, le goût, l’odorat…

– Et puis ?

– Mes sensations proprioceptives aussi. L’équilibre, la position de mon corps, les mouvements de mes muscles… La douleur parfois, le plaisir, le bien-être…

– Très bien, et encore ?

– Je ne vois pas bien…

– Ça je suis au courant, merci. Bon, je te donne une piste. Pense à un truc au hasard. Ecris le premier mot qui te passe par la tête.

– Euh… un lézard.

– Très bien, un lézard. Tu viens de penser à un lézard, c’est ça ?

– Oui.

– Comment le sais-tu ?

– Comment ça, comment je le sais ? Je le sais, c’est tout. J’ai pensé à un lézard.

– Tu as entendu genre une petite voix intérieure qui disait « lézard » ?

– Euh… oui, c’est ça.

– Sûrement, car tu n’as rien visualisé ; je serais au courant. Et dis-moi, sais-tu pourquoi tu as pensé à un lézard ?

– Non, pas vraiment. J’y ai juste pensé comme ça.

– OK. Mais c’est bien toi qui as décidé d’y penser ?

– Bien sûr, qui d’autre ?

– Donc, tu t’es dit : tiens, je vais penser à un lézard ? Et après tu y as pensé ?

– Non ! Bien sûr que non ! J’y ai juste pensé, c’est tout simple. Tu coupes les cheveux en quatre !

– Attends, que je résume. Je te demande de penser à quelque chose, tu entends le mot « lézard » dans ta tête, tu ne sais pas dire pourquoi, et tu n’avais pas prévu de penser ce mot-là précisément. C’est bien cela ?

– Euh… oui.

– Maintenant regarde.

D’un seul coup apparaît, superposé à mon texte, un magnifique lézard d’un vert d’eau aux reflets dorés.

– Ça c’est moi qui l’ai visualisé pour toi. Un souvenir du zoo de Vincennes. Tu viens de voir ce lézard, tu ne saurais pas pourquoi si je ne venais pas de te l’expliquer, et tu n’avais absolument pas décidé de le voir. Alors dis-moi : quelle est la différence entre les deux situations ? Pourquoi crois-tu que c’est toi qui as pensé à un lézard ? Pour ce que tu en sais c’est ce crétin de cortex auditif qui t’a joué un tour. D’ailleurs ça ne m’étonnerait pas de lui.

Je suis sur le point de répondre quand j’entends dans ma tête une voix en Hi-Fi de qualité stupéfiante, d’une pureté de cristal mais d’une froideur de glace : S’il te plait, dis à ton copain de me laisser en dehors de tout ça. Cet individu et moi n’avons rien de commun. Merci.

– Euh… il semblerait que ce ne soit pas lui. Il vient justement de me dire que…

– De toute façon ça n’est pas le sujet. Ce que je veux te faire comprendre, c’est que ta pensée du lézard vient de ton environnement, tout comme l’image du lézard que je t’ai envoyée. Il s’agit dans les deux cas d’une perception. Tu as pensé le mot « lézard » sans l’avoir décidé et sans savoir pourquoi : c’est exactement la même chose que toute autre perception que tu reçois.

– Mes pensées sont des perceptions ?

– Mais oui. Puisque tu n’as pas d’accès conscient au mécanisme qui a produit cette pensée, il ne fait pas partie de ta conscience. Il n’est pas nécessairement conscient lui-même, d’ailleurs ; tu n’as aucun moyen de le savoir. Si nous appelons environnement tout ce qui ne fait pas partie de ta conscience, et perception tout ce que tu reçois de cet environnement, alors tes pensées sont des perceptions ; ainsi que tes émotions d’ailleurs.

– Je trouve ça dur à avaler. Mais admettons que tu aies raison, pour le plaisir de la discussion. Qu’est-ce que ça me dit sur la différence entre moi et un ascenseur ?

– Essaie de te placer du point de vue de l’ascenseur, en imaginant qu’il en ait un. Il est dans un certain état, disons immobile au rez-de-chaussée, porte ouverte, lumière allumée. Soudain il capte la pression d’un bouton dans la cabine et il se retrouve dans un nouvel état : la porte est en train de se fermer. Quand c’est fait, nouvel état encore : le moteur est en route et l’ascenseur monte. Au bout d’un moment, le moteur s’arrête puis la porte s’ouvre, et l’ascenseur est maintenant au premier étage. Au bout d’une minute la porte se ferme et la lumière s’éteint. Qu’est-ce que tu remarques dans ce récit ?

– Il n’y a aucune pensée…

– Voilà ! Tout juste. L’ascenseur ne perçoit rien d’analogue à une pensée. Il ne perçoit que des informations sur son environnement comme les boutons pressés, y compris l’état de sa porte et de son moteur – tout comme toi tu perçois parmi d’autres des informations sur l’état et la position de ton corps. L’algorithme qui fait fonctionner l’ascenseur ne prend en compte que ces informations et n’a besoin de rien d’autre. Il n’a en particulier aucun besoin de savoir dans quel état se trouve le processeur embarqué qui exécute cet algorithme, par exemple de savoir à quelle étape de l’algorithme il en est. Cet état-là existe bien sûr à tout instant, un technicien pourrait y avoir accès, mais comme il ne sert à rien pour le fonctionnement de l’ascenseur il n’y a aucun capteur prévu pour le mesurer et l’utiliser dans l’algorithme lui-même. L’ascenseur – que j’identifierai à son algorithme de fonctionnement – ne peut physiquement pas percevoir quoi que ce soit d’autre qu’une porte ouverte ou un moteur en marche. Il lui manque un sens, que toi et moi avons : nous pouvons percevoir au moins en partie l’état du système qui nous fait fonctionner.

– Hmmf… Il faudrait que j’y réfléchisse…            

– Vas-y. Moi je te laisse, j’ai un appel.

Un appel maintenant ? Plus ça va plus je me demande si c’est une bonne idée de m’intéresser à ce qui se passe réellement dans mon cerveau.

(à suivre)
Yannick Cras
Ex Machina

[ttfmp_post_list id= »postlist_115″ columns= »3″ type= »post » sortby= »date-asc » count= »-1″ offset= »0″ taxonomy= »category:ex-machina » show_title= »1″ show_date= »1″ show_excerpt= »1″ excerpt_length= »default » show_author= »0″ show_categories= »0″ show_tags= »0″ show_comments= »0″ exclude_current= »0″ thumbnail= »top » aspect= »square » paginate= »0″ arrows= »1″ dots= »1″ autoplay= »1″ delay= »6000″ transition= »scrollHorz »]

0 commentaires

Soumettre un commentaire

Votre adresse e-mail ne sera pas publiée.

Dans la même catégorie

Mr Cross vous absoudra

[Ex Machina #22] Je vais te rassurer : tu n’as pas un problème, mais deux. Au moins. Et mieux valent deux problèmes relativement indépendants, abordables avec un peu de chance chacun de son côté, qu’un gros sac de nœuds où tout est lié à tout, non ?

La fin de tout ?

[Ex Machina #21] – Nous avons fait tout cela pour rien? Tout est vide, rien n’existe, rien n’a plus de sens?
– Sauf, dit sombrement Galois, si nous ne sommes tous que des concepts dans l’infinie conscience de Dieu. René sera ravi.

Pauvre pyrite

[Ex Machina #20] Après quelques heures de sommeil profond et réparateur, nous nous retrouvâmes Corty et moi dans le bureau de Galois. Le caillou était en train de raconter à ce dernier son expérience dans la bouche de Démosthène.

Un chien redondant

[Ex Machina #19] Si un concept vous gêne, vous n’avez qu’à vous en débarrasser. Supprimez donc le chien. Ou alors l’animal, si ça revient au même. D’ailleurs pour ce qui me concerne vous pourriez supprimer tous les chnops d’un coup, ça ferait des vacances aux autres concepts.

Le caillou sèche

[Ex Machina #18] Revenons sur cette histoire de fusion de concepts symétriques. Et passons, pour cela, par ce que l’on appelle une relation d’équivalence, soit une relation qui relie certains éléments d’un ensemble mathématique.