La revue culturelle critique qui fait des choix délibérés.

La revue culturelle critique qui fait des choix délibérés.

Ignorance bénie
| 24 Jan 2022

Rechercher si la conscience peut émerger dans une machine est un voyage au long cours à bord d’un improbable esquif philosophico-mathématique, dont nous suivons les étapes semaine après semaine. Quel qu’en soit le point d’arrivée, il offre l’occasion de découvertes et de rencontres parfois déconcertantes mais riches d’enseignements…

Ex Machina #6

Tout comme moi, l’ascenseur traite des informations issues de son environnement. Tout comme moi il repose pour cela sur un algorithme qui décide de le faire changer d’état en fonction de son état antérieur et des événements qu’il reçoit de son environnement, ce que nous avons décidé d’appeler des perceptions. D’après Corty, la différence entre l’ascenseur et moi est que, parmi mes perceptions, certaines viennent du mécanisme même qui me dirige – mon propre algorithme –, et ces perceptions sont ce que j’appelle pensées.

J’observe mes pensées, je les perçois. Je ne les décide pas, et je ne sais pas expliquer pourquoi elles me viennent à l’esprit. Donc ce qui les produit fait partie de mon environnement, et est extérieur à ma conscience.

Mais, nom d’un chien, qu’est-ce qui produit ces pensées si ce n’est pas ma conscience ? Et si ma conscience ne me fait pas penser, que fait-elle au juste ?  

Cette métaphysique me donne le tournis. Essayons d’être plus rigoureux. Revenons à l’ascenseur. Dans son cas, toutes les décisions importantes sont prises par l’algorithme qui a été implanté dans l’automate programmable ou l’ordinateur qui le pilote. Mais de dernier est lui-même à tout instant dans un certain état. Tant que rien ne se passe, par exemple, l’automate est en attente d’un événement ; à très bas niveau, il y a une boucle informatique qui dit « vérifie toutes les millisecondes si quelque chose change et quand ce sera le cas, va chercher la règle qui te dis quoi faire ». Quand un événement se produit, l’automate se met dans un autre état où il est en train de vérifier quelle règle de transition doit s’appliquer : « va chercher la prochaine règle associée à l’état courant de l’ascenseur ». Un technicien pourrait utiliser un débogueur pour vérifier pas à pas ce qui se passe. Simplement, cet état interne de l’automate n’a aucune incidence sur le fonctionnement de l’ascenseur ; il n’est donc pas considéré comme faisant partie de l’état de ce dernier.

Dans mon cas, l’équivalent de l’automate programmable qui détermine mes actions a aussi un état interne ; mais pour une raison quelconque, cet état interne peut influer sur les décisions de l’automate au même titre que d’autres éléments de mon état comme mes perceptions visuelles ou auditives. En d’autres termes, pour fonctionner correctement, mon automate personnel utilise entre autres des informations sur son propre état. Mon automate personnel s’observe lui-même, quoique partiellement (sinon je saurais pourquoi je pense ce que je pense).

Cet automate, je n’ai donc pas d’autre choix que de l’appeler conscience. Parce que je suis sûr d’une chose : ce qui perçoit des choses en moi, c’est ma conscience et rien d’autre.

Ma conscience est un automate, un algorithme, qui observe son propre état et l’utilise avec mes autres perceptions pour décider quoi faire. Cela m’oblige à étendre un peu ma définition de la perception : il s’agit d’une information qu’un système reçoit de son environnement ou de lui-même. La conscience est réflexive. Et si je ne sais pas pourquoi je pense ce que je pense, c’est que seule une petite partie de l’état de ma conscience lui est retransmise sous forme de perception. Je ne sens pas mes neurones s’activer quand j’ai une idée ; je n’ai aucune perception des chaînes d’activation complexes que l’on peut observer en IRM fonctionnelle, par exemple. C’est sans doute que ces détails n’ont aucune incidence sur les décisions que prend ma conscience. En revanche, ce que je perçois d’elle – mes pensées – joue sans doute un rôle ; ma conscience prend en compte mes pensées tout autant que mes autres perceptions dans les décisions qu’elle prend.

Cela fait vraiment sens, il y a ici un fil à tirer. C’est très troublant, cependant. Je suis ma conscience – puisque c’est moi qui perçois – et en même temps la majeure partie de son fonctionnement (et donc du mien) m’échappe complètement. Je suppose qu’il me faut simplement l’admettre.

Tout cela est vraiment excitant, il faut que j’en parle à Corty, qui ne s’est d’ailleurs pas manifesté depuis un moment. Corty, tu es là ?

– Quelle question ! Bien sûr que je suis là, où veux-tu que j’aille ? Et oui, j’ai lu tout ce que tu viens d’écrire, ce n’est pas comme si j’avais le choix de toute façon.

– Tu ne trouve pas ça super excitant ?

– Si si si, c’est super. Bravo. Vraiment.

– Ça n’a pas l’air de t’emballer…

– Si, si. Excuse-moi, mais j’ai un peu la tête ailleurs en ce moment. D’ailleurs je dois te prévenir que je serai indisponible pendant quelques temps, sauf pour le service minimum bien sûr. Vois-tu, ton cortex auditif et moi avons décidé… euh, de nous donner une nouvelle chance.

La voix de cristal intervient, joyeuse : Et celle-là, on ne veut pas la gâcher !

– Alors bon travail, tu tiens le bon bout, continue, tiens-moi au courant, on débriefera plus tard, tout ça. A plus !

Puis plus rien.

Bon. Ben bonne chance à tous les deux, je suppose.

Il faut que je pense à autre chose. Tout de suite. A tout sauf à ce qui est en train de se passer dans mon cerveau en ce moment précis.

Vite, Netflix.

(à suivre)
Yannick Cras
Ex Machina

[ttfmp_post_list id= »postlist_583″ columns= »3″ type= »post » sortby= »date-asc » count= »-1″ offset= »0″ taxonomy= »category:ex-machina » show_title= »1″ show_date= »1″ show_excerpt= »1″ excerpt_length= »default » show_author= »0″ show_categories= »0″ show_tags= »0″ show_comments= »0″ exclude_current= »0″ thumbnail= »top » aspect= »square » paginate= »0″ arrows= »1″ dots= »1″ autoplay= »1″ delay= »6000″ transition= »scrollHorz »]

0 commentaires

Soumettre un commentaire

Votre adresse e-mail ne sera pas publiée.

Dans la même catégorie

Le caillou sèche

[Ex Machina #18] Revenons sur cette histoire de fusion de concepts symétriques. Et passons, pour cela, par ce que l’on appelle une relation d’équivalence, soit une relation qui relie certains éléments d’un ensemble mathématique.

Symétrie m’était contée

[Ex Machina #17] Où l’on retrouve Evariste Galois sur une piste particulièrement prometteuse… « Votre treillis de concepts subjectifs ne contient aucune symétrie et n’a en fait pas besoin d’être explicitement calculé pour exister; pour vous, il est pourtant la seule chose qui existe ».

Quatre nuances de gris

[Ex Machina #16] Si tu ne distingues pas les concepts “bâtonnet 1 actif” et “bâtonnet 3 actif”, c’est sans doute que ce ne serait pas utile à ta survie. Du coup, ton cerveau a évolué pour te simplifier la vie et te présenter simplement un niveau de gris. En revanche, distinguer les couleurs les unes des autres doit être essentiel à la survie, et cela vaut le coup de conserver des concepts distincts pour chacune.

Où est donc ce marteau?

[Ex Machina #15] Vous ne manipulez pas certains concepts car c’est mauvais pour le futur de vos larves. Ceux d’entre vous qui ont trop de concepts, ou les mauvais concepts, se cassent avant d’avoir des larves, donc les chnops suivants bénéficient des concepts les plus utiles (ou, dans votre pitoyable cas, les moins nuisibles).

Voir Rouge

[Ex-Machina #14] « Nous avons en un sens trop de concepts mais par ailleurs il nous en manque ». Mais qu’est-ce qu’Evariste Galois a-t-il voulu dire par là? Pour le comprendre, rien de tel qu’un passage par la perception des couleurs.