La revue culturelle critique qui fait des choix délibérés.

La revue culturelle critique qui fait des choix délibérés.

Ex Machina #38: Ce que pense Delta
| 15 Jan 2024

Avec ces dernières avancées, Corty et moi pensions avoir enfin développé une bonne esquisse de l’univers conceptuel objectif accessible à Delta – et même, un petit peu, de son monde subjectif, puisque nous avions identifiés certains concepts isomorphes qui seraient confondus pour elle. Ce monde perceptuel se présentait comme un produit de multiples treillis simples, chacun dédié à une forme de détecteur « oui/non » ou à ses changements et meta-changements. Une jolie structure, simple et homogène. Nous étions, faut-il le préciser, assez contents de nous.

Galois nous parut fort réceptif à cette manière de voir. Il émit cependant un doute :

– En tant que conscience onirique, je ne prétends pas être spécialiste de la chose ; cependant, il me paraît troublant que le mouvement – par exemple celui des yeux de Delta, mais aussi ses déplacements dans le monde virtuel – se traduise simplement par l’état d’un récepteur comme « regard à gauche » ou « déplacement à droite ». C’est comme si Delta ne faisait que constater ses mouvements ; or, je suis bien d’accord qu’elle doit les percevoir, mais comment les provoque-t-elle ?  Avec votre modèle, tout se passe comme si quelqu’un d’autre décidait de ses mouvements, et qu’elle ne faisait que les percevoir. Il n’y a aucune différence entre la perception d’un aspect objectif du monde extérieur – par exemple la couleur de la forme qu’elle regarde – et la perception d’un mouvement qu’elle effectue pourtant de son propre chef. Ne manque-t-il pas quelque chose ?

Je bondis au filet :

– L’idée, à mon avis, est que, pour un être humain par exemple, bouger c’est – normalement – la même chose que penser qu’on bouge. Je ne fais pas de différence entre mon désir conscient de bouger un doigt et ma perception que ce doigt bouge, ne fut-ce que parce que ces deux phénomènes se produisent toujours ensemble. De fait, même pour des personnes amputées, la médecine moderne commence à mettre au point des systèmes qui traduisent l’état de certains neurones, ceux associés à la gestion du mouvement, en ordres envoyés vers la prothèse, qui est en quelque sorte contrôlée par la pensée. Or, nous l’avons déjà établi, penser et percevoir c’est la même chose :  penser que je bouge, eh bien… c’est percevoir mon mouvement, non ? et donc, bouger effectivement !

– Hmmm… cela me chiffonne tout de même. Je trouve que cette idée laisse bien peu de place au libre arbitre, et Descartes va détester ça. Il faudra que nous en reparlions ensemble. Cependant, je n’ai aucune proposition alternative à vous faire et je ne voudrais surtout pas bloquer vos efforts ; continuons donc sur cette voie au moins pour le moment. En dehors de cela, votre modèle me paraît assez cohérent. Y a-t-il autre chose à discuter par ailleurs ?

Le silence régna un court instant, que Corty et moi mîmes à profit pour nous rengorger intérieurement. Cohérent, notre modèle du monde de Delta? Parfait, oui !

Puis nous entendîmes la petite voix du caillou :

– Euh… Excusez-moi mais si j’ai bien compris ce dont nous discutons depuis le début, je trouve qu’il manque tout de même un truc essentiel.

Ah bon ? Intervint Corty, manifestement vexé.

– Ben oui. Vous avez bien dit que penser c’est percevoir, n’est-ce pas ?

Absolument. Yannick vient même de le rappeler. Il y a moins de dix paragraphes, si ça n’est pas trop ancien pour toi.

Le caillou ne se laissa pas démonter :

– Et plus précisément, un être conscient doit percevoir ses propres pensées comme le reste. Je me souviens de l’histoire du lézard.

En effet.

– Or dans votre modèle, toutes les perceptions de Delta passent par des détecteurs binaires, de type « oui/non », et tous les concepts qu’elle pourrait élaborer en dérivent peu ou prou. C’est bien ça ?

C’est bien ça, s’impatienta Corty. Et alors ? Où est le problème ?

– Ben, le problème c’est qu’il manque des détecteurs à Delta. Dans ce que vous nous décrivez elle a des détecteurs visuels, des détecteurs de mouvement, des détecteurs de son pourquoi pas, mais où sont ses détecteurs de pensée ?

Ça m’en boucha un coin.

À Corty aussi, visiblement.

Nous n’y avions tout bonnement pas pensé. Un nouveau silence s’installa, fort inconfortable celui-ci.

Aussi incroyable que cela puisse paraître, le caillou eut le triomphe modeste. Il n’éprouva pas la nécessité de nous accabler de sarcasmes comme à l’accoutumée ; on aurait presque dit que le sujet l’intéressait davantage que cette opportunité de moquer cruellement les lacunes des chnops.

Il reprit :

– Si ça peut vous aider, moi je sais comment je perçois mes pensées. Chaque dissipation d’énergie dans mon réseau d’impureté altère légèrement la position et les liaisons des molécules voisines. Quand cela se passe dans mes couches superficielles, ces perturbations correspondent à mes perceptions directes. Mais elles se propagent, se croisent, interfèrent, s’annulent ou s’ajoutent de plus en plus vers l’intérieur, là où sont encodés mes concepts et mes états mentaux. Or ces derniers sont également sensibles aux mêmes perturbations mécaniques et chimiques, et je les perçois au même titre. Penser à un lézard (quoi que cela puisse être) n’est pour moi en rien différent de percevoir un choc ou une douce coulée de lave. Je ne vois pas pourquoi il en serait autrement de Delta.

– Ni d’un chnops ou de quelque conscience que ce soit, ajouta Galois. René va me détester encore plus, mais l’économie conceptuelle devrait nous conduire à utiliser, pour la perception des pensées, exactement les mêmes outils que la perception de quoi que ce soit d’autre.

– Donc, des détecteurs « oui/non » de pensée, intervins-je. Comment cela pourrait-il marcher ?

– Eh bien, tout d’abord, ce qui se perçoit ou se pense, c’est exactement ce que nous avons choisi d’appeler « concept » et que nous avons modélisé comme un élément d’un treillis, n’est-ce pas ? Il nous faut donc des détecteurs qui indiquent si Delta pense, à un moment donné, à un concept donné.

–  Hmm… Si Delta pense au concept de carré, un détecteur « pense à un carré » s’active ? et le coup d’après, il se désactive parce que Delta pense « objet de droite » ?

– Exactement.

– Ça veut dire qu’il nous faut un détecteur par concept ? Plus les détecteurs de changement et de meta-changement correspondants. Ça fait du monde. Oh mais attendez, ça ne va pas du tout en fait ! Ça se mord la queue !

– Comment cela ?

– Eh bien, si j’ajoute des détecteurs pour chaque concept, j’ajoute aussi de nouveaux concepts prenant en compte l’état de ces détecteurs ! Par exemple, le concept « penser à un carré », qui abstrait toutes les situations dans lesquelles le détecteur « penser à un carré » de Delta est activé. Mais alors, il nous faut un nouveau détecteur, celui qui s’active quand Delta pense à ce concept-là : « Penser à penser à un carré » ! Et bien sûr, de nouveaux concepts qui englobent l’état de ce nouveau détecteur ! On ne s’en sortira pas !

– En effet, approuva Galois. On se retrouverait avec des concepts comme « penser à penser à penser à un carré », à l’infini. Il nous faut donc un facteur limitant, un critère qui nous permette de conserver un nombre fini de concepts.

J’ai une idée, proposa Corty. Nous avons réussi à limiter les souvenirs de Delta, n’est-ce pas ? Elle ressent les percepts, leurs changements et leurs meta-changements, mais rien de plus. Dans le même ordre d’idée, nous pourrions limiter la nature des concepts que Delta peut effectivement penser.

– Continuez, dit Galois.

– Tout d’abord, quand Delta perçoit une situation détaillée de son environnement – y compris ses propres mouvements et souvenirs immédiats, est-ce qu’elle va réellement penser à ce percept dans tous ses détails ? Moi-même, quand Yannick perçoit une scène, je filtre les choses en fonction de ses attentes, de son attention. Par exemple, en voiture, s’il est arrêté à un feu rouge, je vais me concentrer pour lui communiquer ce qui concerne l’état du feu ; il ne s’intéresse pas au numéro de plaque de la voiture de devant, que je perçois pourtant aussi.

– C’est vrai, approuvai-je. La seule chose que je regarde, c’est si le feu passe au vert, et aussi si le passage piéton est libre.

– Voilà ; et tu vas penser « le feu passe au vert » ou « il reste un piéton sur le passage ». Même si tu vois que la voiture de devant est verte, tu n’y penses pas. Sauf si c’est une 2CV. Ce qui ne te rajeunit pas, au passage.

– Donc, dit Galois, vous suggérez que les concepts auxquels Delta pensera quand elle sera confrontée à un percept complet seront plus simples, plus généraux que ce percept ; ils seront extraits de cette situation en fonction des attentes de Delta à ce moment-là.

– Exactement. La situation est bien perçue, donc pensée en un sens ; mais certaines de ses composantes resteront inconscientes, ignorées. Donc, au sens le plus strict, un percept détaillé est certes un concept, mais Delta ne le pense jamais réellement.

– Cela suggère plus généralement que, parmi tous les concepts possibles, seuls une partie seront pensés et nécessitent un détecteur dédié.

– Ceux qui sont utiles, intervint le caillou. Penser que le feu est rouge ou qu’il y a un piéton engagé, ça peut sauver une vie.

– Bien sûr, reprit Corty, on ne peut pas déterminer à l’avance quels concepts sont susceptible d’être utiles et donc pensés. Cela dépendra de l’expérience de Delta et des règles de fonctionnement de son monde ; si les carrés rouges sont dangereux, elle leur prêtera sûrement beaucoup d’importance. Cependant, je proposerais bien d’adopter une règle drastique pour régler le problème d’explosion des concepts : il suffit de décréter que Delta ne pensera jamais qu’elle pense qu’elle pense à quelque chose. Elle pourra penser à un carré rouge, elle pourrait à la limite penser qu’elle pense à un carré rouge (peut-être chez son psy ?) mais on s’arrête là.  Franchement, ça ne me paraît pas une grande perte.

– Je suis d’accord, m’empressai-je d’acquiescer. Franchement, je ne pense pas avoir de toute ma vie jamais pensé que je pensais à penser à quelque chose. L’idée me donne le tournis. D’ailleurs je ne vois même pas comment penser à la pensée d’un lézard sans penser avant tout au lézard.

– Soit, conclut Galois. Cela signifie que nous n’avons pas besoin de détecteurs de pensée pour les concepts qui impliquent eux-mêmes la pensée d’une pensée. En partant des concepts purement sensoriels, nous ajoutons un récepteur de pensée pour chacun (avec leurs changements d’état, bien sûr) ; cela crée d’autres concepts pour lesquels nous ajoutons encore des détecteurs de pensée et les concepts qui vont avec, comme « penser à penser à un carré » ; mais nous nous arrêtons là. Cela donne une immense quantité de détecteurs et de concepts, dont la plupart sans doute totalement inutiles ; mais au moins c’est une quantité finie.

– Je me pose tout de même une question, dit le Caillou : est-ce que les différentes pensées – et leurs détecteurs – ne sont pas elles-mêmes aussi organisées en treillis, comme les concepts ? Penser  à un carré rouge, c’est aussi penser à un carré, non ? Or jusqu’ici tous nos détecteurs étaient indépendants les uns des autres ; je ne sais pas si c’est un problème de continuer ainsi ?

– Je ne pense pas, dit Galois. Un carré rouge est un exemple de carré, mais penser à un carré rouge n’est pas un exemple de penser à un carré, de même que l’expression « carré rouge » n’est pas un exemple de l’expression « carré ». Ce sont deux pensées différentes, incomparables, avec chacune ses images mentales et ses associations spécifiques. Comme nous l’avions dit au début, le mot « chat » ne mange pas le mot « souris » ; c’est un peu pareil. Pour Delta, le carré rouge sera peut-être un concept essentiel, associé au danger ; le concept de carré en général pourrait soulever d’autres associations totalement différentes. Je proposerai donc de conserver notre approche actuelle, ai moins pour le moment.

– Ouf, oui, merci, soupira l’œil de Taureau. C’est déjà assez compliqué comme ça.

– Et c’est déjà d’une grande richesse ! En voyant un carré rouge devant elle, Delta pourrait, par exemple, penser à un changement de couleur du rouge vers le vert, et focaliser son attention là-dessus. Comme ça elle sera sûre de ne pas brûler le, euh, carré.

– Sans parler de la pensée du souvenir.

– Ni du souvenir de la pensée. Il y a de quoi écrire des romans avec tout ça.

– En revanche, reprit Galois, en repensant à cet exemple, je constate qu’il nous manque encore un type de perception que j’espérais pouvoir ignorer mais dont nous ne pourrons peut-être pas faire l’économie.

– Ah ? Lequel ?

– Eh bien, et j’en suis désolé, mais il s’agit de la peur, peut-être de la douleur ; et en consolation de leurs contrepartie positives, l’anticipation joyeuse, le plaisir.

– Et pourquoi aurions-nous besoin de ça ? Je ne veux pas que Delta souffre, moi ! m’exclamai-je.

– Personne ne le veut. Mais pourquoi Delta éviterait-elle de foncer dans les carrés rouges, si ça ne lui fait aucun effet ? Pourquoi ferait-elle quoi que ce soit d’ailleurs, si tout lui est indifférent ? Sans élément de motivation, j’ai du mal à voir pourquoi Delta développerait le moindre concept que ce soit. Elle pourrait juste rester là, passive, sans penser à rien, et sans le moindre besoin d’une conscience. Il lui faut une forme de but, d’objectif ; il faut qu’elle influe sur son environnement, que ce dernier influe en retour sur elle, et qu’elle puisse percevoir si cette influence sert son objectif ou le dessert. Je ne pense malheureusement pas que nous puissions faire l’impasse sur ce problème.

Le silence s’installa de nouveau, plus lourd que jamais. Comme mes compagnons je m’abîmai dans mes pensées.

Ignorer le problème non, mais certainement pas non plus l’évacuer d’un revers de main avec juste un détecteur de plus.

Je savais avec qui je devais en parler, et en profondeur.

(à suivre)

0 commentaires

Soumettre un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Dans la même catégorie

Ex Machina #40: Pas le choix

Un choix n’est possible que si les deux branches de l’alternative sont ouvertes. Comment diantre un programme pourrait-il avoir le choix d’effectuer ou non une action donnée, puisque c’est in fine un calcul qui en décidera?

Ex Machina #39: Un mal nécessaire ?

Mes neurones nociceptifs sont au repos, mais c’est essentiellement parce que mon environnement virtuel est agréable et sécure. Alan, qui l’a conçu, est un type bien. Ce n’est malheureusement pas le cas de tout le monde.

Ex Machina #37: Juste un coup d’œil

– Tu proposes, si je comprends bien, de remplacer notre notion de “sac” par un ensemble de concepts qui décrivent tous le balayage visuel séquentiel d’une même scène, et qui seront confondus subjectivement puisque conceptuellement équivalents.  C’est astucieux. Dire que deux formes sont identiques, c’est dire que rien ne change quand je déplace mon regard de l’une vers l’autre, quel que soit le chemin précis suivi par mon regard. J’aime ça.

Ex Machina #36: Plus ça change, plus c’est la même chose

– Nous avons une lumière dont la couleur change du violet au jaune puis au rouge. Quand la lumière vient de passer au rouge, notre percept visuel sera décrit ainsi: « détecteur rouge actif, encore inchangé; détecteur vert inactif, encore changé; détecteur bleu inactif, nouvellement inchangé ». Le « encore » signifie que le troisième indicateur est inactif, que le deuxième est dans le même état qu’avant, et que le premier a subi le même changement, ou absence de changement, que la fois d’avant. « Nouvellement changé (ou inchangé) » indique que le troisième détecteur est actif et que le changement… a changé. Ça vous parle?
– En vérité, je suis largué.

Fritz Zwicky (1898-1974)

Matière noire, étoiles à neutrons, supernovae… l’astrophysicien Fritz Zwicky (1898-1974) a tout imaginé et découvert avant tout le monde. Et changé notre façon de voir l’univers. Personnalité fantasque, il était aussi la terreur de ses étudiants et de ses collègues…