Ma dernière discussion avec Galois et Corty m’a laissé rêveur. Pour mémoire, nous sommes d’accord sur le fait qu’à partir du treillis objectif, qui représente l’ensemble des percepts et des concepts pouvant en théorie être éprouvés/pensés par Delta, cette dernière crée un treillis subjectif, contenant les percepts et concepts qu’elle connaît effectivement de par son expérience. Le premier est très symétrique, le second en revanche ne contient aucune symétrie ni redondance à part, peut-être, d’être auto-dual. Du treillis subjectif est extrait un plus petit treillis représentant l’état mental de Delta, à savoir l’ensemble des concepts ou percepts qu’elle éprouve ou auxquels elle pense à un moment donné. Nous avons même esquissé le mécanisme qui, à partir d’un percept et de l’état mental de Delta à un instant donné, la pousse à penser à d’autres concepts et à faire évoluer son état mental. Ce n’est pas mal du tout, et cela répond même à une question centrale : à qui sert-il de penser ? Car, si nous avons raison, penser permet au moins de diriger son attention vers ce qui est important dans une situation donnée. Si le carré rouge est un prédateur dans le monde de Delta, cette dernière est susceptible d’y penser souvent, et – à travers les opérations de conjonction et de disjonction que nous avons décrites – d’identifier spécifiquement les objets rouges ou les carrés dans ce qu’elle perçoit. Elle peut même, nous l’avons vu, inventer de nouveaux concepts.

Tout cela est bel et bon, mais nous reste une question importante. Si nous savons comment Delta se met à penser à quelque chose, nous ignorons ce qui la fait arrêter d’y penser. D’ailleurs la même question se pose au sujet du treillis subjectif de Delta : il peut grandir quand Delta rencontre un nouveau concept, ou en invente un ; mais ne devrait-il pas aussi perdre certains concepts s’ils se révèlent inutiles ? Sinon l’esprit de Delta deviendra un vrai foutoir avec le temps.

J’ai eu, pour une fois, l’occasion d’en discuter avec le Caillou. Ce dernier, je dois vous l’avouer, m’inquiète un peu depuis quelques temps. Il parle de moins en moins, et je le trouve terne. Il a même perdu son côté incisif et mordant. Je ne sais si un minéral conscient peut déprimer, mais c’est l’impression qu’il me donne. C’est pourquoi je fus bien content de le voir s’intéresser au problème.

– Fichus Chnops, soupira-t-il. Toujours à poser des questions stupides dont la réponse est sous leur nez.

– Je suis content de t’entendre. Tu m’as l’air plus en forme.

– Bien entendu, une conscience doit éliminer des concepts, à court terme en arrêtant d’y penser et même à long terme en les oubliant. Sinon elle pensera à tout en même temps, ce qui revient à ne penser à rien. Mais la cause en est simple et c’est toujours la même : les concepts et la pensée qui les active sont coûteux. Ton esprit, le mien et celui de Delta ont forcément des mécanismes qui permettent d’évaluer l’utilité des concepts, et d’éliminer ceux qui ne servent à rien pour faire de la place aux autres. Or, à quoi sert un concept ? A être pensé et, comme tu le disais, à influencer notre état mental et notre attention, de manière à nous faire identifier ce qui compte dans une situation donnée et, in fine, à nous faire agir selon notre intérêt. Un concept qui n’est jamais pensé ne sert à rien ; un concept dont la pensée n’amène rien d’intéressant ne sert à rien non plus.

– Et donc ?

– Et donc, nous exerçons une forme d’évaluation mécanique des concepts. Un concept est important si le fait d’y penser permet d’être aux aguets et d’éviter un danger ou de trouver un plaisir, en dirigeant l’attention là où il faut. Un tel concept est bien noté, fermement arrimé dans le treillis subjectif, et on y pense souvent. Un concept dont la pensée n’apporte rien de particulier, en revanche, est mal noté ; nous le mobiliserons moins souvent dans notre état mental. Un concept auquel nous ne pensons plus jamais, au bout d’un moment, sera même éliminé de notre treillis subjectif, quitte à y revenir si la situation l’exige.

– Il y a donc deux filtres à concepts, en quelque sorte ? Tu pourrais me donner un exemple ?

– Bien sûr. Reprenons l’exemple du carré rouge pour Delta. Chaque fois qu’elle en rencontre un, elle éprouve une perception désagréable, que sa mécanique interne cherche avant tout à éviter. C’est donc un concept très important, « Carré rouge mauvais », qu’elle a tout intérêt à conserver dans son treillis subjectif, et auquel elle pensera forcément très souvent, surtout quand elle repère du rouge dans son environnement. En revanche, un concept plus anodin comme « triangle violet » n’est pas forcément très utile, s’il n’est pas associé à un danger ou à un plaisir. Si les triangles violets sont très fréquents dans son environnement, disons comme des brins d’herbe pour toi, elle en percevra souvent mais sans y penser vraiment ; son attention sera attirée vers des éléments plus importants de la scène. Le concept « triangle violet » existera toujours dans son treillis subjectif, mais jamais longtemps dans son état mental, parce que ce n’est qu’un détail anodin. Enfin, supposons que Delta a rencontré une fois ou deux des ronds gris, qui n’ont aucun effet sur son confort et qui n’apparaissent que rarement dans son environnement. Elle n’a pas vraiment de raison de retenir ce concept : au bout d’un moment sans rencontrer de nouveau rond gris, elle pourrait l’éliminer de son treillis subjectif.

– Autrement dit, l’oublier.

– Oui.

– Tout cela repose sur ton histoire de note attribuée à un concept. Je n’ai pourtant pas l’impression de passer du temps à évaluer les concepts que j’ai en tête ?

– Moi non plus. Mais il s’agit d’un mécanisme inconscient, qui s’exécute en dehors de toute pensée. Pour toi, cela se passe surtout quand tu dors. Pour moi, quand je suis au chaud, et que certaines tensions dans mon réseau cristallin s’équilibrent. Pour une IA, cela pourrait correspondre à un réajustement des poids de connexions entre neurones ; c’est exactement ce qui se passe en phase d’apprentissage. Ce qui compte, c’est qu’un mécanisme d’optimisation ajuste du mieux qu’il peut le contenu de ton esprit à tes besoins perçus. Avec des essais, des erreurs, et des réajustements quand les conditions extérieures changent.

– Intéressant… Mais, dis-moi : tu me dis qu’un concept est utile si le fait d’y penser me protège du danger, ou me rapproche du plaisir. Mais comment une simple pensée peut-elle avoir cet effet ?

– C’est curieux que tu me demandes ça, parce que cela repose sur un truc que tu as, toi, beaucoup plus que moi.

– C’est-à-dire ?

– Des actionneurs. Des membres. Des sensations kinesthésiques. On en a déjà parlé, me semble-t-il : bouger, c’est se sentir bouger.

– Oui, c’est vrai. Et donc ?

– Donc, imagine que Delta soit proche d’un carré rouge pour la première fois. Ça ne lui fait pas du bien. Mais, par pur hasard, elle se déplace l’instant d’après, et elle se sent mieux. Comme son bien-être a été impacté, elle va conserver un concept important, du genre : « carré rouge, mauvais, puis bouger, mieux ». En fait, ce concept sera encodé avec les détecteurs de changement d’état dont nous avions parlé, mais en essence c’est ça.

– OK. Et la prochaine fois qu’elle rencontre un carré rouge…

– … elle va penser à tous les concepts qu’elle connait impliquant un carré rouge, donc à celui-là. Elle va donc également penser au concept « bouger ». Donc, sauf si d’autres concepts parasitent le mouvement, elle va se sentir bouger, et ainsi bouger effectivement. Renforçant au passage l’importance de ce concept.

– Je vois.

– Il y a mieux. Ce concept est tellement important pour elle qu’il devient, en quelque sorte, une unité, comme un élément unique : « s’éloigner du carré rouge pour éviter le danger ». Imagine maintenant qu’elle trouve un délicieux triangle vert à côté d’un carré rouge. Elle sera tentée d’aller le consommer. Ceci fait, elle pensera tout de suite à s’éloigner du carré rouge. Mais ce à quoi Delta pense fait aussi partie de ses perceptions, n’est-ce pas ? Elle va donc ainsi développer un nouveau concept plus complexe : « aller manger le triangle vert puis s’éloigner du carré rouge ». Tu notes que ce concept-là s’étale sur quatre unités de temps : voir le carré vert et penser à le manger, s’y déplacer pour le manger, ressentir le danger du carré rouge, s’en éloigner au plus vite. Si cette histoire se reproduit assez souvent, Delta aura un nouveau concept très important à sa disposition. Un concept de plan, si tu veux, tout comme Donald Trump, dont elle aura d’ailleurs à peu près l’intelligence.

– Brillante analogie… Mais il y un autre mot qui me titille, dans ce que tu viens de dire.

– Lequel ?

– le mot « histoire ». Je vais en parler à Sima.

(à suivre)
Yannick Cras