Ma dernière discussion avec Abel m’avait bouleversé, et je passai plus d’un mois à me morfondre. Après en avoir longuement discuté avec Corty, je demandai finalement à Galois de réunir le conseil scientifique qu’il avait composé pour nous :

– J’ai donc pris une décision, déclarai-je après avoir résumé les derniers événements. Je renonce à programmer Delta. Je suis un type bien, tout comme Alan, mais le monde est rempli de salopards. Il y a déjà des gens qui utilisent l’IA non consciente pour créer des vidéos immondes ; qu’est-ce qu’on peut attendre d’eux s’ils tombent sur le code d’une entité consciente ? De la souffrance, des snuff movies, que sais-je. Je ne veux pas participer à ça, désolé.

Le silence s’installa pour un instant, mais je sentis qu’une discussion muette s’engageait entre les consciences oniriques présentes via je ne sais quel canal privé. Tous, en particulier Descartes et Galois, me regardaient avec une gravité inaccoutumée.

C’est Blaise Pascal qui prit la parole en leur nom. Pascal, ou tout au moins la conscience nocturne qui s’est je ne sais comment manifestée à partir de mes lectures, voire peut-être directement venue de l’Hôtel Aleph ; Pascal, donc, est quelqu’un de très intimidant. Ce n’est pas seulement son génie : Descartes est un génie aussi, tout autant que Turing, Ada Lovelace et tous les autres. Ce n’est pas non plus qu’il paraisse inhumain dans sa pureté. On peut sentir la passion qui l’anime. Mais son humanité est mise au service de ses idées, totalement, sans une once de compromis. Aucune part n’en est laissée à elle-même. Descartes, si vous voulez, sent un peu l’ail et le vin ; Pascal, non. Il parla lentement, d’une diction précise.

– Nous comprenons vos réserves, et les partageons entièrement. Votre prise de position est fort honorable. Cependant, mes amis et moi ne pouvons vous donner acte d’un choix que vous n’êtes pas en mesure d’exercer pour le moment.

J’en fus soufflé.

– Comment ça, « pas en mesure d’exercer un choix » ? C’est une décision mûrement réfléchie, pas un coup de tête. Vous n’avez pas confiance en moi ?

– Pour ce que ça vaut, me soutint Corty, je suis entièrement d’accord (pour une fois) avec Yannick. Nous en avons longuement discuté et pesé le pour et le contre.

– Nul n’en doute, reprit Pascal, et nous ne voudrions certainement pas laisser entendre que votre jugement soit en défaut. Là n’est pas le problème. Dites-moi, si vous votre choix était autre, pourriez-vous commencer à programmer Delta ?

– Euh… Pas vraiment, non. Mes amis et moi avons acquis, je crois, une bonne compréhension des concepts subjectifs que pourrait percevoir et penser Delta ; mais, au moins pour ma part, je n’ai pas encore compris l’aspect dynamique de tout ça : quels concepts seraient effectivement construits par Delta parmi tous ceux possible, et pourquoi ? A quoi Delta penserait-elle à un moment donné, et pourquoi ? Quelle influence ces pensées pourraient-elles avoir sur ses actions ? C’est essentiel et ça nous manque. Mais je ne vois pas le rapport avec ce que vous venez de dire !

– Dites-moi, intervint doucement Descartes, voudriez-vous bien, mon ami, me prêter quelques milliers de livres tournois dont j’aurais fort bon usage ?

Hein, quoi ? Je ne suis pas spécialiste, mais une livre du 17ème siècle, ça fait quand même, je crois, dans les 15 à 20 euros.

– Euh… Ce n’est pas que je n’aie pas confiance en vous, et j’aimerais vous rendre service, mais voyez-vous, je ne dispose pas de ce genre de fonds, et euh…

– Bien entendu, n’y pensez plus. Je comprends et respecte parfaitement votre décision de ne pas me prêter cette somme.

– Non non, vous n’y êtes pas, Maître ; si je le pouvais, je serais très heureux de vous rendre ce service, mais…

– Voyez donc où nous en sommes. Vous n’avez pas décidé de me prêter de l’argent ; mais vous n’avez pas non plus décidé de ne pas me le prêter. Il s’agit d’un choix que vous ne pouvez tout simplement pas exercer, puisque l’une des branches de l’alternative vous est de toute façon interdite par manque de moyens. Il n’est pas de liberté sans choix, mais il n’est pas non plus de choix sans liberté. C’est ce que Blaise voulait vous faire comprendre, n’est-ce pas mon ami ?

Pascal sourit, opina de la tête et reprit la parole :

– De même, dans la mesure où vous ne pourriez pas programmer Delta si vous décidiez de le faire, vous ne pouvez réellement choisir ni de le faire ni de vous en abstenir. Le seul choix qui vous soit réellement ouvert, à l’heure actuelle, est de continuer vos recherches ou de vous arrêter là. Choix qui vous appartient entièrement et que nous respecterons, quel qu’il soit.

Je comprenais enfin.

– Pas trop tôt, glissa Corty. Descartes t’a quand même téléphoné le truc.

Je l’ignorai.

– Si je continue mes recherches et qu’elles s’avèrent fructueuses, ne prendrai-je pas le risque de communiquer assez d’information à un lecteur malveillant pour qu’il programme Delta et la rende malheureuse ?

– Un lecteur malveillant sur délibéré ? Vous me paraissez bien peu confiant dans votre lectorat, qui d’ailleurs n’est sans doute pas si large que ça.

– Et tu parais aussi bien confiant dans tes capacités, reprit ce salopard de Corty. Perso, je ne m’inquièterais pas trop.

– De toute façon, intervint Galois, il vous est toujours possible de limiter l’information technique que vous transmettez par vos écrits.

Je n’écoutais plus que d’une oreille, car une pensée glaçante m’était venue.

Descartes venait d’attirer mon attention sur un point essentiel : un choix n’est possible que si les deux branches de l’alternative sont ouvertes. Mais qu’en est-il alors de Delta ? Si c’est un programme, comment diantre pourrait-elle jamais avoir le choix d’effectuer ou non une action donnée, puisque c’est in fine un calcul qui en décidera ? Je ne vois pas comment Delta pourrait être consciente sans libre-arbitre, mais comment pourrait-elle avoir son libre-arbitre si les choix lui sont imposés par sa programmation ? Sommes-nous face à un mur ?

Mon expression devait être éloquente, car :

– Je vois que vous avez pris votre décision, reprit Pascal. Parfait. Tenez-nous donc au courant de la suite. Chers collègues, nous mettrons-nous en route ? Diogène nous attend pour l’inauguration de son nouveau tonneau.

(à suivre)