On l’a dit, les maths forment un édifice impressionnant, porté par la logique formelle, la théorie des ensembles et celle des nombres en fondations quelque part vers le dixième sous-sol, et d’où s’élèvent ensuite étage après étage de concepts, chaque niveau portant son vocabulaire, ses définitions, ses théorèmes qui seront repris – ou pas – par les niveaux suivants. Aussi bien l’image de la tour n’est pas la meilleure et sans doute vaudrait-il mieux évoquer le foisonnement d’une forêt de concepts avec ses racines, ses troncs, ses branches maîtresses, ses frondaisons et les lianes sauvages reliant tout cela. Il y a de quoi être impressionné à juste titre, car dès les premiers mètres passés les hauteurs de cette forêt nous deviennent, à nous pauvres rampants, proprement inaccessibles, quand seuls quelques esprits d’exception en visiteront la canopée.

Ce qui est pourtant encore plus incroyable, et à mon sens merveilleux, c’est qu’on peut trouver au niveau du sol des arbres uniques en leur genre, portés par leurs seules racines, orgueilleusement solitaires et pourtant d’une fécondité sans borne. Rien ne vous a préparé à telle rencontre. Vous suiviez un cursus scientifique standard qui vous a mené au bac S (C à l’époque) et vous a permis de rejoindre une prépa, puis de passer de sup’ en spé. Algèbre, logique, arithmétique, géométrie, analyse, probabilités : vous avez déjà un peu touché à tout, et même si vous vous préparez à souffrir pendant un ou deux ans avec 14 heures de maths par semaine, vous vous sentez plus ou moins en terrain dangereux, certes, mais connu. Les quelques petits concepts que vous avez ramassés lors de votre scolarité antérieure vous serviront bien de kit de survie ; ce sera dur mais vous avez reconnu le terrain, vous êtes bien préparés.

Puis, vous butez soudain dans cette essence rare, inconnue, inimaginable, proprement inouïe : la topologie. Comme vous vous en rendez rapidement compte, rien de ce que vous avez appris auparavant – à part peut-être ce brin de logique et de théorie des ensembles qui sous-tendent le monde mathématique tout entier –, rien de tout cela ne vous sera de la moindre utilité pour affronter cet arbre-là. Oubliez l’analyse. Jetez la théorie des nombres. Rangez la géométrie. Remisez la plupart de vos intuitions. Certes, tout cela reviendra bientôt si vous poursuivez votre chemin, car la topologie nourrit toutes ces branches des maths ; mais vous devrez d’abord faire l’expérience d’un savoir neuf, de concepts inédits, d’abstractions qui se suffisent à elles-mêmes. Expérience fascinante. Sentiment d’être entré dans un autre monde.

De quoi parle donc cette topologie ? Elle parle de propriétés des formes, des espaces et des structures qui s’affranchissent de la géométrie, de la mesure, du quantitatif. Elle parle de ce qui se conserve quand vous pouvez infiniment déformer un objet, sans pourtant jamais le percer ni le recoller ; elle parle de ce qu’il y a de commun entre un réseau routier, un réseau social, un ensemble de nombres, une figure dessinée sur le plan ; elle parle d’univers où les trous de ver existent, de fourmis vivant sur un pneu, de transformations de l’espace laissant au moins un point fixe, et des mystérieuses variétés de Calabi-Yau que nous évoquions dernièrement.

Je vous présente le dernier jouet à la mode, la Topotty. Il s’agit d’une pâte à modeler révolutionnaire : infiniment plastique et résistante, elle peut se déformer sans limite pour adopter la forme et même la taille que vous souhaitez, sans risque de déchirure car il est impossible de la briser ou même d’y percer un trou de part en part. Seul petit défaut : contrairement à la pâte à modeler habituelle, la Topotty est totalement antiadhésive et il n’y a aucun moyen d’en coller un bout sur l’autre. Mais à part cela vous pouvez en faire ce que vous voulez.

Si je vous donne, disons, un boudin de Topotty, vous pouvez la malaxer et l’étirer pour en faire un cube, une boule, un verre de la taille que vous voulez. Au sens de la topologie générale, ce ne sont que des apparences du même objet ; sa taille et sa forme précise importent peu.

Vous ne pouvez cependant pas modeler votre boudin en forme de chope avec une anse ; sa résistance vous empêchera d’y percer le trou dont vous avez besoin, et son antiadhésitivité rend impossible de coller deux extrémités l’une sur l’autre. Pour modeler une chope à bière, il vous faut un autre modèle de Topotty – qui se vend lui sous forme de petite bouée. Cette bouée vous donnera aussi une tasse, une paille, un anneau ; vous ne pourrez en revanche pas en faire un boule (mais vous pourrez en faire un objet qui ressemble d’aussi près que vous voulez à une boule, avec deux de ses points reliés par un minuscule tunnel).

La topologie s’intéresse (entre bien d’autres choses) à ce qui différencie un boudin de Topotty d’une bouée de Topotty : en l’occurrence l’existence d’un trou. Les notions habituelles d’espace et de distance ne sont pas pertinentes en l’occurrence (votre trou peut être énorme ou minuscule), et il vous faudra d’autres concepts pour étudier les différences entre ces deux objets – différences souvent très surprenantes.

Comme par exemple celle-ci, que l’on appelle théorème de la boule chevelue : il existe à tout moment au moins un endroit sur terre où le vent ne souffle pas du tout, alors que si la terre était un tore, un anneau géant, cela ne serait pas nécessairement vrai (ce même théorème implique aussi qu’un hérisson roulé en boule a au moins un piquant à angle droit, ce qui peut expliquer son nom). Ou cette variante : il existe à tout moment un endroit sur terre où la température est exactement la même que la température à son antipode. Nul besoin de connaître la taille de la Terre ni sa forme exacte pour l’établir ; ce qui importe en l’occurrence c’est qu’elle n’a pas de trou (à l’échelle considérée). Une propriété plus connue peut-être est qu’on peut toujours colorier une carte avec quatre couleurs sans que deux pays avec une frontière commune aient la même couleur (en supposant cependant que les pays sont d’un seul tenant, ce qui est faux en pratique). Sur une planète en forme de tore, vous pourriez avoir besoin de bien plus de couleurs.

D’autres formes de Topotty (plus difficiles à se procurer malheureusement) font un crochet par la quatrième dimension ou au-delà, et leurs propriétés sont également bien étonnantes. Si vous disposez d’un gant droit (disons avec l’intérieur et l’extérieur de couleurs différentes), vous pouvez bien le transporter où vous voulez mais vous n’en ferez pas un gant gauche de la même couleur dans l’espace qui nous est familier ; pourtant si vous lui faisiez faire un petit tour dans une bouteille de Klein, vous auriez un gant gauche à l’arrivée (et vous en sortiriez vous-même avec le cœur à droite, sans plus de dommage apparent). Notre espace conserve la parité mais cela n’est pas le cas général. Par ailleurs, si notre espace lui-même contenait des trous à travers une quatrième dimension spatiale, les auteurs de science-fiction n’auraient qu’à s’en réjouir car cela nous donnerait le trou de ver indispensable à tout space opera un minimum crédible ; or les théories physiques de grande unification, comme il se trouve, nous créditent de  dix à vingt-deux dimensions d’espace, la plupart repliées en cylindres si petits que nous n’avons aucun moyen de les percevoir.

La topologie ne se limite pas à ces considérations, aussi fascinantes soient-elles. Elle définit également une notion abstraite de distance qui couvre un nombre immense de situations totalement différentes en apparence, et les théorèmes qu’elle établit s’appliquent à tous ces domaines. La « distance SNCF », par exemple, mesure le temps nécessaire pour relier deux destinations en train ; force est d’admettre que le plus souvent on vous fait passer par Paris. Tout résultat établi par la topologie dite des espaces métriques (munis d’une distance) s’appliquera à cette distance SNCF comme à n’importe quelle autre, comme par exemple la distance entre amis d’amis dans un réseau social.

Pour toute cette puissance, la topologie s’appuie sur un nombre ridiculement restreint de concepts de base. On considère un ensemble E (de quoi ? On s’en fiche : de points, de nombres, de situations, de fonctions, de ratons-laveurs). On considère certains de ses sous-ensembles que l’on appelle des « ouverts ». On demande que l’intersection d’un ensemble fini d’ouverts soit aussi un ouvert,  et que la réunion d’un nombre fini ou infini d’ouverts soit aussi un ouvert. De ce simple concept on définit des notions de fermé (l’ensemble complémentaire d’un ouvert), d’adhérence, de voisinage, de limite, de connexité, de compacité… la page Wikipedia consacrée aux espaces topologiques ne fait que deux écrans de long, et cela inclut plusieurs définitions alternatives ainsi qu’une pleine page d’exemples et de liens vers d’autres concepts. Cerise sur le gâteau : si vous savez à peu près ce qu’est un ensemble, vous êtes aussi armés que n’importe qui pour comprendre ce qu’est un espace topologique (j’aurais sans doute dû écrire aussi mal armés que n’importe qui, tant le concept est abstrait dans sa trompeuse simplicité). La définition d’un espace métrique tient en un paragraphe et ne fait appel qu’à un vocabulaire de base. On fait difficilement plus concis, plus simple, plus économique, plus puissant en peu de mots… et plus mystérieux que la topologie. Vaut le détour, mérite le voyage !

Yannick Cras
Le nombre imaginaire