Kurt Gödel aux frontières de la raison : des théorèmes aux théo-rêves...

En plaçant ce portrait de Kurt Gödel (1906-1978) sous le signe des démons, Pierre Cassou-Noguès range le logicien parmi les philosophes, aux côtés de Socrate, Platon et Descartes qui chacun eurent, on le sait, maille à partir avec les démons. Mais ce qui était chez ces penseurs mythe ou expérience provisoire de pensée, paraît devenir chez Gödel une véritable hantise vécue au quotidien. L’hypothèse cartésienne d’un malin génie nous trompant par de fausses évidences était plus qu’une hypothèse pour cet homme qui, selon P. Cassou-Noguès, vivait dans la peur de se voir dépossédé du contrôle de sa propre pensée par des puissances démoniaques. C’est dire que cette biographie un peu particulière nous emmène assez loin, semble-t-il à première vue, des très sérieux articles qui ont fait la notoriété du logicien au début des années 1930 et qui eurent une influence décisive sur l’histoire de la pensée mathématique et logique. À partir des années 1940, Gödel se consacre principalement à la philosophie mais ne publie rien de ses réflexions, « par crainte de passer pour fou ». Ses opinions personnelles et son comportement semblent aussi ceux d’un fou... Faut-il aborder l’œuvre d’un logicien, fût-il le plus grand, à partir de sa vie et de ses ruminations personnelles, ou s’occuper seulement de son œuvre publiée ? Ce livre opte délibérément pour le premier parti, et pose en principe que les obsessions et manies apparemment folles, ou simplement loufoques, du logicien ont un lien avec ses méditations les plus sérieuses. Cassou-Noguès, auteur d’une monographie sur Gödel publiée aux Belles-lettres, s’intéresse ici aux convictions personnelles de l’homme Gödel autant qu’à ses thèses philosophiques ; son ouvrage est écrit à la première personne, et ponctué par des formules du type : « je crois que Gödel croyait que... » Pour reconstituer ces croyances, l’auteur n’hésite pas en effet à recourir aussi bien aux textes qu’à des anecdotes de la vie ou du comportement de Gödel ; il va même plus loin en parsemant son enquête de digressions fictionnelles de son cru. À l’encontre de ceux qui veulent à tout prix séparer l’œuvre et la vie, P. Cassou-Noguès retrouve plutôt l’inspiration d’un Diogène Laërce, et de ces philosophes antiques dont la pensée s’exprimait aussi bien par des comportements hors normes, voire par des anecdotes apocryphes, que par des doctrines avérées.

La raison en question

Le célèbre théorème d’incomplétude de Gödel, qui démontre, pour dire les choses vite, l’impossibilité de formaliser intégralement le fonctionnement logico-mathématique de l’esprit, a alimenté toutes sortes de spéculations philosophiques, sociologiques ou politiques, naguère dénoncées, entre autres, par Sokal et Bouveresse. Or, ce livre vient opportunément nous le rappeler, il se trouve que le premier qui chercha à étendre le domaine d’application de ce théorème au-delà de la logique fut Gödel lui-même ; et c’est, entre autres choses, la possibilité du diable que Gödel aurait déduite du théorème d’incomplétude ! Autrement dit, les spéculations extra-logiques de Gödel que celui-ci, soit par crainte de « l’esprit du temps », soit par insatisfaction quant aux résultats atteints, préféra garder pour soi mais ne détruisit pas non plus, laissant à la postérité un héritage embarrassant, paraissent confiner à la folie : croyance aux démons hantant les bois environnant Princeton, mais aussi à la télépathie, voire aux doubles et aux voyages dans le temps (au nom de la théorie de la relativité : son ami Einstein semble d’ailleurs avoir pris au sérieux cette déduction inattendue), ou encore à la nocivité des gaz émis par des réfrigérateurs, etc. Croyance se doublant d’un comportement que l’on qualifierait spontanément de paranoïde : crainte d’être victime d’un complot, ce qui finalement conduisit le logicien à ne plus s’alimenter et par peur de l’empoisonnement, à mourir d’inanition en 1978. Il semblerait dès lors raisonnable de limiter l’étude de l’œuvre de Gödel à ses résultats publiés et reconnus, en laissant le « cas » Gödel aux psychiatres ou aux historiens.

Pierre Cassou-Noguès rejette cette explication trop simple : « Je n’affirme pas, écrit-il, que Gödel est fou, ce qui supposerait que je puisse expliquer ce qu’est être fou et ce qu’est la folie... Les symptômes en eux-mêmes ne m’intéressent pas, pas plus que le diagnostic qu’on pourrait faire : paranoïa, névrose obsessionnelle, etc. Ce qui m’intéresse, c’est la façon dont la « folie » de Gödel s’exprime dans ses notes philosophiques et se lie à la logique » (p. 24). L’auteur met donc entre parenthèses les étiquettes psychologiques ou psychiatriques que l’on pourrait aisément accoler au comportement du logicien, pour considérer ses bizarreries comme des symptômes, non d’une névrose primitive, mais d’une interrogation fondamentale sur la raison. Car les recherches de Gödel portent précisément sur la raison et ses limites. Ou plus exactement, car Gödel est « fanatiquement rationnel », sur les limites de la raison calculante, et sur les possibilités inconnues de la raison intuitive. L’objectif principal du logicien semble en effet avoir été de produire en philosophie une révolution analogue à celle d’Einstein en physique. Dès sa prime jeunesse, il conçoit l’idéal d’un rationalisme étendu, prenant pour objet les objets de la théologie : Dieu, l’âme. Hao Wang signalait déjà dans son ouvrage classique (Reflections on Kurt Gödel, 1987, traduction française sous le titre Kurt Gödel, A. Colin 1990) cet excès de rationalisme qui n’est plus du rationalisme, et posait la même question : « Il est naturel de croire que ces excentricités n’ont rien à voir avec la philosophie de Gödel. Mais cela n’est pas si sûr puisqu’il est exceptionnellement consistant et qu’être rationnel est le point central de sa recherche philosophique. »

Une doctrine cachée

Le cas Gödel, donc, nous concerne. Il est posé par Cassou-Noguès (p. 53) : « Faut-il penser que Gödel déforme en quelque sorte la philosophie classique, la logique et ses principes de sens commun pour y faire entrer ses propres peurs ? Ou bien, faut-il reconnaître que ce complexe qui nous est commun, de philosophie, de logique, de bon sens, contient déjà cette « folie » que Gödel ne fait qu’y révéler ? » Il y aurait ainsi dans notre raison, celle-là même qui prétend reléguer les bizarreries de l’individu Gödel parmi les folies insignifiantes, une fragilité essentielle – une présence en quelque sorte structurelle du surnaturel et du démoniaque dans la structure même de l’univers mental qui est le nôtre... Telle est la question que pose cet ouvrage en explorant la pensée inédite et cachée de Gödel.

Cassou-Noguès renoue ainsi avec une forme de spéculation qui avait autrefois pour objet, par exemple, la doctrine cachée de Platon – Platon qui semble avoir inspiré et orienté les spéculations du logicien. Celui-ci en effet, dès sa jeunesse, se montre partisan du réalisme mathématique (c’est-à-dire de l’existence réelle des objets mathématiques dans un univers supra-sensible, ce qui impliquerait que l’esprit dispose d’un « œil » spécifique pour les percevoir). Gödel montre d’ailleurs un goût pour les doctrines cachées des grands philosophes et pense que Leibniz ou Husserl n’ont pas tout dit de leur intuition fondamentale ; car – et là non plus l’idée n’est pas neuve, même si elle apparaît chez Gödel sous une forme apparemment délirante – ils ont délibérément caché cette doctrine par crainte de la persécution. Il y aurait ainsi, selon Gödel, une société secrète décidée à détruire les écrits de Leibniz. Idée qui peut faire sourire, mais que l’on peut aussi interpréter diversement. Après tout, l’optimisme leibnizien a bel et bien été pourfendu par les Lumières, à commencer par Voltaire dont on sait qu’il n’hésita pas à le défigurer ; et de fait, même aujourd’hui, nous sommes loin de connaître la totalité de l’œuvre immense de Leibniz, et encore moins, sans doute, d’en avoir dégagé toute la potentialité, attestée par le développement moderne de la logique.

Il y a aussi une pensée cachée de Gödel, puisque les milliers de pages qu’il a consacrées à la philosophie restent inédites et pour une large part indéchiffrées, car écrites dans un code sténographique du début du siècle, le Gabelsberger. De plus, l’état de ce qui est connu ne permet pas de constituer véritablement une pensée : autrement dit, nous sommes devant cette pensée comme les profanes devant le théorème, qui est connu plutôt par ses effets que par son mode de démonstration.

La science-fiction comme méthode historique

Se présente dès lors une difficulté : comment organiser ces éléments en un système cohérent ? Comment réussir là où Gödel lui-même paraît avoir échoué, puisqu’il n’a jamais publié, ni même rassemblé en un seul texte posthume l’ensemble de ses ruminations qui semblent fluctuer selon les époques ? La solution que propose l’auteur est celle de la fiction. Son livre est à proprement parler un livre de science-fiction, puisqu’il tente de cerner la pensée secrète du logicien en inventant des histoires qui se mêlent à l’Histoire authentique – de quoi choquer les historiens stricto sensu. Jusqu’à en rajouter dans l’extraordinaire, au-delà des faits : découvrant par exemple une note d’hôtel attestant que le logicien a loué un jour deux chambres à la fois, sans qu’on sache pourquoi, l’auteur imagine qu’il a loué la seconde chambre pour son double – puisque par ailleurs il a montré avec un certain sérieux, semble-t-il, que l’hypothèse du double se rencontrant lui-même à l’occasion d’un voyage dans le temps pouvait se déduire de la théorie de la relativité... Ce type d’approche est assurément suggestive, mais peut aussi laisser perplexe : peut-on ainsi profiter de notre ignorance pour prêter de nouvelles folies à un personnage qui en compte déjà beaucoup ? Peut-on, doit-on mener des investigations scientifiques ou philosophiques en prenant appui autant sur l’imagination que sur le savoir ? Une question pour Bachelard. L’auteur se plaît à imaginer, sous l’autorité de Borges, que les personnages de fiction puissent avoir la même réalité idéale que les objets mathématiques... façon de suggérer, peut-être, que le Gödel qu’il forge à partir des documents parcellaires dont il dispose a sa consistance, à défaut de complétude. Pourtant, les fictions proposées ne se distinguent guère du tout-venant de la science-fiction – juste retour des choses, il est vrai, puisque les recherches de Gödel ont contribué à alimenter ce genre.

Un optimisme très inquiétant

Par delà – ou à travers – ces anecdotes réelles ou rêvées, une pensée philosophique se dessine, dont le point de départ paraît être la notion de réflexivité. On sait que le fameux théorème fut démontré en introduisant dans la langue formalisée des énoncés ordinairement propres à la langue métamathématique (du type : « être un énoncé démontrable ») – énoncés qui s’avèrent irréductibles à la démontrabilité du système. Gödel n’a cessé de méditer sur cette spécificité de la conscience réflexive, et de l’irréductibilité de l’esprit à une machine ; comme il est persuadé par ailleurs que le cerveau est lui-même un mécanisme, il en vient très logiquement à doter l’esprit de qualités supérieures. Si le vrai n’est pas intégralement formalisable, l’esprit doit en avoir l’intuition, faute de quoi la vérité nous échapperait : hypothèse que Gödel rejette d’office.

C’est donc un principe optimiste, anti-kantien, qui semble avoir inspiré Gödel, dont il trouve le ressort chez Leibniz : le principe de raison suffisante selon lequel toute chose a non seulement une cause, mais aussi une fin, ou un sens. Il est cependant difficile de comprendre comment cette recherche sur les fondements de la raison peut conduire à se méfier de son réfrigérateur ou à supposer que des esprits hantent les bois de Princeton, et mille autres fantaisies que notre temps qualifie spontanément de superstitieuses. Peut-être faut-il faire aussi la part de l’humour, d’une sorte d’humour noir qui abolit la distinction entre la théorie et la vie quotidienne, entre le rationnel et le raisonnable. Il se dégage une métaphysique très curieuse, que résume ce remarquable aphorisme : « Les hommes doivent leur vie au fait que le diable ait préféré les faire mourir lentement ».

Car, si Gödel reprend à son compte les linéaments de la monadologie leibnizienne, il la distord, peut-être par indifférence à sa dimension morale : de sorte que la part d’obscurité à laquelle toute monade doit sa singularité devient menace, voire cauchemar. Cassou-Noguès décèle chez Gödel une « peur des petites choses » et des petites pensées imperceptibles qui composent nos pensées conscientes, et qui risqueraient de déposséder l’esprit de son autonomie : une peur de la folie qui guette quiconque veut étendre les capacités de son esprit au-delà des limites imposées par Dieu. Si la logique est « la science de la pensée consciente », cette pensée consciente émerge d’une pensée inconsciente qui n’obéit pas aux mêmes règles. Ce n’est donc pas sans raison, ni lien avec sa pensée philosophique et logique, que la figure de Faust hante la correspondance privée de Gödel dont on peut dire au moins avec certitude, au terme de cet ouvrage que l’on peut qualifier de « suggestif », avec tous les profits et frustrations qu’implique ce terme, que son œuvre logique n’est que la partie visible d’une réflexion beaucoup plus large, mais aussi infiniment plus nébuleuse.