: remy-reichhart.fr
Incompréhensibles mathématiques
Que faut-il penser de la phrase de Russell :
« Les mathématiques sont la seule science où l’on ne sait pas de quoi on parle ni si ce qu’on dit est vrai »
Bertrand Russell (mathématicien et philosophe)
La formule de Russell nous apparaît tout d'abord comme un paradoxe insoutenable. On connaît une autre citation fameuse : "En mathématiques, il n'y a pas de signes pour exprimer des notions confuses". Les mathématiques ne sont-elles pas par excellence l'école de la précision et de la rigueur ? En dehors des mathématiques, au contraire, nous nous contentons bien souvent de pensées approximatives et d’intuitions grossières. C'est pour cela que le premier contact avec les mathématiques déconcerte toujours l'ignorant. Les enfants sont toujours surpris par les premiers cours de géométrie auxquels ils assistent. Ils s'étonnent qu'un raisonnement soit nécessaire pour établir des propositions qui d'emblée paraissent évidentes. Schopenhauer, dont la formation scientifique était plutôt limitée, comparait assez drôlement le mathématicien à homme qui se couperait les deux jambes afin de marcher avec des béquilles. Pourquoi substituer les béquilles du raisonnement à l'élan spontané et rapide de l'intuition ? C’est que le mathématicien préfère avancer à pas comptés, mais en terrain sûr, procéder avec une extrême rigueur et ne rien conclure qu'il ne l’ait strictement démontré. Une proposition est dite démontrée lorsqu'on l'a déduite de propositions déjà admises, lorsqu'on a fait voir qu'elle en découlait logiquement, nécessairement. Les mathématiques apparaissent donc comme un domaine où par excellence ou se soucie de savoir si ce qu'on dit est vrai, comme un ensemble harmonieux de « belles chaînes de raisons » qui, si elles ne sont pas toujours aussi « simples et faciles » que le dit Descartes, n'en répondent pas moins aux exigences de rigueur des spécialistes exercés.
Et comment peut-on dire qu'en mathématiques « on ne sait pas de quoi on parle » Il n'est pas de discipline où les définitions soient plus rigoureuses et plus satisfaisantes pour l'esprit, et cela pour l'excellente raison que c'est le mathématicien lui-même qui crée l'objet qu'il définit. Les définitions des sciences expérimentales en effet ne sauraient être parfaitement rationnelles parce qu'elles renvoient à un donné antérieur, à une réalité qui préexiste à l'effort de construction rationnelle.
Tout au contraire, la définition mathématique est rigoureusement rationnelle parce que le « définissant » est parfaitement adéquat au « défini ». La définition du cercle est parfaitement adéquate au cercle parce que c'est la définition du cercle qui crée le cercle. Définir le cercle comme la figure décrite par un point en mouvement dans un plan toujours à égale distance d'un point fixe appelé centre, c'est construire et créer le cercle. De même, l'ellipse n'est pas le contour d'un œuf, mais le lieu géométrique des points dont la somme des distances à deux points fixes est constante. L'ellipse n'est pas une réalité contingente, empirique, elle est le produit de la définition de l'ellipse. Aussi a-t-on pu dire que « si la définition empirique n'est qu'une copie, la définition mathématique est un modèle ». Le monde mathématique est le seul monde qui soit rigoureusement intelligible, parce qu'il est le seul monde créé par la raison humaine ; le rapport du mathématicien aux êtres mathématiques est très exactement celui d'un Dieu à ses créatures. En ce sens, les mathématiques seraient bien la seule science où l’on sait très exactement de quoi on parle et où l'on peut dire que ce que l’on avance est rigoureusement vrai. Russell lui-même semble en convenir ailleurs puisqu'il considère - dans son Essai sur le Mysticisme et la Logique que les mathématiques « constituent un édifice de vérité qui reste ferme devant les arguments, du scepticisme cynique ». Quel peut donc être le sens qu'il donne à la boutade qui est proposée à notre réflexion ?
Lorsque Russell soutient que le mathématicien « ne sait pas de quoi il parle » il veut tout simplement nous rappeler le caractère abstrait et symbolique de la pensée mathématique. Celui-ci apparaît déjà au niveau de l'arithmétique du cours élémentaire. Il est bien clair qu'on peut poser et résoudre une multiplication telle 3 x 48 sans préciser s'il s'agit de trois étapes longues de 48 kilomètres ou de trois cahiers à 48 centimes. On pourrait d'ailleurs ignorer ce que sont les cahiers et les centimes, les kilomètres et les étapes et effectuer très correctement cette opération. Les opérations algébriques constituent par rapport à l'arithmétique un nouveau degré d'abstraction : les nombres arithmétiques qui symbolisaient la multiplicité concrète voient à leur tour leurs relations symbolisées par des lettres. Une expression telle que 3x=2y est vraie si y=6 et x=4 mais également vraie si x=12 et si y=18.
Le symbolisme mathématique est d'ailleurs plutôt une incitation à opérer qu'une façon de représenter des réalités concrètes. Le nombre zéro par exemple ne « parle » d'aucune réalité, il ne représente rien ; mais il a une grande portée opératoire, il indique dans notre système de numération (les unités à droite, à gauche les dizaines, encore à gauche les centaines) qu'une colonne est vide. Au lieu d'écrire comme les Romains CIII, j'écris 103, je vois tout de suite que la colonne des dizaines est vide et je puis pratiquer très aisément toutes opérations d'addition, de soustraction, de multiplication. La généralisation de la notion de nombre, véritable défi à toute conception réaliste des mathématiques, répond parfaitement à leur vocation opératoire. Le nombre négatif ne saurait s'abstraire de rien de sensible puisqu'il correspond à quelque chose d'inexistant. Ce sont des opérations économiques (dettes) ou géométriques (inversion de direction) qu'il symbolise. Quant aux nombres imaginaires (i=√(-1)) dont le nom même est assez évocateur, ils ont été inventés pour donner la possibilité d'une solution à des équations telles que x2 + x + 1 = 0. Ils constituent un schéma d'une opération sans objet ».
D’autre part, si les propositions mathématiques sont rigoureusement démontrées, leur vérité est cependant relative à un système d'axiomes, c'est-à-dire, selon le Vocabulaire technique et critique de la philosophie de Lalande, de « propositions qui ne se déduisent pas d'une autre mais qu'on pose par un acte décisoire de l'esprit au début de la déduction ». En ce sens la formule étonnante de Russell : « le mathématicien ne sait pas si ce qu'il dit est vrai » exprime très fidèlement l’esprit des mathématiques modernes. La somme des angles du triangle vaut-elle deux droits ? Je ne peux pas répondre oui on non dans l'absolu. Cette proposition est vraie si j'adopte le postulat euclidien des parallèles ; elle est fausse si j'adopte les postulats non euclidiens. Il n'y a plus pour les théorèmes de vérité séparée, leur vérité c'est simplement leur intégration au système et c'est pourquoi des théorèmes incompatibles entre eux peuvent être également vrais pourvu qu'on les rapporte à des systèmes différents. L'édifice tout entier des mathématiques apparaît donc comme un système de propositions rigoureusement déduit d'un système de conventions. Le mathématicien ne, semble donc avoir affaire qu'à des principes qu'il a lui-même posés, et qu'aux enchaînements logiques de sa propre pensée. Son univers, œuvre du pur esprit, mais sans relation apparente avec le monde des choses, est donc tout à la fois - selon le point de vue qu'on voudra bien adopter - le plus satisfaisant pour l'intelligence et en même temps le plus vide et le plus futile.
La formule de Russell illustre donc fort bien ce que l'on nomme aujourd'hui la conception « formaliste » des mathématiques. Les êtres mathématiques n'appartiendraient pas au monde réel. La vérité mathématique, vérité purement formelle, accord de l’esprit avec ses propres conventions, serait étrangère à toute réalité empirique : le choix des axiomes ne serait dirigé que par des règles de cohérence interne, celles-là mêmes qu'à explicitées Hilbert. D’abord, il faut que les axiomes soient compatibles, c’est-à-dire qu'ils ne soient pas en contradiction les uns avec les autres. Ensuite, il faut qu’ils soient indépendants : aucun d’eux ne doit pouvoir se déduire des autres sans quoi ce ne serait plus un axiome mais un théorème. Enfin, il faut que les axiomes d’un système soient suffisants : il faut recenser tous les axiomes et les seuls axiomes qui sont nécessaires aux théorèmes énoncés dans un système. Les mathématiques seraient donc entièrement absorbées dans la logique formelle : elles se confondraient avec cette logique symbolique qu’on appelle « logistique », qui déroule à l’infini ses jeux abstraits à partir d’un système de signes et de leur mode d’emploi. Toute axiomatique qui répond aux conditions de validité interne énoncées ci-dessus est, de droit, acceptable. Aucune considération extrinsèque ne saurait dés lors faire prévaloir une axiomatique sur une autre. C'est ce qu’exprimait assez drôlement Carnap en déclarant qu’en logique il n’y a pas de morale.
Autant dire que les mathématiques sont un simple jeu, au même titre que les jeux de cartes, de dames, d’échecs. Les mathématiques ne nous instruiraient pas plus sur le monde réel que l’étude des mouvements du cavalier aux échecs ne nous renseigne sur l’équitation.
Toutefois, cette conception formaliste des mathématiques ne saurait entièrement nous satisfaire. Elle ne saurait rendre compte ni des humbles origines de l'activité mathématique, ni de la merveilleuse utilisation de ses résultats par l’astronome, par le physicien, par l’ingénieur. Les succès du formalisme ne doivent pas nous faire oublier qu’il y a un complément d’objet direct au verbe formaliser.
Le formalisme s'efforce de formaliser une activité opératoire d'abord concrète et plus ou moins intuitive ; la notion de nombre, par exemple, a pour origine l'opération d'additionner, opération d'abord concrète dont les fondements sont intuitifs.
Poincaré a souligné avec humour que les logisticiens ne sont jamais parvenus à donner une définition axiomatique des nombres qui n'en présuppose pas l'intuition. Dire que « zéro est le nombre des éléments de classe nulle, la classe nulle étant celle qui ne contient aucun élément », c'est « définir zéro par nul et nul par aucun. Ce qui est vraiment abuser des richesses de la langue française »! L'abstraction mathématique semble donc renvoyer à des activités opératoires originairement concrètes. Les structures abstraites qu'elle construit par la suite ne semblent jamais vraiment coupées du monde puisqu'elles servent après coup à schématiser le réel. Descartes utilise l'antique trigonométrie pour exprimer les lois de l'optique, Galilée utilise l’algèbre pour exprimer la chute des corps, Kepler découvre que la géométrie de l'ellipse semble préparée d'avance pour les descriptions des mouvements planétaires.
Il n'est pas jusqu'à la géométrie de Riemann - si loin du réel en apparence - qui ne soit utilisable (on sait l'emploi qu'en fait la physique relativiste contemporaine). L'activité mathématique est donc bien plus qu'un jeu cohérent : elle met au jour des structures intelligibles qui ne sont pas une invention gratuite de l'esprit humain, et qui paraissent avoir présidé à l'organisation même de l'univers.
Les mathématiques parleraient-elles le langage étrange de l’univers ? Est-ce pour cette raison qu’elles semblent ne pas savoir ce dont elle parle, ni si ce qu’elle dit est vrai ?
« Ce qu’il y a d’incompréhensible, c’est que le monde est compréhensible. »
Albert Einstein