au sommaire
La solution du paradoxe de la réflexivité, proposée par Bolzano et rendue parfaitement claire par le développement ultérieur de la théorie des ensembles en termes modernes, s'énonce ainsi : la relation « est contenu dans » entre ensembles ne doit pas être confondue avec la relation « avoir une taille plus petite que » ; les nombres carrés sont contenus dans les nombres entiers, mais comme totalité ils ont même taille. Il est bien vrai que si l'ensemble A est contenu dans l'ensemble B, alors la taille de A est inférieure ou égale à celle de B, mais elle peut être égale.
Symbole de l'infini. © Calmara, Fotolia
Le mathématicien Leopold Kronecker a notamment retardé la parution de certains travaux de Cantor dans le Journal de Crelle. © Belin
Au lieu de « taille », on emploie souvent le terme technique de « cardinal », mais c'est sans importance, l'idée unique de la solution du paradoxe est d'admettre qu'un ensemble A strictement contenu dans un ensemble B a parfois la même taille. Il faut accepter ce qui paraissait paradoxal et décréter que ça ne l'est plus par une opération de dédoublement de concept : « être contenu dans » n'est pas « avoir une taille plus petite que ».
Ce pas franchi, n'allons-nous pas tomber sur des contradictions qui conduiraient à une mathématique inconsistante, et donc intenable ? Le jeu en vaut certainement la chandelle, mais il n'est pas facile à mener et ce sont d'autres que Bolzano qui le joueront, car, il faut bien le dire, Bolzano, comme essoufflé par l'audace de sa proposition initiale, ne mène pas le développement mathématique qu'elle appelle pourtant. L'exploration mathématique de l'algèbre des bijections sera longue et tortueuse, et Bolzano inaugure une période d'instabilité grave et de controverses parfois acerbes. Le travail principal sera fait par le mathématicienmathématicien allemand Georg CantorGeorg Cantor (1845-1918), qui découvrira de nombreuses propriétés des tailles d'ensembles infinis qui lui sembleront souvent à la limite du paradoxe. Cantor distinguera les tailles des ensembles. Si le contraire avait été vrai (c'est-à-dire si chaque ensemble infini avait pu être mis en bijection avec chaque autre), la théorie de la taille des ensembles infinis aurait singulièrement manqué d'intérêt ! Cantor s'aperçoit, en 1874, que l'ensemble des nombres réels ne peut pas être mis en bijection avec l'ensemble des nombres entiers : il est de taille strictement plus grande. Le raisonnement diagonal que Cantor découvre en simplifiant son raisonnement de 1874 sera le prototype même du raisonnement permettant de démontrer des résultats d'impossibilité en mathématiques. Dans ce théorème, on suppose que ce qu'on veut établir est faux (ici, qu'il existe une bijection entre l'ensemble ℕ des entiers et l'ensemble ℝ des réels), puis on joue sur la diagonale du tableau qu'elle définit (le i-ème chiffre du nombre réel f(i)), et l'on déduit une contradiction.
Le paradoxe de Russell est un paradoxe de la théorie des ensembles qui a joué un rôle important dans sa formalisation. © Belin
Mieux (ou pire !), Cantor montre, toujours par un raisonnement diagonal, qu'il existe une infinité de tailles possibles différentes pour les ensembles infinis. Plus précisément, un ensemble E ne peut jamais être mis en bijection avec l'ensemble de ses parties, noté P(E). L'ensemble P(ℕ) des parties de ℕ (qui est composé de l'ensemble des nombres pairs, de l'ensemble des nombres premiers, etc.) ne peut pas être mis en bijection avec ℕ. De même, l'ensemble P(P(ℕ)) (ensemble des parties de l'ensemble P(ℕ)) ne peut pas être mis en bijection avec P(ℕ) ; etc.
Ces résultats constituent une première avancée dans la compréhension de l'infini actuel et la preuve que ce qu'on découvre est digne d'intérêt : les résultats construisent une hiérarchie des totalités infinies où l'esprit trouve ses repères. Ces premiers résultats ne sont pas sans soulever réprobations et critiques. Le célèbre mathématicien Kronecker est particulièrement sévère et il bloquera un manuscrit de Cantor en en retardant la parution dans le Journal de Crelle, l'un des plus prestigieux journaux de mathématique, auquel Cantor refusera par la suite de proposer ses travaux.
