Auteur: Serge Boisse
Date: Le 27/03/2023 à 13:03
Type: web/MOC
Tags: maths,fondations,système-formel,ensembles,théorie
pub: oui
commentaires: ouiCopier

Théorie des ensembles, système ZF et antifondation

Système formel

Pour faire des mathématiques "proprement" il faut pouvoir faire des démonstrations. Pour cela, il faut disposer d'un système formel.
Un SF, c'est un système logique qui va permettre de produire des théorèmes. Cela consiste en un ensemble d'axiomes qui sont supposés être des théorèmes vrais "intuitivement", plus un ensemble de règles typographiques qui permettent de déduire de nouveaux théorèmes des axiomes.

 En pratique, les mathématiciens n'utilisent pas vraiment les systèmes formels, qui sont jugés trop "mécaniques", et dans lequel les démonstrations sont très longues en général. Il leur suffit de savoir "qu'en principe", tout démonstration qui est publiée dans un article de maths pourrait être démontrée dans le cadre d'un système formel adéquat. Cependant les logiciens et les mathématiciens "formalistes" soutiennent que pour être rigoureux il FAUT utiliser une système formel. Le travail "intuitif" du mathématiciens consiste à chercher des nouvelles structures et des conjectures, ainsi que des idées pour les démontrer. Mais toute démonstration doit faire référence à un système formel.

Dans un système formel, bien que cela ne soit pas strictement parlant  nécessaire, on cherche par "élégance" à minimiser le nombre d'axiomes, c'est à dire à avoir des axiomes qui soient indépendants logiquement : on ne peut redémontrer ainsi un axiome à partir des autres. C'est le cas des systèmes ZF ou ZFC dont nous allons parler plus loin.

Contrairement à une idée répandue, il n'existe pas de consensus parmi les mathématiciens sur le "bon" système formel, celui qui recouvrirait l'ensemble des mathématiques actuelles. La plupart des mathématiciens cependant estiment que le système formel dit ZF, qui est basé sur la théorie des ensembles est "satisfaisant" dans l'immense majorité des cas. Voilà qui ne semble pas une preuve...

La théorie naïve des ensembles

L'idée de base de cette théorie est un concept très puissant, celui d'ensemble. Un ensemble est une collection d'objets, qui peuvent être eux même des ensembles.  Ces objets sont dits éléments de l'ensemble. On peut distinguer un  élément d'un autre par ses propriétés, qui sont des assertions qui seront vraies pour certains éléments et fausses pour d'autres.

Deux ensembles "naïfs" sont très intuitifs : l'ensemble vide, et l'ensemble Oméga de tous les ensembles.

Malheureusement, le concept naïf d'ensemble s'avère être... trop puissant. Il peut conduire a des paradoxes. Le plus important de ces paradoxes fut explicité par Bertrand Russel en 1903 : considérons l'ensemble PE de tous les ensembles qui ne sont pas éléments d'eux même. L'ensemble PE est-il élément de lui même ?  S'il l'était, il devrait vérifier la propriété caractéristique de ses éléments et donc ne devrait pas être élément de lui même : Contradiction !  Donc cet ensemble PE ne peut pas exister. Ah ? il existe donc des ensembles qui ne peuvent pas exister ? Bigre !

Un autre paradoxe de la théorie "naïve" des ensembles est basé sur un théorème démontré par Georg Cantor en 1899, qui stipule que l'ensemble P(E) des parties d'un ensemble E est toujours plus gros qui lui même ; cela signifie que les éléments de P(E) ne peuvent être mis en correspondance biunivoque avec ceux de l'ensemble E.

Par exemple si E = {1,2,3}, ensemble qui contient 3 éléments,
P(E) = {{},{1},{2},{3},{1,2},{1,3},{2,3},{1,2,3}} qui possède 8 éléments et on a 8 > 3
De même pour un ensemble E infini, P(E) est plus gros que E car on ne peut établir de correspondance biunivoque entre les éléments de E et celui de P(E). Ont dit que E et P(E) n'ont pas a même puissance.

Le paradoxe survient lorsqu'on considère l'ensemble oméga de tous les ensembles : Le théorème de Cantor nous dit que P(Omega) est un ensemble  plus gros qu'oméga, qui est pourtant censé contenir tous les ensembles !

La théorie ZF des ensembles

La solution de ces paradoxes fut proposée par Ernst Zermolo , Abraham Fraenkel et John Von Neumann en 1920 : c'est la théorie dite ZF.

Dans cette théorie on considère que certains collections d'objets définis par leur propriétés sont "trop gros" et ne peuvent pas être appelés "ensembles". La théorie précise soigneusement quelles collections peuvent être considérés comme des ensembles. C'est ce que l'on appelle _la doctrine de limitation de la taille des ensembles.

_Voici les axiomes de la théorie ZF :

• 1. Axiome d'extentionalité : Deux ensembles sont identiques s'ils ont les mêmes éléments.
• 2. Axiome de la réunion :  si E est en ensemble, la réunion des éléments de E constitue encore un ensemble. Par exemple si l'on sait que {{1,2},{3,4,5}} est un ensemble (à deux éléments), on en déduit l'existence de l'ensemble {1,2,3,4,5}
• 3. axiome de l'ensemble des parties : Si E est un ensemble, le regroupement des parties de E est encore un ensemble.
• 4. Axiome de compréhension : si Q(x) est une propriété et E un ensemble, alors le regroupement des objets x de E qui vérifient la propriété Q(x) est encore un ensemble.  Notons que cet axiome permet de définir un ensemble à partir d'une propriété, mais seulement si les éléments appartiennent déjà à un autre ensemble : cela évite la définition d'ensembles trop gros et évite les deux paradoxes cités ci dessus. L'ensemble naïf de tous les ensembles n'est pas un ensemble de la théorie ZF !
• 5. Axiome de remplacement : Si, pour tout objet x d'un ensemble E, il existe un seul objet y tel que la propriété R(x,y) soit vraie, alors le regroupement des objets y associés aux x de E est un ensemble. Cet axiome permet de démontrer la propriété de paire : si A et B sont des ensembles, alors {A,B} est un ensemble.
• 6. axiome de l'infini : il existe un ensemble infini, c'est à dire par définition un ensemble qui comporte un sous ensemble différent de lui-même et aussi gros que lui-même.
• 7. axiome de fondation : il n'existe pas de chaînes infinies descendantes d'ensembles (Xn) tel que ...Xn+1 appartient à Xn .... appartient à X1, appartient à X0. En particulier cet axiome évite l'existence d'un ensemble X qui appartienne à X. Plus précisément, l'axiome de fondation précise que tout ensemble non vide contient un autre ensemble dont l'intersection avec le premier ensemble est vide.

Ces axiomes constituent la théorie ZF. Elle permet de démontrer l'existence de l'ensemble vide {}, et de considérer tout objet mathématique comme un ensemble. Par exemple l'ensemble des entiers natures N ={1,2,3,4,...} peut être défini par :

0 = {}  
1= {0} = {{}}  
2={0,1} = {{},{0}} = {{},{{}}}  
3={0,1,2}  
etc.  
Copier

On construira ensuite l'ensemble Q des rationnels à partir de N, puis l'ensemble R des nombres réels à partir de Q. Ces constructions successives sont fascinantes et parfois contre intuitives, mais je n'en parlerai pas plus ici.

L'axiome du choix

On peut ajouter à ZF un huitième axiome, l'axiome du choix, pour constituer alors la théorie dite ZF+C ou ZFC:

•  Axiome du choix : si E est un ensemble d'ensembles non vide, on peut construire un ensemble F en choisissant un élément de chaque ensemble appartenant à E. Par exemple si E = {{1,2,3},{a,b},{x,y}} alors on peut constituer l'ensemble F={1,b,x} par exemple.

Cet axiome qui peut sembler "évident" pose des problèmes lorsqu'on l'applique à des ensembles infinis : par exemple on peut alors démontrer que tout ensemble infini possède un "bon ordre", c'est à dire un ordre tel que toute partie de l'ensemble possède un plus petit élément. Le problème c'est que la démonstration affirme simplement l'existence d'un tel bon ordre, sans préciser aucunement comment on peut le trouver. Or on n'a jamais pu expliciter un tel "bon ordre" sur l'ensemble des nombre réels R entre autres : par exemple pour la relation d'ordre usuelle "<",  l'intervalle réel demi ouvert ]0,1] ne possède pas de plus petit élément. C'est pourquoi les mathématiciens expriment généralement  leurs démonstrations en choisissant entre ZF ou ZFC. On est loin de l'idée naïve des ensembles !

Les mathématiciens sont généralement des réalistes, c'est à dire qu'ils considèrent que les mathématiques "existent" quelque part et qu'ils ne font que les découvrir. Selon un tel point de vue il existe une théorie "naturelle" des "vrais ensembles" qui soit intuitive et acceptable par tous. Or ZF ou ZFC , avec la doctrine de limitation de taille, qui semble bien artificielle et conçue uniquement pour éliminer des paradoxes, empêche de considérer comme des ensembles des choses (comme l'ensemble de tous les ensembles) que l'intuition nous porterait quand même à considérer comme des ensembles. Il semblent que nous soyons enfermés dans un piège logique, et cela n'est pas très satisfaisant...

Antifondation

L'axiome 7, axiome de fondation, pose aussi des problèmes. Introduit par Von Neumannn en 1925, cet axiome limite en fait une seconde fois la taille des ensembles : avec cet axiomes, les ensembles qui appartiennent à eux même, à l'origine du paradoxe de Russel, sont une seconde fois exclu.

Le plus étrange, c'est que l'axiome de fondation n'est jamais utilisé par les mathématiciens. Ils utilisent tous les autres axiomes, mais pas celui là.

D'où l'idée proposée par P. Aczel et M. Forti et F. Honsel de supprimer l'axiome de fondation et de le replacer par un axiome d'antifondation : selon ce nouvel axiome, de même qu'on a introduit les nombres complexes en acceptant lidée qu'il existait un nombre dont le carré soit -1, il faut accepter l'idée que les emsembles peuvent apprtenir à eux même ou même à une partie d'eux même.

Selon l'axiome d'antifondation AFA, des équations logiques comme oméga={oméga}, ou F={0,{F},1} définissent des ensembles.

De même un système d'équation comme :

Z1={Z2,1}, Z2={Z3}, Z3={Z4,2}, Z4={Z1}

Définit quatre "ensembles" qui ont tout à fait droit à l'existence.

De même il existe un ensemble infiniment profond
{0 {1 {2 {3 {4... }}}}}.

De tels ensembles, tels qu'une partie d'eux même les contiennent, sont appellés des  hyperensembles

P. Aczel a démontré que si ZF-F+AFA (ZF moins l'axiome de fondation et augmentée de l'axiome d'antifondation) et ZF sont relativement consistantes, c'est à dire que si la théorie ZF est consistante alors ZF+AFA l'est et réciproquement. On obtient donc une théorie des ensemble qui semble tout aussi valide logiquement que la théorie ZF "standard".

Cette théorie est-elle utile ? Oui : Par exemple en informatique théorique, elle permet une modélisation simple de la notion de pointeur. En logique, elle permet de traiter des phrases autoréférentielles comme la célébre phrase du menteur :  "je mens" ou "cette phrase est fausse", qui peut ainsi être modélisée par l'hyperensemble M={faux, {M}. Les hyperensembles peuent êgalement être utilisés pour modéliser les situations de logique modale : "je sais que tu sais que je sais que P", ou dans la théorie des jeux, comme le bridge, où l'on doit prendre en compte les croyances d'un autre joueur, ses croyances sur nos croyances, etc.

Notons que le premier axiome de ZF (Axiome d'extentionalité), "deux ensembles sont égaux s'ils ont les mêmes éléments" pose des problèmes avec AFA : en effet par exemple avec  les deux hyperensembles A et B définis par A={1,A} et B={1,B}, cet axiome nous dit que A = B si et seulement si A = B, ce qui n'est pas très utile ! Pourtant les deux ensembles sont bien égaux car ils ont le même graphe.

Ceci  suggère qu'une nouvelle théorie des ensembles est possible...