La Théorie de Galois : un paradigme de méta-analyse ?

A l'écoute : Air Hadouk de Hadouk Trio

Evariste Galois fut un jeune homme doué mais sa courte existence (1811-1832) ne lui laissa pas la possibilité d'une reconnaissance digne de son intelligence. Il s'intéressa aux mathématiques lorsqu'il rencontra cette discipline au Lycée Louis le Grand de Paris, et notamment à la théorie des équations de JL Lagrange (Traité de Résolution des équations numériques et notes sur Théorie des équations algébriques ) ainsi qu'aux Elements de Géométrie de AM Legendre (essais de formalisation de cette discipline).
Mais les travaux de E Galois ne furent pas reconnus par ses contemporains de son vivant, il fut recalé deux fois à l'entrée de Polytechnique et fut  renvoyé de l'Ecole Normale pour ses opinions politiques.

Sa pensée fut pourtant non seulement originale, mais audacieuse et très en avance pour son époque. Ses formalisations sur la résolution des équations algébriques ont fini par porter le nom de "Théorie de Galois" et selon A Connes " l'influence de ses idées n'a jamais faibli, de Sophus Lie à Grothendieck en passant par Emile Picard, la pensée de Galois se reflète indéfiniment chez les mathématiciens et brille, hors du temps, d'un éclat et d'une vigueur difficiles à égaler."

Il n'est pas dans mon propos ici de détailler ces "reflets" et ces influences en mathématiques. Je laisse le soin au lecteur curieux d'introduire ce sujet par la lecture attentive du texte de A. Connes sur "La Pensée d'Evariste Galois et le Formalisme Moderne".

Je souhaite juste, en revanche, faire partager la portée méta-mathématique de la théorie de Galois, car cette dernière peut aussi bien s'appréhender dans les sciences non mathématiques (par la notion de symétrie et de brisure de symétrie utilisée en physique ou en biologie) qu'en philosophie et en épistémologie. C'est, une fois de plus, N. Lygéros, qui m'inspire ici, avec son court mais dense texte sur "l'Esprit Galoisien".

Pour NL, E Galois "affirme l’inexistence d’un algorithme général de résolution." Mais la curiosité du jeune homme ne s'arrête pas là et "Il adopte donc un autre point de vue qui consiste à explorer le possible et non le général. Ainsi il ne recherche pas une méthode générale mais une méta-méthode générale."
C. Ehrhardt dans son article E Galois : un candidat à l'école préparatoire en 1829,souligne d'ailleurs, avec moins d'emphase peut-être mais plus longuement, que "la concision de la démarche [mathématique] de Galois consiste à prévoir les transformations algébriques au lieu de les effectuer.". Et puis, plus loin, relate : "En outre, la doctrine qu'il baptise « l'analyse de l'analyse » relève également de la dialectique théorie-applications, mais en se plaçant à un degré d'abstraction supérieur : il s'agit, finalement, d'appliquer des résultats théoriques généraux pour obtenir des résultats théoriques plus particuliers."

L'analyse de l'analyse est une méta-méthode qui déplace l'invariant étudié. En l'espèce, la résolution des équations algébriques passe par le calcul des racines qui, au fur et à mesure de l'ordre atteint, devient un algorithme compliqué. Les équations du second degré sont résolubles depuis l'antiquité, celles du troisième et quatrième degré depuis G Cardano en 1545. Mais s'impose alors une méthode efficace : celle de la résolution par radicaux qui consiste en une permutation de variables et qui considère in fine que le problème inconnu peut être décomposé en plusieurs problèmes connus : ainsi pour résoudre une équation du quatrième degré on résout une équation du troisième avec des variables ad hoc et résoudre cette dernière revient également à résoudre une ou des  équations du second degré. On voit ici, l'élaboration sur un temps assez long, par des mathématiciens successifs, d'une méthodologie dont l'objectif est clairement la résolution, c'est à dire l'obtention des racines d'une équation polynomiale. On voit ici que cette méthodologie fait découvrir des cas particuliers (nommées "résolvantes"): ainsi Lagrange utilise une certaine forme de permutation quand Descartes en utilise une autre. Ces résolvantes fournissent cependant, comme l'écrit A Connes dans Symétries (très bel article de vulgarisation) "la clef de toutes les résolutions générales par radicaux".
Généraliser cette méthodologie revient à envisager, pour le même objectif, de s'intéresser à un polynôme de degré n quelconque et donc de découvrir le cas général de résolution par radicaux. Ce travail s'est révélé être une impasse.

La deuxième voie, alors, qui s'offre au mathématicien est, analogue à la démarche abductive de Grothendieck, de trouver d'autres méthodes de résolution des équations algébriques d'ordre n, plus générales et qui contiendraient comme cas particulier le cas général de résolution par radicaux. Mais, comme nous l'avons déjà vu dans de l'Ouvert à la Systémique, la démarche heuristique de Grothendieck, rapportée par N Lygéros, ne permet pas toujours d'obtenir une "solution" générale à un problème général. Cette voie, pour la résolution des équations algébriques, n'a rien donné. C'est NH Abel, contemporain de E Galois, qui prouve l'impossibilité de résolution par radicaux d'une équation de cinquième degré et qui amorce le cas général.

La "troisième" voie est alors trouvée par E Galois lorsque ce dernier, par un raisonnement non uniforme, déplace l'invariant de ses recherches en intégrant une abstraction différente. Sa position heuristique est dite en "méta" car il change d'objectif : ce n'est plus la résolution des équations qu'il cible mais la résolution des méthodologies de résolution des équations algébriques : il change de niveau ! Dit autrement, les mathématiciens d'alors s'intéressaient in fine aux relations entre les "structures" (les monômes composant les équations polynomiales) quand E Galois change de niveau et se concentre sur les relations aux relations entre les "structures". Ainsi, en l'espèce, il pose sa théorie de manière simple et lumineuse en cherchant à définir les bijections pouvant exister entre les fonctionnelles des racines d'une équation générique : il s'agit bien ici de définir les relations (bijections) pouvant exister entre les relations (fonctionnelles) des "structures" (racines des équations polynômiales). Ce faisant, E Galois définit un groupe contenant l'ensemble des transformations laissant les relations entre les racines invariantes (groupe de permutations). Sa définition étant très générale, il prouve que le groupe est indépendant des fonctionnelles choisies au préalable pour le construire : ainsi son heuristique est générique. Le jeune mathématicien a ouvert une voie qui restera à la postérité car il a formalisé un changement de niveau, en implémentant une discontinuité dans son heuristique, il a de fait ouvert un espace considérable, de "haut" niveau d'abstraction. Cette démarche a créé une complexité, elle a fait émerger une entité, un concept qui ne pouvait se déduire de la somme des parties préexistantes. Le plus "drôle" dans sa démarche est que E Galois a prouvé par sa théorie l'inexistence d'un algorithme général de résolution des équations algébriques : il a ainsi "fermé" à jamais un champ d'études, tout en en ouvrant un autre, plus abstrait, plus général, plus vaste, plus prometteur.

Cette troisième "voie" dont je parle ici n'est pas à confondre avec une voie "médiane" ou une sorte de synthèse (au sens de Hegel) qui dissout le problème traité, d'autant plus qu'en l'espèce E Galois conclue à une impossibilité, or impossibilité n'est pas dissolution ! Cette troisième voie serait  en revanche à rapprocher du concept de niveau de réalité de B Nicolescu (voir Tiers-Inclus : Logique, Ontologique..) voire au  niveau II de G Bateson (méta-communication et méta-apprentissage : le sujet entretient une relation avec le contexte et non plus seulement avec l'objet ou l'expérience).
Cette troisième voie est bien une recherche (une heuristique) incluant un raisonnement non uniforme, donc une discontinuité, sur une relation de relation générique (définissant ainsi une position méta^n, en toute généralité, comme le niveau de réalité de B Nicolescu définit par itération l'objet et le sujet transdisciplinaires isomorphes entre eux). Ainsi, comme l'écrit N Lygéros, cette approche exploite l'existence du théorème d'incomplétude de Gödel en réalisant une holistique. La position "méta"  serait une position ouverte indéfiniment.
Mais, ici, par rapport à la théorie de Galois, je vais un pas trop loin car le jeune mathématicien a défini un type de groupe en rapport avec l'étude de son problème sans avoir le temps (gageons que sa vie aurait été plus longue, il aurait pu étudier plus en avant les mathématiques...) de généraliser cette notion. (la notion d'automorphisme généralise le concept de Groupe de Galois, par exemple.).

Cette position "méta" permet ainsi, en toute généricité, en changeant de niveau de compréhension d'un problème donné, d'échafauder un espace contenant le contexte du problème et ainsi d'espérer le résoudre. Pour exister, la position méta nécessite une itération dans un espace indéfectiblement ouvert : la positon méta est donc en toute logique isomorphe à une position générique méta^n, selon un principe de relativité ad hoc....
Il est essentiel selon moi, de comprendre cette dernière assertion sur la notion de position "méta" car expérimenter le méta dans un cas particulier est un apprentissage, certes, mais qui ne doit jamais faire oublier que cet expérientiel n'est QU'UN cas particulier de la position méta isomorphe au concept "méta^n", c'est à dire, dit autrement, que la position méta ne peut être, par ce principe de relativité, que générique et indéfiniment générique. En gros, celui qui prétend faire l'expérience de la position méta a t il saisi l'infiniment ouvert de sa démarche ou bien se contente t il du premier ou du deuxième ou même du troisième changement de niveau atteint ? Sa démarche, sa posture, son heuristique, est elle réellement indéfectiblement ouverte, i.e. contient elle en substance le principe d'incomplétude ou bien est elle, en toute "innocence" certainement, en réalité "fermée" à un référentiel qui se voudrait "cadre ouvert" ? Car nous voyons bien la différence essentielle entre "être ouvert" et "être fermé dans un cadre dit ouvert" !

En tout état de cause, E Galois fut un mathématicien très "éclairé" et très éclairant par sa démarche !