Chapitre V.
L’algèbre ^a 🔗

1. Nombreux sont les historiens de la mathématique qui font remonter les origines de l’algèbre jusqu’à divers peuples de l’Antiquité : les Assyriens, les Babyloniens, les Égyptiens… D’autres, avec un esprit plus critique, en situent le point de départ à l’école d’Alexandrie. Diophante est généralement considéré comme le premier à avoir formulé des problèmes d’arithmétique en des termes symboliques, à avoir introduit les « valeurs indéterminées » représentées non par des chiffres mais par des lettres, pour exprimer de manière générale les quantités spécifiques qui apparaissent comme les inconnues des équations qui conduisent à la solution des problèmes proposés.

Cette interprétation historique s’est toujours révélée peu satisfaisante. D’une part, il est clair que les difficultés que les Grecs affrontèrent pour résoudre de nombreux problèmes géométriques ne s’expliquent que par la carence d’une algèbre qui leur aurait permis de formuler ces [p. 166] problèmes en termes d’opérations. D’autre part, il est difficile d’expliquer l’éclipse presque totale d’une science qui ne ressurgit qu’en plein xvi^e siècle.

Dans l’interprétation à laquelle nous avons fait allusion, Viète apparaît comme un homme de la Renaissance au sens strict du terme. Son « retour aux sources grecques » lui aurait permis de reprendre la science de Diophante, et simplement de la perfectionner, pour en faire le point de départ de l’algèbre de l’époque moderne. Dans une interprétation de ce type, le rôle qu’ont joué les Arabes reste cependant peu clair, en dehors de l’introduction d’une notation plus adéquate des opérations arithmétiques, de l’apport du concept de zéro comme nombre (concept importé de l’Inde), et de l’emploi généralisé de lettres pour la représentation de quantités « indéterminées ». Dans ce contexte, l’œuvre de Viète serait celle d’un érudit, une œuvre de systématisation, plus que celle d’un créateur et d’un révolutionnaire sur le plan scientifique.

Le panorama que nous venons de décrire a subi des modifications fondamentales à partir du livre de Jacob Klein, publié en Allemagne en 1934 sous le titre Die griechische Logistik und die Entstehung der Algebra, mais dont l’impact principal s’est manifesté lors de la publication de sa version anglaise en 1968 ¹.

J. Klein apporte une profonde réinterprétation des œuvres de Diophante et de Viète, sur la base d’une analyse érudite de la pensée grecque et du sens de la « nouvelle science » qui se développe aux xvi^e et xvii^e siècles.

L’étude minutieuse de J. Klein nous a permis de situer les origines de l’algèbre à l’intérieur du schéma général des mécanismes que nous avons trouvés dans le développement d’autres branches de la mathématique et de la physique, ainsi que des étapes plus récentes de l’algèbre elle-même. Son chapitre « De la différence entre les conceptualisations ancienne et moderne » fournit les éléments sur la base desquels notre propre interprétation se trouve solidement fondée, de manière cohérente, avec les autres chapitres. [p. 167] Nous commencerons donc par une exposition succincte de la position de Klein, que nous partageons entièrement quoiqu’elle nous semble requérir cependant une explication épistémologique complémentaire.

Le point de clivage entre Diophante et Viète — point qui, une fois reconnu en tant que tel, donne son sens à toute la réinterprétation historique à laquelle nous nous référons — s’établit sur la différenciation qu’il faut faire dans leur emploi des symboles mathématiques. Le caractère algébrique attribué à l’Arithmétique de Diophante se base sur l’utilisation de divers signes et abréviations se référant particulièrement aux inconnues des équations, et qu’on a couramment interprétés comme un symbolisme algébrique. Or, il est clair que la simple utilisation de lettres pour représenter des nombres ou des entités géométriques ne confère pas un caractère symbolique au traitement du problème. Euclide, et même avant lui Archytas, ont employé de telles représentations. À ce propos, Klein cite l’avis de Tannery : « La lettre remplace bien un nombre quelconque […], mais seulement là où ce nombre est supposé placé ; elle n’en symbolise pas la valeur et ne se prête pas aux opérations. » Et Klein ajoute : « Aristote, lui aussi, a fait usage de telles lettres mathématiques, par exemple dans la Physique et dans Du Ciel, et il les a même introduites dans ses investigations logiques et éthiques. Mais une telle lettre n’est jamais un “symbole” dans le sens où ce qui est signifié par le symbole est en lui-même un “objet général”. »

C’est seulement à partir du xvi^e siècle que l’emploi de lettres va avoir un caractère symbolique. Quand on attribue à Diophante l’invention de l’algèbre (ou aux prédécesseurs dont il serait le compilateur), on prend parti, explicitement ou implicitement, sur le caractère symbolique de ses méthodes de résolution des problèmes mathématiques.

Le fait que Diophante parle de problèmes « généraux » et d’une solution « générale » pourrait en étayer l’interprétation classique. Néanmoins, la réinterprétation de Klein remet en question le caractère symbolique — au sens algébrique du terme — qu’on pourrait attribuer à ces expressions. Il introduit à cet égard une distinction fondamentale entre la « généralité de la méthode » et la « généralité de l’objet d’investigation ». Citons Klein :

[p. 168] La mathématique ancienne est précisément caractérisée par une tension entre la méthode et l’objet. Les objets en question (figures et courbes géométriques, leurs relations, leurs proportions de grandeurs géométriques commensurables et incommensurables) confèrent à l’enquête sa direction, car ils sont à la fois son point de départ et sa fin. On montre la manière dont ils déterminent la méthode d’enquête en particulier dans le cas des preuves d’« existence », c’est-à-dire des preuves qui démontrent que l’« être » d’un certain objet est possible parce qu’il n’est pas autocontradictoire. Pour les Anciens, le problème de l’applicabilité « générale » d’une méthode est donc celui de la « généralité » des objets mathématiques eux-mêmes, et ils ne peuvent résoudre ce problème qu’en s’appuyant sur une ontologie des objets mathématiques. Par contraste, la mathématique moderne, et par là même l’interprétation moderne de la mathématique ancienne, porte une fois pour toutes son attention sur la méthode comme telle. Elle détermine ses objets en réfléchissant sur la manière dont ces objets deviennent accessibles à travers une méthode générale.

2. Viète reprend une méthodologie caractéristique de la pensée grecque, mais il va lui donner une étendue et une profondeur qui lui permettront de réorganiser l’œuvre de Diophante à un niveau très différent. C’est à notre avis le mérite de J. Klein d’avoir montré avec la minutie d’un érudit en quoi consiste ladite réorganisation et pourquoi Viète doit être considéré comme le véritable fondateur de l’algèbre.

L’Introduction à l’art analytique ² inclut une présentation de ce que Viète appelle « une certaine voie d’inquisition de la vérité » qui serait caractéristique de la mathématique, et dont il attribue la découverte à Platon.

Le nom d’« analyse » donné à cette forme d’investigation proviendrait, selon Viète, de Théon, dont il cite la définition ainsi : « Considérer la chose recherchée comme établie et procéder au moyen de ce qui suit jusqu’à une vérité qui soit incontestée. » Au sens courant du terme, la « synthèse » est un processus qui commence avec « la supposition de ce qui est accepté et par ses conséquences [p. 169] on arrive à la conclusion et à la compréhension de ce qu’on cherche ³ ».

Klein fait remarquer que Pappus avait fourni une explication plus claire de ce double processus d’analyse et de synthèse.

En ce qui concerne l’analyse, Viète reprend aussi une distinction, faite par les Grecs, en deux genres : l’analyse zététique ou théorique et l’analyse poristique ou problématique. Mais il leur ajouté un troisième genre rétique ou exégétique. « Il y a, par conséquent — dit Viète — un art zététique par lequel on trouve l’équation ou la proportion entre la grandeur qui est cherchée et celles qui sont données ; un art poristique par lequel, à partir de l’équation ou de la proportion, on cherche à vérifier le théorème établi ; et un art exégétique par lequel, à partir de l’équation établie ou de la proportion, on découvre la grandeur même que l’on cherche ⁴. »

À ceci suit un passage qui est crucial pour interpréter la « nouveauté » de la position de Viète :

Et certes ce qui appartient à la zététique est établi selon l’art de la logique par syllogismes et enthymèmes, dont les fondements sont ces stipulations (symbola) mêmes par lesquelles on parvient aux équations et aux proportions, stipulations qui doivent être dérivées des notions communes aussi bien que des notions ordonnées selon le pouvoir de l’analyse du théorème. Toutefois, dans l’art zététique la forme de commencer est propre à l’art lui-même, puisque l’art zététique n’exerce pas sa logique sur les nombres — cause du peu d’intérêt des anciens analystes — , mais selon une logistique des espèces qu’il faut introduire d’une manière nouvelle. Cette logistique est beaucoup plus heureuse et puissante que la logistique numérique pour comparer les grandeurs entre elles, une fois que la loi des homogènes a été établie ⁵.

Le fait essentiel dans la formulation de Viète est que le terme de « grandeur » est utilisé dans son sens le plus général. La grandeur cherchée est soit un nombre déterminé, soit une grandeur géométrique spécifique mensurable. Citons Klein :

De là dérive le double nom de cette troisième forme d’analyse dont l’objectif est d’effectuer autant le calcul de grandeurs arithmétiques que la construction de grandeurs [p. 170] géométriques, en partant d’équations canoniques ordonnées ; elle est appelée rétique par rapport aux nombres auxquels elle conduit et qui peuvent être exprimés par les noms ordinaires des nombres de notre langage ; elle est appelée exégétique par rapport aux grandeurs géométriques qu’elle considère comme directement présentes à notre vue.

Comme le fait remarquer Klein, deux lignes indépendantes convergent là : l’analyse géométrique de Pappus et les méthodes arithmétiques de Diophante. La « nouvelle » algèbre de Viète fut à la fois géométrique et arithmétique. Pour y aboutir, il fallait atteindre un niveau de généralisation plus haut que celui qui fut accessible aux « anciens ».

Au début du chapitre IV, Viète introduit une nouvelle distinction éclairante : « La logistique numérique (logistice numerosa) est exhibée par les nombres, la logistique spécieuse (logistice speciosa) par les espèces ou formes des choses, par exemple les lettres de l’alphabet ⁶. » Ici le mot clé est « espèces ». La longue étude de Klein réfute, à notre avis de manière concluante, les interprétations courantes, même si elles sont aussi autorisées que celle de Cantor. Sa propre interprétation montre quel est le point crucial de la formulation de Viète. L’importance de ce point justifie une citation in extenso :

Les espèces sont en elles-mêmes des constructions symboliques — c’est-à-dire des constructions dont l’objectivité simplement potentielle est comprise comme une objectivité réelle. Elles sont donc seulement compréhensibles dans le langage du formalisme symbolique, que Viète énonce pleinement pour la première fois en tant que seul capable de représenter l’« invention de la démarche inventive » (finding of finding), à savoir la « zététique ». Avec cet instrument, le plus important de la science naturelle mathématique, la « formule », devient possible mais surtout une nouvelle manière de comprendre, inaccessible aux episteme anciennes, se trouve ainsi ouverte.

Quand nous retournons au concept pythagoricien et platonicien de l’eidos d’un arithmos comme ce qui rend possible pour la première fois l’unité de l’être de chaque nombre, et le comparons au concept d’espèce développé plus haut, il nous est possible de dire que l’indépendance ontologique de l’eidos, après un détour par l’usage instrumental qu’en a fait Diophante, parvient ici à sa réalisation symbolique. Ceci annonce une transformation conceptuelle générale qui s’étend sur toute la science moderne ⁷.

[p. 171] La distinction cruciale faite par Viète, lui permettant ainsi de faire un grand bond en avant et de constituer l’algèbre en tant que nouvelle discipline, est le passage du concept d’« arithmos » à celui de symboles généraux. L’arithmos fait référence immédiatement aux choses ou aux unités tandis que les symboles (lettres) utilisés par Viète renvoient, font référence, directement à la propriété « d’être un nombre », propriété qui appartient à chacun des numéros, et indirectement aux choses ou aux unités dont la « numérosité » est représentée par un nombre. En d’autres termes, les lettres renvoient au concept de « nombre en général ». C’est ce qui est exprimé par Klein dans ces termes, en traitant de la conception de Viète :

The letter sign designates the intentional object of a « second intention » (intentio secunda), namely of a concept which itself directly intends another concept and not a being.

Bien que déjà Eudoxe, Aristote — et plus particulièrement Proclus — aient proclamé un divina ars, qui n’est autre que la théorie générale des proportions, capable d’englober toute la connaissance mathématique dans son ensemble, Viète fait un pas plus loin, pénétrant plus profondément dans le concept de transformation. Ici nous différons de Klein quant à son manque d’insistance sur ce point, à notre avis crucial. Le chapitre V de l’Isagoge, intitulé « Les lois de la zététique » nous semble contenir un aspect absolument essentiel de sa formulation, et, de notre point de vue, sa base épistémologiquement la plus importante. Klein relègue ce chapitre à une référence dans la note 250.

Le chapitre de référence contient les lois de transformation des équations, qui selon Viète sont au nombre de trois : antithèse (le transfert d’un terme, d’un membre de l’équation à l’autre) ; hipobibasme (la réduction du degré de l’équation, en divisant les deux membres par la species commune à tous les termes de l’équation) ; et parabolisme (la division des coefficients d’une équation par une quantité convenue). Ce n’est pas par hasard que Viète conclut ce chapitre par cette observation :

Diophante, dans les livres qu’il a écrits sur l’arithmétique, a exercé la zététique plus subtilement que tout autre. Mais il l’a présentée comme si elle était établie par les nombres, et non aussi par les espèces (dont il s’est toutefois servi), afin que sa subtilité et son habileté soient plus admirées ; puisque [p. 172] ces choses qui apparaissent plus subtiles et plus abstruses à celui qui utilise la logistique numérique (logistes numerosus) sont tout à fait familières et immédiatement évidentes à celui qui utilise la logistique spécieuse (logistes speciosus) ⁸.

Il nous semble que dans ce chapitre se trouve la véritable racine du raisonnement qui consiste à faire abstraction des nombres et à travailler avec des « species ».

Cette interprétation de la raison sous-jacente du « saut » accompli par Viète quand il passe à un autre niveau de généralisation pour fonder sa nouvelle algèbre se trouve explicitée par celui qui se place dans la continuation directe avec cette ligne de pensée : Descartes.

Après Viète et jusqu’à la moitié du xix^e siècle, l’étude de l’algèbre se limite à l’étude des équations algébriques. La méthode de résolution de l’équation de deuxième degré fut découverte par les Hindous avant Viète, quoique les Babyloniens eussent déjà trouvé auparavant des solutions à des équations de ce type. Les équations de troisième et quatrième degrés ne furent résolues que vers la fin du xvi^e siècle ; la dispute entre Tartaglia et Cardan à propos de la découverte de la formule permettant de résoudre les équations de troisième degré est un fait historique bien connu.

Il y aura, pendant longtemps, des tentatives pour trouver des formules permettant de résoudre des équations de degré supérieur à quatre. Or, la seule réussite réelle de cette période concerne la résolution des systèmes d’équations linéaires. On trouve, à la même époque, des solutions algébriques pour certains problèmes particuliers, posés par la géométrie ou par la mécanique. Néanmoins, chaque problème a besoin d’une méthode de résolution qui lui est propre, d’un cheminement particulier. Nous sommes donc, de toute évidence, dans une période correspondant à celle caractérisée comme intraopérationnelle.

Dès lors, n’est pas étonnante l’absence de progrès significatif pendant le xvii^e siècle et la première moitié du xviii^e. L’attention des mathématiciens, pendant ce long intervalle de temps, est centrée sur le nouvel instrument créé par Leibniz et par Newton : le calcul infinitésimal. Cet outil, dans les mains de mathématiciens de la taille de [p. 173] Euler, Lagrange et Gauss, va conduire l’algèbre — pendant la deuxième moitié du xviii^e siècle — à un nouveau palier de son développement. C’est à ce moment qu’on arrive à formuler, à l’intérieur de l’algèbre, des problèmes d’une grande généralité, tel le théorème fondamental de l’algèbre. Pour ce faire, on recourt à des propriétés des fonctions continues et de leurs transformations, prises du calcul infinitésimal. D’après notre définition générale, cette période correspond à une période interopérationnelle. Pendant longtemps ce sont les transformations qui vont dominer l’algèbre, jusqu’à l’émergence de la première structure algébrique, le groupe, celle même qui conduira la théorie des équations algébriques vers son étape transopérationnelle.

La figure clé dans la transition entre l’étape intraopérationnelle et l’étape interopérationnelle est Lagrange. Aux tentatives « empiriques » pour résoudre des équations des divers degrés (propres à l’étape « intra ») sera substituée, chez Lagrange, une question dont la portée est plus générale : quelle était au juste la nature des méthodes de résolution des équations de troisième et quatrième degrés et quelle était au juste la raison de son succès ? Lagrange pensait ainsi pouvoir obtenir des idées lui permettant d’aborder les équations de degré supérieur. Il aboutit à montrer que toutes les méthodes consistent à introduire des fonctions qui transforment l’équation de départ permettant d’aboutir à une équation « réduite ». Le problème ainsi posé revient à trouver le rapport entre les solutions de l’équation réduite et les solutions de l’équation originelle.

Étant arrivé à ce point, il va utiliser une autre idée, très féconde, qui contient déjà, en germe, des idées qui conduiront plus tard à la théorie des groupes : le nombre de valeurs différentes que prend un polynôme lorsqu’on permute les variables de toutes les manières possibles.

Lagrange analyse certaines fonctions des racines d’une équation et démontre que le nombre des valeurs que peut prendre une fonction y des racines x₁, x₂… x_n, quand on permute les x_j de toutes les manières possibles, est un diviseur de n. Ainsi, par exemple, pour une équation de quatrième degré dont les racines sont x₁, x₂, x₃, x₄, la fonction

y = x₁x₂ + x₃x₄

[p. 174] ne prend que trois valeurs différentes quand on permute les racines des vingt-quatre manières possibles. En outre, Lagrange montre que le nombre de valeurs différentes détermine le degré de l’équation réduite qui permet de « résoudre » l’équation donnée.

Ruffini reprendra les idées de Lagrange pour essayer de démontrer l’impossibilité de trouver une solution par radicaux de l’équation générale de cinquième degré. Quoique sa démonstration reste incomplète, le cadre conceptuel à l’intérieur duquel il travaille le place dans un endroit exceptionnel pendant cette période interopérationnelle de l’algèbre, très proche déjà de l’étape suivante, que Galois aura le mérite d’inaugurer.

Ruffini définit les permutations de variables dans une fonction donnée, pour les classifier ensuite en genres. Il est possible de changer la terminologie qu’il utilise, et de la traduire en termes de la théorie de groupes de substitutions. Or, il ne s’agit pas ici simplement d’un changement de terminologie. D’après Ruffini, les permutations sont liées aux valeurs des racines. La classe des permutations qui ne change pas la valeur de la fonction n’a pas, pour lui, de structure. Il conçoit la transformation impliquée dans le passage d’une permutation à une autre, mais il ne conçoit pas la structure dans laquelle cette transformation est, à son tour, impliquée.

De son côté, Cauchy considère les fonctions avec un degré plus grand de généralité : il s’agit de « fonctions de n quantités », mais de telles quantités ne seront pas considérées comme des racines des équations. Il ne s’agit que des lettres qui représentent des quantités.

Cauchy appela permutation l’ordre des lettres. La transition d’une permutation A₁ à une autre A₂ est nommée substitution et il la dénota par :

Ensuite il définira la multiplication de substitutions et la substitution identique, arrivant ainsi à l’introduction de la substitution inverse :

[p. 175] C’est à partir d’ici qu’il va démontrer un certain nombre de théorèmes que nous pouvons considérer comme les antécédents immédiats des théorèmes généraux sur les groupes de substitutions. Toutefois, la structure de groupe, en tant que telle, n’est pas thématisée, ni même explicitée.

Les Recherches arithmétiques de Gauss occupent une place singulière, à l’aboutissement de cette période. Nous faisons référence, en particulier, à la Section cinquième, dont le titre est : Des formes et des équations du second degré ⁹. Bien que Gauss n’étudie les formes quadratiques qu’en rapport avec la solution des équations quadratiques indéterminées, son analyse minutieuse des propriétés de formes quadratiques binaires et ternaires deviendra le thème principal. Non seulement il va s’occuper de classifier les formes en tant que telles, en définissant leurs « ordres » et leurs « types », mais encore il réussira, pour la première fois dans l’histoire des mathématiques, à « composer » des formes entre elles, c’est-à-dire à définir des opérations entre des formes.

Considérons d’abord quelques-unes des définitions générales avant de montrer le genre de problèmes abordés par Gauss. La Section cinquième de ses Recherches arithmétiques commence ainsi :

Nous parlerons surtout dans cette section des fonctions de deux indéterminées de la forme ax² + 2 bxy + cy², où a, b, c sont des nombres entiers donnés, fonctions que nous appellerons formes du second degré, ou simplement formes. Ces recherches nous conduiront à trouver toutes les solutions d’une équation indéterminée quelconque du second degré à deux inconnues, soit qu’on puisse en obtenir la solution en nombres entiers, ou seulement en nombres rationnels (p. 118).

Plus loin dans le texte, il va préciser davantage la définition de forme :

Nous représenterons la forme ax² + 2 bxy + cy² par le symbole (a, b, c), quand il ne s’agira pas des indéterminées x et y. Ainsi cette expression désignera d’une manière indéfinie la somme de trois parties, dont la première est le produit d’un nombre donné a par le carré d’une indéterminée quelconque, la seconde le double du produit de b et de cette indéterminée multipliée par une autre, et la troisième le produit de c par le carré de cette seconde indéterminée. [p. 176] Par exemple, (1, 0, 2) exprimera la somme d’un carré et du double d’un carré (p. 119).

D’autres définitions essentielles sont les suivantes :

Nous dirons qu’un nombre donné est représenté par une forme donnée, si l’on peut trouver pour les indéterminées de cette forme des valeurs qui la rendent égale au nombre donné (p. 119).

Nous appellerons par la suite déterminant de la forme (a, b, c) le nombre b² − ac, dont nous verrons que dépendent en grande partie les propriétés de cette forme (p. 119).

Si la forme F, dont les déterminées sont x, y, peut être changée en un autre F’, dont les indéterminées soient x’, y’, en y substituant x = αx’ + βy’, y = γx’ + δy’, α, β, γ, δ étant des nombres entiers, nous dirons que la première renferme la seconde, ou que la seconde est contenue dans la première » (p. 121). Il montre que :

b’² − a’c’ = (b² − ac) (αδ − βγ)².

Si, de plus, la forme F pouvait être changée en la forme F’ par une transformation semblable, c’est-à-dire, si F’ était contenue sous F et F sous F’, les déterminants seraient égaux et (αδ − βγ)² = 1. Dans ce cas, nous les appellerons formes équivalentes (p. 122).

Nous nommerons la substitution transformation propre, quand αδ − βγ > 0 et transformation impropre, quand αδ − βγ < 0, et la forme F sera dite contenue proprement ou improprement dans la forme F’ selon une transformation propre ou impropre. Si donc F et F’ sont équivalentes, la transformation sera propre ou impropre, suivant que αδ − βγ = ± 1. Si plusieurs transformations sont toutes propres ou toutes impropres, elles seront semblables ; mais une forme propre et une forme impropre seront dissemblables (p. 122).

À partir de ces définitions, Gauss se pose et arrive à résoudre des problèmes comme les suivants :

1. Étant donné deux formes quelconques qui ont le même déterminant, chercher si elles sont équivalentes ou non, si elles le sont proprement ou improprement, ou des deux manières à la fois. Quand elles ont des déterminants inégaux, chercher si l’une ne renferme pas l’autre, proprement, improprement, ou des deux manières. Enfin, trouver toutes les transformations tant propres qu’impropres de l’une dans l’autre.

2. Étant donné une forme quelconque, trouver si un nombre donné peut être représenté par elle. Trouver toutes les représentations d’un nombre donné M par la forme F donnée.

[p. 177] Le grand soin avec lequel Gauss étudie ces questions, et la rigueur avec laquelle il procède à l’analyse des cas particuliers font qu’il peut dire, et à juste titre :

Dans ce qui précède, tout ce qui appartient à la recherche des caractères de l’équivalence des formes, à leurs transformations et à la représentation des nombres donnés par des formes données, a été expliqué de manière à ne rien laisser à désirer (p. 206).

Plus loin, dans ce même travail, Gauss aboutit à l’un des points les plus originaux de son œuvre, introduit par lui en ces termes :

Nous allons passer à un autre sujet très important et dont personne ne s’est encore occupé, à la composition des formes (p. 241).

La définition de « composition de formes » introduite par Gauss constitue la première opération introduite dans un domaine non numérique et dont les propriétés ne peuvent pas être déduites directement des opérations entre des nombres. Gauss aboutit ainsi à des théorèmes importants, tel le suivant :

Si les formes f, f’ sont des mêmes ordres, genres et classes que g, g’, respectivement, la forme composée de f et de f’ est de la même classe que la forme composée de g, g’ (p. 273).

Cet énoncé est suivi du commentaire suivant :

On voit par là ce qu’on doit entendre par une classe composée de deux ou de plusieurs classes (p. 273).

De ce qui précède il résulte que les « formes » étudiées par Gauss et les propriétés qu’il démontre avec tant de minutie peuvent être traduites, de nos jours, dans le langage de la théorie des groupes. En effet, une forme quadratique, avec une loi de composition comme celle définie par Gauss, est un groupe abélien ayant comme élément unité la classe que Gauss appela « classe principale ». Des « traductions » analogues peuvent être établies à partir des résultats obtenus par Ruffini et Cauchy. La plupart des historiens montrent leur étonnement devant l’absence de réponse à la question suivante : pourquoi ces auteurs, étant arrivés si près des concepts de la théorie des groupes, n’ont-ils pas pu faire le « petit pas » qui manquait pour la constituer ? De notre point de vue, il y a une réponse à cette question. C’est que le « petit pas » n’en est un qu’en apparence. Gauss constitue, en effet, ensemble [p. 178] avec Lagrange, Ruffini, Cauchy et quelques-uns encore, l’aboutissement de la période interopérationnelle dans le développement de l’algèbre et, plus particulièrement, dans l’histoire de la théorie des équations algébriques. Sa méthode consiste, pour l’essentiel, à transformer les fonctions et à trouver les relations qui demeurent stables. Les propriétés qu’ils déduisent ne sont que les invariants de systèmes de transformations.

Le genre de développement que nous avons trouvé une autre fois, aussi bien dans l’histoire de la science que dans la psychogenèse, montre bien qu’il y a un long chemin à parcourir avant de pouvoir passer d’un système donné de transformations à une structure totale dont elles résultent en tant que variations intrinsèques. C’est, en effet, le passage des connexions interopérationnelles aux connexions transopérationnelles.

Au niveau psychogénétique, l’étape transopérationnelle est atteinte — comme nous le verrons au chapitre suivant — quand il devient possible d’effectuer des opérations sur les opérations. Ainsi, par exemple, un enfant découvre comment constituer toutes les permutations possibles entre n éléments au moment où il devient capable de systématiser les permutations particulières, c’est-à-dire d’introduire un ordre dans les permutations effectuées. L’ensemble des permutations résulte, donc, d’une sériation de sériations.

Il n’est pas banal d’indiquer que Galois introduit la notion de « groupe » à partir de l’action de « grouper ». Les définitions suivantes constituent leur point de départ :

La permutation d’où l’on part pour indiquer les substitutions est tout arbitraire, quand il s’agit de fonctions. Car il n’y a aucune raison pour que dans une fonction de plusieurs lettres, une lettre occupe un rang plutôt qu’un autre. » « Cependant comme on ne peut guère se former l’idée d’une substitution sans celle d’une permutation, nous ferons dans le langage un emploi fréquent des permutations, et nous ne considérerons les substitutions que comme le passage d’une permutation à une autre.

Quand nous voudrons grouper des substitutions nous les ferons toutes provenir d’une même permutation.

Comme il s’agit toujours de questions où la disposition primitive des lettres n’influe en rien, dans les groupes que nous considérerons, on devra avoir les mêmes substitutions quelle que soit la permutation d’où l’on sera parti. Donc si [p. 179] dans un pareil groupe on a les substitutions S et T, on est sûr d’avoir la substitution ST ¹⁰.

Un peu plus loin, il va dire, explicitement :

On appelle groupe un système de permutations tel que, etc. Nous représenterons cet ensemble par G (p. cit., p. 79).

Ici, aux sources mêmes de la première notion de structure de l’histoire de l’algèbre, nous rencontrons le fil d’Ariane nous permettant de comprendre le passage de l’« inter- » au « trans- ». Exactement comme dans le cas de la psychogenèse, ce changement suppose le passage des opérations sur des éléments aux opérations sur des opérations.

La dernière étape de l’étude des équations algébriques sera achevée dans la deuxième moitié du xix^e siècle. À cette époque va se dérouler un processus qui est caractéristique de l’évolution de la pensée scientifique au moment où se produisent les grands « sauts » historiques ; un processus dont nous avons vu des exemples au cours de l’évolution de la géométrie et que nous mettrons en évidence à nouveau dans l’évolution de la physique. Le mécanisme de base qui entre en jeu est une réinterprétation de variables. Il s’agit d’un des mécanismes les plus fondamentaux du progrès de la mathématique et nous verrons, dans les chapitres sur la physique, qu’il n’est qu’un cas particulier d’un mécanisme beaucoup plus général. Il convient de s’arrêter quelque peu pour l’analyser en détail en relation avec l’étude des équations algébriques.

Dans notre bref résumé de l’évolution de la théorie des équations, nous signalons l’étude de Gauss sur les formes quadratiques comme un pas décisif. La « composition de formes » qu’il introduit constitue la première « opération » dans laquelle les nombres n’interviennent pas explicitement. Cependant, il est clair que chaque exemple d’une de ces formes était nécessairement une relation dans laquelle autant les coefficients que les variables représentaient des nombres. Le pas suivant consistera à montrer que les propriétés des fonctions polynomiques et, par conséquent, [p. 180] des équations algébriques dont l’étude avait été jusqu’alors l’objet — même de l’algèbre — ne dépendaient pas du fait que les coefficients et les variables fussent des nombres. De nouveau le progrès est ici atteint en modifiant les questions de base dans l’étude des polynômes de différents degrés. Au lieu de se demander quel genre de nombres détermine les propriétés des polynômes ou des zéros d’un polynôme, la question sera de savoir quelles sont les propriétés des nombres qui interviennent dans de telles considérations. La réponse à cette nouvelle question fut surprenante, dans la mesure où il devint clair que de telles propriétés étaient très générales, et ne constituaient nullement des caractéristiques des nombres en tant que tels. C’est-à-dire que, en plus des nombres, beaucoup d’autres ensembles possédaient les mêmes propriétés. Les propriétés communes à de tels ensembles ne définissent donc pas un champ spécifique d’objets mathématiques, mais une structure commune à nombre de champs. Ce fut Dedekind qui étudia ladite structure, à laquelle il donna le nom de « corps ».

Dans l’étude des polynômes et des équations algébriques on peut donc faire abstraction des nombres en tant que tels, et considérer comme des « coefficients » seulement les ensembles d’éléments quelconques qui remplissent les conditions suivantes :

I. Il y a entre les éléments de l’ensemble deux lois de composition interne

a,b → a + b ; a,b → ab

appelées respectivement addition et multiplication.

II. Ces deux lois de composition forment un groupe (en excluant, dans le cas de la multiplication, l’élément neutre de l’addition, appelé communément zéro).

III. Les deux opérations satisfont les conditions suivantes, dites de distributivité :

a (b + c) = ab + ac

(b + c) a = ba + ca

On peut facilement montrer comment de nombreux exemples d’« entités » qui ne sont pas les nombres entiers, rationnels, réels ou complexes utilisés jusqu’alors satisfont les règles énoncées et constituent par conséquent des corps. Prenons comme exemple les polynômes

a_o + a_ix + …  + a_nxⁿ

[p. 181] où les a_i sont des nombres rationnels quelconques. Nous écrirons simplement :

p = (a_o, a₁, … a_n)

Nous pouvons définir la somme et la multiplication de la manière suivante :

Étant donné

P = (a_o, a₁, … a_n) et Q = (b_o, b₁, … b_n)

alors

P + Q = (a_o + b_o, a₁ + b₁, … a_n + b_n)

PQ = (a_ob_o, a_ob₁ + a₁b_o, … a_ob_n + a₁b_n−1 + … + a_nb_o)

À partir de là il est facile de trouver les éléments neutres des deux opérations et de vérifier qu’avec les définitions données les conditions de distributivité sont satisfaites. Ces polynômes forment par conséquent un corps. D’autres exemples sont les nombres algébriques, les congruences modulo un nombre premier, les nombres p-adiques de Hensel, les séries formelles de Véronesse.

Il est important de faire remarquer ici que la notion de corps, explicitée, définie, et désignée par Dedekind avait été déjà utilisée par Abel et Galois, pour le premier au cours de sa célèbre étude sur les équations aujourd’hui appelées abéliennes, en montrant qu’on peut les résoudre par les radicaux. Abel définit la notion qui correspond à celle de polynôme irréductible sur le corps engendré par les coefficients de l’équation. Mais la notion même de corps comme ensemble n’apparaît pas chez Abel, ni chez Galois ¹¹. Tous deux considèrent les éléments de l’ensemble et les définissent avec précision, mais ils ne considèrent pas l’ensemble même, qui n’apparaît pas encore de manière explicite.

Nous rencontrons ici une situation historique similaire à celle analysée à la fin de la section II à propos de Gauss, Ruffini et Cauchy. Il s’y ajoute une circonstance qui mérite d’être soulignée. Comme nous l’avons déjà dit, Galois commence l’étape transopérationnelle par rapport à l’évolution des solutions aux équations algébriques, avec la découverte de la structure de groupe, seuil que Gauss et ses contemporains n’avaient pas pu franchir.

Néanmoins, par rapport au développement de la notion de corps, Galois demeure à l’étape interopérationnelle. [p. 182] C’est à Dedekind que revient le mérite d’avoir fait le pas suivant, quand il réussit à dégager et à thématiser la structure même des corps algébriques, donnant ainsi lieu à l’étape transopérationnelle. Nous reprendrons, dans les conclusions de ce chapitre, le problème de la « relativité » des notions intra-, inter-, et trans-.

Nous devons à Klein l’unification des géométries de deux versants différents : géométries non euclidiennes et géométrie projective. À partir de ce moment, et pendant un certain temps, la recherche de propriétés invariantes par des transformations linéaires constitua l’un des thèmes préférés des mathématiciens. La recherche de propriétés géométriques était devenue la recherche d’invariants algébriques. Cayley et Sylvester, auxquels s’ajouta Salmon, ont été les grandes figures de cette période. Il faudrait ajouter plusieurs autres noms de mathématiciens qui ont fait des recherches sur des invariants de formes algébriques particulières (formes quadratiques binaires, formes cubiques ternaires, etc.). Le fait de découvrir que les invariants de certaines formes algébriques étaient, à leur tour, des formes algébriques avec des invariants conduisait à formuler un problème plus général : trouver un système complet d’invariants pour une forme donnée.

Après quelques essais ratés et certaines démonstrations partielles, le problème a été définitivement résolu par Hilbert. Le « théorème de la base » de Hilbert démontre que, pour chaque forme (ou système de formes), étant donné son degré et son nombre de variables, il y a un nombre fini d’invariants intégraux rationnels et covariants (la base), moyennant lesquels tout autre invariant intégral rationnel et covariant peut être exprimé comme une combinaison linéaire de la base. Telle base définit ainsi le système invariant complet d’une forme donnée.

Hilbert épuisa, d’une certaine façon, le problème de la recherche d’invariants projectifs. Peu après avoir démontré le théorème précédent, il va également démontrer que les invariants linéaires ne résolvent pas de façon complète la classification projective des courbes planes puisque certains types de courbes avec des singularités différentes ne peuvent être distinguées entre elles par leurs invariants [p. 183] (exemple : les courbes irréductibles de degré 5 ayant un point quadruple et celles qui ont un point triple avec une seule tangente).

Or, bien avant que la réflexion sur le thème des invariants projectifs aboutisse à un point mort, d’autres résultats fournis par l’analyse avaient ouvert des voies nouvelles pour surmonter les problèmes que les méthodes projectives laissaient sans solution. Il s’agissait, essentiellement, de l’étude de nouvelles transformations qui conduisent à de nouvelles formes d’invariants. Examinons de près comment cette évolution se produisit, en choisissant comme sujet central la théorie des courbes et surfaces algébriques.

Le développement de la théorie des courbes algébriques débuta, historiquement, avec la théorie des courbes elliptiques, c’est-à-dire la théorie des intégrales de fonctions rationnelles sur une courbe elliptique. Le nom d’« elliptique » s’appliqua aux intégrales qui permettaient de calculer la longueur d’un arc d’ellipse. Il fut ensuite appliqué à toutes les courbes (courbes « elliptiques ») qui conduisaient à des intégrales elliptiques. Puis on remarqua que les propriétés de base des intégrales elliptiques pouvaient être généralisées à des intégrales de fonctions algébriques arbitraires. Finalement, on passa à l’étude de courbes algébriques arbitraires.

Le point de départ de tout ce développement se trouve dans un texte d’Abel de 1826 qui est à l’origine de la théorie des fonctions algébriques. Or, ce n’est qu’à partir de Riemann que la théorie aura une grande répercussion sur la géométrie des courbes algébriques. La contribution de Riemann est expliquée avec clarté par F. Klein dans son discours prononcé à Vienne, en 1894 ¹², à l’occasion de l’ouverture d’un congrès scientifique :

L’étude des fonctions algébriques revient essentiellement à celle des courbes algébriques, dont les propriétés font le sujet d’étude des géomètres, qu’ils se comptent parmi les adeptes de la Géométrie analytique, où les formules jouent [p. 184] le rôle principal, ou bien de la Géométrie synthétique, au sens de Steiner et de von Standt, où l’on étudie la manière dont sont engendrées les courbes, à l’aide de séries de points ou de faisceaux de rayons. Le point de vue essentiellement nouveau qu’a introduit Riemann dans cette théorie est celui de la transformation générale univoque. Dès ce moment, les courbes algébriques, en nombre immense de formes, sont réunies en grandes catégories où, faisant abstraction des propriétés spéciales de la forme particulière des courbes, l’on aborde l’étude générale des propriétés communes à toutes les courbes ainsi réunies.

Il faut néanmoins remarquer que dans cet aspect de son œuvre Riemann prend exclusivement le point de vue de la théorie des fonctions. Dans le plus connu de ses textes sur ce thème (« Théorie des fonctions abéliennes »), Riemann n’utilise que rarement le langage géométrique. Dans les termes de Dieudonné :

Ce n’est pas l’un des moindres paradoxes dans l’œuvre de ce prodigieux génie, d’où la Géométrie algébrique est sortie entièrement renouvelée, qu’il n’y soit presque jamais question de courbe algébrique : c’est de sa théorie des fonctions algébriques et de leurs intégrales qu’est issue toute la Géométrie birationnelle du xix^e et du début du xx^e siècle ¹³.

La notion centrale utilisée par Riemann est celle de « substitution rationnelle » (nommée plus tard « transformation birationnelle »).

C’est surtout Clebsch qui va faire avancer l’interprétation géométrique de la théorie riemannienne des intégrales algébriques. Clebsch introduit la définition de genre en tant que concept de base pour la classification des courbes. Pour une courbe de degré n avec d points doubles, le genre est défini par l’expression :

P = ½ (n − 1) (n − 2) − d

Dans un travail fondamental, Clebsch et Gordon (1866) vont démontrer que le genre de la courbe définie par f = 0 correspond au nombre des intégrales de première classe linéairement indépendantes. Sur cette base ils vont démontrer que le genre est un invariant sous transformations birationnelles.

À partir de ce travail de Clebsch et Gordon, la géométrie birationnelle va se développer considérablement, et ceci pendant les dernières décennies du xix^e siècle. De [p. 185] nouveaux résultats ont été obtenus par Lüroth, qui démontra qu’une courbe de genre 0 peut être transformée en une ligne droite par une transformation birationnelle. Clebsch lui-même démontra que les courbes de genre 1 peuvent être transformées, de façon analogue, en courbes de troisième degré.

Brill et Max Noether feront aboutir les travaux de cette école en définissant la géométrie sur une courbe algébrique dans le plan projectif comme l’ensemble des propriétés qui sont invariantes par des transformations birationnelles.

La géométrie birationnelle de cette période peut être caractérisée comme un essai en vue de réussir la synthèse entre la géométrie projective et les idées de Riemann. Bien que plusieurs de ses démonstrations soient de nature algébrique, les méthodes utilisées s’appuient solidement sur la théorie des fonctions. Celle-ci est la source des concepts utilisés par la géométrie birationnelle, tandis que la considération purement algébrique des invariants ne va faire son chemin que très lentement.

Les transformations birationnelles ont donc permis d’étudier les propriétés des courbes et surfaces algébriques avec un haut degré de généralité. Dans le cas spécifique de l’étude des singularités d’une courbe algébrique on aboutit aux deux théorèmes suivants :

— Une courbe algébrique peut toujours être transformée, au moyen d’une transformation birationnelle, en une courbe libre de singularités, et ensuite, par projection, en une courbe plane ayant seulement des points doubles ordinaires.

— Une courbe algébrique plane peut toujours être transformée, par une transformation de Crémona, en une courbe plane ayant seulement des points multiples ordinaires.

Dans le cas des surfaces algébriques, le théorème de réduction — analogue au premier cité ci-dessus — dit : toute surface algébrique f peut être birationnellement transformée en une surface en S₅, libre de singularités, et donc, par projection, en une surface en S₅ ayant seulement des singularités ordinaires.

Quant au second des théorèmes établis pour les courbes algébriques, son analogue pour les surfaces algébriques s’énonce ainsi : toute surface algébrique f en S₃ peut être transformée, par une transformation de Crémona, en une [p. 186] surface ayant seulement des courbes multiples ordinaires (c’est-à-dire avec des plans tangents distincts), libre de singularités et avec un nombre fini de points cupidals ordinaires ; de plus, deux courbes multiples distinctes quelconques ont, dans n’importe lequel de leurs points communs P, des tangentes distinctes, et P n’est jamais un point base des courbes polaires de y.

La théorie des courbes algébriques arrivera, à la fin du xix^e siècle, à une nouvelle étape dont le moteur fondamental sera constitué par les travaux de Hilbert sur les anneaux des polynômes.

Les structures d’anneaux et d’idéaux ont été connues et utilisées, comme nous l’avons déjà vu, par Kronecker et Dedekind (quoique le nom d’anneau fût introduit par Hilbert). La géométrie algébrique qui commence avec eux fait un usage systématique de ces concepts. Brill et Max Noether, par exemple, dans le mémoire déjà cité, démontrent l’invariance birationnelle des séries linéaires définies sur une courbe au moyen de la théorie des idéaux engendrés par des polynômes.

La traduction, claire et précise, des problèmes géométriques en termes de la théorie des idéaux n’a été possible qu’après la démonstration faite par Hilbert de son célèbre théorème de la base finie et du théorème connu sous le nom de « théorème des zéros ». Ainsi, par exemple, le problème de définir une courbe gauche algébrique irréductible comme intersection d’un nombre fini de surfaces algébriques a son correspondant dans les variétés algébriques auxquelles on peut toujours associer les idéaux des anneaux de polynômes : l’ensemble des zéros d’un idéal (c’est-à-dire l’ensemble des points où s’annulent tous les polynômes de l’idéal) est l’intersection d’un nombre fini d’hypersurfaces algébriques.

Le résultat surgit du théorème de Hilbert d’après lequel de tels idéaux admettent un système fini de générateurs. Max Noether et E. Netto avaient obtenu des résultats partiels sur le problème inverse : étant donné un ensemble de polynômes F₁, F₂, … F_n, il s’agissait de chercher quelles sont les conditions pour qu’un polynôme s’annule dans les [p. 187] points de la variété définie par les équations F₁ = 0, F₂ = 0, … F_n = 0. Le théorème des zéros de Hilbert va démontrer que, pour tout polynôme F qui s’annule dans ladite variété, il existe un entier h tel que F^h appartient à l’idéal A défini par les polynômes donnés. Or, le problème de la décomposition des idéaux restera encore sans solution. Lasker fait un pas décisif en formulant les conditions pour qu’un polynôme puisse appartenir à l’idéal engendré par les n polynômes F₁, … F_n. Il y arrive en introduisant la notion d’idéal primaire et en démontrant que, dans la formulation qui précède, l’ensemble de polynômes qui remplit la condition F^hEA est l’intersection d’un nombre fini d’idéaux primaires.

La théorie sera complétée, dans la deuxième décennie du xx^e siècle, par Emmy Noether qui réussit à redéfinir les problèmes d’une façon rigoureuse dans le cadre de l’algèbre abstraite. Les mémoires de E. Noether vont clore une étape dans le développement de l’algèbre, en unifiant la théorie des fonctions algébriques intégrales (polynômes) avec la théorie des idéaux des nombres algébriques entiers.

L’étape suivante commence vers la fin de la deuxième décennie de notre siècle avec la notion d’anneau local (c’est-à-dire des anneaux qui possèdent un seul idéal maximal). Cette structure est étudiée d’abord du point de vue purement algébrique. C’est seulement après une dizaine d’années d’étude de ses propriétés algébriques que, grâce à O. Zariski, surgit clairement l’application de cette structure à la théorie des courbes algébriques. Pour ce faire, Zariski reprendra la méthode des transformations birationnelles mais, cette fois-ci, les éléments de la transformation seront des structures plus complexes que celles utilisées pendant l’apogée de la géométrie birationnelle au siècle précédent.

Zariski utilise une méthode de « localisation » basée sur l’introduction d’une topologie appropriée (on l’appelle aujourd’hui la topologie de Zariski), qui permet de munir d’un « anneau local » chaque point d’un ensemble algébrique. De là surgit une méthode qui permet d’associer à toutes variétés une variété « normale » (c’est-à-dire une variété telle que l’anneau local de chaque point est intègre et intégralement clos). Zariski aboutit ainsi à une méthode de résolution de singularités à travers un processus de normalisation associé à une transformation birationnelle.

[p. 188] Le pas important qui a suivi dans la voie d’une algébrisation complète de la géométrie algébrique a été le passage des variétés affines (ou projectives) aux variétés abstraites. Les premières étaient définies par des systèmes d’équations, c’est-à-dire par des polynômes ; l’on établit ensuite une correspondance entre les « objets géométriques » ainsi définis et des anneaux d’un certain type. Les propriétés de la variété affine étaient ainsi reflétées dans l’anneau qui lui était associé d’une façon invariante.

Avec l’introduction des variétés abstraites, on ne s’est plus attaché au choix arbitraire d’un système d’équations (puisque la même variété pouvait correspondre à différents systèmes d’équations) et, en même temps, la nécessité d’immerger ces « objets géométriques » dans un espace (affine ou projectif) a disparu.

Afin d’arriver au concept d’une variété abstraite, on commença par un anneau commutatif arbitraire, avec une identité, et on le joignit à un « objet géométrique » qui, maintenant, est simplement un certain ensemble doté d’une structure topologique. L’ensemble en question est l’ensemble de tous les idéaux premiers de A, on l’appelle « le spectre de A » et on le représente par Spec. A. Les idéaux premiers sont appelés points du spectre. Quand A est l’anneau de sous-ensembles d’un espace affine, Spec. A a une interprétation géométrique claire en termes de points, de courbes irréductibles et de surfaces. Spec. A dispose donc d’une topologie spéciale appelée topologie spectrale et l’on peut se référer à Spec. A en tant qu’espace topologique. L’objet géométrique associé à l’anneau commutatif A est donc identifié comme un ensemble avec une structure topologique.

La définition d’un faisceau structural sur l’espace topologique Spec. A et l’application de la notion d’espace annelé (espace topologique sur lequel est donné un faisceau d’anneaux) conduisent au concept de schéma. Ce concept définit une catégorie qui est équivalente à la duale de la catégorie de tous les anneaux commutatifs.

Le concept de schéma introduit par Grothendick dans sa reconstruction de la géométrie algébrique nous donne les moyens de classifier les « objets géométriques » d’une façon très générale. Comme l’a signalé Dieudonné, « cela conduit à une synthèse que Kronecker a été le premier à rêver », pour autant que les schémas puissent être appliqués aussi [p. 189] bien aux variétés algébriques qu’à la théorie des nombres. Nous atteignons ici un niveau où la transformation, comme notion de base, caractérisant la longue période dominée par la géométrie birationnelle est remplacée par des structures abstraites. Le concept de morphisme va donc jouer un rôle dominant et les propriétés des schémas eux-mêmes seront finalement effacées par les propriétés des morphismes.

Dans l’introduction au présent chapitre nous avons indiqué notre intention de suivre le développement de l’algèbre, en nous attachant à la succession des étapes intra-, inter-, et transopérationnelles. En géométrie nous n’avons pas eu de difficulté à différencier ces trois étapes. Euclide, Poncelet ou Chasles, et Félix Klein, seront les figures clés représentatives de chacune d’elles.

Une fois l’algèbre constituée en tant que telle, on ne peut que remarquer l’anomalie suivante : son « domaine » reste réduit, et ceci pendant plusieurs siècles, à un thème très restreint — les équations algébriques — qui ne deviendra, par la suite, qu’un aspect partiel de son champ de définition. Malgré l’analogie constatée auparavant, il serait possible de dégager une curieuse relation inverse entre le développement de la géométrie et de l’algèbre. La géométrie commence avec une identité bien définie et un champ de définition très précis, mais elle perd, au fur et à mesure de son développement, l’identité de départ, jusqu’à devenir algèbre. Par contre, l’algèbre commence avec une définition partielle, très restreinte ; elle acquiert petit à petit sa propre identité, jusqu’au moment où elle surgit comme étude des structures, plusieurs siècles après sa propre naissance.

Nous avons effectué une première exploration des origines de l’algèbre afin d’établir comment elle se constitua en tant que branche de la mathématique. Les conclusions auxquelles nous sommes arrivé — appuyées en grande mesure sur les études de Jacob Klein — peuvent être résumées ainsi :

a. Viète effectue la transition (que les Anciens n’avaient pas réussi à faire) du concept d’« arithmos » au concept de [p. 190] symboles généraux sur lesquels on construira l’algèbre en tant que discipline nouvelle.

b. Pour y aboutir, Viète effectue une synthèse entre l’analyse géométrique de Pappus et les méthodes arithmétiques de Diophante.

c. Bien que les concepts de transformation et d’invariant ne soient pas explicités (thématisés) à cette époque, ils jouent un rôle indéniable et fondamental. C’est grâce à eux que devient possible le passage du concept de symbole utilisé par les antiques pour représenter d’une façon générale un nombre concret au concept de symbole général, en tant que forme représentant un nombre général (c’est-à-dire un nombre quelconque).

Lorsque l’algèbre se constituait en tant que discipline indépendante, son thème central était la résolution d’équations, comme nous l’avons déjà dit. Nous avons pu différencier, dans ce cas, les trois étapes caractéristiques de son développement.

Pendant une première période, extrêmement longue, il ne s’agit que de la recherche de solutions à des équations spécifiques. La méthode est purement empirique, par tâtonnements. Chaque équation est l’objet d’un traitement particulier. Nous sommes, sans doute, dans une période intraopérationnelle.

Ce n’est qu’au xviiie siècle qu’on arrive à la recherche de méthodes plus générales et, surtout, à poser le problème général de l’existence ou de la non-existence de solutions. Les transformations d’équations permettant de réduire une forme non résolue à une forme résolvable dominent largement les recherches. Ici, tout comme dans le cas de la géométrie, c’est l’analyse qui va jouer un rôle fondamental. Lagrange et Gauss sont les grandes figures de cette période qui constitue, de notre point de vue, une période interopérationnelle.

Avec Galois et le développement de la théorie des groupes — première structure thématisée en mathématique — aboutit l’histoire de la résolution des équations, commence la prédominance des structures et débute une longue période transopérationnelle.

Arrivé à ce point, le processus devient beaucoup plus complexe et nous nous sommes borné, dans ce chapitre, à faire référence à quelques-unes des lignes de développement suffisamment représentatives des caractéristiques générales [p. 191] du processus total. Chacune de ces « lignes de développement » met en évidence les mêmes mécanismes identifiés dans le développement général : mise en relation des propriétés internes avant de les comprendre comme invariants de transformations, et découverte de celles-ci avant de les concevoir comme les manifestations d’une structure totale, dont elles résultent en tant que variations intrinsèques ; tout ceci est accompagné de la relativisation des concepts et de la réinterprétation des variables. Ce sont ces mécanismes qui déterminent les étapes de type « intra- », « inter- », et « trans- ».

Le rôle que jouent ces notions dans les processus de conceptualisation et dans la construction de théories embrasse trois aspects différents mais solidaires, aspects qu’il faut expliciter afin d’éclairer le sens épistémologique de ces notions. Ces aspects correspondent : 1. à des paliers successifs de l’histoire ou de la psychogenèse ; 2. aux phases de formation de chacun de ces paliers puisque chacun d’eux nécessite une séquence régulière de sous-étapes au sein des nouvelles constructions ; 3. à la manière dont les acquisitions antérieures sont réinterprétées dans la perspective du palier nouvellement atteint.

Nous avons déjà fait référence au point 3 dans le chapitre sur le développement de la géométrie, en montrant comment à chaque étape il y a une réorganisation des connaissances acquises pendant l’étape précédente.

Par rapport aux points 1 et 2 il faudrait ajouter que lorsque deux sous-systèmes sont coordonnés et qu’on leur découvre ainsi une partie commune ou intersection, le niveau atteint par cette partie commune peut être soit supérieur, soit équivalent, soit inférieur à celui des sous-systèmes qui l’ont constitué. Ce fait s’ajoute à la règle générale selon laquelle chaque étape répète en ses propres phases le processus total : c’est-à-dire, comme nous l’avons vu dans le chapitre III (Géométrie), une succession de sous-étapes intra-, inter- et trans-. On retrouve dans les phases de construction d’un palier supérieur le même processus que dans la succession des grands paliers eux-mêmes. Rappelons à cet égard le développement de la structure de groupe, qui est en elle-même de nature transopérationnelle :

a. Les premiers groupes dus à Galois n’ont porté que sur des permutations déjà données dont la construction [p. 192] n’était donc pas due au groupe lui-même : du point de vue du groupe comme tel il s’agissait donc de relations intraopérationnelles, même si du point de vue de l’étape entière on se trouve au « trans ».

b. Puis sont venus, avec Klein, des groupes de transformations tels que celles-ci jouaient un rôle constitutif comme le sont par exemple les transformations projectives représentant les composantes mêmes de leur groupe. En ce qui concerne cette structure nous sommes ainsi dans l’interopérationnel.

c. En troisième lieu, on a élaboré la notion de groupe abstrait, portant sur un ensemble quelconque, tel que celui qui opère sur l’espace vectoriel. Nous voici donc dans le transopérationnel par rapport aux élaborations spécifiques concernant la structure de groupe en général.

Nous avons déjà indiqué qu’il doit y avoir, sous ces notions de « intra- », « inter- » et « trans- », d’apparence simplement descriptive, un mécanisme constructif qu’il s’agit de dégager.

Mais auparavant il convient de faire une description plus détaillée de ces constructions progressives, avec leur action rétroactive. Supposons ainsi trois étapes A, B et C. Admettons qu’on a, pour B, les sous-étapes a, b, et c. Or, même si B n’en est qu’à la sous-étape a, donc « intra- » par rapport à B, il y a déjà réinterprétation de A en un sens qui rétroactivement le soumet à des opérations de type B, tandis que les éléments de a en B vont intervenir dans les systèmes de transformations de type « inter- » en b et ainsi de suite. Ceci montre que si la succession « intra- », « inter- » et « trans- » se retrouve, en direction proactive, dans les sous-étapes comme dans les étapes, elle réagit aussi de façon rétroactive sur les constructions antérieures par une réorganisation. Celle-ci est devenue possible comme une conséquence des constructions nouvelles. Mais, d’autre part, cette réorganisation est aussi la condition nécessaire pour la généralisation constructive des constructions antérieures. En effet, « la généralisation constructive ne consiste pas à assimiler des nouveaux contenus à des formes déjà constituées, mais bien à engendrer de nouvelles formes et de nouveaux contenus, donc de nouvelles organisations structurales ¹⁴ ».

[p. 193] La notion de la séquence des trois étapes, intra-, inter- et trans- présente des problèmes épistémologiques qui nécessitent une analyse approfondie. L’un des problèmes soulevés est l’apparition tardive des transformations et des structures. En termes des notions élaborées il y a longtemps par l’épistémologie génétique, nous pouvons rendre compte du caractère initial des éléments et tardif des structures par des mécanismes progressifs d’abstractions et de généralisations : les structures exigent à la fois une plus forte abstraction réfléchie (ou thématisante) et une généralisation plus complétive ¹⁵. Mais cette interprétation demeure insuffisante car elle ne rend pas compte des principes moteurs de telles constructions puisque, en fin de compte, les abstractions et les généralisations ne sont encore que des instruments.

En ce qui concerne les finalités successives et ultimes du processus conduisant de l’« intra- » à l’« inter- » et au « trans- », la réponse semble assez évidente : tant le mathématicien que l’enfant d’un certain niveau ne se contentent jamais de constater ou de découvrir (ce qui consiste à inventer) : à chaque étape, ils veulent atteindre les « raisons » de ce qu’ils trouvent. Cela revient dans chaque cas à chercher, sous la généralité des connexions établies, leur « nécessité » intrinsèque, car le sujet ne reconnaît en fin de compte une construction comme valable que dans la mesure où elle devient nécessaire en vertu de raisons finalement explicites. On comprend alors le pourquoi de notre processus général, puisque c’est lui-même qui est générateur des diverses formes d’une nécessité progressive dont la conquête ne se fait que par étapes. Les relations entre éléments propres à l’« intra- » manquent de nécessité ou ne parviennent qu’à des formes très limitées encore proches de la simple généralité. Comprendre les états comme résultant de transformations et, pour ce faire, transformer localement les éléments, comme c’est le cas de l’« inter- », fournit un premier accès à des connexions nécessaires déterminant intrinsèquement leurs propres raisons. Mais les transformations exigent à leur tour une motivation explicatrice, et la recherche du « trans- » conduisant aux structures est la réponse à ce nouveau besoin, puisqu’un système total de transformation engendre de [p. 194] nouvelles transformations et fournit les raisons de leur composition d’ensemble. Mais il est clair que ce caractère « total » demeure lui-même relatif et que le mouvement continue, comme on l’a vu, entre autres par le passage des structures aux catégories. En un mot, la succession conduisant de l’« intra » à l’« inter » et au « trans » n’est que l’expression d’un même processus qui, subjectivement, est la recherche des raisons et qui, objectivement, est la conquête d’une nécessité toujours relative mais qui s’accroît de façon constante d’une étape à la suivante.