Chapitre XV.
Généralisation opératoire et généralisation formelle en mathématique ^{1 a} 🔗

[p. 249] Une épistémologie de la généralisation doit inclure, pour être elle-même générale, une étude de la généralisation en mathématique. Une comparaison entre les formes de généralisation dont témoigne l’histoire des sciences et celles qu’on rencontre dans la psychogenèse des structures cognitives présente sans doute un intérêt capital pour toute épistémologie à orientation constructiviste. La généralisation en mathématique offre à ce propos le double intérêt spécial de la grande richesse d’exemples instructifs, quelques-uns très simples, qui s’y présentent à notre considération, aussi bien que de la pureté dans laquelle s’y révèlent les caractéristiques des processus en cause.

La généralisation en mathématique se distingue, en plus du fait que son rôle est proprement constituant : car s’il est vrai que des processus généralisateurs interviennent à des degrés variables dans le développement de n’importe quelle branche du savoir, suivant le degré d’élaboration théorique respective, la mathématique n’en reste pas moins la seule science dans laquelle ces processus interviennent dans la constitution même de l’objet connu. Les objets mathématiques sont en effet tous [p. 250] des formes de différents degrés, issues de processus d’abstraction réfléchissante qui comportent des aspects de généralisation. La pensée mathématique en arrive ainsi, après avoir exercé ses opérations ou préopérations sur les objets concrets qui lui servent de support dans ses stades les plus élémentaires, à opérer sur des objets proprement mathématiques, dont le degré de généralité correspond aux capacités abstractives du sujet. Nous parlerons à ce propos de généralisation formelle : il s’y agit de dégager la forme ou concept commun à plusieurs objets ou structures mathématiques préalablement conçus comme hétérogènes, ou même non préalablement conçus (dans le cas de structures opératoires, s’exerçant sans thématisation adéquate).

Aucune extension (au sens logique des extensions des concepts) n’est atteinte en mathématique autrement que sur la base de processus de généralisation formelle, car la construction des extensions, surtout quand elles sont infinies, suppose la constitution préalable de compréhensions thématisées. Il arrive souvent que les formes dégagées par généralisation formelle s’appliquent, en plus des objets ou structures qui fournissent le point de départ de la généralisation, à de nouveaux objets ainsi conçus pour la première fois. C’est ainsi que le fait de thématiser une certaine forme de structure générale rend possible et parfois nécessaire d’en envisager de nouveaux modèles, non conçus auparavant. En des situations pareilles, il ne s’agit pas seulement de la constitution d’un concept unificateur qui définit une extension mathématique, mais la généralisation formelle est génératrice d’un élargissement extensionnel du domaine connu.

Pour importantes que soient les caractéristiques spécifiques qui demandent une étude épistémologique particulière des processus de généralisation en mathématique, ceux-ci n’en participent pas moins de caractéristiques communes à beaucoup d’autres processus généralisateurs. Nous suggérons que leur étude peut être très utile pour la compréhension de toute la problématique des généralisations constructives (voir les conclusions générales de ce volume, par Piaget), qui dépassent les frontières de l’épistémologie de la mathématique au sens strict. Les structures mathématiques qui, une fois constituées, ne relèvent pour leur étude que des méthodes de la mathématique [p. 251] formelle, sont tributaires, pour ce qui est de leur genèse, d’une réflexion qui porte sur l’organisation générale des instruments cognitifs du sujet. Il va sans dire que le jeu opératoire doit atteindre tout d’abord lui-même un degré de généralité suffisant pour que la réflexion portant sur lui puisse aboutir éventuellement à la constitution de structures mathématiques formelles. L’étude de la généralisation en mathématique du point de vue de l’épistémologie génétique doit évidemment remonter aux formes primordiales de généralisation qui portent sur les instruments de connaissance. Nous parlerons à ce propos de généralisation opératoire au sens d’« instrumentale » ou de « procédurale » : il s’y agit du passage d’instruments cognitifs plus faibles à des instruments plus forts, de l’intégration de structures plus pauvres en des structures plus riches (force et richesse intervenant ici dans un sens métaphorique qui est identique pour les deux) ; il est entendu que les structures dont il est question sont des structures cognitives qui ne supposent pas la thématisation explicite, qui en ferait des objets de pensée réfléchie. Il y a là une différence majeure entre les généralisations opératoires et les généralisations formelles. Nous soutenons une priorité génétique générale des premières par rapport aux secondes, pour ce qui est de chaque domaine déterminé, parce que la thématisation ne peut être en chaque cas que le résultat d’un développement secondaire, même s’il est très important, surtout en mathématique. En remontant des généralisations formelles aux généralisations opératoires qui les ont rendues possibles, l’épistémologie de la généralisation mathématique prend sa pleine valeur dans le cadre de l’épistémologie génétique.

Tout nous porte à croire que la problématique de la généralisation en mathématique tourne en bonne partie autour des rapports fonctionnels entre les deux types de généralisation indiqués. A ce propos, nous voulons souligner tout d’abord que leurs objectifs fonctionnels primaires sont très différents. Pri- mairement recherchées, en tout processus de généralisation opératoire, sont les plus grandes compréhensions — ; primairement recherchées, en tout processus de généralisation formelle, sont les plus grandes extensions. L’épistémologiste pourra et devra rendre compte d’un bon nombre de faits épistémiques par le jeu complémentaire de ces deux types de processus généralisateurs. [p. 252] Nous aurons en vue surtout le fait fondamental, mis en évidence par Piaget, de l’accroissement complémentaire et souvent simultané en compréhension et en extension des acquis d’une pensée constructive, au fur et à mesure des progrès de la construction, malgré le rapport toujours réciproque entre les extensions et les compréhensions des concepts dans une théorie quelle qu’elle soit (pour autant que les extensions soient définies). Ce fait nous place dans une situation où des données épistémologiques, pourtant solides et fondamentales, paraissent, au premier abord, inconciliables. D’où un sentiment initial d’insatisfaction vis-à-vis des évidences en cause et l’exigence d’une explication qui les intègre.

Des exemples prototypiques des processus de généralisation opératoire sont les processus de complétion qu’on trouve partout en mathématique. A vouloir les classer, le principe structuraliste s’offrirait immédiatement : autant de types bien définis de complétion mathématique qu’il y a de types de structures pour lesquels on définit la complétude. Ainsi les complétions algébriques, ordinales, topologiques, etc., catégorielles. Toutes ces complétions ont de commun qu’il s’agit partout d’un passage à des structures plus riches, le moteur en étant en chaque cas l’adjonction d’opérations nouvelles ou l’élargissement des conditions du jeu opératoire pour celles déjà disponibles. Si, par exemple, à partir d’un corps non algébriquement clos on en construit la clôture algébrique, on fait le passage, au niveau des structures, de celle de corps (relativement plus faible) à celle de corps algébriquement clos (relativement plus forte). Il s’agit là, comme toujours en des contextes pareils, de la « force » compréhensive, les plus grandes compréhensions étant opératoirement définies par leurs virtualités implicatives : corps algébriquement clos -> corps, et non réciproquement. Du point de vue des extensions, tous les rapports s’invertissent, car les plus grandes compréhensions correspondent aux plus petites extensions, et réciproquement. Ainsi la classe des corps algébriquement clos (quel que soit par ailleurs le cadre théorique où on la définit) est contenue dans la classe de tous les corps, ce qui établit un rapport d’extensions à l’intérieur d’une catégorie de classes convenablement construite, de tels rapports y étant opératoirement définis par les morphismes d’inclusion. Le passage d’un anneau, disons intègre, au corps des fractions [p. 253] respectif est aussi de type complétif. On a là, au niveau des structures, le passage génétique : anneau -> corps, avec le rapport : corps => anneau, pour les compréhensions, et le rapport réciproque : classes des corps C classe des anneaux pour les extensions, l’extension étant en chaque cas (pour autant qu’elle soit définie) déterminée par la compréhension.

Des exemples prototypiques des processus de généralisation formelle sont les processus de construction des structures générales, par la mise en œuvre de certains systèmes de morphismes. Ces systèmes sont déjà, du point de vue génétique, des catégories, tout en demeurant d’abord des instruments de thématisation eux-mêmes non thématisés. Si un sujet, par la construction de morphismes de structure qui mettent en correspondance des anneaux de différents types (parmi lesquels des corps algébriquement clos ou pas, commutatifs ou non commutatifs) préalablement construits, au concept de la structure d’anneau en général, il est clair qu’il abstrait par cela des différences qui distinguent par exemple le commutatif du non- commutatif, les anneaux qui sont des corps de ceux qui ne le sont pas, et de ce fait même il dépasse en abstraction les concepts comme celui de corps en tant que tel, pour ne retenir de la compréhension de la structure de corps que les propriétés qui ne relèvent en fait que de la structure d’anneau en général. Cet exemple met en évidence un passage génétique : corps -> anneau en général, de sens contraire de celui considéré tout à l’heure, à propos des généralisations opératoires. Les rapports d’extension et de compréhension y ont déjà été signalés. Ils jouent naturellement dans les deux cas de façon réciproque, puisque les passages génétiques sont eux-mêmes de sens contraire.

Nous avons porté notre attention tout d’abord sur les différences d’orientation générale entre les processus de généralisation opératoire et de généralisation formelle. Les derniers tendent vers une généralité abstraite qui recouvre des extensions de plus en plus grandes, tandis que les premiers, qui ne cherchent qu’à élargir le jeu opératoire, seraient, s’il était légitime de les considérer d’un point de vue extensionnel — ce qui commencera déjà à paraître douteux — , des « généralisations spécialisantes », car l’extension recouverte devient de plus en plus restreinte, au fur et à mesure de l’enrichissement [p. 254] compréhensif. Quand les compréhensions ne sont cependant pas thématisées, les extensions restent, à plus forte raison, purement virtuelles. Ce que nous appellerions paradoxalement les « généralisations spécialisantes » n’existe, par conséquent, pas comme tel pour le sujet qui procède à des généralisations opératoires et n’exprime qu’une compréhension imparfaite de la part de l’épistémologiste. Si l’on persiste quand même à parler d’une perte d’extension à l’occasion des généralisations opératoires, on fera bien de remarquer qu’elle fait pendant à une perte en compréhension tout à fait analogue à l’occasion des généralisations formelles, car on perd chaque fois en extension ce qu’on gagne en compréhension, et réciproquement (à condition de fixer de manière univoque le niveau conceptuel choisi pour les comparaisons à faire) ². A nous en tenir cependant à leurs objectifs fonctionnels véritables, il faut dire que ni la généralisation opératoire ni la généralisation formelle ne visent aucunement une perte cognitive pour le sujet, mais un gain, très positif dans les deux cas. Nous avons vu en quoi consistent ces gains. La conquête mentale des compréhensions devant précéder en chaque cas celle des extensions respectives, il est naturel que la pensée se jette tout d’abord à la poursuite des plus grandes compréhensions, sans thématisation complète, pour passer ensuite aux thématisations qui permettent la conquête des plus grandes extensions. C’est ce que réalisent à tour de rôle les processus de généralisation opératoire et formelle. Leur jeu combiné fournit déjà un début d’explication pour l’accroissement conjoint des extensions et des compréhensions en mathématique, remarqué par Piaget. Ce n’est sans doute qu’un petit début sur la voie de l’explication recherchée, car les deux processus ne jouent pas simultanément dans les mêmes domaines et aux mêmes niveaux, et nous n’avons donc pas expliqué l’accroissement simultané dont il s’agit souvent. Ce qui précède montre cependant déjà pourquoi l’évolution [p. 255] globale de la pensée mathématique l’achemine vers des compréhensions de plus en plus riches et vers des extensions de plus en plus larges, sans que les rapports génétiques et même la véritable solidarité des deux développements n’aient encore été mis en évidence ³.

Après avoir souligné quelques différences d’orientation générale entre les processus de généralisation opératoire et de généralisation formelle, il convient d’insister maintenant sur leur solidarité fonctionnelle. Par la même occasion nous corrigerons une impression unilatérale qui pourrait se dégager des considérations précédentes. La dépendance génétique indus- cutable des généralisations formelles par rapport aux généralisations opératoires paraît en effet impliquer que les premières soient généralement d’un niveau mental supérieur aux secondes, qui n’impliquent pas de thématisation adéquate. Cela est vrai chaque fois qu’on détermine de manière précise les domaines et les niveaux concernés par la comparaison. Mais nous montrerons maintenant comment la construction mathématique fait dépendre très généralement ce que le sujet thématise par généralisation formelle à des niveaux relativement inférieurs d’objectivité mentale par rapport à ce qu’il est en train de construire aux niveaux supérieurs, toujours imparfaitement thématisés, où joue la généralisation opératoire. Cela nous permettra de compléter les considérations précédentes et de montrer pourquoi et comment les extensions et les compréhensions s’accroissent simultanément en mathématique, comme l’histoire et la psychogenèse en témoignent — la différence de niveaux que nous mettrons en évidence permettant d’expliquer l’accord des faits avec le principe général de réciprocité entre les rapports de compréhension et d’extension.

Parmi une foule d’exemples possibles, choisissons-en deux très importants, dont le premier est peut-être le plus simple qu’on puisse présenter : les extensions successives de la notion de nombre par des processus de généralisation formelle, dépendant [p. 256] génétiquement d’une recherche de complétude sur un plan supérieur, non thématisé. Que ces processus d’extensions successives soient en eux-mêmes des généralisations formelles, c’est l’évidence même, puisqu’on dégage en chaque nouvelle étape un nouveau concept de nombre qui jouera le rôle de forme commune à tous les objets mathématiques (nombres) qu’il recouvre (parmi lesquels il y en a, notons-le en passant, qui sont conçus pour la première fois, puisque d’extensions il s’agit). Mais chacune de ces généralisations formelles (généralisation d’un concept, objet de pensée) dépend génétiquement d’une complétion opératoire sur le plan supérieur des structures respectives ⁴. Le passage par exemple des entiers aux rationnels dépend génétiquement du passage : anneau -> corps des fractions respectif sur le plan des structures, déjà présenté plus haut comme exemple de complétion opératoire. Le fait qu’il n’y ait pas d’abord, sans doute, prise de conscience des structures en toute leur généralité ne les empêche pas d’être présentes sur le plan opératoire, et le processus de généralisation qui les concerne est génétiquement déterminant. Un autre exemple d’une situation analogue est celui de la généralisation des structures formelles. On y retrouve le même rapport d’un processus thématisant à des processus de complétion opératoire sur un plan supérieur, où il n’y a pas de thématisation complète. Le processus de thématisation concerne les structures, la complétion concerne le passage de catégories plus restreintes à des catégories plus larges (complétion catégorielle) — notre supposition continuant d’être que la thématisation des structures formelles exige la mise en œuvre d’instruments catégoriels. Il est conséquent d’admettre que la généralisation formelle des structures dépende fonctionnellement d’une généralisation opératoire de ces instruments catégoriels. C’est le cas par exemple pour la généralisation formelle qui va des corps aux anneaux en général, qui sont une espèce de structure moins riche en compréhension. Elle s’appuie sur la généralisation opératoire qui passe de la catégorie des corps à celle des anneaux, qui est une catégorie plus riche, par l’adjonction de nouveaux objets et de nouveaux morphismes. C’est un nouvel exemple de [p. 257] complétion opératoire, portant cette fois-ci sur les catégories, de nouveau sans qu’une thématisation complète en soit requise. On remarquera la réciprocité caractéristique des rapports de compréhension aux niveaux respectivement des structures thématisées et des instruments catégoriels de la thématisation.

La construction mathématique se poursuivant sans fin, il est exclu qu’elle atteigne jamais un niveau suprême. Il va de soi par ailleurs que la distinction entre les niveaux inférieurs et supérieurs dans ce qui précède n’est que relative, ce qui est à un certain moment du développement du niveau supérieur, non thématisé, pouvant devenir par la suite niveau relativement inférieur objet de thématisation. Mais on assiste alors à des renversements spectaculaires de l’ordre des priorités génétiques, qui méritent une analyse particulière. A considérer les rapports entre la construction opératoire et la thématisation des structures, nous sommes tout d’abord frappés par l’immense décalage chronologique entre les deux, les thématisations explicites de structures mathématiques étant le résultat de développements récents, malgré le fait d’une utilisation opératoire millénaire pour beaucoup d’entre elles. On remarquera en plus tout de suite que l’ordre des thématisations ne reproduit pas celui de la construction opératoire, mais plutôt le renverse, dans les grandes lignes. La structure d’anneau par exemple précède en effet celle de corps dans l’ordre de la construction opératoire, tout aussi comme d’ailleurs les structures de semi- groupe et de monoïde précèdent celle de groupe, étant entendu qu’en tous les cas de construction opératoire qui nous intéressent ici les structures en cause ne sont réalisées que dans ce qui apparaîtra une fois la thématisation ultérieurement acquise, comme étant des modèles très particuliers de ces différentes espèces de structures. Or pour ce qui est de l’ordre des thématisations historiques respectives, la structure de corps a précédé celle d’anneau, tout aussi comme d’ailleurs la structure de groupe a précédé celles de monoïde et de semi-groupe. Cet ensemble de faits peut paraître paradoxal si l’on admet que la thématisation et la construction opératoire procèdent naturellement toutes les deux dans un ordre de généralité croissante, ce qui paraît incompatible avec l’inversion remarquée.

L’explication de ce nouveau paradoxe est cependant très simple, et on peut l’entrevoir à la lumière des considérations [p. 258] précédentes. Le processus historique de la thématisation et le processus psychogénétique de la construction opératoire sont bien tous les deux des processus à orientation généralisatrice dans leur ensemble. C’est ici cependant que la distinction entre généralisations opératoires et généralisations formelles nous sera particulièrement utile. Car si les généralisations qui interviennent dans la construction opératoire sont naturellement avant tout des généralisations par complétion opératoire, celles qu’on rencontre dans les processus de thématisation sont avant tout des généralisations formelles. Or rien n’est plus faux que de croire que la généralisation formelle se borne à thématiser le processus de la généralisation opératoire, comme si la thématisation des structures plus pauvres du départ précédait généralement celle des structures plus riches qui en découlent par complétion opératoire. Le contraire est précisément la règle. On comprend, surtout étant donné l’immense décalage temporel entre la construction opératoire et les processus de thématisation respective, que ceux-ci prennent pour objet tout d’abord les résultats achevés de la construction, avant de remonter, par voie de régression, aux structures de départ plus faibles du point de vue opératoire. C’est ainsi que le plus faible du point de vue opératoire, correspondant aux plus petites compréhensions, finit par déterminer, après thématisation, la plus grande généralité formelle, correspondant aux plus grandes extensions. La dépendance fonctionnelle de la généralisation formelle des structures, par rapport à la complétion opératoire des instruments catégoriels respectifs, est la raison psychogénétique profonde pour laquelle la thématisation par exemple de la structure de corps (resp. de groupe) doit précéder celle de la structure d’anneau (resp. de monoïde ou de semi-groupe).

Il y a toute raison de croire que les situations que nous venons de considérer sont paradigmatiques pour ce qui est des rapports entre la construction opératoire et la thématisation de leurs résultats. Nous conclurons avec la référence à un autre exemple remarquable, celui de la construction spatiale, qui précède de nouveau largement, avec ses débuts préopératoires, puis opératoires, la thématisation complète et générale des structures géométriques. Particulièrement intéressant en cet exemple, par ailleurs analogue aux précédents, est le fait d’une très large séparation chronologique entre les thématisations [p. 259] historiques qui correspondent aux différentes phases de la construction opératoire. La thématisation de la structure métrique euclidienne de l’espace avait en effet conduit déjà, depuis les Grecs, à des développements théoriques très poussés, mais il a fallu attendre jusqu’à l’époque moderne pour que les structures projective et affine sous-jacentes soient thématisées, puis de nouveau jusqu’aux développements tout à fait récents pour que ce soit le tour des structures topologiques, les plus profondes, de faire l’objet d’une étude thématique. Ce très large étalage temporel était bien connu des intéressés à ce domaine théorique, et on en était venu à une conception claire des rapports entre les priorités historiques des différentes géométries et les degrés de généralité formelle respectifs, surtout depuis que le programme d’Erlangen permit de donner à leurs distinctions une précision optimale. Or Piaget a montré, depuis ses premiers travaux sur la psychogenèse spontanée des structures spatiales, que l’ordre des priorités génétiques était à l’envers de celui des priorités historiques, les intuitions et préopérations topologiques précédant sensiblement les opérations projectives et affines, puis métriques. Cela surprit fortement beaucoup de monde, pour une double raison : d’un côté cela montrait avec combien de précautions il faut envisager le parallélisme, d’ailleurs fort suggestif, entre la psychogenèse et l’histoire des sciences ; mais on trouvait surtout choquant d’admettre que la psychogenèse puisse commencer par la construction de structures qui correspondent aux plus hauts degrés de généralité formelle, pour ne s’acheminer que plus tard vers la construction de structures moins générales — ce qui allait à l’encontre des réactions immédiates du sens commun des épistémologistes. En fait, l’explication de l’apparent paradoxe n’est guère différente de celle que nous avons développée pour les structures algébriques, en ramenant les priorités psychogénétiques à l’ordre des complétions opératoires, tandis que les priorités historiques suivent l’ordre des thématisations, d’après les degrés de généralité formelle des différentes structures. Les intuitions et préopérations du jeune sujet sont en effet intégrées par la suite en des structures plus riches (structures projectives et affines, puis métriques), que le sujet construit spontanément au sein d’un processus manifeste de complétion opératoire ; les étapes en sont reprises beaucoup [p. 260] plus tard, mais en sens inverse, par le processus de généralisation formelle qui concerne les structures géométriques.

N’oublions pas aussi qu’une généralisation formelle comme celle qui va de la structure d’espace métrique à la structure, moins riche en compréhension, des espaces topologiques, s’appuie génétiquement sur une complétion catégorielle, qui va de la catégorie des espaces métriques à celle, beaucoup plus riche, des espaces topologiques. Cela explique en définitive pourquoi l’inversion mise en évidence par Piaget n’est pas un résultat du hasard de développements contingents.