MARCEL-PAUL SCHÜTZENBERGER (1920-1996)

Le décès de M.-P. Schützenberger prive la science française d'une personnalité exceptionnelle. Médecin (généticien et épidémiologiste, spécialiste du pian) au début de sa carrière, puis professeur de calcul des probabilités et de statistique à l'université de Poitiers, fondateur de l'école française d'informatique théorique, professeur à la Sorbonne puis à Paris VII, membre de l'Académie des Sciences. Et toute sa vie mathématicien et adversaire du néo-darwinisme. à sa mémoire ont déjà paru un article d'A. Lichnerowicz dans La Recherche (n° d'octobre 1996) et plusieurs textes disponibles sur le World Wide Web 1, parmi lesquels, très substantiels, ceux de ses anciens élèves D. Foata et D. Perrin. Je souhaite donc apporter ici plus un témoignage personnel qu'une information factuelle sur celui qui fut mon directeur de thèse et mon maître à penser pendant quinze ans.

Je l'ai rencontré en 1963. Il était alors professeur à Poitiers. Il revenait d'une année à Harvard, et il allait prendre un poste de directeur de recherches au CNRS, appelé par R. de Possel à l'institut Blaise Pascal, avant d'être élu à la Sorbonne. L'institut Blaise Pascal était alors le laboratoire d'informatique du CNRS, et Schützenberger allait y exercer une influence prépondérante. Je venais de sortir de l'X et j'étais à la recherche d'un directeur de thèse. Je rejoignis ainsi Maurice Gross et Maurice Nivat, en même temps que Jean Berstel. Notre fine équipe se renforça, au fil des ans, avec toujours une forte proportion de polytechniciens. Quelques années plus tard, Schützenberger fit un séjour mémorable à Naples. Depuis, ses disciples de l'ancien royaume des Deux-Siciles entretiennent avec la maison-mère parisienne une collaboration active et féconde.

Je me rappelle ma stupeur, puis mon enthousiasme, devant sa conversation étincelante, où tous les sujets se trouvaient abordés, éclairés d'un point de vue inattendu, transpercés d'une analyse imparable. Il savait tout, il connaissait toutes les langues anciennes et modernes, il avait toujours des informations de première main et une réflexion profonde à offrir à ses auditeurs bousculés, ébranlés, stimulés et enrichis. Tout cela sur le mode improvisé, avec une fougue inoubliable, en amphi aussi bien qu'au café. Après l'éblouissement venait la gratitude, car cette passion généreuse s'étendait en une disponibilité extrême et en un soutien sans faille à ses élèves. Il était, comme on dit, grand seigneur jusqu'au bout des ongles - pas question de partager l'addition au bistro ou au restaurant, c'était toujours lui qui payait.

Il était, il se voulait mathématicien. L'informatique ne l'a vraiment intéressé que comme un moyen pour faire de bonnes mathématiques : d'abord comme source de phénomènes et de problèmes nouveaux, ensuite comme instrument d'investigation, pour mettre ses conjectures à l'épreuve par des calculs à grande échelle.

Le destin l'avait fait d'abord médecin, psychiatre. L'OMS l'envoya lutter contre le pian en Indonésie. Puis, après un détour par l'Amérique, il entra dans l'Université comme professeur de calcul des probabilités. Mais il était algébriste dans l'âme, et la passion de l'algèbre a été, je crois, le moteur principal de son activité scientifique - du moins, dans la partie de son œuvre que je connais. Ses toutes premières publications, dans les années quarante, concernaient les treillis, et ses derniers travaux, avec Alain Lascoux, ont porté sur les fonctions symétriques. Dans des phénomènes variés, dans les exemples et contre-exemples que lui fournissait son immense culture, armé d'intuitions profondes tirées de son expérience de probabiliste, il cherchait à dégager des structures stables, des lois invariantes formulables en termes finis (et de préférence, simples) dans le langage traditionnel de l'algèbre, sans approximation et sans passage à la limite.

Sa force par rapport à des théoriciens plus classiques résidait dans les interprétations complexes qui motivaient ses résultats et les structures qu'il mettait au jour. Les objets qu'il manipulait avaient pour lui un sens, porteur d'intuitions irréductibles à leur aspect purement formel. Ainsi, en combinatoire, il donnait du sens aux identités remarquables qui peuplent cette branche des mathématiques par le principe suivant, dont la thèse de Foata donne un exemple éclatant : pour toute identité liant deux formules d'énumération E1 et E2, la source de cette identité doit se trouver dans le fait que E1 et E2 comptent "naturellement" deux classes d'objets O1 et O2 à découvrir, et dans l'existence d'une transformation biunivoque entre les classes O1 et O2. Sur les nombreuses applications de ce principe à différentes branches des mathématiques, voir les textes de D. Foata et de R. Askey.

Le chapitre de son œuvre où cette force s'est manifestée avec la plus grande clarté est celui qui touche aux mots et aux langages formels. En mathématiques, un mot est simplement une suite finie de lettres prises dans un alphabet donné, donc un objet extrêmement primitif - mais, par là même, ubiquiste. S'il y a peu de chose à dire sur les mots pris comme individus, les ensembles de mots (sur un même alphabet) donnent une meilleure prise à la théorie. En raison d'une des motivations historiques de leur étude, on les appelle des langages formels (sur l'alphabet en question). Une partie des intuitions les concernant relève de l'informatique théorique (théorie des automates et théorie du codage), d'autres proviennent des processus stochastiques ou de la dynamique symbolique. C'est vers la fin des années cinquante que Schützenberger sut rapprocher ses propres préoccupations touchant les phénomènes de codage (issues de ses travaux antérieurs sur la théorie de l'information), les idées de Chomsky en linguistique, et les premières études sur la syntaxe des langages de programmation pour faire émerger cette problématique, sur laquelle bon nombre de ses élèves ont travaillé par la suite. Le volume d'hommage que ses disciples et amis lui ont offert en 1990 s'intitule d'ailleurs Mots 2.

D'autres, au même moment, notamment aux états-Unis, préféraient examiner les mêmes objets (les langages formels) sous l'angle des mécanismes permettant de les manipuler, formalisés comme des automates plus ou moins compliqués ("à bandes et à pédales", disions-nous). Il y eut ainsi une rude compétition, vers la fin des années soixante, entre les algébristes à la française et les "mécaniciens" à l'américaine, chacun cherchant à montrer que les résultats de l'autre étaient justiciables de ses propres méthodes, et que la réciproque n'était pas vraie.

Plus profondément, au-delà de l'emploi du cadre conceptuel de l'algèbre, Schützenberger avait le souci d'orienter ses travaux vers ce qu'il estimait être le centre de la mathématique. Pour lui, un résultat avait d'autant plus de chances d'être intéressant qu'il s'inscrivait mieux dans le cadre patiemment élaboré par des générations de mathématiciens. Il cherchait donc à faire apparaître des objets et des structures classiques, plutôt que d'inventer des constructions ad hoc.

Pour ses élèves, bien sûr, une partie essentielle de son enseignement se trouvait dans ce qu'il ne disait pas, mais que son exemple proclamait : une morale hautaine, le souci de la profondeur et de la qualité intellectuelle, de la mise à l'épreuve et de la critique. Cette redoutable intransigeance se nuançait d'indulgence pour les faiblesses humaines : il parlait souvent des gens qui sont "plus bêtes que méchants", et de "l'hommage que le vice rend à la vertu". Sauf quand il soupçonnait quelque entreprise d'abuser de la crédulité publique en se drapant indûment dans la toge scientifique : il mobilisait alors toutes ses ressources pour la pourfendre. C'est ainsi qu'il a guerroyé contre l'intelligence artificielle, accusée de simplisme abusif. Je garde précieusement son exigence sur le contenu du discours scientifique, et sa méfiance à l'égard des "théories qui n'ont point de théorèmes".

Pour résumer ce que je lui dois, je répèterai ici les paroles de Dante à Virgile par lesquelles je lui avais dédié un exemplaire de ma thèse, et qui vingt-quatre ans après gardent toute leur signification : Tu duca, tu signore e tu maestro.

Jean-François Perrot