Da: (con Pierre Rosenstiehl), Actes Sémiotiques Bulletin, VIII, n° 3, mars 1985.
P. Fabbri : Il y a de la découverte en mathématique. Qui en juge, et comment ? Est-ce que cela apparaît à l’analyse textuelle ?
P. Rosenstiehl : Les articles de découvertes, dans le domaine mathématique, sont d’une grande discrétion dans l’écriture : on n’y parle ni des circonstances inconscientes de la découverte, ni des conditions qui ont provoqué la recherche. Par tradition, le résultat est présenté dans un discours aussi codé que poss ible qui cache les intentions et ne décrit pas les fausses pistes. Bien sûr, celles-ci peuvent après coup être révélées, c’est la part des historiens des sciences.
P. F. : Tu écris dans ton article sur le labyrinthe, dans l’Enciclopedia Einaudi, que c’est une démarche usuelle que de se donner une description d’objet, un objet sémantique, et de l’épuiser par le calcul. Après l’énoncé de tel et tel théorème considères-tu que le labyrinthe est “battu” à jamais, ou se constitue-t-il en un autre objet sémantique auquel tu reviens avec des questions d’une pertinence différente ?
P. R. : Le labyrinthe est un objet de choix pour l’élaboration de langages de description, c’est un objet disponible pour le décollement d’un langage qui, avec ses règles, permet de résoudre une famille de problèmes. Oui, le labyrinthe est une forme disponible pour toutes sortes de théories, et si on en choisit une, bien précise, on voit tout de suite surgir une famille de problèmes qui vont de soi. Prenons un exemple, le labyrinthe comme bobine de fil : on déroule et on réenroule ; c’est le mouvement d’une écharpe, une danse : la file des danseurs s’enroule et se déroule. Cette description dans le domaine du discret, correspond à une “structure de données” – c’est-à-dire une structure d’écriture discrète – absolument fondamentale. Déplier, replier… C’est comme empiler des assiettes les unes sur les autres ; discrétiser, c’est faire des pas. On marche dans un réseau ; quand on parle de couloirs parcourus et reparcourus, on discrétise : on empile ces couloirs. Quand on “dépile”, on enlève l’assiette du haut de la pile. On l’efface de la mémoire. La théorie des “piles” constitue une écriture fondamentale: une méthode de mémorisation économique du parcours avec accès au haut de la pile seulement. Une telle structure de stockage permet l’exploration d’un réseau dans lequel on veut faire une recherche. Explorer un réseau : c’est le problème par excellence de la recherche : il s’agit de parcourir un amas plus ou moins organisé, avec des voisinages, et dans ce chaos, de trouver un objet, ou d’y ramasser des objets possédant tel ou tel caractère. Le fil d’Ariane est un algorithme prototypique.
P. F. : Est-ce que ce labyrinthe auquel on applique des procédures de recherches serait le modèle même de l’heuristique ?
P. R. : Certains objets, comme le labyrinthe, sont effectivement d’éternels points d’interrogation qui font fonctionner l’esprit: le labyrinthe, aporie de la maîtrise de l’espace. Le fil, c’est l’écriture de liste, la voie économique pour traiter sur le mode “une dimension” ce qui pourrait en avoir deux ou trois, et serait susceptible de saturer un ordinateur. Alléger, par choix de la bonne écriture, c’est le but recherché. Mais si le labyrinthe a suggéré une certaine forme d’écriture, les murs du labyrinthe ne s’écroulent pas pour autant : on peut y revenir et y voir autre chose. Le labyrinthe de Chartres, par exemple, est tracé sur une surface : le fil va et vient, se courbe, effleure ses propres courbes : il y a des points de tangence. C’est là un problème très général des courbes du plan qui ne se coupent pas elles-mêmes ; quant à celles qui se coupent, il est possible de transformer leurs intersections en lieux de tangence. Dans les problèmes posés par Gauss sur les courbes qui se coupent elles-mêmes, il manquait un langage de discrétisation : pouvoir caractériser la surface où se déploie la courbe par une simple propriété de liste des points d’intersection. Evariste Gallois a donné le coup de pouce en nous donnant les corps finis, langage de choix pour la discrétisation.
P. F. : Est ce qu’il y a une pertinence de l’approche esthétique pour la prise en charge mathématique ?
P. R. : Si, au lieu de regarder le fil comme un parcours, on le voit comme des méandres qui remplissent curieusement la page, alors surgit un problème cartographique. Il vient une nouvelle idée pour décrire le fil : on le coupe par des droites graduées. Les intersections qui apparaissent dans un certain ordre sur le fil, viennent dans un autre ordre sur les droites. On étudie ces ordres : c’est le problème fondamental du tri numérique sur deux courbes de Jordan. Il engendre la théorie des permutations planaires. Surgissent des problèmes qui vont de soi et quelques problèmes essentiels. Il s’agit de trier des nombres qui ne sont pas en ordre par des comparaisons par paires, et en faisant le moins possible de comparaisons. On n’est plus dans l’un des deux premiers langages, mais ils ne sont pas pour autant complètement oubliés. Arriver à faire des théorèmes par combinaison de deux langages, c’est une stratégie de découverte.
P. F. : Comme dans les mythes, où une question qu’on ne peut traiter en termes de cuisine sera traitée sur l’isotopie sexuelle… Est-ce que l’élégance est un paramètre de la tactique de découverte ?
P. R. : Il faut distinguer la stratégie, qui est un projet de marche en avant, et la tactique qui est faite de mouvements locaux pour faciliter la découverte. La tactique des mathématiciens est un incessant va-et-vient entre voir et écrire : on construit des objets plastiques qui sont chargés de formes, puis on les traduit en langage approprié et on revient aux formes souples de l’imaginaire, etc. Or il y a une fécondité de l’écriture, l’écriture n’est pas que policière. Les codes bien choisis, sobres et adaptés à leurs opérateurs, suggèrent certains calculs : il y a une intuition qui se développe à partir de la géométrie même d’une bonne écriture. Il y a aussi une façon de mettre les choses dans la page… C’est pourquoi nous, mathématiciens, tenons à nos brouillons : ils contiennent des choses qui ne passeront pas à l’imprimerie ; nous retrouvons dans leur organisation spatiale des dispositions qui suggèrent des démonstrations. Reconnaissons les mathématiciens plus artisans de problèmes que théoriciens d’un objet. Dans certains discours mathématiques de vulgarisation, les théories s’approprient les objets ; cela est réducteur. L’élégance est aussi de ne pas gonfler une théorie de propriétés touffues et inintéressantes, mais de revenir aux problèmes clés, revisiter l’objet sémantique, en s’imprégnant de l’air du temps. On peut voir comment Von Neumann redémarre sur les descriptions anthropomorphiques de conflit, mémoire, reproduction etc. Les Grecs n’avaient probablement pas dans l’air du temps la préoccupation d’économie du calcul, le souci de la mise en mémoire.
P. F. : Est-ce qu’il n’y a pas aussi une stratégie d’allègement dans l’hypothèse, opposée à la complexité du métalangage disponible ?
P. R. : Certains diront que c’est une sorte d’hygiène dans la démarche que de se donner des hypothèses serrées. Par exemple, la forme du labyrinthe correspondant à une nébuleuse de problèmes, on s’est donc allégé : on a considéré deux ou trois descriptions légères de la forme. Tout l’art est de se fixer des contraintes de description qui font surgir des problèmes simples, dont l’énoncé va de soi : emporter l’adhésion en quelques mots, ne serait-ce pas cela l’élégance ? Fixer les conditions de pertinence, c’est approfondir le simple et non embrasser la complexité du multiple ; voilà qui est tout à fait “rétro”, à contrecourant des modes actuelles : on sait que le monde fou est devenu “globalisant” et “systémique”, adieu élégance.
P. F. : As-tu dit toute la vérité sur l’être du labyrinthe ?
P. R. : Oui, quelques points de détail… (Rires).
- Cette interview, amicale et non directive, de Pierre Rosenstiehl a été réalisée par Paolo Fabbri. Le texte qui suit est un résumé composé par P. Fabbri et F. Bastide, avec l’accord de P. Rosenstiehl.
