THÈSE

UniversitØ Grenoble 1 Joseph Fourier Centre National de la Recherche Scientifique U.M.R. 5582 TH¨SE pour obtenir le grade de DOCTEUR DE L’UNIVERSIT JOSEPH FOURIER spØcialitØ : MathØmatiques prØsentØe par VU NGOC San. Titre : Sur le spectre des systŁmes complŁtement intØgrables semi-classiques avec singularitØs date de soutenance : 15 dØcembre 1998 Jury : Louis Boutet de Monvel Michel Brion Yves Colin de VerdiŁre Johannes Duistermaat Alain Joye Raoul Robertma femme DelphineRemerciements e nombreuses personnes ont contribuØ l’Ølaboration de cette thŁse. C’est avec plaisir que je leur exprime ici ma grande reconnaissance.D Mes premiers remerciements vont Yves Colin de VerdiŁre, qui a bien voulu diriger mes recherches. J’ai apprØciØ non seulement la pertinence de ses nom- breuses idØes, sans lesquelles ce travail n’aurait pas vu le jour, mais aussi la libertØ avec laquelle il me laissait organiser mes re exions. Johannes Duistermaat a acceptØ de me recevoir Utrecht. Je voudrais le remercier pour son accueil chaleureux et son intØrŒt pour mon travail. Je lui suis en outre reconnaissant de me faire l’honneur d’Œtre l’un des rapporteurs de ma thŁse. C’est Øgalement un honneur pour moi que Louis Boutet de Monvel ait ac- ceptØ d’Œtre l’autre rapporteur. Je l’en remercie vivement. Je voudrais aussi remercier Michel Brion, Alain Joye et Raoul Robert pour avoir bien voulu faire partie de mon jury. L’enthousiasme de Richard Cushman pour mes travaux a ØtØ une source d’encouragement trŁs apprØciable. Je l’en remercie sincŁrement, ainsi que tous ceux qui, collŁgues et amis, m’ont aidØ et entourØ durant ces annØes. ette thŁse, prØparØe au sein de l’Institut Fourier, Grenoble, se termine alors que je suis h te de l’UniversitØ d’Utrecht, oø j’e ectue mon ServiceC National en coopØration. J’ai ainsi eu la chance de pro ter de la qualitØ et de la diversitØ de deux dØpartements de mathØmatiques, qui je dois toute ma gratitude. Attention: Cette version a ØtØ recompilØe plusieurs annØes aprŁs, et la pagination est lØgŁrement di Ør ente de la version originale disponible sur le site de l’Institut Fourier.Table des matiŁres 7 Table des matiŁres 1 Introduction 11 1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.2 RØsumØ des principaux rØsultats . . . . . . . . . . . . . . . . . . 16 1.2.1 Formes normales . . . . . . . . . . . . . . . . . . . . . . . 16 1.2.2 Monodromie quantique . . . . . . . . . . . . . . . . . . . . 19 1.2.3 Bohr-Sommerfeld et singularitØs focus-focus . . . . . . . . 20 1.2.4 Forme normale de Birkho et Øtats semi-excitØs . . . . . . 25 1.3 Autres pistes de recherche . . . . . . . . . . . . . . . . . . . . . . 27 1.3.1 SingularitØs non-dØgØnØrØes en dimension 4 . . . . . . . . 27 1.3.2 Focus-focus en codimension 4 . . . . . . . . . . . . . . . . 27 1.3.3 Invariants symplectiques focus-focus . . . . . . . . . . . . 28 1.3.4 Calcul numØrique . . . . . . . . . . . . . . . . . . . . . . . 28 1.3.5 ProblŁmes inverses et classe de Chern . . . . . . . . . . . 28 1.3.6 Asymptotiques spectrales pour Sturm-Liouville . . . . . . 29 1.3.7 tats semi-excitØs en rØsonance k :‘ . . . . . . . . . . . . 29 2 Formes normales 31 2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2.2 Formes normales classiques . . . . . . . . . . . . . . . . . . . . . 34 2.2.1 Le thØorŁme d’Eliasson . . . . . . . . . . . . . . . . . . . . 34 2.2.2 Un exemple : le problŁme de C. Neumann classique . . . . 36 2.2.3 Le commutant classique . . . . . . . . . . . . . . . . . . . 38 2.2.4 Un ( Lemme de PoincarØ ) critique . . . . . . . . . . . . . 41 2.2.4.1 Le cas hyperbolique formel . . . . . . . . . . . . 43 2.2.4.2 Preuve du thØorŁme 2.2.12 . . . . . . . . . . . . 45 2.3 SystŁmes intØgrables quantiques . . . . . . . . . . . . . . . . . . . 47 2.3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . 47 2.3.2 Quanti cation semi-classique . . . . . . . . . . . . . . . . 48 2.3.3 Formes normales microlocales . . . . . . . . . . . . . . . . 49 2.3.4 Le commutant . . . . . . . . . . . . . . . . 50 2.3.5 Preuve du thØorŁme 2.3.1 . . . . . . . . . . . . . . . . . . 52 2.3.6 Remarques nales . . . . . . . . . . . . . . . . . . . . . . 55 3 Monodromie quantique 57 3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 3.2 Construction of the quantum monodromy . . . . . . . . . . . . . 588 Table des matiŁres 3.3 Quantum = classical . . . . . . . . . . . . . . . . . . . . . . . . . 62 3.4 Monodromy of a focus-focus singularity . . . . . . . . . . . . . . 65 3.5 How to detect quantum monodromy . . . . . . . . . . . . . . . . 67 3.5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . 67 3.5.2 Parallel transport on ( h) . . . . . . . . . . . . . . . . . . 67 3.5.3 Unwinding the spectrum . . . . . . . . . . . . . . . . . . . 69 4 Bohr-Sommerfeld et singularitØs focus-focus 73 4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74 4.2 Classical completely integrable systems . . . . . . . . . . . . . . . 75 4.2.1 De nition . . . . . . . . . . . . . . . . . . . . . . . . . . . 75 4.2.2 Known results . . . . . . . . . . . . . . . . . . . . . . . . . 76 4.3 Semi-classical integrable systems . . . . . . . . . . . . . . . . . . 77 4.3.1 De nition . . . . . . . . . . . . . . . . . . . . . . . . . . . 77 4.3.2 The sub-principal form . . . . . . . . . . . . . . . . . . . . 77 4.3.2.1 De nition . . . . . . . . . . . . . . . . . . . . . . 77 4.3.2.2 Deformation of lagrangean submanifolds . . . . . 78 4.3.2.3 of the Action integral . . . . . . . . 80 4.3.2.4 as a semi-classical deformation . . . . . . . . . 80 4.4 Microlocal analysis . . . . . . . . . . . . . . . . . . . . . . . . . . 81 4.4.1 Symbols . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82 4.4.2 Pseudo-di eren tial operators . . . . . . . . . . . . . . . . 83 4.4.3 Fourier integral operators . . . . . . . . . . . . . . . . . . 86 4.4.4 h-admissible functionals . . . . . . . . . . . . . . . . . . . 86 4.4.5 Microlocal solutions . . . . . . . . . . . . . . . . . . . . . 89 4.4.6 Oscillatory integrals . . . . . . . . . . . . . . . . . . . . . 91 4.5 Non-singular quantization conditions . . . . . . . . . . . . . . . . 93 4.5.1 Dimension of the space of microlocal solutions . . . . . . . 93 4.5.2 The sheaf of microlocal solutions . . . . . . . . . . . . . . 95 4.5.3 WKB method . . . . . . . . . . . . . . . . . . . . . . . . . 98 4.5.4 The regular quantization conditions . . . . . . . . . . . . 100 4.5.5 Spectral parameter dependence . . . . . . . . . . . . . . . 101 4.6 Bohr-Sommerfeld for a focus-focus singularity . . . . . . . . . . . 103 4.6.1 Integrable systems with a non-degenerate singularity . . . 103 4.6.2 Linear focus-focus . . . . . . . . . . . . . . . . . . . . . . 104 4.6.3 Geometry of the singular lagrangean . . . . . . . . . . . . 104 4.6.4 Monodromy of the lagrangean bration around . . . . 1070 4.6.5 Microlocal focus-focus . . . . . . . . . . . . . . . . . . . . 109 4.6.6 Regularization of [ ] . . . . . . . . . . . . . . . . . . . . . 114 4.6.7 Global solutions . . . . . . . . . . . . . . . . . . . . . . . 118 4.6.7.1 The microlocal bundle . . . . . . . . . . . . . . . 122 4.6.7.2 The local holonomy at m . . . . . . . . . . . . . 124 4.6.7.3 The outery . . . . . . . . . . . . . . . . 127 4.6.7.4 Recover the regular conditions . . . . . . . . . . 129 4.7 Structure of the joint spectrum . . . . . . . . . . . . . . . . . . . 131 4.7.1 The joint spectrum . . . . . . . . . . . . . . . . . . . . . . 131 4.7.2 Quantum monodromy . . . . . . . . . . . . . . . . . . . . 133Table des matiŁres 9 4.7.3 The exact counting function . . . . . . . . . . . . . . . . . 134 4.7.4 Shape of the spectrum near the critical value . . . . . . . 138 4.7.5 Weyl’s formula . . . . . . . . . . . . . . . . . . . . . . . . 142 5 Forme normale de Birkho et Øtats semi-excitØs 147 5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148 5.2 La forme normale de Birkho quantique . . . . . . . . . . . . . . 149 5.2.1 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . 149 5.2.2 La forme normale de Birkho gØnØrale . . . . . . . . . . . 149 5.2.3 OpØrateurs di Øren tiels polyn miaux . . . . . . . . . . . . 152 5.3 Microlocalisation . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 5.3.1 Symboles . . . . . . . . . . . . . . . . . . . . . . . . . . . 154 5.3.2 SØrie de Taylor . . . . . . . . . . . . . . . . . . . . . . . . 154 5.3.3 Forme normale de Birkho . . . . . . . . . . . . . . . . . 156 5.4 Approximation des Øtats semi-excitØs . . . . . . . . . . . . . . . . 157 5.4.1 RØsultat principal . . . . . . . . . . . . . . . . . . . . . . 157 5.4.2 Microlocalisation . . . . . . . . . . . . . . . . . . . . . . . 159 5.4.3 PremiŁre Øtape . . . . . . . . . . . . . . . . . . . . . . . . 160 5.4.4 DeuxiŁme Øtape . . . . . . . . . . . . . . . . . . . . . . . . 161 5.4.5 Asymptotiques de fond de puits . . . . . . . . . . . . . . . 164 5.4.6 Fonction de comptage . . . . . . . . . . . . . . . . . . . . 164 5.5 RØsonances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 5.5.1 Partie complŁtement intØgrable . . . . . . . . . . . . . . . 165 5.5.2 RØsonance 1 : 1 : : 1 . . . . . . . . . . . . . . . . . . . . 166 Table des gures 171 Bibliographie 173 17710 Table des matiŁres