236
CHAPITRE 8. LINÉARISATION ET TRANSVERSALITÉ
(2) L’ensemble des points où une fonction de classe C
∞ s’annule à l’ordre
infini est un fermé. Dans le cas d’une fonction holomorphe (c’est-à-dire satisfaisant aux équations de Cauchy-Riemann), ce fermé est aussi un ouvert :
c’est ce que l’on appelle le « principe du prolongement analytique ».
Nous allons démontrer cette proposition en la présentant comme conséquence d’une version du principe de similitude de Carleman, et plus précisément du lemme suivant. Écrivons R
2n = C
n .
Lemme 8.6.8 (principe de similitude). Soit Y : B ε → C
n une solution de
classe C
∞ de l’équation de Cauchy-Riemann perturbée
∂Y
∂s
+ J 0
∂Y
∂t
+ S · Y = 0
et soit p > 2. Alors il existe un nombre δ > 0, δ < ε, une application
A ∈ W
1,p (B δ , GL(R
2n )) et une application holomorphe σ : B δ → C
n tels
que
∀ (s, t) ∈ B δ , Y (s, t) = A(s, t)σ(s + it) et J 0 A(s, t) = A(s, t)J 0 .
Remarque 8.6.9. On peut, plus généralement, supposer, dans cet énoncé, que
Y ∈ W
1,p (B ε ; C
n ) et S ∈ L
p (B ε ; End R (R
2n )) pour p > 2.
Ce principe de similitude lui-même sera, en fin de compte, une conséquence du fait que le ∂ standard est un opérateur de Fredholm. Pour
la démonstration de ce théorème, conséquence de l’inégalité de CalderónZygmund, nous renvoyons au chapitre 16.
Écrivons maintenant les démonstrations des énoncés (le lemme 8.6.2 et
la proposition 8.6.6) qui utilisent ce principe.
Démonstration de la proposition 8.6.6. Il est clair que l’ensemble C est
fermé. Montrons qu’il est aussi ouvert. Soit z 0 = s 0 + it 0 ∈ C. Le principe
de similitude 8.6.8 assure l’existence d’un voisinage B δ (z 0 ) sur lequel
Y (z) = A(z)σ(z), avec σ : B δ (z 0 ) → C
n holomorphe et A à valeurs dans
les endomorphismes réels de C
n .
Sur B δ (z 0 ), Y s’annule à l’ordre infini si et seulement si σ en fait autant.
Mais σ s’annule effectivement à l’ordre infini en z 0 . On a en effet, pour
r < δ,
sup
|z−z0|≤r
|σ(z)| = sup
|z−z0|≤r
A
−1 (z) · Y (z)
≤ K sup
|z−z0|≤r
|Y (z)|
CHAPITRE 8. LINÉARISATION ET TRANSVERSALITÉ
(2) L’ensemble des points où une fonction de classe C
∞ s’annule à l’ordre
infini est un fermé. Dans le cas d’une fonction holomorphe (c’est-à-dire satisfaisant aux équations de Cauchy-Riemann), ce fermé est aussi un ouvert :
c’est ce que l’on appelle le « principe du prolongement analytique ».
Nous allons démontrer cette proposition en la présentant comme conséquence d’une version du principe de similitude de Carleman, et plus précisément du lemme suivant. Écrivons R
2n = C
n .
Lemme 8.6.8 (principe de similitude). Soit Y : B ε → C
n une solution de
classe C
∞ de l’équation de Cauchy-Riemann perturbée
∂Y
∂s
+ J 0
∂Y
∂t
+ S · Y = 0
et soit p > 2. Alors il existe un nombre δ > 0, δ < ε, une application
A ∈ W
1,p (B δ , GL(R
2n )) et une application holomorphe σ : B δ → C
n tels
que
∀ (s, t) ∈ B δ , Y (s, t) = A(s, t)σ(s + it) et J 0 A(s, t) = A(s, t)J 0 .
Remarque 8.6.9. On peut, plus généralement, supposer, dans cet énoncé, que
Y ∈ W
1,p (B ε ; C
n ) et S ∈ L
p (B ε ; End R (R
2n )) pour p > 2.
Ce principe de similitude lui-même sera, en fin de compte, une conséquence du fait que le ∂ standard est un opérateur de Fredholm. Pour
la démonstration de ce théorème, conséquence de l’inégalité de CalderónZygmund, nous renvoyons au chapitre 16.
Écrivons maintenant les démonstrations des énoncés (le lemme 8.6.2 et
la proposition 8.6.6) qui utilisent ce principe.
Démonstration de la proposition 8.6.6. Il est clair que l’ensemble C est
fermé. Montrons qu’il est aussi ouvert. Soit z 0 = s 0 + it 0 ∈ C. Le principe
de similitude 8.6.8 assure l’existence d’un voisinage B δ (z 0 ) sur lequel
Y (z) = A(z)σ(z), avec σ : B δ (z 0 ) → C
n holomorphe et A à valeurs dans
les endomorphismes réels de C
n .
Sur B δ (z 0 ), Y s’annule à l’ordre infini si et seulement si σ en fait autant.
Mais σ s’annule effectivement à l’ordre infini en z 0 . On a en effet, pour
r < δ,
sup
|z−z0|≤r
|σ(z)| = sup
|z−z0|≤r
A
−1 (z) · Y (z)
≤ K sup
|z−z0|≤r
|Y (z)|