INSTITUTE OF MATHEMATICS POLISH ACADEMY OF SCIENCES
WARSZAWA 1998
DIVISION ET EXTENSION
DANS DES CLASSES DE CARLEMAN DE FONCTIONS HOLOMORPHES
V I N C E N T T H I L L I E Z
CNRS - URA 751, Bˆ at. M2, Math´ ematiques Universit´ e des Sciences et Technologies de Lille
59655 Villeneuve d’Ascq Cedex, France E-mail: Vincent.Thilliez@univ-lille1.fr
D´ edi´ e au Professeur Stanis law Lojasiewicz
Abstract. Let Ω be a bounded pseudoconvex domain in C
nwith C
1boundary and let X be a complete intersection submanifold of Ω, defined by holomorphic functions v
1, . . . , v
p(1 ≤ p ≤ n − 1) smooth up to ∂Ω. We give sufficient conditions ensuring that a function f holomorphic in X (resp. in Ω, vanishing on X), and smooth up to the boundary, extends to a function g holomorphic in Ω and belonging to a given strongly non-quasianalytic Carleman class {l! M
l} in ¯ Ω (resp. satisfies f = v
1f
1+ . . . + v
pf
pwith f
1, . . . , f
pholomorphic in Ω and {l! M
l}- regular in ¯ Ω). The essential assumption is that f and v
1, . . . , v
pbelong to some (maybe smaller) Carleman class {l! M
l−}, where the sequences M
−and M are precisely related by geometric conditions on X and Ω.
Introduction. Soit Ω un ouvert born´ e, pseudoconvexe ` a bord lisse, dans C
n, et soit A
∞( ¯ Ω) l’alg` ebre des fonctions holomorphes dans Ω et C
∞jusqu’au bord de Ω (autrement dit, admettant un prolongement C
∞dans C
n). On consid` ere v
1, . . . , v
p(1 ≤ p ≤ n − 1) des fonctions de A
∞( ¯ Ω) ainsi prolong´ ees ` a C
net on pose ˜ X = {v
1= . . . = v
p= 0}, X = ˜ X ∩ ¯ Ω.
Lorsque l’on a ∂v
1∧ . . . ∧ ∂v
p6= 0 sur X ∩ ∂Ω et que les ensembles ˜ X\ ¯ Ω et ¯ Ω sont r´ eguli` erement situ´ es au sens de Lojasiewicz [M], on connaˆıt les propri´ et´ es suivantes :
(a) Toute fonction f de A
∞( ¯ Ω) qui s’annule sur X v´ erifie la propri´ et´ e de division f = v
1f
1+ . . . + v
pf
pavec f
j∈ A
∞( ¯ Ω) pour j = 1, . . . , p.
1991 Mathematics Subject Classification: Primary 32E25, 32E35; Secondary 46E99.
Received by the editors: November 2, 1996.
The paper is in final form and no version of it will be published elsewhere.
[233]
(b) Toute fonction f qui, en un sens convenable, est C
∞sur X et holomorphe dans l’int´ erieur relatif de X dans ˜ X, s’obtient par restriction ` a X d’une fonction g de A
∞( ¯ Ω).
Il s’agit l` a de r´ esultats d’E. Amar [A1]. On se reportera ´ egalement ` a P. de Bartolomeis
& G. Tomassini [DBT], R. Gay & A. Sebbar [GS], ainsi qu’aux r´ ef´ erences cit´ ees dans ces travaux.
Soit ` a pr´ esent M = (M
l)
l≥0une suite croissante de r´ eels positifs, logarithmiquement convexe. Disons qu’une fonction h de classe C
∞au voisinage d’une partie Y de C
nsatisfait des estimations Carleman C
Msur Y s’il existe une constante C telle que les d´ eriv´ ees de h ` a tout ordre l soient born´ ees par C
l+1l! M
lsur Y . Comme on le sait, la suite M mesure, en un certain sens, le d´ efaut d’analyticit´ e de h sur Y .
Dans ce travail, on exploite les r´ esultats de [Th1] pour r´ epondre aux questions sui- vantes. On se place dans le cadre des r´ esultats (a) et (b) rappel´ es pr´ ec´ edemment et on suppose que la suite M est “fortement r´ eguli` ere” (voir § 1, par exemple M
l= l!
α(Log l)
βl, α > 0, β ∈ R). Peut-on alors, `a partir de la donn´ee de M , Ω et ˜ X, d´ eterminer une suite M
−telle que dans les r´ esultats (a) et (b), une hypoth` ese additionnelle de r´ egularit´ e C
M−, portant sur f et sur les v
jdans ¯ Ω, implique que les fonctions f
jet g aient la r´ egularit´ e C
Msur ¯ Ω ? Dans l’affirmative, quelles sont les propri´ et´ es de M
−?
Ce probl` eme se ram` ene ` a l’´ etude de l’id´ eal engendr´ e par les v
jsur la classe des fonctions de A
∞( ¯ Ω) qui v´ erifient des estimations C
Msur ¯ Ω. Apr` es l’introduction d’outils techniques aux § 1 et § 2, les r´ esultats obtenus sont d´ ecrits au § 3. Les d´ emonstrations font l’objet des § 4 et § 5.
La m´ ethode suivie fait appel ` a deux ´ etapes : une premi` ere ´ etape consiste ` a ´ etablir des versions locales des r´ esultats pr´ ecit´ es. Pour cela, on s’inspire en particulier de cons- tructions faites par E. Amar [A1] dans le cas de A
∞( ¯ Ω). La seconde ´ etape consiste ` a globaliser les r´ esultats via des proc´ ed´ es cohomologiques ; ici la proposition 6.1 de [GS]
joue un rˆ ole crucial. Bien entendu, il est ´ egalement n´ ecessaire de disposer de solutions du
∂ ` ¯ a r´ egularit´ e Carleman : ces solutions sont fournies par [CC2] lorsque l’ouvert Ω poss` ede une “bonne” base de voisinages pseudoconvexes.
Tout au long de l’article, et en contraste avec le cas de A
∞( ¯ Ω) o` u l’aspect quantitatif est occult´ e, il est essentiel de contrˆ oler tr` es pr´ ecis´ ement les “pertes de r´ egularit´ e” Car- leman li´ ees ` a la propri´ et´ e de situation r´ eguli` ere des ensembles ˜ X\ ¯ Ω et ¯ Ω. Ceci n´ ecessite l’introduction de proc´ ed´ es sp´ ecifiques : en particulier, le th´ eor` eme de recollement de jets ultradiff´ erentiables et la notion de situation r´ eguli` ere raffin´ ee de [Th1] sont essentiels.
1. R´ esultats pr´ eliminaires
D´ efinition 1.1. Soit M = (M
l)
l≥0une suite de r´ eels positifs. On dit que la suite M est fortement r´ eguli` ere lorsqu’elle v´ erifie les conditions suivantes :
(1.1.1) Les suites M et (M
l+1/M
l)
l≥0sont croissantes.
(1.1.2) Il existe une constante A
1≥ 1 telle que l’on ait, pour tout l,
M
l≤ A
l1M
jM
l−jpour 0 ≤ j ≤ l.
(1.1.3) Il existe une constante A
2≥ 1 telle que l’on ait, pour tout l, X
j≥l
M
j(j + 1)M
j+1≤ A
2M
lM
l+1. On note S
frl’ensemble des suites fortement r´ eguli` eres.
On d´ efinit une relation d’´ equivalence ∼ sur S
fren disant que l’on a M ∼ M
0si et seulement si il existe une constante C, avec C ≥ 1, telle que l’on ait C
−(l+1)M
l≤ M
l0≤ C
l+1M
lpour tout entier l.
On d´ esigne par F l’ensemble des fonctions ϕ : R
+−→ R
+croissantes au voisinage de 0 dans R
+et telles que ϕ(0) = 0. On d´ efinit aussi une relation d’´ equivalence ' sur F en disant que l’on a ϕ ' ψ si et seulement si il existe des constantes b, c, avec 0 < b < 1, 0 < c < 1, telles que l’on ait b ϕ(ct) ≤ ψ(t) ≤ b
−1ϕ(c
−1t) pour t → 0.
1.2. Fonctions h
M. Soit M une suite fortement r´ eguli` ere. Pour tout entier l, on pose h
M(t) = inf
j≥0
t
jM
jpour t ∈ R
+.
La fonction h
Mest continue, croissante et on a h
M(0) = 0 et h
M(t) = M
0pour t ≥ 1.
De plus, si on pose N
l= Sup
t>0
t
−lh
M(t), on a alors N ∼ M en vertu de la condition de convexit´ e logarithmique (1.1.1). La donn´ ee de h
Md´ etermine donc M dans S
fr/ ∼. Comme autre cons´ equence, ´ etant donn´ ees deux suites M et M
0de S
fr, l’existence de constantes b et c avec 0 < b < 1, 0 < c < 1, telles que l’on ait b h
M(ct) ≤ h
M0(t) pour t −→ 0,
´
equivaut ` a l’existence d’une constante C ≥ 1 telle que l’on ait M
l≤ C
l+1M
l0pour tout entier l. En particulier, on a M ∼ M
0si et seulement si on a h
M' h
M0dans F . Compte tenu de ces remarques, on confondra souvent, dans le reste de ce travail, les suites M de S
fret leurs classes d’´ equivalence modulo ∼ .
Exemple. Soient α et β r´ eels, avec α > 0. La suite M donn´ ee par M
l= l!
α(Log l)
βlpour l ≥ 1 est fortement r´ eguli` ere et on a h
M(t) ' exp(−t
−1/α(Log(1/t))
−β/α).
D´ efinition 1.3. Soit θ un ´ el´ ement de F . On dira que la fonction θ est fortement admissible si elle v´ erifie les conditions suivantes :
(1.3.1) Elle est continue, strictement croissante, au voisinage de 0 dans R
+. (1.3.2) La fonction t −→ θ(t)/t est croissante au voisinage de 0 dans R
+.
(1.3.3) Il existe un r´ eel q > 1 tel que la fonction t −→ θ(t)/t
qsoit d´ ecroissante au voisinage de 0 dans R
+.
Exemple. Un exemple standard de fonction fortement admissible est donn´ e par θ(t) = t
µ(Log(1 +
1t))
−ν, o` u µ et ν sont deux r´ eels, avec µ ≥ 1 et ν ≥ 0.
La d´ efinition 1.4 ci-apr` es illustre l’usage que l’on fera, dans ce travail, des fonctions fortement admissibles. On d´ esigne par d la distance euclidienne.
D´ efinition 1.4. Soient Y
1et Y
2deux sous-ensembles ferm´ es de R
net θ une fonction fortement admissible. Si on a Y
1∩ Y
26= ∅, on dit que Y
1et Y
2sont θ-situ´ es lorsque, quels que soient les sous-ensembles compacts respectifs E
1et E
2de Y
1et Y
2, il existe une constante γ > 0 et un ouvert V contenant E
1∪ E
2tels que l’on ait
(1.4.1) d(x, E
1) + d(x, E
2) ≥ γ θ(d(x, E
1∩ E
2))
pour tout x de V . Si on a Y
1∩ Y
2= ∅, on convient aussi de dire que Y
1et Y
2sont θ-situ´ es avec θ(t) = t (autrement dit : id-situ´ es).
R e m a r q u e 1.5. Dans la d´ efinition pr´ ec´ edente, il est possible d’employer des fonc- tions admissibles plus g´ en´ erales, voir [Th1] et [Th2]. Ici, il sera techniquement plus simple de se limiter aux fonctions fortement admissibles d´ efinies en 1.3. Il s’agit d’une restriction minime, voir les points 1.6 et 1.7 de [Th2].
Il convient par ailleurs de remarquer que, compte tenu de (1.3.3), la θ-situation d´ efinie en 1.4 implique la situation r´ eguli` ere de Lojasiewicz [M]. Elle en est une forme pr´ ecis´ ee.
On rappelle maintenant une construction faite dans la proposition 2.2 de [Th1]. Elle jouera un rˆ ole essentiel aux § 3 et § 4.
Proposition 1.6. Soit θ une fonction fortement admissible. Alors, quel que soit M dans S
fr/ ∼, il existe un unique M
(θ)dans S
fr/ ∼ tel que l’on ait
(1.6.1) h
M' h
M(θ)◦ θ.
En outre, M
(θ)est donn´ e explicitement , modulo ∼, par (1.6.2) M
l(θ)= Y
0≤j≤l−1
m
(θ)javec m
(θ)j= 1
θ(1/m
j) , m
j= M
j+1/M
j. Exemples.
(i) Pour θ(t) = t
µ(µ ≥ 1), on a M
l(θ)= (M
l)
µ. En particulier, pour θ = id (identit´ e), on a M
(θ)= M .
(ii) Pour M
l= l!
α(Log l)
βlet θ(t) = t
µ(Log(1 +
1t))
−νavec α > 0, β ≥ 0, µ ≥ 1 et ν ≥ 0, on a M
l(θ)= l!
αµ(Log l)
(βµ+ν)l(On v´ erifie (1.6.1) ` a l’aide de l’exemple donn´ e en 1.2, ou bien on utilise (1.6.2)).
On a tr` es facilement la propri´ et´ e suivante : soient θ une fonction fortement admissible et M une suite de S
fr/ ∼ ; alors il existe des constantes q ≥ 1 et C ≥ 1 telles que l’on ait
C
−(l+1)M
l≤ M
l(θ)≤ C
l+1(M
l)
qpour tout l (c’est une cons´ equence directe de (1.3.2), (1.3.3) et (1.6.2)). La propri´ et´ e qui suit est beaucoup moins imm´ ediate.
Proposition 1.7 ([Th2], proposition 1.10). Soit θ une fonction fortement admissible.
Alors l’application M −→ M
(θ)est une bijection de S
fr/ ∼ sur lui-mˆ eme.
1.8. Notation. Dans toute la suite, si θ est une fonction fortement admissible donn´ ee et si M est un ´ el´ ement de S
fr/ ∼, on notera M
−l’unique ´ el´ ement de S
fr/ ∼ tel que l’on ait (M
−)
(θ)= M .
2. Classes de Carleman
2.1. Notations. Pour z = (z
1, . . . , z
n) dans C
n, on pose z
j= x
j+ ix
n+j(1 ≤ j ≤ n).
Pour tout multi-indice L = (l
1, . . . , l
2n) de N
2n, on note l la longueur l
1+ . . . + l
2nde L et D
Lle monˆ ome de d´ erivation ∂
l/∂x
l11· · · ∂x
l2n2nassoci´ e ` a L.
2.2. Classes de Carleman. Soit M une suite fortement r´ eguli` ere. Une fonction f de
C
∞(C
n) sera dite appartenir ` a la classe de Carleman C
M(C
n) s’il existe une constante
positive C (d´ ependant de f ) telle que l’on ait, pour tout multi-indice L de N
2net tout z de C
n,
(2.2.1) |D
Lf (z)| ≤ C
l+1l! M
l.
La classe C
M(C
n) est une alg` ebre, stable par op´ erateurs diff´ erentiels. Elle est fortement non-quasianalytique [B], en particulier dot´ ee de partitions de l’unit´ e.
Soit ` a pr´ esent Ω un ouvert born´ e ` a bord de classe C
1dans C
n. On d´ efinit la classe de Carleman C
M( ¯ Ω) comme l’alg` ebre des fonctions f de C
∞( ¯ Ω) telles que l’on ait (2.2.1) pour tout multi-indice L et tout z de ¯ Ω, et on d´ efinit A
M( ¯ Ω) comme l’alg` ebre des fonctions de C
M( ¯ Ω) qui sont holomorphes dans Ω. D’apr` es [B], [CC1] (voir aussi le corollaire 3.12 de [BBMT]), pour toute fonction f de C
M( ¯ Ω), il existe une fonction ˜ f de C
M(C
n) telle que l’on ait ˜ f |
Ω¯= f ; ainsi A
M( ¯ Ω) peut ˆ etre encore vu comme l’ensemble des fonctions f de C
M(C
n) telles que l’on ait ¯ ∂f = 0 sur ¯ Ω. Plus g´ en´ eralement, si K est un compact de C
n, on notera A
M(K) l’ensemble des fonctions f de C
M(C
n) telles que ¯ ∂f s’annule ` a l’ordre infini sur K (compte tenu des th´ eor` emes d’extension de [B], [CC1], cette notion co¨ıncide avec celle de jet ¯ ∂-plat de classe C
Msur K).
Soit F un faisceau de germes de fonctions sur ¯ Ω. On d´ esigne par F
(p,q)le faisceau des germes de (p, q)-formes diff´ erentielles ` a coefficients dans F , par Γ( ¯ Ω, F ) l’espace des sections de F et par F
ζla fibre de F en un point ζ de ¯ Ω. On note C
M(resp. A
M) le faisceau sur ¯ Ω des germes de fonctions de C
M( ¯ Ω) (resp. A
M( ¯ Ω)) et O le faisceau usuel sur C
ndes germes holomorphes. On identifie Γ( ¯ Ω, C
M) et C
M( ¯ Ω) (resp. Γ( ¯ Ω, A
M) et A
M( ¯ Ω)).
On remarquera que toutes les notions pr´ ec´ edentes ne d´ ependent que de la classe de M modulo ∼ .
D´ efinition 2.3 [CC2]. Un compact K de C
nest dit 1-H-convexe s’il existe une constante c, avec 0 < c < 1, telle que pour tout r´ eel δ > 0, assez petit, on puisse trouver un ouvert Ω
δpseudoconvexe satisfaisant
{z : d(z, K) < cδ} ⊂ Ω
δ⊂ {z : d(z, K) < δ}.
Exemples.
(i) Si Ω est un ouvert born´ e ` a bord C
2strictement pseudoconvexe, ou plus g´ en´ erale- ment C
1` a fonction d´ efinissante plurisousharmonique, alors ¯ Ω est 1-H-convexe.
(ii) L’adh´ erence de tout ouvert Ω born´ e pseudoconvexe ` a bord C
1est localement 1-H-convexe, en ce sens que chaque point de ¯ Ω poss` ede une base de voisinages relatifs ` a Ω d’adh´ ¯ erences 1-H-convexes.
Dans [CC2], l’´ equation ¯ ∂ est r´ esolue dans les classes de jets Gevrey d’un compact 1-H-convexe. La d´ emonstration s’adapte sans probl` eme ` a toute classe de Carleman as- soci´ ee ` a une suite fortement r´ eguli` ere. Compte tenu de l’exemple (ii) qui pr´ ec` ede, on obtient le r´ esultat local suivant :
Proposition 2.4 [CC2]. Soient M une suite fortement r´ eguli` ere et Ω un ouvert born´ e pseudoconvexe ` a bord C
1dans C
n. Avec les notations de 2.1, on a l’exactitude du complexe
0 −→ A
M−→ C
M∂¯
−−−→ C
M(0,1)−−−→ . . .
∂¯−−−→ C
∂¯ M(0,n)−→ 0.
Il en r´ esulte classiquement ([G], D5 et D8) que l’on a H
q( ¯ Ω, A
M) = H
∂q¯(Γ( ¯ Ω, C
M(0,∗))) pour q ≥ 1. En appliquant de nouveau [CC2], on en d´ eduit le r´ esultat global :
Proposition 2.5 [CC2]. Soient M une suite fortement r´ eguli` ere et Ω un ouvert born´ e pseudoconvexe ` a bord C
1dans C
n, dont l’adh´ erence est 1-H-convexe. On a alors
H
q( ¯ Ω, A
M) = 0 pour q ≥ 1.
3. ´ Enonc´ e des r´ esultats
3.1. Hypoth` eses. On consid` ere un ouvert Ω pseudoconvexe born´ e dans C
n, ` a bord de classe C
1. On suppose en outre, dans tout ce qui suit , que l’on a
H
q( ¯ Ω, A
M) = 0 pour q ≥ 1.
D’apr` es 2.5, ceci est par exemple vrai d` es que ¯ Ω est 1-H-convexe.
On donne θ une fonction fortement admissible et M une suite fortement r´ eguli` ere.
Soient p un entier avec 1 ≤ p ≤ n − 1 et v
1, . . . , v
pdes fonctions de A
M( ¯ Ω), prolong´ ees en ´ el´ ements de C
M(C
n) (voir 2.2). On pose
X = {z ∈ C ˜
n: v
1(z) = . . . = v
p(z) = 0} et X = ˜ X ∩ ¯ Ω.
On suppose que ˜ X rencontre ∂Ω ; en particulier on a X 6= ∅.
On note enfin (v
1, . . . , v
p)C
M( ¯ Ω) (resp. (v
1, . . . , v
p)A
M( ¯ Ω)) l’id´ eal engendr´ e par les v
jsur C
M( ¯ Ω) (resp. A
M( ¯ Ω)).
On consid` ere la liste d’hypoth` eses suivante. Ces hypoth` eses serviront ` a tour de rˆ ole dans les diff´ erents r´ esultats ´ etablis.
(H
1) Les v
jappartiennent ` a A
M( ¯ Ω).
(H
2) Les v
jappartiennent ` a A
M−( ¯ Ω).
(H
3) On a ∂v
1∧ . . . ∧ ∂v
p6= 0 sur X ∩ ∂Ω.
(H
4) Les ensembles ˜ X\ ¯ Ω et ¯ Ω sont θ-situ´ es.
(H
5) L’int´ erieur de X relatif ` a ˜ X est dense dans X.
On a alors les ´ enonc´ es ci-dessous. Les preuves feront l’objet des § 4 et § 5 de ce travail.
Th´ eor` eme 3.2. Sous les hypoth` eses (H
1) et (H
3), on a
A
M( ¯ Ω) ∩ (v
1, . . . , v
p)C
M( ¯ Ω) = (v
1, . . . , v
p)A
M( ¯ Ω).
Th´ eor` eme 3.3 (division). Sous les hypoth` eses (H
2), (H
3), (H
4), (H
5), soit f une fonction de A
M−( ¯ Ω) telle que l’on ait f |
X= 0 . Alors f appartient ` a (v
1, . . . , v
p)A
M( ¯ Ω).
Th´ eor` eme 3.4 (extension). Sous les hypoth` eses (H
2), (H
3), (H
4), soit f une fonction de A
M−(X). Alors il existe une fonction g de A
M( ¯ Ω) telle que l’on ait g |
X= f.
3.5. Remarques sur les hypoth` eses (H
j)
(i) Les conditions (H
1) ou (H
2) sont v´ erifi´ ees automatiquement lorsque les v
jsont des fonctions holomorphes au voisinage de ¯ Ω.
(ii) ` A l’aide des propri´ et´ es des fonctions admissibles, on peut s’assurer, en s’inspirant
du § 0 de [A2], que (H
4) ne d´ epend pas du choix du prolongement ` a C
ndes v
j.
(iii) Lorsque l’ordre de contact entre ˜ X et ∂Ω en chaque point ζ de ˜ X ∩ ∂Ω est au plus ´ egal ` a m (m ∈ N
∗), c’est ` a dire lorsque l’on a lim inf
z−→ζ, z∈ ˜X
|z − ζ|
−md(z, ∂Ω) > 0, il est facile de v´ erifier que (H
4) est satisfaite avec θ(t) = t
m. La r´ eciproque est fausse except´ e dans le cas m = 1, θ = id, o` u (H
4) a lieu si et seulement si X est transverse ` a ∂Ω.
(iv) Dans le cas o` u X est transverse ` a ∂Ω, la condition (H
5) est automatiquement v´ erifi´ ee.
3.6. Remarques sur les conclusions des th´ eor` emes 3.2, 3.3, 3.4.
(i) Lorsque X est transverse ` a ∂Ω, les th´ eor` emes 3.3 et 3.4 sont sans perte de r´ egularit´ e puisque l’on a alors θ = id, M = M
−.
(ii) Lorsque les v
jsont holomorphes au voisinage de ¯ Ω, la conclusion de 3.2 est ` a comparer ` a celle du th´ eor` eme ´ etabli par A. Nagel pour A
∞( ¯ Ω) ([N], th´ eor` eme 3.2). Le th´ eor` eme de Nagel ne requiert cependant pas l’hypoth` ese (H
3).
4. R´ esultats locaux
4.1. Notation. On note I := (v
1, . . . , v
p)A
Met J := (v
1, . . . , v
p)C
Mles faisceaux engendr´ es respectivement sur A
Met C
Mpar les v
j. Comme cons´ equence de l’existence de partitions de l’unit´ e de classe C
M, on a ´ evidemment
(4.1.1) Γ( ¯ Ω, J ) = (v
1, . . . , v
p)C
M( ¯ Ω).
4.2. Coordonn´ ees locales. L’hypoth` ese (H
3) implique que ˜ X est une vari´ et´ e lisse au voisinage de ∂Ω et pour tout point ζ de X ∩ ∂Ω, il existe un voisinage U de ζ et un (n − p)-uple u de fonctions sur U telles que (u, v) := (u
1, . . . , u
n−p, v
1, . . . , v
p) forme un syst` eme de coordonn´ ees d’origine ζ, appartenant ` a la classe C
M−lorsque (H
2) est v´ erifi´ ee, C
Mdans le cas g´ en´ eral (H
1), et holomorphes dans Ω ∩ U (voir [D] pour la version C
Mdu th´ eor` eme des fonctions implicites utilis´ ee ici).
Soit r une fonction d´ efinissante pour Ω. On pourra, quitte ` a renum´ eroter les v
j, sup- poser que l’on a ∂r ∧ ∂v
2∧ . . . ∧ ∂v
p6= 0 dans U , c’est ` a dire que v
2, . . . , v
psont des coor- donn´ ees tangentielles (lorsque la coordonn´ ee v
1est aussi tangentielle, ˜ X est transverse ` a
∂Ω au voisinage de ζ).
Pour j = 0, . . . , p, on notera X
j= {(u, v) ∈ C
n: v
j+1= . . . = v
p= 0} (on a X
0= ˜ X et X
p= C
n). Pour toute partie Y de C
n, on pourra identifier X
j∩ Y avec sa projection sur C
n−p+j.
Dans toute la suite, on utilisera sans le mentionner la stabilit´ e de la r´ egularit´ e Carle- man par composition (donc par passage aux coordonn´ ees (u, v)), voir [D].
Proposition 4.3 (extension locale). On se place dans les hypoth` eses (H
2), (H
3), (H
4). Soient ζ un point de X ∩ ∂Ω et f un germe en ζ de fonction de A
M−(X), c’est-` a- dire un germe de C
M−,ζqui est ¯ ∂-plat sur X. Alors il existe un germe g dans A
M,ζtel que l’on ait g |
X˜= f.
Dans cet ´ enonc´ e et les suivants, les conditions de restriction ou de ¯ ∂-platitude sont
bien sˆ ur sous-entendues au voisinage de ζ. Ici, le fait que g co¨ıncide avec f non seulement
sur X, mais mˆ eme sur ˜ X (les germes ´ etant prolong´ es au voisinage de ζ), jouera un rˆ ole important en 5.5.
P r e u v e. On suit la ligne directrice du th´ eor` eme 2.1 de [A1] en contrˆ olant pr´ ecis´ ement les pertes de r´ egularit´ e. On utilise les coordonn´ ees locales (u, v) dans un voisinage U de ζ.
D’apr` es 2.2, on peut ´ etendre le germe f en une fonction de C
M−(C
n), que l’on notera encore f . Pour u ∈ C
n−p, on pose g
0(u) = f (u, 0, . . . , 0) et on consid` ere l’extension triviale de g
0` a C
n−p+1, donn´ ee par
f
1(u, v
1) = g
0(u), de sorte que l’on a f
1∈ C
M−(C
n−p+1),
(4.3.1) f
1|
X∩U˜= f
et enfin, par hypoth` ese sur f ,
(4.3.2) ∂f ¯
1est plat sur X ∩ U.
A partir de (H `
4) et des d´ efinitions, il est facile de v´ erifier que ˜ X\(X
1∩ ¯ Ω) et X
1∩ ¯ Ω sont θ-situ´ es au voisinage de 0 dans C
n−p+1. Compte tenu de (4.3.2), de 1.6–1.8 et du th´ eor` eme 2.4 de [Th1], il existe une (0, 1)-forme ω
1de classe C
Mdans C
n−p+1telle que l’on ait, quitte ` a r´ etr´ ecir U ,
(4.3.3) ω
1= ¯ ∂f
1dans X
1∩ ¯ Ω ∩ U,
(4.3.4) ω
1est plate sur X ∩ U. ˜
De (4.3.4), on d´ eduit que l’on a, pour tout multi-indice J , tout entier k et tout (u, v
1) de X
1∩ U ,
(4.3.5) |D
Jω
1(u, v
1)| ≤ C
j+k+1(j + k)!M
j+k|v
1|
k/k!,
o` u C est une constante convenable. On consid` ere alors la (0, 1)-forme η
1:= v
−11ω
1, qui est de classe C
∞sur (X
1\ ˜ X) ∩ U . Pour tout multi-indice L, on d´ eveloppe D
Lη
1` a l’aide de la formule de Leibniz et on estime chaque terme (D
Iv
−11)(D
Jω
1) apparaissant dans le d´ eveloppement avec I + J = L, en utilisant (4.3.5) avec k = i + 2. Compte tenu de l’estimation triviale |D
Iv
1−1| ≤ i! |v
1|
−(i+1)et de la propri´ et´ e (1.1.2) des suites fortement r´ eguli` eres, on obtient sans difficult´ e
(4.3.6) |D
Lη
1(u, v
1)| ≤ C
l+1l!M
l|v
1| pour tout (u, v
1) de (X
1\ ˜ X) ∩ U , quitte ` a augmenter C.
Il s’ensuit que η
1se prolonge en une (0, 1)-forme de classe C
Msur X
1, plate sur ˜ X ∩U . Par (4.3.3), on a aussi ¯ ∂η
1= 0 sur X
1∩ ¯ Ω ∩ U .
On remarque maintenant que X
1∩ Ω ∩ U s’identifie ` a un ouvert de C
n−p+1` a bord de classe C
1, pseudoconvexe, au voisinage de 0 : c’est une cons´ equence imm´ ediate du fait que les coordonn´ ees v
jsont tangentielles pour j ≥ 2. On peut appliquer ` a cet ouvert la proposition 2.4. Quitte ` a restreindre U , il existe donc une fonction h
1de classe C
Msatisfaisant ¯ ∂h
1= η
1dans X
1∩ ¯ Ω ∩ U . D’apr` es 2.2, h
1peut ´ evidemment ˆ etre suppos´ ee de classe C
M` a support compact dans C
n−p+1.
On pose alors g
1= f
1− v
1h
1. Clairement, g
1est de classe C
Mdans C
n−p+1, on a
∂g ¯
1= 0 sur X
1∩ ¯ Ω ∩ U et g
1|
X∩U˜= f
1|
X∩U˜= f compte tenu de (4.3.1).
En particulier, pour p = 1, le germe de g
1en ζ r´ ealise l’extension souhait´ ee.
Pour p ≥ 2, on consid` ere f
2d´ efinie par extension triviale de g
1` a C
n−p+2, c’est-` a-dire par
f
2(u, v
1, v
2) = g
1(u, v
1).
La fonction f
2est de classe C
Msur C
n−p+2et on a manifestement
(4.3.7) f
2|
X∩U˜= f.
On a enfin
(4.3.8) f
2est ¯ ∂-plate sur X
1∩ ¯ Ω ∩ U.
Par ailleurs, la coordonn´ ee v
2est tangentielle, donc X
1et X
2∩ ∂Ω sont transverses, et les ensembles X
1\(X
2∩ ¯ Ω) et X
2∩ ¯ Ω sont id-situ´ es, au voisinage de 0. En utilisant encore [Th1], th´ eor` eme 2.4, et (4.3.8), il existe une (0, 1)-forme ω
2de classe C
M(comme f
2) dans C
n−p+2telle que l’on ait
ω
2= ¯ ∂f
2dans X
2∩ ¯ Ω ∩ U, ω
2est plate sur X
1∩ U, quitte ` a r´ eduire U .
De l` a, on montre comme pr´ ec´ edemment que η
2:= v
2−1ω
2est de classe C
Mdans X
2, plate sur X
1; on r´ esoud ¯ ∂h
2= η
2dans X
2∩ Ω ∩ U et on pose g
2= f
2− v
2h
2. Dans le cas p = 2, compte tenu de (4.3.7), le germe de g
2en ζ r´ ealise l’extension annonc´ ee.
Pour p ≥ 3, on it` ere la construction pr´ ec´ edente en remarquant que, puisque les coor- donn´ ees v
3, . . . , v
psont tangentielles, les ensembles X
jet X
j+1∩ ∂Ω seront, ` a chaque fois, transverses au voisinage de 0 : on conservera donc la r´ egularit´ e C
M` a chaque ´ etape, contrairement ` a ce qui se passait dans la construction de g
1(passage de C
M−` a C
M).
Proposition 4.4 (division locale). On se place dans les hypoth` eses (H
2), (H
3), (H
4) et (H
5). Soit ζ un point de X ∩ ∂Ω et soit f un germe de A
M−,ζtel que l’on ait f |
X= 0 . Alors f appartient ` a I
ζ.
P r e u v e. Il s’agit de trouver des germes g
1, . . . , g
pdans A
M,ζtels que l’on ait f = v
1g
1+ . . . + v
pg
p.
Dans les coordonn´ ees locales (u, v), le germe f ´ etant suppos´ e prolong´ e en une fonction de classe C
M−sur C
ncomme indiqu´ e en 2.2, on a f (u, 0) = 0 pour (u, 0) ∈ X ∩ U . D’apr` es (H
5), il en r´ esulte que toutes les d´ eriv´ ees de u −→ f (u, 0) sont ´ egalement nulles pour (u, 0) ∈ X∩U. Aussi, si on pose ϕ
1(u, v) = f (u, v
1, 0, . . . , 0) et ˜ ϕ
1(u, v
1) = ϕ
1(u, v
1)−
f (u, 0), les jets de classe C
M−induits par ϕ
1sur E
1:= X
1∩ ¯ Ω ∩ U (resp. ˜ ϕ
1sur E
2:= ( ˜ X\(X
1∩ ¯ Ω)) ∩ U ) co¨ıncident sur E
1∩ E
2(on a E
1∩ E
2⊂ X). En appliquant, compte tenu de (H
4) et de 1.6–1.8, le th´ eor` eme 2.4 de [Th1], on obtient une fonction F
1de C
M(C
n−p+1) qui co¨ıncide avec ϕ
1sur E
1(resp. ˜ ϕ
1sur E
2), quitte ` a r´ etr´ ecir U . On en d´ eduit en particulier
(4.4.1) F
1 X1∩ ¯Ω∩U= f ainsi que
(4.4.2) F
1|
X∩U˜= 0,
c’est ` a dire F
1(u, 0) = 0 pour u voisin de 0 dans C
n−p. Par suite, quitte ` a r´ eduire U , on a, pour tout (u, v
1) de X
1∩ U ,
(4.4.3) F
1(u, v
1) = v
1G
1(u, v
1) + ¯ v
1H
1(u, v
1) avec
(4.4.4) G
1(u, v
1) = Z
10
∂F
1∂v
1(u, tv
1)dt et H
1(u, v
1) = Z
10
∂F
1∂ ¯ v
1(u, tv
1)dt.
Pour (u, v
1) ∈ X
1∩ U , si on pose f
1(u, v
1) = v
1−1F
1(u, v
1), on a (4.4.5) f
1(u, v
1) = G
1(u, v
1) + I
1(u, v
1)
avec I
1(u, v
1) = v
−11K
1(u, v
1) et K
1(u, v
1) = ¯ v
1H
1(u, v
1). On a vu dans la preuve de 4.3 que X
1∩ Ω s’identifie ` a un ouvert de C
n−p+1, pseudoconvexe ` a bord C
1au voisinage de 0. On va montrer que f
1d´ efinit une fonction de classe A
Mdans cet ouvert. Pour cela, on ´ etudie s´ epar´ ement les termes I
1, puis G
1, de (4.4.5).
Pour tout multi-indice L et tout (u, v
1) de X
1∩ U , on a d’abord, par (4.4.4), la majoration |D
LH
1(u, v
1)| ≤ Sup
0≤t≤1
|(D
L ∂F∂ ¯v11
)(u, tv
1)|. Or, d’apr` es (4.4.1) et l’holomorphie de f , la fonction ∂F
1/∂ ¯ v
1est plate sur X
1∩ ¯ Ω ∩ U . On en d´ eduit ais´ ement
(4.4.6) |D
LH
1(u, v
1)| ≤ Sup
0≤t≤1
C
l+k+1(l + k)!M
l+kdist((u, tv
1), X
1∩ ¯ Ω ∩ U )
k/k! , pour tout multi-indice L, tout entier k et tout (u, v
1) de X
1∩ ¯ Ω ∩ U , C d´ esignant une constante convenable. Or, pour (u, v
1) ∈ X
1∩ ¯ Ω∩U et t ∈ [0, 1], on a dist((u, tv
1), ¯ Ω∩U ) ≤
|(u, tv
1) − (u, v
1)| ≤ |v
1|. Par (4.4.6) et par d´ efinition de K
1, il vient donc
|D
LK
1(u, v
1)| ≤ C
l+k+1(l + k)!M
l+k|v
1|
k/k!,
quitte ` a augmenter C. De l` a, on tire comme dans la preuve de 4.3 (r´ egularit´ e de v
1−1ω
1` a partir de (4.3.5)) que I
1se prolonge en une fonction de classe C
Msur X
1∩ ¯ Ω ∩ U , plate sur X ∩ U .
On v´ erifie ensuite sans difficult´ e, ` a partir de (4.4.1) et de l’holomorphie de f , que G
1est de classe C
Msur X
1∩ ¯ Ω ∩ U , ¯ ∂-plate sur X ∩ U .
Ainsi, f
1est de classe C
Msur X
1∩ ¯ Ω ∩ U , ¯ ∂-plate sur X ∩ U . En outre, elle est clairement holomorphe sur (X
1\ ˜ X) ∩ Ω ∩ U , o` u elle co¨ıncide avec v
−11f . On en d´ eduit bien le r´ esultat annonc´ e pr´ ec´ edemment.
A pr´ ` esent, comme X
1est transverse ` a ∂Ω, il existe, d’apr` es 4.3 et quitte ` a r´ eduire encore U , une fonction g
1de classe A
Mdans Ω ∩ U et satisfaisant g
1 X1∩ ¯Ω∩U
= f
1. Ceci prouve la proposition pour p = 1, puisqu’on a alors f = v
1g
1.
Dans le cas p ≥ 2, on consid` ere la fonction f − v
1g
1: c’est un germe de A
M,ζ, nul sur X
1par construction. Suivant l’id´ ee de [A1], th´ eor` eme 3.1, on r´ ep` ete alors la d´ emarche pr´ ec´ edente en construisant F
2telle que l’on ait
F
2 X2∩ ¯Ω∩U= f − v
1g
1, F
2|
X1∩U= 0,
de fa¸ con ` a construire g
2comme extension de v
−12F
2, et ainsi de suite. On it` ere ce processus
en notant que les constructions successives se font maintenant sans perte de r´ egularit´ e
puisque les X
jsont transverses ` a ∂Ω.
Les lemmes qui suivent serviront au paragraphe 5.
Lemme 4.5. On se place dans les hypoth` eses (H
1), (H
3). Alors la suite 0 −→ I −→ J −−−→ K −→ 0,
∂¯o` u K d´ esigne le faisceau image de J par ¯ ∂, est exacte.
P r e u v e. Le lemme revient ` a montrer que si ζ est un point de ¯ Ω et f un germe de la forme
(4.5.1) f = v
1f
1+ . . . + v
pf
pavec f
j∈ C
M,ζpour j = 1, . . . , p, satisfaisant ¯ ∂f = 0, alors on peut trouver des germes g
jdans A
M,ζ(1 ≤ j ≤ p) tels que l’on ait f = v
1g
1+ . . . + v
pg
p.
Lorsque ζ est un point de ¯ Ω\X, il existe un indice i tel que v
ine s’annule pas au voisinage de ζ. Le germe de v
ien ζ est alors inversible dans A
M,ζ(voir par exemple [D]) et on a f = v
ig
io` u g
i:= f
i+ v
−1iP
j6=i
v
jf
ja les propri´ et´ es requises.
Lorsque ζ est un point de X ∩ Ω, on remarque d’abord que l’on a A
M,ζ= O
ζet C
M,ζ⊂ C
ζ∞: la propri´ et´ e r´ esulte alors de la O-platitude de C
∞, voir [M].
Lorsque ζ est un point de X ∩ ∂Ω, on peut supposer que f
1est de classe C
Msur C
net on pose, dans les coordonn´ ees locales (u, v),
(4.5.2) f ˜
1(u, v) = f
1(u, v
1, 0, . . . , 0).
Par (4.5.1), on a donc v
1f ˜
1(u, v
1, 0, . . . , 0) = f (u, v
1, 0, . . . , 0) pour (u, v
1) ∈ X
1∩ Ω ∩ U . On sait que X
1∩ Ω ∩ U s’identifie ` a un ouvert de C
n−p+1et il r´ esulte alors de cette ´ egalit´ e que ˜ f
1est ¯ ∂-plate sur X
1∩ Ω ∩ U .
En appliquant la proposition 4.3 ` a Ω, X
1, ˜ f
1, donc dans le cas transverse (sans perte de r´ egularit´ e), on obtient un germe g
1de A
M,ζtel que l’on ait g
1|
X1∩Ω∩U= ˜ f
1, quitte ` a r´ etr´ ecir U .
On consid` ere alors, pour (u, v) ∈ Ω ∩ U , la fonction h(u, v) := f (u, v) − v
1g
1(u, v).
Elle d´ efinit un germe de A
M,ζet s’annule sur X
1par construction de g
1. L’application
`
a Ω, X
1et h de la proposition 4.4, encore une fois dans le cas transverse, assure que l’on a h(u, v) = P
pj=2
v
jg
j(u, v) o` u les g
jsont des germes de A
M,ζ. Ceci prouve le lemme.
Lemme 4.6. On se place dans les hypoth` eses (H
1), (H
3). Soient ζ un point de X et f un germe de A
M,ζtel que l’on ait f |
X˜= 0. Alors f appartient ` a I
ζ.
P r e u v e. Lorsque ζ est un point de X ∩Ω v´ erifiant ∂v
1∧. . .∧∂v
p(ζ) 6= 0, le r´ esultat est standard puisque l’on a un syst` eme de coordonn´ ees holomorphes (u
1, . . . , u
n−p, v
1, . . . , v
p) au voisinage de ζ. Les points ζ de X ∩ Ω tels que l’on ait ∂v
1∧ . . . ∧ ∂v
p(ζ) = 0 sont en nombre fini en vertu de (H
3) et de propri´ et´ es ´ el´ ementaires des ensembles analytiques.
On r` egle le cas de ces points via la proposition 5.8 de [GS], par exemple. Enfin, lorsque
ζ est un point de X ∩ ∂Ω, on pose F
1(u, v
1) = f (u, v
1, 0, . . . , 0). De l` a, on peut reprendre
directement la preuve de 4.4 ` a partir de (4.4.1)–(4.4.2), puisque f est maintenant suppos´ ee
d’embl´ ee nulle sur ˜ X et non seulement sur X comme dans 4.4.
5. Globalisation. On consid` ere les faisceaux I et J d´ efinis en 4.1 et on note R le faisceau des relations des v
jsur A
M.
Lemme 5.1. Sous les hypoth` eses (H
1) et (H
3), on a H
q( ¯ Ω, I) = 0 et H
q( ¯ Ω, R) = 0 pour q ≥ 1.
P r e u v e. Comme dans [A1] ou [GS], il s’agit de v´ erifier une propri´ et´ e de coh´ erence globale. Soient e
1, . . . , e
ples sections canoniques de A
pM:= Λ
1A
pM. On consid` ere le com- plexe de Koszul
(5.1.1) 0 −→ Λ
pA
pM−−−→ Λ
σp p−1A
pM−→ . . . −→ Λ
1A
pM−−−→ I −→ 0,
σ1o` u les σ
k: Λ
kA
pM−→ Λ
k−1A
pMsont d´ efinis r´ ecursivement par σ
1(e
j) = v
jpour 1 ≤ j ≤ p et σ
k(e
I∧ e
j) = v
je
I− σ
k−1(e
I) ∧ e
jpour 2 ≤ k ≤ p, I = (i
1, . . . , i
k−1) avec 1 ≤ i
1< . . . . . . < i
k−1< j ≤ p et e
I= e
i1∧ . . . ∧ e
ik−1. On justifie d’abord que le complexe (5.1.1) est exact en tout point ζ de V ∩ ¯ Ω, o` u V est un voisinage convenable de ∂Ω. Pour cela, il suffit de choisir V tel que l’on ait ∂v
1∧ . . . ∧ ∂v
p6= 0 sur X ∩ V : en effet, pour ζ ∈ X ∩ V ∩ Ω, le r´ esultat est standard comme cons´ equence du fait que A
M,ζco¨ıncide avec O
ζet que (u
1, . . . , u
n−p, v
1, . . . , v
p) est un syst` eme de coordonn´ ees holomorphes au voisinage de ζ.
Dans le cas d’un point ζ de X ∩ ∂Ω, on reprend la preuve d’E. Amar [A1] dans le cadre A
Mau lieu de A
∞, et en s’assurant que la propri´ et´ e d’extension locale 4.3, utilis´ ee au lieu du th´ eor` eme 2.1 de [A1], n’intervient que dans le cas transverse, donc sans perte de r´ egularit´ e. Enfin, lorsque ζ est dans ¯ Ω ∩ V \X, on conclut ´ egalement comme [A1], en utilisant que l’une des v
ine s’annule pas au voisinage de ζ et est donc une unit´ e dans A
M,ζ.
Comme cons´ equence, (5.1.1) est une r´ esolution libre de I, globale sur V ∩ ¯ Ω.
Par ailleurs, il est classique que I |
Ωest O-coh´ erent et
(5.1.2) H
q(Ω, I) = 0 pour q ≥ 1.
On conclut alors que l’on a H
q( ¯ Ω, I) = 0 en appliquant la proposition 6.1 de [GS] avec X = ¯ Ω, O = Ω, A = A
M, F = I, compte tenu de (5.1.2) et de l’hypoth` ese H
q( ¯ Ω, A
M) = 0 pour q ≥ 1.
Les arguments pr´ ec´ edents permettent ´ egalement d’´ etablir H
q( ¯ Ω, R) = 0, puisque R est par d´ efinition le noyau de σ
1.
Lemme 5.2. Sous les hypoth` eses (H
1) et (H
3), on a Γ( ¯ Ω, I) = (v
1, . . . , v
p)A
M( ¯ Ω).
P r e u v e. En reprenant les notations de la preuve de 5.1, la suite 0 −→ R −→ A
pM−−−→ I −→ 0
σ1est exacte. Compte tenu de l’annulation de H
1( ¯ Ω, R) en 5.1, on en d´ eduit l’exactitude de la suite
0 −→ Γ( ¯ Ω, R) −→ Γ( ¯ Ω, A
pM)
σ∗
−−−→ Γ( ¯
1Ω, I) −→ 0 avec σ
1∗(f
1, . . . , f
p) = P
pj=1
v
jf
j([G], D2). Le r´ esultat s’ensuit.
Lemme 5.3. Sous les hypoth` eses (H
1) et (H
3), soit f un ´ el´ ement de Γ( ¯ Ω, J ) tel que
l’on ait ¯ ∂f = 0. Alors f appartient ` a Γ( ¯ Ω, I).
P r e u v e. L’exactitude de la suite
0 −→ Γ( ¯ Ω, I) −→ Γ( ¯ Ω, J ) −−−→ Γ( ¯
∂¯Ω, K) r´ esulte aussitˆ ot ([G], A10) du lemme 4.5.
5.4. Preuve du th´ eor` eme 3.2. Imm´ ediate par 5.2, 5.3 et (4.1.1).
5.5. Preuve du th´ eor` eme 3.3. Pour tout point ζ de ¯ Ω, il existe un voisinage U
ζde ζ dans C
net des germes g
jζde A
M,ζtels que l’on ait f = P
pj=1