Pr´ eparation des fonctions sous-analytiques globales et lieu d’analyticit´ e

POLONICI MATHEMATICI LXIX.2 (1998)

Pr´ eparation des fonctions sous-analytiques globales et lieu d’analyticit´ e

par Jean-Marie Lion (Dijon)

Abstract. We give a new proof of Kurdyka–Tamm’s theorem on the analytic locus of a subanalytic function.

0. Introduction. L’objet de ce travail est de donner une nouvelle d´ e- monstration du th´ eor` eme de Tamm–Kurdyka [Ta], [Ku] sur la sous-analyti- cit´ e du lieu d’analyticit´ e des fonctions sous-analytiques globales (voir aussi [BM] et [DM]). Nous allons d´ eduire ´ el´ ementairement ce r´ esultat d’un th´ eo- r` eme de pr´ eparation des fonctions sous-analytiques globales [Par], [LR]. Le lecteur peut tr` es facilement adapter la m´ ethode expos´ ee ici pour retrouver le r´ esultat de van den Dries et Miller [DM] sur le lieu de r´ egularit´ e des x

-fonctions. L’ingr´ edient ` a ajouter est le th´ eor` eme de pr´ eparation pour les x

-fonctions expos´ e dans [LR].

I. D´ efinitions et r´ esultats. Un sous-ensemble X de R

est un sous- ensemble semi-analytique si pour tout point a de R

il existe un voisinage ouvert U , un entier p et des fonctions analytiques (f

)

et (g

)

d´ efinies sur U tels que X ∩ U = [

i≤p

 \

j≤p

{x ∈ U | f

(x) = 0, g

(x) > 0}. 

Un sous-ensemble X d’une vari´ et´ e analytique M de dimension d est un semi-analytique dans M si pour tout plongement analytique φ de R

dans M, l’ensemble φ

(X) est un semi-analytique de R

. Nous renvoyons le lecteur aux travaux de Lojasiewicz [ Lo1,2] pour les propri´ et´ es des semi-ana- lytiques.

On munit la droite projective r´ eelle P

de sa structure alg´ ebrique usuelle qui est donn´ ee par l’´ equivalence “[x : 1] ∼ [1 : y] ssi xy = 1”. La droite r´ eelle

1991 Mathematics Subject Classification: Primary 32B20.

Key words and phrases: density, subanalytic subsets, pfaffian subsets.

[167]

R est alg´ ebriquement plong´ ee dans P

. Un sous-ensemble X de R

est un sous-analytique global s’il existe un entier m et un ensemble Y inclus dans R

qui est semi-analytique dans P

tel que X = π(Y ) o` u π d´ esigne la projection canonique de R

sur R

.

Gabrielov [Ga] a d´ emontr´ e que les sous-analytiques globaux poss` edent la propri´ et´ e fondamentale suivante : la diff´ erence de deux sous-analytiques globaux est un sous-analytique global.

Une fonction f d´ efinie sur un sous-ensemble U de R

et ` a valeurs dans R est sous-analytique globale si son graphe est un sous-analytique global de R

. On d´ eduit du th´ eor` eme du compl´ ementaire que le domaine de d´ efinition d’une fonction sous-analytique globale, son lieu de discontinuit´ e, le lieu o` u elle n’est pas C

, N ∈ N ´etant un entier fix´e, sont des sous- analytiques globaux. Le r´ esultat de Tamm et Kurdyka dont on va proposer une d´ emonstration ´ el´ ementaire g´ en´ eralise cette derni` ere propri´ et´ e.

Th´ eor` eme de Tamm–Kurdyka [Ta], [Ku]. Soit f une fonction sous- analytique globale d´ efinie sur un sous-ensemble U de R

. Le lieu S

des points o` u f n’est pas analytique est un sous-analytique global. Il existe un entier N tel que S

soit ´ egal au lieu S

des points o` u f n’est pas de classe C

.

Le th´ eor` eme de pr´ eparation des fonctions sous-analytiques globales de [Par] et de [LR] va nous permettre de prouver cet ´ enonc´ e. Dans le chapitre suivant nous en donnons une version adapt´ ee au probl` eme.

II. Quelques propri´ et´ es des objets sous-analytiques. Enon¸ cons deux cons´ equences imm´ ediates du th´ eor` eme du compl´ ementaire.

• Soient X

, . . . , X

des sous-analytiques globaux de R

. Il existe une partition finie P de R

en cylindres sous-analytiques globaux adapt´ ee

`

a la famille X

, . . . , X

: si C ∈ P et si i = 0, . . . , r alors C ⊂ X

ou C ∩ X

= ∅ et C est de la forme {y ∈ B, φ(y) < z < ψ(z)} ou de la forme {(y, φ(y)) | y ∈ B} o` u B est un sous-analytique global de R

et φ < ψ sont des fonctions sous-analytiques (´ eventuellement φ = −∞ ou ψ = +∞).

• Soient φ

, . . . , φ

des fonctions sous-analytiques globales d´ efinies sur un sous-analytique global U de R

. Quitte ` a partitionner finiment U en sous- analytiques globaux et ` a r´ eindexer la famille, on peut la supposer ordonn´ ee.

Les fonctions sous-analytiques admettent la pr´ esentation suivante.

Proposition 1 (d’apr` es [Par] et [LR]). Soient φ

, . . . , φ

des fonctions

sous-analytiques globales born´ ees d´ efinies sur un sous-analytique global

Y × ]0, 1[ inclus dans ]0, 1[

. Il existe une partition finie S en sous-ana-

lytiques globaux de Y telle que pour chaque sous-analytique global B de S

l’´ enonc´ e suivant est v´ erifi´ e : il existe des entiers k ∈ N, q ∈ N, et p

, . . . , p

∈

N, des fonctions sous-analytiques globales a, ψ

, . . . , ψ

, A

, . . . , A

d´ efinies sur B, ` a valeurs dans ]0, 1[ et avec a < ψ

, des r´ eels M

, . . . , M

, des s´ eries enti` eres U

, . . . , U

d´ efinies au voisinage du polydisque ∆

= {|t

|, . . . , |t

|

≤ 1} de C

et ` a valeurs dans [1/2, 1] tels que

φ

(y, z) = M

· (z/ψ

)

· A

· U

((z/ψ

)

, ψ

, . . . , ψ

) si i = 0, . . . , r et (y, z) appartient au cylindre {y ∈ B, z ∈ ]0, a(y)[ }.

Cette proposition est voisine de r´ esultats de [Paw] et de [ LTZ]. Elle permet de comprendre le d´ efaut d’analyticit´ e par rapport ` a une variable d’une fonction sous-analytique globale. Elle se d´ eduit du th´ eor` eme 1 de [LR] de la fa¸ con suivante.

Pr´ eparons simultan´ ement les fonctions φ

, . . . , φ

(th´ eor` eme 1 de [LR]

et affirmation 1.1.5 de [LR]). On obtient une partition finie T en cylindres sous-analytiques globaux de Y × ]0, 1[. On ne retient que les cylindres de T de la forme C = {(y, z) | y ∈ B, z ∈ ]0, a(y)[ }, o` u B est un sous- analytique global et a une fonction sous-analytique globale d´ efinie sur B et strictement positive. Les bases B de ces cylindres forment la partition S de Y. En restriction ` a chacun de ces cylindres les fonctions φ

admettent l’´ ecriture voulue : contrairement ` a la situation g´ en´ erale de [LR], ici p

6∈ Z

et l’unit´ e U

est ind´ ependante d’un terme de la forme (Ψ

/z)

car sur les cylindres C, la variable z est arbitrairement petite et les fonctions φ

sont born´ ees.

III. D´ emonstration du th´ eor` eme de Tamm–Kurdyka. D’apr` es le th´ eor` eme du compl´ ementaire, il suffit de traiter le cas d’une fonction sous-analytique globale f d´ efinie sur R

, ` a support dans ]0, 1[

et born´ ee.

On note l

(x, x

) la fonction sous-analytique globale d´ efinie sur ]0, 1[

× ]−1, 1[

par l

(x, x

) = f (x + x

). Pour d´ emontrer le th´ eor` eme on va montrer l’existence d’un entier N et de fonctions sous-analytiques globales l

(x, x

), . . . , l

(x, x

) d´ efinies sur ]0, 1[

×]−1, 1[

et v´ erifiant les propri´ et´ es suivantes.

Soit i = 1, . . . , d et (x, x

, . . . , x

) ∈ ]0, 1[

× ]−1, 1[

:

• Il existe ε > 0 tel que la fonction

(x

, . . . , x

) 7→ l

(x, x

, . . . , x

, x

, . . . , x

) est analytique sur le polydisque ]−ε, ε[

.

• Si la fonction (x

, . . . , x

) 7→ l

(x, x

, . . . , x

, x

, . . . , x

) est de classe C

en 0 ∈ R

elle est analytique au voisinage de 0 ∈ R

et elle co¨ıncide avec (x

, . . . , x

) 7→ l

(x, x

, . . . , x

, x

, . . . , x

) sur le polydisque ]−ε, ε[

.

Supposons avoir prouv´ e l’existence de l’entier N et des fonctions l

, . . . , l

et finissons la preuve du th´ eor` eme. Soit x

∈ ]0, 1[

. Etant donn´ ees les

propri´ et´ es des fonctions sous-analytiques globales l

, les trois conditions sui- vantes sont ´ equivalentes :

(i) La fonction f est de classe C

en x

.

(ii) La fonction f est analytique au voisinage de x

.

(iii) La fonction f co¨ıncide avec la fonction l

(x

, x − x

) au voisinage de x

.

Puisque les conditions (i) et (iii) sont des conditions sous-analytiques globales, le th´ eor` eme est d´ emontr´ e.

IV. Existence des fonctions l

, . . . , l

et de l’entier N . Pour d´ e- montrer l’existence des fonctions l

, . . . , l

et de l’entier N il suffit d’utiliser d fois les trois lemmes qui vont suivre. On d´ eduit l

de l

en appliquant les trois lemmes avec θ = l

, n = 2d − i, n

= i − 1, y = (x, x

, . . . , x

), z = x

et u = (x

, . . . , x

). La fonction l

est la fonction l ainsi obtenue.

Cette construction est possible car la fonction l

v´ erifie les hypoth` eses du lemme 1 et si l

les v´ erifie c’est aussi le cas pour l

. L’entier N est le plus grand des entiers Q

obtenus dans cette construction.

L’objet des trois lemmes et d’´ etudier le lieu des points d’analyticit´ e par rapport aux n

+ 1 derni` eres variables d’une fonction sous-analytique globale qui est analytique par rapport aux n

derni` eres variables.

Lemme 1. Soit θ une fonction sous-analytique globale born´ ee de ]0, 1[

× ]0, 1[ × ]0, 1[

. On suppose qu’il existe une partition finie P en sous-analy- tiques globaux de ]0, 1[

telle que sur chaque sous-analytique global Y de P, la fonction θ admet une ´ ecriture de la forme suivante : il existe des fonctions sous-analytiques globales α d´ efinie sur Y et β, φ

, . . . , φ

d´ efinies sur Z = {(y, z) | y ∈ Y, z ∈ ]0, α(y)[ }, toutes ` a valeurs dans ]0, 1[ et β < φ

, et une s´ erie enti` ere g d´ efinie au voisinage du polydisque ∆

= {(t

, . . . , t

) | |t

| ≤ 1} tels que

θ(y, z, u) = g(u

/φ

, . . . , u

/φ

, φ

, . . . , φ

) si (y, z) ∈ Z, u ∈ ]0, β(y, z)[

. Alors chaque Y ∈ P admet une partition sous-analytique finie P

telle que pour chaque sous-analytique global B de P

l’´ enonc´ e suivant est v´ erifi´ e : il existe des entiers k

∈ N, q, p ∈ N et ε ∈ {−1, 1}, des fonctions sous- analytiques globales a, A, ψ

, . . . , ψ

d´ efinies sur B et ` a valeurs dans ]0, 1[

avec a < ψ

, α et β(y, z) < 2A

a

si 0 < z < a et une s´ erie enti` ere G d´ efinie au voisinage du polydisque ∆

= {(t

, . . . , t

) | |t

| ≤ 1} tel que

θ(y, z, u) = G((z/ψ

)

, u

/(A

z

), . . . , u

/(A

z

), ψ

, . . . , ψ

)

si (y, z) appartient au cylindre {y ∈ B, z ∈ ]0, a(y)[ } et u ∈ ]0, β(y, z)/2[

.

P r e u v e. Il suffit d’appliquer la proposition 1 aux fonctions φ

, . . . , φ

: on obtient des fonctions a, ψ

, . . . , ψ

, A

, . . . , A

et des entiers q, p

, . . . , p

et k. On pose p = p

, k

= k+r+1 et ψ

= A

si i = 0, . . . , r. En raffinant la partition obtenue, on obtient les in´ egalit´ es voulues. En particulier, on obtient des cylindres sous-analytiques {y ∈ B, z ∈ ]0, a(y)[ } sur lesquels φ

admet l’´ ecriture

φ

(y, z) = M

· (z/ψ

)

· A

· U

((z/ψ

)

, ψ

, . . . , ψ

)

avec M

A

/ψ

≤ 1 ou ψ

/(M

A

) ≤ 1. Dans le premier cas on pose A = M

A

/ψ

et ε = 1. Dans le second cas on pose A = ψ

/(M

A

) et ε = −1. Ceci permet d’´ ecrire θ sous la forme

θ = g ◦ L ◦ ((z/ψ

)

, u

/(A

z

), . . . , u

/(A

z

), ψ

, . . . , ψ

) o` u les fonctions coordonn´ ees de l’application L = (L

, . . . , L

) sont des s´ eries enti` eres d´ efinies au voisinage du polydisque ∆

et les fonctions a, A, ψ

, . . . , ψ

satisfont les conclusions du lemme. La s´ erie G est la com- pos´ ee g ◦ L.

Les notations sont celles du lemme 1. Soit Y ∈ P. Quitte ` a raffiner la partition P

on peut supposer que tout sous-analytique global B de P

dont l’adh´ erence rencontre ]0, 1[

×{0} est un cylindre de la forme {(y

, y

) | y

∈ B

, 0 < y

< α

(y)}

o` u B

est un sous-analytique global inclus dans ]0, 1[

et α

est une fonc- tion sous-analytique globale d´ efinie sur B

et strictement positive. On note P

la sous-famille de P

form´ ee par ces cylindres. Les bases de ces cylindres forment une partition de ]0, 1[

.

Le lemme suivant reprend les notations du lemme 1. C’est un lemme de scission analogue au lemme du paragraphe 1.6 de [LR].

Lemme 2. Soit Y ∈ P et B un cylindre de P

. Il existe des s´ eries enti` eres L, R

, . . . , R

d´ efinies au voisinage de ∆

et W

, . . . , W

d´ efinies au voisinage de ∆

et des fonctions sous-analytiques globales l

, r

, . . . , r

et w ` a support le polycylindre

{y ∈ B, |z| ≤ a(y), |u

|, . . . , |u

| ≤ A

ψ

} telles que si y ∈ B, z ∈ ]0, a(y)[ et u ∈ ]0, β(y, z)/2[

alors

θ(y, z, u) = l

(y, z, u) +

q−1

X

j=1

r

(y, z, u) + w(y, z, u)

avec

l

(y, z, u) = L(z/ψ

, u

/(A

ψ

), ψ

, . . . , ψ

) r

(y, z, u) = (z/ψ

)

R

(z/ψ

, u

/(A

ψ

),

. . . , z/ψ

, u

/(A

ψ

), ψ

, . . . , ψ

) w(y, z, u) =

n⁰

X

i=1

(u

/(A

z

))w

(y, z, u)

w

(y, z, u) = W

(u

/(A

z

), . . . , u

/(A

z

),

u

/(A

ψ

), . . . , u

/(A

ψ

), ψ

, . . . , ψ

).

De plus ` a y fix´ e, la restriction de l

` a {|z| ≤ a(y), |u

|, . . . , |u

| ≤ A

ψ

} est analytique.

P r e u v e. Soit m = (m

, m

, . . . , m

) ∈ N

. Il suffit de regrouper les termes de la s´ erie G pour construire les nouvelles s´ eries en remarquant que le produit

(z/ψ

)

n⁰

Y

i=1

(u

/A

z

)

peut s’´ ecrire de plusieurs fa¸ cons. Si m

≥ pm

+ . . . + pm

, on l’´ ecrit sous la forme

(z/ψ

)

n⁰

Y

i=1

(u

/A

ψ

)

.

Ce produit est non-ramifi´ e par rapport ` a z si et seulement si q divise m

− P

i≥1

m

. Ce monˆ ome contribue ` a l’une des s´ eries L, R

, . . . , R

suivant la congruence modulo q de m

− P

i≥1

m

. Si m

< pm

+ . . . + pm

on l’´ ecrit sous la forme

n⁰

Y

i=1

(u

/(A

ψ

))

(u

/(A

z

))

ou les m

∈ N sont des entiers v´erifiant m

≤ pm

et m

+ . . . + m

= m

. Ce monˆ ome contribue ` a l’une des s´ eries W

telles que m

< pm

.

Soit y un point fix´ e de B. On pose D

= {(z, u) | z ∈ ]0, a(y)[, u ∈ ]0, β(x, y)/2[

}. La restriction de la fonction l

(y, z, u) ` a D

s’´ etend en un germe de fonction analytique de (z, u). A contrario, les restrictions des fonc- tions r

(y, z, u) ` a D

ne s’´ etendent en des germes de fonctions analytiques de (z, u) que si elles sont nulles. La restriction de la fonction w(y, z, u) ` a D

ne s’´ etend en un germe de fonction continue de (z, u) que si elle est nulle.

De plus le germe en 0 de la restriction de la fonction θ ` a D

co¨ıncide avec

la restriction d’un germe de fonction analytique si et seulement si la restric- tion ` a D

de la diff´ erence θ(y, z, u) − l

(y, z, u) est nulle. Ceci est v´ erifi´ e si et seulement si les restrictions ` a D

des fonctions r

(y, z, u) et w(y, z, u) sont nulles. Or, on d´ eduit de la propri´ et´ e de noeth´ erianit´ e des fonctions analytiques qu’il existe un entier q

tel que les s´ eries R

(t

, . . . , t

) et W

(t

, . . . , t

) sont ind´ ependantes respectivement des n

+ 1 premi` eres variables et des n

premi` eres variables aux points (0, . . . , 0, t

, . . . , t

) et (0, . . . , 0, t

, . . . , t

) o` u les d´ eriv´ ees partielles d’ordre inf´ erieur ` a q

par rapport aux n

+ 1 premi` eres variables (respectivement d’ordre inf´ erieur

`

a q

− 1 par rapport aux 2n

premi` eres variables) sont nulles. Cette affirma- tion appliqu´ ee ` a la fonction θ et aux fonctions r

et w permet de conclure ` a l’´ enonc´ e suivant.

Lemme 3. Il existe une partition de B en deux sous-analytiques globaux R et S v´ erifiant :

• Si y ∈ R, le germe en 0 de la restriction de la fonction θ ` a D

co¨ıncide avec la restriction d’un germe de fonction analytique : la restriction ` a D

de la diff´ erence θ(y, z, u) − l

(y, z, u) est nulle.

• Si y ∈ S, le germe en 0 de la restriction de la fonction θ ` a D

ne peut s’´ etendre en un germe de fonction de classe C

.

P r e u v e. Le sous-analytique global R est le lieu d’annulation des fonc- tions sous-analytiques globales de la forme c(0, . . . , 0, ψ

, . . . , ψ

) o` u c est une des d´ eriv´ ees partielles indiqu´ ees pr´ ec´ edemment.

On note l la fonction sous-analytique globale suivante : l(x) = l

(x) s’il existe Y ∈ P et B ∈ P

tel que x ∈ B, l(x) = 0 sinon. On note Q le plus grand des entiers q

+ q, lorsque B ∈ P

et Y ∈ P. L’affirmation suivante est un corollaire du lemme 3 : Soit y ∈ ]0, 1[

le germe en 0 de la fonction (z, v) 7→ θ(y, z, v) est la restriction d’un germe de fonction analytique ssi la diff´ erence (z, u) 7→ θ(y, z, u) − l(y, z, u) est nul. Sinon ce n’est pas la restriction d’un germe de fonction de classe C

.

L’auteur remercie Jean-Philippe Rolin sans qui ce travail n’aurait pas exist´ e.

Bibliographie

[BM] E. B i e r s t o n e et P. M i l m a n, Semianalytic and subanalytic sets, Publ. IHES 67 (1988), 5–42.

[DM] L. v a n d e n D r i e s et C. M i l l e r, Extending Tamm’s theorem, Ann. Inst. Fourier (Grenoble) 44 (1994), 1367–1395.

[Ga] A. G a b r i e l o v, Projections of semi-analytic sets, Functional Anal. Appl. 2 (1968),

282–291.

[Ku] K. K u r d y k a, Points r´ eguliers d’un sous-analytique, Ann. Inst. Fourier (Gre- noble) 38 (1988), 133–156.

[LR] J.-M. L i o n et J.-P. R o l i n, Th´ eor` eme de pr´ eparation pour les fonctions logarith- mico-exponentielles, ibid. 47 (1997), 859–884.

[ Lo1] S. L o j a s i e w i c z, Ensembles semi-analytiques, preprint I.H.E.S., 1965.

[ Lo2] —, Triangulation of semi-analytic sets, Ann. Scuola Norm. Sup. Pisa (3) 18 (1964), 449–474.

[ LTZ] S. L o j a s i e w i c z, J.-C. T o u g e r o n et M.-A. Z u r r o, Eclatements des coefficients des s´ eries enti` eres et deux th´ eor` emes de Gabrielov , Manuscripta Math. 92 (1997), 325–337.

[Par] A. P a r u s i ´ n s k i, Lipschitz stratification of subanalytic sets, Ann. Ecole Norm.

Sup. 27 (1994), 661–696.

[Paw] W. P a w l u c k i, Le th´ eor` eme de Puiseux pour une application sous-analytique, Bull. Polish Acad. Sci. Math. 32 (1984), 555–559.

[Ta] M. T a m m, Subanalytic sets in the calculus of variation, Acta Math. 146 (1981), 167–199.

Laboratoire de Topologie CNRS-UMR 5584 Universit´ e de Bourgogne BP 400

21011 Dijon Cedex, France E-mail: lion@u-bourgogne.fr

Re¸ cu par la R´ edaction le 11.12.1997