Prolongement dans des classes ultradiff´ erentiables et propri´ et´ es de r´ egularit´ e des compacts de R

(1)

POLONICI MATHEMATICI LXIII.1 (1996)

Prolongement dans des classes ultradiff´ erentiables et propri´ et´ es de r´ egularit´ e des compacts de _R

ⁿ

par Vincent Thilliez (Lille)

Abstract. Considering jets, or functions, belonging to some strongly non-quasianalytic Carleman class on compact subsets of R

ⁿ

, we extend them to the whole space with a loss of Carleman regularity. This loss is related to geometric conditions refining Lo- jasiewicz’s “regular separation” or Whitney’s “property (P)”.

0. Introduction. Dans un premier temps, on ´ etudie ici l’extension simultan´ ee (ou, en d’autres termes, le recollement) de deux jets de Whitney F

1

et F

2

appartenant ` a une classe de Carleman fortement non-quasianalytique sur des compacts respectifs E

1

, E

2

de R

ⁿ

, et co¨ıncidant sur E

1

∩ E

2

. On d´ emontre en 2.4 l’´ equivalence d’une propri´ et´ e d’extension avec perte de r´ egularit´ e (passage de l!M

l

` a l!N

l

) et d’une certaine in´ egalit´ e de Lojasiewicz raffin´ ee pour E

1

, E

2

. En particulier, lorsque E

1

, E

2

sont r´ eguli` erement situ´ es au sens usuel ([M], [T]), on a N

l

= M

_l^m

o` u m est l’exposant de l’in´ egalit´ e de Lojasiewicz. (Dans le cas classique de l’extension de jets C

^∞

, la perte de r´ egularit´ e est occult´ ee : voir [T], chapitre IV, ou [M]).

A titre d’exemple, si on a, pour tout x d’un voisinage de E

1

∪ E

₂

, l’in´ egalit´ e

(∗) d(x, E

1

) + d(x, E

2

) ≥ γ d(x, E

1

∩ E

₂

)

^m

|log d(x, E

₁

∩ E

₂

)|

^p

avec γ > 0, m ≥ 1, p ≥ 0, et si F

1

et F

2

ont la r´ egularit´ e Gevrey l!

^1+α

(α > 0), alors il existe une fonction ayant la r´ egularit´ e Carleman l!

^1+mα

(log l)

^lp

sur R

ⁿ

et dont le jet sur E

j

co¨ıncide avec F

j

(j = 1, 2). R´ eciproquement, un tel ph´ enom` ene d’extension impose l’in´ egalit´ e (∗).

Les propri´ et´ es ainsi d´ ecrites permettent notamment de pr´ eciser un exemple de W. Ple´ sniak [P] concernant le prolongement de fonctions ultra-

1991 Mathematics Subject Classification: 26E10, 58C25.

Key words and phrases: Carleman class, extension theorem, Lojasiewicz inequalities, Whitney regularity.

[71]

(2)

diff´ erentiables lorsqu’on omet la condition de reste de Taylor sur les jets associ´ es.

Dans un deuxi` eme temps, on revient ` a ce dernier probl` eme par le biais d’une propri´ et´ e g´ eom´ etrique raffinant la propri´ et´ e (P) de Whitney. On obtient ainsi en 3.2 un th´ eor` eme d’extension de fonctions, sans consid´ eration de jets de Whitney, qui ´ etend, en un certain sens, un r´ esultat de J. Bonet, R. W. Braun, R. Meise et B. A. Taylor ([BBMT], 3.12). Par exemple, si Ω est un ouvert born´ e d’adh´ erence m-r´ eguli` ere (m ≥ 1) au sens usuel de Whitney ([M], [T]), toute fonction ayant la r´ egularit´ e Carleman l!M

l

sur Ω s’´ etend en une fonction ayant la r´ egularit´ e l!M

_l^m

sur R

ⁿ

.

Il est ` a noter que dans [P], la question du prolongement de fonctions ultradiff´ erentiables est abord´ ee sous un angle a priori diff´ erent (classes de fonctions d´ efinies par approximation polynˆ omiale).

L’auteur tient enfin ` a remercier J. Chaumat et A.-M. Chollet pour une discussion utile au sujet de la proposition 2.2.

1. Classes de Carleman

1.1. Suites fortement r´ eguli` eres. On dira qu’une suite M = (M

l

)

l≥0

de r´ eels positifs est fortement r´ eguli` ere lorsqu’elle satisfait les propri´ et´ es suivantes :

(1.1.1) M

0

= 1, M est croissante, (M

l+1

/M

l

)

l≥0

est croissante, et il existe une constante A ≥ 1 telle que l’on ait, pour tout l, (1.1.2) M

l

≤ A

^l

M

j

M

l−j

pour 0 ≤ j ≤ l et

(1.1.3) X

j≥l

M

j

(j + 1)M

j+1

≤ Al M

l

(l + 1)M

l+1

.

Lorsque ces conditions sont v´ erifi´ ees, il est prouv´ e dans [CC] que l’on a M

j

M

k

≤ M

_j+k

pour tous entiers j et k, que (M

l+1

/M

l

)

l≥0

et (M

_l^1/l

)

l≥0

croissent vers ∞ et que l’on a, quitte ` a augmenter A,

(1.1.4) M

_l+1^l

≤ A

^l

M

_l^l+1

pour tout entier l.

Posons par ailleurs

(1.1.5) h

M

(t) := inf

j≥0

t

^j

M

j

pour t ∈ R

+

.

La fonction h

M

est continue, croissante, on a h

M

(0) = 0 et h

M

(t) = 1 pour t ≥ 1. En outre, d’apr` es [CC], il existe une constante B ≥ 1 telle que l’on ait

(1.1.6) h

M

(t/B) ≤ (h

M

(t))

²

.

(3)

Si m est un r´ eel fix´ e, m ≥ 1, il est facile de voir que la suite M

^m

:=

(M

_l^m

)

l≥0

est aussi fortement r´ eguli` ere et que l’on a (1.1.7) (h

M

(t))

^m

= h

M^m

(t

^m

).

Pour tout entier l et tout t de R

⁺

, on pose encore

(1.1.8) h

M

(l, t) := inf

j≥l

t

^j

M

j

.

En particulier, on a h

M

(0, t) = h

M

(t). Les fonctions h

M

(l, ·) seront utilis´ ees au §3.

Notations. Pour tout multi-indice L = (l

1

, . . . , l

n

) de N

ⁿ

, on notera l = |L| = l

1

+ . . . + l

n

la longueur de L et D

^L

= ∂

^l

/∂x

^l₁¹

. . . ∂x

^l_nⁿ

le monˆ ome de d´ erivation associ´ e ` a L. On posera aussi L! = l

1

! . . . l

n

! et, pour tout x = (x

1

, . . . , x

n

) de R

ⁿ

, x

^L

= x

^l₁¹

. . . x

^l_nⁿ

.

1.2. Fonctions de classe C

M

. Soient Ω un ouvert quelconque de R

ⁿ

et M une suite fortement r´ eguli` ere.

Ici, C

^∞

(Ω) d´ esignera l’espace des fonctions ind´ efiniment diff´ erentiables

`

a l’int´ erieur de Ω et dont toutes les d´ eriv´ ees se prolongent continˆ ument ` a Ω (et non l’espace J

^∞

(Ω) des fonctions C

^∞

au sens de Whitney, ou “jets de Whitney C

^∞

”, sur Ω , bien que le choix entre les notations varie suivant les auteurs).

Une fonction f de C

^∞

(Ω) sera dite appartenir ` a la classe de Carleman C

M

(Ω) s’il existe une constante positive C (d´ ependant de f ) telle que l’on ait, pour tout multi-indice L et tout x de Ω,

|D

^L

f (x)| ≤ C

^l+1

l!M

l

.

La classe C

M

(Ω) est une alg` ebre; (1.1.2) en traduit la stabilit´ e par op´ erateurs (ultra)diff´ erentiels et (1.1.3) la forte non-quasianalyticit´ e [B].

1.3.Classes de jets. Soient E un compact de R

ⁿ

et M une suite fortement r´ eguli` ere.

Un jet sur E est la donn´ ee d’une famille F = (F

L

)

_L∈Nⁿ

de fonctions continues sur E. Au jet F on associe, pour tout entier p et tout (ξ, x) de E × R

ⁿ

, le polynˆ ome de Taylor

T

_ξ^p

F (x) := X

J, 0≤j≤p

1 J ! F

J

(ξ)(x − ξ)

^J

.

On dit alors que F appartient ` a la classe de Carleman de jets J

M

(E) s’il existe une constante positive C telle que l’on ait, pour tout multi-indice J et tout ξ de E,

|F

_J

(ξ)| ≤ C

^j+1

j!M

j

et, pour tout entier p, tout multi-indice L avec l ≤ p et tout x de E,

|F

_L

(x) − D

^L

T

_ξ^p

F (x)| ≤ C

^p+1

l!M

p+1

|x − ξ|

^p+1−l

.

(4)

Si Ω est un ouvert contenant E, toute fonction de C

M

(Ω) d´ efinit un jet de J

M

(E) via l’application de Borel

(1.3.1) <

_E

: C

M

(Ω) → J

M

(E), f → (D

^L

f |

E

)

_L∈Nⁿ

.

Si e E est un compact contenant E et si F est un jet de J

M

( e E), on notera encore <

E

F la restriction de F ` a E, c’est-` a-dire le jet ( F

L

|

_E

)

_L∈Nⁿ

. On utilisera le r´ esultat suivant, qui traduit la surjectivit´ e de l’application (1.3.1) :

Th´ eor` eme 1.4 ([B], [CC]). Avec les notations pr´ ec´ edentes, soit F un jet de J

M

(E). Il existe une fonction f de C

M

(R

ⁿ

), ` a support compact , telle que l’on ait <

E

f = F.

1.5. R e m a r q u e ([BBMT], 3.12). On rappelle qu’un compact E de R

ⁿ

a la propri´ et´ e (P) de Whitney s’il existe une constante positive γ telle que deux points quelconques ξ et x de E puissent ˆ etre joints par un arc rectifiable σ contenu dans l’int´ erieur de E sauf peut-ˆ etre pour un nombre fini de points, et dont la longueur |σ| v´ erifie l’in´ egalit´ e |σ| ≤ γ|x − ξ|.

Soit Ω un ouvert born´ e tel que Ω ait la propri´ et´ e (P) de Whitney. Alors toute fonction de C

M

(Ω) d´ efinit un jet de J

M

(Ω) et s’´ etend donc en une fonction de C

M

(R

ⁿ

), en vertu de (1.4).

1.6. D´ efinition. Une fonction θ : R

+

→ R

⁺

sera dite admissible lorsqu’elle satisfait les propri´ et´ es suivantes :

(1.6.1) θ est croissante et θ(0) = 0, pour tout r´ eel λ avec λ ≥ 1, la quantit´ e

(1.6.2) θ(λ) := sup

0<t≤1

θ(λt)/θ(t)

est finie, et il existe une constante a ≥ 1 telle que l’on ait θ(t) ≤ at pour 0 ≤ t ≤ 1.

(1.6.3)

On remarquera comme cons´ equence imm´ ediate de (1.6.1)–(1.6.3) que pour T ≥ 1 et 0 ≤ t ≤ T, on a

(1.6.4) θ(s + t) ≤ θ(2)(θ(s) + θ(t)) pour 0 ≤ t ≤ 1, 0 ≤ s ≤ 1,

(1.6.5) θ(λt) ≤ θ(T λ)θ(t)

et

(1.6.6) θ(t) ≤ a θ(T )

T t.

R e m a r q u e. Soient une fonction admissible θ et un r´ eel λ > 1. En

consid´ erant une partition de ]0, 1] en intervalles I

j

:= ]λ

^−(j+1)

, λ

^−j

] et en

utilisant de fa¸ con r´ ep´ et´ ee (1.6.2), on obtient, pour t ∈ I

j

, l’in´ egalit´ e θ(t) ≥

θ(λ

^j

t)θ(λ)

^−j

avec λ

^j

t ≥ 1/λ et j ≤ (log t)/ log λ. Il s’ensuit que l’on a, pour

(5)

tout t de [0, 1],

(1.6.7) θ(t) ≥ θ(1/λ)t

^m(λ)

avec m(λ) = (log θ(λ))/ log λ. Compte tenu de (1.6.3), on a par ailleurs m(λ) ≥ 1.

2. Extension simultan´ ee

2.1. D´ efinitions. Soient E

1

et E

2

deux compacts de R

ⁿ

et soit θ une fonction admissible. Si on a E

1

∩ E

₂

6= ∅, on dit que E

₁

et E

2

sont θ-situ´ es lorsqu’il existe un ouvert born´ e Ω contenant E

1

∪E

₂

et une constante γ > 0, ne d´ ependant que de E

1

, E

2

, tels que l’on ait, pour tout x de Ω,

(2.1.1) d(x, E

1

) + d(x, E

2

) ≥ γθ(d(x, E

1

∩ E

₂

)).

Si on a E

1

∩ E

₂

= ∅, on dit encore que E

1

et E

2

sont θ-situ´ es, avec θ(t) = t.

Par exemple, soit m un r´ eel, m ≥ 1. La fonction θ(t) = t

^m

est admissible et on voit que E

1

et E

2

sont θ-situ´ es si et seulement si ils sont r´ eguli` erement situ´ es ([M], [T]) avec un exposant de Lojasiewicz ´ egal ` a m.

En fait, il r´ esulte de (1.6.7) que deux compacts θ-situ´ es sont toujours r´ eguli` erement situ´ es : (2.1.1) peut donc ˆ etre vu comme une in´ egalit´ e de Lojasiewicz raffin´ ee, l’´ echelle de pr´ ecision n’´ etant pas limit´ ee aux fonctions t → t

^m

(voir l’exemple (ii) ci-apr` es).

Soient alors θ une fonction admissible et M, N deux suites fortement r´ eguli` eres. On dira que la condition (C) est v´ erifi´ ee s’il existe des constantes b, c, avec 0 < b < 1, 0 < c < 1, telles que l’on ait

(2.1.2) bh

M

(ct) ≤ h

N

(θ(t)) ≤ b

⁻¹

h

M

(c

⁻¹

t) pour tout t de R

+

.

R e m a r q u e. Pour toute suite fortement r´ eguli` ere M (ou, plus g´ en´ eralement, v´ erifiant (1.1.1)), on a, pour tout entier l,

C

^−(l+1)

M

l

≤ sup

0<t≤1

h

M

(t)/t

^l

≤ C

^l+1

M

l

pour une constante C convenable.

Comme, d’apr` es (1.6.6) et (2.1.2), on a h

M

(t) ≤ b

⁻¹

h

N

(θ(c

⁻¹

)at) pour 0 ≤ t ≤ 1, de la condition (C) va r´ esulter l’in´ egalit´ e

(2.1.3) sup

l≥0

(M

l

/N

l

)

^1/l

< ∞.

Exemples. (i) Soient m un r´ eel, m ≥ 1, et θ(t) = t

^m

. Il r´ esulte facilement de (1.1.7) et d’une application r´ ep´ et´ ee de (1.1.6) que si M est une suite fortement r´ eguli` ere quelconque, alors (C) est v´ erifi´ ee avec N = M

^m

.

(ii) Comme g´ en´ eralisation de l’exemple (i), on peut consid´ erer la fonction

admissible θ(t) = t

^m

(log(1 + 1/t))

^−p

avec m et p r´ eels, m ≥ 1, p ≥ 0.

(6)

Alors, si M est la suite de Gevrey M

l

= l!

^α

, α > 0, et si N est d´ efinie par N

l

= l!

^mα

(log l)

^lp

, des calculs ´ el´ ementaires permettent de montrer que (C) est v´ erifi´ ee.

Dans l’exemple (ii), ou plus g´ en´ eralement avec toute fonction admissible θ, il est naturel de se demander si, ´ etant donn´ ee une suite M fortement r´ eguli` ere quelconque, il existe toujours une suite N fortement r´ eguli` ere telle que (C) soit v´ erifi´ ee. La proposition suivante r´ epond par l’affirmative, sous des hypoth` eses suppl´ ementaires de r´ egularit´ e pour θ, peu restrictives. La preuve fournit en outre une construction explicite de N .

2.2. Proposition. Soient M une suite fortement r´eguli`ere et θ une fonction admissible satisfaisant les propri´ et´ es suivantes au voisinage de 0 dans R

+

:

(2.2.1) la fonction t → θ(t)/t est croissante,

(2.2.1) il existe un entier q > 1 tel que t → θ(t)/t

^q

soit d´ ecroissante.

Alors il existe une suite N fortement r´ eguli` ere telle que la condition (C) soit v´ erifi´ ee.

P r e u v e. On pose m

l

:= M

l+1

/M

l

de sorte que l’on a M

l

= m

0

. . . m

l−1

pour tout l ≥ 1. On d´ efinit alors N par les ´ egalit´ es N

0

= 1 et N

l

= n

0

. . . n

l−1

pour l ≥ 1, avec

(2.2.3) n

l

:= 1

θ(1/m

l

) .

On v´ erifie d’abord que N est fortement r´ eguli` ere. D’apr` es (1.1), on sait que (m

l

)

l≥0

croˆıt vers ∞. On voit imm´ ediatement qu’il en est de mˆ eme pour (n

l

)

l≥0

, donc que N satisfait (1.1.1). ´ Ecrivons ensuite n

l

= ε

l

m

^q_l

, o` u q est l’entier qui figure dans (2.2.2) et o` u la suite (ε

l

)

l≥0

, donn´ ee par

ε

l

:= (1/m

l

)

^q

θ(1/m

l

) ,

est en cons´ equence d´ ecroissante (on peut supposer sans perte de g´ en´ eralit´ e que (2.2.2) a lieu sur ]0, 1/m

0

]). On a alors, pour tout entier l,

(2.2.4) N

l

= ε

0

. . . ε

l−1

M

_l^q

et, puisque M satisfait (1.1.2),

(2.2.5) N

l

≤ A

^ql

ε

0

. . . ε

l−1

M

_j^q

M

_l−j^q

pour 0 ≤ j ≤ l. On a en outre ε

0

. . . ε

j−1

ε

j

. . . ε

l−1

≤ ε

₀

. . . ε

j−1

ε

0

. . . ε

l−j−1

puisque (ε

l

)

l≥0

est d´ ecroissante. En reportant dans (2.2.5), on obtient

N

l

≤ (A

^q

)

^l

(ε

0

. . . ε

j−1

M

_j^q

)(ε

0

. . . ε

l−j−1

M

_l−j^q

),

(7)

donc, compte tenu de (2.2.4), que N satisfait (1.1.2). Enfin, on a X

j≥l

N

j

(j + 1)N

j+1

= X

j≥l

1 (j + 1)n

j

= X

j≥l

θ(1/m

j

) j + 1

= X

j≥l

1 (j + 1)m

j

· θ(1/m

j

) 1/m

j

≤ θ(1/m

l

) 1/m

l

X

j≥l

1 (j + 1)m

j

, d’apr` es (2.2.1) et la d´ ecroissance de (1/m

l

)

l≥0

(on peut ´ egalement supposer que (2.2.1) a lieu sur ]0, 1/m

0

]). L’hypoth` ese (1.1.3) pour M se traduit par

X

j≥l

1 (j + 1)m

j

≤ Al 1

(l + 1)m

l

. Il vient donc

X

j≥l

N

j

(j + 1)N

j+1

≤ Al θ(1/m

l

)

l + 1 = Al N

l

(l + 1)N

l+1

, c’est-` a-dire que N satisfait (1.1.3).

On ´ etablit maintenant la condition (C). On d´ ecoupe I := ]0, 1/m

0

] en intervalles I

l

:= ]1/m

l

, 1/m

l−1

], l ≥ 1. Il est ´ el´ ementaire de v´ erifier que l’on a

(2.2.6) h

M

(t) = t

^l

M

l

pour t ∈ I

l

et θ(t) ∈ [1/n

l

, 1/n

l−1

], donc, pour la mˆ eme raison, (2.2.7) h

N

(θ(t)) = θ(t)

^l

N

l

pour t ∈ I

l

. Enfin, d’apr` es (2.2.1), on a

(2.2.8) θ(t) t

l

N

l

≥ θ(1/m

l

) 1/m

l

N

l

≥ m

l

n

l

N

l

pour t ∈ I

l

. Par ailleurs, comme N est fortement r´ eguli` ere, elle satisfait la propri´ et´ e (1.1.4). En d’autres termes, on a n

^l_l

≤ C

^l

N

l

pour une constante C convenable, C ≥ 1. L’in´ egalit´ e M

l

= m

0

. . . m

l−1

≤ m

^l_l

´ etant triviale puisque (m

l

)

l≥0

croˆıt, on obtient (m

l

/n

l

)

^l

≥ C

^−l

M

l

/N

l

et, par (2.2.7) et (2.2.8), h

N

(θ(t)) ≥ (t/C)

^l

M

l

pour t ∈ I

l

. Comme on a, par d´ efinition, h

M

(t/C) ≤ (t/C)

^l

M

l

pour tout t, il s’ensuit

(2.2.9) h

M

(t/C) ≤ h

N

(θ(t)) pour tout t de I.

En vertu de (2.2.1), on a aussi (2.2.10) θ(t)

t

l

N

l

≤ θ(1/m

l−1

) 1/m

l−1

l

N

l

= m

l−1

n

l−1

l

N

l

pour t ∈ I

l

.

En utilisant, similairement ` a ce qui pr´ ec` ede, (1.1.4) et la croissance de

(n

l

)

l≥0

, on obtient (m

l−1

/n

l−1

)

^l

≤ (C

⁰

)

^l

M

l

/N

l

et donc, par (2.2.6) et

(8)

(2.2.10), (θ(t)/C

⁰

)

^l

N

l

≤ h

_M

(t) pour t ∈ I

l

, C

⁰

d´ esignant une constante convenable, avec C

⁰

≥ 1. Il s’ensuit

(2.2.11) h

N

(θ(t)/C

⁰

) ≤ h

M

(t) pour tout t de I.

Enfin, d’apr` es (2.2.1), on a θ(C

⁰

t)/C

⁰

≥ θ(t) et, en reportant dans (2.2.11), h

N

(θ(t)) ≤ h

N

(θ(C

⁰

t)/C

⁰

) ≤ h

M

(C

⁰

t) pour t ∈ (1/C

⁰

)I. Joint ` a (2.2.9), ceci montre que l’on a (2.1.2) sur un intervalle [0, t

0

] (t

0

> 0), ce qui suffit ` a prouver (C).

2.3. Lemme. Soient E

1

et E

2

deux compacts de R

ⁿ

avec E

1

∩ E

₂

6= ∅, θ une fonction admissible et M , N deux suites fortement r´ eguli` eres. On suppose que E

1

et E

2

sont θ-situ´ es et que la condition (C) est satisfaite.

Alors il existe deux ouverts Ω

1

et Ω

2

contenus dans R

ⁿ

\(E

₁

∩ E

₂

) et , pour tout λ > 0, une fonction ψ

λ

de classe C

^∞

sur R

ⁿ

\(E

₁

∩ E

₂

), tels que les propri´ et´ es suivantes soient v´ erifi´ ees :

0 ≤ ψ

λ

≤ 1 sur R

ⁿ

\(E

₁

∩ E

₂

), (2.3.1)

E

1

\E

₂

⊂ Ω

₁

et ψ

λ

≡ 1 sur Ω

1

, (2.3.2)

E

2

\E

₁

⊂ Ω

₂

et ψ

λ

≡ 0 sur Ω

2

, (2.3.3)

pour tout multi-indice L et tout x de R

ⁿ

\(E

₁

∩ E

₂

), on a

(2.3.4) |D

^L

ψ

λ

(x)| ≤ C(λ)

^l+1

l!N

l

(h

M

(λd(x, E

1

∩ E

₂

)))

⁻¹

,

o` u C(λ) est une constante positive ne d´ ependant que de λ, de la g´ eom´ etrie de E

1

, E

2

(en particulier de θ) et des suites M , N .

P r e u v e. On commence par construire deux familles homoth´ etiques de boules euclidiennes Q

j

= B(x

^j

, r

j

), Q

^∗_j

= B(x

^j

, (1 + δ)r

j

), j ∈ N (o` u δ est une constante positive convenable) avec Q

j

∩ E

1

6= ∅, satisfaisant les propri´ et´ es suivantes :

(2.3.5) on a E

1

\E

2

⊂ S

j≥0

Q

j

et E

2

∩ S

j≥0

Q

^∗_j

⊂ E

1

∩ E

2

, (2.3.6) il existe un entier N tel que pour tout i de N,

la boule Q

^∗_i

coupe au plus N boules Q

^∗_j

, j 6= i, (2.3.7) pour tous j ∈ N et x ∈ Q

^∗j

, on a

δ

⁰

r

j

≤ d(x, E

₂

) ≤ δ

⁰⁰

r

j

et d(x, E

1

) ≤ δ

⁰⁰

r

j

, o` u δ

⁰

, δ

⁰⁰

sont des constantes positives convenables.

Pour cela, on obtient les Q

j

, Q

^∗_j

en ne conservant, dans un recouvrement de Whitney de R

ⁿ

\E

₂

([CC], prop. 5), que les boules qui rencontrent E

1

.

Dans 2.1, on peut clairement supposer, quitte ` a diminuer γ, que Ω contient S

j≥0

Q

^∗_j

.

Soit λ > 0, quelconque. En appliquant ` a Q

j

, Q

^∗_j

et ` a la suite N une

construction de J. Bruna ([B], §2, voir aussi [CC], prop. 4), on produit alors

(9)

une fonction ϕ

λ,j

de classe C

^∞

dans R

ⁿ

satisfaisant : (2.3.8) 0 ≤ ϕ

λ,j

≤ 1, supp ϕ

_λ,j

⊂ Q

^∗_j

et ϕ

λ,j

≡ 1 sur Q

_j

, (2.3.9) pour tout multi-indice L et tout x de R

ⁿ

, on a

|D

^L

ϕ

λ,j

(x)| ≤ (C

⁰

θ(T λ))

^l+1

l!N

l

(h

N

(Cθ(T λ)r

j

))

⁻¹

,

o` u on a pos´ e C = 2δ

⁰⁰

/γ (γ est la constante figurant en (2.1.1)), o` u T est un param` etre, T ≥ 1, ` a d´ eterminer, et o` u C

⁰

est une constante convenable, ne d´ ependant que de N et de la g´ eom´ etrie de E

1

, E

2

.

Observons maintenant que d’apr` es (1.6.5), (2.1.1) et (2.3.7), on a, pour x ∈ supp ϕ

λ,j

,

h

N

(Cθ(T λ)r

j

) ≥ h

N

(θ(λd(x, E

1

∩ E

₂

))),

pour une valeur convenable du param` etre T. Compte tenu de (2.1.2), on obtient

(2.3.10) h

N

(Cθ(T λ)r

j

) ≥ bh

M

(cλd(x, E

1

∩ E

₂

)), pour tout x de supp ϕ

λ,j

.

On pose alors ψ

λ,1

= ϕ

λ,1

, ψ

λ,j

= ϕ

λ,j

Q

j−1

i=1

(1−ϕ

λ,i

) pour j > 1, et enfin ψ

λ

= P

∞

j=1

ψ

λ,j

. Des arguments similaires ` a ceux de [CC], prop. 6, joints aux propri´ et´ es (2.3.5), (2.3.6), (2.3.8) ` a (2.3.10), permettent de v´ erifier que ψ

λ

satisfait les conclusions du lemme (quitte ` a remplacer λ par λ/c), avec Ω

1

= S

j≥0

Q

j

et Ω

2

= Ω \ S

j≥0

Q

^∗_j

.

On a alors un th´ eor` eme concernant l’extension simultan´ ee de deux jets de classe J

M

sur E

1

et E

2

.

2.4. Th´ eor` eme. Soient E

1

, E

2

deux compacts de R

ⁿ

, θ une fonction admissible et M, N deux suites fortement r´ eguli` eres telles que la condition (C) soit v´ erifi´ ee. Alors les propri´ et´ es (A) et (B) suivantes sont ´ equivalentes :

(A) Les compacts E

1

et E

2

sont θ-situ´ es.

(B) Quels que soient les jets de Whitney F

1

, F

2

satisfaisant (i) F

j

∈ J

M

(E

j

), j = 1, 2, et

(ii) <

E1∩E2

F

1

= <

E1∩E2

F

2

,

il existe une fonction f de C

N

(R

ⁿ

) telle que l’on ait <

Ej

f = F

j

pour j = 1, 2.

P r e u v e. (A)⇒(B). D’apr` es 1.4, il existe deux fonctions f

1

, f

2

de

C

M

(R

ⁿ

), v´ erifiant <

Ej

f

j

= F

j

pour j = 1, 2. Dans le cas particulier E

1

∩

E

2

= ∅ de la d´ efinition 2.1, on prend simplement f = ψf

1

+ (1 − ψ)f

2

, o` u

ψ est une fonction de classe C

M

satisfaisant ψ ≡ 1 au voisinage de E

1

et

ψ ≡ 0 au voisinage de E

2

(une telle fonction se construit facilement ` a l’aide

des r´ esultats de [B], §2).

(10)

Dans le cas g´ en´ eral, soit g := f

1

− f

₂

. Alors g appartient ` a C

M

(R

ⁿ

) et est plate sur E

1

∩ E

₂

. Par des arguments standard (voir par exemple [Dr], prop. 2.4) on a donc, pour tout multi-indice L,

|D

^L

g(x)| ≤ C

^l+1

l!M

l

h

M

(Cd),

avec d = d(x, E

1

∩ E

₂

), x quelconque dans R

ⁿ

, C d´ esignant une constante positive convenable. Compte tenu de (1.1.6) et (2.1.3), il vient, quitte ` a augmenter C,

|D

^L

g(x)| ≤ C

^l+1

l!N

l

(h

M

(BCd))

²

.

On applique alors le lemme 2.3 avec λ = BC. Par la formule de Leibniz et (2.3.4), on v´ erifie alors que l’on a, toujours quitte ` a augmenter C,

|D

^L

(ψ

λ

g)(x)| ≤ C

^l+1

l!N

l

h

M

(λd) pour tout x de R

ⁿ

\ (E

₁

∩ E

₂

) et tout multi-indice L.

Il s’ensuit que ψ

λ

g se prolonge en une fonction e g de classe C

N

sur R

ⁿ

, plate sur E

1

∩ E

2

. On consid` ere alors f = e g + f

2

. Compte tenu de (2.1.3), on a bien f ∈ C

N

(R

ⁿ

); en outre, sur l’ouvert Ω

j

(j = 1, 2) construit en (2.3), on a f = f

j

en vertu de (2.3.2) et (2.3.3). Il en r´ esulte <

Ej

f = <

Ej

f

j

= F

j

. (B)⇒(A). Supposons que E

1

et E

2

ne soient pas θ-situ´ es. Alors il existe une suite (x

^j

)

j≥0

de points de R

ⁿ

telle que l’on ait d(x

^j

, E

1

) + d(x

^j

, E

2

) <

1

j

θ(d(x

^j

, E

1

∩ E

₂

)). Soit π

^j

un point de E

1

tel que l’on ait |π

^j

− x

^j

| = d(x

^j

, E

1

). A l’aide de (1.6.4) et d’in´ egalit´ es ´ el´ ementaires on ´ etablit facilement que pour j assez grand, on a

(2.4.1) 0 < d(π

^j

, E

2

) ≤ C

j θ(d(π

^j

, E

1

∩ E

₂

)),

o` u C est une constante convenable. Modulo extraction, on peut alors supposer que (π

^j

)

j≥0

converge vers un point de E

1

∩ E

₂

.

Soient les boules B

j

= B π

^j

,

¹₄

d(π

^j

, E

1

∩ E

₂

)

et B

_j^∗

= B π

^j

,

¹₂

d(π

^j

, E

1

∩ E

₂

). Quitte `a extraire encore une sous-suite, on peut supposer que les B

_j^∗

ne se coupent pas deux ` a deux. En utilisant de nouveau [B], §2, on montre qu’il existe ϕ

j

∈ C

_M

(R

ⁿ

) telle que l’on ait

0 ≤ ϕ

j

≤ 1, ϕ

j

≡ 1 sur B

j

, supp ϕ

j

⊂ B

^∗_j

et

|D

^L

ϕ

j

(x)| ≤ (C

⁰

)

^l+1

l!M

l

(h

M

(d(π

^j

, E

1

∩ E

₂

)))

⁻¹

pour tout multi-indice L et tout x de R

ⁿ

, o` u C

⁰

d´ esigne une constante convenable. On pose alors, pour η r´ eel positif ` a d´ eterminer,

φ(x) =

∞

X

j=0

h

N

(θ(ηd(π

^j

, E

1

∩ E

₂

)))ϕ

j

(x).

(11)

Compte tenu de (2.1.2) et (1.1.6), il est facile de voir que φ d´ efinit une fonction de C

M

(R

ⁿ

), plate sur E

1

∩E

₂

, pourvu que le param` etre η soit choisi assez petit.

Soit alors F

1

:= <

E1

φ. On a F

1

∈ J

_M

(E

1

). On pose F

2

= 0 de sorte que l’on a aussi F

2

∈ J

_M

(E

2

) et <

E1∩E2

F

1

= <

E1∩E2

F

2

.

Supposons maintenant que l’on puisse trouver une fonction f de classe C

N

dans R

ⁿ

, satisfaisant <

Ej

f = F

j

pour j = 1, 2. Comme F

2

est nul, f doit ˆ etre plate sur E

2

, d’o` u l’on tire facilement

(2.4.2) |f (x)| ≤ C

⁰⁰

h

N

(C

⁰⁰

d(x, E

2

)),

pour tout x de R

ⁿ

. Or on a f (π

^j

) = φ(π

^j

) = h

N

(θ(ηd(π

^j

, E

1

∩ E

₂

))) par construction. Il en r´ esulte, d’apr` es (1.6.5) et (2.4.1), que pour une constante T convenable, T ≥ 1, on a

|f (π

^j

)| ≥ h

N

(η

⁰

jd(π

^j

, E

2

))

avec η

⁰

=(Cθ(T /η))

⁻¹

. Ceci contredit clairement (2.4.2) et ach` eve la preuve.

R e m a r q u e. L’inspection de ce qui pr´ ec` ede montre que le rˆ ole du lemme 2.3 consiste ` a produire des “multiplicateurs” pour les fonctions de classe C

M

plates sur E

1

∩ E

₂

. Sur ces questions, on se reportera ` a [M] ou [T] dans le cas C

^∞

. Dans le cas des classes ultradiff´ erentiables, 2.2 am´ eliore, en un certain sens, un r´ esultat de A. Lambert [L], V.1.2, qui permet de traiter uniquement le cas M = N , θ(t) = t, sous des hypoth` eses techniques additionnelles.

2.5. Optimalit´ e du th´ eor` eme pr´ ec´ edent. Dans le sens (A)⇒(B) du th´ eor` eme 2.4, la perte de r´ egularit´ e li´ ee ` a la condition (C) est en g´ en´ eral la meilleure possible, comme on peut le voir en reprenant un exemple de W.

Ple´ sniak [P] :

Soit m un r´ eel, m ≥ 1. On pose E

1

= {(x, y) ∈ R

²

: 0 ≤ x ≤ 1, x

^m

≤ y

≤ 1} et E

2

= [0, 1] × [−1, 0] dans R

²

. Les compacts E

1

et E

2

sont clairement θ-situ´ es, avec θ(t) = t

^m

.

On consid` ere la fonction ϕ(x, y) = exp(−1/x) pour (x, y) dans E

1

. Elle est de classe C

M

avec M

l

= l

^l

(ou, indiff´ eremment, l!). En outre, comme E

1

a la propri´ et´ e (P) de Whitney (voir (1.5)), cette fonction d´ efinit un jet F

1

de J

M

(E

1

). On prend pour F

2

le jet nul sur E

2

. Alors F

1

et F

2

co¨ıncident (au sens des jets) sur E

1

∩ E

2

= {(0, 0)}.

Au vu de l’exemple 2.1(i), le th´ eor` eme 2.4 stipule qu’il existe alors une fonction f de C

M^m

(R

ⁿ

) satisfaisant <

Ej

f = F

j

pour j = 1, 2 et, en particulier, f |

E1

= ϕ, f |

E2

= 0.

Cependant, les arguments de [P], 1.9, montrent que toute fonction f, de

classe C

^∞

au voisinage de E

1

∪ E

₂

et suppos´ ee satisfaire ces deux derni` eres

(12)

conditions, doit n´ ecessairement v´ erifier, pour une constante C convenable, sup

(x,y)∈R²

∂

^l

f

∂y

^l

(x, y)

≥ C

^l

l!l

^ml

pour tout entier l : ceci montre que le r´ esultat pr´ ec´ edent est optimal.

On peut donner un ´ eclairage g´ en´ eral sur l’exemple 2.5 en consid´ erant le corollaire suivant du th´ eor` eme 2.4. Ce corollaire g´ en´ eralise, pour certains ouverts Ω, la propri´ et´ e d’extension de fonctions de la remarque 1.5.

2.6. Corollaire. Soient θ une fonction admissible et M , N deux suites fortement r´ eguli` eres telles que la condition (C) soit v´ erifi´ ee. Soit Ω un ouvert born´ e de R

ⁿ

. On suppose que l’on a Ω = Ω

1

∪ Ω

₂

o` u Ω

1

et Ω

2

sont deux ouverts dont l’adh´ erence a la propri´ et´ e (P) de Whitney. Alors les propri´ et´ es (A

⁰

) et (B

⁰

) suivantes sont ´ equivalentes :

(A

⁰

) Les compacts Ω

1

et Ω

2

sont θ-situ´ es.

(B

⁰

) Toute fonction f de C

M

(Ω) s’´ etend en une fonction e f de C

N

(R

ⁿ

) (c’est-` a-dire que l’on a e f |

_Ω

= f ).

P r e u v e. (A

⁰

)⇒(B

⁰

). Comme Ω

j

a la propri´ et´ e (P), f |

_Ω

j

d´ efinit un jet F

j

de J

M

(Ω

j

) pour j = 1, 2 et on a clairement <

_Ω

1∩Ω2

F

1

= <

_Ω

1∩Ω2

F

2

=

<

_Ω

1∩Ω2

f. D’apr` es 2.4, il existe e f dans C

N

(R

ⁿ

) satisfaisant <

_Ω_j

f = F e

j

pour j = 1, 2 et donc e f |

_Ω

= f .

(B

⁰

)⇒(A

⁰

). Soient F

1

, F

2

deux jets de J

M

(Ω

1

) et J

M

(Ω

2

) respective- ment, satisfaisant <

_Ω

1∩Ω2

F

1

= <

_Ω

1∩Ω2

F

2

. D’apr` es 1.4, il existe deux fonctions f

j

de C

M

(R

ⁿ

) (j = 1, 2) telles que l’on ait <

_Ω

j

f

j

= F

j

. La condition de co¨ıncidence sur Ω

1

∩ Ω

₂

montre que l’on peut d´ efinir une fonction f de C

M

(Ω) par recollement en posant f = f

j

sur Ω

j

. Par hypoth` ese, il existe f dans C e

N

(R

ⁿ

) telle que l’on ait e f |

_Ω

= f , d’o` u l’on tire <

_Ω

j

f = F e

j

pour j = 1, 2. D’apr` es 2.4, ceci impose que Ω

1

et Ω

2

soient θ-situ´ es.

3. Prolongement de fonctions

3.1. D´ efinitions. Soit θ une fonction admissible. Un compact E de R

ⁿ

est dit θ-r´ egulier s’il existe une constante positive γ telle que deux points quelconques ξ et x de E puissent ˆ etre joints par un arc rectifiable σ contenu dans l’int´ erieur de E sauf peut-ˆ etre pour un nombre fini de points, et dont la longueur |σ| v´ erifie

(3.1.1) θ(|σ|) ≤ γ|x − ξ|.

Par exemple, pour θ(t) = t

^m

, m ≥ 1, la θ-r´ egularit´ e n’est autre que

la m-r´ egularit´ e de Whitney ([M], [T], [P]). En particulier, pour m = 1, on

retrouve la propri´ et´ e (P), voir 1.5. Par ailleurs, de (1.6.7) r´ esulte aussi le fait

(13)

que si le compact E est θ-r´ egulier, il est n´ ecessairement m-r´ egulier pour m convenable. A ce titre, si E est l’adh´ erence d’un ouvert born´ e Ω, il s’ensuit que toute fonction de C

^∞

(Ω) s’´ etend en une fonction de C

^∞

(R

ⁿ

) (voir [M], [T]). On pr´ ecisera en (3.4) le lien entre les notions de compacts θ-situ´ es et θ-r´ eguliers.

Soient alors θ une fonction admissible et M , N deux suites fortement r´ eguli` eres. On dira que la condition (D) est v´ erifi´ ee s’il existe des constantes b, c, avec 0 < b < 1, 0 < c < 1, telles que l’on ait

(3.1.2) bh

M

(l, ct) ≤ θ(t)

^l

N

l

pour tout l de N

^∗

et tout t de R

+

(voir (1.1.8) pour la d´ efinition de h

M

(l, ·)).

R e m a r q u e s. (i) Comme la condition (C) (voir 2.1), la condition (D) implique

(3.1.3) sup

l≥0

(M

l

/N

l

)

^1/l

< ∞.

Il suffit pour le voir de prendre t = 1 dans (3.1.2), en remarquant que l’on a h

M

(l, c) = c

^l

M

l

pour l assez grand.

(ii) En observant, plus pr´ ecis´ ement, que l’on a h

M

(l, t) = h

M

(t) pour t ≤ M

l

/M

l+1

et h

M

(l, t) = t

^l

M

l

pour t > M

l

/M

l+1

, on v´ erifie sans difficult´ e que si t → θ(t)/t est croissante au voisinage de 0 et si la condition (C) est satisfaite, alors la condition (D) est ´ egalement satisfaite.

(iii) Si θ satisfait les hypoth` eses (2.2.1) et (2.2.2) au voisinage de 0 dans R

+

et si M est une suite fortement r´ eguli` ere donn´ ee, il r´ esulte de ce qui pr´ ec` ede et de 2.2 qu’il existe toujours une suite N fortement r´ eguli` ere telle que (D) soit satisfaite.

Exemples. (i) Pour θ(t) = t

^m

, m ≥ 1, on v´ erifie ais´ ement, ` a l’aide de (1.1.2), que (D) est satisfaite avec N = M

^m

.

(ii) Le (ii) de la remarque pr´ ec´ edente, joint ` a l’exemple 2.1(ii), montre que si θ(t) = t

^m

(log(1 + 1/t))

^−p

, m ≥ 1, p ≥ 0, et si M

l

= l!

^α

, α > 0, alors (D) est v´ erifi´ ee avec N

l

= l!

^mα

(log l)

^lp

.

3.2. Th´ eor` eme. Soient θ une fonction admissible et M , N deux suites fortement r´ eguli` eres telles que la condition (D) soit v´ erifi´ ee. Soit Ω un ouvert born´ e de R

ⁿ

, d’adh´ erence θ-r´ eguli` ere. Alors, pour toute fonction f de C

M

(Ω), il existe une fonction e f de C

N

(R

ⁿ

) telle que l’on ait e f |

_Ω

= f .

P r e u v e. On pose F

J

= D

^J

f pour tout multi-indice J . Vu le th´ eo- r` eme 1.4, il s’agit de montrer que F := (F

J

)

_{J ∈N}ⁿ

est un jet de J

N

(Ω).

Compte tenu de (3.1.3), on a clairement l’estimation

(3.2.1) |F

_J

| ≤ C

^j+1

j!N

j

pour une constante C convenable. Il suffit donc de v´ erifier la condition de

Taylor dans la d´ efinition des jets en 1.3.

(14)

Soient p un entier, L un multi-indice avec l ≤ p, ξ et x deux points de Ω. On consid` ere σ un arc rectifiable associ´ e ` a ξ et x par la d´ efinition 3.1.

Pour tout entier q avec q ≥ p, on a

(3.2.2) |F

_L

(x) − D

^L

T

_ξ^p

F (x)| ≤ |E

1

| + |E

₂

| avec

E

1

= F

L

(x) − D

^L

T

_ξ^q

F (x) et E

2

= D

^L

(T

_ξ^q

F − T

_ξ^p

F )(x).

A partir de [W], lemme 3, et par des arguments inspir´ es de [BBMT], 3.12, on obtient, quitte ` a augmenter C, l’estimation |E

1

| ≤ C

^q+1

l!M

q+1

|σ|

^q+1−l

. Avec l’in´ egalit´ e triviale |x − ξ| ≤ |σ|, on en d´ eduit

(3.2.3) |E

1

| ≤ (C|σ|)

^q+1

M

q+1

l!|x − ξ|

^−l

. Par ailleurs, on a

|E

₂

| ≤ X

J, p+1≤j≤q

1 J ! |F

_J

(ξ)D

^L

(x − ξ)

^J

|

≤ X

J, p+1≤j≤q l1≤j1,...,ln≤jn

1 (J − L)! C

^j+1

j!M

j

|x − ξ|

^j−l

.

A l’aide du fait ´ el´ ementaire j! ≤ 2

^j

(j − l)!l! ≤ 2

^j

2

^{(n−1)(j−l)}

(J − L)!l!, on en tire

|E

₂

| ≤ C

q

X

j=p+1

2

^−j

(2

ⁿ⁺¹

C|x − ξ|)

^j

M

j

l!(2

ⁿ⁻¹

|x − ξ|)

^−l

.

Clairement, le maximum pour p+1 ≤ j ≤ q+1 de l’expression (2

ⁿ⁺¹

C|x−

ξ|)

^j

M

j

est atteint pour j = p + 1 ou pour j = q + 1.

Dans le premier cas, on obtient

|E

₂

| ≤ C X

^q

j=p+1

2

^−j

(2

ⁿ⁺¹

C|x − ξ|)

^p+1

M

p+1

l!|x − ξ|

^−l

, d’o` u, compte tenu de (3.1.3),

(3.2.4) |E

₂

| ≤ C

^p+1

l!N

p+1

|x − ξ|

^p+1−l

, quitte ` a augmenter C.

Dans le deuxi` eme cas, on obtient similairement

|E

₂

| ≤ C(2

ⁿ⁺¹

C|x − ξ|)

^q+1

M

q+1

l!|x − ξ|

^−l

, d’o` u, en utilisant encore l’in´ egalit´ e |x − ξ| ≤ |σ|,

(3.2.5) |E

₂

| ≤ C(2

ⁿ⁺¹

C|σ|)

^q+1

M

q+1

l!|x − ξ|

^−l

.

(15)

On choisit alors q = q(p, |σ|) comme le plus petit entier sup´ erieur ou ´ egal

`

a p tel que l’on ait

(2

ⁿ⁺¹

C|σ|)

^q+1

M

q+1

= h

M

(p + 1, 2

ⁿ⁺¹

C|σ|).

D’apr` es (3.1.2), pour |σ| ≤ 1/C

⁰

avec C

⁰

= 2

ⁿ⁺¹

c

⁻¹

C, on a h

M

(p + 1, 2

ⁿ⁺¹

C|σ|) ≤ b

⁻¹

θ(C

⁰

|σ|)

^p+1

N

p+1

. Par (1.6.2) et (3.1.1), on a en outre θ(C

⁰

|σ|) ≤ γθ(C

⁰

)|x − ξ|. On obtient donc des constantes C

⁰

, C

⁰⁰

positives (d´ ependant de f , θ, γ, M , N ) telles que l’on ait

(3.2.6) (2

ⁿ⁺¹

C|σ|)

^q+1

M

q+1

≤ (C

⁰⁰

)

^p+1

N

p+1

|x − ξ|

^p+1

pour |σ| ≤ 1/C

⁰

.

Finalement, (3.2.2) ` a (3.2.6) montrent que quels que soient les points ξ et x de Ω satisfaisant |σ| ≤ 1/C

⁰

, on a, quitte encore ` a augmenter C, (3.2.7) |F

_L

(x) − D

^L

T

_ξ^p

F (x)| ≤ C

^p+1

l!N

p+1

|x − ξ|

^p+1−l

pour tout entier p et tout multi-indice L avec l ≤ p. Ceci termine la preuve (puisque pour |σ| > 1/C

⁰

, |x−ξ| reste sup´ erieur ` a la constante γ

⁻¹

θ(1/C

⁰

) et qu’alors l’in´ egalit´ e de Taylor (3.2.7) est une simple cons´ equence de (3.2.1)).

3.3. Remarques importantes. (i) La perte de r´ egularit´ e li´ ee ` a la condition (D) dans le th´ eor` eme 3.2 n’est pas optimale en g´ en´ eral, puisque (D) reste v´ erifi´ ee si l’on remplace N par une suite N

⁰

telle que lim

l→∞

(N

_l⁰

/N

l

)

^1/l

= ∞.

(ii) Il importe ´ egalement de remarquer qu’´ etant donn´ es Ω un domaine born´ e de R

²

, θ une fonction admissible et M , N deux suites fortement r´ eguli` eres telles que (D) soit v´ erifi´ ee, il n’est pas n´ ecessaire que Ω soit θ- r´ egulier pour avoir une propri´ et´ e d’extension de C

M

(Ω) ` a C

N

(R

ⁿ

). K. Wach- ta [Wa] a donn´ e un exemple de domaine Ω

0

de R

²

tel que toute fonction de C

^∞

(Ω

0

) s’´ etende en une fonction de C

^∞

(R

²

) bien que le compact Ω

0

ne soit pas Whitney-r´ egulier, c’est-` a-dire qu’il n’existe aucun m (m ≥ 1) tel que Ω

0

soit θ-r´ egulier pour θ(t) = t

^m

. Reprenant cet exemple, on peut

´

egalement montrer, ` a l’aide d’arguments similaires ` a la preuve de 3.2, que toute fonction de C

M

(Ω

0

) s’´ etend en une fonction de C

M⁴

(R

²

), (D) ´ etant v´ erifi´ ee avec N = M

⁴

, θ(t) = t

⁴

, et ceci bien que Ω

0

ne soit pas θ-r´ egulier.

La proposition suivante pr´ ecise la relation entre compacts θ-situ´ es et θ-r´ eguliers.

3.4. Proposition. Soient θ une fonction admissible et E

1

, E

2

deux compacts de R

ⁿ

. Alors :

(i) Si E

1

∪ E

₂

est θ-r´ egulier , les compacts E

1

et E

2

sont θ-situ´ es.

(ii) Si E

1

et E

2

sont θ-situ´ es avec E

1

∩ E

₂

6= ∅ et ont la propri´ et´ e (P) de

Whitney (voir 1.5), le compact E

1

∪ E

₂

est θ-r´ egulier.

(16)

P r e u v e. (i) Soient Ω un ouvert born´ e de R

ⁿ

contenant E

1

∪ E

₂

, x un point de Ω et x

^j

un point de E

j

tel que l’on ait |x − x

^j

| = d(x, E

_j

), j = 1, 2. On a |x

¹

− x

²

| ≤ d(x, E

1

) + d(x, E

2

). Or, par hypoth` ese, il existe un arc rectifiable σ joignant x

¹

` a x

²

dans E

1

∪ E

₂

et tel que l’on ait θ(|σ|) ≤ γ|x

¹

− x

²

|, d’o` u

(3.4.1) θ(|σ|) ≤ γ(d(x, E

1

) + d(x, E

2

)).

Soit b x un point de E

1

∩ E

₂

∩ σ. On note b σ le sous-arc de σ joignant x

¹

`

a b x. On a clairement d(x, E

1

∩ E

₂

) ≤ |x − b x| ≤ |x − x

¹

| + |x

¹

− x|. En vertu b des propri´ et´ es des fonctions admissibles on a alors

θ(d(x, E

1

∩ E

2

)) ≤ θ(2)θ(λ)(θ(|x − x

¹

|/λ) + θ(|x

¹

− b x|/λ))

≤ aθ(2)λ

⁻¹

θ(λ)|x − x

¹

| + θ(2)θ(λ)θ(|x

¹

− x|), b o` u l’on a pos´ e λ = max(1, sup

_x∈Ω

d(x, E

1

)+diam(E

1

)). Enfin, on a |x

¹

− x| ≤ b

| b σ| ≤ |σ|, d’o` u θ(d(x, E

1

∩ E

₂

)) ≤ aθ(2)θ(λ)(d(x, E

1

) + θ(|σ|)). On conclut alors, ` a l’aide de (3.4.1), que E

1

et E

2

sont θ-situ´ es.

(ii) Soient ξ et x des points de E

1

∪ E

₂

. Il suffira de consid´ erer le cas o` u l’on a x ∈ E

1

, ξ ∈ E

2

. On note x (resp. e e ξ) un point de E

1

∩ E

2

tel que l’on ait |x − x| = d(x, E e

1

∩ E

₂

) (resp. |ξ − e ξ| = d(ξ, E

1

∩ E

₂

)). On sait qu’il existe dans E

1

(resp. E

1

, E

2

) un arc σ

1

joignant x ` a x (resp. σ e

2

joignant x ` e a e ξ et σ

3

joignant e ξ ` a ξ), tel que l’on ait |σ

1

| ≤ C|x − x| (resp. e

|σ

₂

| ≤ C| e x − e ξ| et |σ

3

| ≤ C|e ξ − ξ|) pour une constante C convenable. On a aussi | x − e e ξ| ≤ | x − x| + |x − ξ| + |ξ − e e ξ|.

Soit σ := σ

1

∪ σ

₂

∪ σ

₃

. Des in´ egalit´ es pr´ ec´ edentes r´ esulte, quitte ` a augmenter C, la majoration |σ| ≤ C(|x − x| + |ξ − e e ξ| + |x − ξ|) et par cons´ equent, en vertu des propri´ et´ es des fonctions admissibles, θ(|σ|) ≤ C

⁰

(θ(|x − x|) e + θ(|ξ − e ξ|) + θ(|x − ξ|)) pour une constante C

⁰

convenable, ne d´ ependant que de la g´ eom´ etrie de E

1

∪ E

₂

.

Or on a θ(|x − x|) = θ(d(x, E e

1

∩ E

₂

)) ≤ γ

⁻¹

d(x, E

2

) ≤ γ

⁻¹

|x − ξ|

(resp. θ(|ξ − e ξ|) ≤ γ

⁻¹

|x − ξ| ) puisque E

₁

et E

2

sont θ-situ´ es. Enfin on a θ(|x − ξ|) ≤ C

⁰⁰

|x − ξ| d’apr` es (1.6.6). Il s’ensuit que l’arc rectifiable σ joint ξ ` a x dans E

1

∪ E

₂

et satisfait θ(|σ|) ≤ C

⁰

|x − ξ| quitte ` a augmenter C

⁰

. Enfin σ est contenu dans l’int´ erieur de E

1

∪ E

₂

sauf ´ eventuellement pour un nombre fini de points puisque c’est le cas pour σ

1

, σ

2

, σ

3

. Ceci ach` eve le preuve.

3.5. Un lien avec les r´ esultats du §2. Si Ω est un ouvert satisfaisant les

hypoth` eses du sens (A

⁰

)⇒(B

⁰

) de 2.6, il r´ esulte de 3.4(ii) que Ω est θ-r´ egulier,

donc, d’apr` es 3.2, que la propri´ et´ e d’extension de C

M

(Ω) ` a C

N

(R

ⁿ

) d´ ecrite

dans le sens direct de 2.6 reste valable si l’on remplace la condition (C)

par (D). Ceci peut aussi ˆ etre vu comme cons´ equence du r´ esultat g´ en´ eral

(17)

suivant, que l’on peut ´ etablir par des arguments identiques ` a ceux de la preuve de 3.2 :

On suppose que la condition (D) est satisfaite. Soient E

1

, . . . , E

k

des compacts de R

ⁿ

et , pour 1 ≤ j ≤ k, des jets F

j

de J

M

(E

j

) tels que l’on ait

<

_E_i_∩E_j

F

i

= <

Ei∩Ej

F

j

pour 1 ≤ i ≤ k, 1 ≤ j ≤ k, i 6= j. Alors, si les E

j

sont θ-situ´ es deux ` a deux , il existe une fonction f de C

N

(R

ⁿ

) telle que l’on ait <

Ej

f = F

j

pour 1 ≤ j ≤ k.

Lorsque t → θ(t)/t est croissante au voisinage de 0 dans R

+

, ce r´ esultat contient, en vertu de la remarque 3.1(ii), le sens (A)⇒(B) du th´ eor` eme 2.4 et, en cons´ equence, le sens (A

⁰

)⇒(B

⁰

) du corollaire 2.6. Mais il n’est plus question de r´ eciproque ici.

Il est ` a noter enfin que la preuve de 3.2 et du r´ esultat pr´ ec´ edent n’utilisent pas la forte r´ egularit´ e de M (mais seulement sa convexit´ e logarithmique (1.1.1)). La forte r´ egularit´ e de N n’est, quant ` a elle, utilis´ ee que dans l’´ etape finale qui consiste, via le th´ eor` eme 1.4, ` a ´ etendre le jet de classe J

N

obtenu.

3.6. A propos de la notion de fonction admissible. On commente pour conclure les hypoth` eses en 1.6.

Les conditions (1.6.1) et (1.6.3) garantissent la non-vacuit´ e des notions d’ensembles θ-situ´ es ou θ-r´ eguliers.

La condition (1.6.2) signifie que la d´ ecroissance de θ(t) quand t tend vers 0 n’est pas trop rapide, voir (1.6.7). Si on supprime (1.6.2), toute propri´ et´ e d’extension tombe g´ en´ eralement en d´ efaut, comme le montre l’exemple suivant :

On pose θ(t) = exp(−1/t), Ω

1

= {(x, y) ∈ R

²

: 0 < x < 1, exp(−1/x) <

y < 1} et Ω

2

= ]0, 1 [× ] − 1, 0 [ dans R

²

. Alors Ω

1

et Ω

2

sont θ-situ´ es.

En outre, si on pose ϕ(x, y) = exp(−1/x) pour (x, y) ∈ Ω

1

et ϕ(x, y) = 0 pour (x, y) ∈ Ω

2

, on d´ efinit ainsi une fonction de C

M

(Ω) pour M

l

= l

^l

et Ω = Ω

1

∪ Ω

₂

. Cependant il est classique ([Bi], 2.18) que ϕ ne peut mˆ eme pas s’´ etendre en une fonction de classe C

^∞

sur R

²

.

R´ ef´ erences

[Bi] E. B i e r s t o n e, Differentiable functions, Bol. Soc. Brasil. Mat. 11 (1980), 139–190.

[BBMT] J. B o n e t, R. W. B r a u n, R. M e i s e and B. A. T a y l o r, Whitney’s extension theorem for nonquasianalytic functions, Studia Math. 99 (1991), 156–184.

[B] J. B r u n a, An extension theorem of Whitney type for non-quasianalytic classes of functions, J. London Math. Soc. 22 (1980), 495–505.

[CC] J. C h a u m a t et A.-M. C h o l l e t, Th´ eor` eme de Whitney dans des classes ultradiff´ erentiables, Publ. Inst. Rech. Math. Lille 28 (1992), VIII.1-VIII.31 et C. R.

Acad. Sci. Paris 315 (1992), 901–906.

(18)

[Dr] B. D r o s t e, Holomorphic approximation of ultradifferentiable functions, Math.

Ann. 257 (1981), 293–316.

[L] A. L a m b e r t, Quelques th´ eor` emes de d´ ecomposition des ultradistributions, Ann. Inst. Fourier (Grenoble) 29 (3) (1979), 57–100.

[M] B. M a l g r a n g e, Ideals of Differentiable Functions, Tata Institute for Funda- mental Research, Bombay and Oxford Univ. Press, 1966.

[P] W. P l e´ s n i a k, Extension and polynomial approximation of ultradifferentiable functions in R

^N

, Bull. Soc. Roy. Sci. Li` ege 63 (1994), 393–402.

[T] J.-C. T o u g e r o n, Id´ eaux de fonctions diff´ erentiables, Ergeb. Math. Grenzgeb.

71, Springer, 1972.

[Wa] K. W a c h t a, Prolongation des fonctions C

^∞

, Bull. Polish Acad. Sci. Math. 31 (1983), 245–248.

[W] H. W h i t n e y, Functions differentiable on the boundaries of regions, Ann. of Math. 35 (1934), 482–485.

CNRS-URA 751

MATH ´EMATIQUES–B ˆAT. M2

UNIVERSIT ´E DES SCIENCES ET TECHNOLOGIES DE LILLE F-59655 VILLENEUVE D’ASCQ CEDEX, FRANCE

E-mail: THILLIEZ@GAT.UNIV-LILLE1.FR

Re¸ cu par la R´ edaction le 19.12.1994