Wykład 11: Martyngały: Twierdzenie o zbieżności i Hoeffdinga

RAP 412 21.01.2009

Wykład 11: Martyngały: Twierdzenie o zbieżności i Hoeffdinga

Wykładowca: Andrzej Ruciński Pisarz: Łukasz Waszak

1 Wstęp

Na ostatnim wykładzie przedstawiliśmy twierdzenie o zbieżności martyngałów oraz nierów- ność Dooba-Kołmogorowa. Nierówność ta jest wykorzystywana w dowodzie twierdzania o zbieżności. Na początku przedstawimy zatem jej dowód, a następnie przejdziemy do dowodu twierdzenia o zbieżności martyngałów. Na końcy przedstawimy klasyczną nierówność Hoef- fdinga. Tym sposobem zakończymy wykład z Rachunku Prawdopodobieństwa 2 w semestrze zimowym 2008/2009 na Wydziale Matematyki i Informatyki UAM w Poznaniu.

2 Twierdzenia o zbiezności martyngałów

Twierdzenie 1. (Twierdzenie o zbieżności martyngałów)

Niech (S _n ) będzie będzie martyngałem oraz posiada skończony moment zwykły drugiego rzędu , tzn. E(S _n ² ) < ∞. Istniej wówczas zmienna losowa S taka, że

S n a.s.

→ S oraz

S _n → S. ²

Aby udowodnić to twierdzenie najpierw musimy pokazać że zachodzi poniższa nierówność Twierdzenie 2. (Nierówność Dooba-Kołmogorowa)

Jeżeli (S _n ) jest martyngałem względem (X _n ), to P ( max

i=1,...,n {|S _i | ≥ ε}) ≤ E(S _n ² ) ε ² Dowód. Weźmy ciąg zdarzeń (A _n ) taki, że A 0 = Ω oraz

A _k = max

i=1,...,n {|S _i | ≥ ε}

Zdefiniujmy zdarzenia (dla każdego k)

B _k = A _k−1 ∩ {|S _k | < ε}

Ponadto

∀k ≥ 0 : A _k ∪

k

\

i=1

B i = Ω ⇔ I A

+

k

X

i=1

I B

= 1

Zbiory te są skończonym pokryciem przestzeni Ω.

Oszacujmy z dołu wartość oczekiwaną stojącą po prawej stronie nierówności E(S _n ² ) ≥

n

X

i=1

E(S _n ² I _B

) + E(S _n ² I _A

) ≥

n

X

i=1

E(S _n ² I _B

)

E(S _n ² I B

) = E((S n − S _i ) ² I B

) + 2E((S n − S _i )S i I B

) + E(S _i ² I B

)

Z jednego z zadań domowych wiadomo że druga część sumy jest równa zero, a pierwsza jest nieujemna. Natomiast ostatni wyraz możemy oszcować z dołu

E(S _i ² I _B

) = E(S _i ² I _B

|B _i )P (B _i ) + E(S _i ² I _B

i

|B _i

)P (B _i

) = E(S _i ² I _B

|B _i )P (B _i ) ≥ ε ² P (B _i ) Zatem ostatecznie otrzymujemy

E(S _n ² ) ≥

n

X

i=1

ε ² P (B _i ) = ε ² P ( max

i=1,...,n {|S _i | ≥ ε}) Co należało dowieść.

Teraz możemy przejść już do dowodu właściwego twierdzenia o zbieżności martyngałów.

Dowód. (twierdzenia o zbieżności martyngałów) Wystarczy pokazać zbieżność (istnienie ta- kiego ciągu zostało przedstawione jako rozwiązanie jednego z zadań domowych). Pokażemy, że ciąg (S _n (ω)) jest a.s. (prawie na pewno) ciągiem Cauchy’ego, tzn. dla pewnego zdarzenia C zachodzi P (C) = 1

C = {ω : S m (ω) − S n (ω) → 0, m, n → 0}

Zbiór C możemy zapisać równoważnie

C = {ω : ∀ε > 0∃m : |S _m+i − S _m+j | < ε, i, j ≥ 1} = {ω : ∀ε > 0∃m : |S _m+i − S _m | < ε, i ≥ 1}

co jest równoważne

C =



 

 

∀k : | S _m+i − S _m

| {z }

Y

| < 1 k



 

  Zatem

C

= [

k

\

m

A m (k) gdzie

A _m (k) =



 

 

∃i : | S _m+i − S _m

| {z }

Y

| ≥ 1 k



 

  jest wstępującym ciągiem zdarzeń.

P (C

) = lim

k→∞ P ( \

m

A _m (k)) ≤ lim

k→∞ lim

m→∞ P (A _m (k)

| {z }

D

(k)

)

Naszym celem jest pokazać, że dla każdego k zachodzi D _m (k) = 0. Z założenia (S _n ) jest martyngałem. Ustalmy teraz m i rozpatrzmy ciąg (Y _n )

Y n = S m+n − S _m (Y _n ) jest martyngalem względam samego siebie, ponieważ

E(Y _n+1 |Y ₁ , ..., Y _n ) = E[E(Y _n+1 |S ₁ , ..., S _m+n )|Y ₁ , ..., Y _n ]

= E[E(S m+n+1 − S _m |S ₁ , ..., S m+n )|Y 1 , ..., Y n ] = E(S m+n+1 − S _m |Y ₁ , ..., Y n )

= E(Y n |Y ₁ , ..., Y n ) = Y n

Teraz możemy zastosować Twierdzenie 2. (Nierówność Dooba-Kołmogorowa) P ( max

i=1,...,n



|Y _i | ≥ 1 k



) ≤ k ² E(Y _n ² ) Możemy teraz dokonać następującego oszacowania (+) z góry

P (A _m (k)) = lim

n→∞ P ( max

i=1,...,n |Y _i | ≥ 1

k ) ≤ k ² lim

n→∞ E(S _n+m − S _m ) ² Dla każdego m i n zmienne losowe S _m i S _m+n − S _m są nieskorelowane, tzn.

E(S m (S n+m − S _m )) = 0 oraz mamy (++)

E(S _n+m ) ² = E(S _m ) ² + E(S _n+m − S _m ) ²

Powyższy wzór (++) mówi o tym, że ciąg E(S _m ² ) jest niemalejący i ograniczony, a zatem jest on zbieżny. Jest zatem również ciągiem Cauchy’ego i jego podowójna granica dąży do zera. Wstawiając ten wzór to wzoru (+) otrzymujemy

P (A _m (k)) ≤ k ² lim

n→∞ [E(S ² _n+m ) − E(S _m ² )]

a więc

n→∞ lim P (A _m (k)) ≤ k ² · 0 = 0 Co należało dowieść.

Przykład 1.

Przykład ten jest kontynuacją przykładu 5(a) z poprzedniego wykładu, dotyczącego procesów gałązkowych

W n = Z n

µ ⁿ

E(W _n ² ) = 1 + σ ² (1 − µ ⁻ⁿ µ(µ − 1)

W n jest martyngałem wzglęgem Z _n , a jego drugi moment zwykły jest skończony. Na pod- stawie Twierdzenia 1. o zbieżności istniej zmienna losowa W taka, że

W _n ^a.s → W A ponadto dla każdego w > 0

P (Z n ≥ wµ ⁿ ) ^a.s → P (W ≥ w)

3 Nierówność Hoeffdinga

Przykład 2.

Niech (Ω, F, P) będzie przestrzenią probabilistyczną.

Wówczas ciąg

G 1 ⊆ G ₂ ⊆ ... ⊆ G _n ⊆ ... ⊆ F nazywamy filtracją.

Niech ponadto Y będzie zmienną losową Y : Ω→R o skończonym drugim momencie zwy- kłym. Dla tak określonej zmiennej losowej zdefinujmy martyngał (zwany martyngałem Do- oba)

Y n = E(Y |G n )

Pokażemy że Y _n jest martyngałem względem samego siebie. Dla każdego G ∈ G _n zachodzi 0 = E[(Y − Y _n )I _G ] = E[(Y − Y _n+1 + Y _n+1 − Y _n )I _G ]

= E[(Y − Y _n+1 )I _G ]

| {z }

=0(def.)

+E[(Y _n+1 − Y _n )I _G ] = E[(Y _n+1 − Y _n )I _G ]

Zatem

Y _n = E(Y _n+1 |G _n ) Definicja 1. (Uogólnienie przykładu)

Niech F _n będzie filtracją, natomiast Y _n będzie F _n − mierzalne.

Wówczas parę (Y _n , F n ) nazywamy martyngałem, gdy dla każdego n zachodzą następujące warunki:

(a)E(Y n ) < ∞ (b)E(Y _n+1 |F _n ) = Y _n Przedstawmy jeszcze krótki fakt

Fakt 1.

Jeżeli (Y _n ) jest martyngałem względem (X _n ), to (Y _n ) jest martyngałem względem (F _n ) = σ(X 1 , ..., X n )

Definicja 2. (Różnica martyngałów)

Różnicą martyngałów nazywamy funkcję D _n zmiennych losowych taką, że D _n = Y _n − Y _n−1

D n jest F _n − mierzalne i ponadto

(a)E(|D n |) < ∞

(b)E(D n+1 |F _n ) = 0

Wówczas

Y n = Y 0 +

n

X

i=1

D i

Teraz możemy przejść do właściwego twierdzenia, któremu jest poświęcony ten rozdział.

Twierdzenie 3. (Twierdzenie Hoeffdinga)

Niech (Y _n , F n ) będzie martyngałem. Załóżmy ponadto, że istnieje ciąg liczbowy K 1 , K 2 , ...

niekoniecznie o skończonych wartościach, taki że dla dowolnego n zachodzi P (|D _n | ≤ K _n ) = 1.

Wówczas

P (|Y _n − Y ₀ | ≥ x) ≤ 2 exp



− x ² 2 P n

i=1 K _i ²



Dowód. W dowodzie należy wykorzystać nierówność Markowa, biorąc wykładnicze zmienne losowe i dokonując odpowiedniej optymalizacji. Z powodu braku czas dowód zostawiamy jako zadanie domowe dla chętnych.

Przykład 3. (Zastosowanie twierdzenia Hoeffdinga)

Niech (X _n ) będzie ciągiem niezależnych zmiennych losowych o jednakowym rozkładzie Bernoulliego z parametrem p (i.i.d.)

X ₁ = ^d b(p).

Wówczas zmienna losowa S _n będąca sumą tych zmiennych losowych ma rozkład dwumia- nowy z parametrami n i p

S _n =

n

X

i=1

X _i = ^d Bin(n, p) Wówczas

Y n = S n − E(S _n ) = S n − np jest martyngałem, gdzie S ₀ = Y 0 = 0.

Ponadto

D _n = Y _n − Y _n−1 = X _n − p D n ∈ {−p, 1, p}

a więc

|D _n | ≤ 1 = K _n Na podstawie twierdzenia Hoeffdinga mamy

P (|S n − np| ≥ x) ≤ 2 exp



− x ² 2n



Przyjmując x := log(n) otrzymamy oszacowanie prawdopodobieństwa z lewej strony z góry przez liczbę 2. Jednak takie oszacowanie jest całkowicie nieużyteczne.

Natomiast podstawienie x := a _n √

n daje dużo lepsze oszacowanie, o ile ciąg (a _n ) ma nieze-

rową granicę.