23DRAP - Typy zbieżności zmiennych losowych i prawa wielkich liczb
Definicja. 1. Niech {Xn}∞n=1będzie ciągiem zmiennych losowych. Mówimy, że Xn dąży do zmiennej losowej X
• z prawdopodobieństwem jeden/prawie na pewno (ozn. Xn−−→ X), gdyp.n.
P
{ω : lim
n→∞Xn(ω) = X(ω)}
= 1.
• według prawdopodobieństwa (ozn. Xn
−P→ X), gdy
∀ε>0 lim
n→∞P (|Xn− X| > ε) = 0.
• według p-tego momentu (ozn. Xn Lp
−−→ X), dla 0 < p < ∞, gdy
n→∞lim E|Xn− X|p= 0.
• według rozkładu (jest słabo zbieżny) (ozn. Xn
−→ X), gdyD
∀x−punkt ciągłości FX lim
n→∞FXn(x) = FX(x).
Twierdzenie. 1 (Twierdzenie o zbieżności). Niech {Xn}∞n=1będzie ciągiem zmiennych losowych, a X zmienną losową.
• Xn−−→ X ⇒ Xp.n. n−P→ X,
• Xn−L−→ X ⇒ Xp n −P→ X,
• Xn
−P→ X ⇒ Xn
−→ X.D
Uwaga. 1. W ogólnym przypadku implikacje odwrotne nie są prawdziwe.
Twierdzenie. 2 (SPWL). Niech Sn =Pn
i=1Xi. Jeśli (a) limn→∞VarSn
n2 = 0, lub
(b) X1, X2, . . . , Xn są parami nieskorelowane i istnieje stała C taka, że maxi=1,...,nVarXi¬ C,
to |Sn− ESn|
n
−P→ 0.
W szczczególności, gdy X1, X2, . . . mają ten sam rozkład o wartości oczekiwanej m, to Snn −P→ m.
Twierdzenie. 3 (MPWL). Niech Sn=Pn
i=1Xi, gdzie X1, X2, . . . to ciąg niezależnych zmiennych losowych. Jeśli (a) Var(Xi) < ∞ iP∞
n=1 VarXn
n2 < ∞, lub
(b) zmienne losowe Xn mają jednakowy rozkład i E|Xi| < ∞,
to |Sn− ESn|
n
−−→ 0.p.n
A Zadania na ćwiczenia
Zadanie A.1. Dana jest przestrzeń probabilistyczna (Ω, F , P ()), gdzie Ω = [0, 1], F = B([0, 1]) oraz ∀A∈FP (A) = λ(A)λ(Ω) (czyli jest to przestrzeń z prawdopodobieństwem geometrycznym na [0, 1]). Niech X będzie zmienną losową o rozkładzie jednopunktowym: X(ω) = 0 dla ω ∈ [0, 1]. Sprawdź z definicji, czy ciąg zmiennych losowych {Xn}∞n=1 określony na tej przestrzeni probabilistycznej jest zbieżny do zmiennej losowej X: z prawdopodobieństwem jeden, według p-tego (0 < p < ∞) momentu, według prawdopodobieństwa. (Uwaga! W przypadku zbieżności według p-tego momentu należy określić, dla jakiego zakresu wartości p ciąg jest zbieżny.)
a. Xn(ω) = (√3
n, dla ω ∈ [12,12+2n1],
0, w p.p. ,
b. Xn(ω) =
(2n−1, dla ω ∈ [22nn+1−2,22nn+1+2],
0, w p.p. ,
1
c. Xn(ω) =
(21n, dla ω ∈ [21n,2n−12n+1],
0, w p.p. ,
Zadanie A.2. Rzucamy nieskończenie wiele razy monetą. Niech X1, X2, X3, . . . będzie ciągiem zmiennych losowych zdefiniowanych w następujący sposób:
Xn(ω) =
(1, jeśli w n-tym rzucie wypadła reszka, 0, jeśli w n-tym rzucie wypadł orzeł.
Podaj przykład zmiennej losowej X, do której ten ciąg jest zbieżny według rozkładu. Sprawdź, czy Xn−P→ X.
Zadanie A.3. Dana jest przestrzeń probabilistyczna (Ω, F , P ()), gdzie Ω = [0, 1], F = B([0, 1]) oraz ∀A∈FP (A) = λ(A)λ(Ω). Dla każdego n ∈ N oraz i ∈ {1, 2, . . . , n} definiujemy zmienną losową
Xni(ω) =
(1, dla ω ∈ [i−1n ,ni],
0, w p.p. .
Wykaż, że ciąg zmiennych losowych X11, X21, X22, X31, X32, X33, . . . jest zbieżny według prawdopodobieństwa do zmiennej losowej X o rozkładzie jednopunktowym: X(ω) = 0 dla każdego ω ∈ [0, 1]. Sprawdź, czy ciąg ten jest zbieżny do zmiennej losowej X według p-tego momentu (p > 0) i z prawdopodobieństwem 1.
Zadanie A.4. Czy prawdziwe jest stwierdzenie, że dla dowolnego ciągu zmiennych losowych {Xn}∞n=1i zmiennej losowej X
a. jeśli Xn Lp
−−→ X, to Xn
−−→ X;p.n.
b. jeśli Xn
−−→ X, to Xp.n. n Lp
−−→ X;
c. jeśli nie jest prawdą, że Xn
−P→ X, to nie jest prawdą, że Xn
−−→ X;p.n.
d. jeśli Xn−P→ X, to Xn
−−→ X;p.n.
e. jeśli Xn
−P→ X, to Xn Lp
−−→ X;
f. jeśli Xn Lp
−−→ X, to Xn
−→ X;D
g. jeśli Xn−→ X, to XD n −L−→ X.p
Zadanie A.5. Niech {Xn}∞n=1będzie ciągiem niezależnych zmiennych losowych. Sprawdź, czy dla tego ciągu są spełnione założenia twierdzeń SPWL i MPWL, jeśli:
a. P (Xn= 2n) = P (Xn = −2n) =12,
b. P (Xn= 2n) = P (Xn = −2n) = 2−2n−1, P (Xn= 0) = 1 − 2−2n, c. P (Xn= n) = P (Xn= −n) = 2√1n, P (Xn = 0) = 1 −√1n, d. P (Xn= j) = 23 13j−1
dla j ∈ N.
Zadanie A.6. Niech {Xn}∞n=1 będzie ciągiem niezależnych zmiennych losowych, których rozkład jest określony w następujący sposób: P (Xn= ns) = P (Xn = −ns) = 12. Dla jakich wartości parametru s spełnione są założenia twierdzenia MPWL?
Zadanie A.7. Pewien ankieter zadawał respondentom pewne kłopotliwe pytanie. Wiedział, że część ankietowanych może się wstydzić przed podaniem szczerej odpowiedzi, dlatego zaproponował im następującą procedurę. Ankietowany rzuca kostką. Jeżeli wypadnie 1, 2, 3 lub 4, to ankietowany odpowiada szczerze na pytanie ankietera. W przeciwnym przypadku, rzuca kostką jeszcze raz i odpowiada na pytanie, czy w drugim rzucie wypadła parzysta liczba oczek. Po przepytaniu n osób, ankieter uzyskał m odpowiedzi ”tak”. Nie wie jednak, którzy ankietowani odpowiadali na pytanie zasadnicze. W jaki sposób może oszacować procent osób w populacji, które na zasadnicze pytanie odpowiadają twierdząco?
Zadanie A.8. Metoda Monte Carlo obliczania całek. Załóżmy, że chcemy obliczyć wartość całkiR1
0 f (x)dx dla pewnej funkcji f , o której wiemy, że całka taka istnieje, ale nie potrafimy jej obliczyć teoretycznie. Możemy wtedy zastosować następującą procedurę. Losujemy n punktów X1, . . . , Xn z przedziału (0, 1) niezależnie, zgodnie z pewnym ustalonym rozkładem prawdopodobieństwa o gęstości g. Obliczamy wartość Sn =Pn
i=1 f (Xi)
g(Xi). Przybliżamy wartość całkiR1 0 f (x)dx przez 1nSn. Korzystając z twierdzenia MPWL pokaż, że dla dostatecznie dużych n uzyskamy dobre przybliżenie wartości całki prawie na pewno.
2
B Zadania domowe
Zadanie B.1. Dana jest przestrzeń probabilistyczna (Ω, F , P ()), gdzie Ω = [0, 1], F = B([0, 1]) oraz ∀A∈FP (A) = λ(A)λ(Ω). Niech X będzie zmienną losową o rozkładzie jednopunktowym. Sprawdź z definicji, czy ciąg zmiennych losowych {Xn}∞n=1 określony na tej przestrzeni probabilistycznej jest zbieżny do zmiennej losowej X: z prawdopodobieństwem jeden, według drugiego momentu, według prawdopodobieństwa.
a. Xn(ω) =
(n2, dla ω ∈ [0,1n),
0, w p.p. ,
X(ω) = 1 dla ω ∈ [0, 1].
b. Xn(ω) =
(3n, dla ω ∈ [n+11 ,n1],
3, w p.p. ,
X(ω) = 3 dla ω ∈ [0, 1].
c. Xn(ω) =
(√n, dla ω ∈ [n−1n ,n+1n ],
0, w p.p. ,
X(ω) = 0 dla ω ∈ [0, 1],
d. Xn(ω) =
(31n, dla ω ∈ [31n,3n−13n+1],
0, w p.p. ,
X(ω) = 0 dla ω ∈ [0, 1].
Zadanie B.2. Dany jest ciąg zmiennych losowych {Xn}∞n=1 o dystrybuantach Fn. Znajdź rozkład zmiennej losowej X, do której ten ciąg jest zbieżny według rozkładu.
a. Fn(x) =
0, dla x < 0, nx, dla x ∈ [0,n1], 1, dla x > 1n,
,
b. Fn(x) =
(1 − n3+x1 2, dla x 1, 0, dla x < 1.
Zadanie B.3. Niech {Xn}∞n=1będzie ciągiem niezależnych zmiennych losowych. Sprawdź, czy dla tego ciągu są spełnione założenia twierdzeń SPWL i MPWL, jeśli:
a. P
Xn =√ ln n
= P
Xn = −√ ln n
=12, b. P Xn=√
2 = 14, P (X = 0) = 12, P X = −√ 2 = 14, c. P (Xn= n) = P (Xn= −n) = 12,
d. P (Xn= j) = e−1j! dla j ∈ N0.
Zadanie B.4. Niech {Xn}∞n=1 będzie ciągiem niezależnych zmiennych losowych, których rozkład jest określony w następujący sposób: P (Xn= ns) = P (Xn= −ns) =4n1, P (Xn= 0) = 1 −2n1 . Dla jakich wartości parametru s spełnione są założenia twierdzenia MPWL?
Zadanie B.5. Celem badania statystycznego jest oszacowanie średniej długości czasu nauki studentów przed sesją.
Ankieter wybiera losowo n studentów i prosi ich o podanie liczby godzin, które poświęcili na naukę przed sesją. Następnie oblicza średnią arytmetyczną podanych odpowiedzi. Uzasadnij, że podana metoda powinna dawać dobre przybliżenie szukanej wartości.
C Zadania dla chętnych
Zadanie C.1. Zad. 1, §7.2.
Zadanie C.2. Zad. 4, §7.2.
Zadanie C.3. Zad. 3, §7.3.
3
Rozwiązania do niekrótych zadań
B.1 a. Jest zbieżny z prawdopodobieństwem 1 i według prawdopodobieństwa, ale nie jest zbieżny według drugiego momentu.
b. Jest zbieżny z prawdopodobieństwem 1 i według prawdopodobieństwa, ale nie jest zbieżny według drugiego momentu.
c. Jest zbieżny z prawdopodobieństwem 1, według prawdopodobieństwa i według drugiego momentu.
d. Nie jest zbieżny z prawdopodobieństwem 1, według prawdopodobieństwa, ani według drugiego momentu.
B.2 a. Zmienna losowa jednopunktowa: P (X = 0) = 1.
b. Zmienna losowa jednopunktowa: P (X = 1) = 1.
B.3 a. MPWL i SPWL b. MPWL i SPWL.
c. Ani SPWL, ani MPWL.
d. MPWL i SPWL.
B.4 a < 1
4