Wykład 1: Funkcje tworzące

RAP 412 24 października 2008

Wykład 1: Funkcje tworzące

Wykładowca: Andrzej Ruciński Pisarz:Krzysztof Krzywdziński i Paweł Wawrzyniak

Dokończenie poprzedniego wykładu

Załóżmy, że S ₀ = 0, p = ¹ ₂ , T _2n − czas ostatniej wizyty w punkcie 0, w ciągu pierwszych 2n kroków. Ponadto oznaczmy α _2n (2k) = P (T 2n = 2k).

Twierdzenie 1 (Prawo arcusa sinusa dla ostatniej wizyty w zerze).

α _2n (2k) = P (S _2k = 0) · P (S _2n−2k = 0) = u _2k · u _2n−2k . Przed rozpoczęciem dowodu zauważmy, że

u _2k = 2k k

  1 2

 2k

∼

√

4πk · (2k) ^2k · e ^−2k ( √

2πk · k ^k · e ^−k ) ² · 2 ^2k = 1

√ πk , zatem dla dużych k i n − k mamy

α 2n (2k) ∼ 1 πpk(n − k) . Ponadto zauważmy, że

F

2n

(x) = P  T _2n 2n ≤ x



= P (T _2n ≤ 2nx)

∼ X

k≤xn

1 πpk(n − k)

∼ Z xn

0

dk πpk(n − k)

= 2

π arcsin ( √ x).

Jeśli przeformułujemy problem na język orłów i reszek, to mogą zadziwić nas następujące

„zaskoczątka”:

1) Intuicja podpowiada, że ostatnie zrównanie się liczby orłów i liczby reszek powinno mieć miejsce pod koniec eksperymentu, ale

α 2n (2k) = α 2n (2n − 2k).

Dla przykładu mamy:

P



T _2n ≤ 2n 10



= P



T _2n ≥ 9 10 (2n)

 oraz

P (T 2n ≤ n) = P (T _2n ≥ n).

2) Intuicyjnie również powinno być dużo zrównań liczby orłów i reszek podczas ekspery- mentu, ale

P (T 2n ≤ n) = 1

2 , P



T 2n ≤ 2n 10



∼ 2 π arcsin

r 1 10

!

≈ 1 5 . Przejdźmy teraz do dowodu powyższego twierdzenia.

Dowód.

α 2n (2k) = P (T 2n = 2k) = P (S 2k = 0, S 2k+1 · . . . · S _2n 6= 0)

= P (S _2k = 0) · P (S ₁ · . . . · S _2n−2k 6= 0)

(ZD2−9)

= P (S _2k = 0) · P (S _2n−2k = 0).

1 Funkcje tworzące

Definicja 1 (Funkcja tworząca). Funkcję G _a (s) = P ∞

i=0 a i s ⁱ nazywamy funkcją tworzącą dla danego ciągu a = (a ₀ , a ₁ , ...). Funkcję E _a (s) = P ∞

i=0 a

s

i! nazywamy wykładniczą funkcją tworzącą dla danego ciągu a.

Definicja 2 (Konwolucja (splot)). Splotem danych dwóch ciągów a i b nazywamy taki ciąg c = a ∗ b, że c _n = P n

i=0 a _i b _n−i . Ponadto jest jasne, że G _c = G _a · G _b .

Przykład 1. Niech dane są takie dwa skończone ciągi a i b, że a _i = b i = ⁿ _i
= a _n−i , dla i = 0, 1, ..., n. Niech też c = a ∗ a, a zatem c _k = P k

i=0 n

i

2

dla k = 0, 1, ..., n. Mamy wtedy G _c (s) = (G _a (s)) ² = ((1 + s) ⁿ ) ² = (1 + s) ²ⁿ =

n

X

i=0

2n i

 s ⁱ , czyli z definicji splotu

c _k = 2n k



=

k

X

i=0

n i

 n k − i

 , dla każdego k = 0, 1, ..., n.

Definicja 3 (Funkcja tworząca prawdopodobieństwo dyskretnej zmiennej losowej X). Niech X ∈ Z będzie zmienną losową. Wówczas funkcję

G _X (s) = E(s ^X ) = X

i

s ⁱ P (X = i) = X

i

s ⁱ p _i = G _p (s) nazywamy funkcją tworzącą prawdopodobieństwo zmiennej losowej X.

Przykład 2. Dla rozkładu Poissona G(s) = e ^λ(s−1) , dla rozkładu geometrycznego G(s) =

1.1 Liczenie momentów

Okazuje się, że funkcje tworzące są bardzo przydatne w liczeniu momentów zmiennych losowych dyskretnych. Niech (a) _k oznacza spadający iloczyn _(a−k)! ^a!
. Wartość E ((X) _k ) będziemy nazywali k-tym momentem silniowym zmiennej losowej X. W terminach momen- tów silniowych można na przykład z łatwością opisać wariancję:

V ar(X) = E ((X) ₂ ) + E(X) − (E(X)) ² .

Twierdzenie 2. Niech X będzie dyskretną zmienną losową o funkcji tworzącej G(s), wtedy E ((X) _k ) = G ^(k) (1),

gdzie G ^(k) (1) jest skrótem od wyrażenia lim _s→1 G ^(k) (s), gdy promień zbieżności szeregu jest równy 1.

Dowód. Niech s < 1. Po obliczeniu k-tej pochodnej mamy:

G ^(k) (s) = X

i

s ^i−k (i) _k p _i = E(s ^X−k (X) _k )

Dla s → 1 mamy więc z twierdzenia Abela dla szeregów nieskończonych G ^(k) (1) = lim

s→1 G ^(k) (s) = E ((X) _k ) .

1.2 Sumy zmiennych niezależnych

Funkcje tworzące ułatwiają także określanie rozkładów sum niezależnych zmiennych losowych.

A to dzięki prostej zależności opisanej w poniższym twierdzeniu.

Twierdzenie 3. Niech X, Y będą niezależnymi dyskretnymi zmiennymi losowymi. Wtedy zachodzi równość G _X+Y (s) = G _X (s)G _Y (s).

Dowód. Z niezależności X i Y zmienne losowe s ^X i s ^Y są niezależne, więc E(s ^X s ^Y ) = E(s ^X )E(s ^Y ).

Przykład 3. Niech S _n będzie zmienną losową o rozkładzie dwumianowym Bin(n, p). Wtedy oczywiście S _n = P n

i=1 X _i , gdzie X _i są niezależnymi zmiennymi losowymi zero–jedynkowymi przyjmującymi wartość 1 z prawdopodobieństwem p i wartość 0 z prawdopodobieństwem q = 1 − p. Czyli dla dowolnego i mamy G _X

= s ⁰ q + s ¹ p = q + ps. Ostatecznie, korzystając z twierdzenia 3:

G S

(s) = (G X

(s)) ⁿ = (q + ps) ⁿ .

A co jeśli zmienna losowa jest sumą losowej liczby niezależnych zmiennych losowych?

Twierdzenie 4. Niech X ₁ , X ₂ , . . . będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie. Oznaczmy G _X

= G dla i = 1, 2 . . .. Niech N ∈ {0, 1, 2, . . .} będzie zmienną losową niezależną od X ₁ , X 2 , . . . oraz S = X 1 + X 2 + . . . + X N . Przy tych oznaczeniach zachodzi równość

G _S (s) = G _N (G(s)) .

Dowód. G _S (s) = E(s ^S ) = E E s ^S |N

. Czyli z niezależności zmiennych N i X ₁ , X ₂ , . . . oraz definicji wartości oczekiwanej:

G S (s) = X

n

E s ^S
Pr(N = n)

= X

n

E s ^X

^+X

^+...+X

Pr(N = n)

= X

n

E s ^X

. . . E s ^X

Pr(N = n)

= X

n

(G (S)) ⁿ Pr(N = n)

= G _N (G (s)) .

Ostatnia równość wynika z definicji funkcji tworzącej zmiennej losowej.

Przykład 4. Kura znosi N jaj, gdzie N jest zmienną losową o rozkładzie Poissona P o(λ).

Ze zniesionych jaj z prawdopodobieństwem p wykluwa się kurczak, natomiast z prawdopodobieńst- wem q = 1 − p nie wykluwa się nic. Można zadać pytanie: „Ile wykluje się kurcząt?”. Będzie to pytanie o rozkład zmiennej losowej S = P N

i=1 X i . Skoro:

G _N (s) =

∞

X

i=0

e ^−λ λ ⁱ

i! s ⁱ = e ^λ(s−1) oraz

G _X

(s) = G(s) = q + ps, więc z twierdzenia 4

G S (s) = G N (G (s)) = e ^λ(q+ps−1) = e ^λp(s−1) . Czyli ostatecznie S ma rozkład Poissona P o(λp).

1.3 Zastosowanie dla spacerów losowych

„Po obfitej jajecznicy możemy wyjść na spacer”. W spacerze losowym o punkcie początkowym w zerze (S ₀ = 0), zdefiniujmy czas po którym po raz pierwszy wrócimy do punktu wyjś- cia, czyli: T ₀ = min {S n = 0 : n ≥ 1}. Oczywiście T 0 ∈ {2, 4, . . .} ∪ {∞}. Chcemy znaleźć rozkład tej zmiennej losowej. Wprowadźmy następujące oznaczenia:

f ₀ (0) = 0

f 0 (n) = Pr(T 0 = n) = Pr(S 1 , . . . , S n − 1 6= 0, S _n = 0), dla n ≥ 1

Przy tych oznaczeniach zmienne losowe T ₀ i S _n mają funkcje tworzące:

P 0 (s) =

∞

X

n=0

p 0 (n)s ⁿ

F 0 (s) =

∞

X

n=0

f 0 (n)s ⁿ

Twierdzenie 5. Przy oznaczeniach wprowadzonych powyżej:

a) P ₀ = 1 + P 0 F 0

b) P ₀ (s) = √ ¹

1−4pqs

c) F ₀ (s) = 1 − p

1 − 4pqs ²

Dowód. Udowodnijmy najpierw punkt a) twierdzenia. Zauważmy, że dla dowolnego n ≥ 1 p ₀ (n) =

n

X

k=1

f ₀ (k)p ₀ (n − k),

gdyż, jeśli w k-tej chwili jesteśmy w punkcie wyjściowym, to tak, jak byśmy zaczynali spacer od nowa. Czyli, mówiąc nieformalnie, sumujemy po wszytskich momentach bycia wcześniej w zerze po raz pierwszy a potem „resetujemy” czas.

Korzystając z operacji splotu, definicji funkcji tworzących P ₀ i F ₀ oraz pamiętając, że p 0 (0) = 1 i f 0 (0) = 0 mamy:

P 0 (s) − 1 =

∞

X

n=0

p 0 (n)s ⁿ − 1 =

∞

X

n=1

p 0 (n)s ⁿ =

=

∞

X

n=1 n

X

k=1

f 0 (k)p 0 (n − k)

! s ⁿ =

=

∞

X

m

=1

f 0 (m 1 )s ^m

! _∞ X

m

=0

p 0 (m 2 )s ^m

!

= F 0 (s)P 0 (s).

Punkt b) twierdzenia wynika z tego, iż p ₀ (n) = _n/2 ⁿ
(pq)

. Ostatecznie, korzystając z rozwiązania zadania domowego mamy:

p 0 (s) = 1 p 1 − 4pqs ² Punkt c), po prostych przeliczeniach, wynika z a) i b).

Wniosek 1.

• Jeśli p = q = ¹ ₂ , to z prawdopodobieństwem 1 wrócimy do punktu wyjścia, gdyż:

∞

X

n=1

f ₀ (n) = F ₀ (1) = 1 − p

1 − 4pq = 1 − p

(p − q) ² = 1 − |p − q|

• Dla p = ¹ ₂ wartość oczekiwana czasu powrotu jest nieskończona, gdyż skoro:

lim

s→1

 1 − p

1 − 4pqs ²  0

= lim

s→1

2s 2 √

1 − s ² = ∞, więc

E(T ₀ ) = F ₀ ⁰ (1) = ∞.