Procesy stochastyczne w1-2021

(1)

1

Procesy stochastyczne WYKŁAD 1

Literatura

 A. Plucińska, E. Pluciński, Probabilistyka (WNT), 2000

 D. Bobrowski, Probabilistyka w zastosowaniach technicznych (WNT)

 A. Wentzell, Wykłady z teorii procesów stochastycznych, 1980

 M. Chudy, Procesy stochastyczne: zbiór zadań, skrypt WAT, 1971

 O. Tikhonenko, Metody probabilistyczne analizy systemów informacyjnych, 2006

(2)

2

,S,P - ustalona przestrzeń probabilistyczna.

T  R , przedział (skończony lub nieskończony), lub podzbiór dyskretny.

(3)

3

Def.

Funkcję X :T   R _{nazywamy procesem}

stochastycznym jeśli



X

t

x



S

R x T t





 





:

(

,



)

czyli dla każdego ustalonego t funkcja X rozważana jako funkcja argumentu  jest zmienną losową.

Najczęściej w zastosowaniach interpretujemy t jako czas.

(4)

4

Przykład.

Jest wiele zjawisk zmieniających się w czasie, których wartość zależy od czynników losowych i może je traktować jako procesy stochastyczne. - obciążenie jednostki centralnej (CPU),

- temperatura powietrza w określonym punkcie, - kurs euro/złoty,

- prędkość łącza internetowego, - kurs akcji określonej firmy,

(5)

5

Przykład.

Drgania harmoniczne zależą od czynników losowych i może je zapisać jako proces

)

sin(

)

(

t



A

Ft





X

A - zmienna losowa określająca amplitudę, F - zmienna losowa określająca częstotliwość, Ф - zmienna losowa określająca przesunięcie

fazowe

(6)

6

Przykład.

Amplituda napięcia generowanego przez prądnicę prądu zmiennego zależy od czynników losowych i może być zapisana jako proces

wt

A

t

X

(

)



sin

w - stała określająca częstotliwość,

A - zmienna losowa o rozkładzie np. N(230, 5), t - czas, t  R.

(7)

7

Realizacje procesu

Dla ustalonego    i dowolnego t  T przyjmujemy

)

,

(

)

(

t

X

t



x



Funkcja x określona na T nie ma charakteru losowego, nazywamy ją realizacją procesu stochastycznego (wyraża ewolucję w czasie wybranego zdarzenia losowego).

W powyższym przykładzie proces ma nieskończenie wiele realizacji.

(8)

8

Wartości procesu nazywamy stanami.

Zbiór wszystkich stanów nazywamy przestrzenią stanów.

(9)

9

Przykład.

Na wyjściu generatora co minutę pojawia się losowo sygnał 0 lub 1 (p = 0,5). Generator pracuje przez 15 minut. Rozpatrywane doświadczenie może być zapisane jako proces



₁

,

₂

,

₃

,...

₁₄

,

₁₅



)

(

n

X



Jest to ciąg zmiennych losowych o rozkładzie zerojedynkowym.

Realizacje tego procesu to ciągi

piętnastoelementowe, których elementy to zera i jedynki.

(10)

10

Przykładowa realizacja

(1, 0, 1, 1, 1, 1, 0, 1, 1, 0, 0, 0, 1, 0, 1)

(11)

11

Rodzaje procesów

Czas Stany Przykład nazwa procesu

C C jak prądnica, lub proces Gaussa, CC C D proces Poissona, CD D C n - wymiarowy rozkład normalny, DC D D łańcuchy Markowa. DD

(12)

12

Niech t1 < t2 < ... < tn . Rozpatrzmy n wymiarową

zmienna losową



X

t₁

,

X

t₂

,...,

X

t_n



Rozkład prawdopodobieństwa tej zmiennej losowej nazywamy n-wymiarowym rozkładem procesu stochastycznego a dystrybuantę tej zmiennej losowej nazywamy n-wymiarową dystrybuantą procesu stochastycznego.

(13)

13

Uwaga.

1) Nie każda funkcja która dla ustalonego t jest dystrybuantą n-wymiarowej zmiennej losowej może być dystrybuantą procesu stochastycznego. Muszą być dodatkowo spełnione tzw. warunki zgodności.

2) Znajomość dystrybuanty n-wymiarowej dla dowolnego n, tzn. znajomość wszystkich

rozkładów skończenie wymiarowych procesu stochastycznego nie zawsze określa w sposób jednoznaczny rozkładu procesu stochastycznego. Procesy ośrodkowe mają taką własność.

(14)

14

Parametry procesu stochastycznego.

Wartość oczekiwana procesu.

 

X_t E

t m( ) 

Własności wartości oczekiwanej procesu są podobne do własności wartości oczekiwanej zmiennej losowej.

(15)

15 Wariancja procesu.







2



2 2 ) ( ) ( ) ( ) (t t D t E X m t V    _t 

Własności wariancji procesu są podobne do własności wariancji zmiennej losowej.

(16)

16 Autokowariancja









( ) ( )



) , ( ₁ ₂ ₁ ₂ 2 1 m t X m t X E t t K  _t  _t 

(17)

17 Autokowariancja unormowana ) ( ) ( ) , ( ) , ( 2 1 2 1 2 1 t V t V t t K t t  

(18)

18 Autokorelacja



₁ ₂



)

,

(

t

₁

t

₂

E

X

_t

X

_t

R





(19)

19

Własności:

1) V(t)  D2(t)  K(t,t) 2)

K

(

t

1

,

t

2

)



R

(

t

1

,

t

2

)



m

   

t

1

m

t

2 3)

K

(

t

1

,

t

2

)



V

   

t

1

V

t

2 4)

K

(

t

1

,

t

2

)



K

(

t

2

,

t

1

)

,

R

(

t

1

,

t

2

)



R

(

t

2

,

t

1

)

,

(

)

,

(

t

₁

t

₂



t

₂

t

₁





5) Jeśli a, b funkcje nielosowe to

)

,

(

)

(

)

(

)

,

(

t

₁

t

₂

a

t

₁

a

t

₂

K

t

₁

t

₂

K

_aX__b



_X

)

,

(

))

(

)

(

)

,

(

t

₁

t

₂

sign

a

t

₁

a

t

₂ _X

t

₁

t

₂ b aX



_



(20)

20

Uwaga

1. Z powyższych własności wynika, że praktycznie wystarczy wyliczyć m(t)_i R(t₁,t₂)_a

(21)

21

2. Przy obliczaniu parametrów przydatne bywają następujące zależności znane z rachunku prawdopodobieństwa





2 2 2

EX

X

D

EX





_{, bo} 2 2

_

_

2 EX EX X D  



XY



Cov X Y EXEY E  ( , )  bo



XY



EXEY

E

Y

X

Cov

(

,

)





DXDY

Y

X

Cov

(

,

)





_bo DXDY Y X Cov( , )  

(22)

22

Przykład.

Obliczymy parametry procesu

B At t

X( )   _{, t  R}

A, B - zmienne losowe o parametrach EA = 0; EB = 1,

(23)

23 Rozwiązanie. Wartość oczekiwana:

 

(

)

1 )

(

t



E

X



E

At



B



tEA



EB



m

_t Autokorelacja:



















  







 



















1 0









1 0 1



2 1 3 ) , cov( ) , ( 2 1 2 1 2 1 2 1 2 2 2 1 2 2 2 1 2 2 1 2 2 1 2 2 1 2 1 2 2 1 2 1 ₁ ₂                                     t t t t t t t t EB B D EAEB B A t t EA A D t t B E AB E t t A E t t B t t AB t t A E B At B At E X X E t t R _t _t Autokowariancja:

   

2 ) , ( ) , (t₁ t₂  R t₁ t₂  m t₁ m t₂  t₁t₂ t₁  t₂  K Wariancja:



1



1 2 2 ) (t  t 2  t   t  2  V

Zauważmy, że wariancja tego procesu jest nie mniejsza niż 1 dla dowolnego t.

Współczynnik autokorelacji:



1



1



1



1 2 ) ( ) ( ) , ( ) , ( 2 2 2 1 2 1 2 1 2 1 2 1 2 1          t t t t t t t V t V t t K t t 

(24)

24

Przykład.

Obliczymy parametry procesu

1 





_n _n n

X

Z

_, gdzie

,...

,

₂ ₃ 1

X

n

X

to ciąg niezależnych zmiennych losowych gdzie

EX

n



0

2 2





n

X

D

(25)

25

0

1







_n _n_ n

EX

EZ

_, Zauważmy, że



















j

i

j

i

X

E

_i _j

gdy

0

2



zatem















                                  2 gdy 0 1 gdy 0 gdy 2 ) , ( ) , ( 2 2 1 1 1 1 1 1 k k k X X X X X X X X E X X X X E Z Z R Z Z K k n n k n n k n n k n n k n k n n n k n n k n n



2 2 ) (Z_n   V              2 gdy 0 1 gdy 5 , 0 0 gdy 1 ) ( ) ( ) , ( ) , ( k k k Z D Z D Z Z K Z Z k n n k n n k n n



(26)

26

Kowariancja wzajemna procesów X(t), Y(t)









( ) ( )



) , ( ₁ ₂ ₁ ₂ 2 1 m t Y m t X E t t K_XY  _t  _X _t  _Y Jeśli T t t t t K_XY ( ₁, ₂)  0  ₁, ₂ 

(27)

27

Przykład

Obliczyć kowariancję wzajemną procesów X(t), Y(t) gdzie

X(t) = At, Y(t) = A + Bt,

A, B - niezależne zmienne losowe EA = EB = 0, D2A = D2B = σ2,

EX(t) = EY(t) = 0 zatem











 





2 1 2 2 1 2 1 2 1, ) (



t AB E t A E t Bt A At E t t K_XY      

(28)

28

Uwaga

Jeśli Z(t) = X(t) + Y(t)

jest sumą procesów X(t), Y(t) to EZ(t) = EX(t) + EY(t)

) , ( ) , ( ) , ( ) , ( ) , (t₁ t₂ K t₁ t₂ K t₁ t₂ K t₁ t₂ K t₁ t₂ K_Z  _X  _Y  _XY  _YX Jeśli Z(t) = X(t) - Y(t) to EZ(t) = EX(t) - EY(t)

) , ( ) , ( ) , ( ) , ( ) , (t₁ t₂ K t₁ t₂ K t₁ t₂ K t₁ t₂ K t₁ t₂ K_Z  _X  _Y  _XY  _YX

(29)

29

Proces stochastyczny X nazywamy procesem o przyrostach niezależnych, jeśli dla dowolnego naturalnego n, dowolnych t0 < t1 < ... < tn zmienne

losowe 1 0 1 0

,

t



t

,...,

tn



tn t

X

są niezależne.

(30)

30

Proces stochastyczny X o przyrostach niezależnych nazywamy jednorodnym, jeśli dla dowolnego nieujemnego t, X(0, ) = 0 i dla dowolnych t1 < t2 rozkład różnicy zmiennych

losowych

1

2 t

t

X



zależy tylko od różnicy t₂ - t₁ ( nie zależy od t₁ ). Przykład: proces Poissona.

(31)

31

Proces stochastyczny nazywamy procesem normalnym (procesem Gaussa) jeśli wszystkie n-wymiarowe rozkłady tego procesu są normalne.

(32)

32

Jednorodny proces normalny o przyrostach niezależnych dla którego

m(t) = 0 0 , ) (t  ct c  c  V const

nazywamy procesem Wienera (procesem ruchu Browna).

(33)

33

Procesy stacjonarne to procesy, których realizacje mają postać losowych odchyleń od pewnej wartości i charakter tych odchyleń nie ulega zmianie w czasie np. napięcie w sieci energetycznej, szumy losowe w radiotechnice. Dla procesów stacjonarnych łatwo eksperymentalnie wyznaczyć charakterystyki.

(34)

34

Proces jest stacjonarny w węższym sensie (ściśle stacjonarny) gdy wszystkie jego charakterystyki nie zależą od przesunięcia na osi czasu.

Dokładniej:

Niech t1 < t2 < ... < tn . Wtedy zmienne losowe



X

t₁

,

X

t₂

,...,

X

t_n



i



X

t1

,

X

t₂

,...,

X

t_n



Mają ten sam rozkład dla każdego   R .

(35)

35

Proces jest stacjonarny w szerszym sensie (słabo stacjonarny) gdy

(

)





2

t

X

E

_{oraz ma stałą}

wartość oczekiwaną a jego autokowariancja zależy wyłącznie od różnicy argumentów tzn.

m(t) = m = const

s

t

k

s

t

k

t

s

K

(

,

)



(



)



(



)







(36)

36

Jeśli

(

)





2

t

X

E

_{to każdy proces ściśle}

stacjonarny jest słabo stacjonarny, odwrotna własność nie musi zachodzić (wyjątek - procesy gaussowskie).

Zwykle termin „proces stacjonarny” odnosi się do procesów stacjonarnych w szerszym sensie (słabo stacjonarnych).