Adam Góral
O estymacji funkcji spektralnej
procesów autoregresyjnych
Annales Universitatis Mariae Curie-Skłodowska. Sectio H, Oeconomia 21, 377-393
U N I V E R S I T A T I S M A R I A E С U R I E - S К Ł O D O W S К A L U B L I N — P O L O N I A
VOL. X X I, 21 SECTIO H 1987
Zakład Nauk Ekonom icznych Filii UMCS w Rzeszowie
A d a m G Ó R A L
O esty m acji fu n k cji sp e k tra ln e j procesów a u to re g re sy jn y c h
Об оценивании спектральной функции авторегрессионных процессов On the Estim ations of the Spectral Function of Autoregressdve Processes
UWAGI WSTĘPNE
F u n k c ja sp e k tra ln a (widmowa) jest n iew ątpliw ie jed ną z n ajw ażn iej szych c h a ra k te ry sty k słabo stacjo narn ych procesów losowych, a w śród nich słabo stacjo n arn y ch procesów au to regresyjn ych . O szerokim p ra k tycznym w y k o rzy stan iu w ym ienionej fu k cji decyduje m ożliwość dekom pozycji na jej podstaw ie w arian cji procesu na składow e odpow iadające różnym częstotliw ościom . Pom im o iż problem om esty m acji fu n k cji sp ek tra ln e j procesów au to re g re sy jn y c h poświęcono w iele prac (np. [1], [4], [5]) w ydaje się, że niek tó re z tych problem ów nie zostały jednoznacznie roz w iązane. W ym ienić tu ta j m ożna zagadnienie w yznaczenia takiej długości szeregu czasowego, p rzy k tó rej esty m a to ry w idm a m ożna uznaw ać za w iarygodne ze statystycznego p u n k tu w idzenia oraz pro blem w y b o ru ro dzaju e sty m a to ra w p rzy pad k u , gdy nie jest znan y rząd procesu auto- regresyjn eg o. W p racy p o d jęta zostanie próba u stosun ko w ania się do drugiego z w ym ienionych pow yżej problem ów . Obok w yników b adań sy m u lacy jn y ch om ówione zostaną rów nież w ybrane m eto d y oceny rzęd u procesów au to re g re sy jn y c h oraz m eto d y estym acji fu n k cji sp ek traln ej ty c h procesów .
ESTYMACJA PARAMETRÓW SŁABO STACJONARNYCH PROCESÓW AUTOREGRESYJNYCH
Załóżm y, że {Xt; t = 0 , ± 1, ± 2 , ...} oznacza słabo sta c jo n arn y i ergo- dyczny proces losowy. Proces ten nazyw am y procesem au to re g re sy jn y m rzę d u p, gdy tw orzące go zm ienne losowe X t czynią zadość n astępu jącej równości:
378 Adam Góral
x t = aplX t_i + ap2X t_ 2 + ... + appXt_p + Et, (1)
gdzie
{et; t = O, ± 1 , ± 2 , ...} — proces czysto losow y o w a ria n c ji 5^,
api, ap2, ..., a pp — p a ra m e try au to reg resji. P rzy jm u jąc, że
BkX t = X t_k, k 1, 2, ..., p w zór (1) m ożem y p rzed staw ić w form ie
F(B )X t = £t, (2)
gdzie
F(B) = 1 — aplB - ap2B2 — ... — a ppBP.
Słaba stacjonarność procesu AR(p) oznacza, iż p ierw iastk i rów nania charak tery sty czn eg o F(B) = 0 leżą na zew n ątrz o kręgu o p rom ieniu je d nostkow ym . J a k w iadom o p rzy ch a ra k te ry sty c e słabo stacjo n arn y ch p ro cesów losow ych operu je się często pojęciam i fu n k cji autokow arian cji i fu n k cji autokorelacji. P ierw sza z w ym ienionych w yżej funkcji definio w ana jest w n a stęp u jący sposób:
y(r) = cov (Xt, X t+T), x = 0, ± 1, ± 2 , ... (3) gdzie y(0) oznacza w arian cję procesu {X t}.
F u n k c ja a u to k o relacji p rze d staw ia n a jest w form ie:
q(t) = yM /y(0), = °. ± 2, . . . (4) E sty m acja p a ram etró w ekonom icznych procesów losow ych w ym aga p rz y jęcia założenia o ich ergodyczności. W ynika to oczywiście z fak tu , iż w p rzy p ad k u tego ty p u procesów nie m am y najczęściej m ożliwości uzy s k an ia ich w ielu realizacji.
Niech ( x t; t = 1, 2, ..., n} stanow i n elem entow ą próbę pochodzącą z ch arak tery zu jąceg o się słabą stacjonarnością i ergodycznością procesu {X t; t = 0, ± 1 , ± 2 , ...} o zerow ej w artości oczekiw anej. W p racy [3] w ykazano, że e sty m a to r fu n k cji yOO c h a ra k te ry z u ją c y się zgodnością, asym ptotyczną nieobciążonością oraz n ajm n iejszą w artością błędu średnio- kw adratow ego w yraża się wzorem :
n — T
c ( t ) = n - 1 ^ x tx t + T, t = 0 , 1 ,..., m (5)
t = i
O ceny fu n k cji au to k o relacji w yznaczane są ze w zoru o postaci:
r(t) = c(x)/c(0). t = 0 , 1 , m (6f) Obok p a ra m etró w y(x) i q(t) cennych inform acji o przebiegu procesów losow ych dostarczają rów nież p a ra m e try auto regresji. O ceny ty ch p a ra m etrów uzyskiw ane są często poprzez rozw iązanie u k ład u ró w n ań Y u le’a-W alk era przedstaw ianego w n astępującej form ie:
R ( P ) ? ( P ) = L ( P ) > P > 0 ( 7 ) gdzie r (0)r(l) ... r ( p - l ) r(l)r(0 ) ... r(p —2) R(p) = . _ r(p — l)r(p —2)... r(0)_ *(p) = [apl, ap2, ..., app]T, £ (p) = [r(l), r(2), ..., r(p)]T.
W przyp adk u , gdy m acierz R(p) jest nieosobliw a w artości w ek to ra a(p) w yznaczane są na podstaw ie wzoru:
a (p) = R(p)_1r(p). (8)
Oceny Y u le’a-W alk era w ykorzy sty w an e są najczęściej na etapie id en ty fikacji m odeli au to reg resy jn y ch . Znacznie lepszym i staty sty czn y m i w łas nościam i w porów naniu z ocenam i a(p) uzyskanym i n a podstaw ie wzo ru (8) c h a ra k te ry z u ją się oceny w yznaczane w oparciu o m etodę B u rg a \ W m etodzie tej oceny p a ra m etró w api; i = 1, 2, ..., p o trzym y w ane są w w y n iku rozw iązania następującego u k ład u rów nań:
dSp+2/d a Pp = 0 (9)
ap+i, j = aPj ap+1> p+i ap> p—j+i, j 1, 2, ..., p (10) gdzie
n - p
Sp+i 2(n p) 1 ^ ^ [(xt apl x t_! ... a pp Xt_p)
-ł-t = l
+ (xt_p - apl x t_ p+1 - ... - a pp x t)2].
1 Opis tej m etody można znaleźć między innymi w pracy [16].
380 A d a m G ó r a l
W p racy [16] zw raca się uw agę na ścisły zw iązek estym atorów B urga z estym ato ram i uzyskiw anym i m etodą najw iększej w iarygodności *. W em pirycznej części p rący w y k o rzystana zostanie m etoda Burga.
AUTOMATYCZNE METODY OCENY RZĘDU PROCESÓW AUTOREGRESYJNYCH
Załóżmy, że p a ra m e try au to reg resji a pl, a p2, ..., a pp oszacow ano w o p a r ciu o próbę xj,x2, ..., x n n a podstaw ie m etod y B urga. M odel (1) m ożna więc teraz przedstaw ić w postaci
x t = apl x t—i + ... + a pp x t_ p + et, t = p + 1, p + 2, ..., n (11) gdzie
aPi, a p2, ..., a pp — oceny p aram etró w ®pl> ®p2» •••» ^pp> et — sk ład n ik resztow y.
J a k wiadom o w procesie id en ty fik acji m odeli ekonom etrycznych szcze gólne znaczenie p rzypisyw ane jest w arian cji sk ładnika resztow ego. W p rzy p adku m odeli a u to reg resy jn y ch rzędu p w a ria n c ja ta w yznaczana jest w oparciu o n astęp u jące w zory 8
n
Sp = (n — 2p)-1 ^ (xt — apl x t_i — ... — app x t_p)2 (12) t = P + i
lub
n
s p = (n - p)“ 1 (xt - apl x t_! - ... - app x t_p)2, t=p+1
J. A ndel [2] podkreśla, iż ocena rzędu procesu autoreg resy jnego dokony w ana jedynie na podstaw ie analizy zachow ania funk cji (k = 0, 1,..., k) nie daje najlepszych rezu ltató w z te j pro stej przyczyny, iż w zrostow i rzędu w m odelu au to reg resy jn y m tow arzyszy zm niejszanie się z większą lub m niejszą reg ularno ścią w artości (k = 0 ,1 ,..., k). W iadom o jednak, że zw iększanie liczby param etró w w m odelu a u to re g re sy jn y m nie jest korzystne, gdyż prow adzi do problem ów n a tu ry in te rp re ta c y jn e j. P od staw ę tzw. au to m aty czny ch m etod doboru rzędu procesów a u to re g re sy j n ych stanow i fu n k cja, k tó ra z jednej stro n y uw zględnia w artości } zaś
z drugiej „łagodzi” zm niejszanie się ty ch w artości w raz ze w zrostem k. W spom niana fu n k cja p rzedstaw iana jest w n astęp u jący sposób:
2 W pracy [7] podkreśla się, iż metoda najw iększej wiarygodności daje najlepsze ze statystycznego punktu widzenia rezultaty.
f(k) = s* [l + h(k)], k = 0, 1 , k (14) gdzie h(k) jest pew ną fu n k cją rosnącą „łagodzącą” zm niejszanie się w artości s2 w raz ze w zrostem k.
Idea oceny rzędu procesu au toreg resy jn eg o polega n a w y b ra n iu takiej w artości, k, dla k tó rej f(k) ( O ^ k ^ K ) p rz y jm u je w artość m in im aln ą, czyli
p = k ^ f(k) =» m in f(l) (15)
0 < l < k gdzie p oznacza ocenę rzęd u p.
Szeroką prezen tację au to m aty czn y ch m etod doboru rzędu procesów au to reg resy jn y ch zaw arto w p racy [2].
W p racy [9], dokonano w oparciu o sym u lację kom pu tero w ą porów nania efektyw ności sp oty k an ych w p rak ty c e m etod. O kazało się, iż n a j lepsze ze statystycznego p u n k tu w idzenia w łasności należy przypisać
m etodzie Schw arza i m etodzie F P E a (k) z a = 4. P od staw ę pierw szej z w ym ienionych m etod stanow i fu n k cja o postaci:
SR(k) = ln s2 + k ln(n)/n. (16)
F u n k cję k ry te riu m F P E a (k) w prow adzili R. J. B hanshali i D. Y. Dow- nham [6]. P rzed staw ian a je st ona w n a stę p u jąc y sposób:
F P E a (k) = s2 (1 + ak/n). (17)
P oniew aż obydw ie m eto d y c h a ra k te ry z u ją się podobną efektyw nością, do dalszych b ad ań zdecydow ano się zastosować tylk o jedn ą z nich, a m ia nowicie m etodę Schw arza.
METODY ESTYMACJI FUNKCJI SPEKTRALNEJ PROCESÓW AUTOREGRESYJNYCH SKOŃCZONEGO RZĘDU
Obok fu n k cji au to k o w arian cji i au tok o relacji cenną c h a ra k te ry sty k ą słabo sta c jo n arn y c h procesów losow ych jest rów nież fu n k cja sp ek traln a. F u n k c ja ta defin io w an a je st jako tra n s fo rm a ta F o u rie ra fu n k cji a u to k o w arian cji. W przypadlku, gdy tra n sfo rm a c ie F o u rie ra poddaw ana jest fu n k cja au to k o relacji o trzy m y w an a jest fu n k cja gęstości w idm ow ej. W y m ienione pow yżej fu n k cje p rzed staw ian e są w n a stęp u jącej postaci:
oo W(f) = ^ y W e - i2nfT, f 6 < —1/2, l / 2 > (18) T — — oo oo G(f) = ^ ę(x)e ~i2nfT , f 6 < —1/2, l / 2 > (19) T = — oo
382 Adam Góral
J a k wiadom o p rak ty c zn e w alory funkcji w idm ow ej w y n ik a ją głównie z fak tu , iż w a ria n c ja {X t } w y rażan a jest w form ie:
1/2
y(0) = j W(f) df. (20)
- 1/2
R ezu ltatem w zoru (20) jest często pow tarzane w lite ra tu rz e przedm io tu stw ierdzenie, iż znajom ość w artości fun kcji sp e k tra ln e j słabo stacjo n arn eg o procesu losowego um ożliw ia dekom pozycję całkow itej w arian cji tego procesu na składow e odpow iadające poszczególnym częstotliw ościom z p rzedziału < —1/2, l / 2 > . B ezpośrednie zastosow anie w zoru (18) do esty m acji fu n k cji sp e k tra ln e j prow adzi do esty m atora w idm a o postaci:
m
I(f) = ^ с(т)е ~i2nfT , f(r<C —1/2, l / 2 > (21)
T = — Ш
gdzie c(t) oznacza e sty m a to r fu n k cji у(т).
E sty m ato r I(f) jest esty m ato rem niezgodnym . Zgodność esty m a to ra w rdm a uzyskiw ana jest poprzez zastosow anie okien u śre d n ia ją c y ch oce n y I(f). W śród w spom nianych okien na uw agę w y d a ją się zasługiwać: 1. Okno H anna Г1/2 [1 + co s(n т/m)] т = 0, 1, ..., m
d ( T ) = io
T > m (22) 2. Okno H am m inga . . . (0,54 + 0 ,4 6 с о з(П т /т ) t = 0, 1,..., md(T) = jo
т > т (23) 3. Okno P arzen a ( 1 — 6 t2/m 2(l — t/m ) 0 ^ т ^ [ т / 2 ] d(t) = 2(1 - / m ) s [m/2] + l ^ t ^ m (24) [ 0 t > m4. Okno B a rtle tta
. [1 — т/m 0 ^ : т ^ : т
d(T) = jo “ г>га (25)
W ykorzy styw an e w p rak ty c e klasyczne e sty m a to ry w idm a p rz e d sta w iane są w postaci:
Ш
w k(fj) = c(0) + 2 ^ c ( t ) d(t) c o s ^ I I f ji) , (26)
T = 1
gdzie
c(t) — ocena autokowariancji rzędu t, d(t) — okno korelacyjne,
— częstotliw ość, dla któ rej w yznaczana jest ocena w idm a (fj = j/2m ; j = 0, 1 , m).
S taty sty czn e w łasności esty m ato ró w w k(fj) odpow iadających poszcze gólnym oknom om ówiono m. in. w p racach [12] i [14]. Ciekaw e uw agi odnośnie do okien u śre d n ia ją c y ch m ożna znaleźć w [11] oraz [13]. W ażną klasę esty m ato ró w fu n k cji sp e k tra ln e j stanow ią rów nież e sty m ato ry a u to reg resy jn e. Jeżeli p rzy jm iem y , że dyspon ujem y realizacją procesu a u toreg resy jneg o rząd u p to a u to re g re sy jn y e sty m a to r w idm a będziem y m ogli przedstaw ić w n a stę p u jąc y sposób:
p
w a(f) = s 2 / | 1 — api e - i2nfl| 2 (27)
1 = 1
gdzie:
s2 — w arian cja resztow a w m odelu au to re g re sy jn y m rzęd u p, api (1 = 1, 2, ..., p) — oceny p a ra m etró w a u to re g re sji w m odelu
AR(p).
K. N. B erk [5] w ykazał zgodność au to reg resyjn ego esty m a to ra w idm a p rz y założeniu, że p 3/n 0 (gdzie n jest liczbą o bserw acji w szeregu cza sowym , n a podstaw ie któreg o szacow ane jest widm o). Jed no z tw ierd z eń p odan ych przez w ym ienionego pow yżej a u to ra głosi, że asym ptotyczny rozk ład a u to reg resy jn y ch esty m ato ró w w idm a je st rozkładem n o rm a l nym .
Rozw ażając p roblem y esty m acji fu n k cji sp e k tra ln e j słabo stacjo n a rn y c h procesów losow ych w a rto zwrócić uw agę, iż teo rety cy d o sta r czają n a m info rm acji odnośnie do asy m p to ty czn y ch w łasności e sty m a to rów . Długość szeregów czasow ych, stanow iących podstaw ę b ad ań p ra k ty cz n y c h spraw ia jednak, że nie zawsze uw agi teo rety czne m ożna bez pośrednio w ykorzystać. P o w o d u je to, iż pew ne p ro b le m y z zakresu e sty m acji w idm a nie zostały dotychczas jednoznacznie rozstrzy gn ięte. P ra ce 4 P a rze n a i K ro m era dowodzą, iż w p rzy p ad ku , gdy znan y jest rząd p ro cesu auto reg resy jnego , z którego pochodzi dany szereg czasow y a u to re g re s y jn e esty m ato ry w idm a c h a ra k te ry z u ją się lepszym i staty sty czn y m i w łasnościam i w porów naniu z e sty m a to ram i klasycznym i. W iem y je d nak, że w p rak ty ce najczęściej zm uszeni jesteśm y poddaw ać ocenie rzą d p rocesu, z którego pochodzi d an y szereg czasowy. Ż adna z m etod, k tó re do tego celu mogą być w y k o rzy stan e nie d a je p ełn ej g w aran cji w y b o ru rzeczy w istej w artości tego rzędu. Pow yższe uw agi w y d a ją się św iadczyć
384 A d a m G ó r a l
o konieczności podjęcia badań, k tó re d ały b y m ożliw ość odpow iedzi na p y tan ie; czy au to m aty czn y dobór rzę d u procesu au to reg resy jn eg o może spowodować, iż klasyczne e sty m a to ry w idm a okażą się efektyw niejsze w porów naniu z au to reg resy jn y m i.
ANALIZA PORÓWNAWCZA AUTOREGRESYJNYCH I KLASYCZNYCH OCEN WIDMA
W te j części p ra c y p orów nana zostan ie efektyw ność estym atorów au to reg resy jn y ch w idm a z e sty m a to ram i klasycznym i w p rzypadk u, gdy rząd procesu au to reg resyjn eg o jest znany oraz g dy oceniany jest on w oparciu o au tom atyczn ą m etodę Schw arza. B adania przeprow adzono na podstaw ie realizacji w y b ran y ch słabo stacjo n arn y ch i ergodycznych procesów AR(1) o raz AR(2). R ealizacje procesu AR(1) generow ano zgod nie z następ u jącą zależnością rek u ren cy jn ą:
x x = £1,
x t = a u x t—j + Et, t = 2, 3, ..., n (28) gdzie {£t; t = 1, 2, ..., n} oznacza ciąg liczb pseudolosow ych z rozkładu
N(0,1).
A nalizę przeprow adzono dla au = 0,3 i a n = 0,8. Do generow ania cią gów liczb rep re z en tu ją c y c h proces AR(2) w yko rzystan o zależności o po staci:
X j = Ej, X 2 = = £2>
x t = a21 x t_1 4- a 22 xt —2 + £t, t = 2, 3, ..., n (29) gdzie {£t; t = 1,2, n} oznacza ciąg liczb pesudolosow ych z rozkładu
N(0,1).
B adania w ykonano n a podstaw ie realizacji AR(2) o p a ra m e tra c h
021 = 0,4 i a22 = 0,45. L iczby pseudolosow e z rozk ładu N(0,1) otrzym yw ano
w w yniku zastosow ania g e n erato ra w ykorzystu jąceg o c e n traln e tw ierd ze nie graniczne. Opis w ym ienionego g e n erato ra z a w a rty jest w [17, s. 84]. Liczby pseudolosow e z rozkładu rów nom iernego, niezb ędne do uzyskania liczb z rozk ład u n o rm alneg o w yznaczono w o p arciu o fun kcję RANF(X), k tó ra jest funk cją stan d ard o w ą w system ie CYBER-72. W celu likw ida cji e f e k tu 5 w ynikającego z p rzy jęcia w a ru n k ó w początkow ych w spo sób określony we w zorach (28) i (29), w każdej z w ygenerow anych re a li zacji pom ijano 200 pierw szych obserw acji. W pojedynczym e k sp ery m en cie w yróżnić m ożna n a stę p u jąc e etap y postępow ania:
1) generow anie realizacji danego procesu losowego, 2) pom inięcie 200 pierw szych obserw acji,
3) wyznaczenie teo rety czn y ch w artości w idm a analizow anego procesu na podstaw ie w zoru (27) p rzy założeniu, że s^ oraz api; 1 = 1, 2, ..., p zastąpiono teorety czn y m i w artościam i odpow iednich p aram etró w ,
4) w yznaczenie au to reg resy jn y ch ocen w idm a poprzez bezpośrednie zastosow anie w zoru (27),
5) obliczenie w artości łącznego błęd u średnio kw ad rato w eg o e sty m a to ra autoregresyjnego,
6) w yznaczenie ocen w idm a m etodą stan d ard o w ą na podstaw ie w zo ru (26) i p rzy w y korzystaniu w szystkich om ów ionych w e w cześniejszych rozw ażaniach okien uśredniających,
7) obliczenie w artości łącznego błędu śred nio kw ad rato w ego dla po szczególnych esty m ato ró w klasycznych,
8) porów nanie w artości łącznego błędu średniokw adratow ego e sty m a to ra au to regresy jn eg o z błędam i śred n io k w ad rato w y m i estym ato ró w k la sycznych,
9) 100-krotne pow tórzenie czynności 1— 8,
10) w yznaczenie w artości średnich i błędów śred n io kw ad rato w y ch w szystkich analizow anych estym atorów , dla każd ej częstotliw ości od dzielnie.
N iektó re z p rzedstaw ionych w yżej pun k tów w y m ag ają rozw inięcia. W p rzy pad ku w yznaczania a u to reg resy jn y ch ocen w idm a eksp ery m en t przeprow adzono p rzy założeniu, że rząd procesu je st znany bądź szaco w any n a po dstaw ie m eto d y Schw arza. W obydw u przy p ad k ach w arto ści p a ra m e tró w au to re g re sji obliczano na podstaw ie m etod y B urga.
W artości łącznego błędu średniokw adratow ego poszczególnych e sty m ato ró w uzyskiw ano na podstaw ie wzorów:
m bsa = (m + l ) -1 [wa(fj) — w T(fj)]2 (30) j=o m . bsk = (m + 1 )-‘^ T [wk(fj) - w T(fj)]!, (31)
j=0
gdzie:(m + 1) — liczba p unktów estym acji w idm a, fj = j/2m (j = 0,1,..., m) — j-ta częstotliw ość,
w T(fj) — w artość w idm a teoretycznego u zyskiw ana na podstaw ie w zoru (27) p rzy założeniu, iż p rz y ję te zostaną w nim rzeczyw iste w artości poszczególnych p aram etró w ,
38 6 Adam Góral
w a(fj) — w artość au to regresy jn ego e sty m a to ra w idm a, Wjc(fj) — w arto ść klasycznego e sty m a to ra w idm a.
W celu u zyskania większej przejrzystości w yników analizie poddano w arto ści śred n ie i błędy średniokw adratow e następu jących staty sty k :
za(fj) = W afty w ^f,), j = 0,1, m (32)
za(fj) = w k(fj)/wT(fj), j = 0,1,..., m (33)
gdzie oznaczenia są analogiczne do p rzy ję ty c h poprzednio.
O ceny w ym ienionych p aram etró w wyznaczono na podstaw ie wzorów o postaci: 100 za(fj) = 100“ 1 ^ zai(fj) j = 0,1, m (34) i = l 100 źfcCf,) = 1 0 0 - - V zK(ff), j = 0,1 m (35) 1 = 1 100 ™ [z«(fj)l = 1 0 0 - V [ztl(fj) - 1]!, j = 0,1 m (36) i = 1 100 mse [zk(f,)] = 100_l^ ] [zki(fj) “ l ] 2, j = 0,1, m (37) i = l gdzie:
Zai(fj) — w arto ść sta ty sty k i za(fj) uzyskana w i-ty m pow tórzeniu eksperym entu,
Zki(fj) — w arto ść staty sty k i zk(fj) uzyskana w i-ty m pow tórzeniu eksperym entu.
E k sp e ry m e n t przeprow adzono dla różnej liczby p u nktów estym acji (m) i w oparciu o realizacje o różnych długościach (n).
R e z u lta ty om ów ionych badań p rezen to w an e są w tab elach 1, 2, 3 i 4. L iczby z a w a rte w trzech pierw szych tabelach określają, w ilu p rzy p a d k ach na 100 pow tó rzeń eksperym entu esty m ato ry au to regresy jne o ka zy w ały się „lep sze” (ze względu na w artość łącznego błędu średniokw a- dratow ego) od esty m ato ró w klasycznych.
A naliza uzy sk an y ch w yników pozw ala przecząco odpowiedzieć n a p o staw io n e w p ra c y p y tan ie odnośnie do w pływ u autom atycznego do b o ru rzęd u procesu au toreg resyjn eg o na efektyw ność au to reg resy jn y ch e sty m a to ró w w idm a w stosunku do estym ato rów klasycznych. (
Tab. 1. Porównanie autoregresyjnych i klasycznych estym atorów widma (AR(1) z an — 0,3)
A com parison of autoregressive and classical estim ators of the spectrum (AR(1) w ith a = 0,3) Liczba obserwacji Liczba punktów estym acji widma Rodzaj estymatora autoregresyjnego
Nazwa estym atora klasycznego
Hann Ham ming Bart lett Parzen estym ator I a 69 с 70 58 44 50 11 estym ator II b 87 89 85 77 estym ator I 79 81 67 58 50 13 estym ator II 92 94 90 83 estym ator I 91 93 79 77 50 17 estym ator II 96 96 94 94 estym ator I 96 99 94 90 100 21 estym ator II 98 99 96 95 estym ator I 100 100 97 96 100 26 estym ator II 100 100 99 98 estym ator I 100 100 100 100
100 34 estym ator II 100 100 100
lOQ-estym ator I 95 95 90 85 200 21 estym ator II 99 99 98 98 estym ator I 100 100 100 100 200 41 estym ator II 100 100 100 100 estym ator I 100 100 100 99 300 31 estym ator II 100 100 100 100 estym ator I 100 100 100 100 300 38 estyma.tor II 100 100 100 100
a Estym ator I oznacza estym ator autoregresyjny, dla którego rząd procesu oceniano na podstawie m etody Schwarza
b Estym ator II oznacza estym ator autoregresyjny, który nie w ym agał oceny rzędu procesu (rząd był znany)
c Liczba ta oznacza, iż w 69 przypadkach (na 100) estym ator autoregresyjny typu I okazał się lepszy (w sensie wartości łącznego błędu średniodwadratowego) od estym atora klasycznego w ykorzystującego okno Hanna.
Źródło: obliczenia własne.
auto m aty czny dobór rzędu procesu au to regresyjn ego powodow ał, że e s ty m a to ry klasyczne okazyw ały się „lepsze” od au to re g re sy jn y c h dla w ię kszej liczby eksperym entów , niż to m iało m iejsce w sy tuacji, gdy rząd procesu był znany, lecz w yniki uzyskane w ob ydw u rozw ażanych p rz y
-3 8 8 A d a m G ó r a l
Tab. 2. Porównanie autoregresyjnych i klasycznych estym atorów w idm a (AR(1) z an = 0,8)
A comparison of autoregressive and classical estim ators of the spectrum (AR(1) w ith atl = 0,8)
Liczba obserwacji Liczba punktów estym acji widma Rodzaj estymatora autoregresyjnego
Nazwa estym atora klasycznego
Hann Ham
ming Bartlett Parzen
estymator I a 74 с 74 76 79 50 U estymator II b 76 75 79 81 estymator I 70 70 74 76 50 13 estymator II 73 75 79 79 estymator I 69 71 73 70 50 17 estymator II 70 70 76 75 estymator I 64 63 75 71 100 21 estymator II 63 65 76 71 estymator I 68 69 76 68 100 26 estymator II 68 70 77 69 estymator I 70 75 76 68 100 34 estymator II 79 82 81 69 estymator I 68 69 75 77 200 21 estymator II 70 72 74 72 estymator I 83 84 80 73 200 41 estymator II 86 87 85 77 estymator I 74 76 77 69 300 31 estymator II 77 81 77 72 estymator I 86 86 80 71 300 38 estymator II 85 86 82 75
a, b, c — oznaczenia analogiczne do podanych w tablicy 1. Źródło: obliczenia własne.
pa d k a ch nie różniły się od siebie istotn ie. W yjątkow e w stosunku do po w yższych uw ag b y ły w yniki uzyskane n a podstaw ie realizacji procesu AR(1) z an = 0,3. O kazało się bowiem, iż dla m ałych p ró b (n = 50) a u to m aty czn y dobór rzęd u procesu autoregresyjnego spowodował, że dla m = 10 k lasyczny e sty m a to r w idm a w yk o rzy stu jący okno P arzen a by ł „lep szy ” od esty m a to ra au to reg resy jneg o w 56 pow tórzeniach e k sp ery m en tu . S y tu a cję tę m ożna w ytłum aczyć, jeżeli uw zględni się w yniki b a d a ń dotyczących efektyw ności m etody Schw arza ®. W arto rów nież
Tab. 3. Porównanie autoregresyjnych i klasycznych estym atorów widma (A R /2 /, an = 0,4; a 22 = 0,45)
A comparison of autoregressive and classical estim ators of the spectrum (A R /2 /, a 21 = 0,4; ct22 = 0,45) Liczba obserwacji Liczba punktów estym acji widma Rodzaj aUtoregresyjnego estymatora
Nazwa estym atora klasycznego
Hann Ham
ming Bartlett Parzen
estym ator I a 83 с 83 85 85 . 50 11 estym ator II b 85 84 85 87 estym ator I 81 78 83 85 50 13 estym ator II 83 80 84 87 estym ator I 75 75 80 81 50 17 estym ator II 77 78 81 84 estym ator I 77 73 83 85 100 21 estym ator II 82 81 86 88 estym ator I 72 73 79 79 100 26 estym ator II 78 78 85 85 estym ator I 72 73 77 73 100 34 estym ator II 78 78 79 81 estym ator I 80 80 80 84 200 21 estym ator II 81 81 81 82 estym ator I 76 76 76 77 200 41 estymator II 75 77 78 78 estym ator I 81 77 81 85 300 31 estym ator II 80 79 84 84 estymator I 72 69 78 82 300 38 estymator II 75 74 82 82
a, b, c — oznaczenia analogiczne do podanych w tablicy 1. Źródło: obliczenia własne.
kreślić, iż w om aw ianym przy p ad k u dla prób o liczebności n = 100, 200, 300 au to reg resy jn e e sty m a to ry w idm a okazy w ały się lepsze od e sty m a to ró w klasycznych w e w szystkich 100 pow tórzeniach eksp ery m en tu za rów no w sy tu acji, gdy rzą d był znany, jak i w sy tu a c ji, gdy był on oce n ian y na podstaw ie m eto dy autom aty czn ej. Z aw artość w szystkich czte rech tab e l w yraźnie w skazuje, iż e sty m a to ry a u to re g re sy jn e c h a ra k te ry zu ją się lepszym i staty sty czn y m i w łasnościam i w porów naniu z e sty m a to ra m i klasycznym i. N ależy zaznaczyć, że a u to re g re sy jn e e sty m a to ry
3 9 0 A d a m G ó r a l
Tab. 4. Wartości średnie i błędy średniokwadratowe estym atorów widma wybran The m ean values and m ean square errors of the estimators of the spectrum of the
f j P ro c e s A R (1) a u = 0,3 7® a l m s e £ % m s e a2 m s e k z a l m seai 0 1,024 0,089 1,020 0,054 0,953 0,089 1,006 0,186 1/40 1,017 0,078 0,018 0,051 0,981 0,070 0,961 0,071 2/40 1,002 0,054 1,012 0,043 1,022 0,067 0,974 0,034 3/40 0,991 0,035 1,004 0,034 1,030 0,071 1,000 0,034 4/40 0,990 0,026 0,997 0,026 1,012 0,064 1,015 0,039 5/40 0,998 0,030 0,992 0,020 0,982 0,056 1,020 0,038 6/40 1,005 0,037 0,989 0,015 0,964 0,049 1,018 0,032 7/40 1,004 0,036 0,987 0,012 0,975 0,042 1,013 0,026 8/40 1,001 0,034 0,986 0,011 1,004 0,042 1,007 0,020 9/40 0,995 0,031 0,986 0,011 1,017 0,053 1,001 0,015 10/40 0,990 0,027 0,987 0,010 1,005 0,062 0,996 0,013 11/40 0,985 0,023 0,988 0,011 1,000 0,057 0,993 0,011 12/40 0,982 0,020 0,990 0,012 1,002 0,051 0,990 0,012 13/40 0,980 0,018 0,991 0,013 1,000 0,051 0,988 0,013 14/40 0,981 0,017 0,992 0,014 1,008 0,065 0,987 0,014 15/40 0,983 0,018 0,993 0,014 1,006 0,061 0,987 0,017 16/40 0,988 0,020 0,994 0,015 0,990 0,043 0,987 0,019 17/40 0,994 0,025 0,995 0,016 0,993 0,047 0,988 0,022 18/40 0,999 0,029 0,995 0,016 1,002 0,045 0,989 0,024 19/40 1,003 0,033 0,996 0,016 0,987 0,056 0,989 0,025 20/40 1,004 0,034 0,996 0,016 0,973 0,085 0,989 0,026
a — średnia w artość statystyki za (fj) przy założeniu, że estym ator autoregresyjny b — m se oznacza wartość średndokwadratową odpowiedniego estymatora,
c — średnia wartość estymatora autoregresyjnego przy założeniu, że rząd procesu d — średnia w artość wybranego (najlepszego w danym przypadku) estymatora kl Źródło: obliczenia w łasne.
w idm a c h a ra k te ry z o w a ły się niską obciążonością i niew ielkim i w artościa m i błęd u średn io k w ad ratow eg o naw et w przypadku realizacji o 50 ele m en tach (ze w zględu n a ograniczoność m iejsca w yniki te nie są prezen tow ane).
ZAKOŃCZENIE
Om ówione w p rac y badania sym ulacyjne upow ażniają do sform uło w ania n a stę p u jąc y c h wniosków:
ych procesów autoregresyjnych (n = 200, m = 20) autoregressive processes (n = 200, m = 20) Proces AR (1) au = 0,8 Proces AR (2) a2i — 0,4; а22 = 0,45 Ź32 m se32 źk m seak ! 1
zal mseai Za2 m sea2 mseic
13013 0,172 0,766 0,148 0,925 0,318 0,940 0,297 0,537 0,276 0,973 0,068 0,969 0,090 0,934 0,057 0,926 0,049 1,230 0,257 03969 0,025 1,192 0,157 1,004 0,036 0,980 0,023 1,488 0,416 0,978 0,014 1,155 0,148 1,029 0,036 1,003 0,022 1,193 0,177 0,986 0,011 1,102 0,129 1,034 0,036 1,013 0,023 1,127 0,146 0,991 0,011 1,028 0,089 1,029 0,033 1,018 0,024 1,023 0,089 0,994 0,010 0,978 0,071 1,021 0,029 1,019 0,024 0.977 0,067 0,996 0,010 0,977 0,059 1,012 0,026 1,019 0,023 0,969 0,060 03998 0,010 1,016 0,062 1,004 0,024 1,018 0,022 1,015 0,065 0,999 0,011 1,032 0,077 0,998 0,024 1,016 0,020 1,026 0,078 1,000 03011 0,997 0,091 0,994 0,026 1,013 0,018 0,995 0,090 1,000 03011 0,996 0,077 0,991 0,028 1,009 0,016 1,001 0,075 1,001 0,011 1,004 0,066 0,990 0,030 1,005 0,013 1,009 0,068 1,001 0,011 0,992 0,069 0,991 0,033 0,999 0,011 0,995 0,068 1,001 0,011 1,016 0,096 0,990 0,037 0,993 0,010 1,021 0,100 1,001 0,011 1,013 0,085 0,987 0,040 0,987 0,011 1,010 0,081 1,001 0,011 0,973 0,059 0,977 0,032 0,982 0,014 0,980 0,059 1,002 0,011 0,987 0,068 0,968 0,024 0,980 0,021 0,995 0,069 1,002 0,011 1,013 0,065 0,975 0.034 0,982 0,032 1,006 0,062 1,002 0,011 0,984 0,067 0,999 0,062 0,987 0,045 0,963 0,066 1,002 0,011 0,952 0,127 1,016 0,086 0,990 0,052 0,926 0,121
wymaga szacow ania rządu procesu jest znany,
asycznego,
staty sty czn y m i w łasnościam i w porów naniu z e sty m a to ram i klasycznym i bez w zględu na to, czy rząd procesu jest znany, czy też oceniam y go na podstaw ie efek ty w n ej m eto d y autom atycznej,
2) e sty m a to ry a u to re g re sy jn e c h a ra k te ry z u ją się niską obciążonością
i w ysoką efektyw nością n aw et w przypadku, gdy ich w arto ści w yznacza n e są na po dstaw ie szeregów czasow ych o długości 50 elem entów .
Na zakończenie n ależy dodać, iż badania p rzedstaw ione w niniejszej p rac y przeprow adzone zostały w oparciu o p ro g ra m y k o m p u te ro w e n a pisane przez au to ra.
3 9 2 Adam Góral LITERATURA
1. A kaike H., A N ew Look at the Statistical Model Identification, IEEE Transac tions on Autom atic Control, vol. AC-19, nr 6, s. 716—722 (1974).
2. Andel J., Fitting m odels in tim e series analysis, Math. Oper. Stat., vol. 13, n r l,
s. 121—143 (1982). ,
3. Anderson T. W., The Statistical A nalysis of Time Series, W iley, N ew York 1971. 4. Beam ish N., Priestley M. B., A study of autoregressive and w in dow spectral
estim ation, Appl. Stat., vol. 30, nr 1, s. 41—58 (1981).
5 Berk K. N., Consistent autoregressive spectral estim ates, The A nnales of Stati stics, vol. 2, nr 3, s. 489—502 (1974).
6. Bhanshali R. J., Downham D. Y., Some properties of the order of an auto regressive model selected by a generalization of A kaike’s FPE criterion, Bio- m etrika, vol. 64, s. 547—551 (1977).
7. B ox G. E. P., Jenkins G. M., Time Series Analysis, Holden Day, San Francisco 1976.
8. Fishm an G. S., Sym ulacja komputerowa. Pojęcia i metody, PWE, Warszawa 1981.
9. Góral A., Sym ulacyjne badania statystycznych w łasności wybranych metod do boru rzędu w modelach autoregresyjnych, praca w recenzji.
10. Hannan E. J., Time Series A nalysis, IEEE Transactions on Automatic Control, vol. AC — 19, nr 6, s. 706—715 (1974).
11. Jakubczyc J., Kryteria doboru okien korelacyjnych w analizie widmowej, „Prze gląd Statystyczny”, 26. 1/2 (1984).
12. Jenkins G. M., General Considerations in the A nalysis of Spectra, Techno metrics, vol. 3, nr 2 (1961).
13. Otnes R. K., Enochson L., Analiza numeryczna szeregów czasowych, WNT, War szawa 1978.
14. Parzeń E., M athem atical Considerations in the A nalysis of Spectra, Techno metrics, vol. 3, nr 2 (1961).
15. Parzeń E., Some Recent A dvances in Time Series Modelling, IEEE Transactions On Autom atic Control, vol. AC — 19, nr 6 (1974).
16. Ulrych T. J., Bishop T. N., M aximum entropy spectral analysis and autoregres sive decomposition, R eview s of Geophysics and Space Physacs, vol. 13, nr 1, s. 183—200 (1975).
17. Zieliński R., Generatory liczb losowych, WNT, Warszawa 1979.
Р Е З Ю М Е Предпринята попытка проверки гипотезы, глосящей: автоматический подбор ряда авторегрессионного процесса так влияет на значения авторегрессионных оценок спектра, что они становятся „хуж е” (в смысле значения средней ква дратической ошибки) классических оценок. Верификация этой гипотезы была проведена на основе моделирующ их исследований, опираясь на реализацию слабостационарных и эргодических процессов AR (1) и AR (2). Рассмотрена так ж е идея автоматических методов подбора ряда авторегрессионного процесса и процедура оценки параметров авторегрессии, предложенная Бургом.
S U M M A R Y
The work undertook an attem pt to verify the hypothesis that automatic choice of the order of the autoregressive process has such an influence on the autoregres sive values of the estim ators of the spectrum that, they becom e ’’w orse” (in the sense of the value of m ean-square error) that classical estim ators. Verification of the above hypothesis w as made on the basis of sim ulation investigations, on the basis of the realization of w eakly stationary, and ergodic processes AR (1) and AR (2). The w ork also discussed the idea of autom atic m ethods of choosing the order of the autoregressive process and the procedure of estim ating the parameters of autoregression as suggested by Burg.
