ZESZY TY N A U KO W E PO LITEC H N IK I ŚLĄSKIEJ S eria: A U T O M A T Y K A z. 120
1996 N r kol. 1340
M a ria n B Ł A C H U T A
M E T O D Y I D E N T Y F I K A C J I S T A C J O N A R N Y C H I N I E S T A C J O N A R N Y C H M O D E L I A R M A *
S t r e s z c z e n i e . W a rty k u le p rz e d sta w io n o m o d ele A R M A s ta c jo n a r n y c h sze
regów czasow ych, ich re p re z e n ta c je w p rz e strz e n i s ta n u , ró w n a n ia filtru K a lm a n a , ró w n a n ia p r e d y k to ra o p ty m a ln e g o o raz e sty m a c ję p a ra m e tró w m o d e lu z a p o m o c ą m e to d y n ajw ięk szej w iary g o d n o ści. D o konano szerokiego p rz e g lą d u m e to d id e n ty fik acji rz ę d u m o d e lu ARM A(;>, q) o raz z a p ro p o n o w an o o ry g in a ln ą m o d y fik ację je d n e j z n ich . P rz e d s ta w io n o rów nież m odele A R IM A n ie s ta c jo n a rn y c h szeregów czasow ych z w ielo m ian o w y m tre n d e m d e te rm in isty c z n y m . P o d a n o o ry g in a ln e a l
g o ry tm y id en ty fik acji, e sty m a c ji i p re d y k c ji d la m o d eli n ie s ta c jo n a rn y c h .
ID E N T IF IC A T IO N M E T H O D S O F S T A T IO N A R Y A N D N O N S T A T IO N A R Y T IM E S E R IE S
S u m m a r y . In th e p a p e r, A R M A m o d els o f s ta tio n a r y tim e series a r e p re s e n te d a lo n g w ith th e ir sta te -s p a c e re p re s e n ta tio n s , K a lm a n filte r e q u a tio n s , th e o p tim a l p re d ic to r , a n d th e m ax im u m -lik elih o o d e s tim a to r o f m o d e l p a ra m e te r s . B a se d o n a n e x te n s iv e su rv ey o f th e id e n tific a tio n m e th o d s o f th e A R M A (p , q )
m o d e l o rd e r, a n o rig in a l m o d ificatio n of one o f th e m h a s b e e n p ro p o s e d . A R IM A m o d e ls o f n o n s ta tio n a ry tim e series w ith a p o ly n o m ia l d e te r m in is tic tr e n d a re a d d re s s e d , a n d o rig in a l a lg o rith m s o f th e ir id e n tific a tio n , p a r a m e te r e s tim a tio n a n d p re d ic tio n a rc p re se n te d .
'N i n i e j s z a p ra ca z o s ta ła w y k o n a n a w ra m a c h P r o je k tu B a d a w czeg o K B N n r S P Ą 0 3 0 1 0 0 6 w c za sie p o b y tu a u to r a w T h e U n iv e r s ity o f B ir m in g h a m .
1 . W p r o w a d z e n i e
D a n e e k o n o m iczn e, in ży n iersk ie, środow iskow e lub in n e w n au k ach p rz y ro d n ic z y c h są c z ę sto p o d a w a n e w zazw y czaj rów no o dległych o d cinkach czasu, n p . g o d z in a c h , d n ia c h m ie sią c a c h lu b la ta c h . D a n e ta k ie n a z y w a się sz ere gami czasowym i.
W w ielu z a g a d n ie n ia c h m u sim y ro zw ażać zjaw iska, w k tó ry c h w y stę p u je d u ż a lic z b a n ie z n a n y c h c zy n n ik ó w i zn ale zien ie m o d elu d e te rm in isty c z n e g o je s t niem ożliw e. N iem niej je d n a k n a ogół m o ż n a w ta k ie j s y tu a c ji zn ale źć m o d el p o z w a la ją c y o k reślić p ra w d o p o d o b ie ń s tw o , że p rz y s z ła w a rto ść z a w a rta b ęd zie w ok reślo n y ch g ra n ic a c h . M o d el ta k i n a z y w a m y m o d e le m probabilisty cznym lu b m odele m sto c h a sty c z n y m . K o n s tr u k c ja m o d eli s to c h a s ty c z n y c h n a p o d s ta w ie p raw fizyki lu b ek o n o m ii n a ogół n ie je s t m o żliw a i b u d u je się j ą k o rz y s ta ją c z p ro c e d u r iden ty fik acji, b azu ją cy ch n a o b se rw a c ja c h m o d e lo w an y ch zjaw isk . W d alsz y m ciągu k onieczne je s t ro zró żn ien ie m o d e lu p ro b a b ilisty c z n e g o lu b procesu stochasty cznego i obserw ow anego szeregu czasow ego. T ak w ięc szereg c z a sow y z i , Z j , . . . ,z n, zło żo n y z N kolejnych o b serw acji, u w aża się z a realizację próbkową z n iesk o ń czo n ej p o p u la c ji ta k ic h szeregów czasow ych, k tó r e m o g ą b y ć g e n e ro w a n e p rzez p ro c e s sto c h a sty c z n y .
Ze w zg lęd u n a in e rc ję sy stem ó w d a n e szeregów czasow ych są często sk o relo w an e m ię d zy so b ą . N a p rz y k ła d te m p e r a tu r a o danej go d zin ie m a n a ogół w a rto ś ć sk o relo w an ą z t e m p e r a t u r ą m ie rz o n ą g o d zin ę w cześniej, w skaźnik z an ie czy szczen ia p o w ie trz a w p o łu d n ie m o ż e b y ć siln ie u zależn io n y o d w arunków pogodow ych i n a tę ż e n ia ru c h u ra n o , zaś w y d a tk i lu d zi w d a n y m m iesiącu m o g ą b y ć siln ie sko relo w an e z ich d o c h o d a m i i w y d a tk a m i w p o p rz e d n ic h m iesiącach .
M e to d y a n a liz y ta k ic h ciągów obserw acji zależn y ch o raz tw o rz e n ie ich m o d eli m a te m a ty c z n y c h n a z y w a się analizą szeregów czasowych.
M ożliw ości o p ty m a ln e g o p ro g n o zo w an ia, z ro z u m ie n ia zw iązków d y n a m ic z n y c h p o m ię d z y z m ie n n y m i i o p ty m a ln e g o s te ro w a n ia oferow ane p rzez m o d ele szeregów czasow ych m a j ą d o n io s łe zn a c z e n ie w p ra k ty c e . N iniejsze o p raco w an ie je s t p o św ięco n e ty p o m m o d eli m a te m a ty c z n y c h szeregów czasow ych, ich identyfikacji o raz w y k o rz y sta n iu d o celów p re d y k c ji.
2 . M o d e l a u t o r e g r e s j i i ś r e d n i e j r u c h o m e j A R M A ( p , ę )
S zereg czasow y z ( i ) , b ę d ą c y re a liz a c ją procesu losowego, w k tó ry m k o lejn e w arto ści s ą siln ie z a le ż n e , m o ż n a ro z p a try w a ć ja k o szereg gen ero w an y p rz e z c ią g n ieza leżn y ch z m ie n n y c h losow ych a ( t ) o ro z k ład zie n o rm a ln y m z zerow ą w a rto ś c ią śr e d n ią i k o w a ria n c ją o 1 (B o x , J e n k in s , 1983).
M e to d y id en ty fik acji sta c jo n a rn y c h i niestacjo n arn y ch m odeli A R M A 17
P ro c e s a ( t ) o z n a c z a się skrótow o ja k o n .i.d ( 0 ,e r2) ( n o rm a lly in d e p e n d e n tly distribute d).
M o d e le m z a p e w n ia ją c y m elasty czn o ść w d o p aso w an iu d o rzeczy w isteg o sze re g u c z a sow ego je s t m o d e l A R M A (p , q):
9 ( B ) z ( t ) = 0 (5 ) < z (t), (2.1)
w k tó r y m $ ( 5 ) o ra z 0 ( 5 ) są w ielom ianam i
$ ( 5 ) - 1 - f a B - f a B 2 . . . - ó , 5 ‘ - . . . - <t>pB \ (2.2)
0 ( 5 ) = 1 - OiB - 02B 2 . . . - 0 , 5 ' - . . . - 0qB \ (2.3) z aś 5 je s t o p e r a to r e m o p ó ź n ie n ia , tz n . z ( t — 1) = B z ( t ) .
W z ó r (2.1) m o ż n a z ap isać w rów now ażnej p o staci:
z ( t ) = ] T & *(* ~ 0 + a ( 0 ~ ~ *)■ (2 -4 )
i—1 1=1
W m o d e lu ty m b ie ż ą c a w a rto ś ć p ro cesu w y rażo n a je s t p rzez sk o ń czo n ą k o m b in a c ję li
n io w ą p o p rz e d n ic h w arto ści p ro cesu (re g re sja w zględem sw oich p o p rz e d n ic h w arto ści) o ra z sk o ń c z o n ą k o m b in a c ję liniow ą a ( t ) i w artości p o p rz e d n ic h (ś re d n ia ru c h o m a ).
M o d e le m s to c h a s ty c z n y m szczególnie u ż y te c z n y m p rz y o p isy w an iu p e w n y c h p ra k ty c z n ie w y s tę p u ją c y c h szeregów je s t m o d el a u to re g re sji A R (p ) rz ę d u p (z an g . A u t o Regressive P rocess):
4> (B )z(t) = a ( t ) , (2.5)
z ( t ) = tj>iz(t - 1) + 4>2z ( t - 2) + . . . <f>pz ( t - p) + a ( t ) . (2.6) P ro c e s y a u to re g re s ji m o g ą by ć sta c jo n a rn e lu b n ie s ta c jo n a rn e . W a ru n k ie m k o n iecz
n y m i w y s ta r c z a ją c y m sta c jo n a rn o śc i p ro cesu A R je s t, a b y w sz y stk ie p ie rw ia s tk i A,-, ( i = 1 , 2 . . . p) w ie lo m ia n u <$(A) le ż a ły n a z e w n ą trz o k ręg u jed n o stk o w eg o n a p ła s z c z y ź n ie z e sp o lo n e j A. W ie lo m ia n ta k i n az y w a się w ie lo m ia n e m stabilnym .
Je ż e li w zó r (2 .5 ) z ap iszem y w n a s tę p u ją c y sposób:
z ( t ) = * ( 5 ) a ( f ) , (2.7)
to o tr z y m a m y p rz e d s ta w ie n ie z a p o m o c ą nieskończonego w ielo m ian u
« ( 5 ) = $ _1( 5 ) , (2.8)
p rz y c z y m
■9(B) = 1 + ip2B + V>i52 + . . . + 4>iB' + . . . (2.9)
Je ż e li w ielo m ian $ ( B ) je s t stab iln y , to ciąg w ag 'lp3, ■ ■ ■ je s t zb ież n y do z e ra , a p ro c e s z ( t ) je s t p ro c e s e m sta c jo n a rn y m . O zn acza to , że w pływ p o p rz e d n ic h w a rto śc i a ( t ) n a a k tu a l n ą w a rto ś ć z ( t ) m a le je w raz z o d leg ło ścią o d a k tu a ln e j chw ili czasow ej t.
W m o d e lu śre d n ie j ru ch o m ej M A (ę) (z ang. M oving Average Pro cess) z ( t ) zale ży liniow o o d a ( i ) o ra z skończonej liczby q p o p rz e d n ic h w arto ści a ( t — j ), ( j = 1,2. . . q:
z ( t ) = 0 ( B ) a ( i ) . (2.1 0)
P ro c e s y śre d n ie j ru ch o m ej są zaw sze sta c jo n a rn e . P o jęciem d u a ln y m d o sta c jo n a rn o śc i je s t p o ję c ie odwracalności, w ażn e d la k o n stru k c ji p re d y k to ra . P rz e d s ta w m y m o d e l (2.10) w p o s ta c i:
a ( t ) = U ( B ) z ( t ) , (2.11)
g d zie
11(B) = © ^ ( B ) = 1 + t t ,B + 7r2B2 + tt3B3 + . . . (2.12) O d p o w ia d a to o d w ró c e n iu p ro b le m u . O b ecn ie n a p o d sta w ie a k tu a ln e j i u p rz e d n ic h w a r
to ści o b serw o w an eg o szereg u czasow ego z ( t ) s ta ja m y się o d tw o rz y ć w a rto śc i p o b u d z e n ia a ( t ) . Jeżeli c ią g w ag 7Ti, 7r2,773, . . . je s t zbieżny do zera, to m o d el M A n a z y w a m y m o d e le m o d w ra c a ln y m . O z n a c z a to , że w p ły w p o p rz e d n ic h w artości z ( t ) n a a k tu a l n ą w a rto ś ć a (t) m a le je w raz z o d le g ło śc ią o d a k tu a ln e j chwili czasow ej t.
W a ru n k ie m k o n iecz n y m i w y s ta rc z a ją c y m o d w racaln o ści m o d e lu M A je s t, a b y w sz y st
k ie p ie rw ia s tk i A,-, ( i = 1 , 2 . . . q) w ielo m ian u 0 (A ) leża ły n a z e w n ą trz o k rę g u je d n o s tk o w ego n a p ła s z c z y ź n ie zespolonej A.
M o d el A R M A (p , q) m o ż n a p rz e d sta w ić rów nież w p o sta c i ro zw in ięcia n iesk o ń czo n eg o , tz n .:
z ( i ) = V ( B ) a ( t ) = ^ ~ 1( B ) Q { B ) a ( t ) = ( 1 + ^ B + tf,2B2 + . . ,) a ( ł) , (2.13)
gdzie:
m in ( p ,i- l)
V>0 = 1, V>i = <t>\ - 0 i , ••• i¡>, = ¿ + <t>. - 0„ (s = 2 , 3 , . . . ) (2.14)
1=1
P o d o b n ie m o ż n a w y zn aczy ć rozw inięcie nieskończone
«(<) = I I ( B ) z ( i ) = * ( B ) 9 ~ l ( B ) z ( t ) = (1 + + 7r2B2 + . . .)*(«)• (2.15)
W a ru n k ie m k o n iecz n y m i w y s ta rc z a ją c y m sta c jo n a rn o śc i m o d e lu A R M A je s t s ta b il
n o ść w ie lo m ia n u $ ( B ) . P o d o b n ie w aru n k iem koniecznym i w y s ta rc z a ją c y m o d w ra c a ln o ś c i m o d e lu A R M A je s t s ta b iln o ść w ielo m ian u 0 ( B ) .
M e to d y id en ty fik acji sta c jo n a rn y c h i niestacjo n arn y ch m odeli A R M A 19
3 . R e p r e z e n t a c j a m o d e l u A R M A f p ,? ) w p r z e s t r z e n i s t a n u
R ó w n a n io m (2.1) m o d e lu A R M A (p , q) m o ż n a p rz y p isa ć m o d el w p rz e s trz e n i sta n ó w o p o s ta c i:
x ( t + l ) = A x { t ) + g a ( t ) z ( t ) = d ' x ( t ) + a ( f ) ,
g d z ie n a p rz y k ła d wg S h ea (1989):
' <t>\ 1 . . . 0 ’ <t>i - 0 i T
A = (¡>2 0 1 . . 0
i a =
<t> 2 — 02
, d = 0
.4>r 0 . . • o. . łr ~ 0r . .0.
(3.1)
(3.2)
p rz y c z y m r = m a x (p , q), zaś x ( t ) je s t r-w y m iaro w y m w e k to re m s ta n u . M o d el te n je s t p r z y d a tn y d o k o n s tru k c ji ró w n ań p re d y k to ra o p ty m a ln e g o . R ó w n a n ia (3.1) m o ż n a , e li
m in u ją c z ró w n a n ia s ta n u w ielkość a ( i ) , zap isać w p o staci:
* (¿ + 1) = F x ( t ) + g z ( ł ) ,
a ( t ) = z ( i ) - d ' x ( t ) , (3.3)
gdzie
F = A - g d ' . (3.4)
Ł atw o s p ra w d z ić , że w arto ści w łasn e m a c ie rz y F są p ie rw ia stk a m i w ielo m ian u śred n iej ru ch o m ej A, 0 (A ~ 1).
In n y m , a lte r n a ty w n y m m o d elem w p rz e s trz e n i s ta n u o d p o w ia d a ją c y m m odelow i A R M A (p ,ę ) je s t:
x ( i - f l ) = A x ( t ) + g a ( t + 1)
z ( t ) = d ' x ( t ) , (3.5)
g d zie (M ć la rd , 1984):
A =
4> i 1 . . . 0' ' i ' V
<t> i 0 1 . . 0 - 0 i 0
, a = —02 , d = 0
4>r-l 0 . . . 1
■ <t>r 0 . . . 0. . 0)—1. .0.
(3.6)
. p rz y c z y m r = m a x (p , q + 1), zaś x ( t ) je s t r-w y m ia ro w y m w e k to re m s ta n u . M o d el te n , aczk o lw iek o rz ę d z ie w y ższy m o je d e n o d m o d e lu p o p rz e d n ie g o , je s t ró w n ież p rz y d a tn y d o k o n s tru k c ji ró w n a ń p r e d y k to ra o p ty m aln eg o .
4 . P r e d y k c j a s z e r e g u s t a c j o n a r n e g o
P o d a m y o b e c n ie ró w n a n ia p re d y k to ra o p ty m a ln e g o , b a z u ją c e n a o p is ie (3 .5 )-(3 .6 ) w p rz e s trz e n i s ta n u . P u n k te m w y jścia d la p re d y k to ra ¿-krokow ego je s t o p ty m a ln y p re d y k to r
1-krokow y, o k re ś lo n y p rz e z filtr K a lm a n a . Z ałóżm y, że m a c ie rz k o w arian cji s t a n u w chw ili p o cz ą tk o w e j t = 0 je s t o k re ślo n a n a stę p u ją c o :
cov ( x 0) = Q 0a \ (4.1)
p rz y c z y m Q 0 je s t ro z w ią z a n ie m alg eb raiczn eg o ró w n a n ia L ap u n o w a
Q 0 = A Q 0A ' + g g ' . (4.2)
O z n a c z m y p rz e z liniow ą o cen ę s ta n u , z a p e w n ia ją c ą m in im u m b łę d u śred n io k w a- d ra to w e g o s ta n u x t p rz y d a n y c h p o m ia ra c h do chw ili t — 1, zaś k o w a ria n c ję b łę d u oceny s ta n u Xt — x t — przez
c o v (i< ) = Ą |, _ ] a 2. (4.3)
W ów czas je d n o k ro k o w y p re d y k to r s ta n u je s t o k reślo n y p o p rz e z re p re z e n ta c ję in n o w a c y jn ą . D la t = l , 2 . . . n b łę d y p red y k cji jedno k ro k o w ej e< o raz ich w a ria n c ja v a r ( e () = cr3/ ( s ą o k re ś lo n e zależn o ściam i:
— z t d (4*4)
g d z ie
*i+i|t = + ^(«(,*01-1 = 0, (4.5)
(4.6) i —
£ t + \ \ t — + 3 9 ’ ~ (4-7)
o raz
/ ( = d ' £ t\t_ 1d . (4-8)
K o r z y s ta ją c z pow yższych zależności m o ż n a o k reślić ¿-k ro k o w ą p re d y k c ję w y jśc ia z t+k\t i w a ria n c ję je j b łę d u ź ł+*|, = z , +k - n a stę p u ją c o :
źt+k\t = d x t+k\t = d A k l x 1+1|, = d'k x w \t (4-9) k - l
a ?+k\t ~ ( d i ^ i + i j i d * + ej)cr2, e 0 = 1, ej = d ! - g , j = 1 , 2 . . . (4-10)
M e to d y id en ty fik a cji sta c jo n a rn y c h i niesta cjo n arn y ch m odeli A R M A 21
D la Jfc = r + l , r + 2 . . . fc-krokowe p re d y k c je s p e łn ia ją ró w n a n ie re k u re n c y jn e :
źt+k\ł — <t>lźt+k~l\t + fcŹt+ k-Ąt + + <i>r^t+k-r\t (4-11) P r z y t —► co zach o d zi - * g g ' , fci —► g" = A g i ró w n a n ia p r e d y k to r a p rz y jm ą p o s ta ć a s y m p to ty c z n ą :
* t+ ł|t = ^ * * <11-1 + g**t, * o l- i = O, (4.12) gdzie:
F m =
0 i 1 . . . 0 - 4>i - 0 i
0 2 0 1 . . 0
, 5 * =
<f> 2 — 0 2
O r-1 0 . . . 1 <t>r-\ ~ Or
Or 0 . . . 0 . 0
d = (4-13)
P r e d y k to r te n , aczkolw iek często używ any, n ie je s t p re d y k to re m o p ty m a ln y m i je s t s ta b iln y ty lk o d la m o d e li o d w ra c a ln y c h , w p rzeciw ień stw ie do p re d y k to r a K a lm a n a , p r a cu ją c e g o p o p ra w n ie ró w n ież d la m odeli nieo d w racaln y ch .
5. E s t y m a t o r M L p a r a m e t r ó w m o d e l i A R M A
N a je fe k ty w n ie js z y m e s ty m a to re m p a ra m e tró w je s t e s ty m a to r n ajw ięk szej w ia ry g o d ności.
P o n ie w a ż in n o w a c je u zy sk iw an e z filtru K a lm a n a są c ią g ie m z m ie n n y c h losow ych n ie z a le ż n y c h o w a ria n c ji /<, w ięc fu n k c ja w iarygodności d la szereg u czasow ego z — { z t, t = 1 ..T } g en e ro w a n e g o p rz e z m o d e l A R M A je s t o k reślo n a w zorem :
/ /
ln ¿ ( z , M , a 2) = const - r / 2 1 n a J - l / 2 £ l n / f - l/(2cr2) £ > ? / / , (5.1)
*=1 t=l
O c e n y n a jw ię k s z e j w ia ry g o d n o ści p a ra m e tró w Ó, ó , a 2 z n a jd u je się m a k s y m a liz u ją c ln L { z , O, <f>, u 2).
Z a le ż n o ść (5 .1 ) je s t o g ó ln ą p o s ta c ią funkcji w iary g o d n o ści, n ie z a le ż n ą o d m e to d y je j o b lic z e n ia . P r a k ty c z n e a lg o ry tm y o b lic z a n ia fu n k cji w ia ry g o d n o ści k o r z y s ta ją n a ogól z in n y ch a lg o ry tm ó w filtra c ji, m n iej p raco c h ło n n y c h o d re k u re n c ji ró w n a ń (4 .6 )-(4 .8 ). J e d e n z ta k ic h a lg o ry tm ó w je s t zam ieszczony w p ra c y M e la rd a (1984). O so b n y m is to tn y m p ro b le m e m j e s t m e to d y k a m in im a liz a c ji (5.1) i sk ła d a ją c e się n a n ią e lem en ty : w y z n a c z a n ie w s tę p n y c h o cen p a ra m e tr ó w o raz ob liczan ie g ra d ie n tu i h e sja n u fu n k cji w iary g o d n o ści w z g lę d e m e sty m o w a n y c h p a ra m e tró w . W lite r a tu rz e (n p . B u rs h te in , 1993; K o h n , A nsley, 1982) is tn ie ją a n a lity c z n e a lg o ry tm y w y z n a c z a n ia g ra d ie n tu fu n k cji w iary g o d n o śc i. J e d n a z m e to d w y z n a c z a n ia w stę p n y c h o cen p a ra m e tró w je s t o p is a n a w p u n k ta c h 6.5 i 6.6. P o z o s ta łe p ro b le m y w y k ra c z a ją je d n a k p o z a z ak res niniejszego o p raco w an ia.
6. I d e n t y f i k a c j a m o d e l i A R M A
Id e n ty fik a c ja m o d e lu A R M A p o le g a n a o cenie sto p n ia p w ielo m ian u a u to re g re sy j- n eg o $ ( 5 ) , s to p n ia q w ielo m ian u śred n iej ru ch o m ej 0 ( B ) o raz w arto ści w sp ó łczy n n ik ó w
<f>i. . . <j>p, d i . . . 9q n a p o d s ta w ie realizacji z ( l ) . . . z ( T ) .
O k re śle n ie rz ę d u p ro c e s u (p, q) je s t w ażn ą, tr u d n ą i d e lik a tn ą częścią a n a liz y szeregu czasow ego. A n a lity c y szeregów czasow ych często s to s u ją p o d ejście z a p ro p o n o w a n e przez B o x a i J e n k in s a (1983). M e to d a ta b a z u je n a w y ciąg an iu w niosków z c h a ra k te ry s ty c z n y c h k s z ta łtó w fu n k c ji a u to k o re la c ji i korelacji cząstkow ych esty m o w an y ch n a p o d s ta w ie d a neg o sz e re g u czasow ego. P o d ejście to w z n aczn y m sto p n iu p o le g a n a su b ie k ty w n y c h o ce
n a c h a n a lity k a . W ty m ro z d z ia le d o k o n am y p rzeg ląd u n ajw ażn iejszy ch a lte rn a ty w n y c h , m n ie j h e u ry s ty c z n y c h , m e to d o k re ś la n ia rz ę d u m o d elu A R M A . J e d n y m z k ry te rió w k la syfikacji m e to d je s t p rz y p o rz ą d k o w a n ie im o k reślen ia "s u b ie k ty w n a ” lu b " o b ie k ty w n a ” .
W p rz y p a d k u m e to d y su b iek ty w n ej d ec y z ja je s t zaw sze p o z o sta w io n a a n ality k o w i.
M oże o n a p o le g a ć n a w y b o rze pozio m u is to tn o śc i te s tu lu b w iz u a ln y m z b a d a n iu w y k re
sów lu b ta b lic w celu u ch w y cen ia c h a ra k te ry sty c z n e g o w zoru w z ach o w an iu an alizo w an ej c h a ra k te ry s ty k i.
M e to d y o b ie k ty w n e m o g ą by ć sc h a ra k te ry z o w a n e p rz e z fa k t, że u d z ia ł a n a lity k a w p ro c e s ie m o d e lo w a n ia n ie je s t niezbędny, zaś oceny rzęd u (p, q) m o d e lu A R M A (p , q) d o k o n u je się z a zw y czaj p o sz u k u ją c e k s tre m u m pew nej funkcji.
K la s a m e to d su b ie k ty w n y c h m oże być p o d z ie lo n a n a m e to d y b a z u ją c e n a te s to w a n iu h ip o te z s ta ty s ty c z n y c h o ra z n a m e to d y b a z u ją c e n a te o rii re a liz a c ji s to c h a sty c z n y c h . W ś ró d k la s y m e to d o b iek ty w n y ch n ależ y w y m ien ić m e to d y b a z u ją c e n a b łę d z ie je d n o - krokow ej p re d y k c ji, m ia ra c h in fo rm ac y jn y ch i m e to d a c h bayesow skich.
6.1. M e t o d y b a z u j ą c e n a t e o r i i t e s t o w a n i a h i p o t e z s t a t y s t y c z n y c h
J e d n y m z n a jc z ę s ts z y c h p ro b lem ó w w nioskow ania sta ty sty c z n e g o je s t zd ecy d o w an ie, n a b a z ie sk o ń czo n eg o zb io ru o b serw acji, czy zb ió r p a ra m e tró w 0 s p e łn ia s nieza leżn y ch o g ra n ic z e ń = 0, (t = 1,2. . . s ) .
Z ałó żm y , że w sz y stk ie o g ra n ic z e n ia p o le g a ją n a zero w an iu się części p a ra m e tró w . P rz y jm ijm y , że w e k to r p a ra m e tró w /? je s t podzielo n y n a dw ie części: (/3[, /?()', a h ip o te z ą z ero w ą j e s t H 0 : 02 = ( 0 , 0 , ---0 )'. W ów czas, p o d w a ru n k ie m Ho, do w o ln a z e s ta ty s ty k : L R ( L ik e l ih o d R a ti o ) , W ( Walda) czy te ż LM (Lagrange M ultiplier) p o s ia d a a s y m p to ty c z n y ro z k ła d y2 o s s to p n ia c h sw o b o d y (H arvey, 19816).
J e s t ja s n e , ż e Hq je s t zag n ie ż d ż o n a w h ip o te z ie a lte rn a ty w n e j p o p rz e z o g ra n ic z e n ie P i — ( 0 , 0 , ---0 )'. H ip o te z y tw o rz ą zb ió r je d n o z n a c z n ie u p o rząd k o w an y , co p o z w a la n a
M e to d y identyfikacji sta c jo n a rn y c h i n iesta cjo n arn y ch m odeli A RM A 23
p rz e p ro w a d z e n ie sekw encyjnej p ro c e d u ry te s tu ją c e j. T .W . A n d e rso n (1971) p rz e d s ta w i!
p ro c e d u rę se k w e n c y jn ą do u s ta la n ia rz ę d u p ro cesu A R . Z a k ła d a o n a o k re ś le n ie liczby L ta k ie j, ż e p ra w d z iw y rz ą d je s t m n iejszy lu b rów ny L. N a stę p n ie są te s to w a n e sek w en cy jn ie w z a je m n ie w y k lu c z a ją c e się h ip o tezy :
H i : $ ¿ -0, H i : - $l- i = 0,
(
6.
1)
Je ś li ja k a k o lw ie k h ip o te z a je s t p raw d ziw a, p o p rz e d z a ją c e h ip o te z y są te ż p ra w d z iw e , je śli ja k a k o lw ie k z ty c h h ip o te z je s t fałszyw a, n a stę p n e s ą ró w n ież fałszy w e. W o s ta tn im p rz y p a d k u p r o c e d u r a ko ń czy się.
W h it tl e (1954) p o k a z a ł, że d la te sto w a n ia d w u zag n ieżd żo n y ch h ip o te z - H 0: zało ż o n y m o d el je s t a u to r e g re s ją rz ę d u s, (s = 0 , 1 , 2 , . . . L — 1) przeciw k o I I \ : d a n a re a liz a c ja je s t g e n e ro w a n a p rz e z p ro c e s A R (L ) - s ta ty s ty k a te s to w a L R p rz y jm ie w p rz y b liż e n iu p o sta ć :
L R = - { T - L ) \ o g ( á ¡ / & l ) , (6.2)
g d zie a \ i b \ s ą o c e n a m i n ajw ięk szej w iarygodności o d p o w ied n io p rz y H 0 i H i . S ta ty s ty k a t a p o s ia d a a s y m p to ty c z n ie ro z k ła d x2 ° L — s s to p n ia c h sw obody.
A n d e rso n (1971) z a p ro p o n o w a ł s ta ty s ty k ę b a z u ją c ą n a te s to w a n iu h ip o te z y zerow ej
$ J+i = . . . $ £ , = 0, (s = 0 , 1 ,2. . . L — 1) w m o d e lu A R (L ). N iech R i b ę d z ie m a c ie rz ą L x L w y m ia ro w ą , p o d z ie lo n ą n a s i L — s w ierszy i k o lu m n o d p o w ie d n io d o w e k to ra p a ra m e tró w :
R l R l 2 R l =
$(>)
<|(2)
■H*\2 R2
g d zie ( i , j ) - t y e le m e n t R i , r,_ j je s t fu n k c ją au to k o re la c ji z p ró b y , z d efin io w an ą ja k o :
T - k T - k
(6.3)
(6.4)
i g d z ie $ je s t w e k to re m o cen p a ra m e tró w m o d e lu A R (L ). W ów czas s ta ty s ty k a
T $ W [ R i - R ' u R ; ' R u } $ W / c r l (6.5)
je s t s t a ty s t y k ą te s t u W ald a.
P o z a s tą p ie n iu p a ra m e tró w <j>i p rzez 0; se k w en cy jn a p ro c e d u r a te s tu ją c a m o że b y ć ta k ż e u ż y ta d la te s to w a n ia h ip o te z w c z y sty m m o d elu M A .
P r o c e d u r a te s to w a n ia sekw encyjnego m a n ie s te ty dw ie w ady. P ie rw s z ą je s t to , że rz ą d m o d e lu A R lu b M A k o nieczny d o w łaściw ego d o p aso w an ia się do szereg u czasow ego m oże b y ć duży. D ru g ą w a d ą je s t tr u d n o ś ć zn a le z ie n ia w łaściw ego p o z io m u is to tn o ś c i n a b azie k o m p ro m isu p o m ię d z y p ra w d o p o d o b ie ń s tw a m i b łę d u I i II r o d z a ju , p o n ie w a ż to d ru g ie n ie je s t z n a n e d la ro zw ażan eg o te s tu .
6.2. M e t o d y b a z u j ą c e n a t e o r i i r e a l i z a c j i s t o c h a s t y c z n y c h
R o z p a trz y m y tu p ro c e d u ry n ie w y m a g a ją c e , w p rzeciw ień stw ie d o p o p rz e d n ic h , u p rz e d n ie j e s ty m a c ji p a ra m e tró w m o d elu .
6 .2 .1 . O d w r o t n e a u t o k o r e a l a c j e i k o r e l a c j e c z ą s t k o w e
C h a tfie ld (1979) i C le v e la n d (1972) p rzed staw ili a rg u m e n ty n a rzecz u ż y w a n ia w p ro c e d u rz e B o x a -J e n k in s a o d w ro tn y c h au to k o re la c ji IA C ( In ver se Auto co rr ela tio n s) z a m ia s t a u to k o re la c ji.
O d w r o tn a a u to k o w a ria n c ja d la ¿ -te g o o p ó źn ien ia, o z n a c z a n a ja k o 7,( £ ) , m o ż e b y ć z d e fin io w an a ja k o w sp ó łc z y n n ik p rzy B h, w funkcji g en eru jącej
r,(B),
s p e łn ia ją c e j w a ru n e k r , ( B ) r ( £ ) = 1. J e s t z a te m o czy w iste, że d la p ro cesu A R M A (p , q):T , [ B ) 0 , ( 5 ) 0 , ( 5 - i ) a l ' (6 ’6)
Z kolei o d w ro tn e a u to k o re la c je są zdefiniow ane ja k o p i ( k ) — 7;(& )/7;(0). Im p lik u je to , ż e o d w ro tn e a u to k o re la c je d la p ro cesu A R (p ) są o k reślo n e n a s tę p u ją c y m w zo rem :
P i(k) = ( - # * + E < W * ) / ( 1 + E * ■), k < P (6.7)
j=i j=i
o raz
Pi(k) = 0, d la k > p. (6.8)
W z w ią z k u z ty m w p rz y p a d k u a u to re g re sy jn y m />,(£) je s t u c ię te d la k > p . W ła s n o ść t a czy n i p i ( k ) k o n k u re n c y jn y m w sto su n k u do P A C F ( P a r ti a l A u to c o rr e la tio n F un ctio n ).
A lte r n a ty w n ą fu n k c ję , z n a n ą ja k o o d w ro tn a fu n k cja a u to k o re la c ji czą stk o w y c h IP A C F ( In v e r s e P a r t i a l A utocorr elation F unction) o m aw ia C h a tfie ld (1979). M o ż n a j ą zd efin io w ać ja k o P A C F d la m o d e lu o d w ro tn e g o Q q( B ) z t = <Pp( B ) a t i o b liczy ć z ró w n a ń Y o u le ’a - W a lk e ra p o p rz e z z a s tą p ie n ie au to k o re la c ji a u to k o re la c ja m i o d w ro tn y m i. Z a c h o w an ie się IP A C F je s t p o d o b n e d o zach o w an ia się funkcji a u to k o re la c ji.
M e to d y id en ty fik a cji sta c jo n a rn y c h i n iesta cjo n arn y ch m odeli A RM A 25
6 .2 .2 . M e t o d a n a r o ż n i k o w a
pi p i- i • Pi-j+\
A ( i , j ) = P<+1 Pi ' Pi-}+2
, ( i , i = 1,2, . . . , i ) pi+7-1 pi+7-2 • ■■ Pi
M e to d ą w y k o rz y s tu ją c ą a u to k o re la c je d o w y g en ero w an ia ta b lic y d la id e n ty fik a c ji rz ę d u m o d e lu A R M A je s t tz w . m e to d a k ąto w a z a p ro p o n o w a n a p rzez B e g u in a , G o u rie ro u x i M o n f o rta (1 9 8 0 ). B a z ą d la te j m e to d y je s t w y zn aczn ik A ( i , j ) m a c ie rz y j x j-w y m ia ro w e j, zd efin io w an y j a k o ,
(6.9)
B e g u in i in n i (1980) dow odzą, że p ro c e s sta c jo n a rn y m a m in im a ln ą re p re z e n ta c ję A R M A (p , q) w te d y i ty lk o w tedy, g dy A ( i , j ) = 0 d la w szy stk ich w a rto śc i i > q 4- 1 o ra z j > p + 1, p o d c z a s g d y A ( i , p ) ^ 0 d la w szy stk ich w arto ści i > q o ra z A ( q , j ) ^ 0
d la w s z y s tk ic h w a rto śc i j > p. T a b lic a w arto ści A ( i , j ) n az y w a się ta b lic ą A . Id e n ty fik a c ja p i q j e s t ró w n o w a ż n a id en ty fik acji n a ro ż n ik a w arto ści zero w y ch w ta b lic y A .
6 . 2 . 3 . U o g ó l n i o n e a u t o k o r e l a c j e
U o g ó ln io n ą fu n k c ję a u to k o re la c ji u ż y te c z n ą d la o k re śle n ia rz ę d u p ro c e s u A R M A z a p ro p o n o w a ł T a k e m u r a (1984). O z n a c z a ją c : 7(7, t) = (7 7,7 7+1, ■ •-, 7 7-1+1)', d la i > 0, o raz
' 7; 7 . - 1 • • • 71-7+1
7i+ i 71 71-7+2
, (*,¿ = 1,2, - . , L )
(
6.
10)
71+7-1 71+7-2 71
g d zie 7," a u to k o w a ria n c ja te o re ty c z n a , u o gólnione a u to k o re la c je w y ra ż ą się w zo ram i:
p (t + 1, j + 1) = 0, d la d e t T ( j, t) = 0 o raz
p{i + 1 , ; + 1) = 7 ( * + J + l ) - 7 ( i + M ) T ( i > 0 -1 7 0 ' + M ) x [7 0 - 2 7( j , i ) T ( j , t ) '-1 7( i + 1,*)
+ 7 ( j + i , i ) r 0 ' , 0 “ l r ( o l i ) r ( j , ¿ r17 ( ¿ + i, * ') ] “ 1
(
6.
11)
d la d e t T ( j , t) yś 0.
T a k e m u r a (1984) dow odzi, że p ( i , j ) m a n a s tę p u ją c e w łasności: p ( l , j ) — Pj d la j >
1, p ( i , 1) = ó i ? tfia i > 1; —1 < p ( i , j ) < 1 o ra z d la p ro c e su A R M A (p , q) p [ i , j ) = 0 d la i > p o ra z j > q. J e s t o czy w iste, że w łasn o ść t a m oże b y ć w y k o rz y s ta n a do id e n ty fik a c ji rz ę d u (p, q) p ro c e su . W ów czas a u to k o w a ria n c je te o r e ty c z n e 7; s ą z a stę p o w a n e
p rz e z a u to k o w a ria n c je z próby. T a k e m u ra p o k a z a ł, że jeśli p rz e z r ( i + 1 , j + 1 ) o z n a c z y m y u o g ó ln io n y w sp ó łc z y n n ik a u to k o relacji z próby, to d la p ro c e su A R M A (p , q) o r 0 i
0, yś 0 s ta ty s ty k a :
n l ' \ ( p + 1 , 9 + 1 ) / [ 1 + 2 ¿ ( r? ) 2 ] 1 /2 (6.1 2) i=i
p o s ia d a a sy m p to ty c z n ie s ta n d a rd o w y ro z k ła d n o rm aln y , p rz y czy m r f o z n a c z a z g o d n ą o c e n ę 7f = c o v ( x i, x (_ 1), g d zie x , = $ p( B ) z , = Qq( B ) a t.
6 .2 .4 . I t e r o w a n e r e g r e s j e i r o z s z e r z o n a f u n k c j a a u t o k o r e l a c j i z p r ó b y T ia o i T s a y (1 9 8 3 a ,6 ) o raz T s a y i T ia o (1984) użyli zg odnych o cen p a ra m e tr ó w A R sta c jo n a rn e g o lu b n ie s ta c jo n a rn e g o p ro cesu A R M A ( p ,q ) d la zd efin io w an ia ro z sze rz o n e j f u n k c j i auto korela cji z próby ( E S A C F - E xten d ed S a m p le A utocorr elation F u n c ti o n ), n a p o d s ta w ie k tó re j m o ż n a o k reślić rz ą d p ro cesu A R M A (p, q). M o żn a p o k a z a ć , że —> <j>i,
» 1 ’S
d la l = 1,2, . . . p , je ś li j > q , gdzie je s t je s t o c e n ą l -te g o p a r a m e tr u w ielo m ian u A R j- te j ¡tero w an ej reg resji A R (p ). D la u ła tw ie n ia o b liczeń o cen y ty c h p a ra m e tr ó w s ą o trz y m y w a n e re k u rsy w n ie d la j > 1 za p o m o c ą fo rm u ły :
W - _ 1 * Ą \\) = “ ^ V W U / % ) 1>- (6 -13)
A b y o b lic z y ć E S A C F k onieczne je s t obliczenie zw y k ły ch o cen n a jm n ie js z y c h k w a
d ra tó w d la p = 1,2, . . . ,po + 9o o raz / = 1,2, . . . , p p o p rz e z su k c e sy w n e d o p a so w a n ia A R , p o c z y n a ją c o d A R (1 ) do A R(po + qo), g d zie po i 9 0 s ą w a rto ś c ia m i u p rz e d n io o k re ślo n y m i, o b lic z a się n a stę p n ie z a p o m o c ą fo rm u ły re k u re n c y jn e j d la p = 1,2, . . . , po, / = 1,2, . . . , p o r a ź j = 1,2, . . . ,9 0.
D la sk o ń czo n y ch w a rto śc i m , m - ty E S A C F je s t definiow any n a stę p u ją c o :
D r(m )= c o v ( y , y t+k) / c o v ( y ty t), (6.14)
gd zie
m
= (6.15)
/=i
T s a y i T ia o (1984) p o k a z u ją , że d la p ro c e su A R M A (p , 9) E S A C F p o s ia d a n a s tę p u ją c ą w ła sn o ść a s y m p to ty c z n ą :
r *(i) = ct i - P < k - q ) , ( 0 < k - q < j - p )
Dfc(j) = 0, {k - 9 > j - p > 0), (6.16)
g d z ie c ( j — p , k — q) je s t nieze ro w ą s t a łą lub z m ie n n ą losow ą o g ra n ic z o n ą m ię d z y — 1 a 1. W ła s n o ś ć t a m o ż e b y ć u ż y ta d o zid en ty fik o w an ia rzęd u p ro c e s u (p, 9).
M e to d y id en ty fik acji sta c jo n a rn y c h i n iesta cjo n arn y ch m odeli A R M A 27
D la sk o ń czo n y ch w a rto śc i T , n ie w szy stk ie r b ę d ą zerow e. J a k o d o d a tk o w e g o n a rz ę d z ia d o o k re ś la n ia m o m e n tu u cięc ia rjty) T ia o i T sa y p ro p o n u ją u ży cie fo rm u ły B a r t l e t t a ( n — j — k ) ~ l ja k o a s y m p to ty c z n e j ap ro k sy m a c ji w arian cji B a z u je to n a h ip o te z ie , że sz e re g p rz e tra n s fo rm o w a n y t/t je s t b ia ły m szu m em .
6 .3 . M e t o d y b a z u j ą c e n a b ł ę d z i e j e d n o k r o k o w e j p r e d y k c j i
T ru d n o ś c i w o k re ś le n iu rz ę d u m o d e lu A R M A p o z w a la ją n a stw ie rd z e n ie , ż e n a p o d s t a w ie sz e re g u czasow ego o skończonej długości n ie m o ż n a oczekiw ać w y ra ź n e j o d p o w ied zi n a t e m a t p raw d ziw eg o rz ę d u p ro cesu . P o n a d to zało ż en ie, że p ro ces rz e c z y w isty je s t is to tn ie p ro c e s e m A R M A (p , q), je s t w y g o d n e ty lk o k o n cep cy jn ie.
J e ś li c e le m id en ty fik acji je s t z n ale zien ie m o d e lu n a jle p ie j a p ro k s y m u ją c e g o p ro ces, w ów czas ro z s ą d n ie je s t ro b ić to m a ją c n a uw adze cel, k tó re m u m o d e l m a słu ż y ć . T y p o w y m celem je s t p re d y k c ja p rz y sz ły c h w artości procesu.
A k aik e (1970) z a p ro p o n o w a ł m e to d ę w y b ie ra ją c ą rz ą d p a u to re g re s ji ta k , a b y m i
n im alizo w ać w a rto ś ć o c z ek iw an ą k w a d ra tu b łę d u jed n o k ro k o w ej p re d y k c ji F P E ( F in a ł P red ictio n E rror). F P E A kaike je s t w ów czas w y rażo n e zależnością:
F P E ( p ) = ć r l Ę M , (6.17)
1 - p
p rz y c z y m w y b o ru rz ę d u d o k o n u je się ta k , aby F P E (p ), (p = 1,2, . . . Z.) o sią g n ę ło w ar
to ś ć m in im a ln ą . J e d n a k ż e d la d u ż y c h w arto ści T w y ra ż e n ie ( T + p ) / ( T — p) je s t zale żn e od p w z n ik o m y m s to p n iu i w k onsekw encji tr u d n o je s t d o b ra ć w łaściw y rz ą d m o d e lu . W is to c ie d la szeregów d łu ż s z y c h o d 50 k ry te riu m to p ro w ad zi d o n a d p a ra m e tr y z a c ji.
S ó d e rs tró m (1977) p o k a z a ł, że F P E m o ż e być u ż y te n ie z a le ż n ie o d s t r u k tu r y m o d e lu p o p rz e z z a s tą p ie n ie p przez liczbę estym ow anych p a ra m e tró w .
Z kolei B h a n s a li i D o w n h a m (1977) zasugerow ali w y b ó r rz ę d u m o d e lu n a b azie m in i
m a liz a c ji fu n k cji
E P E s ( p ) = ct„(1 + S p / T ) , (p = 0 , 1 , 2 , . . . L ), (6.18) g d zie 6 > 2 je s t s ta łą . P rz y zw ięk szan iu 6 zw iększa się k a ra z a n a d p a ra m e tr y z a c ję . B h a n sali i D o w n h a m p o k a z a li, że d la T > 300 w łaściw y m o d e l je s t z n a jd o w a n y z n a c z n ie częściej p rz y 6 > 2.
6 .4 . M e t o d y b a z u j ą c e n a m i e r z e in f o r m a c j i
K o n c e p c ja in fo rm a c ji w g F is h e ra i zw iązan e z n ią p o ję c ie e n tro p ii s ta ło sie b a z ą szereg u m e to d e s ty m a c ji rz ę d u . A kaike (1973, 1974) pierw szy d o s trz e g ł z n a c z e n ie e n tr o p ii d la
e s ty m a c ji rz ę d u m o d e lu A R M A . W szczególności p o k azał o n , że m in im a liz a c ja fu n k cji
A I C ( p , q ) = T log ćr\ + 2 (p + q), (6.19)
( A k a ik e I n f o r m a t i o n C riterio n ) je s t ró w now ażna m in im a liz a c ji m ia ry in fo rm a c ji K u llb a c k a -L e ib le ra .
J e d n a k ż e H a n n a n (1982) u d o w o d n ił, że je śli (p ‘ ,ę * ) je s t p ra w d z iw y m rz ę d e m m o d e lu A R M A (p , q) o ra z p* < P i q" < Q , w ówczas A IC a sy m p to ty c z n ie p rz e e s ty m o w u je (p*, q’ ) z n ieze ro w y m p ra w d o p o d o b ie ń s tw e m .
6 .5 . M e t o d y b a y e s o w s k i e
M e to d y bay eso w sk ie d la o k re śle n ia rz ę d u m o d elu szereg u czasow ego b io r ą p o d uw agę w ied zę a ’p rio ri w p o s ta c i fu n k cji gęstości p ra w d o p o d o b ie ń s tw a o p a r a m e tr a c h m o d e lu . W y c h o d z ą c z te j m e to d y , Schw arz (1978) d la w y b o ru n a jo d p o w ie d n ie js z e g o m o d e lu w z b io rz e m o d eli A R M A (p , q), (p, q = 0 , 1 . . . L ) zap ro p o n o w ał m in im a liz a c ję fu n k c ji:
• ^ P . ^ ^ r i o g a ^ + tp - ł - ę J l o g T . (6.2 0)
Z kolei R iss a n e n (1978) d o o k re ś la n ia rz ę d u m o d elu A R M A z a p ro p o n o w a ł m in im a li
z a c ję fu n k cji
B I C = log a \ + (p + <j)(log T ) / T , (p, ę = 0 , 1 . . . L ) . (6.21) J e g o w y p ro w a d z e n ie b a z u je n a z a sa d z ie m in im alizacji liczby liczb d w ó jk o w y ch p o tr z e b n y c h d o o d tw o rz e n ia obserw ow anych d a n y c h , gdy k ażd a o b se rw a c ja j e s t d a n a z p e w n ą p re c y z ją , z z a sto so w a n ie m n a jle p sz e g o k o d o w an ia i założonego m o d e lu p ro c e s u . Z au w ażm y , ż e B IC* ( B a y e s i a n I n f o r m a t i o n C riterion) je s t w isto c ie k r y te r iu m S ch w arza.
H a n n a n (1980) o ra z H a n n a n i R issan en (1982) w ykazali, że BIC* d a je z g o d n e o cen y rz ę d u m o d e lu A R M A .
D w a in n e k r y t e r ia o cen y rz ę d u p ro cesu m a ją c e c h a ra k te r bayesow ski to : b ay eso w sk ie k r y te r iu m e s ty m a c ji B E C ( B a y e s ia n E s ti m a t io n C riterion) G ew eke i M eese’a (1981) o raz k r y te r iu m H Q H a n n a n a i Q u in n a (1979) i H a n n a n a (1980). P ie rw s z e z n ic h m a p o s ta ć :
B E C ( p , q ) = a l + ( p + q ) a l \ o g T / ( T - L ) , ( p ,q = 0 , 1 , . . . L ) , (6.22)
gdzie ó \ je s t o c e n ą n ajw ięk szej w iary g o d n o ści w ariancji re sz t p o d o p a so w a n iu m o d e lu n a jw y ż sz e g o rz ę d u .
H a n n a n i Q u in n s u g e ru ją p o sz u k iw a n ie rz ę d u m o d elu p o p rz e z m in im a liz a c ję w ielkości:
H Q { p , q) = log a \ + (p + ?)c(lo g log T ) / T , (p, q = 0,1. . . L ) , (6.23)
M eto d y id en ty fik acji sta c jo n a rn y c h i n iesta cjo n arn y ch m odeli A R M A 29
g d zie c j e s t s t a łą , k tó r ą n a le ż y określić. W p racy H a n n a n a (1980) p o k a z a n o , ż e człon (lo g lo g T ) ra c z e j w y k re ś la lin ię p o m ię d z y e s ty m a to ra m i zg o d n y m i i n ie z g o d n y m i n iż je s t r e z u lta te m , k tó r y n a le ż a ło b y w yk o rzy sty w ać.
H a n n a n i R iss a n e n ( 1982) zap ro p o n o w ali p ra k ty c z n ą p ro c e d u rę o k re ś la n ia rz ę d u m o d e lu A R M A (p , q) b a z u ją c ą n a trz e c h e ta p a c h .
W p ie rw s z y m e ta p ie d o d a n y c h d o p aso w u je się w ielo m ian A R ( £ ) , g d z ie L d o b ie r a się z k r y te r iu m A IC lu b B IC . O ceny p a ra m e tró w <f>j, ( j — 1, . . . L ) s łu ż ą d o o k re ś le n ia o c e n a t = z, — E $ j Z t- j d la t > L + 1, p rzy czy m s u m a je s t p o j — 1 ,2 ..L . W d ru g im e ta p ie z n a jd u je się o ceny p a ra m e tró w p o p rzez reg resję z t n a ¿, ( j = 1,2, . . . p) o ra z n a
a t - j , (j = 1 , 2 . . . q ) . A b y to w y konać, p ro p o n u ją oni re k u re n c y jn y a lg o r y tm e s ty m a c ji, k tó r y m o ż n a u w ażać z a u o g ó ln ien ie a lg o ry tm u D u rb in a -L e v in so n a . Jeśli p rz e z d^ q o z n a czyć w a ria n c ję re s z t reg resji, to o c e n a (p, q) rzęd u je s t o k re ś lo n a p o p rz e z m in im a liz a c ję fu n k cji:
log * p ,, + (P + 9 ) ( l° g 71) / 7 \ (p < P,Q), (6.24) gdzie P, Q s ą u p rz e d n io za ło ż o n y m i, o d p o w ied n io d u ży m i lic z b a m i c a łk o w ity m i.
P o n ie w a ż w sp ó łc z y n n ik i 0;, d la k tó ry c h (6.24) p rz y jm u je m in im u m , n ie s ą a s y m p to ty c z n ie e fe k ty w n e , H a n n a n i R issan en (1982) su g e ru ją e s ty m a c ję p a ra m e tr ó w z a p o m o c ą d o w o ln eg o a lg o r y tm u m a k sy m a liz a c ji gaussow skiej fu n k cji w iary g o d n o ści, p rz y jm u ją c w a rto ś c i (p, q) d la rz ę d u o raz ęi,-, 0t ja k o p o czątk o w e w a rto śc i p a ra m e tr ó w . J e s t to
trz e c i e ta p p ro c e d u ry .
O k a z u je się, że n a d ru g im e ta p ie p ro c e d u ry m oże d o jść do n a d e s ty m a c ji rz ę d u . H a n n a n i K a v a lie ris (1984) w prow adzili do sw ej o ry g in aln ej p ro c e d u ry p o p ra w k i p ro w a d z ą c e do zg o d n y c h o c e n rz ę d u .
6.6. Z m o d y f i k o w a n a m e t o d a H a n n a n a - R i s s a n e n a
M o d y fik acje m e to d y H a n n a n a -R is s a n e n a z a p ro p o n o w a n e w te j p ra c y s ą z w ią z a n e z m o d y fik a c ją d ru g ie g o i trzecieg o e ta p u p ro ced u ry . P o le g a ją o n e n a ty m , że m e to d ą n a j m n ie js z y c h k w a d ra tó w w y z n a c z a się m o d ele A R M A (r, r ) d la r = 1 , 2 , r nmx, co p ro w adzi do u s ta le n ia P = Q; s to s u je się p e łn ą m e to d ę n a jm n ie jsz y c h k w a d ra tó w a n ie jej u p ro sz c z o n y w a ria n t re k u re n c y jn y . W celu o sta te c z n e j selekcji n a jle p sz e g o m o d e lu w y z n a c z a się d o k ła d n ą fu n k c ję w ia ry g o d n o ści d la kilk u m odeli w y ty p o w an y ch w p o p rz e d n ic h e ta p a c h .
P e w n ą m o d y fik a c ją te c h n ic z n ą je s t k o rz y s ta n ie z e k sp o n e n t fu n k cji A IC o ra z B IC ”, o z n a c z a n y c h n a d a l ja k o A IC o raz B IC . Z asto so w n e m o d y fik acje z n a c z n ie p o d w y ż s z a ją e fe k ty w n o ś ć e s ty m a to r a k o sz te m p o d n ie s ie n ia złożoności obliczeniow ej, co je d n a k p rz y
w łaściw ej o rg a n iz a c ji obliczeń d la m e to d y n a jm n ie jsz y c h k w a d ra tó w , m o d y fik u ją c e j j e d y n ie p e w n e m a c ie rz e w y zn aczo n e d la m odeli niższy ch rzędów z a m ia s t o b lic z e n ia ty ch m a c ie rz y d la m o d e li o rzę d a c h w yższych o raz efektyw nych a lg o ry tm a c h w y z n a c z a n ia fu n k c ji w ia ry g o d n o śc i je s t szy b k a n aw et p rz y o b liczen iach p ro w ad zo n y ch n a k o m p u te ra c h k la sy P C (B ła c h u ta , 1994).
P r o c e d u r a id en ty fik acji je s t n a stę p u ją c a :
( 1 ) D o p aso w an ie m e to d ą n a jm n ie jsz y c h k w ad rató w w ielom ianu a u to re g re sy jn e g o d>,1(f?) s to p n ia n. L iczb ę n o k re ś la się do p aso w u jąc kolejno w ielo m ian y s to p n ia n — 0 , . . . n max i w y b ie ra ją c m o d e l d a ją c y m in im a ln ą w a rto ść A IC
A I C = cr*exp (6-25)
W y z n a c z e n ie o cen innow acji
£ = # » (* ) » « . * > » + !• (6.26)
( 2 ) D o p a so w a n ie m e to d ą n a jm n ie jsz y c h k w ad rató w n a p o d s ta w ie szeregów y t i ct ciągu m o d e li A E M A ( r ,r ) , d la r = 0 , 1 , . . . r max.
Z n a lezien ie r 0 m in im alizu jąceg o B IC
B I C = ar'2r e x p { 2 r ^ Y ~ } , r = 0 , l , . . . r0 + l . (6.27)
( 3 ) W y z n a c z e n ie m e to d ą n a jm n ie jsz y c h k w ad rató w m odeli A R M A (p , q) d la w szy stk ich p < r0 + 1 o ra z q < ro + 1. S elekcja m odeli o n a jm n ie jsz y c h w a rto ś c ia c h B IC
B I C = <7^ ? e x p { (p + <?)—^ —}• (6.28)
( 4 ) E s ty m a c ja m e to d ą n ajw ięk szej w iarygodności p a ra m e tró w m o d e li w y selek cjo n o w a
n y c h w e ta p ie 3. W y b ó r m o d e lu o n ajm n ie jsz e j w artości B IC .
7 . P r o c e s y n i e s t a c j o n a r n e
M o d ele (2.3) i (3.1) są sta c jo n a rn e , jeśli w szy stk ie z e ra w ielo m ian u <f>(B) le ż ą n a ze
w n ą trz k o ła jed n o stk o w eg o . T eo rety czn ie sta c jo n a rn o ść o zn acza, że fu n k cje g ęsto ści p ra w d o p o d o b ie ń s tw a (z ( ii) , r ( f i + 1) , . . . , z(<i + h ) ] o raz (z (t2), z ( t 7+1) , . . . , z ( ł 7 + k)] p o s ia d a ją id e n ty c z n ą p o s ta ć d la dow olnego w y b o ru p a ra m e tró w ( t i , t 7, k ) . W p ra k ty c e o z n a c z a to , że zac h o w a n ie się w yników obserw acji p o z o s ta je ta k ie sa m o w czasie. J e d n a k ż e rzeczy w i
s te szereg i czasow e c z ę sto w y k a z u ją zachow anie d ry fu jące. T a k ie n ie s ta c jo n a rn e szeregi
M e to d y identyfikacji sta c jo n a rn y c h i niestacjo n arn y ch m odeli A RM A 31
czasow e m o g ą b y ć z a m o d e lo w a n e p o p rzez d o p u szczen ie n ie k tó ry c h z e r $ ( 5 ) n a o k ręg u je d n o s tk o w y m . P is z ą c z a te m $ ( B ) — y>(B )(l — B ) d m am y:
< p ( B ) ( l - B ) dz ( t ) = li + Q ( B ) a ( t ) , (7.1)
g d z ie z e r a $ ( B ) =■ l —^ i B - f a B 2- . . ,-<j>r, - i B p~d le ż ą n a z e w n ą trz o k rę g u je d n o stk o w eg o . M o d el (7 .1 ) je s t z n a n y ja k o m o d e l A R IM A (p - d , d , q ) rz ę d u (p - d , d , q ) . R ów nież n ie k tó re szeregi czasow e z zach o w an iem cyklicznym m o g ą b y ć re p re z e n to w a n e p o p rz e z
$ ( 5 ) , p o s ia d a ją c e z e ra n a o k ręg u jed n o stk o w y m . T a k w ięc (7.1) m o ż e b y ć z a p is a n e ogól
niej ja k o :
< p ( B ) U ( B ) z ( t) = p + Q ( B ) a ( t ) , (7.2) g d z ie U ( B ) = 1 — U \ B — U iB i1 — . . . — U d B ~ d p o sia d a w sz y stk ie z e ra n a o k rę g u je d n o s t
kow ym .
S p e c ja ln a p o s ta ć U [ B ) = ( l - B ) d( l - B * ) dl, gdzie s j e s t p e w n ą lic z b ą c a łk o w itą d o d a t
n ią , je s t szero k o sto so w a n a w p ra k ty c e d o m o d elo w an ia sezonow ych szeregów czasow ych ( n p . w e k o n o m e trii s = 12 d la d a n y c h m iesięcznych o ra z s = 4 d la d a n y c h k w a rta ln y c h ).
8. P r o c e s y n i e s t a c j o n a r n e z t r e n d e m d e t e r m i n i s t y c z n y m
R o zw ażm y p ro c e s o p isa n y ró w n an iem :
y t — + ćo + + ■ • • + &dtd - f ■ ■ • + Ó<rt.TTi-it<i+CT 1 , ( 8 - 1 )
w k tó r y m :
B - o p e r a to r o p ó ź n ie n ia , A = 1 — B - o p e ra to r różnicy, t - czas d y s k re tn y , at - n .i.d (0, cr2) o ra z $ ( B ) , 0 ( R ) - s ta b iln e w ielo m ian y zm ien n ej B:
$ ( 5 ) = l - ^ B - . . . - ^ p,
0 ( £ ) = 1 - d xB - . . . - 0„B".
W eźm y d - k r o tn ą ró żn icę szeregu czasow ego y t. P ro c e s ró ż n ic tą b ę d z ie w ów czas o p is a n y ró w n an iem :
u, = A dy t = | | | j a , + 6j + 6'd+1t + . . (8.2) P ie rw s z y s k ła d n ik w pow yższej zależności o p isu je s ta c jo n a rn y p ro c e s A R M A , zaś p o z o s ta łe s k ła d n ik i m a j ą c h a ra k te r tr e n d u d e term in isty czn eg o .
W sp ó łc z y n n ik i S j . . . ¿2+m-i m o g ą być w y rażo n e p o p rz e z w sp ó łc z y n n ik i S j . . .
D alsze m - k ro tn e ró żn ico w an ie p o zw ala n a całk o w ite w yelim inow anie tr e n d u , je d n a k ż e o b e c n ie p ro c e s w t b ę d z ie n ieo d w racaln y :
to t
Q ’ ( B ) Q ( B ) A m
' a < = g l - (8.3)
$ ( H ) ‘ $ ( B )
N ie o d w ra c a ln o ś ć p ro c e s u w t w y n ik a z fa k tu , iż w ielom ian 0 * ( B ) p o s ia d a m - k r o tn y p ie r
w ia s te k n a o k rę g u je d n o stk o w y m .
M o d e l (8 .3 ) m o ż e b y ć u ż y ty do p ro g n o zo w an ia szeregu czasow ego z a p o m o c ą s p e c ja l
n eg o p r e d y k t o r a sk o n stru o w an eg o n a p o d sta w ie filtru K a lm a n a . Z n a jo m o ść w s p ó łc z y n ników Sd . . . Sd+m- i n ie je s t w ów czas konieczna.
9 . P r e d y k c j a o p t y m a l n a s z e r e g u n i e s t a c j o n a r n e g o z t r e n d e m
R o zw ażm y p ro b le m p red y k cji z a p o m o c ą m o d elu A R I M A ( p ,s ,ę ) , (H a rv e y 1981a, H a rvey, M c K en zie 1982). W ty m celu n ależ y u tw o rzy ć re p re z e n ta c ję w p rz e s trz e n i s ta n u p ro c e s u s ta c jo n a rn e g o w t = A ‘ z ,, d la k tó re g o m o ż n a zn ale źć p re d y k c ję o p ty m a ln ą z a p o m o c ą filtru K a lm a n a .
N a s tę p n ie tw o rz y się m o d e l rozszerzony p o p rz e z d o d a n ie do w e k to ra s ta n u s — 1 o p ó ź
n io n y c h w a rto ś c i z t-i, . . . z r - d - N iech te n w ek to r o p ó źn io n y ch w arto ści b ę d z ie o zn a c z o n y p rz e z Ct—i = • • • Zt-d) d la w szy stk ich t = d -f 1 , . . . T . E s ty m a to r e m ro zszerzo n eg o w e k to ra s ta n u £< = (* i,C i_ i) w chw ili T je s t w ów czas £ r = ( x t C r - i ) i n a jle p s z y e s ty m a t o r z a p e w n ia ją c y m in im u m śre d n io k w ad rato w eg o b łę d u p re d y k c ji. P o n iew aż £ r - i je s t z n a n e , w ięc m a c ie rz ą b łę d u śred n io k w ad rato w eg o je s t er*Pt, gdzie:
E t 0
. 0 o. ■
P t (9.1)
N iech — U j , j = 1 , 2 . . . s b ę d z ie w sp ó łczy n n ik iem p rz y w ro z w in ię c iu A* = (1 — B ) ‘ o ra z p rz y jm ijm y , że :
x ( i + l ) = A x ( t ) + g a ( t + 1), (9.2)
to (i) = d ! x ( ł ) (9.3)
je s t u k ła d e m ró w n a ń s ta n u d la p ro cesu w t = { w t , t = 1 , . . . T } . R ó w n a n ie s ta n u d la ro zszerzo n eg o w e k to ra s ta n u £< = [asj, Ci—1]/ b ę d z ie m ia ło p o sta ć :
X t A 0 X t-2 y
= 1 0 . . . 0 . . . v , +
C- 1 . 0 fi* 1 o . i i- 2 . 0_
(9.4)
d la t = s + 1, . . .
Z a sto so w a n ie ró w n a ń p r e d y k to r a K a lm a n a do ro zszerzonego ró w n a n ia s t a n u d a je o p ty m a ln y p r e d y k to r źr +k, d la k = 1,2, ___
M e to d y id en ty fik a cji sta c jo n a rn y c h i n iesta cjo n arn y ch m odeli A R M A 33
1 0 . I d e n t y f i k a c j a p r o c e s ó w z t r e n d a m i w i e lo m ia n o w y m i
Z a łó ż m y , że d a n a je s t re a liz a c ja y ( l ) . . . y ( T ) p ro cesu o p isan eg o ró w n a n ie m (8.1).
Z a d a n ie id e n ty fik a c ji p o le g a n a ocenie
• lic z b c a łk o w ity c h d i m c h a ra k te ry z u ją c y c h rz ą d ró żn icy k o n ieczn ej d la s ta c jo n a ry - z a c ji sk ład o w ej sto c h a sty c z n e j o raz s to p ie ń tr e n d u d e te rm in isty c z n e g o ,
• liczb c a łk o w ity c h p i q o k re ś la ją c y c h sto p n ie w ielom ianów $ ( / ? ) i 0 ( B ) ,
• w sp ó łc z y n n n ik ó w 0 \ . .. 0,.
P r o c e d u r a id e n ty fik a c ji je s t w ielo etap o w a i p o leg a n a selek cjo n o w an iu m o d e li n a p o d s ta w ie k ry te rió w in fo rm a c y jn y c h . W p ierw szy m e ta p ie d o k o n u je się o ce n y liczb d i m p o s łu g u ją c się m o d e le m a u to re g re sy jn y m składow ej s to c h a s ty c z n e j, o k re ś lo n y m w ielo
m ia n e m <£>„(£) s to p n ia n . W d ru g im e ta p ie n a p o d s ta w ie m o d e lu a u to re g re sy jn e g o o raz zró żn ico w an ej re a liz a c ji z u s u n ię ty m tr e n d e m o k re ś la się s tr u k tu r ę m o d e lu A R M A i je g o p a ra m e tr y . W e ta p ie trz e c im , p o o k reślen iu s t r u k tu r y i w stę p n e j o c e n ie p a ra m e tr ó w , d o k o n u je się o s ta te c z n e j łącz n ej o cen y p a ra m e tró w tr e n d u i p a ra m e tr ó w m o d e lu A R M A z a p o m o c ą m e to d y n a jw ię k sz e j w iary g o d n o ści.
D o k ła d n ie js z e o m ó w ien ie elem en tó w sk ład o w y ch te j p ro c e d u ry z n a jd u je się w p u n k ta c h 9.1 i 6, z a ś w p u n k c ie 9.2 o m aw ia się k o m p le tn y a lg o ry tm .
1 0 .1 . I d e n t y f i k a c j a t r e n d u d e t e r m i n i s t y c z n e g o Z a łó ż m y , ż e d y s p o n u je m y re a liz a c ją u ( l ) . . . v ( T ) p ro cesu
= f ( f ) at + * 3 + + • • ■ t 10-1)
Z a d a n ie p o le g a n a o c e n ie liczby m o raz w spó łczy n n ik ó w . .
P r o c e d u r a id e n ty fik a c ji p o le g a n a w y k onyw aniu d la w arto ści m = 0 . . . ro ma* n a s tę p u ją c y c h d z ia ła ń :
( a ) O c e n a w sp ó łc z y n n ik ó w 5J . . . z a p o m o c ą m e to d y n a jm n ie jsz y c h k w a d ra tó w . ( b ) U su n ię c ie tr e n d u i d o p aso w an ie w ielo m ian u a u to re g re sy jn e g o <£>„(/?) s to p n ia n.
L ic z b ę n o k re ś la się d o p aso w u jąc k olejno w ielo m ian y s to p n ia n = 0. . . n miiX i w y
b ie r a ją c m o d e l d a ją c y m in im a ln ą w arto ść
( c ) K o re k c ja w a rto śc i w spółczynników Sj . . . Sj+m_ 1 p rz y d a n y m m e to d ą n a jw ię k szej w iary g o d n o ści.
( d ) K o re k c ja w sp ó łczy n n ik ó w w ielom ianu $ n (B ) p rzy d a n y ch S j . . .
( e ) P o w tó rz e n ie p u n k tó w c i d aż do u zy sk an ia e k s tre m u m fu n k cji w iary g o d n o śc i.
( f ) U s ta le n ie o cen y m z w a ru n k u m in B IC
B I C = cr’ |m e x p { (n + m ) i ^ } . (10.3)
1 0 .2 . I d e n t y f i k a c j a m o d e l u z t r e n d e m P r o c e d u r a id en ty fik acji je s t w ieloetapow a.
E t a p i
O cen y lic z b y ró żn ico w ań d o ra z sto p n ia m składow ej d e te rm in isty c z n e j d o k o n u je się p o w ta r z a ją c p ro c e d u r ę z p u n k tu 9.2 kolejno d la d = 0 , 1 . . . dln&x. J a k o o c e n y p rz y jm u je się te n z estaw w a rto śc i d i m , p rzy k tó ry m w arto ść B IC je s t n a jm n ie jsz a .
E ta p 2
N a p o d s ta w ie m o d e lu au to re g re sy jn e g o o raz zróżnicow anej rea liz a c ji z u s u n ię ty m tr e n d e m o k re ś la się z g o d n ie z p ro c e d u rą z p u n k tu 7 s tr u k tu r ę m o d e lu A R M A i je g o p a ra m e tr y .
E ta p 3
P o o k re ś le n iu s t r u k tu r y i w stęp n ej o cenie p a ra m e tró w d o k o n u je się o s ta te c z n e j łącznej o c e n y p a ra m e tr ó w tr e n d u i p a ra m e tró w m o d elu A R M A z a p o m o c ą m e to d y n a jw ię k sz e j w iary g o d n o śc i.
1 1 . P o d s u m o w a n i e
W a r ty k u le p rz e d s ta w io n o m o d ele A R M A sta c jo n a rn y c h szeregów czaso w y ch , ich re p re z e n ta c je w p rz e s trz e n i s ta n u , ró w n a n ia filtru K a lm a n a , ró w n a n ia p r e d y k to r a o p ty m a ln e g o o ra z e s ty m a c ję p a ra m e tró w m o d elu z a p o m o c ą m e to d y n a jw ię k sz e j w ia ry g o d n o ści. D o k o n an o szerokiego p rz e g lą d u m e to d identyfikacji rz ę d u m o d e lu A R M A (p , q) o ra z z a p ro p o n o w a n o o ry g in a ln ą m odyfikację jed n ej z n ich . P rz e d s ta w io n o ró w n ież m o d e le A R 1M A n ie s ta c jo n a rn y c h szeregów czasow ych z w ielo m ian o w y m tr e n d e m d e te r m in is ty c z n y m . P o d a n o o ry g in a ln e a lg o ry tm y iden ty fik acji, e sty m a c ji i p re d y k c ji d la m o d e li n ie s ta c jo n a rn y c h . Ich im p le m e n ta c ję k o m p u te ro w ą p rz e d sta w io n o w p ra c y ( B ła c h u ta , 1996).
P rz e d s ta w io n e ta m p rz y k ła d y w sk azu ją n a w ysoką efek ty w n o ść o p raco w an ej m e to d y .
M etody id en ty fik acji sta c jo n a rn y c h i n iesta cjo n arn y ch m odeli A R M A 35
1 2 . P o d z i ę k o w a n i e
A u to r w y ra ż a w d zięczn o ść p. Profesorow i M ieczysław ow i B rd y sio w i z T h e U n iv e rs ity o f B irm in g h a m z a stw o rz e n ie zn a k o m ity c h w arunków do p ra c y w S chool of E le c tro n ic &
E le c tric a l E n g in e e rin g .
L IT E R A T U R A
1. A k a ik e H . (19 7 0 ), S ta tis tic a l p re d ic to r id e n tific a tio n , A n n . In s t. S ta t is t. M a th ., vol.
21, p p . 243-247
2. A k aik e H . (1973), In fo rm a tio n th e o ry a n d a n e x te n sio n o f th e m a x im u m lik elih o o d p rin c ip le , in 2 n d I n te rn a tio n a l S y m p o siu m o n In fo rm a tio n T h e o ry , e d . B . N P e tro v a n d F .C s a k i, p p . 267-281, A k ad em iai K iado
3. A k aik e H . (1 9 7 4 ), A new look a t th e s ta tis tic a l m o d e l id e n tific a tio n , I E E E T ra n s.
A u to . C o n tro l, vol. A C -19, p p . 716-723
4. A k aik e H . (1977), O n e n tro p y m a x im iz a tio n p rin c ip le , in A p p lic a tio n s o f S ta tis tic s , e d . P. R . K ris n a ia h , p p. 27-41, N o rth -H o lla n d
5. A k aik e H . (19 7 8 ), A B ay esian a n aly sis o f th e m in im u m A IC p ro c e d u re , A n n . In s t.
S t a t i s t . M a th ., vol. 30, p p . 9-14
6. A k aik e H . (1 9 7 9 ), A B ayesian e x te n sio n of th e m in im u m A IC p ro c e d u re , B io m e trik a , vol. 6 6, p p . 237-242
7. A n d e rs o n T . W . (1963), D e te rm in a tio n of th e o rd e r of d e p e n d e n c e in n o rm a lly d is tr i b u te d tim e series, P ro c . of th e S y m p o siu m on T im e S eries, e d . M . R o s e n b la tt, p p . 425-446, W ile y
8. A n d e rso n T . W . (1971), T h e S ta tis tic a l A n aly sis of T im e S eries, W iley
9. B e g u in J . M ., G o u rie ro u x C . a n d A. M o n fo rt (1980) Id e n tific a tio n o f a m ix ed a u to re g re ss iv e -m o v in g av erag e process: th e c o rn e r m e th o d , in T im e S eries, ed. 0 . D . A n d e rs o n , N o rth -H o lla n d , p p . 423-436
10. B h a n s a li R . J . a n d D . Y. D o w n h am (1977), S om e p ro p e r tie s o f th e o rd e r o f a n a u to - re g re siv e m o d e l se le c te d by a g e n e ra liz a tio n o f A k a ik e ’s F P E c rite r io n , B io m e trik a , vol. 64, p p . 547-551
