Z E S Z Y T Y N A U K O W E P O L IT E C H N IK I Ś L Ą S K I E J S e r ia : M E C H A N IK A z. 121
1995 N r k o l. 1266
A n d rz e j S O K O Ł O W S K I, Ja n K O S M O L K a te d r a B u d o w y M a s z y n
P o lite c h n ik a Ś lą s k a
S IE Ć N E U R O N O W A T Y P U F E E D F O R W A R D B A C K P R O P A G A T IO N JA K O N A R Z Ę D Z I E D O S E L E K C J I I I N T E G R A C J I C E C H S Y G N A Ł Ó W P O M IA R O W Y C H
S tre s z c z e n ie . C e le m p rz e d s ta w io n y c h b ad a ń b y ła o c e n a s ie c i n e u ro n o w e j ty p u F e e d F o r w a r d B a c k P ro p a g a tio n ( F F B P ) ja k o n a rz ę d z ia d o s e le k c ji i in te g ra c ji c e c h s y g n a łó w p o m ia ro w y c h w u k ła d a c h id e n ty fik a c ji stan u o strz a s k ra w a ją c e g o . P r a c e s k o n c e n tro w a n o n a te s ta c h m e to d o k re ś la n ia lic z b y k o m ó re k w w a rs tw ie u k ry te j i m e to d z ie s e le k c ji c e c h w e jś c io w y c h d o s ie c i. Ja k o d a n e w y k o rz y s ta n o p rę d k o ś c i d rg a ń re je s tro w a n e p o d cz a s to c z e n ia n a rz ę d z ie m o ró ż n y m z u ż y c iu i z ró ż n y m i p a ra m e tra m i s k ra w a n ia .
F E E D F O R W A R D B A C K P R O P A G A T IO N N E U R A L N E T W O R K A S A T O O L F O R M E A S U R IN G S IG N A L F E A T U R E S E L E C T IO N A N D I N T E G R A T IO N
S u m m a ry . T h e m a in g o a l o f th e re se a rc h p re s e n te d in th is p a p e r w a s to assess th e F e e d F o r w a r d B a c k P ro p a g a tio n N e u ra l N e tw o r k as a c o re o f th e s ig n a l p ro c e s s in g p ro c e d u re in to o l w e a r m o n ito rin g system s. T h e w o rk w a s fo c u s e d o n te s tin g m e th o d s a llo w in g n e tw o r k s tru c tu re d e te rm in a tio n an d in p u t fe a tu re s e le c tio n . T h e re su lts a re p re s e n te d w h ile d e s ig n in g a to o l w e a r m o n ito rin g system b a sin g o n v ib ra tio n m e a su re m e n t d u rin g tu rn in g w ith v a ry in g c u ttin g p a ra m e te rs.
H E f lT P O H H A f l C E T b F E E D F O R W A R D B A C K P R O P A G A T IO N K A K O P Y J jM E K
OTBOPy 11
M H T E r P A U H M M 3 M E P M T E J~ b H b lX C M IT IA J IO BPp.biom p. L je n b H a u iH x H ccn e ą o B a H M tt s t o o u e m ca H etT rpoH H O fl c e r a T u n a F e e d F o r w a r d B a c k P ro p a g a tio n K a ic o p y a u s k O T Ó o p y u w r re rp a u M H M 3M epnTe.TLH i.ix
CHntaJtOB
b cw cT e M e o u e tib i cocT ajtu n n p e a c y m e ro M H crp yM e H T a . P a G o T b i c o c p e a o ro H e H b i H a T e c r a x m p t o ji o n p e a e n e H H sKa.iH'ieciBa
x a M o p o K b cx p b ix o M c jio e M M e T o n e o r G o p a B x o ttH b ix te p T k c e r a .M3MepnTeJbHbiMn cnruanaMM
G li j i h K O JieG aH H H c T a H K a BO BpeM w a TO M enna c pa3JiH H H biM H n a p a M e T p aM M p e3 a H H a.1. W P R O W A D Z E N IE
A n a liz u ją c p r z y k ła d y a p lik a c ji s ie c i ty p u F e e d F o rw a rd B a c k P ro p a g a tio n ( F F B P ) , w y d a w a ć s ię m o ż e , ż e z a s to s o w a n ie te j s ie c i w c e lu ro z w ią z a n ia o d p o w ie d n io z d e fin io w a n e g o z a d a n ia n ie n a s trę c z a z b y t w ie le tru d n o ś c i. Ja k k o lw ie k ju ż p o b ie ż n a a n a liz a a lg o ry tm u
290 A . S o k o ło w s k i J . K o s m o l
tre n in g u s ie c i F F B P [4 ] w s k a z u je n a s to s u n k o w o d u ż ą lic z b ę p a ra m e tró w , k tó re n a le ż y o k r e ś lić p rz e d ro z p o c z ę c ie m tre n in g u . P rz e d e w s z y s tk im n a le ż y o k re ś lić lic z b ę k o m ó re k w w a rs tw ie u k ry te j. N a s tę p n ie , p ro b le m a ty c z n y je s t w y b ó r w a rto ś c i w s p ó łc z y n n ik a u c z e n ia r|
m a ją c e g o is to tn y w p ły w n a sz y b k o ś ć tre n in g u s ie c i F F B P Z p u n k tu w id z e n ia u ż y tk o w n ik a is to tn e je s t ta k ż e , ja k p rz y g o to w a ć z b ió r tre n u ją c y s ie c i. W ty m p rz y p a d k u k o n ie c z n e je s t o k re ś le n ie s tru k tu ry w a r s tw y w e jś c io w e j i w y jś c io w e j, tz n . k o n ie c z n y je s t d o b ó r lic z b y k o m ó re k w ty c h w a rs tw a c h .
G e n e ra ln ie z a z n a c z a się , ż e p rz y b ra k u p o d s ta w m a te m a ty c z n y c h u ż y tk o w n ik je s t z w y k le s k a z a n y n a e k s p e ry m e n to w a n ie z ró ż n y m i k o m b in a c ja m i p a ra m e tró w s ie c i o ra z n a k o n ie c z n o ś ć "w y o b r a ż e n ia s o b ie " p o d s ta w o w y c h m e c h a n iz m ó w d z ia ła n ia s ie c i. N ie m n ie j je d n a k p o d e jm o w a n e s ą ró w n ie ż p ró b y a n a lity c z n e g o ro z w ią z y w a n ia n ie k tó ry c h z w y ż e j z a s y g n a liz o w a n y c h p ro b le m ó w . Z a g a d n ie n ie w y b o ru lu b b u d o w y m e to d k o n s tru o w a n ia s ie c i ty p u F e e d F o r w a r d B a c k P ro p a g a tio n s ta n o w i z a s a d n ic z y p rz e d m io t n in ie js z e g o a rty k u łu .
2 . S IE Ć N E U R O N O W A T Y P U F E E D F O R W A R D B A C K P R O P A G A T IO N
M a ją c n a u w a d z e sz e re g p u b lik a c ji tra k tu ją c y c h o s ie c i F F B P np . [3 , 4 , 1 0 ], w n in ie js z e j c z ę ś c i s k o n c e n tro w a n o s ię je d y n ie n a w y b ra n y c h z a g a d n ie n ia c h z w ią z a n y c h z k o n s tru o w a n ie m te j s ie c i. W p ie rw s z y m k ro k u p rz e d s ta w io n o ro z s z e rz o n e ró w n a n ie o p is u ją c e z m ia n y w a g p o d c z a s tre n in g u s ie c i (1 ), p o le g a ją c e g o n a m in im a liz a c ji b łę d u E p n a p o d s ta w ie m e to d y n a jw ię k s z e g o sp a d k u n a p o w ie rz c h n i b łę d u w p rz e strz e n i w a g . W k a ż d y m k ro k u tre n in g u o b lic z a n y je s t g ra d ie n t v £ . p[ v r ) , a n a stę p n ie w y z n a c z a n y je s t n o w y w e k to r w a g W k+1 p o p rz e z p rz e s u n ię c ie w z d łu ż k ie ru n k u u je m n e g o g ra d ie n tu w w ie lo w y m ia ro w e j p rz e s trz e n i w a g .
1 W
w m = W “ — l - W E ^ W ^ + a A W * - ' o ra z E “p = - o (1 )
n m-\ 2 J=1
g d z ie : r| - w s p ó łc z y n n ik u c z e n ia ,
lic z b a k o m ó re k w w a rs tw ie m -1;
W - w e k to r w a g i w a rto ś c i p ro g o w y c h ; d j - w a rto ś ć o c z e k iw a n a n a j- ty m w y jś c iu z
s ie c i;
P o r ó w n u ją c w z ó r (1 ) z p o d s ta w o w ą z a le ż n o ś c ią o k re ś la ją c ą z m ia n y w a g s ie c i F F B P p o d a n ą w [4 ], z a u w a ż y ć m o ż n a d w ie z a sa d n ic z e m o d y fik a c je . W p ie rw s z y m p rz y p a d k u w y k o rz y s ta n o d o s to s o w a n ie w a rto ś c i T| d o s tru k tu ry s ie c i [5 ]. P r a k ty c z n ie , p rz e d ro z p o c z ę c ie m tre n in g u a rb itr a ln ie u s ta la się w a rto ś ć rj, a n a stę p n ie p rz y p o rz ą d k o w u je się k a ż d e j w a r s tw ie s ie c i w s p ó łc z y n n ik u c z e n ia b ę d ą c y ilo ra z e m p rz y ję te g o t j i lic z b y k o m ó re k w w a r s tw ie n iż sz e j w sto s u n k u d o w a rs tw y ro z p a try w a n e j. W d a lsz e j c z ę ś c i a r ty k u łu p o d a w a n e s ą w a r to ś c i r jf o d p o w ia d a ją c e n a jm n ie js z e j w a rto ś c i w s p ó łc z y n n ik a u c z e n ia w y z n a c z o n e g o d la ro z p a try w a n e j s ie c i.
O p ró c z r i f , w e w z o rz e (1 ) w y s tę p u je ró w n ie ż s k ła d n ik o k re ś la ją c y w p ły w z m ia n w a g s ie c i w p o p rz e d n ic h k ro k a c h tre n in g u n a z m ia n y b ie ż ą c e - tz w . m e to d a m o m e n tu m . S to s o w a n ie m e to d y m o m e n tu m m a n a c e lu z ła g o d z e n ie e w e n tu a ln y c h o s c y la c ji b łę d u tre n in g u s ie c i o ra z p rz y s p ie s z e n ie tre n in g u .
o j - w a rto ś ć j- te g o w y jś c ia z s ie c i,
a - w s p ó łc z y n n ik m o m e n tu m ; k - in d e k s k ro k u o b lic z e ń ;
N - lic z b a k o m ó re k w w a rs tw ie w y jś c io w e j.
Sieć neuronowa tvpu Feed Forward Back Propagation
291D o o k re ś le n ia lic z b y k o m ó re k s ie c i w y k o rz y s ta n o tz w . a lg o ry tm G D R - d e s [1 , 2 , 6 ] o ra z m e to d ę p ru n in g u k o m ó re k s ie c i [5 ] z m o d y fik o w a n ą w [6 , 9 ], W p rz y p a d k u a lg o ry tm u G D R - d e s tre n in g s ie c i ro z p o c z y n a s ię z ty lk o je d n ą k o m ó rk ą w w a rs tw ie u k ry te j. P o s tw ie rd z e n iu s ta b iliz a c ji b łę d u tre n in g u , tz n . w m o m e n c ie , g d y k o n ty n u a c ja tre n in g u n ie p o w o d u je z m ia n b łę d u , d o w a r s tw y u k ry te j w p ro w a d z a n a je s t d ru g a k o m ó rk a i ro z p o c z y n a s ię k o le jn a fa z a tre n in g u . N a le ż y z a z n a c z y ć , ż e w te j fa z ie tre n o w a n e są je d y n ie w a g i n o w o w p ro w a d z o n e j k o m ó rk i, a w a g i p ie rw s z e j k o m ó rk i u z n a w a n e są z a u s ta lo n e , n ie z m ie n n e w d a ls z e j cz ę ś c i tre n in g u . P r o c e s w p ro w a d z a n ia k o m ó re k k o n ty n u o w a n y je s t d o s p e łn ie n ia z a ło ż o n e g o k ry te riu m b łę d u tre n in g u s ie c i lu b d o o s ią g n ię c ia fa z y , w k tó re j w p ro w a d z a n ie k o le jn y c h k o m ó re k n ie p o w o d u je z a s a d n ic z y c h z m ia n b łę d u tre n in g u s ie c i.
D ru g a z z a s to s o w a n y c h m e to d o p ie ra się n a p rz e p ro w a d z a n y m p o tre n in g u s ie c i w y b o rz e k o m ó re k w w a rs tw ie u k ry te j, k tó ry c h w y jś c ia z a c h o w u ją w p rz y b liż e n iu s ta łe w a rto ś c i d la w s z y s tk ic h w e k to r ó w z b io ru tre n u ją c e g o lu b k o m ó re k , k tó ry c h w y jś c ia p rz y jm u ją a n a lo g ic z n e w a rto ś c i d o w y jś c ia z in n y c h k o m ó re k w w a rs tw ie u k ry te j, tz n . "n a ś la d u ją " in n e k o m ó rk i w tej w a rs tw ie . Z a k ła d a się , ż e w y b ra n e k o m ó rk i m o g ą b y ć o d rz u co n e , c o o d p o w ia d a o k re ś le n iu k o n ie c z n e j, z p u n k tu w id z e n ia ro z w ią z y w a n e g o z a d a n ia , lic z b y k o m ó re k w w a rs tw ie u k ry te j
[ 6 ].
D o s e le k c ji w e jś ć d o s ie c i z a sto so w a n o m e to d ę p ru n in g u w a g [6 , 7 , 8 ], P r o p o n o w a n y a lg o ry tm p ru n in g u w a g re a liz o w a n y je s t k ro k o w o W k a ż d y m k ro k u k o le jn o te s to w a n e są w s z y s tk ie w a g i łą c z ą c e k o m ó rk i w e jś c io w e z k o m ó rk a m i u k ry ty m i. T e s t d a n e j w a g i p o le g a n a o d rz u c e n iu te j w a g i (n a d a n iu je j w a rto ś c i z e ro w e j) i w y z n a c z e n iu b łę d ó w E c ( 2 ) o ra z E ^ (3 ).
D a n y k r o k p ru n in g u k o ń c z y s ię o d rz u c e n ie m w a g i, d la k tó re j b łą d E c m a n a jm n ie js z ą w a rto ś ć o ra z E ^ je s t m n ie js z e o d w ie lk o ś c i p r w n a z y w a n e j p a ra m e tre m p ru n in g u w a g . P r u n in g w a g u z n a je s ię z a z a k o ń c z o n y , g d y n ie je s t m o ż liw y w y b ó r w a g i, k tó re j o d rz u c e n ie p o z w a la ło b y n a s p e łn ie n ie k ry te riu m E (j< p r w
O s ta tn im e ta p e m s e le k c ji je s t w y z n a c z e n ie is to tn o ś c i p o s z c z e g ó ln y c h w e jś ć . Is to tn o ś ć d a n e g o w e jś c ia w y r a ż a s ię sto su n k ie m lic z b y a k ty w n y c h w a g d o p o c z ą tk o w e j lic z b y w a g . W ty m p rz y p a d k u p rz y ję to p ro s te k ry te riu m w y b o ru o d rz u c a n y c h w e jś ć d o s ie c i : je ż e li is to tn o ś ć d a n e g o w e jś c ia je s t m n ie js z a n iż 0 .5 (t j. 5 0 % ), to w e jś c ie to m o ż e b y ć o d rz u c o n e .
E k = m a x |a ń j^ < / / - o / )J d la j = l. . P i i= l..N (3 )
g d z ie : P - lic z b a w e k to ró w tre n u ją c y c h .
S p ra w n o ś ć k la s y fik a c ji d o k o n y w a n e j p rz e z s ie ć F F B P m o ż e b y ć o c e n ia n a n a p o d s ta w ie d w ó c h k r y te rió w . P ie r w s z e z z a s to s o w a n y c h k ry te r ió w ( K r . I ) o p ie ra s ię n a k la s y c z n e j o c e n ie w y jś ć w z g lę d e m w a rto ś c i 0 .5 , tz n . d a n e w y jś c ie je s t a k ty w n e , je ż e li w a rto ś ć w y jś c ia je s t w ię k s z a o d 0 .5 . N a s tę p n ie , w c e lu o k re ś le n ia p o p ra w n o ś c i k la s y fik a c ji, p o ró w n u je s ię b ie ż ą c y s ta n (a k ty w n y - n ie a k ty w n y ) k o m ó re k w w a rs tw ie w y jś c io w e j z e sta n e m o c z e k iw a n y m n a w y jś c iu . W d ru g im p rz y p a d k u stan a k ty w n y p rz y p o rz ą d k o w u je s ię k o m ó rc e , k tó re j w y jś c ie m a n a jw ię k s z ą w a rto ś ć , n a to m ia s t p o z o s ta łe k o m ó rk i tra k tu je s ię ja k o n ie a k ty w n e ( K r . I I ) . O s ta te c z n ie s p ra w n o ś ć s ie c i w y ra ż a s ię sto su n k ie m lic z b y p o p ra w n ie s k la s y fik o w a n y c h w e k to r ó w z b io ru te s tu ją c e g o d o c a łk o w ite j lic z b y w e k to ró w te g o z b io ru .
292
A. Sokołowski J. Kosmol
3 . B A D A N I A E K S P E R Y M E N T A L N E
P r ó b y z a s to s o w a n ia s ie c i F F B P d o id e n ty fik a c ji z u ż y c ia V Bb d la p rz y p a d k u o b ró b k i ze z m ie n n y m i p a ra m e tra m i s k ra w a n ia o p a rto n a z e s ta w ie p o m ia ró w p rz e d s ta w io n y m n a ry s . 1.
K a ż d y p o m ia r re a liz o w a n o w d w ó c h k ro k a c h . P o d c z a s p o m ia ró w r e je s tro w a n o p rę d k o ś c i d rg a ń w w y b r a n y c h p u n k ta c h o b ra b ia rk i (ry s . 1 ), a n a stę p n ie , b e z p o ś re d n io p o re je s tra c ji d o k o n y w a n o p o m ia ru z u ż y c ia g łó w n e j p o w ie rz c h n i p rz y ło ż e n ia V B g . P o m ia r y p rz e p ro w a d z o n o z p a ra m e try c z n ie z m ie n n y m z u ż y c ie m p o w ie rz c h n i p rz y ło ż e n ia o s trz a s k ra w a ją c e g o , t j. s k ra w a n o w y s e le k c jo n o w a n y m i p ły tk a m i o z a d a n y m z u ż y c iu : V B g = 0 .0 m m ; V Bb=0 .4 m m i V Bb=0 .8 m m .
V (m /m in]
P [m m /obr]
g [mm]
V B „
[mm] U
150 0.1; 0.2 1.0; 2.0
120 0.1; 0.2 1.0; 2.0 0.0; 0.4; 0.8;
90 0.1; 0.2 1.0; 2.0
material obrąb. 30HN3A, materiał ostrza S10S I
nu* narzędziowy
R y s . 1. Z e s ta w ie n ie p rz e p ro w a d z o n y c h p ró b s k r a w a n io w y c h o ra z z a s to s o w a n a k o n fig u ra c ja
c z u jn ik ó w p rz y s p ie s z e ń
F ig . 1. M e a s u re m e n t S c h e d u le a n d a c c e le ra tio n s e n s o r c o n fig u ra tio n
opnmka narzędziowe
cnifid
T. :_____ i pfzyapwezen
_ 0 .9
£ 0 . 7 - K
! M
VBb [mm]
R y s . 2 . W p ły w p rę d k o ś c i s k ra w a n ia i z u ż y c ia V B g n a w a rto ś ć s k ła d o w e j w id m a o c z ę s to tliw o ś c i f= 7 2 0 0 H z , p u n k t p o m ia ro w y -
S z n > 1 m m /o b r.; g = l m m F ig . 2. In flu e n c e o f th e c u ttin g s p e e d an d to o l
w e a r V B o n th e m a g n itu d e o f sp e ctru m co m p o n e n t f= 7 2 0 0 H z , m e a s u rin g p o in t S ^ ,
p = 0 .1 m m / re v.; g = l m m
Z a s a d n ic z a c z ę ś ć a n a liz s y g n a łu p o m ia ro w e g o s p ro w a d z a ła s ię d o w s k a z a n ia p asm a c z ę s to tliw o ś c i, w k tó ry m s k ła d o w e w id m a p rę d k o ś c i d rg a ń w y k a z y w a ły n a jw ię k s z ą w s p ó łz m ie n n o ś ć z e z u ż y c ie m V B b . W y k a z a n o , iż w k a ż d y m z p u n k tó w p o m ia ro w y c h w y r ó ż n ić m o ż n a je d n ą tę s a m ą s k ła d o w ą w id m a o c z ę s to tliw o ś c i f= 7 2 0 0 H z , k tó re j w a rto ś ć ( W J w r a z z e w z ro s te m z u ż y c ia V Bb w y k a z u je n a jw ię k s z e p rz y ro s ty w z g lę d n e .
W k o le jn y m k ro k u p rz e p ro w a d z o n o o c e n ę w p ły w u p a ra m e tró w s k ra w a n ia . W y k a z a n o , że p a ra m e try s k ra w a n ia m o g ą m ie ć a n a lo g ic z n y w p ły w n a W s w ja k z u ż y c ie V Bb o s trz a s k ra w a ją c e g o (r y s . 2 ). Z a ło ż o n o w ty m p rz y p a d k u , iż s ie ć F F B P je s t w s ta n ie p o p ra w n ie
Sieć neuronowa typu Feed Forward Back Propagation
293ro z ró ż n ia ć w z ro s t z u ż y c ia o d z m ia n p a ra m e tró w s k ra w a n ia , a ty m sa m y m u m o ż liw ia ć id e n ty fik a c ję 3 p o z io m ó w z u ż y c ia .
4 . K L A S Y F I K A C J A P O Z IO M Ó W Z U Ż Y C I A Z W Y K O R Z Y S T A N IE M S E E C IF F B P
Z e s ta w p o m ia ró w p rz e d s ta w io n y c h n a ry s. 1 s k ła d a ł s ię z p o m ia ró w p rz e p ro w a d z o n y c h d la 12 k o m b in a c ji p a ra m e tró w s k ra w a n ia i 3 w a rto ś c i z u ż y c ia V B b , c o p o z w o liło n a b u d o w ę z b io ru 3 6 w e k to r ó w tre n u ją c y c h . Z b ió r te s tu ją c y z a w ie ra ł ró w n ie ż 3 6 w e k to ró w w e jś c io w y c h w y z n a c z o n y c h n a p o d s ta w ie d o d a tk o w o p rz e p ro w a d z o n y c h p o m ia ró w (t e sa m e p a ra m e try o b ró b k i i w a rto ś c i z u ż y c ia ) lu b z b io ry d a n y ch u z y s k a n e p o p rz e z p o w tó rn ą d y s k re ty z a c ję s y g n a łó w p o m ia ro w y c h . U tw o rz e n ie z b io ró w tre n u ją c y c h i te s tu ją c y c h o p a rto n a k o n c e p c ji w ie lo c z u jn ik o w e g o u k ła d u p o m ia ro w e g o (S e n s o r In te g ra tio n A p p ro a c h ). Z a ło ż o n o , iż k a ż d y c z u jn ik re p re z e n to w a n y b ę d z ie p rz e z je d n ą ce c h ę o d p o w ia d a ją c e g o m u s y g n a łu p o m ia ro w e g o - w a rto ś ć s k ła d o w e j w id m a o c z ę s to tliw o ś c i 1=7200 H z . O p ró c z ce c h s y g n a łó w p o m ia ro w y c h , w e jś c ia d o s ie c i F F B P s ta n o w iły ta k ż e p rę d k o ś ć s k ra w a n ia , p o s u w i g łę b o k o ś ć s k ra w a n ia (ta b lic a 1 ). N a w y jś c iu z s ie c i o b s e rw o w a n o 3 p o z io m y z u ż y c ia , tj. w k a ż d e j z te s to w a n y c h s ie c i z a s to s o w a n o 3 k o m ó rk i w y jś c io w e , k tó ry m p rz y p o rz ą d k o w a n o w a r to ś c i z u ż y c ia : V B g = 0 .0 m m , V B g = 0 .4 m m i V Bb=0 .8 m m .
T a b lic a 1 R e p re z e n ta c ja e le m e n tó w w e k to ró w w e jś c io w y c h o ra z re p re z e n ta c ja w y jś ć z s ie c i F F B P
e le m e n ty w e k to r a w e jś c io w e g o
1 2 3 4 5 6 7
sm s*
V P gw y jś c ia z s ie c i F F B P
1 2 3
V Br sO.O m m V Bb=0 .4 m m V Br=0 .8 m m
W y n ik i p ie rw s z y c h te s tó w s ie c i F F B P p rz e d s ta w io n o w ta b lic y 2 . P ie r w s z y e ta p k o n s tru o w a n ia s p ro w a d z a ł się d o tre n in g u s ie c i o a rb itra ln ie d o b ra n e j s tru k tu rz e . Z a k ła d a n o , ż e p rz y ję ta n a ty m e ta p ie s tru k tu ra je s t s tru k tu rą z n a c z n ie "p rz e w y m ia ro w a n ą " w se n s ie lic z b y k o m ó re k w a rs tw y u k ry te j ja k i lic z b y w e jś ć d o s ie ci. S tą d te ż w p ie rw s z y m k ro k u d o k o n y w a n o p ru n in g u k o m ó re k w a rs tw y u k ry te j, d ą ż ą c d o w s tę p n e g o o k re ś le n ia w y m a g a n e j d o ro z w ią z a n ia d a n e g o z a d a n ia s tru k tu ry s ie c i (E t a p 2 ). K o le jn y e ta p s ta n o w ił p ró b ę o d rz u c e n ia w y b ra n y c h w e jś ć d o s ie c i - s e le k c ję c e c h w e jś c io w y c h (r y s . 3 ). W p rz y p a d k u s tw ie rd z e n ia m o ż liw o ś c i o d rz u c e n ia n ie k tó ry c h w e jś ć o d p o w ie d n io z m n ie js z a n o lic z b ę k o m ó re k w a rs tw y w e jś c io w e j i p o n o w n ie a rb itra ln ie u s ta la n o lic z b ę k o m ó re k w a r s tw y u k ry te j.
O s ta te c z n ą s tru k tu rę s ie c i o trz y m y w a n o p o d o k o n a n iu k o le jn e g o p ru n in g u k o m ó re k w a rs tw y u k ry te j (E t a p 4 ). W ta b lic y p rz e d s ta w io n o ta k ż e s tru k tu rę i s p ra w n o ś c i s ie c i tre n o w a n e j z w y k o rz y s ta n ie m a lg o ry tm u G D R - d e s .
P rz e d s ta w io n e w ta b lic y 2 p ró b y z a s to s o w a n ia s ie c i F F B P d o id e n ty fik a c ji z u ż y c ia V B s p ro w a d z a ły s ię d o tre n in g u , a n a stę p n ie w y z n a c z e n ia s p ra w n o ś c i z w y k o rz y s ta n ie m
294
A. Sokołowski J. Kosmol
w e k t o r ó w w e j ś c i o w y c h u t w o r z o n y c h d la a n a lo g ic z n y c h k o m b in a c ji p a r a m e t r ó w s k r a w a n ia . Z p u n k tu w id z e n ia h ip o t e t y c z n e g o u k ła d u n a d z o r o w a n ia z u ż y c ia V B o d p o w ia d a to p r z y p a d k o w i tr e n in g u i p rz e d e w s z y s tk im z a s to s o w a n ia s ie ci je d y n ie d la w y b r a n y c h w a r t o ś c i t y c h p a r a m e t r ó w . C e le m k o le jn y c h t e s t ó w b y ło o k r e ś le n ie s p r a w n o ś c i s ie c i w p r z y p a d k u z a s t o s o w a n ia z b io r u te s tu ją c e g o u t w o r z o n e g o d la r ó ż n y c h w sto s u n k u d o z b io r u t r e n u ją c e g o p a r a m e t r ó w s k r a w a n ia .
T a b lic a 2 W s t ę p n e te sty s ie c i F e e d F o r w a r d B a c k P r o p a g a t io n , lic z b a w e k t o r ó w tr e n u ją c y c h / te s tu ją c y c h : 36/3 6, iif= 0 .2
opis struktura sieci
reprezentacja elementów wektora wejściowego
sprawność sieci K r.l Kr. N
GDR-des 7-11-3
M M I I I
94.4% 97.2%Etap 1 7-20-3 944% 95 8%
Etap 2 lidć po pnjrongu
komórek
7-11-3 Sxn Syn Szn S ri v p g 94.4% 96 3%
GDR-des 6-10-3
M I I I
Sim Syn Szn S ri v p g
94.4% 97.2%
Etap 3
>ieć po pruningu wag
6-20-3 96.3% 97.2%
Etap * aieć po pruningu
komórek
5-11-3 97 2% 99.1%
79.7O* a2D0% 79.50* 7 7 . 0 0 * _
3 9 .8 0 % 3 0 .1 0 %
1 S
Sxn Syn
1 0 0.00* 9 0 . 0 0 * 8 0 . 0 0 * :a 7 0 . 0 0 * f 6 0 . 0 0 * so.oo*
B 4 0 . 0 0 *
&
3 0 . 0 0 * 2 0.00* 1 000*
0.00*
Szn Sri v p g
R y s . 3. Is t o t n o ś c i p o s z c z e g ó ln y c h w e jś ć d o s ie ci w y z n a c z o n e p o d c z a s t e s t ó w p r z e d s t a w io n y c h w t a b lic y 2 ( E t a p 3 )
F ig . 3. In p u t fe a t u r e im p o r t a n c e e stim a te d f o r th e tests s h o w n in ta b le 2 ( E t a p 3 )
P o m i a r y w y k o r z y s t a n e d o te s tó w s ie c i (ry s . 1) o b e jm o w a ły p r z y p a d k i o b r ó b k i z 3 p r ę d k o ś c ia m i s k r a w a n ia . W k o le jn y c h te stac h z d e c y d o w a n o się p o m in ą ć w z b io r a c h t r e n u ją c y c h d a n e o d n o s z ą c e s ię d o w y b r a n e j p r ę d k o ś c i s k r a w a n ia i w y k o r z y s t y w a ć j e je d y n ie j a k o d a n e te s tu ją c e . Z e w z g lę d u n a p o m in ię c ie d a n y c h o d p o w ia d a ją c y c h w y b r a n e j p r ę d k o ś c i s k r a w a n ia w o p is y w a n y c h p o n iż e j te s ta c h w y k o r z y s t y w a n o 2 4 w e k t o r y t r e n u ją c e i 48 w e k t o r ó w te s tu ją c y c h .
Sieć neuronową typu Feed Forward Back Propagation
295T a b lic a 3 T e s t y s ie c i F e e d F o r w a r d B a c k P r o p a g a t io n p r z e p r o w a d z o n e z p o m in ię c ie m w fa z ie t r e n in g u d a n y c h o d p o w ia d a ją c y c h p rę d k o ś c i s k r a w a n ia v= 1 2 0 m / m in ; lic z b a w e k t o r ó w
tr e n u ją c y c h / te s tu ją c y c h : 24/4 8, iif = 0 .2
opis struktura
sieci reprezentacji elementów wektora wejściowego
sprawność sieci
GDR-des Etap 1
Etap 2 ńot po pruningu
komórek
7-11-3
7-20-3
7-16-3 Sxn Syn Szn Szi v p g
89.5%
89.1%
90.8%
9 3.5%
96.2%
96.7%
GOR-des Etap 3
•i*ć po pnjningu
Etap 4
sieć po pruningu komórek
5-20-3
5-16-3 Sxn Syn Szn
M I I I
Sb v p g 100,00* * )•5.00%
90.00%
»5.00%
60.00%
75,00%
70.00%
5-19-3 5-19-3 5-13-3 5 - Ł J ^ Sei Qxn, S*n
R y s . 4. W y n i k i t e s t ó w s ie ci F F B P o ró ż n e j lic z b ie k o m ó r e k w w a r s t w ie u k ry te j ( a ) o r a z te s ty z r ó ż n y m i k o n fig u r a c ja m i d a n y c h w e jś c io w y c h ( b )
F ig . 4. R e s u lt s o f F F B P tests c o n d u c te d w it h n e t w o r k s c o n ta in e d d iffé r e n t n u m b e rs o f n o d e s in th e h id d e n la y e r ( a ) a n d d iffé re n t in p u t fe a tu re c o n fig u r a tio n s ( b )
W y n i k i t e s t ó w s ie c i F F B P p r z e p r o w a d z o n y c h z p o m in ię c ie m w fa z ie tr e n in g u d a n y c h o d p o w ia d a ją c y c h p r ę d k o ś c i s k r a w a n ia v = 1 2 0 m / m in p rz e d s ta w io n o w t a b lic y 3. A n a liz u j ą c te w y n ik i, d y s k u s y jn a w y d a je się o s ta te c z n a s tru k tu ra s ie ci F F B P , a k o n k r e t n ie s t o s u n k o w o d u ż a lic z b a k o m ó r e k w w a r s t w ie u k r y te j. W c e lu o k re ś le n ia w p ł y w u s tr u k tu r y s ie c i n a s p r a w n o ś ć k la s y fik a c ji p r z e p r o w a d z o n o d o d a t k o w e te sty s ie ci o ró ż n e j lic z b ie k o m ó r e k w w a r s t w ie u k r y t e j (r y s . 4 a ). N a l e ż y z a z n a c z y ć , ż e n a rys. 4 a, s ie ć 5-13-3 t r e n o w a n o z w y k o r z y s t a n ie m a lg o r y t m u G D R - d e s (t a b lic a 3 ). J a k m o ż n a z a u w a ż y ć , d la lic z b y k o m ó r e k w w a r s t w ie u k ry te j w a h a ją c e j się p o m ię d z y 18 (p r u n in g k o m ó r e k ) i 13 (a lg o r y t m G D R - d e s ) u z y s k iw a n o s p r a w n o ś c i p o w y ż e j 9 0 % ( K r . U ) . D a ls z e z m n ie js z a n ie lic z b y k o m ó r e k p r o w a d z iło j e d n a k d o z n a c z n e g o o b n iż e n ia s p r a w n o ś c i s ie ci F F B P . S t ą d też p r z y jm u je się, ż e z a s to s o w a n e m e t o d y s łu ż y ć m o g ą d o o k r e ś le n ia z a k re s u w y m a g a n e j w c e lu z a p e w n ie n ia r e la t y w n ie w y s o k ie j
100.00*
»5.00%
90 00%
»3.00%
«0.00% 75 00%
70.00%
«5,00%
»0 .00%
296
A. Sokołowski J. Kosmol
s p r a w n o ś c i lic z b y k o m ó r e k . J a k k o l w i e k p o n o w n ie z a z n a c z y ć n a le ż y , iż p r u n in g k o m ó r e k p o z w a la n a u z y s k a n ie n a jw y ż s z y c h s p r a w n o ś c i k la s y fik a c ji.
N a rys. 4 .b p r z e d s t a w io n o r ó w n ie ż te s ty s ie ci z r ó ż n y m i k o n f ig u r a c ja m i c e c h s y g n a łó w p o m ia r o w y c h . A n a liz u j ą c u z y s k a n e s p r a w n o ś c i w ś w ie tle is to tn o ś c i p o s z c z e g ó ln y c h c e c h p r z e d s t a w io n y c h n a ry s . 3, z a u w a ż a się, iż k o n fig u r a c je c e c h ró ż n e o d te j w s k a z a n e j p rz e z s ie ć d a w a ły n iż s z e s p r a w n o ś c i. S z c z e g ó ln ie f a k t ten u w id a c z n ia się w p r z y p a d k u , g d y p o m ija n e b y ł y i n f o r m a c je z c z u jn ik a
S*j.
5. P O D S U M O W A N I E
P o d s u m o w u ją c , s t w ie r d z ić m o ż n a , ż e p r z e d s ta w io n e te s ty je d n o z n a c z n ie p o t w ie r d z a ją c e lo w o ś ć z a s t o s o w a n ia s ie ci F F B P j a k o n a rz ę d z ia d o id e n ty f ik a c ji 3 p o z io m ó w z u ż y c ia V B g d la p r z y p a d k u o b r ó b k i z e z m ie n n y m i p a ra m e tra m i s k r a w a n ia . W y d a j e się , ż e t a k z d e fin io w a n e z a d a n ie n ie s t a n o w iło z b y t n ie g o " p r o b le m u " d la s ie c i F F B P . P o d k r e ś le n ia w y m a g a r ó w n ie ż , ż e z a s t o s o w a n e m e t o d y o k r e ś la n ia s tr u k tu r y s ie ci o r a z s e le k c ji w e jś ć d o s ie c i u m o ż liw ia ły z r e d u k o w a n ie ilo ś c i k o m ó r e k w w a r s t w ie u k r y te j i w a r s t w ie w e jś c io w e j b e z is to tn e g o o b n iż e n ia s p r a w n o ś c i s ie c i. P o z w a la to n a w s tę p n e p o t w ie r d z e n ie p o p r a w n o ś c i z d e f in io w a n ia t y c h m e to d , a t y m s a m y m p o t w ie r d z e n ie ic h p r z y d a tn o ś c i d o k o n s t r u o w a n ia s ie c i F F B P .
L I T E R A T U R A
[ 1] C h e s t e r D . : N e w tre n d s in n e u ra l n e tw o r k s . S c ie n t if ic C o m p u t in g & A u t o m a t io n , T e c h n o l o g y f o r th e L a b o r a t o r y , M a y 1992.
[ 2 ] L i C . J . , K i m T . : A n e w f e e d f o r w a r d n e u ra l n e t w o r k s tru c tu r a l a n d w e ig h t le a r n in g a lg o r ith m . N e u r a l N e t w o r k s in M a n u f a c t . an d R o b o t ic s , A S M E , P E D , V o l . 5 7 , 1992.
[ 3 ] P a o Y o h - H a n : A d a p t iv e P a tt e r n R e c o g n it io n an d N e u r a l N e t w o r k s . A d d is o n - W e s le y P u b lis h in g C o m p a n y In c ., 1989.
t 4 ] R u m e lh a r t D . E . , H in t o n G . E . , W il l ia m s R . J . : L e a r n in g in te rn a l re p r e s e n ta tio n b y e r r o r p r o p a g a tio n . P a r a l le l D is t r ib u t in g P r o c e s s in g , T h e M I T P re s s , 1 986.
[ 5 ] S ie t s m a J . , D o w R . J . F . : C r e a t in g a r tific ia l n e u ra l n e t w o r k s th a t g e n e ra liz e . N e u r a l N e t w o r k s , V o l . 4, N o . 1, 1991.
t 6 ] S o k o ł o w s k i A . : N a d z o r o w a n ie sta n u o strz a s k r a w a ją c e g o z z a s to s o w a n ie m s ie ci n e u r o n o w y c h . R o z p r a w a d o k to rs k a , P o lit e c h n ik a Ś lą s k a w G li w ic a c h , W r z e s ie ń 1994.
[ 7 ] S o k o ł o w s k i A . , R e h s e M . : F e a t u r e s e le c tio n ta s k in to o l w e a r m o n it o r in g - g e n e tic a lg o r it h m a p p r o a c h . R e s e a r c h R e p o r t s 1993/1994, L a b o r a t o r y f o r M a n u f a c t u r in g A u t o m a t io n , U n iv e r s it y o f C a lif o r n ia a t B e r k e le y , M a r c h 1994.
[ 8 ] S o k o ł o w s k i A . , R e h s e M . : F e a t u r e s e le c tio n ta s k in to o l w e a r m o n it o r in g - n e u ra l n e t w o r k a p p r o a c h . R e s e a r c h R e p o r t s 1993/1994, L a b o r a t o r y f o r M a n u f a c t u r in g A u t o m a t io n , U n iv e r s it y o f C a lif o r n ia a t B e r k e le y , M a r c h 1994.
[ 9 ] S o k o ł o w s k i A . , D o m f e ld D . A . : In t e llig e n t S y s t e m f o r C u tt in g P a r a m e t e r O p t im iz a t io n a n d D e s ig n o f C u tt in g P r o c e s s M o n it o r in g S y s te m s . F ir s t S . M . W u S y m p o s iu m o n M a n u f a c t u r in g S c ie n c e , S M E , C h ic a g o , M a y 1994.
[ 1 0 ] Z u r a d a J . , M . : In t r o d u c t io n to A r t if ic ia l N e u r a l S y s te m s . W e s t P u b lis h in g C o m p . , 1992.
R e c e n z e n t : p r o f. d r h ab . in ż . W o j c i e c h C h o le w a
W p ł y n ę ł o d o R e d a k c j i w g r u d n iu 199 4 r.
