• Nie Znaleziono Wyników

Sieci Neuronowe, wsteczna propagacja błędów

N/A
N/A
Protected

Academic year: 2021

Share "Sieci Neuronowe, wsteczna propagacja błędów"

Copied!
45
0
0

Pełen tekst

(1)

Sieci Neuronowe,

wsteczna propagacja błędów

(2)

Neuron sigmoidalny, uczenie

Uczenie wag za pomocą

zadanych wartości na wejściu i wyjściu

(3)

Neuron sigmoidalny, uczenie

Uczenie wag za pomocą

zadanych wartości na wejściu i wyjściu

Tylko wagi (w) podlegają uczeniu

(4)

Sieć wielowarstwowa,

wielowarstwowa, działanie

(5)

Sieć wielowarstwowa,

wielowarstwowa, uczenie

Δ wjakies=μ wyjscieNr (dwyjscieNr− ywyjscieNr) ∂ ywyjscieNr

∂ w jakies μ= parametr uczenia;μ∈(0 ;1)

(6)

uczenie gradientowe

- Zwykle działa

- Ciężko wyliczyć pochodne dla nietrywialnych sieci

Ω2

suma błędów2=wyjscieNr (dwyjscieNr− ywyjscieNr)2

gradient błędu2=

[

∂ w∂ Ωjakies 1 , ∂ w∂Ωjakies 2 ,...

]

(7)

uczenie gradientowe

- Czy również tym razem pochodna wskazuje na odpowiedni kierunek?

- Czy pochodna prawidłowo określa nie tylko kierunek, a

„moc“ korekty?

- Czy zmiana jednego parametru wpływa na pochodną drugiego?

Ω2

(8)

Uczenie sieci, alg. makro

- Stwórz sieć, wylosuj wagi początkowe - Przetwórz sygnały uczące i testowe

(normalizacja, „rozbicie atrybutów symbolicznych“) - Ucz przez zadaną liczbę epok

- Ucz sieć każdą próbką uczącą,

próbki uczące są wybierane w kolejności losowej

Epoka – proces pojedynczego uczenia sieci za pomocą całego zbioru próbek uczących

(9)

Wstępne przetwarzanie sygnałów

- Wartości numeryczne wejściowe znormalizuj

na przykład → [0; 1] albo wymuś stałe odchylenie std.

- Wartości numeryczne wyjściowe znormalizuj do zakresu wyjściowego neuronów

- Atrybuty symboliczne rozbij (prawie zawsze)

np. Atrybut symboliczny „jedna z m klas“

na m pseduoatrybuty numeryczne

np. Atrybut symboliczny „jedna z 2 klas“ na binarny atr.

(10)

Wsteczna propagacja błędów, krok 1.

Wylicz wartości wyjściowe w kolejnych warstwach, od warstwy pierwszej po ostatnią

(11)

Wsteczna propagacja błędów, krok 2.

Wylicz błędy (d-y) i poprawki (Δw,δ) w kolejnych warstwach

od ostatniej warstwy do pierwszej (stąd nazwa propagacja wsteczna)

(12)

Wsteczna propagacja błędów, krok 2.

Wylicz błędy (d-y) i poprawki (Δw,δ) w kolejnych warstwach

od ostatniej warstwy do pierwszej (stąd nazwa propagacja wsteczna)

c=f(a;b...)

m=f(k; l...)

δ m

k

l

...

c ...

a

b

Najpierw wylicz korekty na końcówkach sieci

d=..

m

δtegoWyjścia=μ⋅(dtegoWyjścia−wyjścietegoWyjścia)

(13)

Wsteczna propagacja błędów, krok 2.

Wylicz błędy (d-y) i poprawki (Δw,δ) w kolejnych warstwach

od ostatniej warstwy do pierwszej (stąd nazwa propagacja wsteczna)

c=f(a;b...)

m=f(k; l...)

δ m

k

l

...

c ...

a

b

Później wszędzie propaguj Korekty wstecz

δk=δm⋅( ∂m

∂ k ) ...

m

δ k

(14)

Wsteczna propagacja błędów, krok 2.

Wylicz błędy (d-y) i poprawki (Δw,δ) w kolejnych warstwach

od ostatniej warstwy do pierwszej (stąd nazwa propagacja wsteczna)

c=f(a;b...) c a

b

Gdyby do jednego wyjścia propagowane było wiele poprawek, to trzeba je zsumować

δc=δc 1+δc 2

δ c 1 δ c 2

(15)

Wsteczna propagacja błędów, krok 2.

Wylicz błędy (d-y) i poprawki (Δw,δ) w kolejnych warstwach

od ostatniej warstwy do pierwszej (stąd nazwa propagacja wsteczna)

c=f(a;b...) c a

b

Gdyby do jednego wyjścia propagowane było wiele poprawek, to trzeba je zsumować, a reszta działa normalnie

δc=δc 1+δc 2

δ c 1 δ c 2

δa=δ c⋅( ∂c

∂ a), δb=δc⋅( ∂c

∂ b) ...

(16)

Wsteczna propagacja błędów, krok 3.

Wprowadź poprawki (Δw) w każdym z parametrów (każdej wadze)

(17)

Sieć neuronowa 2-2-1 uni-pol, sig.

problem XOR

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x

x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

parametr β >0 domyślnie β =1

(18)

Sieć neuronowa 2-2-1 uni-pol, sig.

problem XOR weLA , I 1

Σ

wLA , NB, I 1

w LA, NB

, I 2

wLA , NB , I 0

1

x

sLA , NB wyLA , NB ,

weLA+1, IB

weLA , I 2

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

parametr β >0 domyślnie β =1

x

x

(19)

Sieć neuronowa 2-2-1 uni-pol, sig.

problem XOR

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x

x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

parametr β >0 domyślnie β =1

(20)

przykład XOR,

start, losowanie wag

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

w=

[

0,60,40,5

]

w=

[

−0,80,70,9

]

(21)

przykład XOR,

wyliczanie wyjścia, próbka [1 0 1]

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

w=

[

0,60,40,5

]

w=

[

−0,80,70,9

]

we=[10]

d=1

(22)

przykład XOR,

wyliczanie wyjścia, próbka [1 0 1]

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

,s=0,4

w=

[

0,60,40,5

]

w=

[

−0,80,70,9

]

we=[10]

(23)

przykład XOR,

wyliczanie wyjścia, próbka [1 0 1]

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

,s=0,4

w=

[

0,60,40,5

]

, s=1

w=

[

−0,80,70,9

]

we=[10]

(24)

przykład XOR,

wyliczanie wyjścia, próbka [1 0 1]

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1

w=

[

−0,80,70,9

]

we=[10]

(25)

przykład XOR,

wyliczanie wyjścia, próbka [1 0 1]

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

we=[10]

(26)

przykład XOR,

wyliczanie wyjścia, próbka [1 0 1]

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734

we=[10]

(27)

przykład XOR,

wyliczenie wyjścia, próbka [1 0 1]

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,67573 we=[10]

(28)

przykład XOR, próbka [1 0 1]

wyliczenie błędu i poprawki

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

β =1 μ=0,1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,676 we=[10]

d=1 wartość zadana =d1=1 błąd=(d1−wy1)=0,324

korekta =μ∗(d1−wy1)=δwy , L2, N 1=0,032

(29)

przykład XOR, próbka [1 0 1]

wyliczenie błędu i poprawki

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1,... weLA , I 1∗wLA , NB , I 1

wyLA , NB= 1

1+eβ⋅sLA , NB

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,676 we=[10]

wartość zadana =d1=1 błąd=(d1−wy1)=0,324

korekta =μ∗(d1−wy1)=δwy , L2, N 1=0,032 d=1

β =1 μ=0,1

(30)

przykład XOR, próbka [1 0 1]

wsteczna propagacja korekty

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1 ,... weLA , I 1∗wLA , NB , I 1 wyLA , NB=1/(1+e−β⋅sLA , NB)

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,676 we=[10]

δwy , L 2, N 1=0,032 δs , L 2 , N 1=0,007

δ s , LA , NB=δ wy , LA , NB∂ wyLA , NB

∂ sLA , LB

∂ wyLA , NB

∂ sLA , LB

=β⋅wyLA , NB⋅(1−wyLA , NB)

(31)

przykład XOR, próbka [1 0 1]

wsteczna propagacja korekty

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1 ,... weLA , I 1∗wLA , NB , I 1 wyLA , NB=1/(1+e−β⋅sLA , NB)

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,676 we=[10]

δs , L2, N 1=0,00711

δw , L 2, N 1, I 0=0,00711⋅1=0,00711

δw, L 2, N 1 , I 1=0,00711⋅0,599=0,00425

δw , L 2, N 1 , I 2=0,00711⋅0,731=0,00519

δw , LA , NB , IC=δ s , LA , NB ∂ sLA , NB

∂ wLA , NB , IC

∂ sLA , NB

∂ wLA , NB , IC

=

{

weLA , IC1 jeśli C jeśli C=0>0

(32)

przykład XOR, próbka [1 0 1]

wsteczna propagacja korekty

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1 ,... weLA , I 1∗wLA , NB , I 1 wyLA , NB=1/(1+e−β⋅sLA , NB)

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,676 we=[10]

δs , L2, N 1=0,00711

δwy , L1 , N 1=δwe , L2, I 1=0,00711⋅0,7=0,00497

δwy , L 1, N 2=δwe , L2 , I 2=0,00711⋅(−0,8)=−0,00568

δ we , LA , NB , IC=δ s , LA , NB ∂ sLA , NB

∂ weLA , NB , IC

weLA , IC=weLA , N∗, IC; ∂ sLA , NB

∂ weLA , NB , IC

=wLA , NB , IC

(33)

przykład XOR, próbka [1 0 1]

wsteczna propagacja korekty

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1 ,... weLA , I 1∗wLA , NB , I 1 wyLA , NB=1/(1+e−β⋅sLA , NB)

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,676 we=[10]

δs , L2, N 1=0,00711

δwy , L1 , N 1=δwe , L2, I 1=0,00711⋅0,7=0,00497

δwy , L 1, N 2=δwe , L2 , I 2=0,00711⋅(−0,8)=−0,00568

δ wy , LA−1, Na=

b=1...

δwe , LA , Nb, I a

δ wy , L1 , N 1=δwe , L2 , I 1

δwy , L 1, N 2=δwe , L2 , I 2

(34)

przykład XOR, próbka [1 0 1]

wsteczna propagacja korekty

weL1, I 1, we1

Σ

Σ

Σ

wL1, N 1 , I 1

wL

1,N 1,I2

w

L1,N 2,I1

wL1, N 2 , I 2

wL1, N 1 , I 0

wL1, N 1 , I 0

1

1 x

x

x x

x

x

sL1 , N 1

sL1 , N 2

wyL1 , N 1, weL2, I 1

wyL1 , N 1, weL2, I 2

x

x wL2, N 1 , I 1

wL2, N 1 , I 2

wL 2, N 1 , I 0

1 x

wyL 2, N 1, wy1

weL 1, I 2, we2

sL2, N 1

SLA , NB=wLA , NB , I 0+i=1 ,... weLA , I 1∗wLA , NB , I 1 wyLA , NB=1/(1+e−β⋅sLA , NB)

β =1

w=

[

0,30,10,2

]

,s=0,4 , wy=0,599

w=

[

0,60,40,5

]

, s=1, wy=0,731

w=

[

−0,80,70,9

]

, s=0,734 , wy=0,676 we=[10]

δwy , L 1, N 1=0,00497 δs , L1, N 1=0.00120

δ s , LA , NB=δ wy , LA , NB∂ wyLA , NB

∂ sLA , LB

∂ wyLA , NB

∂ sLA , LB

=β⋅wyLA , NB⋅(1−wyLA , NB)

Cytaty

Powiązane dokumenty

Pole z uwzględnieniem poprawki danej wzorem (9) przybiera wtedy tylko nieznacznie mniejsze wartości względem przypadku, gdy ziemia jest potraktowana, jako

Prądy te (tzw. prądy lokalne) rozprzestrzeniają depolaryzację do sąsiednich rejonów aksonu gdzie, jeśli próg jest osiągnięty, generowany jest następny potencjał.. We

Potencjał ten jest pobudzający (excitatory or EPSP) jeśli zwiększa prawdopodobieństwo generacji potencjału czynnościowego oraz jest hamujący.. inhibitory or IPSPs) jeśli

Odbiornik porusza się z prędkością 20km/h, częstotliwość sygnału wynosi 800MHz.. Moc transmisji w modelu wolnej przestrzeni wynosi 40W, odległość pomiędzy nadajnikiem a

Żeby w informatyce wykorzystać potencjał funkcjonalny neuronu oraz całej ich sieci (grafu), zwanych często sieciami neuronowymi, trzeba opracować uproszczony model działania

d)1/3 w każdym z 3 przypadków brakuje nawiasu po opuszczeniu drugiej wartości bezwzględnej; jej wynik musisz zapisać w nawiasie bo przed wartością bezwzględną stoi minus.. Tego

• W przykładach rozważana jest parabola — funkcja posiada dokładnie jedno minimum lokalne (i bardzo ładne wzory do jego analitycznego obliczenia — jej celem jest

• W przykładach rozważana jest parabola — funkcja posiada dokładnie jedno minimum lokalne (i bardzo ładne wzory do jego analitycznego obliczenia — jej celem jest