2011-11-22 M.Czoków,J.Piersa Wst¦pdosiecineuronowych,wykªad7Uczenienienadzorowane.

(1)

Wst¦p do sieci neuronowych, wykªad 7 Uczenie nienadzorowane.

M. Czoków, J. Piersa

Faculty of Mathematics and Computer Science, Nicolaus Copernicus University, Toru«, Poland

2011-11-22

(2)

1 Uczenie nienadzorowane Uczenie bez nauczyciela Uczenie konkurencyjne

2 Mapy cech Kohonena Zagadnienie

Algorytm Kohonena

Rozszerzony algorytm Kohonena Zastosowania

3 Zagadnienia pokrewne Odwzorowanie Sammona

Algorytm Kohonena dla danych symbolicznych

M. Czoków, J. Piersa WSN 2011/2012 Wykªad 7

(3)

Algorytm Kohonena

(4)

Idea

Sztuczna sie¢ neuronowa uczona w sposób nadzorowany modykuje swoje dziaªanie za pomoc¡ informacji z zewn¡trz. Takiej korekty nie dostaje sie¢ uczona w sposób nienadzorowany (bez nauczyciela), która sama wypracowuje funkcje przetwarzania danych np.

uporz¡dkowywania, wykrywania regularno±ci w danych, ich klasykacji, kodowania itd. Metody uczenia nienadzorowanego s¡

wa»nym narz¦dziem przetwarzania danych w sytuacjach, gdy nie mo»na zorganizowa¢ nadzorowanego procesu uczenia.

(5)

Zastosowania

Przykªadowe zadania, które mog¡ by¢ realizowane przez sieci samoorganizuj¡ce si¦:

wykrywanie podobie«stwa ocena stopnia podobie«stwa pomi¦dzy wzorcami (wg wybranego kryterium),

analiza skªadowych gªównych jest to metoda redukcji

wymiarowo±ci danych, w której wektory wzorców wej±ciowych s¡

rzutowane na najistotniejsze kierunki ich zmian w przestrzeni o zredukowanej liczbie wymiarów,

tworzenie map cech porz¡dkowanie danych wedªug wybranego kryterium podobie«stwa,

(6)

Zastosowania

klasykacja grupowanie danych, w trakcie którego kryterium jest podobie«stwo wybranych cech,

okre±lanie prototypu wskazanie typowego reprezentanta grupy, tzw. prototypu,

kodowanie wyznaczanie zbioru prototypów o liczno±ci znacznie mniejszej ni» caªy zbiór danych wej±ciowych, zbiór prototypów w mo»liwie jak najlepszy sposób reprezentuje dane wej±ciowe (uzyskuje si¦ efekt kompresji stratnej danych).

(7)

Idea

Jednym z podstawowych sposobów uczenia nienadzorowanego jest tzw. uczenie konkurencyjne (ang. competitive learning). W tej metodzie uczenia sieci, poszczególne neurony konkuruj¡ ze sob¡

o prawo do reprezentacji danych wej±ciowych.

(8)

Cechy charakterystyczne

1 zwykle sieci skªadaj¡ce si¦

z jednej warstwy wej±ciowej i jednej warstwy wyj±ciowej,

2 ka»dy neuron jest poª¡czony ze wszystkim skªadowymi K-wymiarowego wektora wej±ciowego x,

3 neurony liniowe,

(9)

Winner Takes All

W konkurencyjnej metodzie uczenia sieci, tylko jeden element

wyj±ciowy mo»e znajdowa¢ si¦ w stanie aktywnym. Nazywany jest on zwyci¦zc¡, a schemat takiej reguªy aktywacji neuronów okre±lany jest mianem zwyci¦zca bierze wszystko (ang. Winner Takes All - WTA).

Neuron, który wygraª, jeszcze bardziej jest upodobniany do przykªadu, którym uczymy.

(10)

Uczenie konkurencyjne

Ka»da komórka w warstwie wyj±ciowej jest poª¡czona ze wszystkimi elementami x_k wzorca wej±ciowego x za pomoc¡ poª¡cze« wagowych, neuron m-ty jest poª¡czony z warstw¡ wej±ciow¡ za pomoc¡ wektora wag w_m = [w_m1,w_m2, ...,w_mK].

(11)

Uczenie konkurencyjne

W wyniku zastosowania takiej struktury poª¡cze« m-ty neuron warstwy wyj±ciowej sieci otrzymuje sygnaª pobudzenia:

y_m=

K

X

k=1

w_mkx_k =w_m^Tx, m = 1, 2, ..., M,

gdzie

K dªugo±¢ wzorca, M ilo±¢ neuronów.

1 M

1 K

(12)

Komórka zwyci¦ska

Komórka zwyci¦ska warstwy wyj±ciowej sieci, oznaczona indeksem m^∗, jest to neuron otrzymuj¡cy najsilniejszy sygnaª pobudzenia y_m. Zatem dla komórki zwyci¦skiej speªniona jest nierówno±¢:

w_m^T^∗·x > w_m^T·x, m = 1, 2, ..., M.

A co zyskuje zwyci¦zca?

W procesie samoorganizacji jego wagi s¡ modykowane.

wm*

x

w3

w2

w1

wm*Tx>wiTx

(13)

Algorytm uczenia

Zakªadamy, »e przykªady ucz¡ce s¡ znormalizowane.

Do uczenia sieci u»ywamy nast¦puj¡cego algorytmu:

1 generujemy losowo znormalizowane wektory wag w_m dla m = 1, 2, ..., M,

2 losujemy wektor x oraz liczymy dla niego aktywacj¦ ym=w_m^Tx, dla wszystkich neuronów m = 1, 2, ..., M, nast¦pnie szukamy neuronu zwyci¦zcy w_m^∗,

3 modykujemy wektor wag zwyci¦zcy,

wm^∗ =wm^∗+ ηx (wm^∗ =wm^∗+ η(x − wm^∗)), a nast¦pnie go normalizujemy,

4 zatrzymujemy algorytm po odpowiednio du»ej liczbie iteracji.

(14)

Modykacja wektora wag

w_m^∗ =w_m^∗+ ηx

x

x w_new w_old

wm^∗ =wm^∗+ η(x − wm^∗)

x

(1- )w^old wx_new

w_old

(15)

Normalizacja wektorów

U»ywaj¡c normalizacji wektorów, uniemo»liwiamy jednemu

wektorowi stanie si¦ tak du»ym, »e mógªby wygrywa¢

wspóªzawodnictwo zbyt cz¦sto.

Konsekwencj¡ byªoby to, »e inne neurony nigdy by nie zwyci¦»yªy wspóªzawodnictwa i ich wagi nie byªyby modykowane. Takie jednostki s¡ nazywane martwymi.

(16)

Normalizacja wektorów

w₂

w₁

(17)

Normalizacja wektorów

Normalizacja gwarantuje, »e jednostk¡, która jest zwyci¦zc¡ dla wektora wej±ciowego, jest ta jednostka, która le»y najbli»ej wektora wej±ciowego (cosinus k¡ta mi¦dzy wektorem wej±ciowym a zwyci¦zc¡

jest najwi¦kszy).

Modykacja wag powoduje, »e wektor wag zostaje przyci¡gni¦ty w kierunku wektora wej±ciowego. To znaczy, »e neuron zwyci¦ski w przyszªo±ci jeszcze silniej b¦dzie reagowaª na ten wektor wej±ciowy (reguªa Hebba).

(18)

Normalizacja wektorów

w₂ w₁

(19)

Samoorganizacja i SPL

W podanym wy»ej algorytmie przykªad wej±ciowy nie mo»e by¢ z góry klasykowany jako pozytywny albo negatywny wektor tak, jak dzieje si¦ to w algorytmach uczenia dla perceptronu. W powy»szym algorytmie w wyniku nauki wektor wag m-tej jednostki zostaje przyci¡gni¦ty w kierunku klastra jednostek wej±ciowych, dla których jego aktywacja jest najwi¦ksza w±ród wszystkich neuronów.

(20)

Samoorganizacja i SPL

w₂ w1

w₃

w

(21)

Stopie« podobie«stwa

Iloczyn skalarny wskazuje nam stopie« podobie«stwa pomi¦dzy wektorem wej±ciowym a wektorami wag poszczególnych neuronów.

W procesie wyboru zwyci¦zcy mo»emy u»ywa¢ innych metod do mierzenia podobie«stwa, w szczególno±ci mo»emy u»ywa¢ funkcji odlegªo±ci, wtedy zwyci¦»a ten neuron, którego wektor wag poªo»ony jest najbli»ej wzgl¦dem danej metryki od wektora wej±ciowego.

Najcz¦±ciej u»ywane metryki to:

euklidesowa:

d(x, w_m) = v u u t

K

X

k=1

(x_k−w_mk)².

(22)

Normy

odlegªo±¢ wzgl¦dem normy L1 (odlegªo±¢ Manhattan):

d(x, w_m) = XK k=1

|x_k −w_mk|,

odlegªo±¢ wzgl¦dem normy L∞:

d(x, wm) =max_k|x_k −w_mk|,

(23)

Stopie« podobie«stwa

iloczyn skalarny:

d(x, w_m) = hx, w_mi,

(24)

Odlegªo±¢ Minkowskiego

Odlegªo±¢ Minkowskiego jest to uogólniona funkcja odlegªo±ci mi¦dzy punktami przestrzeni euklidesowej. Nazywana jest równie» odlegªo±ci¡

L_m. Wzór na t¦ funkcj¦ w zale»no±ci od m ma posta¢:

d(x, y) = (X^K

k=1

(x_k−y_k)^m)^m¹.

(25)

Odlegªo±¢ Minkowskiego

-1 -0.5 0 0.5

1 m=0.5

m=1.5m=1 m=2m=4 m=10

(26)

Strefy wpªywów

Przy u»yciu metryki euklidesowej przestrze« danych wej±ciowych jest dzielona na strefy dominacji danego neuronu. Zastosowanie innej odlego±ci lub iloczynu skalarnego przy samoorganizacji, ksztaªtuje podziaª stref wpªywów inaczej. Szczególnie nale»y pami¦ta¢, »e zastosowanie iloczynu skalarnego bez normalizacji wektorów, mo»e prowadzi¢ do niespójnego podziaªu przestrzeni - tak, »e w jednym obszarze wyst¦puje kilka neuronów, a w innym nie ma »adnego.

(27)

Strefy wpªywów norma euklidesowa

-4 -3 -2 -1 0 1 2 3 4

-6 -4 -2 0 2 4 6

(28)

Strefy wpªywów iloczyn skalarny

-4 -3 -2 -1 0 1 2 3 4

-6 -4 -2 0 2 4 6

(29)

Kwantowanie wektorowe danych

Celem uczenia sieci samoorganizuj¡cych si¦ przez konkurencj¦

neuronów jest takie uporz¡dkowanie neuronów (dobór warto±ci ich wag), które zminimalizuje warto±¢ oczekiwan¡ bª¦du popeªnionego przy aproksymacji wektora wej±ciowego x warto±ciami wag neuronu zwyci¦»aj¡cego w konkurencji. Przy N wektorach wej±ciowych i zastosowaniu normy euklidesowej bª¡d ten mo»e by¢ wyra»ony wzorem:

E = 1 N

N

X

n=1

kx_n−W_w(n)k,

w którym W_w(n)jest wag¡ neuronu zwyci¦»aj¡cego przy prezentacji wektora x_n.

(30)

Kwantowanie wektorowe danych

Zadanie to jest równie» zwane kwantowaniem wektorowym. Numery neuronów zwyci¦»aj¡cych przy kolejnych prezentacjach wektorów tworz¡ tak zwan¡ ksi¡»k¦ kodow¡. Przestrze« danych podzielona jest, w efekcie stosowania takiej reguªy, tzw. mozaik¡ Voronoi

wyznaczaj¡c¡ obszary klas.

(31)

Mozaika Veronoi

-4 -3 -2 -1 0 1 2 3 4

-6 -4 -2 0 2 4 6

(32)

Algorytm Kohonena

(33)

Idea

Kohonen zaproponowaª reguª¦ uczenia konkurencyjnego, w której, w odró»nieniu od reguªy standardowej, modykacji wag dokonuje si¦

nie tylko dla neuronu zwyci¦skiego, lecz równie» dla pewnej liczby neuronów z jego s¡siedztwa.

S¡siedztwem tym s¡ inne neurony le»¡ce blisko danej jednostki w strukturze grafowej neuronów.

(34)

Winner Takes Most

Dlaczego WTA nie wystarcza? Taka reguªa adaptacji powoduje, »e algorytm sªabo zbiega. Reguªa, w której modykuje si¦ nie tylko wagi zwyci¦zcy, ale równie» jego s¡siadów, jest zwana reguª¡ WTM (Winer Takes Most). W praktyce reguªa WTA zostaªa zast¡piona reguª¡

WTM.

(35)

Reprezentacja sieci

Dana jest sie¢ neuronowa modelowana przy pomocy grafu nieskierowanego H = (V, E), gdzie V jest zbiorem wierzchoªków (neuronów), za± E zbiorem kraw¦dzi. Dla ka»dego wierzchoªka v ∈ V okre±lamy tak zwane s¡siedztwo s(v) = {u ∈ V|(v, u) ∈ E}. Zaªó»my ponadto, »e mamy pewn¡ ilo±¢ obiektów (przykªadów) opisywanych punktami przestrzeni R^d.

(36)

Topologie sieci

(37)

Cele

Stawiamy sobie nast¦puj¡ce cele:

ka»demu neuronowi chcemy przypisa¢ d wag (reprezentuj¡cych wspóªrz¦dne pewnego punktu w R^d),

powy»sze przypisanie ma odpowiada¢ rozkªadowi przestrzennemu przykªadów (tzn. je»eli w danej okolicy jest du»o przykªadów, powinno do niej zosta¢ przypisanych wiele neuronów),

przypisanie ma odpowiada¢ strukturze topologicznej grafu, tzn.

s¡siaduj¡ce ze sob¡ neurony powinny traa¢ w niedaleko od siebie poªo»one obszary R^d.

(38)

Cele

-4 -3 -2 -1 0 1 2 3 4

-10 -5

0 5

10 -10

-5 0 5 10 15

20 -4

-3 -2 -1 0 1 2 3 4

-10 -5

0 5

10 -10

-5 0 5 10 15 20

(39)

Algorytm - zaªo»enia wst¦pne

Niech dany b¦dzie zbiór przykªadów P = {P₁, ...P_N} ∈ R^d.Ka»demu neuronowi v ∈ V przypisujemy wektor wag π(v) ∈ R^d.

(40)

Algorytm

1 wybieramy pewn¡ liczb¦ T oznaczaj¡c¡ liczb¦ powtórze«

algorytmu,

2 losujemy wagi przy wszystkich neuronach,

3 dla t = 1..T wykonujemy:

1 losujemy przykªad P,

2 znajdujemy jednostk¦ v ∈ V, której zestaw wag π(v) le»y najbli»ej P,

3 dla neuronu zwyci¦zcy i wszystkich neuronów z jego s¡siedztwa s(v) wykonujemy:

π(w) = π(w) + α(t)(P − π(w)),

(41)

Uwagi

α(t) jest funkcj¡ o warto±ciach dodatnich, malej¡c¡ w kolejnych iteracjach algorytmu, na przykªad α(t) = 1 − ^t−1_T ,

(42)

Uwagi

Do algorytmu mo»na wprowadza¢ modykacje, które w znacznym stopniu mog¡ poprawi¢ jego dziaªanie. Bardzo cz¦sto inaczej deniuje si¦ s¡siedztwo s(v) i wprowadza drobne zmiany w sposobie

uaktualniania wag.

(43)

Uwagi

W rozszerzonej wersji algorytmu Kohonena s¡siedztwem dla neuronu zwyci¦zcy v jest zbiór:

s(v) = {u ∈ W |ρ(u, v) ≤ λ},

gdzie ρ(u, v) jest to dªugo±¢ najkrótszej ±cie»ki pomi¦dzy wierzchoªkami u i v. Natomiast λ jest to tak zwany promie«

s¡siedztwa, dodatni parametr algorytmu, pocz¡tkowo jego warto±¢ powinna by¢ taka, »e s¡siedztwo mo»e obejmowa¢ wi¦cej ni» poªow¦ z ogólnej liczby neuronów. Parametr λ nale»y

zmniejsza¢ w czasie uczenia tak, by w ko«cowej fazie uczenia s¡siedztwo byªo puste i modykacji podlegaª tylko neuron zwyci¦zcy.

(44)

Rozszerzony algorytm Kohonena

1 wybieramy pewn¡ liczb¦ T oznaczaj¡c¡ liczb¦ powtórze«

algorytmu,

2 losujemy wagi przy wszystkich neuronach,

3 dla t = 1..T wykonujemy:

1 losujemy przykªad P,

2 znajdujemy jednostk¦ v ∈ V, której zestaw wag π(v) le»y najbli»ej P,

3 dla neuronu zwyci¦zcy i wszystkich neuronów z jego s¡siedztwa s(v) wykonujemy

π(w) = π(w) + α(t)G(w, v)(P − π(w)),

(45)

Uwagi

G(w, v) jest to tak zwana funkcja s¡siedztwa, ma ona warto±ci dodatnie, jej przykªadowe postacie to:

kwadratowa funkcja s¡siedztwa, gdzie:

G(w, v) =

1 ρ(w, v) ≤ λ 0 w p. p.

gaussowska funkcja s¡siedztwa, gdzie:

G(w, v) = exp(−ρ²(w, v) 2λ² ).

(46)

Kwadratowa funkcja s¡siedztwa

-6 -4 -2 0 2 4 6

-4 -6 0 -2 4 2 06 0.2 0.4 0.6 0.8 1

(47)

Gaussowska funkcja s¡siedztwa dla rosn¡cej λ

-6 -4

-2

0 2

4 6

-6 -4 -2 0 2 4 06 0.5 1 1.5 2

kliknij

(48)

Funkcja s¡siedztwa - mexican hat

-6 -4 -2 0 2 4 6

-4 -6 0 -2 4 2 -16 -0.5 0 0.5 1

(49)

Funkcja s¡siedztwa - mexican hat

Wzór na t¦ funkcj¦ ma posta¢:

MH(v, w) = 2exp(−ρ²(v, w)

2λ²₁ ) −exp(−ρ²(v, w) 2λ²₂ ), gdzie λ₁< λ₂.

(50)

Uwagi

Zastosowanie w mapach Kohonena s¡siedztwa gaussowskiego i zmiennego wspóªczynnika adaptacji powinno poprawi¢ rezultaty uczenia i organizacj¦ sieci.

(51)

Przykªad

kliknij

Siatka prostok¡tna rozprowadzona przez algorytm Kohonena na trzech

±cianach (o wspólnym wierzchoªku) sze±cianu.

(52)

Przykªad

kliknij

Siatka prostok¡tna rozprowadzona przez rozszerzony algorytm Kohonena na trzech ±cianach (o wspólnym wierzchoªku) sze±cianu. W algorytmie

zastosowano gaussowsk¡ funkcj¦ s¡siedztwa.

(53)

Przykªad

kliknij

Siatka prostok¡tna rozprowadzona przez algorytm Kohonena na powierzchni kuli.

(54)

Przykªad

kliknij

Siatka prostok¡tna rozprowadzona przez rozszerzony algorytm Kohonena na powierzchni kuli. W algorytmie zastosowano gaussowsk¡ funkcj¦ s¡siedztwa.

(55)

Uwagi

Zªy dobór parametrów mo»e mie¢ wpªyw na to, »e sie¢ nie osi¡gnie po»¡danej zbie»no±ci. Na przykªad je±li stopie« adaptacji α(t) b¦dzie miaª za maªe warto±ci, mo»e powsta¢ w¦zeª, który si¦ nie rozwi¡»e.

(56)

Zastosowania

Wizualizacja danych za pomoc¡ danej struktury przestrzennej (zadajej przez graf) w innym wymiarze (przykªady s¡ wtedy rozªo»one

jednostajnie na obszarze reprezentacji)

przej±cie do wy»szego wymiaru (np. krzywa wypeªniaj¡ca przestrze«),

przej±cie do ni»szego wymiaru (wizualizacja skomplikowanych struktur z zachowaniem topologii, ale nie odlegªo±ci).

(57)

Przej±cie do wy»szego wymiaru

Rysunek za Stanisªaw Ossowski, Sieci neuronowe w uj¦ciu algorytmicznym.

(58)

Przej±cie do ni»szego wymiaru

(59)

Algorytm Kohonena

(60)

Dane

Odwzorowanie Sammona pozwala na graczne przedstawienie danych wielowymiarowych w przestrzeni o mniejszej liczbie wymiarów.

Zaªo»enia:

danych jest N wektorów K-wymiarowych xn (n = 1, 2, ..., N) i odpowiednio do nich deniuje si¦ N wektorów w przestrzeni L-wymiarowej (L = 2, 3) oznaczonych przez y_n,

odlegªo±ci pomi¦dzy poszczególnymi wektorami w przestrzeni K-wymiarowej oznaczono przez d_nm^∗ =d(n, m),

odlegªo±ci pomi¦dzy poszczególnymi wektorami w przestrzeni L-wymiarowej oznaczono przez dnm=d(n, m),

do okre±lenia odlegªo±ci mi¦dzy wektorami mo»na zastosowa¢

dowoln¡ metryk¦, w szczególno±ci euklidesow¡.

(61)

Idea

Zadanie odwzorowania nieliniowego Sammona polega na takim doborze wektorów y, aby zminimalizowa¢ funkcj¦ bª¦du E zdeniowan¡ w postaci:

E = X

1≤m<n≤N

(d_nm^∗ −d_nm)² d_nm^∗ .

Do optymalizacji tej funkcji u»ywa si¦ algorytmów gradientowych.

(62)

Zaªo»enia

Dane: Sie¢ H = (V, E), zbiór danych symbolicznych x wraz z funkcj¡

odlegªo±ci d. Powinno zachodzi¢:

d(x, x) = 0,

d(x, y) = d(y, x) ≥ 0.

(63)

Mediana uogólniona

Mediana uogólniona zbioru {a₁, ...,a_n} element a_i, który minimalizuje P_jd²(a_i,a_j).

(64)

Algorytm Kohonena dla wej±¢ symbolicznych

1 przypisz w¦zªom losowe prototypy,

2 powtarzaj wiele razy:

ka»demu wierzchoªkowi w przypisz list¦ takich przykªadów, »e prototyp p(w) jest do nich najbli»szy,

ka»demu wierzchoªkowi w przypisz nowy prototyp median¦

uogólnion¡ z listy klasykacyjnej w i list s¡siadów w, wyczy±¢ listy klasykacyjne,

3 zwró¢ sie¢.

2011-11-22 M.Czoków,J.Piersa Wst¦pdosiecineuronowych,wykªad7Uczenienienadzorowane.

Wst¦p do sieci neuronowych, wykªad 7 Uczenie nienadzorowane.

Idea

Zastosowania

Zastosowania

Idea

Cechy charakterystyczne

Winner Takes All

Uczenie konkurencyjne

Uczenie konkurencyjne

1 M

1 K

Komórka zwyci¦ska

Algorytm uczenia

Modykacja wektora wag

Normalizacja wektorów

Normalizacja wektorów

Normalizacja wektorów

Normalizacja wektorów

Samoorganizacja i SPL

Samoorganizacja i SPL

Stopie« podobie«stwa

Normy

Stopie« podobie«stwa

Odlegªo±¢ Minkowskiego

Odlegªo±¢ Minkowskiego

Strefy wpªywów

Strefy wpªywów  norma euklidesowa

Strefy wpªywów  iloczyn skalarny

Kwantowanie wektorowe danych

Kwantowanie wektorowe danych

Mozaika Veronoi

Idea

Winner Takes Most

Reprezentacja sieci

Topologie sieci

Cele

Cele

Algorytm - zaªo»enia wst¦pne

Algorytm

Uwagi

Uwagi

Uwagi

Rozszerzony algorytm Kohonena

Uwagi

Kwadratowa funkcja s¡siedztwa

Gaussowska funkcja s¡siedztwa dla rosn¡cej λ

Funkcja s¡siedztwa - mexican hat

Funkcja s¡siedztwa - mexican hat

Uwagi

Przykªad

Przykªad

Przykªad

Przykªad

Uwagi

Zastosowania

Przej±cie do wy»szego wymiaru

Przej±cie do ni»szego wymiaru

Dane

Idea

Zaªo»enia

Mediana uogólniona

Algorytm Kohonena dla wej±¢ symbolicznych

Modykacja wektora wag

Stopie« podobie«stwa

Stopie« podobie«stwa

Strefy wpªywów norma euklidesowa

Strefy wpªywów iloczyn skalarny