• Nie Znaleziono Wyników

7. Sieci samoorganizujące się

N/A
N/A
Protected

Academic year: 2021

Share "7. Sieci samoorganizujące się"

Copied!
2
0
0

Pełen tekst

(1)

7. Sieci samoorganizujące się

W kilku poprzednich ćwiczeniach mieliśmy okazję przekonać się, że sieć neuronowa jest w stanie nauczyć się pewnego odwzorowania z przestrzeni sygnałów wejścio- wych w przestrzeń sygnałów wyjściowych, korzystając z informacji o właściwych (oczekiwanych) odpowiedziach.

W tym ćwiczeniu przekonamy się, że sieć potrafi wykryć pewne związki bez dodatkowej pomocy z zewnątrz. W tym celu wykorzystywać będziemy mechanizm konkurencji. Otóż po obliczeniu sygnałów wyjściowych neuronów, wybierzemy z nich tego o najsilniejszej odpowiedzi. Jego i tylko jego wagi zmodyfikujemy następnie tak, aby po ponownej prezentacji tego wzorca, jego sygnał wyjściowy miał jeszcze więk- szą wartość w stosunku do pozostałych niż ma to miejsce obecnie. Wagi pozostałych neuronów pozostaną bez zmian. Mechanizm ten, znany pod nazwą WTA - Win- ner Take All, wymaga aby wagi i sygnały wejściowe były znormalizowane. Sieci tego typu są jednowarstwowe, często z liniową funkcją wyjściową; neurony nie mają biasu. Ilość neuronów wyznacza zdolności do wykrywania grup - maksymalna ilość wykrytych grup nie może przekroczyć ilości neuronów.

Sieci samouczące wykazują swoją przydatność wszędzie tam, gdzie nie możemy z góry udzielić informacji dotyczących przetwarzanych danych, lub właśnie tych informacji poszukujemy. W szczególności przydatne mogą być do:

• grupowania sygnałów wejściowych i łączenia ich w klasy,

• wykrywania zależności pomiędzy znalezionymi grupami/klasami,

• wykrywania własności statystycznych danych wejściowych przez przeznaczenie większej ilości neurnów do klasyfikowania częściej pojawiających się danych,

• poznanie topologii danych wejsciowych; neurony położone blisko siebie odpo- wiadają na podobne sygnały.

Ostatni punkt w omawianym ćwiczeniu trudny będzie do zauważenia, gdyż wy- maga on wprowadzenia mechanizmu sąsiedztwa pomiędzy neuronami, co zrobimy dopiero w następnym ćwiczeniu.

Algorytm

1. Ustalenie struktury sieci, to znaczy ilości neuronów, gdyż ona determinuje zdolności sieci do wykrywania różnej ilości grup.

2. Wczytanie zbioru wejść.

3. Wylosowanie wartości wag dla każdego neuronu.

1

(2)

4. Normalizacja wag i wczytanych sygnałów wejściowych według wzoru:

xi = xi

q PN

i=1x2i

gdzie N jest ilością wejść.

5. Powtarzaj założoną ilość kroków:

(a) Wybierz wzorzec p.

(b) Oblicz sygnały wyjściowe dla wzorca p.

(c) Znajdź neuron o największej wartości sygnału na wyjściu. Oznacz go jako winner.

(d) Zmień wagi winner’a tak aby były bliższe wzorcowi p według wzoru:

wi = wi+ η[xi− wi]

gdzie i = 1...N , N jest ilością wejść, η jest współczynnikiem uczenia.

Współczynnik uczenia należy zmniejszać. Na początku może buć większy, na przykład 0.2, a następnie powinien dążyć do zera.

6. Na zakończenie sprawdzamy do jakich grup należą rozważane punkty. Każde- mu punktowi przypisujemy numer neuronu, który zareagował najsilniej.

Zadanie

Zadanie będzie polegało na klasyfikowaniu punktów płaszczyzny. Będziemy to ro- bić podobnie jak w ćwiczeniu 2, tylko wykorzystując sieć samoorganizującą się.

Przyjmijmy kwadrat [−2, 2] × [−2, 2]. Wektor współrzędnych każdego punktu tego kwadratu będzie wejściem do sieci. Ponieważ rozważamy punkty płaszczyzny sieć bedzie miała dwa wejścia i jedną wartwę M neuronów z liniową funkcją aktywa- cji. Zakładając ustaloną liczbę kroków będziemy podawać losowo wejścia realizując przedstawiony algorytm. Każdemu neuronowi przypiszemy określoną barwę. Podany piksel - przeskalowany na odpowiadającą mu wartość z zakresu [−2, 2] × [−2, 2] - będziemy zaznaczać kolorem przypisanym neuronowi winner’owi. Jeżeli otrzymamy kilka neuronów, dla których wartość wyjściowa jest ta sama, największa wybieramy jeden z nich w sposób losowy i uważamy go jako winner’a.

2

Cytaty

Powiązane dokumenty

W niezróŜnicowanych (KN) jak i zróŜnicowanych (KR) kwasem retinowym i cAMP komórkach SN56, LPS w stęŜeniu 1.0 µg/mL po 24-godzinnej hodowli nie wpływał ani na

Płyn do codziennego mycia pomieszczeń i urządzeń sanitarnych o działaniu antybakteryjnym TENZI TopEfekt SANIT, 600ml. 60 100

Rola intuicji w procesie komunikacji Wychodząc z złożenia, że system lustrza- nych neuronów przyczynia się do intuicyjne- go rozumienia, co inni ludzie robią, jakie są

Celem pracy jest wykonanie analiz symulacyjnych bazujących na sieci Kohonena i skalowaniu wielowymiarowym, oraz możliwość zastosowania tych technik do identyfika- cji grup

Inny sposób redukcji neuronów zakłada taką modyfikację funkcji celu która eliminuje neurony ukryte o najmniejszej zmianie aktywności w procesie uczenia.. Przyjmuje się

Akces do partii jest też widziany przez niego jako warunek utrzymania się „w tej robocie”, którą wykonywał.. Różne formy „tłumaczenia się” z przynależności do

Pośród wszystkich jonów w mózgu, zmiany stężenia jonów potasu odgrywają najważniejszą role w generacji napadów epileptycznych 3. Napady ogniskowe rozpoczynają się od

……… zł brutto (słownie : ……….złotych). Strony ustalają, że wynagrodzenie określone w ust. Strony ustalają, że należność Wykonawcy za wykonane roboty, płatna będzie