Sieci neuronowe - laboratorium
Agnieszka Nowak - Brzezińska
Struktura Sieci Neuronowej
Schemat uczenia się sieci neuronowej
Jak wyznaczyć błąd predykcji ?
Zmiana wag
Przykład
Przykład sieci
Wejście 1 Wejście 2 Bias
Wejście 0
sumator
Funkcja aktywacji Wyjście
Waga 1 Waga 2
Waga 0
Sumator = wejście 0 * waga 0 + wejście 1 * waga 1 + wejście 2 * waga 2
0 0 1
sumator
Funkcja aktywacji 0,3 >0
0,5 -0,4
0,3
Sumator = 1*0,3 + 0 * 0,5 + 0 * -0,4 = 0,3
1
0 1 1
sumator
Funkcja aktywacji
-0,2 <0
0,5 -0,4
0,2
Sumator = 1*0,2 + 0 * 0,5 +1 * -0,4 = -0,2
0
Zbudujesz taki arkusz…
Algorytm
• 1. obliczamy sumę wejść z wagami
• 2. Wynik poddajemy funkcji aktywacji
• 3. Wyznaczamy wartość wyjścia
• 4. Jeśli wyjście różni się od „wzorca” obliczamy błąd predykcji i zmieniamy wagi
• 5. Powtarzamy kroki 1-4 tak długo dopóki wartość wyjścia wyznaczana przez sieć różni się od wzorca, którego sieć ma się nauczyć.
Warunek końca uczenia się sieci…
• Obliczamy sumę błędów w każdej epoce
• Jeśli błąd >0 to znaczy, że sieć się nie nauczyła…
ĆWICZENIA DO WYKONANIA
excel / Calc / Gnumeric
Wykonaj arkusz uczenia się sieci
neuronowej z 2 wejściami, 1 wyjściem:
1. Dla operacji logicznej AND 2. Dla operacji logicznej OR 3. Dla operacji logicznej NOR 4. Dla operacji logicznej NAND 5. Dla operacji logicznej XOR
Operacje logiczne
Odpowiedz na pytania:
• W ilu epokach nauczyła się każda z sieci ?
• Czy któraś z sieci nie nauczyła się ? Wiesz dlaczego ? Jeśli nie to … poszperaj w internecie, w książkach i oświeć NAS następnym razem !
