1-4 Kamienie milowe rozwoju sieci neuronowych

1. Co to są sieci neuronowe

1-1 Bio-modelowanie

1-2 Badania inspirowane przez bio-modelowanie

1-3 Sieci neuronowe - zgrubna charakterystyka

1-4 Kamienie milowe rozwoju sieci neuronowych

1-5 Zastosowania sieci neuronowych

Bio-modelowanie

• Cele: poznawcze

• Zastosowania: biologia, medycyna, farmacja, psychologia

• Cele: specyficzne dla dziedziny zastosowań (nie-biologiczne)

• Modyfikacja modeli biologicznych; wyniki nie kopiują biologii

Sieci neuronowe - zgrubna charakterystyka

• Modularność

• Równoległość

• Nieliniowość

• Adaptacja do zmian środowiska

• Tolerancja na uszkodzenia (stopniowa utrata jakości)

• Nadmiar parametrów

• Własności aproksymacyjne

Kamienie milowe rozwoju sieci neuronowych

• McCulloch i Pitts 1943 ◮ model neuronu y (t + 1) = 1(w

u − ϑ)

• Rosenblatt 1958 (Cornell U., Ithaca, NY) ◮ perceptron

• Widrow 1960 (Stanford U., Stanford, CA) ◮ Adaline

• Minsky 1969 (MIT, Cambridge, MA) ◮ perceptron + sztuczna inteligencja

• “dekada spokoju”

– Kohonen 1972 (Helsinki U. of Techn.) ◮liniowa pamięć asocjacyjna

– Werbos 1974 (Harvard U. Ph.D., Cambridge, MA) ◮propagacja zwrotna – Grossberg 1983 (Boston U., Boston, MA) ◮stabilność sieci dynamicznych

• Hopfield 1982 (Princeton U., Princeton, NJ) ◮ pamięć – stabilność sieci

• Rummelhart, Hinton, Williams 1986 (grupa PDP, MIT, Cambridge, MA)

◮ uczenie sieci poprzez propagację zwrotną

Zastosowania sieci neuronowych

• Filtracja adaptacyjna, DSP

• Prognozowanie

• Klasyfikacja i rozpoznawanie (mowa, pismo)

• Biometria

• Wojskowość: rozpoznanie, identyfikacja celu

• Sterowanie, robotyka, systemy eksperckie, decyzyjne

• Ekonomia, Zarządzanie

• Fizyka, Astronomia

• Biologia (modelowanie DNA)

• Telekomunikacja

• Przemysł