1 Prof. dr hab. inż. Mirosław Galicki Zielona Góra. 21.11.2013 Wydział Mechaniczny
Instytut Budowy i Eksploatacji Maszyn Uniwersytet Zielonogórski
Ul. Podgórna 50 65-246 Zielona Góra
Recenzja
rozprawy doktorskiej pt. „Stochastyczny model biologicznej sieci neuronowej oparty na kinetycznych schematach Markowa” autorstwa mgr inż. Aleksandry Świetlickiej.
Opiniowana praca doktorska dotyczy bardzo aktualnego, a zarazem trudnego do rozwiązania zagadnienia naukowego jakim jest modelowanie komórek biologicznych oraz biologicznych sieci neuronowych a także konstrukcji algorytmów uczenia tych sieci. W pracy uwzględnia się opis ewolucji komórek oraz sieci biologicznych w postaci zwyczajnych i cząstkowych nieliniowych równań różniczkowych. Proces uczenia sprowadzono do parametrycznej minimalizacji pewnego kryterium całkowego. Problem dostatecznie wiernego modelowania funkcjonowania komórek biologicznych a następnie ich uczenia, postawiony przez Autorkę pracy, jest zagadnieniem trudnym i w ogólnym przypadku nie są znane (obliczeniowo) efektywne metody rozwiązania takiego zadania z uwagi na nieprzewidywalność a często wręcz przypadkowość zachowań procesów biologicznych zachodzących na błonie
komórkowej. W literaturze krajowej i zagranicznej znanych jest kilka rozwiązań dotyczących tego skomplikowanego problemu, przy czym rozwiązania te są bardzo czasochłonne.
Zaproponowana przez Autorkę metoda modelowania i uczenia uogólnia znane z literatury przedmiotu rozwiązania (podstawowy model Hodgkina-Huxleya a także deterministyczne
2 modele kinetyczne) na (ważną z praktycznego punktu widzenia) klasę stochastycznych modeli kinetycznych neuronu oraz sieci biologicznych opartych o schematy Markowa.
W świetle powyższego praca przedstawia rozwiązanie aktualnego problemu naukowego z dziedziny informatyki oraz automatyki i robotyki. W mojej opinii rozprawa stanowi bardzo dobre uzupełnienie wyników istniejących w literaturze światowej. Dlatego też stwierdzam, że Autorka napisał cenną (zarówno z naukowego jak i praktycznego punktu widzenia) pracę, która zasługuje na miano rozprawy doktorskiej. Stwierdzenie to opieram na następujących przesłankach.
W pracy Autorka proponuje uogólnienie modelu funkcjonowania komórki nerwowej definiowanej strukturą punktową poprzez wprowadzenie explicite do modelu zmiennych losowych o granicznym rozkładzie normalnym. W sposób oryginalny postawiła i udowodniła tezę rozprawy o (obliczeniowej) skuteczności wprowadzonych uogólnionych stochastycznych modeli kinetycznych opartych na schemacie Markowa. Na uwagę zasługuje również
wprowadzona przez Autorkę oryginalna koncepcja procesu uczenia takiego modelu neuronu biologicznego. Za cenną uważam też część pracy (rozdział 5) poświęconą modelowaniu biologicznej sieci neuronowej opartemu na strukturze drzewiastej z wykorzystaniem stochastycznych modeli kinetycznych. Za oryginalny wkład Autorki uważam również propozycję algorytmu uczenia stochastycznej sieci biologicznej, polegającą na dekompozycji zadania optymalizacji na dwa odrębne etapy efektem czego jest znaczne przyspieszenie wyznaczenia rozwiązania na ogół lokalnego.
Rozprawa liczy 120 stron, składa się z 7 rozdziałów oraz skorelowanej literatury przedmiotu.
Wyodrębnić w niej można 3 części. Rozdziały 1, 2 wprowadzają we zakres pracy i przedstawiają niezbędne pojęcia, konieczne do zrozumienia dalszej części. Kluczowe są rozdziały 3-6, w których przedstawiono opis istniejących modeli pojedynczej komórki nerwowej Hodgkina-Huxleya oraz zaproponowano nowy uogólniony stochastyczny model kinetyczny. W rozdziale 4 przedstawiono nowy algorytm uczenia stochastycznego modelu neuronu oparty na metodzie prostego gradientu. Model Hodgkina-Huxleya sieci neuronowej o strukturze drzewiastej oraz jego rozszerzenie oparte o schemat kinetyczny Markowa
przedstawiono w rozdziale 5 pracy. Rozdział 6 zawiera propozycję algorytmu uczenia biologicznych sieci neuronowych, wykorzystującego również metodę gradientu prostego wraz z mnożnikami Lagrange’a. W rozdziałach 3-7 obejmujących również część symulacyjną zilustrowano funkcjonowanie modeli kinetycznych sieci neuronowej w wersji
deterministycznej i wprowadzonej stochastycznej oraz algorytmów uczenia.
3 Niezmiernie cennym jest rozdział 7 pracy poświęcony badaniom symulacyjnym, w którym zastosowano nauczoną komórkę nerwową połączoną z rekurencyjną siecią Elmana do wyznaczenia kątów Eulera w systemie AHRS generującym położenia obiektu w przestrzeni na podstawie odczytów z czujników.
Poniżej zamieszczam kilka uwag krytycznych, które nasunęły mi się podczas czytania pracy:
- znanym jest fakt, iż problem uczenia (nie tylko sieci neuronowych) jest w ogólnym przypadku źle uwarunkowany z uwagi na niejednoznaczność jego rozwiązania. W konsekwencji, należy wprowadzić odpowiednie kryterium (nie tylko błędu uczenia jedynie rozważane w pracy), które ujednoznaczni rozwiązanie. Z punktu widzenia sieci neuronowych takim kryterium jest własność uogólniania, zupełnie pominięta w pracy a mająca decydujące znaczenie w normalnym trybie pracy sieci (po nauczeniu).
Istnieją ogólnie dwa podejścia wpływające na poprawę uogólniania. Jedno
wykorzystuje teorię Vapnik-Chervonenkis, którego wada jest konieczność znajomości dostatecznie dużego zbioru uczącego – w praktyce niewielkie znaczenie. W drugim podejściu modyfikuje się kryterium funkcjonału błędu (np. wzór (4.2) lub (6.5) z pracy) o dodatkowy odpowiedni składnik regularyzujący, wpływający na zmiany wariancji wyjścia sieci. Prośba o odniesienie się do powyższej uwagi w kontekście biologicznych sieci neuronowych.
- Krytyka sztucznych sieci neuronowych (SSN) w odniesieniu do biologicznych sieci wydaje się nieuzasadniona. Jedną z ważniejszych własności SSN jest ich zupełność, tzn. SSN są uniwersalnymi aproksymatorami systemów statycznych (Cybenko) oraz dynamicznych (Funahashi, Galicki). Autorka wprawdzie w przykładzie symulacyjnym dokonała aproksymacji funkcji prostokątnej. Jednakże zgodnie z wiedzą jaką
posiadam, nie są znane rezultaty dotyczące własności uniwersalnej aproksymacji systemów dynamicznych przez biologiczne sieci neuronowe.
- W pracy zabrakło również porównania w oparciu o wybrane kryteria, funkcjonowania np. uogólnionych dynamicznych SSN (Galicki) z sieciami analizowanymi przez Autorkę.
- O ile deterministyczne modele kinetyczne mogą być użyte w trybie pracy on-line to stochastyczny model kinetyczny wydaje się nie mieć tej własności. Całkowanie równania np. (3.18) „musi poczekać” (tryb off-line) na wyznaczenie odpowiednich parametrów (ilość kanałów, które zmieniają stany) w sposób jednoznacznie determinujący prawa stronę (3.18).
4 - Równanie (5.1) przyjmuje postać podobną (ze względu na pochodne) do równania
przewodnictwa cieplnego. Do jego rozwiązania potrzebne są zatem dwa warunki brzegowe i jeden początkowy. Wzory (5.7), (5.8) podają jedynie warunki brzegowe.
- Autorka przy dyskretyzacji równania (5.1) wykorzystuje jawne schematy różnicowe, które na ogół prowadzą do niestabilnych numerycznie rozwiązań. W tym kontekście zastosowanie schematu niejawnego np. Cranka-Nicholsona wydaje się korzystniejsze.
- Redakcja pracy zawiera pewne błędy stylistyczne i maszynowe (np. na str. 58 w 12 wierszu ‘od góry” jest zostało wprowadzone zostało powinno być zostało
wprowadzone). Większość z nich zaznaczyłem bezpośrednio w tekście pracy i przekazałem Autorce.
Powyższe uwagi mają częściowo charakter dyskusyjny, inne natomiast powinny być dokładnie sprawdzone przez Autorkę. Nie wpływają one jednak na pozytywną ocenę pracy.
Uważam, że opiniowana rozprawa doktorska mgr inż. Aleksandry Świetlickiej spełnia wymogi stawiane rozprawom doktorskim przez obowiązującą ustawę o stopniach i tytule naukowym. Wnoszę więc o jej przyjęcie i dopuszczenie Autorki do publicznej obrony.
