Wykorzystanie pasywnych sieci neuronowych do rozwiązywania zadań optymalizacyjnych na przykładzie problemu komiwojażera

(1)

Andrzej Łuksza, Wiesław Sieńko Akademia Morska w Gdyni

WYKORZYSTANIE PASYWNYCH SIECI NEURONOWYCH

DO ROZWIĄZYWANIA ZADAŃ OPTYMALIZACYJNYCH

NA PRZYKŁADZIE PROBLEMU KOMIWOJAŻERA

W pracy zaproponowano wykorzystanie pasywnych sieci neuronowych do rozwi_ązywania zagad-nienia komiwojażera. Wykazano, że pasywna sieć neuronowa pozwala na rozdzielenie funkcji celu

i ogranicze_{ń między symetryczny i antysymetryczny składnik macierzy połączeń. Dzięki takiemu} roz-dzieleniu uzyskano sieć o dużo lepszych zdolnościach rozwiązywania zagadnienia komiwojażera od

tradycyjnych sieci typu Hopfielda. Przedstawiono wyniki eksperymentów numerycznych, potwierdza-jących przydatność pasywnych sieci neuronowych do rozwiązywania zagadnienia komiwojażera.

Słowa kluczowe: pasywne sieci neuronowe, optymalizacja, zagadnienie komiwojażera.

WSTĘP

Problem komiwojażera jest powszechnie wykorzystywany w celu porównania efektywności różnych metod optymalizacji. Rozwiązaniem problemu komiwoja-żera jest najkrótsza zamknięta trasa łącząca N miast, danymi są odległości między miastami. Problem komiwojażera jest problemem NP-trudnym. Liczba kombinacji tras wynosi (N – 1)! / 2 i obliczenie długości wszystkich tras w celu wybrania najkrótszej dla dużej liczby miast jest niemożliwe.

Funkcją celu dla problemu komiwojażera jest minimalna długość trasy, a ograniczeniem – wymóg pojawienia się każdego z miast dokładnie jeden raz na trasie. Funkcję celu można zapisać w postaci

, min min 1 ,

∑

₌ = N j i ij ijy d E (1)

gdzie dij oznacza odległość między miastami o numerach i i j, zmienna yij = 1, gdy miasta i i j sąsiadują na trasie, w przeciwnym razie yij = 0. Ograniczenia dla funkcji celu (1) zapisuje się w postaci

, ,..., 1 , 1 1 N j y N i ij= =

∑

= (2)

(2)

38 ZESZYTY NAUKOWE AKADEMII MORSKIEJ W GDYNI, nr 90, grudzień 2015

,

,...,

1 ,

1

N

i

y

N j ij

=

∑

= (3) } 1 , 0 { ∈ ij

y , N – liczba miast. Ograniczenia (2) i (3) wymuszają, że każde z miast ma dokładnie dwóch sąsiadów na trasie.

Współcześnie podstawowym narzędziem wykorzystywanym do rozwiązy-wania zadań optymalizacyjnych jest maszyna cyfrowa. Nadal prowadzi się też badania nad fizycznymi układami, które mogą rozwiązywać problemy optymali-zacyjne, poszukując minimum energii, w którym zakodowane jest rozwiązanie. Przykładami takich układów są sieć neuronowa Hopfielda i komputer kwantowy D-Wave. Sieci Hopfielda nie znalazły dotychczas komercyjnych zastosowań, a opisane w literaturze przedmiotu symulacje komputerowe tych sieci dotyczą rozwiązań problemu komiwojażera dla kilkudziesięciu miast [1, 2, 3]. Komputer kwantowy rozwiązuje zagadnienie komiwojażera dla kilkunastu miast [8].

1. PASYWNE SIECI NEURONOWE

Pasywna sieć neuronowa jest układem dynamicznym, opisanym równaniem stanu [4]

_۰ _଴, (4)

gdzie x = [x1,…,xN]T jest wektorem stanu, W jest macierzą wag połączeń sieci, θ(x) = [θ(x1), …, θ(xN)]T jest wektorem wyjściowym, θ(xi) jest funkcją aktywacji neuronu, IB jest wektorem stałych napięć wejściowych, d jest wektorem danych

wejściowych, ω0 > 0 reprezentuje straty sieci. Funkcje aktywacji neuronów są

pasywne i spełniają warunek μ1 ≤ θ(xi) / xi ≤ μ2; μ1, μ2 ∈ 0, ∞, w szczególności

funkcje aktywacji mogą być funkcjami skokowymi Heaviside’a.

Cechą szczególną pasywnych sieci neuronowych jest macierz wag połączeń

s

a W

W

W= +ε ₍₅₎

złożona ze składnika antysymetrycznego Wa i symetrycznego Ws, ∈ .

W prezentowanych w artykule zastosowaniach pasywna sieć neuronowa jest wykorzystywana jako układ autonomiczny opisany równaniem stanu

_܉ _ܛ _௜ ∆࢏ ଴ ۰, (6)

gdzie element diagonalne γi≥ 0 kompensują straty integratorów ω0 > 0, elementy

Δi≤ 0 spełniają warunek

்_∆

(3)

A. Łuksza, W. Sieńko Wykorzystanie pasywnych sieci neuronowych do rozwiązywania zadań ... 39

wektor funkcji aktywacji neuronów θ(x) = [θ11, θ12, ..., θ1N, θ21, θ22, ..., θ2N, ..., θN1, θN2, ..., θNN, θN^2+1, θN^2+2, ..., θN^2+4N]T, gdzie θij są funkcjami skokowymi Heaviside’a.

Równanie (6) w zależności od składników macierzy wag połączeń opisuje sieci różnych klas:

• gdy _ୟ i ω0 > 0, sieć jest stratna,

• gdy _ୟ i ω0 = 0, sieć jest bezstratna,

• gdy _ୟ, gdzie macierz Wa jest antysymetryczna i ortogonalna, ω0 = 0, sieć

jest Hamiltonowska [7],

• gdy _ୟ _௜, γi > 0, ω0 > 0, sieć jest bezstratna,

• gdy _ୱ _௜, γi > 0, ω0 > 0, sieć jest siecią typu Hopfielda.

W pasywnej sieci neuronowej, opisanej równaniem (6), możliwe jest rozdzielenie funkcji celu zapisanej w macierzy symetrycznej Ws o nieujemnych

elementach (odległości _݆݅ " 0, # 0) i ograniczeń zapisanych w macierzy anty-symetrycznej. Funkcja Hamiltona dla sieci danej wzorami (5), (6), (7) ma postać

$ % ௧ ்

଴ ୱ& % ଴௧ ்௜& ଴% ଴௧ ்&, (8)

gdzie $_ଵ % ௧ ்

଴ ୱ& jest energią wzajemnego oddziaływania neuronów,

$_ଶ % ௧ ்

଴ ௜& ଴% ் ௧

଴ & jest energią własną neuronów.

Ponieważ $_ଶ 0, dla " 0 i # 0, to ௗா_ௗ௧ # 0, co oznacza, że sieć jest asymptotycznie stabilna. Stąd min$ min்

ୱ, co oznacza, że osiągnięto

minimum funkcji celu zapisanej w symetrycznej macierzy Ws.

Z powyższych rozważań wynika, że pasywną sieć neuronową można wykorzystać do rozwiązywania zagadnień optymalizacyjnych pod warunkiem, że uda się zapisać funkcję celu w symetrycznej macierzy Ws, a ograniczenia

zrealizować za pomocą połączeń antysymetrycznych zapisanych w macierzy antysymetrycznej Wa. Pasywna sieć neuronowa jest wtedy asymptotycznie

stabilna, a jej stabilne punkty równowagi odpowiadają minimom funkcji celu. Stabilne punkty równowagi można znaleźć, realizując fizycznie układ opisany równaniem (6) lub rozwiązując numerycznie zagadnienia początkowe złożone z równania (6) i losowych warunków początkowych.

2. WYKORZYSTANIE SIECI NEURONOWYCH DO ROZWIĄZANIA ZAGADNIENIA KOMIWOJAŻERA

Jako pierwsi wykorzystanie sieci neuronowej do rozwiązania zagadnienia komiwojażera zaproponowali Hopfield i Tank [3]. Zaproponowana przez nich sieć składa się z N grup po N neuronów, razem N2 _{neuronów. Każda grupa N neuronów}

reprezentuje jedno miasto. Numer neuronu w grupie oznacza pozycję miasta na trasie.

(4)

40 Fu gd po fun mi za mo Ka tuj Po mi Po jed unkc dzie ozycj nkcj iasta prop B ożna Rys W ażde jący odob iasto owst den cja c dpq ji na ję ce ami pono Binar a po s. 1. W ta e mi ym m bnie, o, st taje akty elu – o a tra elu są owan rne grup Tab ablic iasto mias , ka tąd wię ywny zapr odleg asie, (9), dod ną p wyj pow blica F y w o mu sto m ażda w ęc 2N y ne ropo głość w p jest datni przez jścia wać w aktyw Fig. iersz usi w musi poz każd N g euron onow E ć m prze t sym e. P z Ho a ne w tab wno 1. A ze r wys i za zycj dej grup n. P wana = E międz eciw metr Pasy opfie euro blicę ści n ctivit epre tąpi atem a n kol po owy ZES a prz

∑∑

_{p q} zy m wnym rycz ywna elda onów ę prz neuro ty ma ezen ć do m wy a tr lumn N yższe N i

∑

= SZYTY zez H

∑∑

_{≠ p} q mias m pr zna i a sie a i Ta w, r zeds onów ap o ntują okła ystąp rasie nie neur e og 1 y N ij

∑

= Y NAU Hop

∑

_i dp tami zypa i ma eć n anka epre staw w rep dla 1 of out ą mia adnie pić d e mu mus ronó grani , 1 = UKOW pfield p pqy i p adku a nie neuro a, ale ezen wioną preze 10 m tput n asta, e jed dokł usi b si b ów, icze j WE AK da i ( q pi y i q, u ypi euje onow e in ntują ą na entuj miast neur , a k den ładn być być w k enia , 1 = KADEM Tan 1 ,i+ + q ypi i = 0 emne wa acze ące rysu jącyc rons kolu raz nie j ob dok któr moż ..., N MII M nka m +yq = 1 0. M e ele wyk ej re pop unku ch po for 1 mny na eden sadz kładn ych żna z , N MORSK ma p , ) 1 ,i− 1, gd Macie eme korz ealizu praw u 1. opra 10-ci y – p tras n ak zona nie nal zapi KIEJ W post , dy m erz enty zystu uje o wną wną ities pozy sie, ktyw a pr jede leży isać W GDY ać mias połą – o uje f ogra trasę tras TSP ycję w w wny zez en a wy w p YNI, n sto p ącze odleg funk anicz ę k sę ko P ę mia wiers neu dok akty ymus posta r 90, p jes eń, re głośc kcję zeni komi omiw asta szu uron kład ywny sić aci grudz st na ealiz ci m celu a. woj ojaż na t repr (sta nie y ne dokł ień 20 ( a i-t zują międ lu (9 ażer żera trasi reze an 1 jedn euro ładn (1 015 (9) tej ąca zy 9), ra, ie. en-1). no on. nie 0)

(5)

A. Ł W sie ko do o n ko ny so w nic ne ne na Łuksza Wzory H eci n ontro A o niej N neur Rys Fi W omiw ych p bą. gru czen euron euron ależą a, W. y (10 Hopf neur olnyc Aby ej dw Na ry rony s. 2. ig. 2. W st woja połą Jed upie, nia s ny k ny. P ącym Sieńko 0) i field rono ch. wym wa n ysun y kon Tab . Act tanie ażera ączon den dru są s kont Połą mi do o Wyk (11) d i T owej mus euro nku ntrol blica tivity e ró a, w ne są neur ugi – spełn troln ącze o gru korzys ) są i ank og sić d ony k 2 p lne. aktyw d map ówno wszys ą tyl ron – m nion ne są enia upy ystanie iden real grani dokł kon przed wno dla 10 p of o owa stkie lko z z p maksy ne (w ą ak pary zap e pasyw ntycz lizow iczen ładn troln dstaw ści n 0 mia outp agi, e ne z ne pary yma w g ktyw y ne pisan wnych N j

∑

₌ zne wali nia ie j ne. wion neuro ast, z ut ne repr euron euron y ko alną rupi wne euron ne są h siec 1 y N ij

∑

₌ ze w i ogr real edną no m onów z do euron reze ny k nam ontro licz ie je i nie nów ą w m i neur , 1 j= wzor ranic lizuj ą je map w rep dany ns fo entuj kont mi, na oluje zbę a est d e od w kon mac ronow , i rami czen e si edyn ę ak preze ymi n or 10 jącym troln ależą e m akty dokł ddzi ntro cierz wych d , 1 = i (2) nia z ię p nkę ktyw entuj neur 0-citie ym p ne są ącym minim ywny ładn iałuj olnyc zy W do roz ..., N ) i (3 za po oprz w g wnoś jącyc onam es T popr ą ak mi d maln ych nie j ą an ch h Wh i w związy . N 3), al omo zez grup ści n ch po mi ko TSP, rawn ktyw do ko ną li neu jeden ni n h1 i h wek ywani le m ocą f dod pie n neur opra ontro with ne r wne. ontr iczb uronó n ak na gr h2 z ktorz ia zad mają funk danie neur ronó wną olnym con rozw Par rolow bę ak ów ktyw rupę neu ze Ih ań ... inną kcji k e do onów w s tras m trol n wiąza y ne wane ktyw w gr wny ę, an urona . ą int kary o sie w, n sieci sę ko neur anie euro ej gr wnyc grupi neu ni n ami terpr y, w eci n nale roz omiw rons e za onów rupy ch n ie. G uron na ża k1, retac pasy neur eży zszer ojaż adde gadn w ko y i m neur Gdy n), to adne k2, (1 cję. ywn ronó dod rzon żera ed nien ontro międ ronó ogr to ob e inn …, 41 1) nej ów dać nej nia ol-zy ów ra-ba ne kN

(6)

42 ZESZYTY NAUKOWE AKADEMII MORSKIEJ W GDYNI, nr 90, grudzień 2015 2 1 2 1 1 0 0 0 1 0 0 0 0 0 0 0 0 0 2 1 2 1 h ... ... 0 ... ... ... ... W h h k k k w w w w w w w w w w w w w w h h k k k N N ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ Δ − − − − − − − − = ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ Δ + − = 2 1 h 0 ... 0 0 I I I (12)

Neuron h1 kontroluje minimalną liczbę neuronów w grupie i powinien być

aktywny, gdy liczba aktywnych neuronów w grupie jest większa równa 1 i nieaktywny w przeciwnym przypadku. Powyższe zachodzi, gdy elementy macierzy Wh i wektora Ih spełniają warunek

–w0 + w1 < I1 < w1. (13)

Dla w0 = 1 i w1 = 2 warunek (13) przyjmuje postać 1 < I1 < 2 i był sprawdzony

doświadczalnie dla 1 < I1 < 1.25.

Neuron h2 kontroluje maksymalną liczbę aktywnych neuronów w grupie

i powinien być aktywny, gdy liczba aktywnych neuronów w grupie jest mniejsza od 1 i nieaktywny w przeciwnym przypadku. Powyższe zachodzi, gdy elementy macierzy Wh i wektora Ih spełniają warunek.

– w0 + w1 > I2 > – 2 w0 + w1 + Δ. (14)

Dla w0 = 1 i w1 = 2 warunek (14) przyjmuje postać 1 > I2 > Δ i był sprawdzony

doświadczalnie dla 1 > I2 > 0,75; Δ = 0,75.

Warunki (13) i (14) wskazują na dużą tolerancję wymuszeń stałych I1 i I2 oraz wag połączeń wymuszających spełnienie ograniczeń (10) i (11). Elementy diagonalne – Δ, które nie są konieczne do spełnienia ograniczeń, zostały wprowadzone w celu stabilizacji sieci. Rozwiązanie zagadnienia komiwojażera dla N miast wymaga użycia ଶ_{4 neuronów, wymiar macierzy połączeń}

dimW = [(ଶ_{4)× (}ଶ_4)].

3. WYNIKI EKSPERYMENTÓW KOMPUTEROWYCH

Pasywna sieć neuronowa może zostać zrealizowana jako układ elektryczny, np. scalony układ wielkiej skali integracji. Fizyczny układ, startując z dowolnego stanu początkowego, powinien przejść do jednego z asymptotycznie stabilnych stanów równowagi, które reprezentują poprawne trasy komiwojażera. Proces ten można modelować, rozwiązując zagadnienie początkowe złożone z równania stanu

(7)

(6) i warunku początkowego. W opisanych symulacjach komputerowych przyjęto równanie stanu z następującymi wartościami parametrów

0,01 ୟ ୱ ∆௜ ௜ 10 ۰, (15)

gdzie ∆ 5,25; _଴ 7; _ଵ 14; _ଵ _ଶ 7. Dodatnie elementy diagonalne _௜ kompensują straty sieci i ujemne wartości elementów macierzy _ୱ. Od wartości elementów diagonalnych zależy jakość uzyskiwanych rozwiązań, wyrażona w średniej długości znajdowanych tras. Dla każdego problemu optymalna wartość elementów diagonalnych może być różna, zbyt małe wartości mogą spowodować, że sieć nie będzie miała poprawnych stabilnych stanów równowagi, zbyt duże wartości zaś zwiększają długość znajdowanych tras. W tej sytuacji najlepszym rozwiązaniem okazało się zwiększanie wartości elementów diagonalnych, począwszy od ujemnej wartości początkowej, co zapewnia, że elementy diagonalne osiągną wymaganą wartość, a stan stabilny zostanie osiągnięty przy możliwie najmniejszych ich wartościach [5]. Czas trwania analizy przy rosnących elemen-tach diagonalnych wydłuża się w porównaniu z czasem analizy przy stałych elementach diagonalnych, ale kosztem wydłużenia analizy uzyskuje się krótsze trasy. Podobne rozwiązanie z rosnącymi elementami diagonalnych zastosowano też w sieciach Hopfielda [1].

W celu oceny przydatności pasywnych sieci neuronowych do rozwiązywania zagadnienia komiwojażera wykorzystano przykłady z biblioteki TSPLIB [6]. Biblioteka, opublikowana przez Uniwersytet w Heidelbergu, jest punktem odnie-sienia dla badań nad sposobami rozwiązywania zagadnienia komiwojażera. Biblioteka zawiera sporą liczbę przykładów dla różnej liczby miast ze znanymi optymalnymi rozwiązaniami.

Jako pierwszy zbadano stosunkowo prosty problem dla 52 miast oznaczony jako Berlin52. Na rysunku 3 przedstawiono mapę miast z zaznaczoną najkrótszą trasą, a na rysunku 4 – histogram długości tras znalezionych przez pasywną sieć neuronową.

Rys. 3. Mapa miast Berlin52 z optymalną trasą o długości euklidesowej = 7542

(8)

Rys. 4. Histogram długo_{ści tras dla mapy Berlin52, średnia długość trasy = 8132,}

tras_{ę optymalną znaleziono dwa razy}

Fig. 4. Histogram of path lengths found by the neural network for Berlin52 map:

average length = 8132, the optimal path was found twice

Jako drugi zbadano problem dla 150 miast oznaczony jako ch150. Na rysun-ku 5 przedstawiono mapę miast z zaznaczoną najkrótszą trasą, a na rysunku 6 – histogram długości tras znalezionych przez pasywną sieć neuronową.

Rys. 5. Mapa miast ch150 z optymaln_{ą trasą o długości 6528}

(9)

Rys. 6. Histogram długo_{ści tras dla mapy ch150; średnia długość trasy = 7215,}

odchylenie standardowe = 208

Fig. 6. Histogram of path lengths found by the neural network for ch150 map:

average length = 7215, standard deviation = 208

Najkrótsza trasa znaleziona przez pasywną sieć neuronową, przedstawiona na rysunku 7, jest o 2,3% dłuższa od optymalnej.

Rys. 7. Najkrótsza trasa dla mapy ch150 znaleziona przez pasywn_{ą sieć neuronową}

długości = 6679, trasa jest dłuższa od optymalnej o 2,3%

Fig. 7. The shortest path for ch150 map found by passive neural network,

Euclidian length = 6679, 2.3% longer then optimal

Trasa z rysunku 7 krzyżuje się, co jest jej istotnym brakiem, który można usunąć, stosując hybrydowe metody poprawy tras.

(10)

4. HYBRYDYZACJA

Hybrydyzacja zagadnienia optymalizacyjnego polega na poszukiwaniu roz-wiązania jednocześnie kilkoma metodami, które zastosowane osobno dają gorszy wynik. Na przykład trasy znalezione przez pasywną sieć neuronową można poprawiać metodami przeszukiwań, poszukując lepszego rozwiązania w sąsiedz-twie dotychczasowego poprzez przestawienia miast. Do poprawy rozwiązań uzyskanych przez pasywną sieć neuronową zastosowano:

• odwrócenie kolejności fragmentu trasy między miastami i i j (usuwa

skrzyżo-wania ścieżki),

• zamianę miejscami dwóch miast,

• przesunięcie jednego miasta o k pozycji na trasie,

• przesunięcie 2, 3, 4 i 5 sąsiednich miast o k pozycji na trasie z odwróceniem

kolejności i bez.

Liczba kombinacji każdego z powyższych przeszukiwań jest mniejsza od N2_.

Każde z wymienionych przestawień stosowane wielokrotnie sprowadza trasę do globalnego lub lokalnego minimum. Przestawienia mogą sprowadzać trasę do różnych minimów lokalnych, dlatego stosowano je naprzemiennie, dopóki żadne z nich nie dawało już poprawy trasy. Na rysunku 8 przedstawiono poprawioną trasę z rysunku 7.

Rys. 8. Poprawiona trasa z rysunku 7 o długości 6585, trasa jest dłuższa od optymalnej o 0,7%

(11)

Dzięki poprawkom udało się zmniejszyć średnią długość znajdowanych tras o 6% i przybliżyć je do rozwiązania optymalnego – najkrótsza poprawiona trasa jest dłuższa od optymalnej o 0,3%. Na rysunku 9 przedstawiono histogram poprawionych tras.

Rys. 9. Histogram długo_{ści tras dla mapy ch150 poprawionych metodami przeszukiwań,}

średnia długość trasy = 6788, odchylenie standardowe = 97, długość najkrótszej trasy = 6549 i jest o 0,3% dłu_{ższa od optymalnej}

Fig. 9. Histogram of path lengths for ch150 map, improved by the search algorithm:

average length = 6788, standard deviation = 97, the shortest path length = 6549, 0.3% longer then optimal

Wykorzystana metoda przeszukiwań, startując z losowych tras komiwojażera, znajduje rozwiązania o średniej długości = 6810, poprawione tą samą metodą trasy znalezione przez pasywną sieć neuronową są krótsze o 0,32%.

PODSUMOWANIE

Przeprowadzone doświadczenia komputerowe potwierdziły zdolność pasyw-nych sieci neuronowych do rozwiązywania zagadnień optymalizacji kombinato-rycznej, takich jak problem komiwojażera. Budowa pasywnych sieci neuronowych pozwala na rozdzielenie funkcji celu realizowanej przez symetryczne połączenia i ograniczeń realizowanych przez połączenia antysymetryczne z neuronami kon-trolnymi. Dzięki temu realizacja ograniczeń nie wpływa na funkcję celu i wektor stanu sieci zmierza do stabilnych punktów równowagi, reprezentujących poprawne trasy komiwojażera. Testy wykazały, że pasywna sieć neuronowa znajduje w miarę krótkie trasy komiwojażera dla problemów do 300 miast. Dla 300 miast sieć składa się z 91 200 neuronów, jej macierz połączeń ma 8,31744e+9 elementów, z czego tylko 5,418e+7 jest niezerowych. Wykorzystując techniki macierzy rzadkich i binarność wektora wyjściowego sieci, udało się stworzyć algorytm całkowania znajdujący stan stabilny sieci (jedną trasę komiwojażera) w „rozsądnym czasie”.

(12)

Na standardowym komputerze PC poszukiwanie stanu stabilnego dla 100 miast trwa około minuty, dla 300 miast – kilkanaście minut.

Pasywna sieć neuronowa jest modelem fizycznej sieci, którą można zrealizo-wać układowo. Fizyczna sieć powinna znajdować rozwiązanie problemu komi-wojażera w czasie krótszym od algorytmu numerycznego. Dotychczas pasywne sieci neuronowe, jak i inne sieci typu Hopfielda, nie doczekały się komercyjnych układowych realizacji. Symulacje komputerowe wykazały, że w porównaniu z innymi znanymi z literatury przedmiotu sieciami typu Hopfielda [1, 2, 3], pasywna sieć neuronowa znajduje krótsze trasy i może rozwiązywać zagadnienie komiwojażera dla większej liczby miast. Jako numeryczny algorytm poszukiwania trasy komiwojażera, poprzez rozwiązanie zagadnienia początkowego, pasywna sieć neuronowa ustępuje innym algorytmom pod względem czasu obliczeń. Poszuki-wanie jednej trasy wyżej opisanym algorytmem przeszukiwań dla przykładu ch150 trwa na typowym pececie 90 ms, trasa optymalna znajdowana jest średnio co 5 minut. Rozwiązanie zagadnienia początkowego dla przykładu ch150 trwa na typowym pececie około 5 minut.

LITERATURA

1. Abe S., Gee A.H., Global convergence of the Hopfield neural network with nonzero diagonal

elements, IEEE Tr. on CAS, 1995, vol. 42, no. 1.

2. Gee A.H., Prager R.W., Limitations of neural networks for solving traveling salesman problems, IEEE Tr. on Neural Networks, 1995, vol. 6, no. 1.

3. Hopfield J.J., Tank D.W., Neural computation of decisions in optimization problems, Biological Cybernatics, 1985, vol. 52.

4. Łuksza A., Citko W., Sieńko W., Universality of passive neural networks, Proc. of First International Conference on Computing Anticipatory Systems, Liege, Belgium, AIP Conference Proceedings, 1997, vol. 437, s. 595–605.

5. Łuksza A., Sie_{ńko W., Using passive neural networks to solve TSP, [w:] 2015 IEEE 2nd}

International Conference on Cybernetics (CYBCONF), red. P. Jędrzejowicz, N.T. Nguyen, H. Tzung-Pei, I. Czarnowski, Gdynia 2015, s. 79–84.

6. Reinelt G., TSPLIB – A traveling salesman problem library, ORSA Journal on Computing, 1991, vol. 3, no. 4, s. 376–384.

7. Sie_{ńko W., Citko W., On very large scale Hamiltonian neural nets, 6}th_{International Conference}

on Neural Networks and Soft Computing, Zakopane, Poland, 2002, Neural Networks and Soft Computing Book Series: Advanced in Soft Commputing, 2003, s. 268–273.

8. Warren R.H., Numeric experiments on the commercial quantum computer, Notices of the AMS, 2013, vol. 60, no. 11.

(13)

THE USAGE OF PASSIVE NEURAL NETWORKS FOR SOLVING OPTIMIZATION PROBLEMS, WITH THE EXAMPLE OF THE TSP

Summary

In the paper it was suggested to use passive neuron networks to solve the travelling salesman problem. It was shown that passive neural network allows to split the objective function and the constraints between symmetric and antisymmetric components of the weight matrix. Thanks to such a separation a network with far better travelling salesman problem solving capability, than traditional Hopfield networks was obtained. In the paper were presented the results of numerical experiments confirming the usefulness of passive neural networks for solving the travelling salesman problem.