Prognozowanie obciążenia sieci wodociągowej przy użyciu hybrydowych sieci neuronowych o zróżnicowanej wiarygodności

Uniwersytet Kazimierza Wielkiego w Bydgoszczy

Streszczenie

Referat przedstawia prognozowanie obcienia sieci wodocigowej przy uyciu hybrydowych sieci neuronowych o zrónicowanej wiarygodnoci. Hybrydowe sieci neuronowe zostały utworzone jako modele predykcji. Zostały one opracowane w postaci złoenia prostych sieci neuronowych: liniowej sieci neuronowej z jednokierunkow wielowarstwow sieci neuronow ze wsteczn propagacj błdu (L-MLP), sieci L z sieci neuronow o radialnych funkcjach bazowych (L-RBF), sieci MLP z sieci RBF (MLP-RBF) oraz sieci L z sieci MLP i sieci RBF (L-MLP-RBF). Zrónicowanie wiarygodnoci prostych sieci neuronowych było niezbdne ze wzgldu na ich jako jako modeli.

Słowa kluczowe: hybrydowa sie neuronowa, model predykcji, sie wodocigowa. 1. Wstp

We współczesnych systemach monitoringu sieci wodocigowej brakuje modeli prognozujcych obcienie sieci. Obcienie sieci zmienia si cyklicznie w zalenoci od pory roku, dnia tygodnia czy pory dnia. Te zmiany maj wpływ na sterowanie sieci wodocigow, w szczególnoci na napełnianie i oprónianie zbiorników wyrównawczych zlokalizowanych w sieci. Przewidujc wiksze obcienie sieci powinno si odpowiednio wczeniej napełni zbiorniki, podczas gdy mona je oprónia w przypadku mniejszego zapotrzebowania na wod [5].

Wczeniejsze badania autorki dotyczyły opracowania modeli predykcji w postaci pojedynczych sieci neuronowych: liniowej (L), jednokierunkowej wielowarstwowej ze wsteczn propagacj błdu (MLP) i sieci o radialnych funkcjach bazowych (RBF). Nastpnie opracowano modele złoone z rónych sieci neuronowych (liniowej, jednokierunkowej wielowarstwowej ze wsteczn propagacj błdu oraz sieci o radialnych funkcjach bazowych) przy załoeniu równej wiarygodnoci składowych sieci neuronowych.

W referacie przedstawiono modele złoone z rónych sieci neuronowych (liniowej sieci neuronowej, jednokierunkowej wielowarstwowej sieci neuronowej ze wsteczn propagacj błdu oraz sieci neuronowej o radialnych funkcjach bazowych) przy załoeniu rónej wiarygodnoci składowych sieci neuronowych. Jako modeli złoonych z sieci neuronowych oceniono wykonujc ocen krzyow. Te modele zostały ze sob porównane w celu uzyskania modelu optymalnego do sterowania parametrami sieci wodocigowej.

Modele predykcji zostały opracowane dla przewidywania obcienia sieci wodocigowej w rónych interwałach czasowych: godziny, dnia, tygodnia, miesica i pory roku. Kady model był testowany pod ktem prawidłowej predykcji. Modele zostały nauczone poprawnego przewidywania na podstawie danych rzeczywistych z przedsibiorstwa wodno-kanalizacyjnego.

Modele predykcji oraz wygenerowane reguły decyzyjne pozwoliły na przewidywanie, jak zmienia si obcienie sieci wodocigowej. Tego typu modele pozwalaj na biece korygowanie pracy pomp w celu utrzymania prognozowanego popytu na wod.

Oceniono poprawno przewidywania modeli. Ocena modeli nastpiła podczas budowania modeli w postaci sieci neuronowych, gdzie sprawdzany był błd RMS oraz wska nik liczby wzorców poza tolerancj. Został wybrany model o najmniejszym błdzie RMS oraz wska niku liczby wzorców poza tolerancj. Wyniki uzyskane z modeli predykcyjnych zostały porównane równie z rzeczywistymi wartociami obcienia sieci wodocigowej.

2. Sie neuronowa jako model prognostyczny

Sieci neuronowe zwracaj na wyjciu wartoci cigłe, dlatego znakomicie nadaj si do szacowania i przewidywania. Sieci takie mog analizowa jednoczenie wiele zmiennych. Moliwe jest stworzenie modelu, nawet gdy rozwizanie ma du złoono. Wadami sieci neuronowych jest trudno w ustaleniu parametrów architektury, wpadanie w minima lokalne, długi czas uczenia si sieci i brak jasnej interpretacji [4].

Do budowy modelu prognostycznego zastosowano liniow sie neuronow (sie L), sie jednokierunkow wielowarstwow ze wsteczn propagacj błdu (sie MLP) oraz sie o radialnych funkcjach bazowych (sie RBF).

Sie liniowa – jest reprezentowana przez sie, która nie posiada warstw ukrytych, za znajdujce si w warstwie wyjciowej neurony s w pełni liniowe (tzn. s to neurony, w których łczne pobudzenie wyznaczane jest jako liniowa kombinacja wartoci wejciowych i które posiadaj liniow funkcj aktywacji).

W sieci neuronowej jednokierunkowej wielowarstwowej ze wsteczn propagacj błdu dobór liczby neuronów w warstwie wejciowej jest uwarunkowany wymiarem wektora danych x. Model neuronu składa si z elementu sumacyjnego, do którego dochodz sygnały wejciowe x1, x2, ..., xN, tworzce wektor wejciowy x = [x1, x2, ..., xN]T pomnoone przez przyporzdkowane im wagi wi1, wi2, ..., wiN tworzce wektor wag i-tego neuronu wi = [wi1, wi2,..., wiN]T oraz warto wi0 zwan progiem. Sygnał wyjciowy sumatora oznaczono ui(1), przy czym sygnał

0 i j ij i w x w u =

¦

jest podawany na blok realizujcy nieliniow funkcj aktywacji f(ui).

Najczciej funkcja ta przyjmuje posta sigmoidaln lub tangensa hiperbolicznego. Posta funkcji stanowi cigłe przyblienie funkcji skokowej, przy której sygnał wyjciowy neuronu yi przyjmuje dowolne wartoci z przedziału [0,1] dla funkcji unipolarnej.

Sie o radialnych funkcjach bazowych (ang. Radial Basis Function – RBF) naley do grupy sieci warstwowych jednokierunkowych. Podstawowa rónica w stosunku do prezentowanego perceptronu wielowarstwowego ley w warstwie ukrytej, która jest w tym przypadku jedna, a neurony tej warstwy maj zaimplementowane jako funkcje aktywacji funkcje radialne. Najczciej jest to funkcja Gaussa. Sieci radialne składaj si z neuronów, których funkcje aktywacji realizuj odwzorowanie (2):

n R x c x xϕ( − ), ∈ , (2) gdzie

( ⋅

)

Funkcje

ϕ

(

x −

c

)

Sieci RBF posiadaj kilka zalet w porównaniu z sieciami typu MLP. Po pierwsze, jak ju wczeniej stwierdzono, mog one modelowa dowoln funkcj nieliniow za pomoc pojedynczej warstwy ukrytej, przez co eliminuje si konieczno podejmowania na etapie projektowania decyzji dotyczcej liczby warstw. Po drugie prosta transformacja liniowa dokonywana w warstwie wyjciowej moe by w całoci zoptymalizowana przy uyciu tradycyjnych technik modelowania liniowego, które s szybkie i przy ich stosowaniu nie pojawiaj si takie problemy jak minima lokalne, które wystpuj w uczeniu sieci MLP. Z tego powodu sieci RBF mog by uczone w bardzo krótkim czasie (rónica w szybkoci uczenia dotyczy rzdów wielkoci).

Hybrydowa sie neuronowa jest złoeniem prostych sieci neuronowych (rys. 1). Wejcie sieci hybrydowej zawiera wejcia poszczególnych prostych sieci neuronowych. Wejcia te zostały przedstawione w tabeli 1. Wyjcie modelu złoonego jest złoeniem wyj poszczególnych sieci. Rozpatrywano dwa rodzaje zespołów sieci neuronowych. W pierwszym przypadku kocowa predykcja otrzymywana jest na zasadzie głosowania (zwycizca bierze wszystko) – najliczniej reprezentowana warto jest wartoci wyjciow zespołu (zespół ze zwycizc). W drugim przypadku na sieci składowe nałoone s pewne ograniczenia. Wycie złoone składane jest tu na poziomie neuronów wyjciowych. Zespoły tego typu uredniaj wyjcia wszystkich sieci składowych (zespół z urednieniem). Zespoły s wanym narzdziem walki z przeuczaniem si sieci; poprawiaj one moliwoci generalizacyjne modelu. Urednianie predykcji otrzymywanych z sieci o rónej strukturze, inaczej uczonych, uczonych na bazie innych przypadków, zmniejsza rozrzut wyników. Jest to prosta droga poprawy zdolnoci uogólniajcych. Z teorii wynika, e jako zespołu jest lepsza lub co najmniej równa redniej jakoci sieci składowych.

Rys. 1. Hybrydowa sie neuronowa ródło: Badania własne.

3. Modele prognozowania obcienia sieci wodocigowej

We współczesnych systemach monitoringu sieci wodocigowej brakuje modeli prognozujcych obcienie sieci. Obcienie sieci zmienia si cyklicznie w zalenoci od pory roku, dnia tygodnia czy pory dnia. Te zmiany maj wpływ na sterowanie sieci wodocigow, w szczególnoci na napełnianie i oprónianie zbiorników wyrównawczych zlokalizowanych w sieci. Przewidujc wiksze obcienie sieci powinno si odpowiednio wczeniej napełni

zbiorniki, podczas gdy mona je oprónia w przypadku mniejszego zapotrzebowania na wod [5].

Modele prognozowania przedstawiono jako modele złoone z prostych sieci neuronowych (liniowej sieci neuronowej, jednokierunkowej wielowarstwowej sieci neuronowej ze wsteczn propagacj błdu oraz sieci neuronowej o radialnych funkcjach bazowych) przy załoeniu rónej wiarygodnoci składowych sieci neuronowych.

Przygotowanie danych dla modeli predykcyjnych

Dokonano opracowania danych w formie czyszczenia i ich przekształcenia. Podzielono dane na okresy: dzie roboczy, sobota i niedziela. Uzupełniono brakujce wartoci. Pliki zawierały dane z 3 miesicy (około 2160 przykładów).

Dane zostały podzielone na zbiór uczcy (80% danych) i zbiór testujcy (20% danych). Dane s pogrupowane według roku, miesica, dnia, godziny. Znajc model obiektu naley okreli jego zachowanie dla rónych wymusze pojawiajcych si na wejciu tego obiektu. Interesujce jest okrelenie przyszłego stanu obiektu dla czasu t + n, gdzie n stanowi horyzont prognozy, t zawiera histori zmian wejcia do chwili biecej. Horyzont prognozy n = 1 oznacza 1 godzin. W celu zbudowania cigów czasowych, które dalej s wykorzystywane w modelu predykcyjnym zostały dodane wartoci przepływu sprzed chwili t (przepływ t − 1) i po t (przepływ t + 1). Badania przeprowadzono równie dla wartoci sprzed t (t − 24) i po t (t + 1), czyli prognozowania dobowego, które potwierdziło poprawno modeli. W tabeli 1 pokazano fragment pliku uczcego.

Tabela 1. Fragment pliku uczcego dla wzła Budziwój – niedziela

ródło: [3].

Porównanie modeli prognostycznych

Jakociowej oceny neuronowych modeli predykcyjnych dokonano, porównujc wykresy: rzeczywisty i prognozowany. Jest to czsto spotykana w literaturze metoda prezentacji wyników bada. Jednak dopiero ilociowe metody oceny modeli neuronowych umoliwiaj formułowanie bardziej obiektywnych wniosków. Zasadniczo ocen modeli neuronowych przeprowadzono dwuetapowo. W pierwszej fazie, po skonstruowaniu nauczonych sieci, do ich oceny uyto tzw. statystyk regresyjnych. Do statystyk regresyjnych, słucych do oceny modeli, po nauczeniu sieci, nale m.in. nastpujce metody oceny [1]:

• rednia (arytmetyczna) wyznaczona na podstawie rzeczywistych wartoci prognozowanej wielkoci,

• odchylenie standardowe, obliczone dla rzeczywistych danych,

Wejcie Wyjcie

Przepływ p w chwili

Rok Miesic Dzie Godzina

t−7 t−6 t−5 t−4 t−3 t−2 t−1 t t +1

2007 1 14 0 6 3 3 3 3 4 4 9 13

2007 1 14 1 3 3 3 3 4 4 9 13 15

• redni błd – przecitna warto rónic midzy wartociami prognozowanymi i rzeczywistymi,

• standardowe odchylenie błdów dla zmiennej prognozowanej,

• redni błd bezwzgldny (rednia z wartoci bezwzgldnych rónic, wartoci przewidywanych przez model oraz wartoci rzeczywistych).

• iloraz odchyle
standardowych – iloraz standardowego odchylenia błdów i odchylenia standardowego rzeczywistych danych (obu parametrów okrelonych wyej),

• korelacja (właciwie standardowy współczynnik korelacji Pearsona r) – wyznaczony dla wartoci rzeczywistych i wartoci przewidywanych.

W tabeli 2 pokazano wartoci wybranych metod oceny w postaci ilorazu odchyle oraz korelacji dla modeli predykcji dla prognoz tygodniowych.

Tabela 2. Wybrane metody oceny dla modeli predykcji dla prognoz tygodniowych

Model Iloraz odchyle Korelacja Sie MLP 0,214568 0,976767 Sie RBF 0,242507 0,978160 Sie liniowa 0,435582 0,900379 Zespół MLP i RBF 0,208445 0,978180 Zespół liniowa i MLP 0,289496 0,957724 Zespół liniowa i RBF 0,301637 0,953838 Zespół liniowa, MLP i RBF 0,253506 0,967962

Zespół MLP i RBF ze zróĪnicowaną wiarygodnoĞcią wag 0,197314 0,989180

Zespół liniowa i MLP ze zrónicowan wiarygodnoci wag 0,265466 0,969724

Zespół liniowa i RBF ze zrónicowan wiarygodnoci wag 0,283015 0,959838

Zespół liniowa, MLP i RBF ze zrónicowan wiarygodnoci wag 0,279806 0,962562

ródło: Badania własne.

Najwiksze znaczenie dla oceny jakoci modeli neuronowych ma iloraz odchy1e standardowych oraz korelacja wartoci rzeczywistych i prognozowanych, [6]. Ten pierwszy parametr dla utworzonych modeli powinien przyjmowa wartoci rzdu 0,1…0,2. Iloraz odchy1e o wartoci bliskiej zeru wiadczy o dobrej jakoci opracowanego modelu. Jeeli jest on wikszy od jednoci (lub jej bliski), to zaprojektowany model mona odrzuci. Trudno jednoznacznie okreli poprawno modelu, jeli iloraz odchyle mieci si w przedziale: 0,3…0,7.

Korelacja wartoci rzeczywistych i prognozowanych przyjmuje wartoci z przedziału od 0 do 1. Najlepiej jest, gdy jest ona zbliona do jednoci, [6].

W drugiej fazie, po nauczeniu sieci, przeprowadza si proces prognozowania. Uzyskuje si oprócz wartoci rzeczywistych, take predykcje zmiennej wyjciowej modelu. Pozwala to na wyznaczenie błdów ex post. Do wyliczenia błdów typu ex post naley dysponowa parami wartoci: rzeczywistych i wyznaczonych za pomoc danego modelu. Do najczciej stosowanych miar jakoci modeli neuronowych mona zaliczy: sum kwadratów reszt, błd redniokwadratowy oraz pierwiastek błdu redniokwadratowego, [2]. Okrelone w ten sposób miary jakoci błdów predykcyjnych modeli neuronowych zostały wykorzystane w fazie eksperymentów. Wartoci pierwiastka błdów redniokwadratowych uczenia i testowania zostały przedstawione w tabeli 3.

W tabeli 3 przedstawiono porównanie modeli prognostycznych przy uyciu hybrydowych sieci neuronowych ze zrónicowan wiarygodnoci kadej z prostych sieci przy okrelaniu ostatecznej decyzji zespołu sieci, podobnie jak w metodach eksperckich uwzgldnia si wiarygodno kadego z ekspertów (L-MLP, L-RBF, MLP-RBF i L-MLP-RBF). Do porównania modeli prognostycznych uyto takich parametrów, jak: jako uczenia, jako testowania, błd uczenia i błd testowania. Najlepszym modelem uznano model, który uzyskał najwiksz warto parametru jakoci uczenia i testowania oraz najmniejsz warto błdu uczenia i testowania.

Wiarygodno sieci w zespole sieci neuronowych została zrónicowana poprzez wprowadzenie wag. Te wagi uywane s przy głosowaniu i urednianiu. W ten sposób niektóre sieci neuronowe maj wikszy lub mniejszy wpływ na wynik kocowy. Wczeniejsze badania wykazały zrónicowan dokładno kadej sieci. Najlepsz sieci pod wzgldem klasyfikowania była sie RBF, troch gorsz sie MLP oraz najmniej dokładn sie liniowa. Dlatego dokonano zrónicowania wiarygodnoci sieci. Najwysz wag otrzymała sie RBF (waga = 1), a najnisz sie liniowa (waga = 0,1). Wagi zostały dobrane w sposób eksperymentalny.

Modele prognostyczne przetestowano dla wybranych wzłów sieci. Nie zauwaono potrzeby rónicowania modeli wzgldem rónych wzłów sieci. Najbardziej dokładnym modelem okazał si model oparty na sieci MLP-RBF, dlatego ten model proponowany jest do wspomagania sterowania parametrami sieci. Po wprowadzeniu zrónicowania wiarygodnoci sieci w zespole, jako przewidywania zespołu uległa poprawie w stosunku do modeli prognostycznych w postaci hybrydowych sieci neuronowych o równej wiarygodnoci [3].

Wyniki uzyskane z modeli predykcyjnych zostały porównane równie z rzeczywistymi wartociami obcienia sieci w przewidywanych przedziałach czasu.

Tabela 3. Porównanie modeli prognostycznych przy uyciu hybrydowych sieci neuronowych ze zrónicowan wiarygodnoci

Typ sieci Jako

uczenia Jako testowania Błd uczenia Błd testowania Liczba wej Liczba neuronów w warstwie ukrytej Wagi sieci składowych L-MLP 0,8557 0,8407 0,0827 0,0917 2x8 0,10 0,1; 0,5 L-RBF 0,9734 0,9622 0,0694 0,0671 2x8 0, 12 0,1; 1 MLP-RBF 0,9853 0,9772 0,0404 0,0427 2x8 10, 12 0,5; 1 L-MLP-RBF 0,9752 0,9675 0,0566 0,0575 3x8 0, 10, 12 0,1; 0,5; 1

ródło: Badania własne. 4. Podsumowanie

Wykorzystanie metod sztucznej inteligencji umoliwia utworzenie systemu wspomagania, który w sposób automatyczny pozyskuje wiedz i ma właciwo adaptacji. Jest to szczególnie wane przy opracowywaniu systemu dla złoonych systemów rzeczywistych, w których nastpuj cigłe zmiany i jedne podprocesy zale od innych oraz wiele czynników zaley jeden od drugiego i kada zmiana powoduje zmiany kolejne.

Korzyci ze stosowania metod sztucznej inteligencji wielokrotnie przekraczaj pracochłonno ich tworzenia. W rzeczywistoci najdłuszym etapem procesu ich tworzenia jest zgromadzenie i przygotowanie danych ródłowych, chocia poprzez automatyczne gromadzenie danych równie ten etap ulega skróceniu.

Zastosowanie sieci neuronowych w przewidywaniu obcienia sieci wodocigowej wprowadziło now jako do systemów informatycznych oraz moe sta si podstaw algorytmizacji nowych systemów zwanych „inteligentnymi”.

%LEOLRJUDILD

[1] Grzeszczyk T. A.: Sztuczna inteligencja we wspomaganiu procesu prognozowania w przedsibiorstwie. StatSoft Polska, Kraków 2005.

[2] Lula P.: Ocena modeli neuronowych wykorzystywanych w zagadnieniach modelowania i prognozowania. W: Klasyfikacja i analiza danych − teoria i zastosowania: (Jajuga K., Walesiak M., red.) Prace Naukowe Akademii Ekonomicznej, 874, Taksonomia 7, Wrocław 2000.

[3] Rojek I.: Wspomaganie procesów podejmowania decyzji i sterowania w systemach o rónej skali złoonoci z udziałem metod sztucznej inteligencji, Wydawnictwo UKW, Bydgoszcz 2010.

[4] Rutkowski L.: Metody i techniki sztucznej inteligencji, Inteligencja obliczeniowa, Wydawnictwa Naukowe PWN, Warszawa 2005.

[5] Studziski J., Bogdan L.: Informatyczny system wspomagania decyzji do zarzdzania, sterowania operacyjnego i planowania miejskiego systemu wodno-ciekowego, W: Rozwój i zastosowania metod ilociowych i technik informatycznych wspomagajcych procesy decyzyjne (Studziski J., Drelichowski L., Hryniewicz O., red.) Instytut Bada Systemowych Polska Akademia Nauk, Badania Systemowe, 49, Warszawa 2006, s. 149– 157.

[6] Tadeusiewicz R., Lula P.: Statistica Neural Networks 4.0 PL: Wprowadzenie do sieci neuronowych, StatSoft Polska, Kraków 2001.

FORECASTING THE LOAD OF WATER SUPPLY NETWORK

BY THE USE OF HYBRID NEURAL NETWORKS OF DIFFERENT CREDIBILITY Summary

The paper presents prognosis of the loading of water supply network by use of hybrid neural networks about differential credibility. Hybrid neural networks were created as forecasting models. The networks were created as composition of simple networks: linear neural network with multi-layer network with error back propagation (L-MLP), L network with Radial Basis Function network (L-RBF), MLP network with RBF network (MLP-RBF) and L network with MLP network and RBF network (L-MLP-RBF). The differentiation of the credibility of simple neural networks was indispensable with regard on their quality as models.

Keywords: hybrid neural network, forecasting model, water supply network. Izabela Rojek

Instytut Mechaniki i Informatyki Stosowanej Uniwersytet Kazimierza Wielkiego

ul. Chodkiewicza 30, 85-064 Bydgoszcz e-mail: izarojek@ukw.edu.pl