Analiza semantycznych w la´sciwo´sci modu l´ ow w programowaniu genetycznym

(1)

Analiza semantycznych w la´sciwo´sci modu l´ ow w programowaniu genetycznym

Krzysztof Krawiec Bartosz Wieloch

12 Stycze´ n 2010

Krzysztof Krawiec, Bartosz Wieloch Analiza semantycznych w la´sciwo´sci modu l´ow w programowaniu genetycznym

(2)

Plan

1

Wprowadzenie

2

Modularno´s´ c w problemach optymalizacji

3

Wyniki

(3)

Wprowadzenie

(4)

S lownikowe definicje modu lu

element pe lni acy ustalon

_,

a funkcj

_,

e, latwy do wykorzystania

_,

jako cz e´s´

_,

c r´ o˙znych wi ekszych ca lo´sci

_,

wydzielony element uk ladu fiz. (np. komputera) spe lniaj acy

_,

okre´slon a funkcj

_,

e (mo˙ze by´

_,

c wymieniany na inny, np.

spe lniaj acy t

_,

e sam

_,

a funkcj

_,

e, cho´

_,

c o odmiennej budowie wewn.)

tak˙ze wydzielony fragment programu komputerowego, kt´ ory

mo˙zna wykorzystywa´ c w innych programach bez znajomo´sci

jego wewn. struktury, u˙zytego j ezyka programowania itp.

_,

(5)

S lownikowe definicje modu lu

Apple Dictionary:

1

A self-contained component (unit or item) that is used in combination with other components

2

Each of a set of standardized parts or independent units that can be used to construct a more complex structure, such as an item of furniture or a building.

3

[in computing]: any of a number of distinct but interrelated units from which a program may be built up or into which a complex activity may be analyzed.

(6)

S lownikowe definicje modu lu

Wikipedia:

Modularity is a general systems concept, typically defined as a continuum describing the degree to which a system’s

components may be separated and recombined. It refers to

both the tightness of coupling between components, and the

degree to which the “rules” of the system architecture enable

(or prohibit) the mixing and matching of components. Its use,

however, can vary somewhat by context.

(7)

Trudno o generyczn a definicj _, e modularno´sci _,

Przy nast epuj

_,

acych za lo˙zeniach:

_,

system sk lada si e z pewnych atomowych (elementarnych)

_,

komponent´ ow,

przez modu l rozumiemy podzbi´ or takich komponent´ ow do zamodelowania modularno´sci w danym kontek´scie niezb edne

_,

jest okre´slenie:

Jak rozumiemy powi azanie (coupling) pomiedzy

_,

komponentami?

Jak je mierzy´ c (tightness)?

(8)

Przyk lady

Obw´ od logiczny

Komponenty = bramki logiczne Powiazania = po l_, aczenia mi_, edzy nimi_,

Sztuczna sie´ c neuronowa

Komponenty = neurony

Powiazania = wagi l_, acz_, ace neurony (synapsy)_,

Inne: gene regulatory network, metabolic network

(9)

Pomiar modularno´sci

Przyk ladowa definicja miary modularno´sci [Newman & Girvan, 2004] (uproszczona, dla pojedynczego modu lu):

stosunek liczby kraw edzi l

_,

acz

_,

acych komponenty wewn

_,

atrz modu lu

_,

do ca lkowitej liczby kraw edzi w sieci minus warto´s´

_,

c oczekiwana tej samej wielko´sci w sieci o tym samym podziale komponent´ ow na modu ly ale losowymi po l aczeniami pomi

_,

edzy komponentami

_,

(10)

Dygresja: Sk ad modularno´s´ _, c wzi e la si _, e w naturze? _,

Kilka hipotez (niekoniecznie wykluczaj acych si

_,

e):

_,

hipotezy genetyczne:

duplikacja gen´ow prowadzaca do powielania podsystem´_, ow

hipotezy ´srodowiskowe:

presja selekcyjna preferujaca rozwi_, azania stabilne_, presja selekcyjna preferujaca rozwi_, azania odporne_, presja selekcyjna zmieniajaca si_, e w czasie_,

(11)

Motywacje dla badania modularno´sci

analityczne (poznawcze):

dane wej´sciowe: przyk ladowe dzia lajace z lo˙zone systemy_, cel: zdekomponowa´c system na modu ly (co polepszy nasze rozumienie go)

syntetyczne (’praktyczne’):

dane wej´sciowe: z lo˙zony problem bez znanych rozwiaza´_, n cele: polepszenie skuteczno´sci algorytm´ow przeszukiwania

poprawa zbie˙zno´sci (czas)

polepszenie skalowalno´sci (prawdopodobie´nstwo znalezienia rozwiazania)_,

(12)

Modularno´s´c w problemach

optymalizacji

(13)

Modularno´s´ c w problemach optymalizacji

Wcze´sniejsze przyk lady reprezentuj a modularno´s´

_,

c strukturaln a:

_,

struktura obiektu (sieci, projektu) bezpo´srednio determinuje jego modularno´s´ c (modularno´s´ c jest cech a rozwi

_,

azania).

_,

W problemach kt´ ore nas interesuj a modularno´s´

_,

c jest bardziej ukryta, tj. nie wynika wprost ze struktury (modularno´s´ c jest cech a

_,

problemu; modularno´s´ c funkcjonalna?).

Przyk lad uj ecia modularno´sci

_,

Wektor zmiennych stanowi acych rozwi

_,

azanie problemu

_,

optymalizacyjnego.

Komponenty = zmienne Modu l = zbi´ or zmiennych Powi azanie = ?

_,

(14)

Powi azanie _,

Mo˙zliwa definicja powi azania:

_,

niech S

_M

= zbi´ or wszystkich kombinacji warto´sci zmiennych w module M

niech O

_M

= zbi´ or kombinacji warto´sci zmiennych w module M kt´ ore s a optymalne ze wzgl

_,

edu na pozosta le zmienne

_,

(kontekst)

1 |OM| = 1 — modu l w pe lni separowalny

2 |OM| = |SM| — modu l w pe lni zale˙zny od kontekstu =⇒

brak modu lu

3 1 < |O_M| < |S_M| — modu l zale˙zny od kontekstu, ale nie w pe lni (interdependency)

hipoteza: w problemach praktycznych (3) najcz estsze

_,

Hierarchical Genetic Algorithm, HGA [deJong, Thierens, Watson]

(15)

HGA - prosty przyk lad?

x

₁

x

₂

f

0 0 0

0 1 1

1 0 1

1 1 2

x

₁

x

₂

f

0 0 0

0 1 1

1 0 1

1 1 0

x

₁

x

₂

x

₃

f

0 0 0 2

0 0 1 1

0 1 0 0

0 1 1 1

1 0 0 0

1 0 1 1

1 1 0 1

1 1 1 2

M

₁

= {x

₁

, x

₂

}M

₂

= {x

₃

}

f (x

₁

, x

₂

, x

₃

) = 1 × {x

₁

= x

₂

} + 1 × {max(x

₁

, x

₂

) = x

₃

} O

M1

= {(0, 0), (1, 1)} =⇒ 1 ≤ |O

M1

| < |S

_M₁

| = 4 Trudno´sci:

przewidziane dla zmiennych dyskretnych,

przetestowanie wszystkich ustawie´ n nierealne =⇒ sampling, skuteczne jedynie przy

´sci´sle

hierarchicznej strukturze

modu l´ ow.

(16)

Programowanie Genetyczne

Programowanie Genetyczne (ang. Genetic Programming) — wariant oblicze´ n ewolucyjnych w kt´ orym symulowanej ewolucji podlegaj a programy (wyra˙zenia).

_,

Funkcja przystosowania ocenia stopie´ n zgodno´sci rezultat´ ow zwracanych przez program (osobnika) z warto´sciami

po˙z adanymi, na zadanym zbiorze przypadk´

_,

ow/przyk lad´ ow (fitness cases).

Najbardziej popularna odmiana: programy reprezentowane przez drzewa wyra˙ze´ n.

Mutacja i krzy˙zowanie zdefiniowane analogicznie do reprezentacji wektorowych.

Typowe benchmarki:

synteza funkcji logicznych, regresja symboliczna.

(17)

Badanie modularno´sci w GP

Rozwi azanie = drzewo-wyra˙zenie definiuj

_,

ace pewne przetwarzanie

_,

danych

Komponenty = funkcje (operatory, w ez ly drzewa)

_,

Modu l = poddrzewo

Powi azanie = ?

_,

(18)

Modu ly w GP

Modu l = poddrzewo (fragment kodu)

sztywny podzia l struktury rozwi azania na cz

_,

e´sci:

_, modu l

kontekst (pozosta la cze´s´_, c rozwiazania)_,

(Inne definicje mo˙zliwe)

W sensie strukturalnym (syntaktycznym), ka˙zde poddrzewo w rozwi azaniu GP jest w pelni separowalne. Jednak w sensie

_,

semantycznym niekoniecznie (dla danego kontekstu istnieje wi ecej

_,

ni˙z jedno optymalne poddrzewo).

(19)

Dekompozycja - przyk lad latarki

G l´ owna idea

Niepotrzebna jest latarka, ˙zeby oceni´ c sam a bateri

_,

e.

_,

Znale´ z´ c miar e oceny modu lu (baterii) kt´

_,

ora jest niezale˙zna od kontekstu (latarki).

(20)

Idea

(21)

Jako´s´ c modu lu

Potrzebna jest funkcja (podcel) oceniaj aca u˙zyteczno´s´

_,

c konkretnego modu lu (jego implementacji)

Analogia:

rozwi azanie - optymalizuje funkcj

_,

e przystosowania

_,

modu l - optymalizuje wybran a funkcj

_,

e oceny modu lu

_,

Hipoteza: lepszy modu l lepsza ca lo´s´c rozwi azania

_,

(22)

Jako´s´ c modu lu - przyk lad latarki

Dobra miara oceny: pojemno´s´ c

Kiepska miara oceny: kolor

(23)

Monotoniczno´s´ c

Miara oceny wybranego podcelu:

stopie´ n zgodno´sci oceny ca lych rozwi aza´

_,

n z ocen a ich

_,

modu l´ ow

im wi eksza korelacja tym lepiej

_, korelacja Pearsona

wsp´o lczynnik korelacji Spearmana (niezale˙zno´s´c od warto´sci absolutnych)

...

skrajny przypadek: pe lna korelacja - znalezienie sposobu zupe lnego podzia lu problemu na niezale˙zne elementy (pe lna separowalno´s´ c)

(24)

Poj ecia - podsumowanie _,

Co do czego?

cel — do oceniania rozwi aza´

_,

n podcele — do oceniania modu lu

monotoniczno´s´ c — do oceniania podcelu (ze wzgl edu na

_,

rozwi azywany problem)

_,

(25)

Semantyka programu GP

opisuje efekt konkretnego uruchomienia programu:

lista par (dane wej´sciowe, wynik)

przy ustalonych danych wej´sciowych (zbi´or uczacy) semantyk_, e_, rozwiazania mo˙zna opisa´_, c lista (wektorem) odpowiedzi na_, poszczeg´olne przyk lady uczace_,

(26)

Wyniki

(27)

Przyk lad: problemy logiczne

Problemy:

Xor 3,4,6,8 bitowe OrAnd 3,4,6,8 bitowe

(OR (AND v1v2) v3)

(OR (AND v1v2) (AND v3v4))

(OR (OR (AND v1v2) (AND v3v4)) (AND v5v6))

(OR (OR (AND v1v2) (AND v3v4)) (OR (AND v5v6) (AND v7v8)))

(28)

Eksperymenty

zbi´ or funkcji (w ez ly drzewa):

_,

And, Or, Nand, Nor

maksymalna g l eboko´s´

_,

c drzewa: 17 definicja dekompozycji:

modu l — lewe poddrzewo korzenia kontekst — korze´n + prawe poddrzewo

dla 3 i 4 bitowych problem´ ow ma la d lugo´s´ c semantyki pozwala rozwa˙zy´ c wszystkie istniej ace (2

_, ⁸

oraz 2

¹⁶

) podcele

dla 6 i 8 bitowych problem´ ow konieczne jest pr´ obkowanie (badamy podzbi´ or wszystkich mo˙zliwych podcel´ ow)

monotoniczno´s´ c estymowana na podstawie miliona losowych

osobnik´ ow

(29)

Symetria

Problemy logiczne + u˙zyte funkcje (And, Or, Nand, Nor)

=

problemy z symetri a

_,

Niesymetryczna funkcja oceny rozwi azania:

_,

f (x ) := max(l − h(x, f), l − h(x, f))

Analogiczna modyfikacja do funkcji oceny modu lu:

f

P

(p) := max(l − h(p, f

P

), l − h(p, f

P

))

(30)

Rozk lady monotoniczno´sci (3-bit)

Monotonicity of Xor−3

monotonicity

01010100 01101001

−0.4−0.20.00.20.4

Monotonicity of Or−And−3

monotonicity

11101110 00011111

−0.4−0.20.00.20.4

(31)

Rozk lady monotoniczno´sci (4-bit)

monotonicity

0010001011110010 0110100110010110

−0.4−0.20.00.20.4

monotonicity

0000011001100000 0001000100011111

−0.4−0.20.00.20.4

(32)

Rozk lady monotoniczno´sci (6-bit)

monotonicity −0.4−0.20.00.20.4

(33)

Rozk lady monotoniczno´sci (8-bit)

(34)

Wybrane podcele

Najlepszy podcel

● ●

●

● ●● ● ●

● ● ●●● ● ●

●

●● ●

● ●

●

● ●●

●

●● ●

●● ● ●● ●

● ●

● ●● ● ●

● ●

●

● ●● ●

●●● ● ●● ●

●

● ●● ●

●

● ●

●

● ●

●

● ● ● ●

●

● ● ●

● ●

●

● ● ● ●

●

●●

● ● ●● ●●●

●

● ●

● ●●

●

● ●

●

● ●

● ● ●●

●

●●

● ● ●

● ● ● ● ●

●

●●

●● ● ●●●● ●

●

● ● ●●●

●

● ●

● ●●●● ●● ●

● ● ●●●

● ● ●

●

● ●● ●

●

● ●● ●● ●●

●

● ● ● ●

●

● ● ●●

●

●●

● ●

● ●●

● ●

●

● ●● ●●● ●● ●

●

● ●

●

●● ●● ●

● ● ●●●

●

●● ●

●●

● ●

●●

● ●●●● ●● ●● ● ●

●

● ●●●● ●●● ●●

●

● ●● ● ●●

●

● ●

●

● ●

●

● ● ●

●

●● ● ●

●●

●● ●

●

●●●

● ● ●

●

● ●●● ●● ●● ● ● ●

●

● ●

●

● ●

●

● ● ●

● ●●● ● ●● ●

●

● ● ●

●

● ●●

●

● ●●

● ●

● ● ●

●

● ● ●

● ●

● ● ●

● ●

●

● ● ●

● ●●

●

● ●

●

● ●

●

● ●

●

● ●

●

● ●● ●

●

● ●

●

● ● ●

●

● ●

●●● ● ●● ● ●

●

● ●

●

● ●●● ●● ●

●

● ●●●●● ●●● ● ●●● ● ●● ●

●

● ●

● ● ●

●

● ●

● ● ●

●

●●●

●

● ●

●

● ● ●

●

● ●

●

● ●

●

●●

● ●

●

● ●

●●● ●●●● ● ●●●

●

●● ●

●

● ●●● ●● ●

● ● ● ●

●

●● ●●

● ● ●

●

● ●●

● ● ● ●

● ● ●

●

● ●●●

●

● ●●●●● ● ●●●●● ● ●

●

● ●●

● ●

● ●● ●

●

● ●

●

● ● ● ●

●

● ●

● ●● ●

●

● ● ●

●

● ●

●

● ●●●● ● ● ●

●● ● ● ●

● ● ●

●

●●

●● ●● ● ●

● ●

● ●●●● ●●● ●● ●

●

● ● ● ●●

●

● ●

● ● ● ●

●

● ●●

●

● ●●

●● ● ●

● ●

●

● ●●● ● ●

●

● ●

●

● ●●●

●

● ● ●● ●

●

● ●

●

●● ● ●

●

● ● ●

●●● ●●●●●●● ●●●●●●● ●●●●● ● ● ●

●

● ●●●● ●● ●●●

●

● ●

● ●●

● ●

● ● ●●●● ●●● ●●●● ●● ●

●

● ● ● ●

● ●

●

● ●

● ● ●●● ●

●

● ●

● ● ●●●● ●●

● ●

●

● ● ●

●

● ● ●

● ●

●

● ●●

● ● ●● ●

● ●●● ●●●● ●●

●

● ●●● ●● ●●

● ●

●● ●● ● ●

●

●●● ●● ●

● ●

●

● ● ●

●

● ●

●

●● ● ●

●●● ●● ● ● ●

●

●● ●

● ●● ● ●● ●

●

● ● ●● ● ●●

●

● ●●●● ●● ●

●

● ●● ●● ●

●

● ●

● ● ●●●●● ●●

●

●●

●

● ● ●●

●

● ●

●

● ● ●

●

130 135 140 145

128129130131132133

Xor8 mon=0.1699987

(sim)

(fit)

Najgorszy podcel

● ●

●

● ● ●●●

● ●●● ● ●

● ●

●

● ●

●● ●

●

●●

●

● ●●

● ●

● ●● ●● ●●

● ● ●

● ● ● ●

●

● ●

●

● ●

●●● ●●● ●

●

● ● ●

●

● ●

●

● ●

●

● ● ●

●

● ● ●● ●

● ●● ●

●

● ● ●

●

●●● ●● ● ●

● ●

●

● ● ●●● ● ●

●

● ●

●

●●

●

● ●●●

● ● ●

●

● ●

●● ●

● ● ● ●

● ●●

●

● ●●

●

●● ●● ● ●

● ●

●

● ●●● ●

●

● ●

●●●● ●●●●● ●●●●●● ● ●● ●●●●

●

● ●

●

● ● ●

●

● ● ●

●

● ●

●●

●

● ●

●●

● ● ●

● ●

●

● ● ●

●

● ●

●

●●

● ● ●

● ●

●

●● ● ●● ●●● ●●●

●● ●●● ● ●●

●

●●

● ●● ●●

●

● ●

● ● ●

●

● ● ●● ● ●

●

● ●

●

● ●

●

● ● ●

●

● ●

●

● ● ● ● ●

● ●

●

● ●●

● ● ● ● ●

●

● ●

●

● ● ●●● ● ● ●

●

● ●

●

● ●

●

● ●

● ●● ●● ● ●

● ●

●

● ●

●

● ●●

●

● ● ●

● ●

●● ●

●

● ●● ●

● ● ● ●

●

● ●

●

● ●● ● ● ●●

●

● ●●

●

● ●

●

● ●● ●

●

● ● ●

●

● ●

●

● ●●

●

● ● ● ● ●

● ●

● ●● ●

● ●

● ●● ●

●

● ●●

●

● ● ●

● ●● ●● ● ●● ●

● ●

●

●● ● ●

● ●

●

●● ● ●● ●

●

● ● ●●

●

● ●

●

● ● ●● ●

● ●

●

● ●

●

● ● ● ●

● ● ●

●

● ● ●●

●● ● ●

●● ●● ●

●

● ●

●● ●

●

● ● ●

● ● ● ● ●

●● ●

●

● ●

●● ●

● ●

●

● ●

●

●● ●●●

●

● ● ●

● ●

●

●● ●●●●●● ●● ● ●● ●

●

● ●

● ● ●

●

● ● ● ●

●

● ●

●● ●

●

●● ● ●●

●

●● ●● ●

● ● ●

●

● ● ● ● ●

●

● ●

● ● ● ●

● ●●● ●● ●●● ●●

●

● ●●

●●● ●●●●● ● ●●●

● ●● ● ●

●

● ●●●

●

● ●●

● ● ●●

●

● ●

●

● ●

● ●● ●

● ● ●

●

● ●

● ● ●●● ●

●

● ●

●

● ● ●● ●

●

● ●● ● ●● ●●

●

● ● ● ●

● ● ●●●●●● ●●●●●● ●●●● ● ●

●

● ●

● ● ● ●

● ●● ● ●

●

● ●●

● ● ●●● ●● ●●● ●● ●●● ● ●●●

●

● ●

● ● ●

● ●

● ●● ●● ● ●●●

●

● ● ● ● ●

● ●

● ●● ● ●

●

● ● ●

●

● ● ● ●

● ●

●

● ●●●●●● ●●● ●● ● ●

● ● ●●

●

● ● ● ●

● ●● ●● ● ● ●

● ●● ●●●●● ● ●●● ● ● ●

●

●● ●

●

● ● ● ●

●

● ●

●●●● ●●● ● ● ●

●

● ● ●

● ● ●● ●● ●

●

● ● ● ●● ●● ●

●

● ● ● ● ● ● ●

●

● ●●● ●

●

● ●● ●

● ● ●

● ● ● ●●

●

●●

●

● ● ●

●

● ● ● ●●

●

● ●

●

130 135 140 145 150 155

128129130131132133

Xor8 mon=−0.14748244

(sim)

(fit)

Analiza semantycznych w la´sciwo´sci modu l´ ow w programowaniu genetycznym