Ewolucja różnicowa Rój cząstek EDA

(1)

WAE

Jarosław Arabas

Ewolucja różnicowa

Rój cząstek

EDA

(2)

Ewolucja różnicowa

algorytm differential evolution

inicjuj P

0

← {

P

_1,0

P

₂0

... P

_μ0

}

H ← P

0

t ← 0

while ! stop

for (i∈1 :μ)

P

t_j

←

select (P

t

)

P

_kt

, P

_lt

←

sample (P

t

)

M

_it

←

P

t_j

+

F (P

_kt

−

P

_lt

)

O

_it

←

crossover (P

_it

, M

_it

)

H ← H ∪{O

_it

}

P

_it+ 1

←

tournament ( P

_it

,O

_it

)

t ← t+ 1

sample jest procesem wyboru

pary punktów z jednakowym p-stwem crossover jest operacją krzyżowania wymieniającego

(3)

Typy ewolucji różnicowej - klasyka

●

Typ selekcji

●

wybór losowego (rand)

●

wybór najlepszego w populacji (best)

●

Typ krzyżowania

●

dwumianowe (bin)

●

wykładnicze (exp)

●

Liczba par różnicowanych punktów – 1 albo 2

●

Konwencja oznaczeń: DE/rand/1/bin

(4)

Typy krzyżowania

procedure binomial crossover

arguments : x , y

for (i∈1: n)

if a< c

_r

z

_i

←

y

_i

else

z

_i

←

x

_i

return z

procedure exponential crossover

arguments : x , y

i ← 1

while (i≤n)

if a< c

_r

z

_i

←

y

_i

else break

while (i≤n)

z

_i

←

x

_i

return z

a jest zmienną losową o rozkładzie jednostajnym w (0,1)

(5)

Krzyżowanie wykładnicze a

jednopunktowe

0.062 -1.893 0.053 0.0759 0.631 -0.299 0.194 0.328 0.631 -0.299 0.053 0.328 1 1 0 1 Rodzic 1 Rodzic 2 Potomek wagi

(6)

Krzyżowanie wykładnicze a

jednopunktowe

1 1 0

1

W krzyżowaniu jednopunktowym rozkład prawdopodobieństwa pojawienia się przejścia między jedynką a zerem jest rozkładem jednostajnym

W krzyżowaniu wykładniczym rozkład ten jest rozkładem (prawie) wykładniczym wagi 1/5 1 1 0 1 1/5 1/5 1/5 1/5 1/2 1 1 0 1 1/4 1/8 1/16 1/16 p p2 _p3 _p4 _{dopełnienie do 1}

(7)

Krzyżowanie równomierne a

dwumianowe

0.062 -1.893 0.053 0.0759 0.631 -0.299 0.194 0.328 0.631 -0.299 0.053 0.0759 1 1 0 0 Rodzic 1 Rodzic 2 Potomek wagi

(8)

Krzyżowanie równomierne a

dwumianowe

1 1 0

0

W krzyżowaniu równomiernym prawdopodobieństwo pojawienia się jedynki i zera na każdej pozycjii jest równe 1/2

W krzyżowaniu dwumianowym te p-stwa są różne

W obu przypadkach, rozkład p-stwa pojawienia się k jedynek i n-k zer jest rozkładem Bernoulliego (wg angielskiej nomenklatury dwumianowym)

wagi 1/2 1 1 0 0 1 1 0 0 1-p_e 1/2 1/2 1/2 p_e p_e 1-p_e

(9)

DE/rand/1/bin

S1 S2 S3 S4 S5 S6 S7 S8 S9 S0

Strzałki między punktami Sx oraz Sy oznaczają,

że punkt Sy jest lokalną modyfikacją punktu Sx

S11S12S13 S14 S15 S16 S17 S18 S19

S10 S20

P

0

O

1

O

2

O

3

O

4

Cztery punkty wpływają na jeden Najlepszy punkt pierwszej pozycji populacji Najlepszy punkt drugiej pozycji populacji Najlepszy punkt trzeciej pozycji populacji

(10)

(11)

(12)

(13)

(14)

(15)

(16)

(17)

Ewolucja różnicowa

●

Inne metody selekcji

●

current-to-best

●

current-to-rand

●

rand-to-best

●

Krzyżowanie uśredniające

●

DE/either-or

KP

_it

+ (

1−K ) P

t_best

KP

_it

+ (

1−K ) P

t_j

KP

_bestt

+ (

1−K ) P

t_j

z=

{

P

i t

+

F (P

t_j

−

P

_kt

)

KP

_it

+ (1−K )( P

t_j

+

P

t_k

)

z p−stwem p

_F

z p−stwem 1− p

_F

}

z=KP

_it

+ (

1−K ) v

(18)

Algorytm ewolucyjny

wypukła funkcja celu

●

Model populacji nieskończonej

●

Dystrybuanta empiryczna punktów populacji

(skokowa) → dystrybuanta rozkładu

próbkowania (ciągła)

(19)

DE/rand/1

wypukła funkcja celu

●

Wariancja punktów po selekcji

●

Wariancja punktów po mutacji

●

Krzyżowanie zmienia wariancję (wzór dla bin)

●

v

_P

v

_O

=

v

_P

+

F

2

(

v

_P

+

v

_P

)=

v

_P

(1+ 2F

2

)

(20)

DE/rand/1

wypukła funkcja celu

-wariancja po sukcesji

(21)

DE/rand/1

wypukła funkcja celu

●

Wariancja punktów po sukcesji

●

Równowagowa wariancja populacji:

●

A dla alg. ewolucyjnego

(np. selekcja turniejowa, s=2, pc=0)

v

_P

(

t+ 1)=k ( F) v

_P

(

t )

0< k< 1

v

_P

(∞)=

0 v

_P

(∞)= π

2 v

m

(22)

(23)

(24)

Algorytm ewolucyjny

●

Algorytm ewolucyjny jest techniką adaptacji

rozkładu populacji

●

Celem jest maksymalizacja wartości

oczekiwanej jakości generowanych punktów

●

Środek populacji – najlepszy estymator

ekstremum lokalnego dla funkcji symetrycznej

(25)

Metoda EDA

Estimation of Distribution Algorithm

algorithm EDA

initialize(m

0,

C

0

)

H ← ∅

t ← 0

while ! stop

P

t

←

sample N (m

t

, C

t

)

H ← H ∪P

t

O

t

←

select ( P

t

)

(

m

t + 1

, C

t + 1

)←

update(O

t

, m

t

,C

t

)

t ← t+ 1

(26)

Metoda EDA

Estimation of Distribution Algorithm

●

UMDA (Univariate Marginal Distribution)

●

Wartość oczekiwana i wariancja estymowana z

próby jako

m(t+ 1)

_j

←

∑

i=1 μ

w (i) P

_ijt

C (t+ 1)

_jj

←

∑

i=1 μ

w (i)( P

_ijt

−

m(t+ 1)

_j

)

2

C (t+ 1)

_ij

=

0 i≠ j

w (i)=

q(P

i t

)

∑

q(P

_it

)

(27)

(28)

(29)

(30)

(31)

(32)

(33)

CMAES

Covariance Matrix Adaptation

Evolution Strategy

(34)

CMAES

Covariance Matrix Adaptation

Evolution Strategy

(35)

CMAES

Covariance Matrix Adaptation

Evolution Strategy

(36)

(37)

(38)

(39)

CMAES

evolution path

Podążanie w +/- zgodnych kierunkach

(40)

CMAES

Covariance Matrix Adaptation

Evolution Strategy

Na podstawie selekcji adaptuje się kształt macierzy kowariancji

Jej skala zależy od ścieżki ewolucji

(41)

Przeszukiwanie rojem cząstek

algorytm particle swarm

inicjuj P

0

← {

P

_1,0

P

₂0

... P

_μ0

}

inicjuj V

0

← {

V

_1,0

V

₂0

...V

_μ0

}

H ← P

0

t ← 0

while ! stop

g(t )← arg max

i ,t

q( P

i t

)

for (i∈1:μ)

b

_i

(

t) ← arg max

t

q (P

i t

)

V

_it + 1

←

a(V

_it

+

c(r

_g

(

g(t )−P

_it

)+

r

_l

(

b

_i

(

t )−P

_it

)))

P

_it+ 1

←

P

_it

+

V

_it+ 1

H ← H ∪P

t + 1

t ← t+ 1

a, c są parametrami typowo a=0.73, c=2.05

r

_g

,r

_l

~ U (0,1)

(42)

Przeszukiwanie rojem cząstek

S1 S2 S3 S4 S5 S6 S7 S8 S9 S0

Strzałki między punktami Sx oraz Sy oznaczają,

że punkt Sy jest lokalną modyfikacją punktu Sx

S11S12S13 S14 S15 S16 S17 S18 S19

S10 S20

(43)

(44)

(45)

(46)

(47)