Schematy Twierdzenie o schematach
Algorytmy stochastyczne, wykład 04
Algorytmy genetyczne, Dlaczego w ogóle działają?
Twierdzenie o schematach
Jarosław Piersa
Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika
2014-03-13
1 Schematy Definicja
Wpływ selekcji na przeżywalność schematu Wpływ krzyżowań
Wpływ mutacji
2 Twierdzenie o schematach Twierdzenie o schematach
Schematy Twierdzenie o schematach
Definicja
Wpływ selekcji na przeżywalność schematu Wpływ krzyżowań
Wpływ mutacji
Schemat
schemat to ciąg znaków {0, 1, ∗}N np: [0, 0, ∗, 1, ∗]
dla czytelności zaznaczamy początek i koniec schematu oraz rozdzielamy symbole przecinkami
Chromosom należy do schematu
Chromosom x należy do schematu s, jeżeli:
x ma zera na pozycjach gdzie schemat ma zera x ma jedynki na pozycjach gdzie schemat ma jedynki Innymi słowy: pokrywa się na symbolach ustalonych, może być dowolny gdy na pozycji jest ∗,
Uwaga! ∗ oznacza tylko pojedynczy gen, a nie dowolny ciąg
Schematy Twierdzenie o schematach
Definicja
Wpływ selekcji na przeżywalność schematu Wpływ krzyżowań
Wpływ mutacji
Chromosom należy do schematu
x = [0, 1, 0], y = [0, 0, 0]
schemat s1= [0, 1, ∗]
czy x i y należą do s1?
schemat s2= [∗, ∗, 0] czy x i y należą do s2?
Chromosom należy do schematu
x = [0, 1, 0], y = [0, 0, 0]
schemat s1= [0, 1, ∗]
czy x i y należą do s1? schemat s2= [∗, ∗, 0]
czy x i y należą do s2?
Schematy Twierdzenie o schematach
Definicja
Wpływ selekcji na przeżywalność schematu Wpływ krzyżowań
Wpływ mutacji
Obserwacje
jeżeli w schemacie jest dokładnie m symboli ∗, to taki do schematu jest dopasowanych 2m różnych chromosomów
chromosom długości N bitów należy do 2N różnych schematów wszystkich schematów jest 3N, ale niektóre się zawierają w innych, np.
[∗, 0, 0, 1, ∗] zawiera się w [∗, 0, ∗, 1, ∗]
Pomysł
zamiast szacować szanse przeżycia dobrego chromosomu, oszacujemy liczbę wystąpień dobrego schematu
Schematy Twierdzenie o schematach
Definicja
Wpływ selekcji na przeżywalność schematu Wpływ krzyżowań
Wpływ mutacji
Wpływ selekcji
Oznaczmy:
c(s, t) = liczba chromosomów w populacji Pt, które spełniają schemat s
F (s, t) = średnie dostosowanie chromosomów w populacji Pt, które spełniają schemat s
F (s, t) = P
¯ x ∈Pt∩s
F (¯x ) c(s, t)
F (t) = średnie dostosowanie wszystkich chromosomów w¯ populacji Pt
F (t) =¯ P
¯ x ∈Pt
F (¯x )
|Pt|
Wpływ selekcji
Oznaczmy:
wybieramy M(t) osobników, które przetrwały i będą krzyżowane każdy osobnik x ma szanse dostania się do na pozycję w M(t)
P(M(t) = x ) = F (¯x ) P
¯
y ∈PtF (¯y )
prawdopodobieństwo, ze osobnik x zgodny z s dostanie się do M(t):
P(Mi(t) ∈ s) = c(s, t) · F (s, t) P
¯
y ∈PtF (¯y )
Schematy Twierdzenie o schematach
Definicja
Wpływ selekcji na przeżywalność schematu Wpływ krzyżowań
Wpływ mutacji
Wpływ selekcji
w M(t) jest N miejsc, każde zajęte przez osobnika z s z p-em P(Mi(t) ∈ s)
oczekiwana liczba osobników zgodnych z s w M(t)
E(|M(t)| ∩ s) = N · c (s, t) · F (s, t) P
¯
y ∈Pt F (¯y ) E(|M(t)| ∩ s) = c (s, t) · F (s, t)
F (t)¯
Oznaczenia
rząd schematu (order ) o(s) = liczba symboli ∗
rozpiętość (defining length) d (s) = odległość między pierwszą a ostatnią „nie-∗” w schemacie
d ([∗, ∗, 1, ∗]) = 0 d ([0, ∗, 1, ∗]) = 2
Schematy Twierdzenie o schematach
Definicja
Wpływ selekcji na przeżywalność schematu Wpływ krzyżowań
Wpływ mutacji
Wpływ krzyżowań
prawdopodobieństwo zniszczenia schematu podczas krzyżowania
≤ pc d (s) N − 1 pc — p-o krzyżowania
d (s)/N − 1 — p-o wyboru punktu cięcia, który przetnie schemat prawdopodobieństwo zachowania schematu podczas krzyżowania
≥ 1 − pc d (s) N − 1
Wpływ mutacji
prawdopodobieństwo zachowania schematu podczas mutacji (1 − pm)o(s)
jeżeli pm 1 , to możemy przybliżyć:
' (1 − pm· o(s)) pm — p-o mutacji
o(s) — rząd schematu (liczba ∗)
Schematy
Twierdzenie o schematach Twierdzenie o schematach
Przeżycie schematu
oczekiwana liczba schematów zgodnych z s w następnej populacji
E(c (s, t + 1)) ≥ c (s, t)F (s, t) F (t)¯ ·
1 − pc d (s) N − 1
· (1 − pm)o(s) przybliżamy wpływ mutacji:
E(c (s, t + 1)) ≥ c (s, t)F (s, t) F (t)¯ ·
1 − pc
d (s) N − 1
· (1 − o(s)pm)
Przeżycie schematu
przybliżamy wpływ mutacji:
E(c (s, t + 1)) ≥ c (s, t)F (s, t) F (t)¯ ·
1 − pc
d (s)
N − 1 − o(s)pm+ +pmpc
d (s)o(s) N − 1
pomijamy ostatni wyraz:
E(c (s, t + 1)) ≥ c (s, t)F (s, t) F (t)¯ ·
1 − pc
d (s)
N − 1 − o(s)pm
Schematy
Twierdzenie o schematach Twierdzenie o schematach
Przeżycie schematu
jeżeli schemat s jest dostosowany powyżej średniej, to F (s, t) > ¯F (t) ⇐⇒ F (s, t)
F (t)¯ > 1 jeżeli s ma małą rozpiętość i niski rząd
d (s) N ⇐⇒ d (s) N − 1 1 O(s) N ⇐⇒ pmo(s) 1 to
0 1 − pc
d (s)
N − 1 − o(s)pm < 1
Przeżycie schematu
jeżeli schemat s jest dostosowany powyżej średniej oraz o niskim rzędzie i małej długości
r := F (s, t) F (t)¯ ·
1 − pc
d (s)
N − 1 − o(s)pm
> 1 wówczas zachodzi
c(t + 1, s) = c(t, s) · r
Tzn. oczekiwana liczba schematów zgodnych z s w populacji Pt+1jest r > 1 razy większa niż w populacji Pt
Schematy
Twierdzenie o schematach Twierdzenie o schematach
Przeżycie schematu
mamy
c(t + 1, s) = c(t, s) · r
jeżeli r > 1 nie zależy od epoki lub jest w przybliżaniu stałe (co nie jest do końca uzasadnione), to
c(t+1, s) = c(t, s)·r = c(t−1, s)r2 = c(t−2, s)r3= ...c(0, s)rt+1 zatem oczekiwana liczba schematów zgodnych z s rośnie
wykładniczo z czasem
Twierdzenie o schematach
co kończy dowód następującego twierdzenia Theorem (Twierdzenie o schematach)
Schematy niskiego rzędu (o(s) N), niskiej rozpiętości (d (s) N) i dostosowaniu powyżej średniej (F (s, t) >F (t)) wykładniczo¯ zwiększają liczbę swoich reprezentantów w kolejnych populacjach.
Schematy
Twierdzenie o schematach Twierdzenie o schematach
Źródła
Z. Michalewicz, Algorytmy genetyczne + struktury danych = programy ewolucyjne, WNT, Warszawa 1996
D. Rutkowska, M. Piliński, L. Rutkowski, Sieci neuronowe, algorytmy genetyczne i systemy rozmyte, PWN, Warszawa 1997