Uliński,Żychowski,Fijałkowski,Okulewiczetal.GAPSO Jakwrócićdziśdodomu? DeﬁnicjaproblemuPSORozwójLiteratura

(1)

Definicja problemu PSO Rozwój Literatura

Jak wrócić dziś do domu?

(2)

Jak bym to rozwiązał?

(3)

Jak byśmy to rozwiązali?

(4)

Optymalizacja rojem cząstek:

hybrydyzacja i samoadaptacja

Mateusz Uliński, Adam Żychowski, Jakub Fijałkowski, Marcin Chudy, Piotr Jastrzębski, Marcin Bogucki, Artur

Niziołek, Jędrzej Krauze, Mateusz Zaborski, Hubert Kordulewski,

Michał Okulewicz

Wydział Matematyki i Nauk Informacyjnych Politechnika Warszawska

(5)

Plan prezentacji

1 Definicja problemu

2 PSO

Hybrydyzacja Adaptacja

3 Rozwój

(6)

Definition (Problem optymalizacyjny)

Problem optymalizacyjny P = (Ω, f , ) jest zdefiniowany przez przestrzeń rozwiązań Ω, funkcję jakości^a f : Ω → R oraz relację

∈ {<, >}. Rozwiązaniem problemu jest znalezienie zbioru elementów (elementu) X ⊆ Ω spełniającego następujące warunki:

X = {x ∈ Ω : ∀x⁰∈Ωf (x ) f (x⁰)}

aW zależności od dziedziny funkcja jakości może być też określana jako funkcja celu lub funkcja przystosowania.

Przestrzeń rozwiązań i typ problemu Podczas tej prezentacji uznajemy, że:

Ω := Rⁿ (1)

:=< (2)

(7)

Jaki jest najlepszy algorytm optymalizacji globalnej?

• Przeszukiwanie losowe?

• Hill climbing ?

• Pełzający symplex (Metoda Neldera-Meada)?

• Metody quasi-Newtonowskie (np. L-BFGS)?

• Algorytmy genetyczne / ewolucyjne?

• Inne metody populacyjne?

• Solvery programów liniowych (CPLEX itp.)?

• CMA-ES?

(8)

Jak rozwiązać wszystkie problemy jednym algorytmem?

• No free lunch in optimization (Wolpert and Macready, 1997)

• No free lunch in machine learning (Wolpert, 1996)

(9)

A zatem...?

(10)

A zatem...?

Wybierzmy taki, który daje przyzwoite wyniki i umiemy go

parametryzować

(11)

Optymalizacja rojem cząstek

• Inspirowana: Reynolds (1987)

• Wprowadzona: Kennedy and Eberhart (1995)

• Usprawniana: Shi and Eberhart (1998),

• Porządkowana: Bratton and Kennedy (2007)

• Analizowana: Van Den Bergh and Engelbrecht (2010)

Operatory przeszukiwania

xⁱ_t+1= xⁱ_t+ vⁱ_t+1. (3)

vⁱ_t+1= ω · vⁱ_t+ c₁· (pⁱ_best− xⁱ_t) + c₂· (neighborsⁱ_best− xⁱ_t) (4)

(12)

Jak dobierać jej parametry i sąsiedztwo?

• Prace: Cleghorn, Clerc, Engelbreht, Harrison, Poli (Harrison et al., 2017)

Równanie Poli’ego na zbieżność PSO c₁+ c₂ < 24(1 − ω)²

7 − 5ω (5)

(13)

Rejon zbiżeności Poli’ego

(14)

Od przybytku głowa nie boli

(15)

Od przybytku głowa nie boli c.d.

• Particle Swarm Optimization

• Charged PSO

• Quantum PSO

• Fully-Informed Swarm

• Local PSO

• Unified PSO

• Orthogonal Learning PSO

• Artificial Bee Colony

• Bat Algorithm

• Cuckoo search (via L´evy flights)

• Dog Group Wild Chase and Hunt Drive Algorithm

• Eagle strategy (using L´evy walk and firefly algorithms)

• Firefly algorithm

(16)

S¨ orensen na ratunek!

Metaheuristics – the metaphor exposed S¨orensen (2015)

Z polityki publikacyjnej Journal of Heuristics

Proposing new paradigms is only acceptable if they contain

innovative basic ideas, such as those that are embedded in classical frameworks like genetic algorithms, tabu search, and simulated annealing. The Journal of Heuristics avoids the publication of articles that repackage and embed old ideas in methods that are claimed to be based on metaphors of natural or manmade systems and processes. These so-called “novel” methods employ analogies that range from intelligent water drops, musicians playing jazz, imperialist societies, leapfrogs, kangaroos, all types of swarms and insects and even mine blast processes (S¨orensen, 2013).

(17)

Ale co z tego wynika...?

Spróbujmy poszukać alternatywnego sposobu poprawy jakości działania

algorytmów przez ich

hybrydyzację

(18)

Spojrzenie uogólnione

• Cząsteczki nie muszą być identyczne

• Każda cząsteczka ma aktualną pozycję x , prędkość v oraz najlepszą pozycję pbest (a potencjalnie pełną historię)

• Wszystkie cząsteczki mogą mieć dostęp do x i p_best innych

• Okulewicz (2016); Uliński et al. (2018):

vⁱ_t+1=ω · vⁱ_t+ c₁· (pⁱ_best− xⁱ_t)

+

|N |

X

k=1

|particles|

X

j =1,j 6=i

I (j th ∈ N_k(i th))c_{j ,k}⁰ · (p^j_best − xⁱ_t)

+

N

X

k=1

|particles|

X

j =1,j 6=i

I (j th ∈ Nk(i th))c_{j ,k}⁰⁰ · (x^j_t− xⁱ_t)

(6)

(19)

Inne algorytmy: Ewolucja różnicowa

• Wprowadzona: Storn and Price (1997)

• Od razu z założeniem wysokopoziomowej parametryzacji (DE/rand/1/bin, DE/best/1/bin)

Operatory przeszukiwania

y_t^{(i )}= x^{(i )}_t + F × (x_t⁽ⁱ²⁾− x⁽ⁱ_t¹⁾) (7) uⁱ_t= Bin_p(x^best_t , y_t^{(i )}) (8)

uⁱ_t =

uⁱ_t if f (uⁱ_t) < f (xⁱ_t)

xⁱ_t otherwise (9)

(20)

DE jako cząstka w uogólnionym PSO

x^{(i ,t+1)}_test = Bin(ωv + (pbest − x^{(i ,t)}_test), gbest) (10)

(21)

Mój przepis na hybrydę PSO + DE

• Losowe aplikowanie wzorów PSO (4) lub DE (10) niezależnie od wcześniejszej historii danego punktu

• Utrzymywanie cech cząsteczki: prędkości, położenia aktualnego i najlepszego znanego

(22)

Hybrydy PSO-DE

(23)

• Otwartym pytaniem pozostaje sposób wyboru procentowego udziału poszczególnych rodzajów cząsteczek / zachowań

• Przegląd metod adaptacji przydatnych w takim wyborze:

Sharma et al. (2018)

• W GAPSO użyto zliczania wartości sukcesów poszczególnych rodzajów:

z_t^s = max (0,f (p^s_best) − f (x^s_t)

f (p^s_best) ) (11)

ˆ

z_t^p= 1 Sp∗ N_a ∗

T −Na

X

t=T

X

s∈swarmp

z_t^s (12)

Z =

P

X

p

z_p (13)

[z₁ ,z₂

, . . . ,z_P

] (14)

(24)

Garść wyników: BBOB

(25)

Garść wyników: BBOB

(26)

Garść wyników: BBOB

(27)

Co dalej...?

(28)

Garść wyników: BBComp 1OBJ

(29)

Garść wyników: BBComp Expensive 1OBJ

(30)

Garść wyników: BBComp Expensive 1OBJ 64D

(31)

Literatura I

Daniel Bratton and James Kennedy. Defining a Standard for Particle Swarm Optimization. (Sis):120–127, 2007.

Kyle Robert Harrison, Andries P. Engelbrecht, and Beatrice M.

Ombuki-Berman. An adaptive particle swarm optimization algorithm based on optimal parameter regions. In 2017 IEEE Symposium Series on Computational Intelligence (SSCI), pages 1–8. IEEE, nov 2017.

ISBN 978-1-5386-2726-6. doi: 10.1109/SSCI.2017.8285342. URL http://ieeexplore.ieee.org/document/8285342/.

James Kennedy and Russell C. Eberhart. Particle Swarm Optimization.

Proceedings of IEEE International Conference on Neural Networks. IV, pages 1942–1948, 1995.

(32)

Literatura II

Michał Okulewicz. Finding an Optimal Team. In Position Papers of the 2016 Federated Conference on Computer Science and Information Systems, pages 205–210, oct 2016. doi: 10.15439/2016F465. URL https://fedcsis.org/proceedings/2016/pliks/465.pdfhttps:

//fedcsis.org/proceedings/2016/drp/465.html.

Craig W Reynolds. Flocks, herds and schools: A distributed behavioral model. SIGGRAPH Comput. Graph., 21(4):25–34, 1987. ISSN 0097-8930. doi: 10.1145/37402.37406. URL

http://doi.acm.org/10.1145/37402.37406.

Mudita Sharma, Manuel López-Ib´a˜nez, and Dimitar Kazakov.

Performance Assessment of Recursive Probability Matching for Adaptive Operator Selection in Differential Evolution. pages 321–333.

Springer, Cham, sep 2018. doi: 10.1007/978-3-319-99259-4˙26. URL http://link.springer.com/10.1007/978-3-319-99259-4{_}26.

(33)

Literatura III

Yuhui Shi and Russell C. Eberhart. Parameter selection in particle swarm optimization. Proceedings of Evolutionary Programming VII (EP98), pages 591–600, 1998. doi: 10.1007/BFb0040810. URL

http://link.springer.com/10.1007/BFb0040810.

Kenneth S¨orensen. Metaheuristics-the metaphor exposed. International Transactions in Operational Research, 22(1):3–18, 2015. ISSN 14753995. doi: 10.1111/itor.12001.

Rainer Storn and Kenneth Price. Differential Evolution – A Simple and Efficient Heuristic for global Optimization over Continuous Spaces.

Journal of Global Optimization, 11(4):341–359, 1997. ISSN 0925–5001. doi: 10.1023/A:1008202821328. URL

http://dx.doi.org/10.1023/A{%}3A1008202821328.

(34)

Literatura IV

Mateusz Uliński, Adam Żychowski, Michał Okulewicz, Mateusz Zaborski, and Hubert Kordulewski. Generalized Self-adapting Particle Swarm Optimization Algorithm. In Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics), volume 3242, pages 29–40, 2018. doi:

10.1007/978-3-319-99253-2˙3. URL

http://link.springer.com/10.1007/978-3-319-99253-2{_}3.

Frans Van Den Bergh and Andries Petrus Engelbrecht. A convergence proof for the particle swarm optimiser. Fundamenta Informaticae, 105 (4):341–374, 2010. ISSN 01692968. doi: 10.3233/FI-2010-370.

David H. Wolpert. The Lack of a Priori Distinctions between Learning Algorithms. Neural Computation, 8(7):1341–1390, 1996. ISSN 08997667. doi: 10.1162/neco.1996.8.7.1341.

(35)

Literatura V

David H. Wolpert and William G. Macready. No free lunch theorems for optimization. IEEE Transactions on Evolutionary Computation, 1(1):

67–82, 1997. ISSN 1089778X. doi: 10.1109/4235.585893.