Metoda sympleksu Neldera-Meada

W metodzie Neldera-Meada poszukiwanie rozwiązania optymalnego funkcji n zmiennych rozpoczyna się od wybrania n+1 punktów stanowiących wierzchołki startowego sympleksu, w odróżnieniu od innych metod optymalizacji wielowymiarowej, w których poszukiwanie rozwiązania optymalnego rozpoczyna się z jednego wybranego punktu startowego. Definicję sympleksu można przedstawić w następujący sposób [Kus2009], [Aro2004]:

„Sympleksem n - wymiarowym o n+1 wierzchołkach p0, p1, p2, …, pn nazywamy najmniejszy zbiór wypukły zawierający te punkty, przy czym zbiór {pj – p0 : 1 ≤ j ≤n}

musi składać się z wektorów liniowo zależnych.”

Jak przedstawiono na rysunku 3.1.1.1a, w przestrzeni dwuwymiarowej sympleksem jest dowolny trójkąt. Natomiast w przestrzeni trójwymiarowej sympleksem będzie dowolny czworościan.

Pierwszy algorytm typu sympleks został zdefiniowany przez Spandley’a w 1962. Następnie w 1965 Nelder i Mead ulepszyli tę metodę dodając do niej operacje geometryczne takie jak: odbicie, ekspansję, zawężenie i redukcję. W ten sposób wierzchołek, w którym wartość funkcji celu była największa („najgorszy wektor”) zostaje zastąpiony przez inny - „lepszy”. Dzięki temu sympleks coraz bardziej zbliża się

3. Metody optymalizacyjne

45 do minimum lokalnego badanej funkcji. Korzystając z operacji, które przyśpieszają proces optymalizacji, sympleks deformuje się w taki sposób, aby jak najlepiej przystosować się do funkcji celu [Nel1965].

Poszukiwanie minimum funkcji celu musi być poprzedzone analizą, w wyniku której wierzchołki, w których funkcja celu przyjmuje najmniejszą i największą wartość, zostaną oznaczone w następujący sposób [Kus2009]:

 pmin – wierzchołek, w którym funkcja celu przyjmuje najmniejszą minimalizacji funkcji celu. W każdej iteracji można wyróżnić następujące etapy:

odbicie, ekspansja, zawężenie oraz redukcję. Wszystkie etapy zostały szczegółowo opisane w publikacjach [Nel1965], [Kus2009] i [Wei2009].

Odbicie – polega na wyznaczeniu punktu, który jest symetrycznym obrazem punktu pmax względem punktu p . Nowy punkt jest oznaczany, jako p_odb (Rys. 3.1.1.1b), a jego współrzędne są wyznaczane według zależności:

p + p (3.1.1.4)

Rys. 3.1.1.1 (a) Sympleks początkowy z wierzchołkami p , p1, p2, gdzie ( (p ) (p2) (p1)), (b) Sympleks: etap odbicia

Wartość współczynnika odbicia zawiera się w przedziale , zazwyczaj jednak przyjmuje się .

46 Po etapie odbicie, w zależności od wartości funkcji celu w punkcie , należy rozważyć kilka wykluczających się przypadków (3.1.1.5), (3.1.1.6) i (3.1.1.7), które wyznaczają kierunek dalszych poszukiwań w danej iteracji:

, (3.1.1.5)

, (3.1.1.6)

,

(3.1.1.7) Jeśli w obliczonym punkcie funkcja celu przyjmuje wartość (3.1.1.5) wtedy odbicie jest akceptowalne. Nowy sympleks zostaje utworzony przez zastąpienie wierzchołka wierzchołkiem . Następnie indeksy min, max oraz położenie punktu p zostają zaktualizowane i jeśli warunek stopu, który będzie opisany później, nie jest spełniony rozpoczyna się nowa iteracja od nowego odbicia.

Ekspansja – Zakładamy, że po każdym odbiciu jest spełniona nierówność (3.1.1.6) co oznacza, że wierzchołek, który został znaleziony podczas odbicia jest lepszy niż punkt (jest bliższy minimum funkcji celu ). Sugeruje to dalsze poszukiwania minimum w tym kierunku. Z tego powodu nie akceptujemy odbicia i kontynuujemy obliczenia wykonując ekspansję (Rys. 3.1.1.2). Nowy punkt jest wyznaczany i oznaczany jako :

p + p (3.1.1.8)

gdzie 1 jest współczynnikiem ekspansji (zazwyczaj ). Następnie wartość funkcji celu w nowym punkcie jest obliczana i:

 jeżeli to ekspansja jest udana, nowy sympleks jest tworzony w taki sposób, że zostaje zastąpione przez (nowy sympleks składa się z wierzchołków , p2, – Rys. 3.1.1.2a); następnie min i max oraz położenie punktu p są aktualizowane. Po sprawdzeniu warunku stopu może rozpocząć się nowa iteracja;

 w przeciwnym razie, gdy , jest zastępowane przez

(nowy sympleks składa się z wierzchołków , p2, – Rys.

3.1.1.2b) następnie postępujemy jak poprzednio (indeksy są aktualizowane, sprawdzany jest warunek stopu i może rozpocząć się kolejna iteracja)

3. Metody optymalizacyjne

47 Rys. 3.1.1.2 Etapy ekspansji: udana (a), nieudana (b) (nowo utworzony sympleks jest zakreskowany)

Zawężenie - Odbicie nie może być zaakceptowane również w przypadku, gdy , nierówność (3.1.1.7). W takiej sytuacji odbywa się zawężenie sympleksu, którego nowy wierzchołek jest obliczany według zależności

p + p (3.1.1.9)

gdzie współczynnik zwężenia przyjmuje wartość , zazwyczaj =0.5 (Rys.

3.1.1.3a).

Jeżeli punkt prowadzi do poprawy, to znaczy , to punkt jest zastępowany przez punkt i nowy sympleks zostaje utworzony (składa się z wierzchołków , p2, ). Następnie aktualizowane są indeksy. Po sprawdzeniu warunku stopu może rozpocząć się nowa iteracja.

Redukcja - Ten etap występuje w przypadku, gdy po wykonaniu zawężenia jest spełniona nierówność (3.1.1.10):

(3.1.1.10)

W tej sytuacji punkt pozostaje niezmieniony, a cały sympleks ulega redukcji według wzoru (3.1.1.11):

+ , i , 1, , n, i min (3.1.1.11) gdzie jest współczynnikiem redukcji i zazwyczaj przyjmuje wartość (Rys. 3.1.1.3b). Sympleks, który powstał z nowo otrzymanych punktów p , , p_n, zostaje użyty do następnej iteracji (jeśli warunek stopu nie został wypełniony).

48 Rys. 3.1.1.3 (a) Etap zwężenia (jeśli zawężenie się powiodło to do dalszych obliczeń jest przyjmowany zakreskowany sympleks), (b) Etap redukcji (nowo utworzony sympleks jest zakreskowany)

Na potrzeby artykułu użyto dwóch warunków stopu. Pierwszy zatrzymuje obliczenia, gdy bezwzględna wartość różnicy między i jest mniejsza niż dokładność rozwiązania:

abs (3.1.1.12) Drugi warunek stopu zatrzymuje obliczenia, gdy liczba iteracji przekroczy maksymalną założoną liczbę iteracji

step maxstep. (3.1.1.13)

Poniżej przedstawiono algorytm Neldera-Meada [Kus2009]:

Dane wejściowe:

Sympleks początkowy z wierzchołkami: p0, p1, ..., pn, Współczynniki:

2: oblicz wartość funkcji w wierzchołkach sympleksu: p0, p1, ..., pn

3: znajdź , (min max)

3. Metody optymalizacyjne zaimplementowano algorytm Neldera-Meada. Jednym z przykładów jest wykorzystanie algorytmu w postaci GBNM (Globalized Bounded Nelder-Mead) w optymalizacji inżynierskiej. W artykule Luersen i współautora [Lue2004a] opisano globalne podejście do optymalizacji rzeczywistej przy użyciu procedury restartu. Algorytm w postaci GBNM może być stosowany dla funkcji nieciągłych, niewypukłych. W celu przyśpieszenia poszukiwania globalnego wynaleziono procedurę ulepszonego restartu.

Procedura ta została następnie ulepszona i wykorzystana w artykule [Hos2007] do optymalizacji wspornika wykonanego z kompozytu. W badaniach wykorzystano jednowymiarową adaptacyjną funkcję prawdopodobieństwa oraz nieliniowe ograniczenia. Dzięki temu metoda ta stała się bardziej wydajna niż algorytm ewolucyjny, co potwierdziły badania. W artykule [Nan2 9] można znaleźć analizę porównawczą algorytmu Meada z restartami lokalnymi. Metoda Neldera-Meada została wykorzystana również w celu skutecznego wykrywania wielokrotności minimów globalnych.

50