Rozwiązywanie równań nieliniowych

Rozwiązywanie równań nieliniowych

Marcin Orchel

1 Wstęp

Przykłady wyznaczania miejsc zerowych funkcji f : f (ξ) = 0. Wyszukiwanie miejsc zero- wych wielomianu n-tego stopnia. Wymiar tej przestrzeni wektorowej to n + 1. Przykład 2: dowolna funkcja f : Rⁿ→ Rⁿ, gdzie x^T = (x₁, . . . , x_n),

f (x) =







f1(x₁, . . . , xn) ... fn(x₁, . . . , xn)





 (1)

Rozwiązanie zadania f (x) = 0 oznacza rozwiązanie układu równań

fi(x₁, . . . , xn) = 0 (2)

dla i = 1, . . . , n. Możemy również zapisać zagadnienie brzegowe jako zagadnienie wyzna- czania zer. Gdy funkcja f : E → F jest zdefiniowana tak, że E to przestrzeń wektorowa funkcji x(t) ∈ C²(a, b), a F to przestrzeń wektorowa funkcji i skalar

E := C²(a, b) (3)

F := C (a, b) × R (4)

f (x) =

"

f1(x) f2(x)

#

(5) gdzie

f1(x (t)) := x⁰⁰(t) − g x⁰(t) , x (t) , t
(6)

f2(x) := R (x (a) , x (b)) (7)

gdzie R : R²→ R, g : R³ → R. Zauważmy, że ξ ∈ E takie, że f (ξ) = 0 jest rozwiązaniem zagadnienia brzegowego

x⁰⁰(t) = g x⁰(t) , x (t) , t
(8)

R (x (a) , x (b)) = 0 (9)

1.1 Metody iteracyjne

Mamy funkcję f : E → F oraz iteracyjną φ : E → E, wartość początkową x₀ ∈ E,

x_i+1:= φ (x_i) (10)

dla i = 0, 1, 2, . . .. Wartości x_i są kolejnymi przybliżeniami wartości ξ takiej, że f (ξ) = 0.

Jeśli ξ jest punktem stałym funkcji φ, tzn. φ(ξ) = ξ i wszystkie punkty stałe funkcji φ są także zerami funkcji f , jak również φ jest funkcją ciągłą (w otoczeniu punktu stałego ξ), to każdy punkt skupienia ξ ciągu x_i jest punktem stałym funkcji φ, a stąd także miejscem zerowym funkcji f .

1.2 Metoda stycznych (iteracyjna Newtona) Dla równań postaci

f (x) = 0 (11)

wzór jest następujący

x_n+1= x_n− f (x_n) f⁰(x_n) .

Konieczna jest więc znajomość wartości funkcji oraz pochodnych.

Dowód. Wyprowadzenie wzoru, ze wzoru Taylora

f (x) = f (x₀) + (x − x₀) y⁰(x₀) +(x − x₀)²

2 y⁰⁰(x₀) + . . . +(x − x₀)ⁿ

n! y⁽ⁿ⁾(x₀) + . . . lub inaczej zapisany

∞

X

n=0

1

n!f⁽ⁿ⁾(x₀) (x − x₀)ⁿ

Szukamy zera ξ funkcji f . Gdy weźmiemy pod uwagę tylko dwa pierwsze składniki oraz fakt, że wartość w poszukiwanym punkcie wynosi 0 otrzymujemy równanie

f (ξ) = 0 = f (x₀) +^ξ − x¯ ₀^f⁰(x₀)

gdzie ¯ξ jest pewnym przybliżeniem zera funkcji f . Po przekształceniu ξ − x¯ 0= −f (x0)

f⁰(x₀) i

ξ = x₀− f (x₀) f⁰(x₀)

Jeśli x jest przybliżeniem ξ (zostawienie tylko jednego składnika we wzorze Taylora), to wzięcie dwóch składników ze wzoru Taylora powinno być lepszym przybliżeniem ξ

¯¯

ξ = x₀−f⁰(x₀) ± q

(f⁰(x₀))²− 2f (x₀) f⁰⁰(x₀)

f⁰⁰(x₀) (12)

Warunek konieczny zbieżności metody Newtona:

f⁰(x) 6= 0 . (13)

Warunek wystarczający zbieżności:

f (x) f⁰⁰(x) f⁰²(x)

≤ K < 1 ,

gdzie K jest stałe. Warunki muszą być spełnione w otoczeniu rozwiązania x^∗ zawierają- cym wszystkie punkty x_n oraz x^∗.

Interpretacja geometryczna: styczne do f (x) w punktach x_i wyznaczają kolejne punkty iteracji w miejscu przecięcia stycznej z osią Ox. Inaczej funkcja f zostaje za- stąpiona wielomianem pierwszego stopnia P₁(x), który ma taką samą pochodną jak funkcja f w punkcie x₀. Czyli wielomianem pierwszego stopnia będzie

f (x0) + (x − x₀) f⁰(x₀) = 0 (14) Widzimy, że współczynnik kierunkowy jest rzeczywiście równy pochodnej funkcji f w punkcie x₀. Dla wzoru Taylora z dwoma składnikami funkcja f zostaje zastąpiona wie- lomianem drugiego stopnia P₂(x), który ma taką samą pierwszą i drugą pochodną w punkcie x₀ co funkcja f . Widzimy, że metoda Newtona sprowadza się do odpowiedniego układu równań (przechodzenie przez dany punkt i równość pochodnych).

Przykład 1. Przykład. Narysować dwie funkcje wraz z punktami początkowymi tak, aby dla pierwszej z nich metoda Newtona była zbieżna, a dla drugiej nie.

Przykład 2. Przykład:

f (x) = x²− a (15)

x_n+1= x_n−x²_n− a

2x_n (16)

xn+1 = 1

2xn+ a

2x_n (17)

xn+1= 1 2



xn+ a xn



(18) Wzór może służyć do obliczenia pierwiastków, np. √

7 ≈ 2.65, a = 7. Przykładowo zaczynamy od x₀ = 2,

x₁ = 1 2

 2 +7

2



= 2.75 x2 = 1

2



2.75 + 7 2.75



= 2.65

Metodę tą można stosować również dla układu równań nieliniowych.

1.3 Zbieżność metody iteracyjnej

Jeśli równanie f (x) = 0 można sprowadzić do postaci

x = F (x) (19)

to kolejne przybliżenia rozwiązania dostajemy ze wzoru:

x_n+1= F (x_n) , (20)

gdzie x₀ jest dane.

Metoda ta jest zbieżna do rozwiązania x^∗, jeśli istnieje otoczenie punktu x^∗ takie,

że: 

F (x) − F (x^∗) x − x^∗

≤ K < 1 ,

gdzie K jest stałe i jeśli punkt startowy należy do tego otoczenia.

Jeśli funkcja F (x) jest różniczkowalna to metoda ta jest zbieżna, jeśli w otoczeniu rozwiązania zachodzi:

F (x)⁰≤ K < 1 (21)

Zbieżność metody jest tym lepsza im mniejsza jest liczba K.

Bardziej formalnie.

Twierdzenie 1. Niech funkcja φ : Rⁿ → Rⁿ ma jeden punkt stały ξ : φ(ξ) = ξ.

Dalej niech S_r(ξ) := {z | kz − ξk < r} będzie takim otoczeniem punktu ξ, że φ jest odwzorowaniem zwężającym w S_r(ξ), tzn. że

kφ (x) − φ (y)k ≤ K kx − yk (22)

gdzie 0 ≤ K < 1 dla wszystkich x, y ∈ S_r(ξ). Wtedy dla wszystkich x₀ ∈ S_r(ξ), x_i+1 :=

φ(x_i), i = 0, 1, 2, . . . ciąg {x_i} ma następujące własności:

• x_i ∈ S_r(ξ) dla wszystkich i = 0, 1, . . .

• kx_i− ξk ≤ Kⁱkx₀− ξk

tzn. ciąg {x_i} jest zbieżny co najmniej liniowo do ξ.

Znaleźć dwie funkcje, dla których metoda iteracji jest zbieżna dla pierwszej z nich i nie jest zbieżna dla drugiej z nich, zaznaczyć na rysunku funkcję x oraz F (x), szukamy x dla którego te funkcję się przecinają. Zobrazować procedurę wyszukiwania kolejnych rozwiązań. Na początku zaznaczamy x₀, szukamy przecięcia z funkcją F (x), wartość tego przecięcia będzie kolejnym przybliżeniem, zaznaczamy go na osi OY , a następnie zaznaczamy na osi OX w tej samej odległości od początku układu współrzędnych.

Przykład: Rozwiązać równanie x²− 7 = 0 podaną metodą. Przekształcamy równanie do postaci x = 7/x i stosujemy równanie iteracyjne

x_n+1= 7/x_n

x0= 2 x₁ = 3.5

x2= 2 Przykład:

x²− sin x = 0 (23)

Po sprowadzeniu do postaci (19):

x =^q(sin x) (24)

1.4 Metoda siecznych (reguła falsi)

Metoda Newtona wymaga policzenia pochodnych dla funkcji. Reguła falsi. W każdym kroku konstruujemy dwie liczby x_i i a_i takie że

f (x_i) f (a_i) < 0 (25)

i ciąg x_ijest zbieżny do zera funkcji f . Jeśli jest spełniona ta równość, to przedział [x_i, ai] zawiera co najmniej jedno zero funkcji f . Niech µ₁ będzie zerem interpolacyjnej funkcji liniowej

p (x) := f (xi) + (x − x_i)f (xi) − f (a_i)

xi− a_i (26)

Zauważmy, że p(x_i) = f (x_i) oraz p(a_i) = f (a_i). Możemy z tego wyznaczyć x x − xi= −f (x_i) (x_i− a_i)

f (x_i) − f (a_i) (27)

µi = x_i− f (x_i) xi− a_i

f (xi) − f (a_i) = aif (xi) − x_if (ai)

f (xi) − f (a_i) (28) Ponieważ f (x_i)f (a_i) < 0 więc µ jest dobrze określone i albo x_i < µ < a_ialbo a_i < µ < x_i. Liczby x_i+1 i a_i+1są określone jako: jeśli f (µ_i) f (x_i) > 0

x_i+1:= µ_i (29)

a_i+1:= a_i (30)

oraz jeśli f (µ_i)f (x_i) < 0

x_i+1:= µ_i (31)

ai+1:= x_i (32)

Jeśli f (µ_i) = 0 to przerywamy obliczenia. Przyjmujemy dla uproszczenia, że istnieje f⁰⁰ i że dla i jest spełnione

•

x_i < a_i (33)

•

f (xi) < 0, f (ai) > 0 (34)

•

f⁰⁰(x) ≥ 0 (35)

dla wszystkich x ∈ [x_i, a_i].

Wtedy albo f (µ_i) = 0, albo

f (µ_i) f (x_i) > 0 (36)

i stąd

x_i < x_i+1= µ_i< a_i+1= a_i (37) Przy tych założeniach reguła falsi jest następująca:

x_i+1= φ (x_i) (38)

φ (x) := af (x) − xf (a)

f (x) − f (a) (39)

Wykorzystuje ona tylko wzory (29) i (30). Metoda siecznych wykorzystuje tylko wzory (31) i (32) i jest następująca:

xi+1= xi−1f (xi) − x_if (xi−1)

f (x_i) − f (x_i−1) (40)

od i = 0, 1, . . ..

Metoda siecznych określona jest również wzorem:

x_n+1= x_n− x_n− x_m

f (xn) − f (x_m)f (x_n) ,

gdzie m < n, x₀ oraz x₁ dane. Różni się tym od metody Newtona, że pochodna została zastąpiona ilorazem różnicowym przykładowo z poprzednim punktem aproksymującym, czyli

f⁰(x_n) ≈ f (x_n) − f (x_n−1) x_n− x_n−1 Postać szczególna wzoru

xn+1= x_n− x_n− x_n−1

f (xn) − f (x_n−1)f (xn) , Na początku musimy wyznaczyć dwa punkty.

Interpretacja geometryczna: aproksymacja funkcji f (x) sieczną. Punkt x_n+1 jest przecięciem osi OX z sieczną przechodzącą przez punkty x_n i x_n−1.

Metoda ta jest zbieżna jeśli f (x_m) i f (x_n) mają różne znaki.

Obliczyć kilka pierwszych iteracji dla funkcji f (x) = x²− 7. Początkowy przedział możemy wziąść [0,3].

1.5 Metoda połowienia przedziału (bisekcji)

Po angielsku bisection method, http://en.wikipedia.org/wiki/Bisection_method.

Kolejne przybliżenia są środkami przedziału:

xn+1= xn+ x_n−1

2 . (41)

W każdym kroku wybierany jest odpowiedni przedział. Na początku wybieramy takie punkty, dla których zachodzi f (a) < 0 < f (b). Następnie obliczamy punkt c = 0.5(a + b) i sprawdzamy czy f (a)f (c) < 0, wtedy f ma zero w przedziale [a, c].

Przykład: wyznaczyć tą metodą zera funkcji f (x) = x² − 7. Wartość przybliżona 2.65. Na początku wybieramy dwa punkty a oraz b, np. [0, 3]. Otrzymujemy

x₂ = (0 + 3) /2 = 1.5 x₃= (1.5 + 3) /2 = 2.25

2 Zadania

2.1 Zadania na 3.0

• Znaleźć pierwiastki przybliżone metodą bisekcji, siecznych i stycznych dla 3 przy- bliżeń równań: grupa 1 i 2

x³+ 2x²− 4x − 8 = 0 (42)

x⁴− x − 10 = 0 (43)

grupa 3 i 4

x³− 2x²− 7x − 4 = 0 (44)

x⁴− 2x²+ 4x − 8 = 0 (45)

Naszkicować wykresy lewych stron tych równań wraz z kolejnymi punktami przy- bliżenia. Wyliczyć błędy względne procentowe dla kolejnych przybliżeń.

Dodatkowo można sprawdzić czy metody są zbieżne.

2.2 Zadania na 4.0

• Rozwiązać równania metodą iteracji dla 3 przybliżeń: dla grup 1 i 2:

x⁴− x − 10 = 0 (46)

dla grup 3 i 4:

x³+ x − 5 = 0 (47)

Naszkicować wykresy lewych stron tych równań, oraz wykres z dwoma funkcjami y = x oraz y = f (x) z metody iteracji wraz z kolejnymi punktami przybliżenia.

Wyliczyć błędy dla kolejnych przybliżeń. Sprawdzić czy metoda jest zbieżna.

2.3 Zadania na 5.0

• Znaleźć pierwiastki wielomianu x⁵−6x⁴+10x³+13x²−15x−16 metodą siecznych, stycznych i połowienia. Dokonać 4 przybliżenia wymienionymi metodami. Naszki- cować wykres tego wielomianu wraz z kolejnymi punktami przybliżenia. Wyliczyć błędy dla kolejnych przybliżeń. Sprawdzić czy metoda jest zbieżna.