METODY NUMERYCZNE

(1)

Met.Numer. wykład 6 1

METODY NUMERYCZNE

dr hab. inż. Katarzyna Zakrzewska, prof. AGH

Wykład 6.

Rozwiązywanie układów równań liniowych

Plan

• Metody dokładne

• Metoda eliminacji Gaussa

• Metoda Gaussa-Seidla

• Rozkład LU

• Metoda Kryłowa

• Metoda LR i QR

• Zdefiniowanie problemu własnego

(2)

Układ równań liniowych

Układ równań liniowych:

b Ax

gdzie:

• A – macierz o m wierszach i n kolumnach

• x – wektor o n niewiadomych

• b – wektor m danych liczb

możliwe rozwiązania:

• Nieskończenie wiele rozwiązań

• Dokładnie jedno rozwiązanie

• Brak rozwiązania (układ sprzeczny)

Twierdzenie Kroneckera-Capelliego

Rozpatrujemy układ m równań liniowych z n niewiadomymi w postaci

m n mn m

m

n n

b x a x

a x a

b x a x

a x a

b x a x

a x a



2 2 1

1

2 2

2 22 1

21

1 1

2 12 1 11

o współczynnikach a

_ik

oraz b

_i

należących do

ciała liczbowego K ( K = R lub K = C)

(3)

Twierdzenie Kroneckera-Capelliego

Macierzą układu równań nazywamy macierz A jego współczynników przy zmiennych

Macierzą rozszerzoną nazywamy macierz C, oznaczaną także jako A/B, powstałą z macierzy A przez dołączenie do niej kolumny wyrazów wolnych

mn m

n

a a

A



1 1 11

m mn m

n

b a a

C



1

1 1 11

Twierdzenie Kroneckera-Capelliego

Twierdzenie Kroneckera – Capelliego

Układ m równań liniowych z n niewiadomymi ma rozwiązania, jeśli rząd r macierzy głównej jest równy rzędowi macierzy rozszerzonej:

rz A = rz C = r

Dla dowolnej macierzy jej rząd jest równy r wtedy i

tylko wtedy, gdy istnieje niezerowy minor rządu k tej

macierzy i każdy minor rzędu większego od k jest

zerowy.

(4)

Twierdzenie Kroneckera-Capelliego

Twierdzenie Kroneckera – Capelliego

jeżeli ten wspólny rząd r obu macierzy równa się liczbie niewiadomych, to istnieje jedno rozwiązanie, czyli jeden zbiór liczb spełniający równania; jest to układ oznaczony

rz A = rz C = n

Twierdzenie Kroneckera-Capelliego

Twierdzenie Kroneckera – Capelliego

jeżeli wspólny rząd r obu macierzy jest mniejszy od liczby niewiadomych n, to (n – r) niewiadomych można przyjąć dowolnie, a pozostałe r

niewiadomych wyznacza się z równań; jest to układ nieoznaczony, bo jego rozwiązania zależą od

(n – r) parametrów

rz A =rz C < n

(5)

Twierdzenie Kroneckera-Capelliego

Twierdzenie Kroneckera – Capelliego

jeżeli rząd r macierzy głównej jest mniejszy od rzędu macierzy rozszerzonej, to układ równań liniowych nie ma rozwiązań; jest to układ sprzeczny

rz A ≠ rzC

Pojęcie normy

x

n

x x

₁ ₂

...

x

1

2 / 2 1 2

2 2

2

x

1

x ... x

_n

x

n

x x , , ..., max

₁ ₂

x

W przestrzeni Rⁿ, której elementami są wektory:

x x

₁

, x

₂_,

..., x

_n ^T

Dla dowolnego wektora x є Rⁿ, obowiązują nierówności:

x x

x n n

2 1

2

(6)

Metody rozwiązywania układów algeraicznych równań liniowych

Metody dokładne - definicja

Jeśli rozwiązanie układu równań Ax=b polega na takim przekształceniu danych A i b, że przy założeniu dokładnie wykonywanych działań arytmetycznych po skończonej liczbie działań otrzymujemy rozwiązanie, to taką metodę rozwiązania nazywamy metodą dokładną.

Metody dokładne

Metody dokładne - cechy

• Mała liczba obliczeń potrzebnych do wyznaczenia rozwiązania

• Jeśli zadanie jest źle uwarunkowane numerycznie, to wyznaczone rozwiązanie może być obarczone dużym błędem.

• Mogą być niestabilne ze względu na błędy zaokrągleń

• Przekształcenie macierzy A obciąża w dużym stopniu

pamięć maszyny, zwłaszcza jeśli początkowe dane A i b

należy przechować celem ostatecznego sprawdzenia

(7)

Metody dokładne - przykład

2 2 22 1 21

1 2 12 1 11

b x a x a

12 21 22 11

2 12 1 22

1

a a a a

b a b x a

12 21 22 11

1 21 2 11

2

a a a a

b a b x a

Przykład – wzory Cramera

38 , 0 50 , 0 70 , 0

54 , 0 70 , 0 99 , 0

2 1

x x

Zakładamy dokładność do 2 cyfr dziesiętnych , każdy wynik przed dalszymi obliczeniami jest zaokrąglany

49 , 0 4900 , 0 70 , 0 70 , 0

50 , 0 4950 , 0 50 , 0 99 , 0

12 21

22 11

a a

01 , 0 49 , 0 50 ,

12

0

21 22

11

a a a

a

Sposób 1:

Metody dokładne - przykład 38

, 0 70 , 0 54 , 0 50 ,

2

0

12 1

22

b a b a

01 0 , 0

0

x1

54 , 0 70 , 0 38 , 0 99 ,

1

0

21 2

11

b a b a

01 0 , 0

0 x

2

0 27 , 0 27 , 0 2660 , 0 2700 , 0

0 38 , 0 38 , 0 3780 , 0 3762 , 0

Dokładne rozwiązanie tego układu równań daje wynik:

80 ,

1

0

x x₂

0 , 36

(8)

Metody dokładne – przykład cd.

38 , 0 50 , 0 70 , 0

54 , 0 70 , 0 99 , 0

2 1

x x

71 , 0 7070 , 99 0 , 0

70 , 0

11 21

a a

Sposób 2: metoda eliminacji Gaussa

Eliminujemy niewiadomą x₁z drugiego równania układu równań.

W tym celu mnożymy pierwsze równanie przez:

Odejmując równania stronami po wcześniejszym zaokrągleniu do 2 cyfr:

00 , 0 00 , 0 x

₂

Otrzymujemy:

38 , 0 50 , 0 70 , 0

3818 , 0 4949 , 0 70 . 0

2 1

x x

czyli układ nieoznaczony, posiadający nieskończenie wiele rozwiązań.

Układy równań z macierzą trójkątną

Macierz trójkątna – definicja

Macierz trójkątną nazywamy macierzą trójkątną dolną (górną), jeżeli wszystkie elementy nad (pod) diagonalą są równe zeru.

Macierz trójkątna dolna Macierz trójkątna górna

(9)

Układy równań z macierzą trójkątną

n n n

i i

i

u u u

u

U

₁_,₁ ₂_,₂ _,

1

,

...

) det(

Obliczenie wyznacznika macierzy trójkątnej sprowadza się do wymnożenia elementów leżących na głównej

przekątnej:

n n n

i i

i

l l l

l

L

₁_,₁ ₂_,₂ _,

1

,

...

) det(

Układy równań z macierzą trójkątną

n n nn

n n n n n n n

n n n

n

n n n

n

b x a

b x a x a

b x a x a x

a

b x a x a x

a x a

1 ,

1 1 1 , 1

2 2

1 1 , 2 2

22

1 1

1 1 , 1 2

12 1 11

...

ii

i ii n

in i

i a

x a x

a

x b ... ¹ ¹

nn n

n

a

x b

Jeżeli macierz A układu n równań z n niewiadomymi Ax=b jest macierzą trójkątną (dolną lub górną), to rozwiązanie x takiego układu równań można uzyskać wykonując małą liczbę działań arytmetycznych i przy małych błędach zaokrągleń

1 ..., , 2 , 1 n n i

Ogólnie

(10)

Układy równań z macierzą trójkątną

n n

M 2

1 2

1

₂

Koszt obliczeniowy:

Dla wyznaczenia wektora x należy wykonać M mnożeń i dzieleń oraz D dodawań:

n n

D 2

1 2

1

₂

20

Metoda eliminacji Gaussa

1 1

3 13 2 12 1

11

x a x a x ... a x b

a

_n _n

2 2

3 23 2

22 1

21

x a x a x ... a x b

a

_n _n

n n nn n

n

x a x a x a x b

a

₁ ₁ ₂ ₂ ₃ ₃

...

. ...

...

Etap pierwszy (zwany etapem eliminacji „do przodu”

zmiennych)

Wymaganych jest n-1 kroków eliminacji

(11)

Metoda eliminacji Gaussa

1 1

3 13 2 12 1

11

x a x a x ... a x b

a

_n _n

1 11 21 1

11 21 2

12 11 21 1

21

... b

a x a a a x a

a a x a

a

_n _n

Krok 1. Od drugiego wiersza odejmujemy pierwszy podzielony przez a₁₁i pomnożony przez a₂₁

1 11 21 2 1

11 21 2 2

12 11 21

22

... b

a b a x a a

a a x

a a

_n _n _n

Otrzymujemy:

11 21

a a

2 2

3 23 2 22 1

21

x a x a x ... a x b

a

_n _n

Metoda eliminacji Gaussa

' '

3 '

3 2 '

2 _n

...

_nn _n _n

n

x a x a x b

a

1 1

3 13 2 12 1

11

x a x a x ... a x b

a

_n _n

' 2 '

2 3

' 23 2 '

22

x a x ... a x b

a

_n _n

' 3 '

3 3

' 33 2 '

32

x a x ... a x b

a

_n _n

. ...

...

Podobnie postępujemy z pozostałymi wierszami:

12 11 21 22 '

22 a

a a a gdzie: a

. . .

n n

n a

a a a

a ₁

11 21 2 ' 2

(12)

Metoda eliminacji Gaussa

' 2 '

2 3

' 23 2 '

22

x a x ... a x b

a

_n _n

Krok 2. Powtarzamy procedurę kroku 1 dla trzeciego wiersza

' 3 '

3 3

' 33 2 '

32

x a x ... a x b

a

_n _n

22 32

' ' a a

' ' 2 22 ' 32 '

22 ' ' 32 2 ' 3

22 ' ' 32 23 2 '

32

... b

a x a a a a a x

a a x

a

_n _n

Otrzymujemy:

2 22 32 3 2

22 32 3 3

23 22 ' 32

33

'

' ' ' ' '

' ' ...

' '

' b

a b a x a a

a a x

a a

_n _n _n

Metoda eliminacji Gaussa

' 2 '

2 3

' 23 2 '

22

x a x ... a x b

a

_n _n

"

3

"

3 3

"

33

x ... a x b

a

_n _n

"

3

"

3

...

_nn _n _n

n

x a x b

a

. ...

...

Po kroku 2 otrzymujemy

(13)

Metoda eliminacji Gaussa

' 2 '

2 3

' 23 2 '

22

x a x ... a x b

a

_n _n

"

3

"

3 3

"

33

x ... a x b

a

_n _n

1 n 1

n n n

nn

x b

a

1 1

3 13 2 12 1

11

x a x a x ... a x b

a

_n _n

. ...

...

Pod koniec kroku n-1 układ równań przybiera postać:

Metoda eliminacji Gaussa

) (n- n

"

'

n ) (n nn

"

n

"

' n '

'

n

b b b b

x x x x

a a a

a a

a

a a

1 3 2 1

3 2 1

1 3 33

2 23

22

1 13

12 11

0 0 0 0

0 0 0









Po przeprowadzeniu n-1 kroków eliminacji zmiennych otrzymane równania możemy zapisać w postaci macierzy:

Otrzymana macierz jest macierzą trójkątną!

(14)

Metoda eliminacji Gaussa

Etap drugi zwany postępowaniem odwrotnym (podstawieniem wstecznym)

Ponieważ otrzymana macierz jest macierzą trójkątną korzystamy ze wzorów

:

1 ,...,

1

1 1 1

n i a dla

x a b

x

_i

ii n

i

j j

i ij i

i i

) 1 (

n nn n n

n

a

x b

1 ,..., ... 1

1

1 , 2

1 2 , 1 1

1 , 1

n i a dla

x a x

a x a

x b

_i

ii

n i

n i i

i i i i i

Metoda eliminacji Gaussa

n n n

M 3

1 3

1

3 2

Metoda eliminacji Gaussa – koszt obliczeniowy Łączna ilość mnożeń i dzieleń:

Łączna ilość dodawań:

n n n

D 6

5 2 1 3

1

₃ ₂

(15)

Metoda eliminacji Gaussa - przykład

Czas t

(s) Prędkość (m/s)

5 106.8

8 177.2

12 279.2

Prędkość rakiety została przybliżona wielomianem:

12. t 5

3

,

2 2

1

t a t a

a t v Przykład:

Znaleźć współczynniki a₁, a₂, a₃ metodą eliminacji Gaussa i prędkość w chwili t = 6 s

Metoda eliminacji Gaussa - przykład

12. t 5 , a t a t a t

v

₁ ² ₂ ₃

3 2 1

3 2 3

2 2 2

1 2 1

1 1 1

v v v

a a a

t t

3 2 1

2 . 279

2 . 177

8 . 106

1 12 144

1 8 64

1 5 25

3 2 1

a a a s

m v

s

t

₁

5 , ( 5 ) 106 , 8 / s m v

s

t

₂

8 , ( 5 ) 177 , 2 / s m v

s

t

₃

12 , ( 5 ) 279 , 2 /

(16)

Metoda eliminacji Gaussa - przykład

Podzielić równanie 1 przez 25 i pomnożyć przez 64

56 . 2 8 . 106 1

5 25 

208 . 96 56

. 1 8 . 4 0

408 . 273 56

. 2 8 . 12 64

177.2 1

8 64



 2

. 279 1

12 144

2 . 177 1

8 64

8 . 106 1

5 25



2 . 279 1

12 144

208 . 96 56

. 1 8 . 4 0

8 . 106 1

5 25



56 . 25 2 64

Odjąć wynik od równania nr 2

408 . 273 56

. 2 8 . 12

64 

Otrzymujemy

Metoda eliminacji Gaussa - przykład

.

76 . 5 8 . 106 1

5 25 

2 . 279 1

12 144

208 . 96 56

. 1 8 . 4 0

8 . 106 1

5 25



968 . 335 76 . 4 8 . 16 0

168 . 615 76

. 5 8 . 28 144

279.2 1

12

144 



968 . 335 76

. 4 8 . 16 0

208 . 96 56

. 1 8 . 4 0

8 . 106 1

5 25



76 . 25 5

Podzielić równanie 1

144

przez 25 i pomnożyć przez 144

Po pierwszym kroku eliminacji

168 . 615 76

. 5 8 . 28

144 

(17)

Metoda eliminacji Gaussa - przykład

5 . 3 208 . 96 56

. 1 8 . 4

0 

968 . 335 76

. 4 8 . 16 0

208 . 96 56

. 1 8 . 4 0

8 . 106 1

5 25



.76 0 7

. 0 0 0

728 . 336 46

. 5 16.8 0

335.968 76 . 4 16.8 0



76 . 0 7

. 0 0 0

208 . 96 56

. 1 8 . 4 0

8 . 106 1

5 25



5 . 8 3 . 4

8 . 16

Podzielić równanie 2 przez -4.8 i

pomnożyć przez - 16.8

728 . 336 46

. 5 8 . 16

0 

Po drugim kroku eliminacji

Metoda eliminacji Gaussa - przykład

76 . 0

208 . 96

8 . 106

7 . 0 0 0

56 . 1 8 . 4 0

1 5

25 7 . 0 7

. 0 0 0

2 . 96 56

. 1 8 . 4 0

8 . 106 1

5 25

3 2 1

a a a



08571 . 1

7 . 0

76 . 0

76 . 0 7 . 0

3 3 3

a a

Obliczanie a₃

a

Eliminacja wsteczna

(18)

Metoda eliminacji Gaussa - przykład

6905 19.

4.8 1.08571 1.56

96.208 8 . 4

56 . 1 208 . 96

208 . 96 56

. 1 8 . 4

2 2

3 2

a a a a a a

76 . 0

208 . 96

8 . 106

7 . 0 0 0

56 . 1 8 . 4 0

1 5

25

3 2 1

a a a

Obliczanie a₂

08571 .

3

1 a

Metoda eliminacji Gaussa - przykład

290472 .

0

25 08571 . 1 6905 . 19 5 8 . 106

25 5 8 . 106

8 . 106 5

25

3 2 1

a a a

76 . 0

2 . 96

8 . 106

7 . 0 0 0

56 . 1 8 . 4 0

1 5

25

3 2 1

a a a

Obliczanie a₁

08571 .

3

1 a a

₂

19 . 6905

(19)

Metoda eliminacji Gaussa - przykład

2 279

2 177

8 106

1 12 144

1 8 64

1 5 25

3 2 1

. . .

a a a

08571 . 1

6905 . 19

290472 .

0

3 2 1

a a

Rozwiązanie:

a

12 5

, 08571 . 1 6905 . 19 290472

.

0

²

3 2 2

1

t a t a t t t

a t v

. m/s 686 . 129 08571 . 1 6 6905 . 19 6 290472 .

0

6

²

v

Metoda eliminacji Gaussa

Wady metody:

• Może nastąpić zatrzymanie procesu obliczeń w powodu dzielenia przez zero.

• Jest szczególnie podatna na narastanie błędu zaokrąglenia.

Zalety metody:

• Liczba wykonywanych działań w metodzie eliminacji Gaussa jest bez porównania mniejsza niż przy pomocy wzorów Cramera

W przypadku 15 równań:

M=1345 mnożeń w metodzie eliminacji Gaussa i M=5∙10¹²dla wzorów Cramera

Maszyna cyfrowa wykonująca 10⁶mnożeń na sekundę:

0,01 s w metodzie eliminacji Gaussa i ponad rok dla wzorów Cramera

(20)

Metoda eliminacji Gaussa

Dzielenie przez zero może wystąpić podczas każdego kroku eliminacji zmiennych

28 14 15

5 1 24

3 5 6

7 10 12

3 2 1

x x x

2 5 . 6 15

19 21 0

5 . 6 0 0

7 10 12

3 2 1

x x x

w następnym kroku, dzielenie przez zero

Metoda eliminacji Gaussa

9 751 . 1

45 3 1

5 7 249 . 2 3

10 15

20

3 2 1

x x x

1 1 1

3 2 1

x x x

999995 . 0

05 . 1

9625 . 0

3 2 1

x x x Układ równań:

Rozwiązanie dokładne

Rozwiązanie z dokładnością 6 cyfr dziesiętnych w każdym kroku

Rozwiązanie z dokładnością 5 cyfr dziesiętnych w każdym kroku

99995 . 0

5 . 1

625 . 0

3 2 1

x x x

(21)

Metoda eliminacji Gaussa

Elementem podstawowym nazywamy ten element macierzy A, za pomocą którego eliminujemy zmienną z dalszych równań.

Dotychczas jako elementy podstawowe wybieraliśmy element leżący na diagonali

Stosując częściowy wybór elementu podstawowego wybieramy ten z elementów k-tej kolumny w k-tej macierzy, który ma największy moduł. Przez zmianę kolejności wierszy w macierzy można uzyskać element podstawowy leżący na diagonali Metoda eliminacji Gaussa-Crouta (ang. partial pivoting)

- z częściowym wyborem elementu podstawowego

• Zapobiega dzieleniu przez zero.

• Zmniejsza błąd numeryczny.

a

kk

Metoda eliminacji Gaussa

144 , 64 , 25

2 . 279 1

12 144

2 . 177 1

8 64

8 . 106 1

5 25



Wartości w pierwszej kolumnie to:

Zamiana wiersza trzeciego z pierwszym Przykład :

2 279

2 177

8 106

1 12 144

1 8 64

1 5 25

3 2 1

. . .

a a a

8 . 106 1

5 25

2 . 177 1

8 64

2 . 279 1

12 144



(22)

Metoda eliminacji Gaussa

144 , 64 , 25

2 . 279 1

12 144

2 . 177 1

8 64

8 . 106 1

5 25



Wartości w pierwszej kolumnie to:

Zamiana wiersza trzeciego z pierwszym Przykład :

2 279

2 177

8 106

1 12 144

1 8 64

1 5 25

3 2 1

. . .

a a a

8 . 106 1

5 25

2 . 177 1

8 64

2 . 279 1

12 144



Metoda Gaussa – Crouta w obliczaniu wyznaczników

Po eliminacji Gaussa

1 12 144

1 8 64

1 5 25 A

Obliczyć wyznacznik macierzy [A]

7 . 0 0 0

56 . 1 8 . 4 0

1 5

25 B

det(A)=det(B)=25 (-4,8) (0.7)=-84,00

Użyteczne twierdzenie: Jeżeli macierz B powstaje z macierzy A przez dodanie lub odjęcie od jednego wiersza innego wiersza pomnożonego przez liczbę to nie zmienia to wyznacznika

(23)

wyznaczników

2 . 0 0

0 8264 . 0 917 . 2 0

1 12

144 C

Po zastosowaniu metody częściowego wyboru elementu podstawowego otrzymaliśmy macierz[C]

det(C)=(-)(-)det(B)=144 (2.917) (-0.2)=-84,00 Użyteczne twierdzenie: Jeżeli macierz B powstaje z

macierzy A przez przestawienie jednego wiersza z drugim to zmienia się tylko znak wyznacznika

tu wystąpiło dwukrotne przestawienie wierszy

Metoda Gaussa – Seidla

1 1

3 13 2

12 1

11 x a x a x ... a x b

a

_n _n

2 3

23 2

22 1

21 x a x a x ... a x b

a

_2n _n

n n

nn n

n

x a x a x a x b

a ₁ ₁ ₂ ₂ ₃ ₃ ...

. .

Układ n równań z n niewiadomymi:

. .

.

(24)

Metoda Gaussa – Seidla

11

1 3

13 2 12 1

1

a

x a x

a x a

x b  

ⁿ ⁿ

nn

n n,n n

n n n

,n n

n ,n n n ,n n ,

n , n n n

n n

a

x a x

a x a x b

a

x a x a

x a x a x b

a

x a x

a x a x b

1 1 2

2 1 1

1 1

1 2 2 1 2

2 1 1 1 1 1 1

22

2 3

23 1 21 2 2







Przekształcenie równań do postaci:

z równania 1

z równania 2 z n-1

z równania n

Metoda Gaussa – Seidla

. , , 2 , 1 ,

1

n a i

x a b

x

ii n

i j

j ij j i

i



Postać ogólna dla i - tego równania

Jest to metoda iteracyjna

(25)

Metoda Gaussa – Seidla

new

100

i old i new i ai

x x

x

ⁿ

- n

2

x x

1 1



Zakładamy początkowe wartości od x₁ do x_n i

podstawiamy je do wcześniej przekształconych równań

Obliczamy błąd względny uzyskanych nowych wartości:

Procedurę powtarzamy iteracyjnie aż do uzyskania odpowiedniego wartości o zadawalającym błędzie

.

Metoda Gaussa - Seidla

Czas t

(s) Prędkość (m/s)

5 106.8

8 177.2

12 279.2

Prędkość rakiety została przybliżona wielomianem:

12. t 5

3

,

2 2

1

t a t a

a t v Przykład:

Znaleźć współczynniki a₁, a₂, a₃ metodą Gaussa-Seidla i prędkość w chwili t = 6 s

(26)

Metoda Gaussa – Seidla

3 2 1

3 2 3

2 2 2

1 2 1

1 1 1

v v v

a a a

t t

3 2 1

2 . 279

2 . 177

8 . 106

1 12 144

1 8 64

1 5 25

3 2 1

a a a

5 2 1

3 2 1

a a a Postać równania:

Po wstawieniu danych:

Wartości przyjęte do pierwszej iteracji:

Metoda Gaussa – Seidla

2 . 279

2 . 177

8 . 106

1 12 144

1 8 64

1 5 25

3 2 1

a a a

25 5 8 .

106

₂ ₃

1

a a a

8 64 2 .

177

₁ ₃

2

a a a

1 12 144

2 .

279

₁ ₂

3

a a a

Przekształcenie równań:

(27)

Metoda Gaussa – Seidla

5 2 1

3 2 1

a a

a 3 . 6720

25 ) 5 ( ) 2 ( 5 8 . a

₁

106 8510 . 8 7

5 6720 . 3 64 2 . a

₂

177 36 . 1 155

8510 . 7 12 6720 . 3 144 2 . a

₃

279 Pierwsza iteracja:

Metoda Gaussa – Seidla

% 76 . 72 6720 100

. 3

0000 . 1 6720 . 3

a1

% 47 . 125 8510 100

. 7

0000 . 2 8510 . 7

a2

% 22 . 103 36 100

. 155

0000 . 5 36 . 155

a3

new

100

i old i new i ai

x x x

36 . 155

8510 . 7

6720 . 3

3 2 1

a a a

Znajdowanie błędu względnego pierwszej iteracji:

Wyniki pierwszej iteracji:

Maksymalny

błąd względny

to 125.47%

(28)

Metoda Gaussa – Seidla

36 . 155

8510 . 7

6720 . 3

3 2 1

a a a

056 . 25 12

36 . 155 8510 . 7 5 8 . 106

a1

882 . 8 54

36 . 155 056 . 12 64 2 . 177 a

2

34 . 1 798

882 . 54 12 056 . 12 144 2 . 279

a3

Druga iteracja:

Wyniki pierwszej iteracji:

Metoda Gaussa – Seidla

% 543 . 69 056 100

. 12

6720 . 3 056 . 12

a1 x

% 695 . 85 100 882 x

. 54

8510 . 7 882 . 54

a2

% 540 . 80 34 100

. 798

36 . 155 34

. 798

a3 x

54 . 798

882 . 54

056 . 12

3 2 1

a a a

Znajdowanie błędu względnego drugiej iteracji:

Maksymalny

błąd względny

to 85.70%

(29)

Metoda Gaussa – Seidla

Iteracja a₁ a₂ a₃

12 34 5 6

3.6720 12.056 47.182 193.33 800.53 3322.6

72.767 69.543 74.447 75.595 75.850 75.906

−7.8510

−54.882

−255.51

−1093.4

−4577.2

−19049

125.47 85.695 78.521 76.632 76.112 75.972

−155.36

−798.34

−3448.9

−14440

−60072

−24958 0

103.22 80.540 76.852 76.116 75.963 75.931

0857 . 1

690 . 19

29048 . 0

a a a

3 2 1 1

%

a a₂% a₃%

Wyniki kolejnych iteracji różnią się zacznie od prawidłowych:

Kiedy zatem ta metoda jest zbieżna?

Metoda Gaussa – Seidla

Jeżeli macierz jest silnie diagonalnie dominująca to metoda Gaussa-Seidla jest zbieżna

n i j

j ij

ii

a

, 1

dla wszystkich i

n i j

j ij

ii

a

, 1

przynajmniej dla jednego i

(30)

Metoda Gaussa – Seidla

Przykład macierzy diagonalnie dominującej

13

8

12

11

a a

a

13 7 3

3 5 1

5 3 12

23

4

21

22

a a

a

32

10

31

33

a a

a

Rozkład LU

b Ax

Rozkład LU to kolejny sposób na rozwiązanie układu n równań z n niewiadomymi

Macierz A można przedstawić jako:

LU A

gdzie:

L – dolna macierz trójkątna

U – górna macierz trójkątna

(31)

Rozkład LU

C X U L C

X A

L

1

^L

¹

^L ^U ^X ^L

¹

^C

I L

L

¹

I U X L

¹

C

U U

I

C L X

U

¹

U L A

Z C L ¹

C L Z

Z U X Zapisując układ równań:

Zakładając że:

Mnożąc przez:

ale:

macierz jednostkowa

ale:

zatem:

Rozkład LU

Z C

L

¹

C L Z

Z

Można zapisać

U X

C L

X

U

¹

(32)

Rozkład LU Jeśli dany jest układ równań:

C Z L

Z U X

C X A

Należy dokonać dekompozycji macierzy A na macierze L oraz U

Rozwiązać układ równań w poszukiwaniu macierzy Z:

Rozwiązać układ równań w poszukiwaniu macierzy X:

Rozkład LU

33 23 22

13 12 11

32 31 21

0 0 0 1 0 1

0 0 1

u u u

u u u U

L A



Dekompozycja macierzy A na L oraz U:

U – jest macierzą wyznaczaną podczas pierwszego etapu eliminacji Gaussa

L – jest macierzą współczynników użytych podczas

pierwszego etapu eliminacji Gaussa

(33)

Rozkład LU - przykład

Aby odnaleźć kształt obiektu z obrazów powierzchni w trzech kierunkach, trzeba rozwiązać np. następujący układ równań:

Po prawej stronie znajdują się natężenia światła od środka obrazu. Macierz współczynników zależy od kierunku źródła światła w stosunku do aparatu. Niewiadomymi są intensywności obrazu, które będą określać kształt obiektu. Odnajdziemy wartości x

₁

, x

₂

, x

₃

za pomocą dekompozycji LU

239 248 247

x x x

9428 , 0 2357 , 0 2357 , 0

9701 , 0 2425 , 0 0

9701 , 0 0

2425 , 0

3 2 1

Rozkład LU – przykład cd.

Rozwiązanie:

Poszukujemy macierzy [L] i [U].

Macierz [U] wyznaczymy metodą eliminacji Gaussa.

33 23 22

13 12 11

32 31 21

0 0 0 1 0 1

0 0 1

u u u

u u u U

L A



(34)

Rozkład LU - przykład

Krok pierwszy:

9428 , 0 2357 , 0 2357 , 0

9701 , 0 2425 , 0 0

9701 , 0 0

2425 , 0 ) 0 2425 ( , 0 2 wiersz 1 wiersz

8857 , 1 2357 , 0 0

9701 , 0 2425 , 0 0

9701 , 0 0

2425 , 0 ) 2357 , 0 2425 ( , 0 3

wiersz

1

wiersz

Rozkład LU - przykład

Krok drugi:

Macierz współczynników [U] wynosi:

8286 , 2 0 0

9701 , 0 2425 , 0 0

9701 , 0 0 2425 , 0 ) 2357 , 0 2425 ( , 0 3 wiersz2 wiersz

8286 , 2 0

0 9701 , 0 2425 , 0 0

9701 , 0 0

2425 , 0 U

1 0 1

0 0 1 ] [

32 31 21



L

Wyznaczamy

macierz [L]:

(35)

Rozkład LU - przykład

1 0 1

0 0 1

32 31 21



 0

2425 , 0

0 a

a

11 21



21

97196 , 2425 0 , 0

2357 , 0 a

a

11 31



31

97196 , 2425 0 , 0

2357 , 0 a

a

22 32



32

Znajdowanie macierzy L:

z pierwszego

kroku znajdowania macierzy U

z drugiego kroku znajdowania macierzy U

Rozkład LU - przykład

Kiedy macierze [L] i [U] są znane, spróbujemy rozwiązać układ [L][Z]=[C]:

239 248 247

z z z

1 97196 , 0 97196 , 0

0 1

0 0 0

1

3 2 1

12 , 720

) 97196 , 0 ( ) 97196 , 0 ( 239 248 247

3

2 1

3 2 1

z

z z

z

(36)

Rozkład LU - przykład

12 , 720

248 247

z z z ] [

3 2 1

Z

Znając już [Z] rozwiązujemy układ [U][X]=[Z]

12 , 720

248 247

x x x

8286 , 2 0

0 9701 , 0 2425 , 0 0

9701 , 0 0

2425 , 0

3 2 1

Rozkład LU - przykład

12 , 720 8286

, 2

248 )

9701 , 0 ( 2425 , 0

247 )

9701 , 0 ( 2425 , 0

3

3 2

3 1

x

x x

Rozwiązując układ równań:

otrzymamy szukany wektor x:

59 , 254

2328 , 4

10905 , 0

x x x

3 2 1

(37)

Rozkład LU - przykład

Zadanie domowe:

Rozwiązać układ opisujący 3-fazowy obwód AC:

Szczególny przypadek dekompozycji LU - dekompozycja Choleskiego

Jeśli macierz A układu równań jest macierzą symetryczną dodatnio określoną to jej dekompozycja LU ma prostszą postać

nazywaną

dekompozycją Choleskiego

(38)

Szczególny przypadek dekompozycji LU - dekompozycja Choleskiego

Macierz trójkątna górna U ma taką samą zawartość elementową jak macierz trójkątna dolna L.

Wyznaczyć trzeba dwukrotnie mniej elementów macierzy.

Szczególny przypadek dekompozycji LU - dekompozycja Choleskiego

Poszczególne elementy macierzy L są wyznaczone wg zależności:

1 , 1 1

,

1 a

l l a l i N

i

k k i i

i i

i

, 2 , 3 ,...,

1 1 2

, ,

,

1 ,..., 3 , 2 ,

, 1

1 , , ,

, j i

l

l l a

l

j j j

k

k j k i j

i j i

(39)

Szczególny przypadek dekompozycji LU - dekompozycja Choleskiego

Aby przeprowadzić rozkład LL

^T

należy wykonać:

n n

n D

n n

n M

3 1 2

1 6

1 3 2 2

1 6

1 2 3

2 3 Operacji

mnożenia i dzielenia

Operacji

dodawania i odejmowania

n – obliczeń pierwiastka kwadratowego

Problem własny – pojęcia podstawowe

ii k

k

x A a

Ax

Często przy tworzeniu modeli matematycznych wykorzystywanych do symulacji zjawisk fizycznych czy zachowania się układu, zachodzi potrzeba rozwiązania tzw. problemu własnego:

-Ajest macierzą kwadratowa o wymiarach n x n

-x_kjest wektorem własnym macierzy odpowiadającej wartości własnej λ_k