Metody numeryczne – Wykład 3 – Rozkłady macierzy używane do rozwiązywanie układów liniowych równań algebraicznych

(1)

Rozkłady macierzy używane do rozwiązywanie układów liniowych równań algebraicznych

Marek Bazan

III rok - Elektornika

Semestr zimowy 2020/2021

(2)

Plan zajęć

1. Sformułowanie zadania rozwiazania układu równań liniowych 2. Oszacowania błędu przy rozwiązywaniu układów liniowych

równań algebraicznych

3. Obliczanie rozkładu trójkątno-trójkątnego macierzy

(3)

Niech macierz A ∈ R^n×n i n > 1 i n ∈ N będzie taka, że det(A) 6= 0 oraz b ∈ Rⁿ. Szukamy wektora x ∈ Rⁿ takiego, żę

Ax = b (1)

tzn 





a11 a12 . . . a1n

a₂₁ a₂₂ . . . a_2n ...

an1 an2 . . . ann











 x1

x₂ ... xn







=





 b1

b₂ ... bn







(2)











a₁₁x₁ + a₁₂x₂ + . . . + a_1nx_n = b₁ a₂₁x₁ + a₂₂x₂ + . . . + a_2nx_n = b₂

... ... ...

a_n1x₁ + a₂₂x₂ + . . . + a_nnx_n = b_n Zadaniem jest znaleźć x.

(4)

Analiza błędu metod rozwiązywania układów liniowych

Jeśli macierz A i wektor b zastąpimy danymi A + δA i b + δb to zamiast dokładnego rozwiązania x układu Ax = b otrzymamy rozwiązanie dokładne x + δx. Wówczas δx zależy nie tylko od wartości zaburzeń ale również od uwarunkowania zadania κ.

Rozpatrzymy trzy przypadki wpływu zaburzeń δb i δA.

1. δb 6= 0 i δA = 0 2. δb = 0 i δA 6= 0 3. δb 6= 0 i δA 6= 0

(5)

1. δb 6= 0 i δA = 0

A(x + δx) = b + δb ⇒ δx = A⁻¹δb

Dla dowolnych norm wektorów δx i δb oraz indukowanej przez nie normy macierzy A⁻¹ możemy napisać

||δx||_p ¬ ||A⁻¹||_pq||δb||_q (3) Jak widać ||A⁻¹||_pq jest miarą błędu bezwzględnego

rozwiązania względem wektora wolnego.

Przechodząc do błędu względnego otrzymujemy

||δx||_p

||x||_p ¬ ||A⁻¹||_pq||b||_q

||x||_p

||δb||_q

||b||_q (4)

(6)

Analiza błędu metod rozwiązywania układów liniowych (3)

Wyrażenie

k = ||A⁻¹||_pq||b||_q

||x||_p (5)

nazywamy wzmocnieniem zaburzenie. Nie jest dobre jako uwarunkowanie zadania, gdyż, aby je wyznaczyć potrzebujemy rozwiązania zadania.

Mamy jednak nierówność k = ||A⁻¹||_pq||b||_q

||x||_p ¬ ||A⁻¹||_pq||A||_pq = K_pq (6) Wyrażenie Kpq może być wskaźnikiem uwarunkowania zadania.

(7)

2. δb = 0 i δA 6= 0

W tym przypadku wyznaczamy oszacowanie różniczkowego wzmocnienia zaburzenia tj. wartości k0 spełniającej warunki

∃δA 6= 0 : ||δx||

||x|| = k||δA||

||A||

||δx||

||x|| ¬ k||δA||

||A|| , ∀δA ∈ R^n×n takiego, że ||δA||

||A|| < δ Wartości k₀ spełniającej powyższe zależności szukamy wykorzysując metodę pochodnych funkcji uwikłanych.

Mianowicie szukamy rozwiązania zadania uwikłanego F (x, A) = Ax − b = 0

Rozwijając A do wektora a = [a₁₁, a₂₁, . . . , a_n1, . . . , a_nn]^T dla szukanego k0 mamy zależność F (x, a) = 0.

(8)

Analiza błędu metod rozwiązywania układów liniowych (5)

Dle tej istniejącej δ takiego, że dla każdego δA, dla którego A + δA jest nieosobliwa mamy F (x + δx, a + δa) = 0. Ponieważ F_x(x, a) = A jest macierzą nieosobliwą , wiec na podstawie twierdzenia o pochodnej funkcji uwikłanej mamy

∂x

∂a = −[Fx(x, a)]⁻¹Fa(x, a)

Ponieważ [Fx(x, a)]⁻¹= A⁻¹ a Fa(x, a) = [x1I, x2I, . . . , xnI] więc

∂x

∂a = −[x₁A⁻¹, x₂A⁻¹, . . . , x_nA⁻¹]

Stąd wynika, że dla małych zaburzeń mamy δx i δa mamy zależność

δx = −[x1A⁻¹, x2A⁻¹, . . . , xnA⁻¹]δa + o(||δa||)

(9)

Zauważyć można, że

||[x₁A⁻¹, x₂A⁻¹, . . . , x_nA⁻¹]||_1∞ = ||x||∞||A⁻¹||_1∞

Stąd wynika, że mamy oszacowanie

||δx||∞

||x|| ¬ ||A⁻¹||_1∞||A||_1∞||δa||₁

||A||₁ a stąd wynika, że

k₀ = ||A⁻¹||_1∞||A||_1∞

(10)

Analiza błędu metod rozwiązywania układów liniowych (6)

3. δb 6= 0 i δA 6= 0. Zakładamy również, że δA jest na tyle małe, że macierz A + δA jest niosobliwa. Mamy więc

(A + δA)(x + δx) = b + δb

δx = −A⁻¹(δb − δAx − δAδx)

||δx||_p ¬ ||A⁻¹||_qp(||δb||_q+ ||δA||_pq||x||_p+

+ ||δA||_qp||δx||_p) · (1 − ||A⁻¹||_qp||δA||_qp)||δx||_p

¬ ||A⁻¹||_qp(||δb||_q+ ||δA||_pq||x||_p) ...

||δx||_p

||x_p|| ¬ 1

1 − %||A⁻¹||_qp||A_pq|| ||δb||_q

||b||_q +||δA||_pq

||A||_pp

!

(11)

Szukamy takiego rozkładu macierzy A ∈ R^n×n, że A = LU, tj.







a11 a12 . . . a1n

a21 a22 . . . a2n

...

an1 an2 . . . ann







=







l11 0 . . . 0 l21 l22 . . . 0

...

ln1 ln2 . . . lnn













u11 u12 . . . u1n

0 u21 . . . u2n

...

0 0 . . . unn







Dlaczego takie rozkłady są ważne?

(12)

Rozkład LU (trójkątno-trójkątny) (2)

Ax = b, LUx = b, L(Ux) = b.

(7) Najpierw rozwiązujemy względem wektora y

Ly = B.

Mając y obliczamy

Ux = y.

y1 = b1

l1,1

(8)

yi = 1 l_{i ,i}



bi −

i −1

X

j =1

li ,jyj



 dla i = 2, 3, . . . , n (9)

(13)

x_n = y_n un,n

(10)

x_i = 1 ui ,i



y_i−

n

X

j =i +1

u_{i ,j}x_j



 dla i = n − 1, n − 2, . . . , 1(11)

(14)

Wyznaczanie rozkładu LU metodą eliminacji Gaussa bez wyboru elementu głównego

Przekształćmy nasz wyjściowy układ











a⁽¹⁾₁₁x₁ + a⁽¹⁾₁₂x₂ + . . . + a⁽¹⁾_1nx_n = b₁⁽¹⁾ a⁽¹⁾₂₁x1 + a⁽¹⁾₂₂x2 + . . . + a⁽¹⁾_2nxn = b₂⁽¹⁾

... ... ...

a⁽¹⁾_n1x1 + a⁽¹⁾₂₂x2 + . . . + a⁽¹⁾nnxn = bn⁽¹⁾

do postaci











a⁽²⁾₁₁x1 + a⁽²⁾₁₂x2 + . . . + a⁽²⁾_1nxn = b₁⁽²⁾ a⁽²⁾₂₂x2 + . . . + a⁽²⁾_2nxn = b₂⁽²⁾

...

a⁽²⁾₂₂x2 + . . . + a⁽²⁾nnxn = bn⁽²⁾

(15)

i dalej sukcesywnie po n takich przekształceniach otrzymujemy:











a⁽ⁿ⁾₁₁x₁ + a⁽ⁿ⁾₁₂x₂ + . . . + a⁽ⁿ⁾_1nx_n = b⁽ⁿ⁾₁ a⁽ⁿ⁾₂₂x_n + . . . + a⁽ⁿ⁾_2nx_n = b⁽ⁿ⁾₂

...

a⁽ⁿ⁾nnx_n = b⁽ⁿ⁾n

Zauważmy, że przekształcenie układu A⁽¹⁾x = b⁽¹⁾ do układu postaci A⁽²⁾x = b⁽²⁾ jest równoważnie obustronnemu pomnożeniu przez macierz







1 . . .

−l₂₁ 1 . . . 0

−l₃₁ 0 1 . . . ... ... ...

−l_n1 0 0 . . . 1







, li 1= a_{i 1}⁽¹⁾/a⁽¹⁾₁₁, i = 2, 3, . . . , n

(16)

Obliczanie rozkładu LU bez wyboru elementu głównego (3)

i dalej L⁽²⁾A⁽²⁾= A⁽³⁾







1 . . .

0 1 . . . 0

0 −l₃₂ 1 . . . ... ... ...

0 −l_n2 0 . . . 1







, li 2= a_{i 2}⁽²⁾/a⁽²⁾₂₂, i = 3, 4, . . . , n

itd.

L⁽ⁿ⁻¹⁾L⁽ⁿ⁻²⁾. . . L⁽¹⁾A⁽¹⁾= A⁽ⁿ⁾, L⁽ⁿ⁻¹⁾L⁽ⁿ⁻²⁾. . . L⁽¹⁾b⁽¹⁾ = b⁽ⁿ⁾

(17)

Macierze L^{(i )}, i = 1, . . . , n − 1 są nieosbliwe wiec możemy zapisać A⁽¹⁾ = (L⁽¹⁾)⁻¹(L⁽²⁾)⁻¹. . . (L⁽ⁿ⁻¹⁾)⁻¹A⁽ⁿ⁾

(L⁽¹⁾)⁻¹=







1 . . .

l₂₁ 1 . . . 0 l31 0 1 . . .

... ... ...

l_n1 0 0 . . . 1







, (L⁽²⁾)⁻¹







1 . . .

0 1 . . . 0

0 l32 1 . . . ... ... ...

0 l_n2 0 . . . 1





 , . . .

(18)

Obliczanie rozkładu LU bez wyboru elementu głównego (5)

Mamy wówczas

(L⁽¹⁾)⁻¹(L⁽²⁾)⁻¹. . . (L⁽ⁿ⁻¹⁾)⁻¹ =







1 . . .

l₂₁ 1 . . . 0 l31 l32 1 . . .

... ... ...

l_n1 l_n2 l_n3 . . . 1





 .

I tym samym

A⁽¹⁾ = LU. (12)

(19)