Metody numeryczne – Wykład 4 – Metody rozwiązywania układów liniowych równań algebraicznych

(1)

Metody numeryczne – Wykład 4 –

Metody rozwiązywania układów liniowych równań algebraicznych

Marek Bazan

III rok - Elektornika

Semestr zimowy 2020/2021

(2)

Plan zajęć

1. Definicja norm indukowanych

2. Jakie macierze nie wymagają wyboru elementu głownego 3. Jak efektywanie wyznaczamy wyznacznik

4. Metoda Gaussa z częściowym wyborem elementu głównego 5. Metoda Jordana z częściowym wyborem elementu głównego

(3)

Definicja norm indukowanych

Dla przestrzeni Rⁿ mamy następujące normy wektorowe używane w obliczeniach numerycznych

||x||₁ = |x₁| + |x₂| + · · · + |x_n| (1)

||x||₂ = (x₁²+ x₂²+ · · · + x_n²)^1/2 (2)

||x||_∞ = max (|x1|, |x₂|, . . . , |x_n|) (3) Macierz A ∈ R^m×n jest operatorem liniowym przekształcającym przestrzeń Rⁿ w przestrzeń R^m.

Normę macierzową || · ||_pq indukową przez normy wektorowe || · ||_q i || · ||_p definiujemy jako

||A||_pq = max

x∈Rn x6=0

||Ax||_q

||x||_p (4)

Gdy p = q przyjmujemy ||A||_p = ||A||_pq.

(4)

Normy macierzowe

Znane są zależności

||A||₁ = max

j =1,2,...,n m

X

i =1

|a_ij| (maks. suma modułów w kolumnie)

||A||₂ = (największa wartość własna macierzy A^TA)^1/2 (5)

||A||_∞ = max

i =1,2,...,m n

X

j =1

|a_ij| (maks. suma modułów w wierszu)

||A||_1∞ = max

i ,j |a_ij| (6)

||A||_E =





m

X

i =1 n

X

j =1

a²_ij





1/2

(7)

(5)

Normy macierzowe (2)

Własności norm indukowanych 1. ||AB||_pq ¬ ||A||_rq||B||_pr

2. Liczbę %(A) = maxi =1,...,n|λ_i| gdzie λ_i są wartościami własnymi macierzy A nazywamy promieniem spektralnym macierzy A. Mamy

%(A) ¬ ||A||p, p = 1, 2, ∞, E

(6)

Kiedy nie trzeba stosować wyboru elementu głównego

1. Co to jest częściowy wybór elementu głównego/podstawowego?







1 · · · 0 0 · · · 0

... ... ... ... ... ...

0 . .. 1 0 . . . 0

0 · · · −l_{j +1,j} 1 . . . 0 ... ... ... ... . .. ...

0 · · · −l_nj 0 . . . 1













a^{(j )}₁₁ · · · a^{(j )}_1j a^{(j )}_{1,j +1} · · · a^{(j )}_1n ... ... ... ... ... ... 0 . .. a^{(j )}_jj a^{(j )}_{j ,j +1} . . . a^{(j )}_{j ,n} 0 · · · a^{(j )}_{j +1,j} a^{(j )}_{j +1,j +1} . . . a^{(j )}_{j +1,n} ... ... ... ... . .. ...

0 · · · a^{(j )}_nj a^{(j )}_{n,j +1} . . . a^{(j )}_nn





 ,

l_{i 2}= a^{(j )}_ij /a^{(j )}_jj , i = j + 1, j + 2, . . . , n (8) Gdy a_jj^{(j )}≈ 0 to należy zamienić j − ty wiersz miejscami wybierając do zamiany ten spośród ostatnich n − j wierszy, który ma największy co do modułu element w kolumnie j -tej.

(7)

Kiedy nie trzeba stosować wyboru elementu głównego (2)

2. Macierze diagonalnie dominujące

Definicja: Macierz diagonalnie dominująca to taka, dla której moduły elementów na diagonali są niemniejssze od sumy modułów pozostałych elementów w tym samym wierszu, tzn.

|a_ii| ^X

k=1 k6=i

|a_ik|, i = 1, 2, . . . , n

Definicja: Macierz diagonalnie dominująca kolumnowo to taka, dla której moduły elementów na diagonali są

niemniejssze od sumy modułów pozostałych elementów w tej samej kolumnie, tzn.

|a_ii| ^X

k=1 k6=i

|a_ki|, i = 1, 2, . . . , n

Tw: Jeśli macierz A jest nieosobliwa i diagonalnie

dominująca kolumnowo, to przy elieminacji nie ma potrzeby przestawiania wierszy.

(8)

Kiedy nie trzeba stosować wyboru elementu głównego (3)

3. Macierze symetryczne dodatnio określone

Definicja: Formą kwadratową Q(x) zdefiniowaną macierzą A = [a_ij]i ,j =1...n∈ R^n×n dla wektora x ∈ Rⁿ nazywamy wyrażenie

Q(x) =

n

X

i =1 n

X

j =1

a_ijx_ix_j

Definicja: Macierz A ∈ R^n×n nazywamy dodatnio określoną jeśli dla dowolnego x ∈ Rⁿ forma Q(x) spełnia

Q(x) > 0

Tw: Jeśli macierz A ∈ R^n×n jest symetryczna i dodatnio określona to przy elieminacji nie ma potrzeby przestawiania wierszy.

(9)

Algorytm Gaussa z częściowym wyborem elementu głównego

Rozpatrzmy macierz permutacji

Pk,t_k =





 1 . . .

. ..

0 . . . 1 ... . . . ... 1 . . . 0

. ..

1





 ,

która uzyskiwana jest z macierzy jednostkowej w taki sposób, że p_kk = p_t_k_,t_k = 0 oraz p_k,t_k = p_t_k_,k = 1.

(10)

Algorytm Gaussa z częściowym wyborem elementu głównego (2)

W algorytmie z częściowym wyborem elementu głównego wykonujemy nie jak poprzednio przekształcenia

L⁽ⁿ⁻¹⁾. . . L⁽²⁾L⁽¹⁾A⁽¹⁾ = A⁽ⁿ⁾ lecz

L⁽ⁿ⁻¹⁾Pin−1,n−1. . . L⁽²⁾Pi2,2L⁽¹⁾Pi1,1A⁽¹⁾= A⁽ⁿ⁾ które sprowadzają macierz A⁽¹⁾ do macierzy A⁽ⁿ⁾, która jest macierzą trójkątną górną.

Przy czym łatwo jest pokazać, że macierz

L^def=L⁽ⁿ⁻¹⁾Pin−1,n−1. . . L⁽²⁾Pi2,2L⁽¹⁾Pi2,2. . . Pin−1,n−1

−1

jest macierzą trójkątną dolną. Dowodzi się tego dzięki temu, że Pij,j = P⁻¹_i

j,j.

(11)

Algorytm Gaussa z częściowym wyborem elementu głównego (3)

Mamy wówczas

LU = PA gdzie

L^def=L⁽ⁿ⁻¹⁾P_i_n−1_,n−1. . . L⁽²⁾P_i₂_,2L⁽¹⁾P_i₂_,2. . . P_i_n−1_,n−1⁻¹ oraz

U = A⁽ⁿ⁾, P^def= P_i_n−1_,n−1. . . P_i₂_,2

(12)

Jak efektywnie wyznaczamy wyznacznik (1)

Obliczamy rozkład A = LU stosując częściowy wybór elementu podstawowego) a wówczas

det(A + E) = det LU = det L det U = det U =

n

Y

i =1

uii

Macierz E jest macierzą zaburzeń powstałych przez wykoanie algorytmu eliminacji Gaussa z częściowym wyborem elementu głównego.

Można oszacować, zaburzenia wprowadzone przez ten algorytm wynoszą

||E||₁

||A||₁ ¬ 8(n²+ n) gdzie to błąd reprezentacji zmiennnopozycyjnej.

Natomiast na obliczony wyznacznik zmiany wpływają tak jak K||E||₁

||A||₁

gdzie K jest współczynnikiem uwarunkowania zadania Ax = b.

(13)

Jak efektywnie wyznaczamy wyznacznik (2)

W algorytmie eleminacji Gaussa z pełnym wyborem elementu głównego jeśli |a^(k)_i

k,j_k| = max_{k¬i ,j ¬n}|˜a^(k)_ij | czyli wybieramy

maksymalny element w analizowanej podmacierzy A^(k)(k : n, k : n) macierzy A^(k) to macierz jest ta przekształcana jest przez

obustronne pomnożenie przez macierze elementarne (P_i_k_,kA^(k)P_{j ,j}_k)

Dla n − 1 takich przekształceń mamy

L⁽ⁿ⁻¹⁾Pin−1,n−1. . . L⁽²⁾Pi2,2L⁽¹⁾Pi1,1A⁽¹⁾P1,j1P2,j2. . . Pn−1,jn−1 = A⁽ⁿ⁾ Również tu nietrudno wykazać przy założeniu

L^def=L⁽ⁿ⁻¹⁾P_i_n−1_,n−1. . . L⁽²⁾P_i₂_,2L⁽¹⁾P_i₂_,2. . . P_i_n−1_,n−1⁻¹ LU = PA ˜P

gdzie oraz

U = A⁽ⁿ⁾, P^def= P_i_n−1_,n−1. . . P_i₂_,2P_i₁_,1, ˜P^def= P_1,j₁P_2,j₂. . . P_n−1,j_n−1

(14)

Jak efektywnie wyznaczamy wyznacznik (2)

Wyznacznik wówczas wynosi

det(A) = (−1)^m

n

Y

i =1

u_ii

gdzie m jest sumą liczby macierzy przestawień, dla których ik 6= k i j_k 6= k.

(15)

Algorytm Jordana z częściowym wyborem elementu głównego

A =⇒







1 · · · a^{(j )}_1j a^{(j )}_{1,j +1} · · · a^{(j )}_1n ... ... ... ... ... ... 0 . .. a^{(j )}_jj a^{(j )}_{j ,j +1} . . . a^{(j )}_{j ,n} 0 · · · a^{(j )}_{j +1,j} a^{(j )}_{j +1,j +1} . . . a^{(j )}_{j +1,n} ... ... ... ... . .. ...

0 · · · a^{(j )}_nj a^{(j )}_{n,j +1} . . . a^{(j )}nn







=⇒







1 · · · a_1j^{(j )} a^{(j )}_{1,j +1} · · · a_1n^{(j )} ... ... ... ... ... ... 0 . .. 1 a^{(j )}_{j ,j +1} . . . a_{j ,n}^{(j )} 0 · · · 0 1 . . . a_{j +1,n}^{(j )} ... ... ... ... . .. ...

0 · · · 0 0 . . . 1







=⇒ In

(16)

Metody numeryczne – Wykład 4 – Metody rozwiązywania układów liniowych równań algebraicznych