Wydział Matematyki i Nauk Informacyjnych Politechnika Warszawska
Metody numeryczne algebry - ćwiczenia
Alicja Smoktunowicz
Zadania (część I- macierze elementarne)
(∗) - trudniejsze
1. Wykaż, że wyznacznik dowolnej macierzy Householdera H ∈ Rn×n jest równy −1.
Rozwiązanie
Niech H(n × n) będzie macierzą Householdera. Wówczas H = I − 2zzT, gdzie z ∈ Rn oraz zTz = 1. Ponieważ H jest macierzą ortogonalną, więc (detH)2 = 1.
Wiemy, że istnieje macierz Householdera P(n × n) taka, że Pz = kzk2e1, gdzie e1 = (1, 0, . . . , 0)T. Zauważmy, że kzk2=√
zTz = 1, czyli Pz = e1. Niech Q = PHPT. Wówczas Q jest postaci
Q = P(I − 2zzT)PT = PPT − 2(Pz)(Pz)T = I − 2e1eT1.
Widzimy zatem, że Q jest macierzą diagonalną: Q = diag(−1, 1, . . . , 1).
Stąd detQ = −1. Z drugiej strony, detQ = detP detH detPT = detH, gdyż P jest macierzą ortogonalną. Wykazaliśmy zatem, że detH = −1, co należało udowodnić.
2. Jak tanio obliczyć macierz An, gdzie A = abT oraz x, y ∈ Rn?
Rozwiązanie
Zauważmy, że A2 = (abT)(abT) = a(bTa)bT = (bTa)A. Tutaj bTa jest iloczynem skalarnym wektorów a and b, tj. bTa =Pn
i=1aibi. Elementy macierzy A są równe aij= aibj dla i, j = 1, . . . , n.
Widzimy zatem, że Ak = (bTa)k−1A dla dowolnego k = 1, 2, . . .. Stąd An = (bTa)n−1A, zatem elementy macierzy Anmożemy policzyć kosztem O(n2)operacji arytmetycznych.
3. Jak tanio obliczyć wektor y = (I + H + . . . + Hn)x, gdzie H = I − abT oraz bTa = 1, gdzie a, b, x ∈ Rn?
Rozwiązanie
Mamy
H2 = (I − abT) (I − abT) = I − 2abT+ (abT)(abT).
Zauważmy, że (abT)(abT) = a(bTa)bT = abT, gdyż bTa = 1. Zachodzi równość H2 = H, a stąd wynika, że dla dowolnej liczby naturalnej k mamy Hk= H. Widzimy więc, że y da się zapisać jako y = (I + nH)x = (1 + n)x − na(bTx). Tak więc, elementy wektora y można obliczyć kosztem O(n) operacji arytmetycznych.
4. Wykaż, że jeśli P(m × m) jest macierzą Householdera, to macierz H ∈ R(m+n)×(m+n)
postaci
H = I 0 0 P
!
też jest macierzą Householdera.
Rozwiązanie
Niech P = I − 2uuT, gdzie u ∈ Rm oraz uTu = 1. Tutaj I(m × m) jest macierzą jednostkową.
Zdefiniujmy wektor z ∈ Rm+n jako z = 0 u
!
. Wówczas
zzT = 0 u
! 0T uT
!
= 0 0
0 uuT
! , więc
H = I 0
0 I − 2uuT
! .
Stąd wynika, że H = I − 2zzT, gdzie zTz = 1, zatem H jest transformacją House- holdera.
5. Wykaż, że jeśli P(m × m) jest macierzą Householdera, to macierz H = P 0 0 I
! jest także macierzą Householdera.
6. Czy macierz
A =
1 0 0 0 0 c 0 s 0 0 1 0 0 s 0 −c
,
gdzie c2+ s2= 1, jest macierzą Householdera?
7. Czy istnieje macierz Householdera, będąca iloczynem 2 macierzy obrotu?
8. Wykaż, że macierz cos θ sin θ sin θ − cos θ
!
jest macierzą Householdera.
9. Pokaż, że dowolna macierz obrotu cos θ sin θ
−sin θ cos θ
!
jest iloczynem 2 transformacji Householdera.
10. Udowodnij, że jedynymi macierzami ortogonalnymi w R2są macierze obrotu i odbić zwierciadlanych (transformacje Householdera). Wyznacz wartości własne i wektory własne tych macierzy.
Zadania (część 2- rozkład Q–R)
(∗) - trudniejsze 1. Dla macierzy
A =
6 12 26
0 10 20
−8 −16 −18
wyznacz rozkład ortogonalno–trójkątny (Q–R), stosując metody:
(a) Grama–Schmidta, (b) Householdera, (c) Givensa.
Rozwiązania
Macierz A = (a1, a2, a3)( o kolumnach a1, a2, a3) przedstawimy w postaci A = QR, gdzie Q = (q1, q2, q3) jest macierzą ortogonalną (QTQ = I), a R jest macierzą trójkątną górną
R =
r11 r12 r13 0 r22 r23 0 0 r33
.
Widzimy, że jest to metoda ortogonalizacji kolumn a1, a2, a3 macierzy A.
Co można powiedzieć o jednoznaczności rozkładu Q–R?
Przypomnijmy, że jeśli mamy dwa rozkłady Q–R macierzy kwadratowej A, tj. A = Q1R1 i A = Q2R2 oraz A jest nieosobliwa, to istnieje macierz diagonalna D z elementami diagonalnymi równymi ±1, dla której zachodzą równości
Q2= Q1D, R1= DR2.
Jeśli zatem A jest nieosobliwa, to istnieje dokładnie jedna macierz ortogonalna Q i dokładnie jedna macierz trójkątna górna R z dodatnimi elementami na przekątnej o tej własności, że A = QR (jednoznaczny rozkład Q–R).
W niniejszym rozdziale nie omawiamy przydatności rozważanych algoryt- mów w praktyce obliczeniowej, a jedynie ich własności "teoretyczne"!
(a) Metoda Grama–Schmidta
Tutaj a1=
6 0
−8
, zatem r11=ka1k2= 10, czyli q1= a1/r11= 15
3 0
−4
.
Ponieważ a2=
12 10
−16
, więc r12= qT1a2= 20.
Stąd
v2= a2− r12q1 = 10
0 1 0
,
więc r22=kv2k2= 10 i q2 = v2/r22=
0 1 0
.
Z kolei,
v3= a3− (r13q1+ r23q2),
gdzie a3=
26 20
−18
.
Mamy
r13= aT3q1= 30, , r23= aT3q2= 20.
Stąd v3=
8 0 6
. Widzimy, że r33=kv3k2 = 10, zatem q3 = v3/r33= 15
4 0 3
.
Dostaliśmy więc następujący rozkład Q–R macierzy A:
Q =
3
5 0 45 0 1 0
−45 0 35
, R =
10 20 30 0 10 20 0 0 10
.
(b) Metoda Householdera
Chcemy najpierw wyzerować elementy (oprócz pierwszego) w kolumnie a1macierzy A. W tym celu wyznaczymy transformację Householdera H1 taką, że H1a1 =
±ka1k2e1, gdzie e1= (1, 0, 0)T. Macierz H1 ma postać
H1= I − 2zzT/(zTz).
Mamy dwie możliwości wyboru wektora z: z = a1−ka1k2e1lub z = a1+ka1k2e1. Wybierzmy
z = a1−ka1k2e1=
−4 0
−8
.
Wtedy H1a1=ka1k2e1. Mamy zTz = 80 oraz
zzT =
16 0 32 0 0 0 32 0 64
.
Stąd dostajemy
H1 =
3
5 0 −45
0 1 0
−45 0 −35
.
Zauważmy, że A2 = H1A jest już macierzą trójkątną górną, więc A = QR, gdzie Q = H−11 = H1, a R = A2 jest postaci
R =
10 20 30 0 10 20 0 0 −10
.
(c) Metoda Givensa
Chcemy wyzerowac element a3,1.
Niech x = 6
−8
!
, T = c −s s c
!
, c2+ s2 = 1. Widziemy, że T jest macierzą obrotu. Wybierzemy c i s tak, aby
c s
−s c
! 6
−8
!
= r 0
! .
Niech r = kxk2= 10, c = 6r= 35 i s = −8r = −45. Zdefiniujmy macierz obrotu Givensa G(1,3):
G(1,3)=
c 0 s 0 1 0
−s 0 c
.
Łatwo sprawdzić, że zachodzi równość G(1,3)A = R, gdzie
R =
10 20 30 0 10 20 0 0 10
.
Stąd A = QR, gdzie Q = GT(1,3).
2. Wyznacz czynnik trójkątny R rozkładu Q–R (ortogonalno-trójkątnego) macierzy
A =
1 −2 1
−2 1 1
2 2 5
.
Oblicz |detA| w oparciu o rozkład Q–R.
Rozwiązanie
Powyższe zadanie można rozwiązać podobnie jak poprzednio. Postąpimy jednak inaczej. Skorzystamy tu z faktu, że czynnik R rozkładu Q–R macierzy A spełnia zależność
RTR = ATA,
czyli R jest czynnikiem rozkładu Banachiewicza (Cholesky’ego) macierzy ATA.
Mamy
ATA =
9 0 9 0 9 9 9 9 27
=
r11 0 0 r12 r22 0 r13 r23 r33
r11 r12 r13
0 r22 r23 0 0 r33
.
Bez zmiejszenia ogólności rozważań możemy za R przyjąć macierz z dodatnimi ele- mentami na przekątnej.
Wówczas macierz R jest wyznaczona jednoznacznie i mamy
R =
3 0 3 0 3 3 0 0 3
.
Zauważmy, że detR = 27 6= 0, więc A = QR, gdzie Q = AR−1 jest macierzą ortogonalną (dlaczego?). Ponieważ wyznacznik dowolnej macierzy ortogonalnej jest równy 1 lub −1, zatem |detQ| = 1 i |detA| = |detQ| |detR| = 27.
Stąd |detA| = 27.
3. (∗) Wykaż, że jeśli A = QR i det A 6= 0, A jest macierzą Hessenberga, a R – trójkątną górną, to Q też jest macierzą Hessenberga.
Rozwiązanie (szkic)
Zauważmy, że detR 6= 0 i R−1jest także macierzą trójkatną górną. Stąd Q = AR−1 jest macierzą Hessenberga jako iloczyn macierzy Hessenberga i macierzy trójkątnej górnej.
4. Wyznacz rozkład Q–R macierzy A = xxT, gdzie 0 6= x ∈ R3.
Rozwiązanie
Przypomnijmy, że jeśli x =
x1 x2 x3
, to macierz A = xxT ma postać
A =
x21 x1x2 x1x3 x1x2 x22 x2x3 x1x3 x2x3 x23
.
Wiemy, że istnieje macierz Householdera H taka, że Hx = kxk2e1, gdzie e1 = (1, 0, 0)T. Stąd
HA = (Hx)xT =kxk2e1xT. Można przyjąć H = I − 2zzT/(zTz), gdzie z = x − kxk2e1.
Ponieważ H jest macierzą ortogonalną i H = HT = H−1, zatem A można zapisać jako A = QR, gdzie Q = H i R = kxk2e1xT jest macierzą trójkątną górną postaci
R =kxk2
x1 x2 x3
0 0 0
0 0 0
.
Wyznaczyliśmy zatem rozkład ortogonalno–trójkątny macierzy A.
5. Niech macierz A ∈ R(m+n)×(m+n) będzie macierzą blokową postaci
A = A1 A2 0 A3
! ,
gdzie A1(m× m) and A3(n× n). Zakładamy, że znamy rozkłady Q–R macierzy A1 i A3:
A1= Q1R1, A3= Q3R3. Wykaż, że A = QR (rozkład Q–R macierzy A), gdzie
Q = Q1 0 0 Q3
!
, R = R1 QT1A2 0 R3
! .
Jak można wykorzystać te fakty, aby wyznaczyć rozkład Q–R macierzy
A =
1 2 1 1
0 5 1 1
0 0 −3 18 0 0 −4 −1
?
6. Wyznacz macierz trójkątną R o dodatnim wyznaczniku i taką, że A = QR, gdzie Q jest macierzą ortogonalną oraz
A =
2 0 1
−2 −3 −1
1 3 5
.
Czy macierz R o tych własnościach jest wyznaczona jednoznacznie? Odpowiedź uzasadnij.
7. (∗) Czy dla dowolnej macierzy nieosobliwej A ∈ Rn×n istnieje rozkład Q-L, tj. czy istnieje macierz ortogonalna Q i macierz trójkątna dolna L taka, że A = QL?
8. Wyznacz macierz ortogonalną Q ∈ R3×3taką, że QA jest macierzą trójkątną, gdzie
A =
1 2 5 0 3 6 0 4 7
.
Zadania (część 3- deflacja macierzy)
(∗) - trudniejsze
1. Wykonaj jeden krok metodą deflacji dla macierzy A, gdzie
A =
1 −4 3 1 5 −3 1 −4 4
.
Za wektor własny macierzy A przyjmij x = (0, 3, 4)T. Rozwiąż zadanie, stosując
(a) macierze eliminacji,
(b) transformacje Householdera, (c) obroty Givensa.
Rozwiązania
Przypominamy, że jeśli znamy już jedną parę własną (λ1, x1) macierzy A(n × n), to możemy dokonać tzw. deflacji macierzy A, czyli wyznaczyć macierz B niższego wymiaru, której wartościami własnymi są pozostałe wartości własne macierzy A.
Metoda deflacji
• Wyznacz macierz nieosobliwą P taką, że
Px1= (α, 0, . . . , 0)T = α e1.
• Oblicz ^A = PAP−1.
• Wówczas ^Ama następującą postać
A =^ λ1 bT
0 B
! .
• Jeśli A ma wartości własne λ1, λ2, . . . , λn, to wartościami własnymi macierzy B są liczby λ2, . . . , λn.
W zależności od wyboru macierzy P mamy różne metody.
(a) Metoda deflacji z wykorzystaniem macierzy eliminacji
Najpierw unormujmy wektor własny x1. Niech x = x1/kx1k2, tj. x = (0, 3, 4)T/5.
Utwórzmy macierz permutacji T(1,3) (zamieniając w macierzy jednostkowej wiersz pierwszy z trzecim), tj.
T(1,3)=
0 0 1 0 1 0 1 0 0
.
Wówczas T(1,3)x = ^x, gdzie ^x = (4, 3, 0)T/5.
Następnie utwórzmy pierwszą macierz eliminacji L1 postaci
L1 =
1 0 0
−3/4 1 0
0 0 1
.
Zauważmy, że L1x = (4/5, 0, 0)^ T.
Zdefiniujmy macierz P = L1T(1,3). Wówczas P−1= T(1,3)T L−11 , gdzie
L−11 =
1 0 0 3/4 1 0 0 0 1
.
Stąd po łatwych obliczeniach dostajemy macierz
A = PAP^ −1= L1(T(1,3)AT(1,3)T ) L−11 =
1 −4 1 0 8 1/4 0 −4 1
.
Widzimy, że λ1 = 1 jest wartością własną macierzy A, a wartościami własnymi macierzy B = 8 1/4
−4 1
!
są pozostałe wartości własne A:
λ2 = (9 − 3√
5)/2, λ3= (9 + 3√ 5)/2.
(b) Metoda deflacji z wykorzystaniem transformacji Householdera Niech, jak poprzednio, x = x1/kx1k2, tj. x = (0, 3/5, 4/5)T.
Przyjmijmy za wektor z transformacji Householdera wektor z = x − e1, czyli z = (−1, 3/5, 4/5)T. Wówczas macierz Householdera H = I − 2zzT/(zTz) przekształca wektor ^x na wektor e1. Mamy zTz = 2, zatem H ma postać
H = 1 25
0 15 20
15 16 −12 20 −12 9
.
Tutaj P = H i definiujemy macierz ^A = PAP−1 = HAH (H jest symetryczna i ortogonalna). Dostajemy zatem
A =^
1 1/25 43/25
0 397/125 −179/125 0 −829/125 728/125
.
Widzimy, że λ1 = 1jest wartością własną macierzy A. Jeśli starczy nam cierpliwośći, wyznaczymy (lub nie) wartości własne macierzy
B = 1 125
397 −179
−829 728
! . Są one równe: λ2= (9 − 3√
5)/2i λ3= (9 + 3√ 5)/2.
(c) Metoda deflacji z wykorzystaniem obrotów Givensa
Niech x = (0, 3/5, 4/5)T. Najpierw chcemy wyzerować drugą współrzędną wektora x. W tym celu tworzymy macierz obrotu
G(1,2)=
c1 s1 0
−s1 c1 0
0 0 1
.
Tutaj c1= 0 oraz s1= 1. Wówczas ˜x = G(1,2)x = (3/5, 0, 4/5)T. Następnie chcemy wyzerowac trzecią współrzędną wektora ˜x. Tworzymy macierz obrotu G(1,3) postaci
G(1,3)=
c2 0 s2
0 1 0
−s2 0 0
.
Przyjmijmy c2 = 3/5 i s2 = 4/5. Wtedy mamy G(1,3)˜x = e1. Zdefiniujmy macierz P = G(1,3)G(1,2). Wtedy P−1= GT(1,2)GT(1,3).
Niech ^A = PAP−1. Po prostych przekształceniach dostajemy
A =^
1 −7/5 1
0 1 −5
0 1/5 8
.
Widzimy, że λ1 = 1 jest wartością własną macierzy A, a wartościami własnymi macierzy B = 1 −5
1/5 8
!
są pozostałe wartości własne A:
λ2 = (9 − 3√
5)/2, λ3= (9 + 3√ 5)/2.
2. Wykonaj jeden krok metodą deflacji dla macierzy A, stosując dowolną metodę, jeśli
A =
−10 3 −1
−2 0 1 0 1 −1
i znamy wektor własny x = (1, 2, −2)T macierzy A.
3. Wykonaj 1 krok metodą deflacji, stosując macierze obrotu Givensa, dla macierzy
A =
0 −4 −3
0 5 3
1 0 1
. Wyznacz wszystkie wartości własne macierzy A.
4. Wykonaj 1 krok metodą deflacji, stosując macierze eliminacji, dla macierzy
A =
4 −3 0
0 4 −3
−3 0 4
. Wyznacz wszystkie wartości własne macierzy A.
5. Wykonaj jeden krok metodą deflacji, stosując dowolną metodę, dla macierzy Wilkin- sona W =
1 1 0 1 0 1 0 1 1
i wektora własnego x = √
2, 0, √ 2
T
. Wyznacz wszystkie
wartości własne macierzy W.
6. (∗) Dana jest macierz symetryczna A ∈ Rn×n. Zakładamy, że znamy rozkład spek- tralny macierzy A:
A = QDQT, QTQ = I, D = diag(λ1, . . . , λn).
Wyznacz wszystkie wartości własne i wektory własne macierzy ^A, gdzie
A = A − λ^ 1q1qT1. Czy λ1 może być wartością własną macierzy ^A?
Zadania (część 4- metoda potęgowa)
(∗) - trudniejsze
1. Zbadaj zbieżność metody potęgowej dla macierzy A ∈ Rn×n postaci
A =
n 1 . . . 1 1 n 1 . . . 1 . . . . . . . . . .
1 1 . . . n
.
Rozwiązanie
Przedstawmy macierz A w postaci A = (n − 1)I + E, gdzie I jest macierzą jednos- tkową oraz
E =
1 1 . . . 1 1 1 1 . . . 1 . . . . . . . . . .
1 1 . . . 1
.
Widać, że E = eeT, gdzie e = (1, . . . , 1)T. Stąd wynika (dlaczego?), że macierz E ma wartości własne
λ1(E) = eTe = n, λ2(E) = . . . = λn(E) = 0.
Widzimy, że macierz A ma zatem wartości własne równe
λ1(A) = (n − 1) + n = 2n − 1, λ2(A) = . . . = λn(A) = n − 1.
Macierz A jest macierzą symetryczną, zatem jest diagonalizowalna. Posiada ona również dominującą wartość własną λ1(A):
|λ1(A)| > |λ2(A)|≥ . . . ≥ |λn(A)|.
Stąd wynika zbieżność metody potęgowej dla macierzy A.
2. (∗) Zbadaj zbieżność ciągu {αk}, gdzie αk= kAkx0k2
kAk+1x0k2
oraz A = AT jest daną macierzą rzeczywistą danych wartościach własnych λ1, . . . , λn takich, że
|λ1| > |λ2|≥ . . . ≥ |λn|. (1)
Rozwiązanie
Udowodnimy, że
klim→∞αk= 1
|λ1|
przy naturalnym założeniu, że wektor x0nie posiada niezerowej składowej w kierunku wektora własnego q1, odpowiadającego wartości własnej λ1.
Skorzystamy tu z rozkładu spektralnego macierzy A:
A = QDQT, QTQ = I, D = diag(λ1, . . . , λn).
Kolumny q1, . . . , qn macierzy Q są wektorami własnymi macierzy A: Aqi = λiqi dla i = 1, . . . , n.
Niech z = QTx0. Ponieważ Q jest macierzą ortogonalną (wektory własne qitworzą układ ortonormalny), więc zTz = xT0QQTx0= xT0x0.
Zauważmy, że
Akx0= QDkQTx0= QDkz, zatem
Dkz =
λk1z1
. . . λknzn
.
Q jest ortogonalna, więc długości wektorów QDkz i Dkz są takie same, tj.
kAkx0k2=kDkzk2 = q
λ2k1 z21+ λ2k2 z22+ . . . + λ2knz2n.
Mamy więc
kAkx0k2= |λ1|k q
z21+ βk.
Z założenia (1) wynika, że limk→∞βk= 0(dlaczego?). Stąd
αk= 1
|λ1| s
z21+ βk z21+ βk+1
,
więc limk→∞αk= |λ1
1| przy założeniu, że z1 6= 0.
Zauważmy, że z1 = eT1z = eT1QTx0 = (Qe1)Tx0 = qT1x0, czyli zakładamy, że wektor x0 nie ma niezerowej składowej w kierunku wektora własnego q1.
3. Zbadaj zbieżność metody potęgowej dla macierzy A = I + 2H + 3H2+ . . . + nHn−1, gdzie H ∈ Rn×n jest macierzą postaci H = zzT, gdzie zTz = a > 0.
4. Zbadaj zbieżność metody potęgowej dla macierzy A = I − H, gdzie H ∈ R3×3 jest macierzą Householdera. Czy A jest macierzą diagonalizowalną? Odpowiedź uzasadnij.
5. Zbadaj zbieżność metody potęgowej dla macierzy A = I + Hn, gdzie H ∈ Rn×njest macierzą postaci H = zzT, gdzie zTz = 2.
Czy A jest macierzą diagonalizowalną? Odpowiedź uzasadnij.
6. Zbadaj zbieżność metody potęgowej dla macierzy A = Hn− I, gdzie H ∈ Rn×njest macierzą postaci H = 2zzT, gdzie zTz = 1.
Czy A jest macierzą diagonalizowalną? Odpowiedź uzasadnij.
7. (∗) Niech A ∈ Rn×n będzie macierzą symetryczną o wartościach własnych λi, i = 1, 2, . . . , n, takich, że λ1 = 1, λ2 = −1 oraz |λ1| = |λ2| > |λ3|≥ . . . ≥ |λn|. Zbadaj zbieżność ciągu {uk}, gdzie
uk= xk+ xk+1
2 ,
x06= 0 jest danym przybliżeniem początkowym, a xk= Akx0.
Zadania (część 5- wyznaczniki macierzy, wartości własne macierzy)
(∗) - trudniejsze
1. Wykaż, że wartościami własnymi macierzy A = xyT, gdzie x, y ∈ Rn, są liczby rzeczywiste
λ1= yTx, λ2 = . . . = λn= 0.
2. Zastosuj metodę Hymana do obliczenia wyznacznika macierzy A postaci
A =
1 0 1 3
1 2 0 1
0 −1 2 −5 0 0 1 −2
.
3. Dla macierzy
A =
2 3 1
−1 2 3 0 −1 2
wyznacz wartość wielomianu charakterystycznego i jego pochodnej w punkcie t = 3.
Zastosuj metodę Hymana.
4. Wyznacz macierz Hessenberga podobną do macierzy
A =
c 0 s 0 1 0
−s 0 c
,
gdzie c, s ∈ R oraz c2+ s2 = 1.
5. Wyznacz macierz Hessenberga podobną do macierzy A =
0 0 1 1 1 0 1 0 0 3 1 0 0 4 1 0
.
6. Wyznacz macierz Hessenberga podobną do macierzy A =
−5 −2 1 1
−1 0 −2 1
0 −4 −2 −2
0 −3 −4 1
.
7. Znajdź macierz ortogonalną Q i macierz trójdiagonalną B = BT, że B = QTAQ,
gdzie A =
3 0 1 0 2 0 1 0 1
.
8. Czy macierz A jest ortogonalnie podobna do macierzy trójdiagonalnej B, gdzie
A =
1 2 3
2 −1 4
3 4 0
, B =
1 2 0
2 −1 4 0 4 3√ 2
?
9. (∗) Udowodnij, że dowolna macierz A ∈ Rn×njest ortogonalnie podobna do macierzy prawie trójkątnej dolnej (dolnej macierzy Hessenberga).
10. (∗) Udowodnij następujące twierdzenie:
Twierdzenie 1 Jeśli macierz A = AT ∈ Rn×n ma wartości własne λ1, . . . , λn, wówczas dla dowolnej liczbyα∈ R i dowolnego niezerowego wektora x ∈ Rnzachodzi oszacowanie
i=1,...,nmin |λi− α|≤ kAx − αxk2 kxk2 .
11. Udowodnij następujące twierdzenie:
Twierdzenie 2 Jeśli macierz A = AT ∈ Rn×n ma wartości własne λ1 ≤ . . . ≤ λn, wówczas dla dowolnego niezerowego wektora x∈ Rn zachodzi oszacowanie
λ1≤ xTAx xTx ≤ λn.
Zadania (część 6- liniowe zadanie najmniejszych kwadratów)
(∗) - trudniejsze
Uwaga. We wszystkich zadaniach przez rozkład SVD macierzy A ∈ Rm×nrozumiemy przedstawienie macierzy A w postaci A = UΣVT, gdzie U(m×m) i V(n×n) są macierzami ortogonalnymi, a Σ(m × n) ma wszystkie elementy zerowe z wyjątkiem elementów na przekątnej σ1 ≥ σ2 ≥ . . . ≥ σr > 0, gdzie r = rank(A). Liczby σ1, . . . , σr nazywamy wartościami szczególnymi macierzy A.
1. Wykaż, że jeśli P(m × m) i Q(n × n) są macierzami ortogonalnymi, to dla dowolnej macierzy A ∈ Rm×n zachodzi równość (PAQ)†= QTA†PT.
Rozwiązanie
Niech A = UΣVT (rozkład SVD) i zdefiniujmy macierz ^A = PAQ, gdzie P i Q są macierzami ortogonalnymi. Wtedy ^A = (PU)Σ(VTQ) = (PU)Σ(QTV)T, czyli A^ ma następujący rozkład SVD: ^A = ^UΣ ^VT, gdzie ^U = PU i ^V = QTV. Stąd A^† = ^VΣ†U^T, zatem ^A†= QTA†PT.
2. Wykaż, że (AT)†= (A†)T.
Rozwiązanie
Niech A ma następujący rozkład SVD: A = UΣVT. Wtedy A†= VΣ†UT. Widzimy, że AT = VΣTUT. Stąd (AT)† = U(ΣT)†VT. Zauważmy, że (ΣT)† = (Σ†)T, a zatem (AT)†= (A†)T.
3. Wykaż, że dla dowolnej macierzy A ∈ Rm×n jej uogólniona odwrotność A† jest równa
A†= (ATA)†AT.
Rozwiązanie
Niech A ma następujący rozkład SVD: A = UΣVT. Wtedy A† = VΣ†UT. Łatwo sprawdzić, że zachodzi równość
Σ†= (ΣTΣ)†ΣT. (1)
