1
Wartości i wektory własne
Dość często przy rozwiązywaniu problemów naukowych czy technicznych pojawia się konieczność rozwiązania dość specyficznego układu równań:
Zależnego od n nieznanych zmiennych i pewnego parametru . Rozwiązaniem układu równań jest tzw. wektor własny :
przynależny do wartości własnej Rozwiązanie sprowadz się do znalezienia rozwiązania problemu własnego. Powyższy układ równań wygodniej jest zapisać w postaci macierzowej:
gdzie: A jest macierzą nxn zawierającą współczynniki układu.
Wartości i wektory własne
Nie zawsze układ równań, którego chcemy znaleźć rozwiązanie, przyjmuje tak prostą postać. Nierzadko mamy do czynienia z tzw. uogólnionym problemem własnym:
gdzie: B jest macierzą nxn.
Jeśli macierz B jest nieosobliwa to problem uogólniony można przekształcić do postaci:
czyli do problemu własnego w podstawowej wersji. Konwersja problemu
uogólniego do standardowego problemu wiąże się z koniecznością znalezienia macierzy B-1 czyli wykonaniem dodatkowych obliczeń.
3
Wartości i wektory własne
Pojęcia podstawowe.
Def. Liczbę nazywamy wartością własną macierzy jeśli istnieje taki niezerowy wektor x dla którego zachodzi:
Wektor x nazywamy (prawostronnym) wektorem własnym przynależnym do wartości własnej . Ciąg wszystkich wartości własnych nazywamy widmem macierzy A -Sp(A).
Z powyższej definicji wynika:
Macierz (A-I) jest osobliwa, więc:
Wyznacznik ten jest wielomianem stopnia n zmiennej :
Każda wartość własna jest pierwiastkiem wielomianu charakterystycznego macierzy A.
Wartości i wektory własne
Def. Wartości i wektroy własne macierzy transponowanej AT nazywamy
lewostronnymi wartościami i lewostronnymi wektorami własnymi macierzy A.
Wyznacznik macierzy po jej transponowaniu nie ulega zmianie. Dlatego widmo macierzy A jest równe widmu lewostronnemu.
Tw. Jeżeli p jest wartością własną macierzy, a l jest jej lewostronną wartością własną oraz gdy
Wówczas wektor własny xl jest ortogonalny do lewostronnego wektora własnego xp.
5
Wartości i wektory własne
Def. Macierze A i B są podobne jeśli istnieje nieosobliwa macierz podobieństwa P, że:
Tw. Jeżeli macierze A i B są podobne to mają identyczne widmo wartości własnych.
Tw. Macierz Qmxn (m≥n) nazywamy ortogonalną jeśli:
Tw. Jeżeli macierz Qnxn jest ortogonalna to:
Tw. Macierz symetryczna A jest ortogonalnie podobna do macierzy diagonalnej D:
Tw. Wartości własne macierzy symetrycznej są rzeczywiste.
Wartości i wektory własne
Tw. (Schura) Suma kwadratów modułów wartości własnych jest ograniczona od góry przez kwadrat normy euklidesowej:
Tw. Widmo macierzy ulega przesunięciu po dodaniu do niej macierzy jednostkowej pomnożonej przez liczbę:
Widmo:
zostaje zastąpione przez:
7
Wartości i wektory własne
Tw. (Gershgorina) Niech Ci oznaczają koła domkniete na płaszczyźnie zespolonej o środkach w punktach aii (elementy diagonalne macierzy A) i promieniach równych sumie modułów elementów z danego wiersza diagonali:
wówczas:
Jeżeli k kół Ci tworzy zbiór rozłączny z pozostałymi kołami, to w zbiorze tym leży dokładnie k wartości wlasnych macierzy A.
Wnioski:
1) Jeżeli macierz jest symetryczna i diagonalnie dominująca o nieujemnych elementach na diagonali, to jest nieujemnie okreslona, a jeśli jest ona
dodatkowo nieosobliwa to jest dodatnio określona. Macierz symetryczna silnie diagonalnie dominująca jest dodatnio okreslona wtedy i tylko wtedy gdy
elementy na diagonali są dodatnie.
2) W każdym kole rozłącznym z pozostałymi leży dokładnie jedna wartość własna.
Wartości i wektory własne
Lokalizacja i obliczanie wartości własnych.
Wartości własne macierzy A leżą na płaszczyźnie zespolonej i zawarte są w kole o środku w 0 i promieniu równym promieniowi spektralnemu tej macierzy.
Ponieważ:
więc można przyjać że:
Widma wartości własnych i lewostronnych wartości własnych są identyczne.
Aby otrzymać lepsze oszacowanie położenia wartości własnych można więc zastosować twierdzenie Geshgorina dla AT. Koła zawierające wartości własne mają środki w aii i promienie równe sumie modułów pozostałych elementów w i-tych kulmnach.
Przykład. Podać lokalizację wartości własnych macierzy
9
Wartości i wektory własne
a) najgorsze oszacowanie – lokalizacja w kole o promieniu 4 b) tw. Gershgorina – lokalizacja w kole o promieniu 3
c) tw. Gershgorina dla AT – jedno z kół jest odseparowane (C'3)i zdegenerowane
znajduje się w nim dokładnie jedna wartośćwłasna (=2) - najlepsze oszacowanie
Wartości i wektory własne
Metoda potęgowa wyznaczania pojedynczych wartości własnych i wektorów własnych.
Sposób postępowania:
0) Ustalamy maksymalną liczbę iteracji ITM i wybiramy wektor x0, tak aby:
1) obliczamy wektor vi+1: oraz liczbę:
Jeżeli mi+1=0 to przerywamy obliczenia. W przeciwnym razie obliczamy:
2) sprawdzamy warunek: i < ITM. Jeśli tak to dokonujemy podstawienia i=i+1 i powtarzamy krok 1.
11
Wartości i wektory własne
W obu przypadkach norma wektora wynosi
a wartość własna jest równa:
lub
Tw. Jeżeli wśród wartości własnych macierzy A nie ma różnych wartości własnych o równych modułach, to przy dowolnym wektorze startowym x0, ciąg wektorów x0,x2,x4,... jest zbieżny.
Zbieżność metody potęgowej można zwiększyć przesuwając widmo macierzy A:
Jeśli wartości własne zostały wyznaczone inną metodą to metoda potegowa
może posłużyć do obliczania wektorów własnych. Najlepszą zbiezność do wektora własnwego odpowiadajacego wartości własnej 1 uzyskuje się przesuwając widmo:
gdzie: i jest nastepną w kolejności wartością własną po 1 ale różną od niej. Najlepszą zbieżność do wektora odpowiadającego wartości n uzyskuje się dla
gdzie: i wartością własną poprzedzającą n
Wartości i wektory własne
Algorytm LR i QR wyznaczania wartości własnych.
Metoda LR jest to metodą iteracyjną. W pierwszej iteracji przyjmujemy:
W każdej kolejnej iteracji wyznaczamy rozkład Ai w postaci:
gdzie: Li jest macierzą dolną z jedynkami na diagonali, a Ri macierzą trójkątną górną.
Rozkład taki można znaleźć przy użyciu metody eliminacji Gaussa.
Rozkład ten pozwala przekształcić macierz Ai do postaci Ai+1 zgodnie z wzorem:
Postępując w ten sposób, po wielu iteracjach przekształcamy pierwotną macierz A w macierz trójkatną górną. Wówczas otrzymujemy relację pomiędzy elementami diagonalnymi macierzy trójkatnej a wartościami własnymi macierzy A:
13
Wartości i wektory własne
Z metody LR wywodzi się metoda QR. W metodzie tej, podobnie jak w metodzie LR w każdej iteracji dokonujemy macierzy Ai. Rozkład ten ma postać:
gdzie: Ri jest macierzą trójkątna górną, a Qi jest macierzą ortogonalną
lub dla macierzy zespolonej
W podstawowej wersji metody QR po wykonaniu wielu iteracji (przekształceń),
otrzymujemy macierz Ai+1 na diagonali której znajdują się wartości własne macierzy A.
Wynika to z faktu podobieństwa macierzy w dwóch kolejnych iteracjach:
Macierz Ai+1 jest podobna do macierzy Ai, Ai-1,...,A1. Wadą podstawowej wersji metody QR jest duża czasochłonność. Przekształcenie Ai do postaci Ai+1 wymaga nakładu obliczeń rzędu n3.
Wartości i wektory własne
Algorytm QR dla macierzy Hessenberga.
Macierzą (górną) Hessenberga jets macierz, którą można zapisać w postaci:
gdzie: T jest macierzą trójdiagonalną a U jest macierzą trókatną górną.
Każda macierz kwadratowa jest ortogonalnie podobna do macierzy Hessenberga, więc ma ona to samo widmo wartości własnych co macierz H.
W celu wyznaczenia wartości własnych macierzy H wyznaczamy ciąg miacierzy:
Wszystkie macierze Qi oraz Hi są macierzami Hessenberga.
Ponieważ:
wobec czego wszystkie macierze Hi, i=1,2,3,.. są podobne. Elementy na diagonali kolejnych H dążą do wartości własnych macierzy H =H.
15
Wartości i wektory własne
gdzie: gwiazdki oznaczają elementy ustalone, kropki lementy których wartości mogą się zmieniać.
Wartości własne leżą wtedy bezpośrednio na diagonali lub są wartościami własnymi macierzy 2x2 leżących na diagonali.
Wadą metody może być powolna zbieżność. Zwiększenie wydajności uzyskuje się dokonując przesunięcia widma wartości własnych zgodnie z poniższym schematem:
Wartość ki wybiera się jako równe otrzymanym już wartościom własnym czyli
lub wartości ki oraz ki+1 jako równe wartościom własnym macierzy 2x2 znajdujących się w prawym dolnym rogu macierzy Hi. Metodę QR można stosować do dowolenej macierzy. Ze względu na dużą wydajność metody dla macierzy Hessenberga zaleca się przekształecenie macierzy do
postaci Hessenberga i zastosowanie QR.
Wartości i wektory własne
Metoda eliminacji Gaussa przekształacenia macierzy do postaci Hessneberga.
Macierz A sprowadzamy do postaci Hessenberga dokonując (n-2) przekształceń, uzyskując kolejno macierze: A1,A2,..., An-1=H.
Przekształcenie Ai w Ai+1 przebiega w następujący sposób:
1)spośród elementów
wybieramy ten o największym module. Jeśli są to same elementy zerowe to Ai+1=Ai i dokonujemy kolejnego przekształcenia. Jeśli element znajduje się w k-tym wierszu, przestawiamy wiersze i kolumny o indeksach k oraz i+1.
2) Obliczamy współczynniki
Ze względu na wybór elementu podstawowego
17
Wartości i wektory własne
Metoda Hausholdera rozkładu QR.
Definiujemy macierz Hausholdera w postaci:
Def. Iloczyn zewnętrzny
Własności macierzy Hausholdera:
Macierz Hausholdera posłuży do znalezienia rozkładu QR.
Określamy ciąg macierzy P(1),P(2),P(3),...P(n-1) przy pomocy których definiujemy macierz R (górną trójkatną):
Wartości i wektory własne
Zakładamy:
Macierz H(1) jest macierzą Hausholdera sprowadzajacą pierwsza kolumnę macierzy A (a(1)1) do postaci:
Przez P(2) oznaczamy:
Macierz H(2) sprowadza pierwszą kolumnę macierzy o wymiarze (n-1)x(n-1)
utworzonej z wierszy i kolumn o numerach 2,3,4,...,n macierzy P(1)A (a(2)1) do postaci:
19
Wartości i wektory własne
Macierz P(n-1) ma postać:
A macierz H(n-1) ma wymiar 2x2.
Po wyznaczeniu wszystkich macierzy P(i), rozkład A=QR wyznaczamy według wzorów:
Liczba operacji potrzebnych do uzyskania rozkładu Hausholdera wynosi:
- mnożeń - dodawań
- pierwiastkowań
Wartości i wektory własne
Przykład. Wyznaczyć rozkład QR macierzy
i=1
i=2
21
Wartości i wektory własne
Wartości i wektory własne macierzy symetrycznych.
Dzięki symetrii macierzy, metody poszukiwania wartości i wektorów własnych posiadają wiele zalet:
1. Dwukrotnie mniejsza liczba zajętych komórek pamięci niż dla „pełnej” macierzy 2. Mniejszy nakłąd obliczeń
3. Metody upraszczają się jeśli wartości własne są rzeczywiste
4. Zadanie wyznaczenia wartości własnych jest dobrze uwarunkowane
Tw. Jeżeli macierz A jest symetryczna i dodatnio określona, to dla dowolnego wektora początkowego x0 metoda potęgowa jest zbieżna.
Tw. Jeżeli macierz A jest symetryczna i dodatnio określona, to algorytm QR generuje ciąg macierzy A(1),A(2),...
zbieżny do macierzy diagonalnej.
Algorytm QR zachowuje symetrię macierzy A(i):
Najczęściej jednak macierz symetryczną sprowadza się do postaci trójdiagonlanej.
Wyznaczanie wartości i wektorów własnych macierzy trójdiagonalnej wymaga niewielkiego nakładu obliczeń.
Wartości i wektory własne
Przekształcenie macierzy symetrycznej do postaci trójdiagonalnej.
Jeśli jako T oznaczymy macierz trójdiagonalną a przez A macierz symetryczną to istnieje taka macierz podobieństwa P:
Macierz P można znaleźć stosując metodę Hausholdera lub Givensa.
W metodzie Hausholdera liczba działań potrzebnych do sprowadzenia macierzy A do postaci T wynosi:
- mnożeń
- dodawań
- pierwiastkowań Błędy zaokrągleń w metodzie Hasuholdera:
23
Wartości i wektory własne
Metoda bisekcji poszukiwania wartości i wektorów własnych macierzy trójdiagonalnej.
Sposób postępowania:
1) wybieramy dowolną liczbę i obliczamy wartość wielomianu charakterystycznego rekurencyjnie:
- wartość wielomianu (M=3n-3, D=2n-1)
2) Korzystamy z poniższych twierdzeń:
Tw. Jeżeli elementy a2,a2,...,an (pozadiagonalne) są niezerowe, to wartości własne macierzy T są pojedyncze.
Wartości i wektory własne
Tw. Jeżeli elementy a2,a2,...,an (pozadiagonalne) są niezerowe, to ciąg wartości n spełnia warunki:
a) Jeżeli i dla pewnego i<n, to i-1i+1
b) Jeżeli n jest różne od 0, to liczba zmian znaków sąsiednich liczb 01n jest równa liczbie wartości własnych macierzy T
mniejszych od
c) Jeżeli n, to jest wartością własną macierzy T, a ponadto jest tyle wartości własnych mniejszych niż ile nastąpiło zmian znaków w ciągu 01n-1
25
Wartości i wektory własne
Wartości i wektory własne
Metoda bisekcji jest bardzo dokładna. Wadą jest uzyskiwanie duzych wartości ciągu 01n jeśli znacznie różni się od wartości własnych T.
Zaletą natomiast możliwośc obliczenia wartości własnej o określonym indeksie k.
Liczba iteracji potrzebna do wyznaczenia k wynosi:
Wektory własne
Znając wartość własną macierzy T wektor własny wyznaczamy według wzorów: