Za zniemyod wyprowadzenia wzoru na dªugo±¢ wektora w
przestrzenin-wymiarowej. Dªugo±¢ wektora x bdziemy
ozna za¢ przez
||
x||
.Dla n
=
1, dªugo±¢ wektora xT= (
x1)
wynosi||
x|| = |
x1| = q
x 2
1
Dla n
=
2 wystar zy zastosowa¢ twierdzeniePitagorasa: je±li xT
= (
x1,
x2)
,todªugo±¢ wektora x wynosi||
x|| = q
x 2
1
+
x22
.
Dla n
=
3 iwektora xT= (
x1,
x2,
x3)
wystar zy zastosowa¢dwukrotnietwierdzeniePitagorasa: najpierw wyzna zamy
dªugo±¢ rzutu wektora na pªasz zyzn wyzna zon¡przez
pierwszedwie wspóªrzdne. Wynosiona
α = q
x 2
1
+
x22 .
Nastpnie, stosuj¡ drugi raztwierdzeniePitagorasadostajemy
||
x|| = q
α
2+
x32= q
x 2
1
+
x22+
x32.
W ogólno± i,dladowolnegon
≥
1i wektorax
T
= (
x1, . . . ,
xn)
, poprzez zastosowanie n−
1razytwierdzeniePitagorasadostajemy
||
x|| = q
x 2
1
+ . . . +
xn2.
Wynikast¡d wa»ny wzór
|| || = .
Nie h a
,
b∈
V bd¡ dwoma wektoramio niezerowejdªugo± iw n-wymiarowejprzestrzeniliniowejV. Rozwa»my nastpuj¡ y
trójk¡t,gdzie
θ
jestk¡tempomidzy wektoramia oraz b.Dªugo± i boków tego trójk¡ta to
||
a||, ||
b||
oraz||
a−
b||
.Z prawa osinusów mamy
||
a−
b||
2= ||
a||
2+ ||
b||
2−
2||
a|| ||
b||
osθ.
Poniewa» dlawektora x mamy
||
x||
2=
xTx,to||
a−
b||
2= (
a−
b)
T(
a−
b) = (
aT−
bT)(
a−
b)
=
aTa−
aTb−
bTa+
bTb= ||
a||
2+ ||
b||
2−
2aTb.
Uwaga: a T
b
=
bTa .Mamy wi kolejny wa»ny wzór
os
θ =
aT
b
||
a|| · ||
b|| .
Wynikast¡d, »eniezerowewektorya ib s¡ prostopadªe wtedy
itylkowtedy,gdya T
b
=
0. Namo ypowy»szej uwagi jesttorównowa»ne warunkowi b T
a
=
0.Prostopadªo±¢wektorów aib bdziemyozna za¢ przeza
⊥
b.Zauwa»my,»e je±lia
∈
V jestniezerowym wektorem, to prostaL
a
wyzna zona przezwektor ajestzbioremwszystki h
wektorów posta i
α ·
a , gdzieα ∈ R
przebiega zbiórli zbrze zywisty h.
Nie h b
∈
V bdziedowolnymwektorem. Wyzna zymy rzutwektorab naprost¡L
a .
Szukamy zatemli zby
α
takiej,»e wektorb− α
ajestprostopadªy do a , zylia
T
(
b− α
a) =
0.Mamy wie
α =
aT
b
a T
a
=
aT
b
||
a||
2.
Natomiastszukanym rzutem jestwektor
a T
b
a T
a
·
a=
a·
aT
b
a T
a
=
aaT
a T
a
·
b.
Takwi zadanie rzutowaniadowolnego wektora b na prost¡
L
a
daje siprzedstawi¢jakoilo zynma ierzyrzutowania
P
=
aaT
a T
a
przezwektor b, zyliPb.
Zauwa»my,»e je±lib le»yna prostej L
a
,tozna zy dlapewnej
li zby
α ∈ R
,b= α
a , to Pb=
b. Istotnieaa T
a T
a
· α
a= α
a·
aT
a
a T
a
= α
a=
b.
Zauwa»my te»,»e ma ierzP jestsymetry zna:
P
T
= (
aaT
a T
a
)
T= (
aaT)
Ta T
a
=
aaT
a T
a
=
P.
Ponadto P
2
=
P. Wynikato znastpuj¡ ego i¡gurówno± iaa T
a T
a
·
aaT
a T
a
=
a(
aTa)
aT(
aTa)
2=
aaT
a T
a
.
Przykªad 5.1 Nie ha
= [
1,
1,
1]
T bdziewektoremwprzestrzeni
R
3 inie hL abdzie prost¡ wyzna zon¡przezten
wektor. Znajdziemyma ierzrzutowania naprost¡L
a .
Poniewa» a T
a
=
3,to ma ierzP jest3×
3 ma ierz¡,wktórejwszystkiewarto± i s¡równe 1/3. Dlawektora b
= [
1,
2,
0]
T,mamy Pb
= [
1,
1,
1]
T. Natomiastdlawektora= [
1,
0, −
2]
T,mamy P
= [−
1/
3, −
1/
3, −
1/
3]
T.Powiemy,»e wektor b jest ortogonalny do podprzestrzeni
V,gdyb jestortogonalny do ka»dego wektora z V.
Powiemy wresz ie,»e podprzestrze« U jest ortogonalna do
podprzestrzeni V,gdy dlaka»dego a
∈
U ika»dego b∈
Vmamy a T
b
=
0.Z ka»d¡podprzestrzeni¡V mo»emyzwi¡za¢maksymaln¡
podprzestrze«ortogonaln¡do V.
Dopeªnieniem ortogonalnym przestrzeni V
⊆ R
n jestprzestrze«
V
⊥
= {
b∈ R
n|
dla ka»dego a∈
V,
bTa=
0}.
Uwaga: dlaka»dejprzestrzeniV
⊆ R
n,jejdopeªnienie ortogonalne V⊥
jestpodprzestrzeni¡w
R
n.Nie h a
= [
1,
1,
1]
T bdziewektorem wprzestrzeniR
3 inie h La
bdzieprost¡wyzna zon¡ przezten wektor. Wyzna zymy
dopeªnienie ortogonalne prostej L
a .
Z deni jimamy
L
⊥
a
= {
b∈ R
3|
dlaka»degoα ∈ R,
bT(α
a) =
0}.
Zatem, szukamywszystki hwektorówb
= [β
1, β
2, β
3]
T taki h,»e
β
1+ β
2+ β
3=
0.
Rozwi¡zania powy»szego równania opisuj¡si wzorem
b
= [−β
2− β
3, β
2, β
3]
T,gdzieβ
2, β
3∈ R
s¡ dowolne.Zatembaz poszukiwanejprzestrzeni L
⊥
a
tworz¡ wektory
[−
1,
1,
0]
T oraz[−
1,
0,
1]
T. Przestrze«tatopªasz zyzna prze hodz¡ a przezpo z¡tek ukªadu wspóªrzdny horazprostopadªado prostej L
a .
Terminologiadoty z¡ a ortogonalno± ipodprzestrzeni mo»ew
niektóry h sytua ja h prowadzi¢ do nieporozumie«. Rozwa»my
dwie pªasz zyzny w
R
3 bd¡ ejedno ze±nie podprzestrzeniami. Jedna pªasz zyna, V1
,jestopisana
równaniem x
3
=
0(zatem jejbaz tworz¡ wektory[
1,
0,
0]
Toraz
[
0,
1,
0]
T),a druga, V2,jest opisanarównaniem x2=
0.Podprzestrze« V
1
nie jestortogonalna do V
2
bowiem wektory
[
1,
1,
0]
T∈
V1 oraz[
1,
0,
1]
T∈
V2 nies¡dosiebieprostopadªe.atwo jestsprawdzi¢,»e pªasz zyzny te s¡do siebie
prostopadªe. Istotnie,prostaLwzdªu» której prze inaj¡si V
1
oraz V
2
opisana jestrównaniami x
2
=
x3=
0. Zatemjesttoprostawyzna zona przezwektor
[
1,
0,
0]
T, zyliprzez o±x1 .Wektornale»¡ ydo pªasz zyzny V
1
iprostopadªy do Lto (z
dokªadno± i¡ do zwrotuidªugo± i)wektor w
1
= [
0,
1,
0]
T.Podobniewektornale»¡ ydo pªasz zyzny V
2
i prostopadªy do
Ltow
2
= [
0,
0,
1]
T. Poniewa»wektory w1 oraz w2
s¡ dosiebie
Twierdzenie 5.4 Nie hAbdziedowoln¡m
×
n ma ierz¡. Wtedy(a) Przestrze«zerowa N
(
A) ⊆ R
n jestdopeªnieniem ortogonalnym przestrzeniwierszy C(
AT) ⊆ R
n.(b) Dualna przestrze« zerowaN
(
AT) ⊆ R
m jestdopeªnieniem ortogonalnym przestrzenikolumn C(
A) ⊆ R
m.Dowód: Nie ha
∈
N(
A)
oraz b∈
C(
AT)
. Wów zas Aa= O
oraz b
=
AT ,dlapewnegowektora∈ R
m.Zatemb T
a
= (
AT)
Ta= (
TA)
a=
T(
Aa) =
TO =
0.
Pokazali±mywten sposób,»e ka»dy wektorzN
(
A)
jestprostopadªy do ka»dego wektora z C
(
AT)
. CzyliN
(
A) ⊆
C(
AT)
⊥.
Na odwrót,nie h b
∈
C(
AT)
⊥. Wów zas b⊥
AT ,dladowolnego
∈ R
m. We¹my=
Ab. Wów zas0
=
bTATAb= (
Ab)
TAb= ||
Ab||
2.
ZatemAb
= O
, zylib∈
N(
A)
.W ten sposóbudowodnili±my (a). Dla dowodu(b) wystar zy
T
Nie h Abdziem
×
n ma ierz¡ inie h b∈ R
m bdziedowolnymwektorem. Zpoprzedni hrozwa»a« wynika, »e
rozwi¡zywanie ukªadu równa« Ax
=
b mo»na traktowa¢ jakposzukiwanie wspóª zynników liniowejkombina jikolumn
ma ierzy A,która dajewektorb. Ozna zato,»e powy»szy
ukªad marozwi¡zaniewtedyi tylkowtedy,gdyb
∈
C(
A)
.W zastosowania h zstosi zdarza,»e ukªad równa« Ax
=
bnie marozwi¡zania ( zylib
6∈
C(
A)
). Cowtedyzrobi¢?Podej± iemu»ytymw metodzienajmniejszy h kwadratów jest
znalezieniewektora x
∈ R
n,który minimalizujewektor bªdu Ax−
b,adokªadniejjego dªugo±¢||
Ax−
b||
.Odwoªuj¡ sido geometry znej intui jimo»na stwierdzi¢,»e
takiwektoro najmniejszejdªugo± i musi by¢prostopadªy do
przestrzenikolumnma ierzyA. Zatem, namo yTwierdzenia
5.4(b)szukamy wektora x,takaby Ax
−
b∈
N(
AT)
.Ozna za to,»e musimyrozwi¡za¢ równanie A
T
(
Ax−
b) = O
,zyli
A T
Ax
=
ATb.
Je±lirz¡d ma ierzyAjestrówny n ( zyliwszystkiekolumnysa
liniowo niezale»ne) totakiukªad moznaªatwo rozwi¡za¢:
Lemat 5.5Nie h Abdziem
×
n ma ierz¡. Wów zas(a) A T
Ajestn×nsymetry zn¡ma ierz¡kwadratow¡.
(b) Je±likolumnyma ierzyAs¡liniowoniezale»ne,toA T
Ajest
ma ierz¡odwra aln¡.
Dowód: Dladowodu (a)mamy
(
ATA)
T=
ATATT=
ATA.
dowodu
Dla dowodu(b) przyjmijmy,»e kolumny ma ierzyAs¡ liniowo
niezale»ne, zylirz¡dma ierzy Ajestrównyn. Zniezale»no± i
kolumnma ierzyAwynika, »e ukªadAx
= O
matylko zerowerozwi¡zanie, zyliprzestrze« zerowaN
(
A)
mawymiar0.Zauwa»my ponadto,»e
N
(
A) =
N(
ATA).
Istotnie,je±lix
∈
N(
A)
, zyliAx= O
,to ATAx=
ATO = O
.Wi x
∈
N(
ATA)
. Na odwrót, je±liATAx= O
,to0
=
xTATAx= ||
Ax||
2. ZatemAx= O
, zylix∈
N(
A)
.Pokazali±mywten sposób,»e przestrze«zerowa N
(
ATA)
mawymiar0.
Z Twierdzenia 4.17wynika, »e rz¡dma ierzyA T
Amusi by¢
równy n. Zatemma ierzA T
Ajestodwra alna.
Konkluduj¡ t z±¢rozwa»a« stwierdzamy,»e przyzaªo»eniu
niezale»no± i kolumnma ierzyA, szukany wektorx stanowi¡ y
rozwi¡zanienaszego ukªadu wyra»a si wzorem
x
= (
ATA)
−1ATb.
Zauwa»my,»e je±lima ierzAjestodwra alna,to ma ierzA T
jestte» odwra alna oraz
(
ATA)
−1=
A−1(
AT)
−1 iwów zaspowy»szywzórredukuje si do
x
=
A−1bzylix jest dokªadnymrozwi¡zaniemukªadu równa«.
Nie h Abdzie3
×
2ma ierz¡A
=
2 1
1 2
2 2
atwo sprawdzi¢,»e kolumny tej ma ierzys¡ liniowo
niezale»ne. Ponadto ªatwo jestsprawdzi¢, »edla wektora
b
= [
1,
1,
1]
T,ukªad równa« Ax=
b nie marozwi¡za«.Znajdziemy rozwi¡zanieprzybli»onemetod¡najmniejszy h
kwadratów.
Mamy
A T
A
=
9 8
8 9
oraz
(
ATA)
−1=
9
/
17−
8/
17−
8/
17 9/
17Poniewa» A T
b
= [
5,
5]
T,toprzybli»onym rozwi¡zaniemjestx
= (
ATA)
−1ATb=
5
/
175
/
17.
Jako dodatkowy testsprawdzenia poprawno± iobli ze«
przekonajmy si,»e wektorbªdu
Ax
−
b=
15
/
1715
/
1720
/
17
−
1
1
1
=
−
2/
17−
2/
173
/
17
jestistotnieprostopadªy doprzestrzeni kolumnma ierzy A.
Mamy
[
2,
1,
2] ·
−
2/
17−
2/
173
/
17
=
0 oraz[
1,
2,
2] ·
−
2/
17−
2/
173
/
17
=
0/ √
Wzórnadªugo±¢ wektora
Zwi¡zek pomidzy ilo zynemskalarnym wektorów ak¡tem
pomidzynimi.
Rzut wektorana prost¡. Jak wygl¡da ma ierzrzutowaniai
jakie mawªasno± i?
Dopeªnienie ortogonalne przestrzenii zale»no± idlaprzestrzeni
fundamentalny h.
Metoda najmniejszy hkwadratów. Interpreta jagoemetry zna
oraz wyprowadzenie wzoruna znajdowanie przybli»onego
rozwi¡zania.