Linearna algebra za fizičare, zimski semestar Mirko Primc

Transcript

1 Linearna algebra za fizičare, zimski semestar 006. Mirko Primc

2

3 Sadržaj Poglavlje 1. Vektorski prostor R n 5 1. Vektorski prostor R n 6. Geometrijska interpretacija vektorskih prostora R i R Linearne kombinacije vektora u R n Kanonska baza u R n i pojam baze u R n Konačni nizovi vektora u R n i matrice tipa n k Elementarne transformacije Izvodnice vektorskog prostora R n 0 8. Linearna nezavisnost vektora u R n 5 9. Dimenzija vektorskog prostora R n Kompleksni brojevi Vektorski prostor C n 33 Poglavlje. Linearna preslikavanja s R n u R m Linearna preslikavanja 37. Matrica linearnog preslikavanja Zadavanje linearnog preslikavanja matricom 4 4. Zbrajanje linearnih preslikavanja i množenje skalarom Kompozicija linearnih preslikavanja Sistemi linearnih funkcija i jednadžbi Trokutasti sistemi jednadžbi 5 8. Gaussova metoda rješavanja sistema jednadžbi Linearna nezavisnost vektora i Gaussove eliminacije Linearna preslikavanja sa C n u C m 61 Poglavlje 3. Regularni operatori na R n Linearne surjekcije i injekcije 64. Regularni operatori na R n Opća linearna grupa GL(n, R) Koordinatizacija u zadanoj bazi prostora R n Matrica operatora i promjena baze Trag i invarijante linearnih operatora na R n Kompleksni brojevi kao realne matrice Kvaternioni kao kompleksne matrice 86 Poglavlje 4. Determinante Determinanta kvadratne matrice 89 3

4 4 SADRŽAJ. Determinanta Determinanta matrice i elementarne transformacije Cramerovo pravilo Binet-Cauchyjev teorem Determinanta i grupa permutacija Laplaceov razvoj determinante Svojstveni polinom linearnog operatora 108 Poglavlje 5. Potprostori vektorskog prostora R n Potprostor i linearna ljuska vektora 111. Baza potprostora i koordinatizacija Slika linearnog preslikavanja Jezgra linearnog preslikavanja Osnovni teorem o rangu Kanonski produkt na R n i dualne baze 14 Poglavlje 6. Skalarni produkt Norma i skalarni produkt vektora u R n 19. Skalarni produkt vektora u C n Unitarni prostori Ortonormirane baze u R 3 i vektorski produkt Gram-Schmidtov postupak ortogonalizacije Teorem o projekciji 146

5 POGLAVLJE 6 Skalarni produkt 1. Norma i skalarni produkt vektora u R n 1.1. Duljina vektora u R. Zamislimo si elemente x = (ξ 1, ξ ) iz R kao koordinate točaka u zadanom Kartezijevom sustavu euklidske ravnine, a elemente kanonske baze e 1, e kao jedinične vektore na koordinatnim osima. Prema Pitagorinom poučku za pravokutni trokut s vrhovima A = (0, 0), B = (ξ 1, 0), C = (ξ 1, ξ ), kvadrat duljine hipotenuze AC jednak je sumi kvadrata duljina kateta ξ 1 + ξ. Ako usmjerenu dužinu AC poistovjetimo s točkom x = (ξ 1, ξ ), onda je intuitivno opravdano kad kažemo da je x = ξ1 + ξ. duljina (ili norma) vektora x u R. Primijetimo da za svaki x imamo ξ 1 + ξ 0 i da u definiciji mislimo na nenegativan drugi korijen ξ 1 + ξ Primjer. Duljina vektora x = (1, ) je x = 1 + = Duljina vektora u R 3. Zamislimo si elemente x = (ξ 1, ξ, ξ 3 ) iz R 3 kao koordinate točaka u zadanom Kartezijevom sustavu euklidskog prostora, a elemente kanonske baze e 1, e, e 3 kao jedinične vektore na koordinatnim osima. Prema Pitagorinom poučku za pravokutni trokut s vrhovima A = (0, 0, 0), B = (ξ 1, 0, 0), C = (ξ 1, ξ, 0), kvadrat duljine hipotenuze AC jednak je sumi kvadrata duljina kateta ξ 1 + ξ. Sada, primjenom Pitagorinog poučka na pravokutni trokut s vrhovima A = (0, 0, 0), C = (ξ 1, ξ, 0), D = (ξ 1, ξ, ξ 3 ), dobijamo da je kvadrat duljine hipotenuze AD jednak sumi kvadrata duljina kateta (ξ 1 + ξ ) + ξ 3. 19

6 SKALARNI PRODUKT Ako usmjerenu dužinu AD poistovjetimo s točkom x = (ξ1, ξ, ξ 3 ), onda je intuitivno opravdano kad kažemo da je x = ξ1 + ξ + ξ 3. duljina (ili norma) vektora x u R Primjer. Duljina vektora x = (1,, ) u R 3 je x = ( ) = Norma vektora u R n. Za vektor x = (ξ 1,..., ξ n ) u R n definiramo normu (ili duljinu) vektora x kao x = ξ1 + + ξ n Kanonski skalarni produkt na R n. Funkciju ( ): R n R n R, (x, y) (x y) = ξ 1 η 1 + ξ η + + ξ n η n, zovemo kanonskim skalarnim produktom na R n. Kanonski skalarni produkt na R n ima sljedeća svojstva: (1) skalarni produkt je bilinearna funkcija, () skalarni produkt je simetrična funkcija, tj. za sve x i y vrijedi (x y) = (y x), (3) (x x) 0, (4) (x x) = 0 ako i samo ako je x = 0. Dokaz. Bilinearnost i simetričnost skalarnog produkta vrijedi zbog algebarskih svojstava realnih brojeva: (λx y) = (λξ i )η i = λ ξ i η i = λ(x y), (x + x y) = (ξ i + ξ i )η i = (x y) = ξ iη i + ξ i η i = η i ξ i = (y x). ξ i η i = (x y) + (x y) Očito je (x x) = ξ1 + ξ + + ξ n 0 i jednakost vrijedi ako i samo ako je ξ 1 = ξ = = ξ n = Napomena. Primijetimo da se kanonski skalarni produkt (x y) vektora x i y iz R n podudara s kanonskim produktom x y uvedenim u točki Kanonski skalarni produkt i norma vektora u R n. Očito je x = (x x).

7 . SKALARNI PRODUKT VEKTORA U C n Kanonski skalarni produkt na R. U slučaju R = R 1 skalarni produkt vektora (brojeva) ξ i η u R je (ξ η) = ξη, a norma ξ je apsulutna vrijednost ξ broja ξ: ξ = ξ = ξ ξ. Primijetimo da u polju R relacija (ξ η) = ξη = 0 povlači da je bar jedan od brojeva ξ i η jednak nula.. Skalarni produkt vektora u C n.1. Kanonski skalarni produkt na C. Polje kompleksnih brojeva C je skup R čije elemente z = (x, y) obično zapisujemo kao z = x + iy. Apsolutna vrijednost z = x + y je u stvari norma z elementa z R. Koristimo li konjugiranje i množenje u polju C, imamo formulu z = z = z z. Za kompleksne brojeve z i w kažemo da je (z w) = z w skalarni produkt vektora (brojeva) z i w u C, a z = (z z) zovemo normom vektora z u C. Primijetimo da u polju C relacija (z w) = z w = 0 povlači da je bar jedan od brojeva z i w jednak nula. Za razliku od realnih brojeva, skalarni produkt na C ima svojstvo hermitske simetrije (z w) = z w = w z = w z = w z = (w z)... Kanonski skalarni produkti na C i na R. Primijetimo da je za kompleksne brojeve z = x + iy i w = u + iv (z w) = z w = xu + yv + i( xv + yu) pa je skalarni produkt xu + yv vektora (x, y) i (u, v) u -dimenzionalnom realnom vektorskom prostoru R jednak realnom dijelu skalarnog produkta (z w) vektora z = x + iy i w = u + iv u 1-dimenzionalnom kompleksnom vektorskom prostoru C..3. Kanonski skalarni produkt na C n. Funkciju ( ): C n C n C, (x, y) (x y) = ξ 1 η 1 + ξ η + + ξ n η n, gdje je x = (ξ 1,..., ξ n ) i y = (η 1,..., η n ), zovemo kanonskim skalarnim produktom na C n. Kanonski skalarni produkt na C n ima sljedeća svojstva:

8 13 6. SKALARNI PRODUKT (1) skalarni produkt je linearna funkcija u prvom argumentu, tj. (x + x y) = (x y) + (x y), (λx y) = λ(x y), i antilinearna funkcija u drugom argumentu, tj. (x y + y ) = (x y ) + (x y ), (x λy) = λ(x y), () skalarni produkt je hermitski simetrična funkcija, tj. za sve x i y vrijedi (x y) = (y x), (3) (x x) 0, (4) (x x) = 0 ako i samo ako je x = 0. Dokaz. Linearnost i hermitska simetrija skalarnog produkta vrijede zbog algebarskih svojstava kompleksnih brojeva: (λx y) = (λξ i )η i = λ ξ i η i = λ(x y), (x + x y) = (x y) = (ξ i + ξ i )η i = ξ i η i = ξ iη i + ξ i η i = ξ i η i = (x y) + (x y) η i ξ i = (y x). Antilinearnost u drugom argumentu slijedi iz linearnosti u prvom argumentu i hermitske simetrije: (x y + λv) = (y + λv x) = (y x) + λ(v x) = (y x) + λ (v x) = (x y) + λ(x v). Očito je (x x) = ξ 1 + ξ + + ξ n 0 i jednakost vrijedi ako i samo ako je ξ 1 = ξ = = ξ n = Napomena. Primijetimo da se kanonski skalarni produkt (x y) vektora x i y iz C n ne podudara s kanonskim produktom x y uvedenim u točki Primjer. Za vektore u C kanonski skalarni produkt je x = (, i) i y = (i, 1 + i) (x y) = ī + ( i) 1 + i = ( i) + ( i) (1 i) = i i 1 = 1 3i, a kanonski produkt tih vektora je x y = i + ( i) (1 + i) = i i + 1 = 1 + i..6. Norma vektora u C n. Norma vektora x = (ζ 1,..., ζ n ) je po definiciji x = (x x) = ζ 1 + ζ + + ζ n.

9 3. UNITARNI PROSTORI Primjer. Norma vektora x = (, i) u C je x = + i = = Norme vektora u C n i R n. Napišemo li koordinate ζ k = α k +iβ k vektora x = (ζ 1,..., ζ n ) kao parove (α k, β k ) realnih brojeva, onda vektor x možemo shvatiti kao element iz R n, a norma je u oba slučaja ista: x = (α 1, β 1,..., α n, β n ) x = (x x) = ζ ζ n = α 1 + β α n + β n. 3. Unitarni prostori 3.1. Skalarni produkt na vektorskom prostoru. Neka je K polje realnih brojeva R ili polje kompleksnih brojeva C. Neka je V vektorski prostor 1 nad poljem K. Funkciju ( ): V V K, (x, y) (x y) zovemo skalarnim produktom na vektorskom prostoru V ako vrijede sljedeća svojstva: (1) funkcija je linearna u prvom argumentu, tj. (x + x y) = (x y) + (x y), (λx y) = λ(x y), i funkcija je antilinearna u drugom argumentu, tj. (x y + y ) = (x y ) + (x y ), (x λy) = λ(x y), () funkcija je hermitski simetrična, tj. za sve x i y vrijedi (x y) = (y x), (3) (x x) 0, (4) (x x) = 0 ako i samo ako je x = 0. Vektorski prostor sa zadanim skalarnim produktom zovemo unitarnim prostorom. U ovom paragrafu pretpostavljamo da je V unitaran. 1 Ovdje prije svega mislimo na vektorske prostore R n za polje K = R ili C n za polje K = C, te njihove potprostore. No važni su nam i vektorski prostori funkcija f : S K na danom skupu S, pri čemu su operacije zbrajanja i množenja funkcija skalarom iz K definirane po točkama (f + g)(x) = f(x) + g(x), (λf)(x) = λf(x), x S.

10 SKALARNI PRODUKT 3.. Napomena. Za nas su najvažniji primjeri unitarnih prostora vektorski prostori R n i C n s kanonskim skalarnim produktima. U matematičkoj analizi su važni primjeri unitarnih prostora vektorski prostori funkcija, kao što je, na primjer, realni vektorski prostor neprekidnih funkcija sa skalarnim produktom (f g) = f : [ 1, 1] R 1 1 f(x)g(x)dx Potprostor unitarnog prostora je unitaran. Neka je V unitaran prostor i W vektorski potprostor od V. Tada je W unitaran prostor s naslijedenim skalarnim produktom ( ): V V K, (x, y) (x y), jer su za vektore iz W očito zadovoljena sva svojstva (1) (4) u definiciji skalarnog produkta. Posebno je svaki potprostor od R n ili C n unitaran prostor Napomena. Zbog linearnosti skalarnog produkta u prvom argumentu za svaki vektor x imamo (3.1) (0 x) = 0. Isto tako je (x 0) = (0 x) = Napomena. Ako je V kompleksan vektorski prostor, onda je skalarni produkt vektora (x y) kompleksan broj. No zbog hermitske simetrije je (x x) = (x x), pa je za svaki vektor x u V skalarni produkt (x x) realan broj. Budući da u definiciji skalarnog produkta za taj realni broj zahtijevamo (x x) 0, to postoji drugi korijen (x x) Norma vektora. Norma vektora x u unitarnom prostoru V je po definiciji x = (x x) 0. Zbog svojstva (4) skalarnog produkta imamo da je (3.) x = 0 ako i samo ako je x = 0. Zbog linearnosti skalarnog produkta u prvom argumentu i antilinearnosti u drugom, za svaki vektor x u V i svaki skalar λ K vrijedi λx = (λx λx) = λ λ(x x) = λ (x x) = λ x. Kažemo da je W potprostor vektorskog prostora V ako je zatvoren za operacije zbrajanja vektora i množenje vektora skalarom, tj. ako vrijedi: (1) za sve a, b W je a + b W, () za sve a W i sve λ R je λa W.

11 3. UNITARNI PROSTORI Normirani vektori. Kažemo da je vektor x u unitarnom prostoru V normiran ako je x = 1. Za svaki vektor x 0 dijeljenjem s normom x = 0 dobijamo normirani vektor: 1 x x = 1 x x = 1. 1 Kažemo da smo normirani vektor x x dobili normiranjem vektora x 0. Često umjesto 1 x x pišemo x x Lema. Zbog linearnosti skalarnog produkta u prvom argumentu za vektore x i y imamo ((x x)y (y x)x x) = (x x)(y x) (y x)(x x) = Cauchy-Bunjakovskij-Schwarzova nejednakost. Za proizvoljne vektore x i y vrijedi nejednakost (3.3) (x y) x y, pri čemu jednakost vrijedi ako i samo ako su vektori x i y linearno zavisni. Dokaz. Za y = λx obje strane u (3.3) jednake su λ x. Ako je x = 0, onda zbog (3.1) i (3.) jednakost vrijedi. Zato pretpostavimo da je x 0. Zbog antilinearnosti skalarnog produkta u drugom argumentu, prethodne leme, linearnosti u prvom argumentu i hermitske simetrije imamo 0 (x x)y (y x)x = ((x x)y (y x)x (x x)y (y x)x) = (x x)((x x)y (y x)x y) (y x)((x x)y (y x)x x) = x ( (x x)(y y) (y x)(x y) ) ( ) = x x y (x y)(x y) = x ( x y (x y) ). Budući da je (po pretpostavci) x > 0, to povlači 0 x y (x y), pa vadenjem drugog korijena slijedi nejednakost (3.3). Štoviše, jednakost u (3.3) povlači (x x)y (y x)x = 0, a to zbog (3.) povlači (x x)y (y x)x = 0, odnosno linearnu zavisnost vektora x i y.

12 SKALARNI PRODUKT Nejednakost trokuta. Za proizvoljne vektore x i y vrijedi nejednakost (3.4) x + y x + y. Dokaz. Zbog svojstava skalarnog produkta imamo x + y = (x + y x + y) = (x x) + (x y) + (y x) + (y y) = x + (x y) + (y x) + y = x + (x y) + (x y) + y = x + Re (x y) + y x + (x y) + y x + x y + y = ( x + y ), pri čemu prva nejednakost vrijedi jer je realni dio kompleksnog broja manji ili jednak apsolutnoj vrijednosti, a druga nejednakost vrijedi zbog Cauchy- Bunjakovskij-Schwarzove nejednakosti. Sada nejednakost trokuta slijedi vadenjem drugog korijena. 4. Ortonormirane baze u R 3 i vektorski produkt 4.1. Okomitost vektora u R. Zamislimo si elemente x = (ξ 1, ξ ) iz R kao koordinate točaka u zadanom Kartezijevom sustavu euklidske ravnine. Po Pitagorinom poučku su vektori x = (ξ 1, ξ ) i y = (η 1, η ) okomiti ako i samo ako je (4.1) x + y = x + y. Budući da je x + y = (ξ 1 + η 1 ) + (ξ + η ) = ξ 1 + ξ + (ξ 1 η 1 + ξ η ) + η 1 + η, x + y = ξ 1 + ξ + η 1 + η, to je uvjet okomitosti (4.1) vektora x i y ekvivalentan (4.) (x y) = ξ 1 η 1 + ξ η = Okomiti vektori. Kažemo da su vektora x i y u unitarnom prostoru V okomiti ili ortogonalni ako je (x y) = 0, često pišemo x y. Primijetimo da je tada i (y x) = (x y) = 0, tj. y x. Kažemo da je vektor x okomit na skup vektora A, pišemo x A, ako je x a za svaki vektor a iz skupa A. Kažemo da je skup vektor B okomit na skup vektora A ako je svaki vektor b iz B okomit na svaki vektor a iz A, pišemo B A. Primijetimo da je tada i A B.

13 4. ORTONORMIRANE BAZE U R 3 I VEKTORSKI PRODUKT Pitagorin poučak. Ako je x y, onda zbog linearnosti skalarnog produkta u prvom argumentu, antilinearnosti u drugom argumentu i hermitske simetrije vrijedi Pitagorin poučak x + y = x + (x y) + (y x) + y = x + y Teorem. Ako je x x, onda je x = 0. Posebno, ako je x V, onda je x = 0. Dokaz. Po definiciji skalarnog produkta (x x) = 0 povlači x = 0. Posebno, ako je x okomit na sve vektore iz V, onda je okomit i na sebe, pa mora biti nula Teorem. Skup vektora v 1,..., v k je okomit na skup A ako i samo ako je v 1,..., v k A. Dokaz. Budući da je v 1,..., v k v 1,..., v k, to v 1,..., v k A povlači v 1,..., v k A. Obratno, ako je v 1,..., v k A i a A, onda linearnost skalarnog produkta u prvom argumentu za linearnu kombinaciju daje (λ 1 v λ k v k a) = λ 1 (v 1 a) + + λ k (v k a) = λ λ k 0 = 0 Znači da je linearna kombinacija λ 1 v λ k v k okomita na a za svaki a iz A Ortonormirani skupovi. Kažemo da je skup vektora v 1,..., v k ortonormirani skup ako su vektori medusobno okomiti i ako je svaki od njih normiran. To možemo zapisati formulom (v i v j ) = δ ij za sve i, j = 1,..., k. Ortonormirani skup vektora v 1,..., v n koji razapinje prostor zovemo ortonormiranom bazom prostora Napomena. U slučaju vektorskog prostora R n se kanonski produkt vektora x y i kanonski skalarni produkt vektora (x y) podudaraju, pa možemo reći da je ortonormirana baza v 1,..., v n u R n sama sebi dualna baza Teorem. Neka je v 1,..., v k ortonormirani skup. Ako je x = ξ i v i, onda je ξ i = (x v i ) za sve i = 1,..., n, odnosno (4.3) x = (x v i )v i. Posebno, ortonormirani skup je linearno nezavisan.

14 SKALARNI PRODUKT Dokaz. Skalarnim množenjem x = ξ i v i s v j i korištenjem linearnosti skalarnog produkta u prvom argumenti dobivamo (x v j ) = ( ξ i v i v j ) = ξ i (v i v j ) = ξ i δ ij = ξ j. Posebno za x = 0 slijedi ξ 1 = = ξ k = 0, pa je skup vektora v 1,..., v k linearno nezavisan Fourierovi koeficijenti. Ako je v 1,..., v n ortonormirana baza prostora, onda koordinate ξ i = (x v i ) vektora x zovemo Fourierovim koeficijentima od x Primjer. Vektori v 1 = (1/, 1/ ) i v = (1/, 1/ ) su ortonormirana baza u R. Koordinate vektora x = (, 1) u toj bazi su ξ 1 = (x v 1 ) = = 3/, ξ = (x v ) = ( 1 ) = 1/ Pitanje. Da li su Fourierovi koeficijenti vektora x C n u ortonormiranoj bazi v 1,..., v n dani formulom ξ i = (v i x)? DA NE 4.1. Ortonormirane baze u R. Ortonormirane baze u R lako je konstruirati. Za svaki vektor f 0 je 1 f f = 1 f f = 1, pa je vektor f 1 = 1 f f norme 1. Ako je f 1 = (α, β), onda je vektor f = ( β, α) takoder norme 1 i vrijedi (f 1 f ) = αβ + βα = 0. Očito je i vektor f norme 1 i okomit na f 1, pa imamo dvije ortonormirane baze (f 1, f ), (f 1, f ), ili zapisano po stupcima kao matrice ( ) α β, β α ( ) α β. β α

15 4. ORTONORMIRANE BAZE U R 3 I VEKTORSKI PRODUKT Zadatak. Pokažite geometrijski i algebarski da su ( ) ( ) cos ϕ sin ϕ cos ϕ sin ϕ,, ϕ R, sin ϕ cos ϕ sin ϕ cos ϕ sve ortonormirane baze u R Zadatak. Pokažite da su kvaternioni norme jedan ( ) α β, α β ᾱ + β = 1 ortonormirane baze u C. Pokažite da su ( ) α λ β, α β λᾱ + β = 1, λ = 1, α, β, λ C sve ortonormirane baze u C Vektorski produkt u R 3. Za vektore a, b R 3 definiramo vektorski produkt vektora a i b kao vektor (4.4) a b = (α β 3 α 3 β )e 1 (α 1 β 3 α 3 β 1 )e + (α 1 β α β 1 )e 3 u R 3, što kraće zapisujemo kao (4.5) a b = det α 1 β 1 e 1 α β e. α 3 β 3 e 3 Očito je vektorski produkt u R 3 bilinearno alternirajuće preslikavanje. : R 3 R 3 R 3, (a, b) a b Primjer. a = 1, b = 1 0, a b = det 1 1 e 1 0 e = 6e 1 4e +e 3 = e Mješoviti produkt u R 3. Za c = γ 1 e 1 + γ e + γ 3 e 3 imamo (4.6) (a b c) = (α β 3 α 3 β )γ 1 (α 1 β 3 α 3 β 1 )γ + (α 1 β α β 1 )γ 3, odnosno (4.7) (a b c) = det α 1 β 1 γ 1 α β γ. α 3 β 3 γ 3 Zbog alternirajućeg svojstva determinante slijedi (4.8) (a b a) = 0, (a b b) = 0.

16 SKALARNI PRODUKT Konstrukcija okomice na ravninu u R 3. Neka su a i b linearno nezavisni vektori. Tada je linearna ljuska a, b ravnina u R 3. Iz relacije (4.8) i teorema 4.5 slijedi da je a b okomica na ravninu, odnosno a b a, b. Budući da je -dimenzionalna ravnina a, b u R 3 zadana jednom jednadžbom, to je a, b = {x R 3 (x, a b) = 0}. Tako je, na primjer, za vektore a i b iz primjera 4.16 ravnina a, b zadana jednadžbom 6ξ 1 4ξ + ξ 3 = 0, odnosno a, b = { ξ 1 R 3 6ξ 1 4ξ + ξ 3 = 0}. ξ ξ Teorem. Za sve a, b R 3 vrijedi ( ) (4.9) a b (a a) (a b) = det = a (b a) (b b) b (a b). Dokaz. Primijetimo da je α 1 α α 3 β 1 β β 3 α 1 β 1 γ 1 (a a) (a b) (a c) α β γ = (b a) (b b) (b c), γ 1 γ γ 3 α 3 β 3 γ 3 (c a) (c b) (c c) pa iz (4.7) i Binet-Cauchyjevog teorema slijedi (a b c) = det α 1 α α 3 β 1 β β 3 γ 1 γ γ 3 (a a) (a b) (a c) = det (b a) (b b) (b c). (c a) (c b) (c c) Prema (4.8) za c = a b imamo (a c) = (b c) = 0, pa Laplaceov razvoj zadnje determinante po trećem stupcu daje ( ) c 4 = a b 4 (a a) (a b) = (c c) det. (b a) (b b) Pokratimo li s c = (c c), dobijamo formulu (4.9). Primijetimo da iz teorema 4.19 dobivamo Cauchyjevu nejednakost (3.3).

17 5. GRAM-SCHMIDTOV POSTUPAK ORTOGONALIZACIJE Konstrukcija ortonormirane baze u R 3. Ako je f 1 normirani vektor u R 3, onda nije teško naći normirani vektor f okomit na f 1. Tako, na primjer, za f 1 = možemo pogoditi niz vektora okomitih na f 1 : 1 1, 0 1, 1 0, 1, Uzmemo li, na primjer, prvi od tih vektora i normiramo li ga, dobivamo f = Stavimo li f 3 = f 1 f = 1 det 1 1 e e = 1 (e 1 + e e 3 ) = 1 1 1, e onda je f 1, f, f 3 ortonormirana baza od R Primjer. Neka su a i b vektori iz primjera Želimo li naći ortonormiranu bazu potprostora a, b, onda možemo računati g 1 = a a = 1 1 i g 3 = a b 6 1 a b = = Tada je 1 g = g 1 g 3 = det 1 3 e 1 e = e = vektor iz potprostora a, b jer je okomit na okomicu a b = 56 g 3. No onda je g 1, g ortonormirana baza potprostora a, b, tj. je a, b = g 1, g. 5. Gram-Schmidtov postupak ortogonalizacije 5.1. Teorem. Ako je v 1,..., v k ortonormirani skup u V i x V, onda Q(x) = x (x v i )v i v 1,..., v k. Štoviše, Q(x) 0 ako i samo ako x v 1,..., v k.

18 14 6. SKALARNI PRODUKT Dokaz. Skalarnim množenjem vektorom v j dobivamo (Q(x) v j ) = (x (x v i )v i v j ) = (x v j ) = (x v j ) (x v i )(v i v j ) (x v i )δ ij = (x v j ) (x v j ) = 0. Znači da je Q(x) v 1,..., v k, a to je prema teoremu 4.5 ekvivalentno Q(x) v 1,..., v k. Ako je x v 1,..., v k, onda zbog (4.3) imamo Q(x) = 0. Obratno, ako je Q(x) = 0, onda je očito x v 1,..., v k. 5.. Gram-Schmidtov postupak ortogonalizacije. Ako je a 1,..., a n linearno nezavisan skup vektora u unitarnom prostoru V, onda postoji ortonormirani skup vektora v 1,..., v n takav da je v 1,..., v n = a 1,..., a n. Posebno, ako je V konačno-dimenzionalan unitaran prostor, onda se svaki ortonormirani skup može dopuniti do ortonormirane baze od V. Dokaz. Konstruktivni dokaz provodimo u koracima koje zovemo Gram- Scmidtov postupak ortogonalizacije: Za n = 1 stavimo v 1 = 1 a 1 a 1. Očito je v 1 normiran i v 1 = a 1. Pretpostavimo sada da već imamo ortonormirani skup v 1,..., v k za k < n takav da je (5.1) v 1,..., v k = a 1,..., a k. Budući da je po pretpostavci a 1,..., a k, a k+1 linearno nezavisan skup vektora, to a k+1 nije u linearnoj ljusci v 1,..., v k = a 1,..., a k, pa iz teorema 5.1 slijedi da je b k+1 = a k+1 Tada imamo normirani vektor (a k+1 v i )v i 0. v k+1 = 1 b k+1 b k+1 v 1,..., v k, pa je v 1,..., v k, v k+1 ortonormirani skup vektora. Iz relacije b k+1 v k+1 a k+1 = b k+1 a k+1 v 1,..., v k i pretpostavke indukcije (5.1) slijedi v 1,..., v k, v k+1 = a 1,..., a k, v k+1 = a 1,..., a k, a k+1.

19 5. GRAM-SCHMIDTOV POSTUPAK ORTOGONALIZACIJE Primjer. Neka je c = (1, 0) i d = (1, 1). Primijenimo li Gram- Schmidtov postupak ortogonalizacije na vektore c, d, dobivamo ortonormiranu bazu v 1, v R v 1 = 1 c c = (1, 0), b = d (d v 1 )v 1 = d v 1 = (1, 1) (1, 0) = (0, 1), v = 1 b b = (0, 1). Primijenimo li pak Gram-Schmidtov postupak ortogonalizacije na vektore d, c, dobivamo ortonormiranu bazu u 1, u u 1 = 1 d d = 1 (1, 1), b = c (c u 1 )u 1 = c 1 u 1 = (1, 0) 1 1 (1, 1) = ( 1, 1 ), u = 1 b b = 1 (1, 1) Primjer. Skup P svih polinoma s realnim koeficijentima, definiranih na intervalu [ 1, 1], je realni vektorski prostor s operacijama zbrajanja i množenja skalarom definiranih po točkama. Na P imamo skalarni produkt (f g) = 1 1 f(x)g(x)dx. Stavimo a k (x) = x k za k = 0, 1,,.... Tada su polinomi a 0, a 1, a,..., tj. a 0 (x) = 1, a 1 (x) = x, a (x) = x,... linearno nezavisni, pa primjenom Gram-Schmidtovog postupka ortogonalizacije dobivamo ortonormirani skup polinoma v 0, v 1, v,... : Prvo primijetimo da je 1 1 (a i a j ) = x i x j dx = x i+j dx = xi+j = 1 ( 1)i+j Znači da je a 0 =, pa stavimo Primijetimo da je Sada računamo Budući da je stavimo i+j+1 v 0 = 1 a 0, tj. v 0 (x) = 1 a 0 (x) = 1. (a 1 v 0 ) = 1 (a 1 a 0 ) = 1 1 ( 1) = 0. b 1 = a 1 (a 1 v 0 )v 0 = a 1, tj. b 1 (x) = x. v 1 = Primijetimo da je b 1 = 1 ( 1)3 3 = 3, 3 b 1, tj. v 1 (x) = 3 b 1(x) = 3 x. (a v 0 ) = 1 (a a 0 ) = 1 1 ( 1) 3 3 = 1 3, i+j+1.

20 SKALARNI PRODUKT Sada računamo (a v 1 ) = 3 (a a 1 ) = 3 1 ( 1) 4 4 = 0. b = a (a v 0 )v 0 (a v 1 )v 1 = a 1 3 v 0 = a 1 tj. b (x) = x 1 3. Budući da je 1 3 a 0, b = a 1 3 a 0 = a 3 (a a 0 ) a 0 = = 8 45, stavimo v = 45 8 b 45, tj. v (x) = 8 b 45 1(x) = 8 (x 1 3 ). Time smo dobili ortonormirani skup polinoma 3 1 v 0 (x) =, v 1(x) = 3 x, v (x) = 5 1 (3x 1) koji je ortonormirana baza u unitarnom 3-dimenzionalnom prostoru a 0, a 1, a = {f f(x) = γ 0 + γ 1 x + γ x, γ 0, γ 1, γ R} Koordinatizacija n-dimenzionalnog unitaranog prostora. Neka je V n-dimenzionalni unitarni prostor nad poljem K = R ili C. Prema teoremu 5. postoji uredena ortonormirana baza B = (v 1,..., v n ) prostora V. Ako je e 1,..., e n kanonska baza u K n, onda je prema teoremu 5..6 koordinatizacija K B : V K n, K B : x = ξ i v i x B = ξ i e i linearna bijekcija. imamo (x y) = ( ξ i v i Štoviše, za x = ξ i v i i y = η j v j ) = j=1 j=1 η i v i, ξ i η j (v i v j ) = j=1 Znači da koordinatizacija K B čuva skalarni produkt u smislu (x y) = (K B x K B y) = (x B y B ), ξ i η j δ ij = ξ i η i. gdje je (x y) skalarni produkt vektora u V, a (x B y B ) je kanonski skalarni produkt vektora u K n. 3 Polinome Pn(x) = q n+1 vn(x) zovemo Legandreovim polinomima.

21 5. GRAM-SCHMIDTOV POSTUPAK ORTOGONALIZACIJE Parsevalova jednakost. Budući da su koordinate vektora u ortonormiranoj bazi Fourierovi koeficijenti dani formulom (4.3), formulu za skalarni produkt (x y) iz prethodnog dokaza možemo zapisati kao tzv. Parsevalovu jednakost (5.) (x y) = (x v i )(y v i ), a za normu vrijedi (5.3) x = (x v i ) Besselova nejednakost. Ako je v 1,..., v k ortonormirani skup u V, vektor x u V i Q(x) kao u teoremu 5.1, onda je (5.4) x = Q(x) + Posebno, vrijedi Besselova nejednakost (5.5) (x v i ). (x v i ) x, a jednakost vrijedi ako i samo ako je x v 1,..., v k. Dokaz. Stavimo P (x) = x Q(x) = Tada je po definiciji i teoremu 5.1 x = P (x) + Q(x), pa je po Pitagorinom poučku (x v i )v i. P (x) Q(x), (5.6) x = P (x) + Q(x). Budući da je v 1,..., v k ortonormirana baza od v 1,..., v k, to prema (5.3) za P (x) v 1,..., v k imamo P (x) = (x v i ), pa jednakost (5.4) slijedi iz (5.6). Ako u (5.5) vrijedi jednakost, onda iz (5.4) slijedi Q(x) = 0. No onda je Q(x) = 0 i x = P (x) v 1,..., v k. Obratno, ako je x v 1,..., v k, onda prema (4.3) imamo x = P (x), pa zbog (5.3) imamo jednakost u (5.5).

22 SKALARNI PRODUKT 5.8. Primjer. Uz oznake iz primjera 5.4 imamo da je za svaki polinom f P. (f v 0 ) + (f v 1 ) + (f v ) f 5.9. Potpunost ortonormiranog skupa. Neka je v 1,..., v n ortonormirani skup vektora u unitarnom prostoru V. Tada je ekvivalentno: (1) v 1,..., v n je ortonormirana baza od V. () Za sve x u V je x = (x v i )v i (3) Za sve x u V vrijedi Besselova jednakost x = (x v i ). (4) Za sve x i y u V vrijedi Parsevalova jednakost (x y) = (x v i )(y v i ). Dokaz. (1) (4) jer vrijedi(5.). (4) (3) zbog definicije norme. (3) () zbog teorema 5.7 i (4.3). () (1) jer po pretpostavci v 1,..., v n razapinje prostor, a ortonormirani skup jest linearno nezavisan. 6. Teorem o projekciji 6.1. Teorem o najboljoj aproksimaciji. Neka je V unitaran prostor i neka je Y konačno-dimenzionalni potprostor. Tada za vektor x u V postoji jedinstveni vektor P (x) u Y takav da je x P (x) x y za svaki y Y, a jednakost vrijedi ako i samo ako je y = P (x). Kažemo da je od svih vektora iz potprostora Y vektor P (x) najbolja aproksimacija od x. Dokaz. Po pretpostavci je Y konačno-dimenzionalni potprostor, pa prema teoremu 5. postoji ortonormirana baza v 1,..., v k od Y. Stavimo P (x) = Tada je po teoremu 5.1 (x v i )v i, Q(x) = x P (x). Q(x) P (x) y Y,

23 pa je po Pitagorinom poučku 6. TEOREM O PROJEKCIJI 147 x y = x P (x)+p (x) y = x P (x) + P (x) y x P (x), a jednakost vrijedi ako i samo ako je P (x) y = 0, odnosno P (x) y = 0. Budući da je x P (x) < x y za y P (x), vektor P (x) Y mora biti jedinstven. Stoga P (x) ne ovisi o izboru ortonormirane baze v 1,..., v k u Y. 6.. Primjer. Vektori v 1 = 1 (1, 1, 0), v = 1 3 (1, 1, 1) čine ortonormirani skup u R 3 i razapinju -dimenzionalni potprostor Y = v 1, v. Za vektor je točka b = ( 1,, 1) P (b) = (b v 1 )v 1 + (b v )v = 1 (1, 1, 0) 3 (1, 1, 1) = ( 1 6, 7 6, 3 ) najbolja aproksimacija od b točkama iz ravnine Y jer je za sve y iz Y 5 6 = ( 1,, 1) ( 1 6, 7 6, 3 ) ( 1,, 1) y. Vektor Q(b) = b P (b) = ( 1,, 1) ( 1 6, 7 6, 3 ) interpretiramo kao vektor-okomicu na ravninu Y sa hvatištem u točki ravnine P (b) i završetkom u točki b = Q(b) + P (b), a duljinu 5 6 = Q(b) tog vektora interpretiramo kao udaljenost točke b od ravnine Y Primjer. Zadržimo oznake iz primjera 5.4. Neka je g(x) = x+x. Tada je (g v 0 ) = 1 3, (g v 1) = 4 3 3, pa je polinom p = (g v 0 )v 0 + (g v 1 )v 1 = 1 3 a a 1, odnosno p(x) = x, najbolja aproksimacija polinoma g u potprostoru polinoma Drugim riječima 1 1 za sve γ 0, γ 1 R. a 0, a 1 = {f f(x) = γ 0 + γ 1 x, γ 0, γ 1 R}. g(x) 1 3 x dx 1 1 g(x) γ 0 γ 1 x dx

24 SKALARNI PRODUKT 6.4. Metoda najmanjih kvadrata. Neka su dani vektori a 1,..., a n u R m i vektor b koji nije u linearnoj ljusci Y = a 1,..., a n. Tada sistem od m jednadžbi s n nepoznanica Ax b = a 1 ξ a n ξ n b = 0 nema rješenja, a najbolje što možemo tražiti su takvi x = (ξ 1,..., ξ n ) R n za koje je m a 1 ξ a n ξ n b = α i1 ξ α in ξ n β i najmanje moguće. Ponekad taj problem zapisujemo kao a 1 ξ a n ξ n b min. Prema teoremu o najboljoj aproksimaciji rješenje tog problema su oni x R n za koje je (6.1) Ax = P (b), gdje je P (b) najbolja aproksimacija od b vektorima iz Y. Budući da je P (b) Y = a 1,..., a n, sistem (6.1) uvijek ima rješenje x. Rješavanje sistema (6.1) zovemo metodom najmanjih kvadrata. Zbog kasnije primjene primijetimo da vrijedi tvrdnja: 6.5. Lema. Sistem (6.1) ima jedinstveno rješenje ako i samo ako su vektori a 1,..., a n linearno nezavisni Teorem o projekciji. Neka je V unitaran prostor i neka je Y konačno-dimenzionalni potprostor. Tada za vektor x u V postoje jedinstveni vektori P (x) u Y i Q(x) Y takvi da je x = P (x) + Q(x). Dokaz. Po pretpostavci je Y konačno-dimenzionalni potprostor, pa prema teoremu 5. postoji ortonormirana baza v 1,..., v k od Y. Stavimo P (x) = (x v i )v i, Q(x) = x P (x). Tada je x = P (x)+q(x) traženi rastav jer je prema teoremu 5.1 Q(x) Y. Dokažimo jedinstvenost. Ako je x = P (x) + Q(x) = y + u za neki y Y i u Y, onda je P (x) y = u Q(y) i vrijedi Odavle slijedi P (x) y Y i u Q(x) Y. u Q(x) u Q(x), što povlači u Q(x) = 0, odnosno u = Q(x). No onda mora biti i y = P (x).

25 6. TEOREM O PROJEKCIJI Sistem jednadžbi za metodu najmanjih kvadrata. Neka V unitaran prostor, b vektor u V i Y = a 1,..., a n potprostor u V razapet vektorima a 1,..., a n. Prema teoremu 6.6 postoji jedinstveni takav da je P (b) = ξ 1 a ξ n a n Y b P (b) Y. To je, prema teoremu 4.5, ekvivalentno (ξ 1 a ξ n a n b a i ) = 0 za sve i = 1,..., n, ili, zapisano kao sistem jednadžbi, (6.) (a 1 a 1 )ξ 1 + (a a 1 )ξ + + (a n a 1 )ξ n = (b a 1 ), (a 1 a )ξ 1 + (a a )ξ + + (a n a )ξ n = (b a ),. (a 1 a n )ξ 1 + (a a n )ξ + + (a n a n )ξ n = (b a n ). Znači da najbolju aproksimaciju P (b) = ξ 1 a ξ n a n možemo tražiti rješavanjem sistema jednadžbi (6.) Primjer. Vratimo se primjeru 6.: zadan je ortonormirani skup u R 3 i vektor v 1 = 1 (1, 1, 0), v = 1 3 (1, 1, 1) b = ( 1,, 1), a traži se najbolja aproksimacija od b u -dimenzionalnom potprostoru Y = v 1, v. Da bi učinili primjer zanimljivijim, stavimo a 1 = v 1 + 3v = (, 0, 1), a = 3v = (1, 1, 1), a 3 = v 1 3v = (0,, 1), pa još uvijek imamo isti Y = v 1, v = a 1, a, a 3. Sada tražimo rješavanjem sistema jednadžbi (6.): P (b) = ξ 1 a 1 + ξ a + ξ 3 a 3 5ξ 1 + 3ξ ξ 3 = 1, 3ξ 1 + 3ξ 3ξ 3 =, ξ 1 3ξ + 5ξ 3 = 3. Rješavanjem ovog sistema Gaussovom metodom eliminacija vidimo da sistem nema jedinstveno rješenje. Lako se provjeri da je x = ( 3 6, 7 6, 0) jedno rješenje, pa je P (b) = 3 6 a a = 3 6 (, 0, 1) 7 6 (1, 1, 1) = ( 1 6, 7 6, 4 6 ).

26 SKALARNI PRODUKT 6.9. Primjer. Zamislimo si da eksperimentalno mjerimo veličine x i y koje su vezane zakonom y = Ax + B, a na nama je odrediti koeficijente A i B. Recimo da smo za (x, y) redom dobili (1, ), (, 3) i (3, 5). Tada sistem A + B =, A + B = 3, 3A + B = 5, nema rješenja i najbolje što možemo je da nepoznanice A i B odredimo metodom najmanjih kvadrata. Sistem prvo zapišemo kao Aa 1 + Ba = b, tj. A(1,, 3) + B(1, 1, 1) = (, 3, 5) ili A 1 + B 1 1 = a odgovarajući sistem (6.) kao To je u našem primjeru sistem (a 1 a 1 )A + (a a 1 )B = (b a 1 ), (a 1 a )A + (a a )B = (b a ). 14A + 6B = 3, 6A + 3B = 10, a rješenje tog sistema je A = 3, B = 1 3. Znači da je za taj izbor A i B suma kvadrata A + B + A + B 3 + 3A + B 5 najmanja moguća. Nacrtajte pravac y = 3 x i točke (1, ), (, 3) i (3, 5) dobivene mjerenjem Ortogonalni komplement potprostora. Neka je V unitaran prostor i Y potprostor od V. Tada je zbog linearnosti skalarnog produkta u prvom argumentu Y = {x V (x y) = 0 za sve y Y } potprostor od Y. Potprostor Y zovemo ga ortogonalnim komplementom od Y Suma potprostora. Neka su W i U potprostori od V. Skup svih vektora W + U = {w + u w W, u U} zovemo sumom potprostora. Suma potprostora W + U je vektorski prostor.

27 6. TEOREM O PROJEKCIJI 151 Dokaz. Za vektore w, w, w W i u, u, u U i skalar λ imamo (w +u )+(w +u ) = (w +w )+(u +u ), λ(w +u) = λw +λu W +U Ortogonalna suma potprostora. Neka su W i U potprostori od V. Ako je W U, onda W +U zovemo ortogonalnom sumom potprostora i pišemo W U. U tom slučaju imamo jedinstveni prikaz svakog elementa x W U kao sumu x = w + u, w W, u U. Dokaz. Ako je w + u = w + u za neke w W i u U, onda je w w = u u element iz W i U, pa okomitost W U povlači w w = (w w w w ) = (w w u u) = 0. No tada zbog svojstva norme (3.) mora biti w w = 0, što povlači w = w, a onda i u = u. Uz uvedenu terminologiju teorem 6.6 možemo iskazati na sljedeći način Teorem o projekciji. Neka je V unitaran prostor i neka je Y konačno-dimenzionalni potprostor. Tada je V = Y Y Teorem. Neka je V unitaran konačno-dimenzionalni prostor i neka je Y potprostor. Tada je Dokaz. dim Y + dim(y ) = dim V i (Y ) = Y. Neka je v 1,..., v k ortonormirana baza u Y i u 1,..., u r ortonormirana baza u Y. Tada je v 1,..., v k, u 1,..., u r ortonormirani skup u V. Budući da je po teoremu o projekciji svaki vektor x iz V suma vektora iz Y i Y, to je x linearna kombinacija vektora v 1,..., v k i vektora u 1,..., u r. No to onda znači da je skup v 1,..., v k, u 1,..., u r ortonormirana baza od V, pa je k + r = dim V. Nadalje, vektor r x = (x v i )v i + (x u j )u j je okomit na Y = u 1,..., u r ako i samo ako su mu Fourierovi koeficijenti (x u 1 ) = = (x u r ) = 0, odnosno ako i samo ako je x v 1,..., v k = Y. Znači da je (Y ) = Y. j=1