2 Norme vektora i matrica Pojam norme u vektorskim prostorima se najčešće povezuje sa određenom merom veličine elemenata tog prostora. Tako je u prostoru realnih brojeva R, norma elementa x R najčešće njegova apsolutna vrednost x. Ako elemente u R 2 posmatramo kao geometrijske objekte koji imaju određeni pravac, smer i intenzitet, onda se za normu elementa (vektora) može uzeti njegova dužina. U numeričkoj matematici su norme izuzetno važne funkcije jer učestvuju u brojnim analizama. Ocena greške približnog rešenja nekog višedimenzionalnog problema ili ispitivanje konvergencije iterativnih procesa samo su neki od problema gde su norme zauzele svoje važno mesto. U nastavku ćemo normu definisati kao funkciju u konačno dimenzionalnom vektorskom prostoru V koji je dat nad poljem realnih ili kompleksnih brojeva F. Norma se može definisati i za beskonačno dimenzionalne vektorske prostore, kao i za vektorske prostore nad opštim poljem, [16]. 9
10 2. Norme vektora i matrica Definicija 2.0.1 Neka je V vektorski prostor nad poljem realnih ili kompleksnih skalara F. Funkcija : V R je norma u vektorskom prostoru V ako ima sledeće osobine: (1) x 0, za svako x V, (2) x = 0 ako i samo ako je x = 0, za svako x V, (3) αx = α x, za svako α F i x V, (4) x + y x + y, za svako x, y V. Dakle, norma je nenegativna realna funkcija koja uzima vrednost nula samo za nula vektor, i ima osobine apsolutne homogenosti (3) i nejednakosti trougla, tj. subaditivnosti (4). Primer 2.0.4 Sledeće funkcije predstavljaju norme nad F = R jer zadovoljavaju osobine prethodne definicije: x = x, x R, x = n x i 2, x R n, i=1 b f = f(x) 2 dx, f = n i=0 a sup x [a,b] f L 2 [a, b], f (i) (x), f C n [a, b]. Primer 2.0.5 Ako je H Hilbertov prostor 1 sa skalarnim proizvodom (, ), funkcija x = (x, x), x H, je norma u vektorskom prostoru H. 1 Vektorski prostor H je Hilbertov, ako je kompletan unitarni vektorski prostor nad poljem F, gde je F = R ili F = C.
11 Od brojnih osobina normi, ovde izdvajamo sledeće. Lema 2.0.1 Neka je norma u vektorskom prostoru V. Za svaka dva vektora x, y V važi x y x y. Dokaz. Iz osobina (4) i (2) iz Definicije 2.0.1 za vektorske norme, najpre sledi y y x + x = x y + x x x y + y, te je x y x y x y, što je i trebalo pokazati. Teorema 2.0.1 Norma definisana u vektorskom prostoru V je neprekidna funkcija. Dokaz. Neka je x V proizvoljni vektor. Funkcija je neprekidna u x jer za svako ε > 0 postoji δ = ε > 0 takvo da za svako y V za koje je y x δ, na osnovu prethodne leme važi y x y x ε. Kako je x proizvoljni element iz V, sledi da je funkcija neprekidna na celom vektorskom prostoru V. Definicija 2.0.2 Norme i definisane u istom vektorskom prostoru V su ekvivalente ako postoje pozitivne konstante 0 < C 1 C 2 takve da je C 1 x x C 2 x, za svaki vektor x V. Jednostavno se pokazuje da je ekvivalencija normi u smislu prethodne definicije jedna relacija ekvivalencije na skupu svih normi definisanih nad istim vektorskim prostorom V.
12 2. Norme vektora i matrica Teorema 2.0.2 Svake dve norme definisane u konačno dimenzionalnom vektorskom prostoru V su ekvivalentne. Dokaz. Neka je sa {v 1, v 2,..., v n } označena baza vektorskog prostora V. Tada se svaki vektor x V može na jedinstven način predstaviti sa x = α 1 v 1 + α 2 v 2 + + α n v n za neke skalare α i F, i = 1, 2,..., n, gde je, podsetimo se, F skup realnih ili kompleksnih brojeva. Definišimo nenegativnu funkciju N : V R sa N(x) = max 1 i n α i, x = n α i v i. Funkcija N je norma u vektorskom prostoru V što se lako dokazuje proverom osobina iz Definicije 2.0.1. Primetimo da implikacija x = 0 N(x) = 0 sledi na osnovu linearne nezavisnosti vektora baze. Koristeći tranzitivnost ekvivalencije normi definisanih nad istim vektorskim prostorom V, dovoljno je da pokažemo da je svaka norma u V ekvivalentna sa normom N. Neka je i=1 S = {x V : N(x) = 1} jedinična sfera u vektorskom prostoru V. Prema Teoremi 2.0.1, funkcija je neprekidna na V, a kako je S zatvoren i ograničen skup, tada postoje vektori u, v S V za koje je u = min y S y, v = max y. y S Neka je x V proizvoljni vektor. Ako je x 0, onda vektor y = x N(x) pripada skupu S i važi u y v, pa je u x N(x) v.
2.1 Vektorske norme 13 Uvedimo oznake C 1 = u, C 2 = v. Primetimo da je C 2 C 1 > 0 jer je u 0 i N(u) = 1. Na kraju dobijamo C 1 N(x) x C 2 N(x). Kada je x = 0, prethodna nejednakost je trivijalno ispunjena. Napomenimo da u slučaju beskonačno dimenzionalnih vektorskih prostora, prethodno tvrđenje o ekvivalenciji normi ne važi. U nastavku se ograničavamo na prostore C n u slučaju vektora, kada ćemo govoriti o vektorskim normama, odnosno na C m,n u slučaju matrica, gde će se koristiti pojam matrične norme. Ovde navodimo one pojmove i osobine vezane za vektorske i matrične norme koji će biti neophodni za dalje praćenje gradiva, dok se više o ovoj temi može saznati u, na primer, [9, 13, 19, 22]. 2.1 Vektorske norme Najpoznatiju klasu normi u vektorskom prostoru C n čine p norme ( n ) 1 p x p = x i p, x = [x 1, x 2,..., x n ] T, p [1, ). (2.1) i=1 Funkcije iz (2.1) su zaista norme jer se prve tri osobine iz Definicije 2.0.1 lako proveravaju, dok poslednja osobina zapravo predstavlja nejednakost Minkovskog za konačne sume, [15]. Kada je p (0, 1), tada p nije vektorska norma u prostoru C n jer, na primer, za vektore x = [1, 0, 0,..., 0] T C n i y = [0, 1, 0,..., 0] T C n je x p = y p = 1, x + y p = 2 1 p, te ne važi osobina nejednakosti trougla. Specijalno, za p = 1 u (2.1) se dobija norma jedan x 1 = n x i, i=1
14 2. Norme vektora i matrica Slika 2.1: Jedinične sfere S 1 (oktaedar), S 2 (sfera) i S (kocka) u R 3. koja se naziva još i apsolutna ili oktaedarska norma, dok se za p = 2 dobija norma dva x 2 = n x i 2, i=1 čiji su drugi nazivi Euklidska ili sferna norma. Funkcija x = max 1 i n x i, x = [x 1, x 2,..., x n ] T, takođe definiše normu u prostoru C n, što se lako proverava pokazujući osobine iz Definicije 2.0.1. U literaturi se ova funkcija naziva norma beskonačno, maksimum ili kubna norma. Nazivi vektorskih p normi za p {1, 2, }, potiču od oblika jedinične sfere S p = {x R 3 : x p = 1} u vektorskom prostoru R 3. Na Slici 2.1 su prikazani skupovi S 1, S 2 i S, redom. Lema 2.1.1 Za svaki vektor x C n je lim x p = x. p
2.1 Vektorske norme 15 Dokaz. Neka je x C n proizvoljni nenula vektor. Tada za neki indeks k {1, 2,..., n} važi x = x k. Osim toga je x k ( x 1 p + x 2 p + + x n p ) 1 p n 1 p xk. Dakle, x x p n 1 p x. Kako je direktno sledi lim p x p = x. lim n 1 p = 1, n N, p Kada je x C n nula vektor, tvrđenje trivijalno važi. Primer 2.1.1 Za vektore x = [1, 2, 4] T i y = [1 + i, i, 1] T je x 1 = 7, x 2 = 21, x = 4, y 1 = 2 + 2, y 2 = 2, y = 2. Na osnovu Teoreme 2.0.2 o ekvivalenciji normi, za vektorske p norme, p {1, 2, }, se mogu izvesti nejednakosti tipa x i C 2 x j, koje važe za svaki vektor x C n, gde konstanta C 2 ima vrednost elementa na poziciji (i, j) u sledećoj matrici 1 2 1 2 1 n n 1 1 n 1 1 1. Tako je, na primer, x 1 n x 2, x 2 x 1,.... Primetimo da je u dokazu Leme 2.1.1 već pokazano x x p n 1 p x, p [1, ).
16 2. Norme vektora i matrica gde je Spomenimo još i Helderovu nejednakost (x, y) x p y q, (x, y) = x H y = 1 p + 1 q = 1, x, y Cn, n x i y i, x, y C n, (2.2) i=1 skalarni proizvod u vektorskom prostoru C n. Helderova nejednakost važi za p, q [1, ], gde se za p = 1 uzima q =, i obrnuto. Specijalno, za p = q = 2 se dobija Koši Švarcova nejednakost (x, y) x 2 y 2, x, y C n. Vektorske p norme su samo jedna klasa normi u prostoru C n. Nova vektorska norma se može generisati od već postojeće vektorske norme uz pomoć proizvoljne regularne matrice. Teorema 2.1.1 Neka je Q regularna matrica i vektorska norma. Funkcija x Q = Qx je takođe vektorska norma. Dokaz. Za funkciju Q redom ispitujemo da li važe osobine iz Definicije 2.0.1: (1) Za svaki vektor x je x Q = Qx 0. (2) Ako je x Q = 0, onda je Qx = 0 i Qx = 0. Kako je Q regularna matrica, sledi x = 0. Ako je x = 0, onda je trivijalno x Q = 0 = 0. (3) αx Q = Q(αx) = αqx = α Qx = α x Q, za svaki vektor x i svaki skalar α. (4) x + y Q = Q(x + y) = Qx + Qy Qx + Qy = x Q + y Q, za svaka dva vektora x, y. Dakle, funkcija Q jeste vektorska norma.
2.2 Matrične norme 17 Da bi se u praksi proverilo da li je data funkcija norma u C n, redom se mogu ispitivati osobine iz Definicije 2.0.1 ili se može primeniti prethodno tvrđenje. Primer 2.1.2 Neka je D = diag(d 1, d 2,..., d n ) C n,n regularna dijagonalna matrica. Funkcije x = n i=1 d i x i i x = max 1 i n d ix i su vektorske norme u C n jer je x = Dx 1 i x = Dx. Primer 2.1.3 Funkcija x = max{ x 1 +2x 2, 2x 1 +4x 2 }, x = [x 1, x 2 ] T, se može predstaviti kao x = Qx sa [ ] 1 2 Q =. 2 4 Kako je det(q) = 8 0, funkcija je vektorska norma u C 2. Primer 2.1.4 Ako je A C n,n pozitivno definitna 2 matrica, onda je funkcija x A = x H Ax, x C n, vektorska norma jer je x 2 = x H x i x A = A 1/2 x 2. Ova funkcija se naziva A vektorska norma. 2.2 Matrične norme Pod matričnim normama podrazumevamo norme definisane u vektorskom prostoru C m,n koji je dat nad poljem kompleksnih brojeva. Analogno se mogu definisati matrične norme u prostoru realnih pravougaonih matrica. 2 Matrica A C n,n je pozitivno definitna ako je z H Az R +, za svaki nenula vektor z C n. O pozitivno definitnim matricama i njihovim osobinama će biti više reči u Odeljku 5.4.
18 2. Norme vektora i matrica Primer 2.2.1 U vektorskom prostoru matrica A = [a ij ] C m,n, funkcije m A F = i=1 n j=1 a ij 2, A M = max 1 i m,1 j n a ij, su norme jer zadovoljavaju osobine iz Definicije 2.0.1. Veliku ulogu u analizi numeričkih postupaka za rešavanje nekih klasa višedimenzionalnih problema imaće one matrične norme koje se mogu dovesti u određenu vezu sa vektorskim normama, u smislu naredne definicije. Definicija 2.2.1 Matrična norma definisana u vektorskom prostoru C m,n je saglasna sa vektorskim normama i definisanim u C m i C n, redom, ako za svaku matricu A C m,n i svaki vektor x C n važi Ax A x. U slučaju kada je m = n, uobičajeno je da se koriste iste vektorske norme i, te nejednakost postaje Ax A x, A C n,n, x C n. U nastavku će od velikog značaja biti one norme koje imaju osobinu submultiplikativnosti AB A B, A C m,n, B C n,p. (2.3) Napomenimo da se u literaturi osobina (2.3) često sreće kao sastavni deo definicije matrične norme. Primer 2.2.2 Norma F iz Primera 2.2.1 je submultiplikativna, dok funkcija M nije jer, na primer, za matrice A = B = [ ] 1 1 1 1 je 2 = AB M > A M B M = 1.
2.2 Matrične norme 19 Jedan način da se generiše matrična norma jeste da se matrica A C m,n posmatra kao kompleksni vektor dimenzije mn i da se primeni neka od vektorskih normi. Drugi način je da se matrična norma definiše kao operatorska norma. Definicija 2.2.2 Neka su i vektorske norme u prostorima C m i C n redom. Funkcija Ax A = sup, A C m,n, (2.4) x 0 x se naziva operatorska norma u vektorskom prostoru C m,n norma indukovana vektorskim normama i ). (ili matrična Lako se pokazuje da funkcija data sa (2.4) ispunjava uslove Definicije 2.0.1, te da jeste norma. Šta više, izraz (2.4) se može zapisati i kao A = sup Ax = max x =1 x =1 Ax, (2.5) operatorska norma je saglasna sa datim vektorskim normama, operatorska norma je submultiplikativna, ako su i matrične norme saglasne sa vektorskim normama i, a je operatorska norma za date vektorske norme, onda je A A, za svaku matricu A (operatorska norma je najmanja je od svih matričnih normi saglasnih sa i ). Kada su u Definiciji 2.2.2 vektorske norme i jednake, operatorska norma se naziva još i prirodna matrična norma za datu vektorsku normu.
20 2. Norme vektora i matrica Tako za vektorske p norme, p {1, 2, }, i A = [a ij ] C m,n, prirodne matrične norme imaju sledeći oblik A 1 = max 1 j n m a ij, i=1 A 2 = ρ(a H A), A = max 1 i m n a ij. Primer 2.2.3 Matrična norma F iz Primera 2.2.1 se naziva Frobenijusova matrična norma. Ova norma je saglasna sa vektorskom normom 2. Zato je A 2 A F j=1 za svaku matricu A. Primer 2.2.4 Za realnu matricu 5 5 7 0 A = 4 2 4 8 7 4 5 0 je A 1 = 16, A 2 = 11.734, A = 18 i A F = 17, dok je za kompleksnu matricu 2 1 i i B = 1 2 + i 1, 3 4i 1 5 B 1 = 8, B 2 = 7.47, B = 11 i B F = 65. Prema (2.5), za prirodnu matričnu normu matrice A se može reći da predstavlja maksimalni stepen do kojeg se vektor jedinične sfere može uvećati množenjem matricom A, što ilustrujemo u narednom primeru.
2.2 Matrične norme 21 Slika 2.2: Transformacija jedinične sfere S 2 R 2 pomoću matrice A iz Primera 2.2.5. Primer 2.2.5 Data je matrica A = [ 1 0 1 0.5 ] za koju je A 2 = 1.4604. Ova vrednost se dostiže za x = [0.9665, 0.2567] T, tj. važi A 2 = max x 2 =1 Ax 2 = Ax 2 Na Slici 2.2 prikazani su vektori x i Ax, odnosno jedinična sfera S 2 R 2 i njena transformacija u skup tačaka {Ax : x 2 = 1} R 2. Slično vektorskim p normama, i kod matričnih se za p {1, 2,, F } mogu izvesti nejednakosti A i C 2 A j, za svaku matricu A C m,n.
22 2. Norme vektora i matrica Pozitivna konstanta C 2 ima vrednost elementa na poziciji (i, j) u sledećoj matrici 1 2 F 1 2 F 1 m m m n 1 m 1 n n 1 n n rang(a) m 1. Lema 2.2.1 Za jediničnu matricu E C n,n i svaku submultiplikativnu matričnu normu u prostoru C n,n je E 1. Kada je matrična norma prirodna, tada je E = 1. Dokaz. Na osnovu nejednakosti 0 E = E 2 E 2 i E ( E 1) = E 2 E 0 zaključujemo da je E 1. Ako je prirodna matrična norma, tada iz (2.4) direktno sledi E = 1. Tvrđenje prethodne leme se može koristiti za proveru da li je neka matrična norma prirodna. Tako, na primer, za Frobenijusovu matričnu normu važi E F = n, E C n,n, te zaključujemo da Frobenijusova matrična norma nije indukovana nijednom vektorskom normom. Nova matrična norma se može generisati preko (2.4) ili uz pomoć već postojeće matrične norme i proizvoljne regularne matrice. Teorema 2.2.1 Neka je Q C n,n regularna matrica i matrična norma u C n,n. Funkcija A Q = QAQ 1 je takođe matrična norma u C n,n. Ako je submultiplikativna matrična norma, onda je i Q submultiplikativna. Ako je prirodna matrična norma, onda je i Q prirodna.
2.2 Matrične norme 23 Dokaz. Osobine iz Definicije 2.0.1 se za funkciju Q lako pokazuju jer slede iz osobina date matrične norme i regularnosti matrice Q. Ako je submultiplikativna matrična norma, onda za svake dve kvadratne matrice A i B važi AB Q = QAQ 1 QBQ 1 A Q B Q. Pretpostavimo sada da je prirodna matrična norma za neku vektorsku normu koju ćemo označiti sa. Prema Teoremi 2.1.1, funkcija je takođe vektorska norma. Sada je x Q = Qx A Q = QAQ 1 = max x =1 QAQ 1 x = max Qy =1 QAy = max Ay Q, y Q =1 što znači da je Q matrična norma indukovana vektorskom normom Q, što je i trebalo pokazati. U nastavku ćemo pod pojmom matrična norma podrazumevati da je zadovoljena osobina submultiplikativnosti. Ova pretpostavka će važiti i u narednim poglavljima. Od izuzetne važnosti će nam biti naredna dva tvrđenja i osobine koje proističu iz njih, a koje govore o vezi između spektralnog radijusa i norme neke matrice. Teorema 2.2.2 Za svaku kvadratnu matricu A i svaku matričnu normu važi ρ(a) A. Dokaz. Neka je A C n,n proizvoljna kvadratna matrica i proizvoljna matrična norma. Označimo sa λ karakteristični koren matrice A za koji je λ = ρ(a) i sa x 0 odgovarajući karakteristični vektor. Definišimo matricu X C n,n čije su sve kolone jednake vektoru x. Tada važi AX = λx i Kako je X > 0, sledi ρ(a) A. λ X = λx = AX A X.
24 2. Norme vektora i matrica Posledica 2.2.1 Ako za kvadratnu matricu A i neku matričnu normu važi A < 1, tada je ρ(a) < 1. U poglavlju posvećenom iterativnim postupcima za rešavanje sistema linearnih jednačina, utvrđivanje konvergencije datog postupka će zavisiti isključivo od osobina spektralnog radijusa određene matrice. U tu svrhu ćemo koristiti prethodnu posledicu kao praktični test za ispitivanje konvergencije kod koga nije neophodno poznavanje karakterističnih korena date matrice. Teorema 2.2.3 Za svaku kvadratnu matricu A i svako ε > 0 postoji prirodna matrična norma za koju je A ρ(a) + ε. Dokaz. Za datu kvadratnu matricu A C n,n i ε > 0 konstruisaćemo prirodnu matričnu normu za koju važi tražena nejednakost. Neka su λ 1, λ 2,..., λ k, k n, međusobno različiti karakteristični koreni matrice A, pri čemu je koren λ i višestrukosti n i, gde je n 1 +n 2 + +n k = n. Matrica A je slična sa svojom Žordanovom kanoničkom matricom J oblika J n1 (λ 1 ) J = J n2 (λ 2 ).... Jnk (λk) Matrica J je blok dijagonalna, gde su J ni (λ i ) Žordanovi blokovi dimenzije n i n i dati sa λ i 1. J ni (λ i ) = λ i..... 1. Dakle, za matricu A postoji regularna matrica P tako da je P 1 AP = J. λ i
2.2 Matrične norme 25 Posmatrajmo sada matricu J = D 1 JD, gde je D = diag(1, ε,..., ε n 1 ) regularna matrica. Lako se pokazuje da je i J blok dijagonalna matrica sa blokovima λ i ε. Jn i (λ i ) = λ i..,... ε λi te je J 1 ρ(a) + ε. Osim toga, matrice A i J su slične jer je J = D 1 JD = D 1 P 1 AP D = QAQ 1, Q = D 1 P 1. Uz pomoć regularne matrice Q i 1 se prema Teoremi 2.2.1 može konstruisati prirodna matrična norma Q za koju je što je i trebalo pokazati. A Q = QAQ 1 1 = J 1 ρ(a) + ε, Napomena 2.2.1 Primetimo da ako je ρ(a) < 1, birajući ε (0, 1 ρ(a)), prema prethodnoj teoremi sledi da postoji prirodna matrična norma (koja zavisi od ε) za koju je A < 1. Izdvajamo i sledeće tvrđenje o kriterijumu za proveru regularnosti matrice oblika E ± A i ocenu norme njene inverzne matrice, a koje će nam trebati u nastavku. Teorema 2.2.4 Neka su date kvadratna matrica A i prirodna matrična norma. Ako je A < 1, onda su matrice E A i E + A regularne i 1 1 + A (E ± A) 1 1 1 A. (2.6)
26 2. Norme vektora i matrica Dokaz. Prema Posledici 2.2.1 je ρ(a) < 1, što znači da za svaki karakteristični koren λ matrice A je λ < 1. Odatle sledi da su svi karakteristični koreni 1±λ matrice E±A različiti od nule 3, te da je matrica E±A regularna. Posmatrajmo najpre matricu E A. Na osnovu Leme 2.2.1 i osobina matrične norme važi 1 = E E A (E A) 1 (1 + A ) (E A) 1, što daje prvu nejednakost u (2.6). Dalje, množeći identitet E = (E A) + A zdesna sa (E A) 1 dobija se (E A) 1 = E + A(E A) 1, pa je odnosno (E A) 1 1 + A (E A) 1, (1 A ) (E A) 1 1, što deljenjem sa 1 A > 0 daje drugu nejednakost u (2.6). Ocene za (E + A) 1 se dobijaju primenom analognih argumenata na matricu A. 2.3 Konvergencija vektora i matrica U ovom delu definišemo pojam granične vrednosti nizova vektora i matrica i navodimo neke od osobina koje pri tome važe. Niz vektora u vektorskom prostoru C n ćemo označiti sa {x (k) }, pri čemu svaki vektor x (k) datog niza ima komponente x (k) = [x (k) 1, x (k) 2,..., x (k) n ] T, k = 1, 2,.... Analogno uvodimo oznaku {A (k) } za niz matrica u vektorskom prostoru C m,n. Svaki član niza A (k) je zadat preko svojih komponenti A (k) = [a (k) ij ], i = 1, 2,..., m, j = 1, 2,..., n, k = 1, 2,.... 3 Ako je λ karakteristični koren matrice A kome odgovara karakteristični vektor x 0, i ako je p proizvoljni polinom, onda je p(λ) karakteristični koren matrice p(a) sa istim karakterističnim vektorom x.
2.3 Konvergencija vektora i matrica 27 Definicija 2.3.1 Niz vektora {x (k) } C n konvergira ka vektoru x C n, x = [x 1, x 2,..., x n ] T, što zapisujemo sa lim x (k) = x, ako je lim x(k) i = x i, za svako i = 1, 2,..., n. Definicija 2.3.2 Niz matrica {A (k) } C m,n konvergira ka matrici A = [a ij ] C m,n, što zapisujemo sa lim A (k) = A, ako je lim a(k) ij = a ij, za svako i = 1, 2,..., m, j = 1, 2,..., n. Za konvergentne nizove vektora i matrica važe sledeće osobine koje navodimo bez dokaza: Ako je lim A (k) = A, b vektor i B matrica, onda je lim A(k) b = Ab, lim A (k) B = AB, lim BA (k) = BA, (2.7) gde su vektor b i matrice A (k), A i B odgovarajućih dimenzija. lim A (k) = A ako i samo ako je za svaku matričnu normu lim A(k) A = 0. (2.8) Analogno tvrđenje važi za niz vektora i svaku vektorsku normu. Ako je lim A (k) = A, onda je za svaku matričnu normu lim A(k) = A. Analogno tvrđenje važi za niz vektora i svaku vektorsku normu. Primetimo da se u poslednje dve osobine govori o konvergenciji u svakoj matričnoj (vektorskoj) normi. U praksi je dovoljno ispitati konvergenciju u jednoj proizvoljnoj normi jer su u konačno dimenzionalnim prostorima svake dve norme ekvivalentne (Teorema 2.0.2).
28 2. Norme vektora i matrica Teorema 2.3.1 Ako je A kvadratna matrica, onda je ρ(a) < 1 ako i samo ako je lim A k = 0. Dokaz. Pretpostavimo najpre da za kvadratnu matricu A važi da je ρ(a) < 1. Tada prema Napomeni 2.2.1 postoji prirodna matrična norma za koju je A < 1. Iz nejednakosti 0 A k A k sledi lim A k = 0, te je na osnovu druge osobine (2.8), lim A k = 0. Neka je sada lim A k = 0. Iz neprekidnosti proizvoljne matrične norme zaključujemo lim A k = 0. Prema Teoremi 2.2.2 sledi (ρ(a)) k = ρ(a k ) A k, (2.9) a tada za dovoljno veliko k važi A k < 1, te je ρ(a) < 1. Teorema 2.3.2 Ako je ρ(a) < 1 za datu matricu A C n,n, onda je E A regularna matrica i k (E A) 1 = lim A j. (2.10) Dokaz. Sličnim argumentima koji su navedeni u dokazu Teoreme 2.2.4 zaključujemo da je E A regularna matrica. Kako je j=0 (E A)(E + A + A 2 + + A k ) = E A k+1, dobija se da je k A j = E + A + A 2 + + A k = (E A) 1 (E A) 1 A k+1. j=0 Iz uslova ρ(a) < 1, prema Teoremi 2.3.1 je lim A k = 0, te je k A j = (E A) 1 (E A) 1 lim A k+1 lim j=0 i (2.10) direktno sledi.
2.3 Konvergencija vektora i matrica 29 Izdvajamo i sledeću osobinu spektralnog radijusa date matrice. Teorema 2.3.3 Za matricu A i proizvoljnu matričnu normu je ρ(a) = lim A k 1 k. Dokaz. Iz nejednakosti (2.9) najpre zaključujemo da za svako k = 1, 2,... važi ρ(a) A k 1 k. (2.11) Za proizvoljno ε > 0 definišimo matricu A ε = (ρ(a) + ε) 1 A. Tada je ρ(a ε ) = ρ(a) ρ(a) + ε < 1, pa na osnovu Teoreme 2.3.1 važi lim A k ε = 0, odnosno lim A k ε = 0. Sada postoji prirodni broj k 0 (ε) takav da je A k ε < 1, za sve k k 0 (ε). Kako je sledi da je za sve k k 0 (ε) ispunjeno Dakle, prema (2.11) i (2.12) je A k ε = (ρ(a) + ε) k A k, A k 1 k ρ(a) + ε. (2.12) ρ(a) A k 1 k ρ(a) + ε, za svako k k0 (ε). Kako je ε proizvoljno izabrano, sledi da prethodna nejednakost važi za svako ε > 0, te granična vrednost niza { A k 1 k } postoji i jednaka je ρ(a). U narednim poglavljima ćemo se sresti i sa pojmom Košijevog niza vektora, te navodimo njegovu definiciju. Definicija 2.3.3 Niz vektora {x (k) } C n je Košijev ako postoji vektorska norma takva da za svako ε > 0 postoji prirodni broj k 0 takav da za svako p N i k > k 0 važi x (k+p) x (k) < ε.
30 2. Norme vektora i matrica Analogno se definiše Košijev niz matrica. Za Košijeve nizove vektora ili matrica važi da su konvergentni jer leže u Banahovim prostorima 4. 4 Bahanov prostor je kompletan metrički prostor, što znači da je svaki Košijev niz tog prostora i konvergentan niz. Vektorski prostori C n i C m,n su Banahovi prostori.