IV. Rezolvarea sistemelor liniare

IV. Rezolvarea sistemelor liiare IV.. Elemete de aaliză matriceală Fie V u spaţiu vectorial (liiar peste corpul K (K=R sau K=C. Reamitim o serie de defiiţii şi teoreme legate de spaţiile ormate şi spaţiile Hilbert. O ormă pe V este o fucţie p: V [0, care satisface următoarele codiţii:. p(x = 0 dacă şi umai dacă x = 0. 2. p(x +y p(x + p(y petru orice x şi y V. 3. p(λx = λ p(x petru orice λ K şi orice x V. Perechea (V, p se umeşte spaţiu ormat. Î cele ce urmează vom ota p(x = x petru orice x V şi vom spue că V este u spaţiu ormat î loc de (V,, atuci câd orma se subîţelege. Pe orice spaţiu ormat se poate defii o metrică (distaţă caoică d pri d(x, y = x - y petru orice x, y V. Pri urmare oricărui spaţiu ormat i se pot asocia î mod caoic o structură metrică şi o structură topologică. Petru orice x 0 V şi orice r >0 vom ota cu B(x 0, r bila di V cetrată î x 0 de rază r: B(x 0, r = {x V: x - x 0 < r}. Petru orice spaţiu ormat V (îzestrat cu structura metrică şi structura topologică asociate î mod caoic sut adevărate următoarele afirmaţii:. Şirul (x di V coverge la x V dacă şi umai dacă lim x - x = 0 2. Şirul (x di V este şir Cauchy (fudametal dacă şi umai dacă petru orice ε>0 există ε N astfel îcât x - x m < ε petru orice m, ε. 3. : V [0, este o aplicaţie cotiuă

Mădălia Roxaa Bueci Metode Numerice Curs - 2007 4. Fucţiile (x, y x + y [: V V V] şi (λ, x λx [: K V V] sut cotiue (V V şi K V sut îzestrate cu topologia produs. O ormă se umeşte completă dacă metrica asociată ei este completă (i.e. dacă orice şir Cauchy este coverget. U spaţiu ormat se umeşte spaţiu Baach dacă orma cu care este îzestrat este completă. Normele p şi p 2 defiite pe spaţiul vectorial V se umesc echivalete dacă topologiile asociate (î mod caoic lor coicid. Petru a desema faptul că p şi p 2 sut echivalete vom folosi otaţia p ~ p 2. Se poate arăta că ormele p şi p 2 sut echivalete dacă şi umai dacă există M, m >0 astfel îcât m p (x p 2 (x M p (x petru orice x V. V se umeşte K algebră ormată dacă V este K algebră şi î plus este îzestrat cu o ormă ce satisface următoarele două proprietăţi:. (V, este spaţiu ormat 2. xy x y petru orice x, y V, O algebră ormată îzestrată cu o ormă completă se umeşte algebră Baach. Fie V şi W două spaţii vectoriale peste corpul K (K=R sau K=C. O aplicaţie f : V W se umeşte liiară dacă şi umai dacă f(λx + µy = λf(x + µf(y petru orice λ, µ K şi x, y V. Dacă f : V W este o aplicaţie liiară, iar V şi W sut spaţii ormate, atuci următoarele afirmaţii sut echivalete:. f este cotiuă 2. f este cotiuă î origie 3. Există M > 0 cu proprietatea că f(x M x petru orice x E. 4. sup f(x <. x 5. sup f(x <. x = Vom ota cu L(V, W spaţiul aplicaţiilor liiare şi cotiue f : V W. Petru orice f L(V, W, avem sup f(x = sup f(x = if {M > 0 : f(x M x petru orice x V }. x x = 2

Dacă petru orice f L(V, W, defiim f = sup f(x, atuci (L(V, W, x devie u spaţiu ormat. Spaţiul L(V, W este deumit spaţiul operatorilor liiari şi mărgiiţi defiiţi pe V cu valori î W, iar elemetele di L(V, W se mai umesc operatori liiari mărgiiţi. Spaţiul operatorilor liiari şi mărgiiţi L(V, W este spaţiu Baach dacă şi umai dacă W este spaţiu Baach. Dacă V este u spaţiu ormat iar pe spaţiul L(V, V itroducem drept lege de "îmulţire" compuerea operatorilor, atuci L(V, V devie o algebră ormată. Dacă V este u spaţiu ormat peste corpul K, atuci spaţiul ormat L(V, K se umeşte dualul lui V şi se otează V'. Fie H u spaţiu vectorial peste corpul K (K=R sau K=C. Se umeşte produs scalar pe H o aplicaţie ϕ : H H K care are următoarele proprietăţi:. ϕ(x+y, z = ϕ(x, z + ϕ(y, z petru orice x, y, z H. 2. ϕ(λx, y = λϕ(x, y petru orice λ K şi x H 3. ϕ(x, y = ( y, x ϕ petru orice x, y H. 4. ϕ(x,x > 0 petru orice x 0. Vom ota ϕ(x,y = <x, y> petru orice x, y H. Se spue că orma spaţiului ormat (H, provie dit-u produs scalar <, > dacă x = x, x petru orice x di H. U spaţiu prehilbert este u spaţiu ormat î care orma provie ditr-u produs scalar, iar u spaţiu Hilbert este u spaţiu prehilbert complet (cu ormă completă. Dacă H u spaţiu prehilbert, atuci:. Două elemete x şi y di H se umesc ortogoale dacă <x, y> =0. 2. Petru A H şi x H, x se spue ortogoal pe A şi se otează x A, dacă <x,y>=0 petru orice y A. 3. O familie (x i i de elemete ale lui H se umeşte sistem ortogoal sau familie ortogoală dacă <x i, x j > =0 petru orice i j. 4. U sistem ortogoal (x i i se umeşte ortoormal dacă x i = petru orice i. 5. Se umeşte bază ortoormală a spaţiului Hilbert H u sistem ortoormal maximal (î raport cu relaţia de icluziue. 3

Mădălia Roxaa Bueci Metode Numerice Curs - 2007 Dacă H este u spaţiu Hilbert şi (x i i este u sistem ortoormal, atuci următoarele afirmaţii sut echivalete:. (x i i bază ortoormală 2. Dacă x H şi x x i petru orice i, atuci x = 0. 3. Dacă x H, atuci x = i x, x i x i. 4. Dacă x, y H, atuci <x, y> = i 5. Dacă x H, atuci x = i x, x x, y. 2 x, x i. Orice două baze ortoormale ale uui spaţiu Hilbert au acelaşi cardial. Dimesiuea (hilbertiaă a uui spaţiu Hilbert este cardialul uei baze ortoormale. Dacă F este u subspaţiu al spaţiului Hilbert H, atuci se otează cu F = {x, x F} complemetul ortogoal al lui F. Dacă F este u subspaţiu îchis, atuci H = F + F (orice elemet di H poate fi reprezetat î mod uic ca suma ditre u elemet di F şi uul di F. Se umeşte adjuctul operatorului liiar şi mărgiit A L(H, H 2 (ude H, H 2 sut spaţii Hilbert operatorul liiar şi mărgiit A* L(H 2, H care satisface codiţia: <A(x, y > =<x, A*(y > petru orice x H, y H 2. Orice operator liiar şi mărgiit admite u uic adjuct. Dacă H este u spaţiu Hilbert şi A L(H, H, atuci. A se umeşte autoadjuct (sau hermitia dacă A = A*. 2. A se umeşte uitar dacă AA* = A*A =I. 3. A se umeşte pozitiv dacă A este autodjuct şi <A(x, x> 0 petru orice x H. Cosiderăm spaţiul vectorial V = K (K=R sau K=C, N*. Pe acest spaţiu Baach orice două orme sut echivalete. Vom ota cu,, 2 următoarele orme uzuale pe K : i i 4

x = max x j j x = x j x 2 = x j 2 / 2 petru orice x = (x, x 2,, x K. Norma 2 se umeşte ormă euclidiaă şi provie di produsul scalar caoic <x, y> = x j y j petru x = (x, x 2,, x şi y = (y, y 2,, y (dacă K = R, atuci <x, y> = x jy j. Vom ota cu M m, (K mulţimea matricelor cu m liii şi coloae. M m, (K are o structură de spaţiu vectorial relativ la operaţiile: aduare: A = (a ij i,j,b=(b ij i,j,c=(c ij i,j M m, (K, C = A+B dacă şi umai dacă c ij = a ij + b ij petru orice i m şi j. îmulţire cu scalari: A = (a ij i,j, C=(c ij i,j M m, (K, λ K. C = λa dacă şi umai dacă c ij = λa ij petru orice i m şi j. Produsul AB a două matrice A = (a ij i,j M m, (K şi B=(b ij i,j M,p (K este o matrice C=(c ij i,j M m,p (K petru care c ij = a k= ik b kj petru orice i m şi j p. Traspusa uei matrice A=(a ij i,j, este o matrice otată A t = ( a t i, j i,j, ale cărei elemete sut: a t i, j = a j,i petru orice i, j m. Cojugata uei matrice A=(a ij i,j, este o matrice otată A * = ( a * i, j i,j, ale cărei elemete sut: * a i, j = j, i a petru orice i, j m. Cojugata este caracterizată pri : <Ax, y> = <x, A * y> petru orice x K şi orice y K m. O matrice petru care m= se umeşte pătratică. Elemetul eutru la îmulţire î M, (K este matricea uitate I : 5

Mădălia Roxaa Bueci Metode Numerice Curs - 2007 0 0 0 0 0 0 0 0 0 O matrice A M, (K este iversabilă dacă există B M, (K astfel îcât AB=BA=I. Iversa uei matrice A se otează A -. Matricea A este iversabilă dacă şi umai dacă det(a 0 - î acest caz se zice esigulară. Matricele petru care A=A t se umesc matrice simetrice, iar cele petru care A=A * se umesc matrice hermitiee (evidet, petru matrice cu coeficieţi reali cele două oţiui coicid. O matrice A se zice ortogoală dacă A - =A t şi uitară dacă A - =A *. Matricea A este diagoală dacă a ij =0 petru orice i j a 0 0 A = 0 a 2 0 = diag(a, a 2,, a 0 0 a tridiagoală dacă a ij =0 petru orice i,j cu i-j > a b 0 0 0 A = c 2 a 2 b 2 0 0 0 0 0 c a superior triughiulară dacă a i,j = 0 petru orice i > j. iferior triughiulară dacă a i,j = 0 petru orice i < j. superior Hesseberg dacă a i,j = 0 petru orice i > j+. iferior Hesseberg dacă a i,j = 0 petru orice i < j-. O matrice A M m, (K poate fi tratată ca u vector di K m : (a, a 2,, a, a 2, a 22,, a 2,, a m, a m2,, a m. Datorită acestui fapt orma uei matrice poate fi itrodusă î mod similar cu orma uui vector di K m. Pe de altă parte, se ştie că există u izomorfism de spaţii 6

liiare ître M m, (K şi L(K, K m. Fiecărei matrice A = (a i,j i,j i se asociază operatorul liiar S(A defiit pri S(A(x = Ax = ( a ijx j i m petru orice x = (x, x 2,, x t K. Î cele ce urmează vom idetifica A cu S(A. Cele mai des utilizate orme de matrice sut ormele operatoriale: astfel petru o matrice A M m, (K, dacă pe K m se cosideră orma α, iar pe K se cosideră orma β, atuci se otează cu A αβ orma de aplicaţie liiară: sup Ax α = sup Ax α. x β x β = Î cazul î care α=β se utilizează otaţia A α = A αα şi se spue că A α este orma operatorială a lui A subordoată ormei vectoriale α. Fie A M, (C. Scalarul λ di C se umeşte valoare proprie petru A dacă există vectorul eul x C astfel îcât: Ax= λx Vectorul x se umeşte vector propriu asociat valorii proprii λ. Mulţimea valorilor proprii ale lui A formează spectrul lui A şi se otează cu σ(a. Raza spectrală a lui A se defieşte pri: ρ(a = max λ σ( A λ Normele operatoriale petru o matrice A M, (C subordoată ormelor vectoriale,, 2 sut respectiv: A = max i A = max j A 2 = ρ ( A * A. a ij a ij i= Petru orice matrice A M, (C şi orice orma operatorială A subordoată uei ormei vectoriale avem ρ(a A. Deşi orma A 2 este importată di puct de vedere teoretic (corespude distaţei euclidiee, î geeral, î aplicaţiile umerice 7

Mădălia Roxaa Bueci Metode Numerice Curs - 2007 A 2 u este coveabilă (fiid dificil de calculat. Î locul ei se foloseşte orma vectorială: A F = i, a ij 2 care u este ormă operatorială subordoată ormei vectoriale deoarece I =. Ître cele două orme există relaţia: A 2 A F. Dacă este o ormă operatorială pe M, (C, atuci umai dacă ρ(a <. lim A k k =0 dacă şi Fie <, > produsul scalar caoic pe K (K = R sau C. O matrice A M, (K, K = R (respectiv, K = C se umeşte pozitiv defiită dacă este simetrică (respectiv, hermitiaă şi dacă <Ax, x> > 0 petru orice x 0 di K. egativ defiită dacă este simetrică (respectiv, hermitiaăşi dacă <Ax, x> < 0 petru orice x 0 di K. pozitiv semidefiită dacă este simetrică (respectiv, hermitiaăşi dacă <Ax, x> 0 petru orice x K. egativ semidefiită dacă este simetrică (respectiv, hermitiaăşi dacă <Ax, x> 0 petru orice x K. Î cele ce urmează e vom cocetra asupra matricelor A M, (R simetrice. Petru o astfel de matrice otăm determiaţii situaţi pe diagoala pricipală cu a a 2 a k k = a 2 a 22 a 2k a k a 2k a kk (k =,2, şi îi umim miori pricipali. 8

O matrice A M, (R este pozitiv defiită dacă şi umai dacă este simetrică şi miorii pricipali k (k {,2, } sut toţi pozitivi. O matrice A M, (R este egativ defiită dacă şi umai dacăeste simetrică şi miorii pricipali k (k {,2, } respectă următoarea alteraţă a semelor: < 0, 2 >0, 3 <0, 4 >0,..., (- >0. IV. 2. Metode directe de rezolvare a sistemelor liiare Metodele de rezolvare a sistemelor liiare sut clasificate î. Metode directe 2. Metode iterative Metodele directe presupu obţierea soluţiilor exacte a sistemelor liiare după u umăr fiit de operaţii elemetare. O metodă directă este cu atât mai buă cu cît umărul de operaţii elemetare (aduare, îmulţire, împărţire şi rădăciă pătrată ecesare este mai mic (umărul de operaţii executate iflueţează atât timpul de execuţie cât şi eroarea de rotujire. Cosiderăm sistemul cu ecuaţii şi ecuoscute. Ax = b, A M, (R esigulară. Deoarece A este esigulară sistemul admite soluţie uică, ce poate fi determiată cu regula lui Cramer: x i = xi, i. Arătăm că aplicarea acestei metode este epractică (petru mare. Îtr-adevăr, aplicarea ei coduce la calculul a + determiaţi de ordiul. Dar calculul uui determiat de ordiul petru o matrice C = (c ij i,j, ţiâd cot de defiiţie: det(c = ( ( cσ( c 2σ( 2...cσ( σ S ε σ revie la a calcula o sumă de! termei (grupul S al permutărilor de ordiul coţie! elemete, fiecare terme fiid produsul a factori. Deci petru a aplica regula lui Cramer trebuie efectuate cel puţi N op ( = (+! =(+! operaţii. 9

Mădălia Roxaa Bueci Metode Numerice Curs - 2007 Deoarece!> e (petru, rezultă că N op( > ( + + + e. De exemplu, dacă se utilizează u sistem de calcul ce execută 0 9 operaţii pe secudă, atuci petru rezolvarea uui sistem cu ecuaţii şi ecuoscute timpii de execuţie sut prezetaţi î tabelul de mai jos Timp de execuţie =5 0.5782433079 0-6 s =0 0.047659054 s = 5 = 20 = 25 338.6350 s = 8.64964862 ore > 2809 ai >0 ai = 30 >0 8 ai Metodele directe urmăresc trasformarea sistemului de rezolvat îtr-u sistem echivalet a cărui matrice este iferior triughiulară sau superior triughiulară, sistem ce se rezolvă foarte uşor. Prezetăm î cotiuare algoritmul lui Gauss de trasformarea matricei A îtr-o matrice superior triughiulară. IV. 2.. Metoda de elimiare Gauss Se cosideră o matrice A M,m (R. Elimiarea gaussiaă urmăreşte trasformarea matricei A îtr-o matrice superior triughiulară S (o matrice cu proprietatea că b ij = 0 petru orice i<j. Trecerea de la matricea A la matricea S se realizează pri trasformări elemetare. La baza metodei stă următorul procedeu: prima liie este folosită petru aularea coeficieţilor de pe prima coloaă di celelalte - liii. a doua liie este utilizată petru aularea coeficieţilor de pe a doua coloaă di ultimele -2 liii, ş.a.m.d. 0

Trecerea de la u pas la altul se face aplicâd regula dreptughiului (pivotului. Petru a obţie stabilitatea umerică a algoritmului, se alege drept pivot de la pasul k elemetul maxim î modul di coloaa k subdiagoală a lui A, şi se permută liia k cu liia pe care se găseşte pivotul. Această strategie de permutare se umeşte pivotare parţială. Performaţe de stabilitate umerică relativ mai bue se obţi dacă se alege drept pivotul la pasul k elemetul maxim î modul di submatricea delimitată de ultimele -k liii, şi se permută coloaa k cu coloaa pivotului şi liia k cu liia pivotului. Această strategie de pivotare se umeşte pivotare completă. Prezetăm î cotiuare algoritmul de elimiare Gauss cu pivotare parţială. Trecerea de la matricea A la matricea superior triughiulară se realizează î mi paşi, mi=mi{,m}: A (0 A ( A (mi, ude A (mi are formă superior triughiulară, iar A (0 =A. Petru a se trece de la A (k A (k+ : Se determiă pivotul de la pasul k; acesta este primul elemet de pe coloaa k cu proprietatea ( k a k,i ( k ( k a k,i =max{ a k,j, k j } Se permută liiile i cu k; Se aplică regula dreptughiului (pivotului cu pivotul a ( k k,k. Astfel: elemetele de pe liia pivotului se împart la pivot: a (k+ k,i = ( k ak,i, i=k,k+, m ( k a k,k elemetele subdiagoale de pe coloaa pivotului se îlocuiesc cu 0.

Mădălia Roxaa Bueci Metode Numerice Curs - 2007 ( k a + ik =0, i= k+, k+2, elemetele di submatricea delimitată de ultimele -k liii şi de ultimele -k coloae se trasformă cu regula dreptughiului: k j k i (k a k,k (k a i,k (k a k,j (k a i,j ( k a + = i,j (k (k (k (k i, j k,k k, j i,k (k a k,k a a a a, k+ i, k+ j m. triughiulară: Î urma aplicării acestui algoritm se ajuge la următoarea matrice superior a (, 2 a (, 3 a (, A (mi = 0 ( a2 2, 3 a ( 2, 2 a (, + a, a 2, ( m ( 2 + ( 2, a 2 m 0 0 0 ( a,+ (, (m. Cosiderăm sistemul cu ecuaţii şi ecuoscute. Ax = b, A M, (R esigulară Petru rezolvarea acestui sistem vom aplica algoritmul de elimiare Gauss a m cu pivotarea parţială asupra matricei extise A = ( A b. Vom ota elemetele matricei A tot cu a i,j. Astfel a i,+ = b i petru orice i=,2,... La primul pas algoritmul presupue elimiarea ecuoscutei x di ultimele - ecuaţii. La al doilea pas se elimiă ecuoscuta x 2 di ultimele -2 ecuaţii, ş.a.m.d. Î cazul acestui algoritm petru fiecare k se efectuează +-k + (+-k(k = (+-k 2 operaţii elemetare (pri operaţie elemetară îţelegâd aici o 2

operaţie î virgulă mobilă de forma ax + b, sau o împărţire. Deci algoritmul ecesită 2 2 = j k= 2 N op ( = ( + k = ( + ( + 2 3 operaţii elemetare. Deci N op ( ~ (sau N op ( O( 3. 3 Ca urmare a aplicării algoritmului se obţie sistemul echivalet: 6 - x + a (, 2 x 2 + a (, 3 x 3 + a (, x = a (, + x 2 + ( a2 2, 3 x 3 + a ( 2 2, x = (, a2 2 + x = ( a,+ Rezolvarea acestui sistem se poate face foarte uşor de la sfârşit spre îceput: x = ( x a,+ i = i,+ i, j i+ ( i ( i a a x j IV.2.2. Calculul iversei uei matrice Fie A M, (R. Matricea A este iversabilă dacă şi umai dacă există o matrice B M, (R astfel îcât A B=B A=I, ude 0 0 ---------- 0 I = 0 0 ---------- 0 --------------------------------------- 0 0 0 ---------- Se ştie că A este iversabilă dacă şi umai dacă are determiatul eul. Notăm: 3

Mădălia Roxaa Bueci Metode Numerice Curs - 2007 e k = (0,,0,,0 0 vectorul k al bazei caoice di R. Petru fiecare k (k=,2,, cosiderăm sistemul Ax=e k. Soluţia acestui sistem reprezită chiar coloaa k a matricei A -. Astfel petru aflarea lui A - este ecesar să rezolvăm sisteme de ecuaţii liiare Ax=e k, k=,2,,. Aceste sisteme pot fi rezolvate utilizâd algoritmul de elimiare al lui Gauss. Petru a micşora volumul de calcul vom aplica algoritmul asupra matricei obţiute pri cocatearea la matricea A a coloaelor bazei caoice di R. Coeficieţii matricei sut ude a ij, dacă i, j a i,+k = δ ik, dacă i, k, i=k δ ik = 0, i k. A = (A e e 2 ------ e Pri aplicarea algoritmului de elimiare Gauss cu pivotare parţială asupra lui A se obţie u şir de matrice A (0 A ( ---- A (, ude A (0 = A, iar A ( are următoarea formă superior triughiulară: a (, 2 a (, 3 a (, A ( = 0 ( a2 2, 3 a ( 2, 2 a (, + a,2 a 2, ( ( 2 + ( 2,2 a 2 0 0 0 ( a,+ (,2 a Dacă B = A -, atuci coeficieţii lui B pot fi determiaţi cu formulele: 4

b,k = a (, k,+ k ( i, j i+ b i,k = a ( i i i,+ k - a bi, j, i -, k 5