Exemplu de lucrare de licenţă

Transcript

1 Universitatea,, Aurel Vlaicu din Arad Facultatea de Ştiinţe Exacte Specializarea Informatică Lucrare de licenţă Exemplu de lucrare de licenţă Absolvent: Ion Ionescu Coordonator: Prof. dr. Octavian Cira Iulie 2011

2 Referat privind lucrarea de licenţă cu titlul,,exemplu de lucrare de licenţă întocmit de absolventul Ion Ionescu. Lucrarea are 81 pagini şi este organizată în 6 capitole: 1. Introducere 2. Capitolul 1 3. Capitolul 2 4. Capitolul 3 5. Concluzii 6. Anexă Din punct de vedere al conţinutului şi al prezentării, lucrarea întruneşte toate condiţiile cerute de o lucrare de licenţă la specializarea Informatică din cadrul Facultăţii de Ştiinţe Exacte. Având în vedere cele de mai sus, recomand susţinerea publică a lucrării de licenţă cu titlul,,exemplu de lucrare de licenţă, întocmită de absolvent Ion Ionescu, în sesiunea din iulie 2010 şi propun acordarea notei ARAD, 14 noiembrie 2010 Prof. dr. Octavian Cira 2

3 Cuprins 1 Elemente de analiză Elemente de algebră liniară Polinom caracteristic Valori şi vectori proprii Elemente de analiză n-dimensională Ordin de convergenţă în R Ordin de convergenţă în R n Q-ordinul de convergenţă R ordinul de convergenţă Relaţii între ordine de convergenţă Metode numerice pentru ecuaţii neliniare în R n Metoda Newton Construcţia metodei Newton Convergenţa metodei Newton Programe pentru metoda Newton Alegerea iteraţiei iniţiale Bazinul de atraţie pentru metoda Newton Metoda secantei şi metoda Steffensen Metoda secantei Construcţia metodei secantei şi a metodei Steffensen Convergenţa metodelor secantei şi Steffensen Programe pentru metoda secantei Programe pentru metoda Steffensen Metode cvasi-newton Leme preliminare Construcţia metodei Broyden Convergenţa metodei Broyden Programe pentru metoda Broyden Bazine de atracţie 72 3

4 Listă de figuri 1.1 Funcţia Q Funcţia R Funcţia R şi Q Funcţia gx) Bazinul de atracţie pentru metoda Newton Bazinul de atracţie pentru metoda Broyden Bazinul de atracţie pentru metoda Steffensen

5 Introducere În lucrarea de faţă sunt tratate metode numerice pentru aproximarea soluţiilor ecuaţiilor neliniare din R n şi bazinele lor de atracţie. În literatura de specialitate se cunosc monografiile lui L. B. Rall [28], [29], [30], a lui J. M. Ortega şi W. C. Rheinboldt [26] şi [27], a lui J. F. Traub şi H. Wozniakowski [34], a lui J. E. Dennis Jr. şi R. B. Schnabel [15], I. K. Argyros şi F. Szidarovszky [1] iar în România cartea lui Şt. Măruşter [23] tipărită în anul 1981 şi volumul autorilor O. Cira şi Şt. Măruşter [12] tipărită în anul Alte lucrări ce au fost consultate sunt cele ale lui: Rheinboldt [31], Cuyt şi Rall [13], Ypma [36]. Având în vedere progresele deosebite după 1990 în demonstrarea convergenţei metodelor de ordin superior cu teoreme de tip Ostrowski-Kantorovich şi dezvoltarea softurilor matematice ca: Mathemetica, [37], Mathcad, [38] şi Matlab, [39]; ne-a determinat să scriem această lucrare. În toate aceste softuri de calcul ştiiţific sunt implemtate, pentru rezolvarea numerică a ecuaţiilor neliniare, metodele: metoda Newton, metoda Broyden şi metoda Steffensen. Pentru ecuaţii neliniare din R n n > 1) s-au avut în vedere cea mai cunoscută metodă numerică, metoda Newton cu teorema de convergenţă a lui Kantorovich [21]. Teorema lui Kantorovich, publicat în anul 1948, este rezultatul ce domină literatura de specialitate referitoare la rezolvarea numerică a ecuaţiilor neliniare. O subsecţiune este alocată metodelor secantei şi Steffensen. Prin două articole, [4] şi [5], Broyden demonstrează convergenţa metodei cvasi-newton, impusă mai târziu, în literatura de specialitate, sub numele de metoda Broyden. Această metodă este una din cele mai folosite metode pentru rezolvarea ecuaţiilor neliniare. Redactarea unui hypertext, atât de complex, s-a realizat cu ajutorul L A TEX-ului. Avantajele hypertext-ului sunt următoarele: hypertext-ul, sub format pdf printable document file), se poate citi cu ajutorul programului 5

6 Lucrare de licenţă Ion Ionescu Acrobat Reader; pe lângă salturile, printr-un simplu clic, la orice referinţă internă sau referinţă bibliografică din text, se mai pot face salturi cu ajutorul link-urilor externe la fişiere imagine realizate cu Mathcad-ul, la articole,,free de pe internet, citate ca atare în bibliografie, sau la titlul şi rezumatul articolului din bazele de date ale portalurilor de specialitate MathSciNet, links.jstor, portal.acm, SpringerLink, scitation.aip, ProjectEuclid, etc). Aceste servicii de citire a hypertext-ului se pot realiza pe un calculator legat la internet şi cu Acrobat Reader-ul instalat acest soft este free). 6

7 Capitolul 1 Elemente de analiză 1.1 Elemente de algebră liniară Polinom caracteristic Notăm cu M m,n K) M n,n mulţimea matricelor de dimensiune m n cu elemente din corpul K. Definiţia Fie A M n,n R) cu n 1 o matrice dată la care asociem matricea B = A x I, unde B M n,n R[x]) şi I este matricea unitate din M n,n R). Polinomul P A x) = detb) R[x] se numeşte polinomul caracteristic al matricei A. Observaţia Polinomul caracteristic pentru matrici particulare din mulţimea M n,n R). 1. Dacă A M n,n R), A = diagd 1, d 2,..., d n ) atunci P A x) = 1) n n k=1 x d k ) 2. Dacă notăm cu O matricea nulă, O M n,n R), atunci P O x) = 1) n x n 3. Dacă notăm cu I matricea identitate, I M n,n R) atunci P I x) = 1) n x 1) n 7

8 Lucrare de licenţă Ion Ionescu 4. Dacă A M n,n R) este o matrice triunghiulară inferior a k,j = 0 pentru k < j, k, j I n ) atunci P A x) = 1) n n k=1 x a kk ) 5. Dacă A M n,n R) este o matrice triunghiulară superior a k,j = 0 pentru k > j, k, j I n ) atunci P A x) = 1) n n k=1 x a kk ). Observaţia Pentru orice matrice A M n,n R) P A x) = deta x I) rezultă că P A 0) = deta), de unde avem că matricea A este singulară dacă şi numai dacă 0 este rădăcină a polinomului caracteristic P A x). Propoziţia Fie A M n,n R), A = a kj ), k, j I n şi polinomul său caracteristic P A R[x], atunci: a) gradp A ) = n şi P A Tx) = P A x); b) Dacă P A x) = α n x n + α n 1 x n α 1 x + α 0, atunci avem α n = 1) n, α n 1 = 1) n 1 tra) şi α 0 = deta). unde tra) = a 11 + a a nn este urma matricei A. Demonstraţie. a) Evident gradp A ) = n. Notăm cu I matricea unitate din mulţimea M n,n R) atunci A T x I = A x I) T de unde rezultă P A Tx) = det A T x I ) = det A x I) = P A x) b) P A x) = deta x I) = a 11 x) a 22 x) a nn x) + Q n 2 x) unde Q n 2 este un polinom grad cel mult n 2. Atunci P A x) = 1) n x n + 1) n 1 a 11 + a a nn )x n α 0 deci α n = 1) n, α n 1 = 1) n 1 tra), iar α 0 = P A x) = deta 0 I) = deta). Definiţia Fie A, B M n,n R). Matricele A şi B se numesc asemenea şi scriem A B dacă există T M n,n R), nesingulară astfel încât B = T 1 A T. Lema Fie A, B M n,n R) şi A B atunci P A = P B. 8

9 Ion Ionescu Lucrare de licenţă Demonstraţie. Dacă A B atunci există T M n,n R), nesingulară astfel încât B = T 1 A T atunci P B x) = detb x I) = dett 1 A T x I) = dett 1 A T T 1 x I) T ) = det T 1 A T x I) T ) ) = dett 1 A x I) T ) = dett 1 ) deta x I) dett ) = dett 1 ) P A x) dett ) = P A x) Valori şi vectori proprii Fie R corpul numerelor reale şi V un spaţiu vectorial peste R şi operatorul liniar endomorfism) f : V V. Definiţia Un scalar λ R se numeşte valoare proprie a lui f dacă operatorul liniar g : V V, gx) = fx) λ x nu este izomorfism. Mulţimea σf) C a tuturor valorilor proprii ale lui f se numeşte spectrul lui f, atunci subspaţiul V λ = Kerg) V se numeşte subspaţiul propriu corespunzător valorii proprii λ, iar vectori nenuli din V λ se numesc vectori proprii ai lui f, corespunzând valorii proprii λ. Se numeşte rază spectrală numărul pozitiv ρ = ρσ) = ρσf)) = max { λ λ σf)}. Fie V şi W două spaţii vectoriale peste R, finit dimensionale, dim R V ) = n şi dim R W ) = m. Fixăm o bază B 1 = {v 1, v 2,..., v n } în V şi B 2 = {w 1, w 2,..., w m } o bază a lui W. Fie f : V W o aplicaţie liniară, atunci putem să scriem fv 1 ) = a 11 w 1 + a 21 w a m1 w m fv 2 ) = a 12 w 1 + a 22 w a m2 w m sau mai concentrat... fv n ) = a 1n w 1 + a 2n w a mn w m fv j ) = m a k,j w k k=1 j I n unde a k,j R k I n, j I m sunt unic determinaţi pentru cele două baze fixate şi pentru aplicaţia f. Definiţia Matricea A = A f = a k,j ) din M n,m R) se numeşte matricea asociată aplicaţiei liniare f : V W relativ la cele două baze fixate. 9

10 Lucrare de licenţă Ion Ionescu În baza celor arătate mulţimea aplicaţiilor liniare LR n, R m ) = {f f : R n R m } unde f este o aplicaţie liniară, poate fi identificată printr-un izomorfism cu mulţimea matricelor M n,m R). Pentru matricea A M n,n R) se asociază operatorul f : R n R n care îi atribuie vectorului x R n vectorul x A T adică fx) = x A T. Valorile proprii şi vectori proprii pentru matricea A M n,n R) sunt prin definiţie cele ale operatorului f. Fie λ R valoare proprie pentru matricea A există vectorul x 0 astfel încât fx) = λx există vectorul x 0 astfel încât x A T = λx există vectorul x 0 astfel încât A x = λx sistemul liniar şi omogen A λi)x = 0 admite soluţii nebanale deta λi) = 0. De unde putem trage concluzia că un scalar λ R este valoare proprie pentru o matrice A M n,n R) dacă şi numai dacă λ este rădăcină a ecuaţiei caracteristice deta λi) = 0. În continuare dăm câteva propoziţii fără demonstraţie referitoare la proprietăţiile valorilor şi vectorilor proprii. Pentru demonstraţii se poate consulta lucrarea [3]. Propoziţia Dacă P A x) = 1) n x λ 1 ) n 1 x λ 2 ) n 2... x λ p ) np, unde n 1, n 2,..., n p sunt multiplicităţile valorilor λ 1, λ 2,..., λ p C care sunt distincte două câte două şi dacă n 1, n 2,..., n p sunt întregi 1 cu n 1 + n n p = n, atunci σa) = {λ 1, λ 2,..., λ p }. În cele ce urmează presupunem că matricea A M n,n R) are n valori proprii distincte două câte două. Propoziţia O matrice A M n,n R) şi A T M n,n R) au acelaşi polinom caracteristic deci au acelaşi valori proprii dar în general nu au aceeaşi vectori proprii. Exemplul Fie matricea A M n,n R) A := atunci A şi A T au aceleaşi valori proprii i 7 λ := eigenvalsa) 2 3 i τ := eigenvals A T) i i 7 2

11 Ion Ionescu Lucrare de licenţă iar vectori proprii sunt diferiţi v := eigenvecsa) i i şi w := eigenvecs A T) i 7 1 i Calculul simbolic al valorilor şi vectorilor proprii s-au făcut cu funcţiile Mathcad eigenvals şi eigenvecs [10]. Propoziţia Suma valorilor proprii pentru matricea A M n,n R) este egală cu urma matricei A, iar produsul valorilor proprii este egal cu deta) 2 n λ k = tra), k=1 n λ k = deta). k=1 Exemplul Pentru matricea A M n,n R) avem A := 3 λ k = 4 şi tra) = 4, k= , 3 λ k = 4 şi A = 4, unde s-au folosit funcţiile Mathcad tr pentru suma elementelor de pe diagonala principală a unei matricii pătrate şi pentru determinatul unei matrici pătrate [10]. Propoziţia Fie A M n,n R) atunci A este singulară dacă şi numai dacă 0 σa). Propoziţia Fie A M n,n R) şi λ σa), λ 0, atunci λ k σa k ). k=1 11

12 Lucrare de licenţă Ion Ionescu Definiţia Matricea A M n,n R) este diagonalizabilă dacă există o matrice D M n,n R) diagonală, D = diagd 1, d 2,..., d n ) astfel încât A D. Această definiţie este echivalentă cu definiţia. Definiţia Matricea A M n,n R) este diagonalizabilă dacă există o matrice T M n,n R) nesingulară astfel încât T 1 A T = D, unde D este o matrice diagonală D = diagd 1, d 2,..., d n ), unde D k,j = 0 pentru k I n, j I n şi k j, iar D kk = d k pentru orice k = I n. Teorema Criteriul de diagonalizare). Fie spaţiul vectorial R n şi o matrice A M n,n R) cu polinomul caracteristic P A x) = 1 ) n x λ 1 ) n 1 x λ 2 ) n 2... x λ p ) np cu toţi λ k R unde n k 1 şi n 1 + n n p = n. Atunci sunt echivalente următoarele condiţii a) Matricea A este diagonalizabilă; b) Există o bază B în R n formată numai cu vectori proprii a matricei A; c) Spaţiul liniar R n este sumă directă de subspaţiile R n λ k, k I p ; d) Dimensiunea subspaţiilor R n λ k este egală cu n k, k I p. Demonstraţie. Vezi demonstraţia teoremei 3.10 criteriul de diagonalizare) [3, pag. 85]. Corolarul Fie spaţiul liniar R n şi o matrice A M n,n R) cu polinomul caracteristic P A x) = 1 ) n x λ 1 ) n 1 x λ 2 ) n 2... x λ p ) np cu toţi λ k C unde n k 1 şi n 1 + n n p = n. Dacă toţi n k sunt egali cu 1, adică toate valorile proprii sunt rădăcini simple ale polinomului caracterisctic, atunci matricea A este diagonalizabilă. Demonstraţie. Vezi demonstraţia corolarului 1 din [3, pag. 86]. Lema Gerschgorin). Fie A = a k,j ) k, j I n o matrice din M n,n R). Pentru orice k I n, se notează r k = n a k,j j=1 j k 12

13 Ion Ionescu Lucrare de licenţă şi fie discul D k incluziunea = Da kk, r k ) = {z z a kk < r k, z R}, atunci are loc n σa) k=1 D k Demonstraţie. Fie λ σa) atunci exită un vector x R n nenul x = x 1, x 2,..., x n ) T astfel încât A x = λ x. Fie x k = max { x 1, x 2,..., x n }, evident x k 0. Ecuaţia k din sistemul liniar A x = λ x este de unde avem atunci a k1 x 1 + a k2 x a kk λ) x k a kn x n = 0 a kk λ) x k = a kk λ n j=1 j k dar x j / x k 1 pentru orice j k atunci a kk λ n a kj x j j=1 j k a kj x j x k n a kj x j n x k a kj = r k j=1 j k j=1 j k de unde rezultă λ D k = Da kk, r k ), atunci avem şi lema este demonstrată. σa) Dăm fără demonstraţie următorul rezultat fundamental din algebra liniară Lema Pentru orice matrice A M n,n R) există o matrice nesingulară P M n,n C), astfel încât P 1 A P = J, unde J este o matrice bloc de forma J = n k=1 D k J J l 13

14 Lucrare de licenţă Ion Ionescu iar J k sunt matrici unidimensionale λ), sau de forma λ λ 1... J k = λ unde λ este valoare proprie pentru matricea A cu ordin de multiplicitate cel puţin egal cu dimensiunea lui J k. Matricea J se numeşte forma canonică Jordan. Demonstraţie. Pentru demonstraţie a se vedea [3]. Dacă A LR n, R n ) atunci notăm cu norma matricii consistentă. Această normă poate fi una din normele: a) Norma aplicaţiei liniare A = sup Ax, x =1 b) Norma A = max k I n {λ k }, unde λ k sunt valorile proprii ale matricii A T A, c) Norma Frobenius A = tra T A), unde tra T A) este urma matricii A T A, adică suma elementelor de pe diagonala principală a matricii A T A. Fie A, B M n,n R) şi x R n atunci avem următoarele inegalităţi A x A x şi A B A B. Dacă matricea A este inversabilă, atunci avem x = A 1 A x A 1 A x = κ x, unde κ 1. Dăm următoarea definiţie: 14

15 Ion Ionescu Lucrare de licenţă Definiţia Fie matricea A M n,n R) atunci numărul κ [1, ) definit de relaţia κ = A 1 A se numeşte numărul de condiţie al matricei A. Lema Fie A M n,n R) astfel încât A < 1 atunci lim k Ak = 0 Demonstraţie. Pentru două matrici oarecare A, B M n,n R) avem inegalitatea A B A B, rezultă că A k A k, atunci lim k A k = 0. Norma este o aplicaţie continuă atunci putem scrie limk A k = lim k A k limk A k = 0, dar x = 0 dacă şi numai dacă x = 0 şi cu asta lema este demonstrată. Lema Fie A M n,n R) astfel încât ρa) < 1 atunci lim k Ak = 0. Demonstraţie. Vezi lema 2.2 şi lema 2.3 de la paginile 53 şi 54 din [23]. Lema Fie A M n,n R) astfel încât ρa) < 1 atunci există I A) 1 şi I A) 1 = A k, k=0 unde I M n,n R) şi este matricea identitate. Demonstraţie. Observăm că dacă matricea A are valori proprii pe λ k, k I n atunci matricea I A are valori proprii pe 1 λ k, k I n. Dacă ρa) < 1 rezultă λ k < 1 pentru orice k, k I n deci 1 λ k 0 pentru k I n, rezultă că 0 nu este valoare proprie pentru matricea I A de unde rezultă că există I A) 1. Avem identitatea I A k+1 = I A)I + A +... A k ) dacă înmulţim această identitate cu I A) 1 va rezulta I A) 1 A k+1 I A) 1 = trecând la limită după k şi ţinând cont că lim k A k = 0 dacă ρa) < 1 vom avea I A) 1 = A k. k=0 k j=0 A k 15

16 Lucrare de licenţă Ion Ionescu În cele ce urmează prezentăm lema de perturbare pe care o datorăm lui John von Neumann [25], [23, Lema 2.5]. Lema von Nuemann 1943). Fie A, B M n,n R) astfel încât există A 1 iar A 1 α, A B β şi αβ < 1, atunci există B 1 şi B 1 α/1 αβ). Demonstraţie. Avem I A 1 B = A 1 A B) A 1 A B αβ < 1 rezultă ρ I A 1 B ) I A 1 B < 1, atunci conform lemei există I I + A 1 B ) 1, adică există AB 1, deci există B 1. Atunci putem evalua norma matricei B 1. B 1 [ I I A 1 B )] 1 A 1 = A 1 I A 1 B ) k k=0 = A 1 [ A 1 A B) ] k α [ A 1 A B) ] k k=0 k=0 α [ A 1 A B) ] k α A 1 ) k A B) k k=0 k=0 k=0 α A 1 k A B k α α k β k = α αβ) k = Cu aceasta lema este demonstrată. k=0 k=0 α 1 αβ. 1.2 Elemente de analiză n-dimensională Prezentăm câteva elemente de analiză n-dimensională. Fie x R n, x = x 1, x 2,..., x n ) T cu x k R pentru k I n. Un şir de elemente din R n pe care îl notăm { x k)} pentru a face diferenţa faţă de x k. Definim următoarele norme n ) 1 p x p = x k p pentru 1 p < k=1 a) Pentru p = 1 avem norma unu x 1 = 16 n x k k=1

17 Ion Ionescu Lucrare de licenţă n ) 1/2 b) Pentru p = 2 avem norma euclidiană x 2 = x k 2 c) Pentru p = avem norma infinit x = max { x k k I n } Produsul scalar, : R n R n este definit de relaţia k=1 x, y := n x k y k k=1 atunci norma euclidiană poate fi scrisă şi sub forma x 2 = x, x 1/2. Să remarcăm că n x + y 2 2 = x, y = k=1 x k + y k ) x k + y k ) = n x 2 k + 2x k y k + yk) 2 k=1 = x, x + 2 x, y + y, y = x x, y + y 2 2. În cele ce urmează vom avea nevoie de inegalitatea lui Schwartz-Cauchy- Buniakovski x, y x 2 y 2 sau scrisă în mod explicit după ce relaţia a fost ridicată la pătrat n ) 2 x k y k k=1 n x 2 k k=1 k=1 n yk 2. Observaţia Într-un spaţiu finit dimensional normele sunt echivalente. Fie două norme α şi β atunci c, d [0, ) astfel încât c x α x β d x α pentru x R n în acest sens se poate arăta că x x p p n x pentru x R n şi p N. Definiţia Un operator F : D R n R m este diferenţiabil Gâteaux în x D dacă există un operator liniar A LR n, R m ), astfel încât pentru orice h R n şi t real să avem F x + th) F x) A th lim t 0 t 17 = 0.

18 Lucrare de licenţă Ion Ionescu Se poate arăta că A este unic definit şi că nu depinde de normă. Acest operator se numeşte derivata Gâteaux a lui F în punctul x şi notează cu F x). Dacă F x) există în fiecare punct al unei mulţimi D 0 D, atunci F este un operator în general neliniar) de la D 0 în LR n, R m ). În particular, acesta poate fi continuu într-un punct x D 0 ; condiţia de continuitate se scrie F x + h) F x) 0, când h 0. Derivata Gâteaux a unui operator admite următoarea reprezentare. Fie f 1, f 2,..., f n, componentele lui F şi e j), j I n, versorii axelor de coordonate în spaţiul R n, adică e 1) = 1, 0, 0,..., 0), e 2) = 0, 1, 0,..., 0),..., e n) = 0, 0,..., 1). Să notăm cu a k,j elementele derivatei Gâteaux în punctul x şi să luăm h = e j). Din definiţie obţinem lim t 0 fk x + te j) ) f k x) ta k,j t = 0, deci f k admite derivată parţială în raport cu x k în x şi avem F x) = f k x) x j = a k,j. Aşadar, dacă F este diferenţiabil Gâteaux în x, componentele lui F admit derivate parţiale şi f 1 x) f 1 x) f 1 x)... x 1 x 2 x n f 2 x) x 1. f m x) x 1 f 2 x) x f m x) x 2... f 2 x) x n.... f m x) x n Reciproca acestei afirmaţii nu este în general adevărată, adică existenţa derivatelor parţiale ale unui operator nu asigură derivabilitatea Gâteaux. În particular dacă m = 1, atunci fx) F x) =, fx),..., fx) ). x 1 x 2 x n Există o serie de proprietăţi ale operatorilor diferenţiabili Gâteaux similari cu proprietăţile funcţiilor derivabile de o variabilă reală. Astfel, dacă F 1 18

19 Ion Ionescu Lucrare de licenţă şi F 2 sunt doi operatori diferenţiabili Gâteaux şi α, β R, atunci αf 1 + βf 2 este deasemenea diferenţiabil Gâteaux şi αf 1 + βf 2 ) = αf 1 + βf 2. Alte proprietăţi nu se pătrează. De exemplu, un operator diferenţiabil Gâteaux nu este în general continuu. Are loc însă o proprietate ceva mai slabă şi anume: dacă F este diferenţiabil Gâteaux în x, atunci F este hemicontinuu în x. Reamintim că F : D R n R m este hemicontinuu în x D dacă pentru orice h R n şi ε > 0 există un δ = δε, h) astfel încât, dacă t < δ şi x + th D, atunci F x + th) F x) < ε. Cu alte cuvinte, F este continuu pe toate segmentele de dreaptă care trec prin x. Definiţia Un operator F : D R n R m este diferenţiabil Fréchet în x D dacă există un operator liniar A LR n, R m ), astfel încât pentru h R n. F x + h) F x) A h lim h 0 h = 0, Operatorul A este unic, se numeşte derivata Fréchet în punctul x şi se notează tot cu F x). Este evident că un operator diferenţiabil Fréchet este şi diferenţiabil Gâteaux şi deci derivata Fréchet admite aceeaşi reprezentare în funcţie de componentele lui F. În cazul operatorilor diferenţiabili Fréchet, proprietatea de continuitate se păstrează. Avem Teorema Dacă operatorul F : D R n R m este diferenţiabil Fréchet în punctul x D, atunci F este continuu în x. Demonstraţie. Există δ 1 > 0 astfel încât x + h D dacă h < δ 1. Fie ε > 0. Din definiţia derivatei Fréchet rezultă că există un δ, 0 < δ δ 1 astfel încât F x + h) F x) F x) h ε h, pentru h δ. Prin urmare, avem F x + h) F x) ε + F x) ) h, pentru h δ, şi continuitatea lui F este demonstrată. Definiţia Un operator F : D R n R m este continuu diferenţiabil pe o mulţime D 0 D dacă F are derivată Fréchet continuă pe D 0. 19

20 Lucrare de licenţă Ion Ionescu Se poate arăta că F există şi este continuă într-un punct x dacă şi numai dacă derivatele parţiale f k / x j există şi sunt continue în x. Să presupunem că operatorul F : D R n R m este diferenţiabil Gâteaux pe o mulţime D 0 D şi fie operatorul F : D 0 R n LR n, R m ). Deoarece LR n, R m ) este şi el un spaţiu de dimensiune finită n m, se pot defini derivatele Gâteaux sau Fréchet ale lui F. Se obţin astfel derivatele Gâteaux sau Fréchet de ordinul al doilea. Definiţia Presupunem că operatorul F : D R n R m este diferenţiabil Gâteaux pe mulţimea deschisă D 0 D. Dacă operatorul F : D 0 R n LR n, R m ) este diferenţiabil Gâteaux într-un punct x D 0, atunci derivata lui F se numeşte derivata Gâteaux de ordinul al doilea a lui F în x şi se notează cu F x). Dacă F este diferenţiabil Fréchet întrun punct x D, derivata Fréchet a lui F se numeşte derivata Fréchet de ordinul al doilea a lui F în x şi se notează cu F x). Dacă derivata Gâteaux sau Fréchet de ordinul al doilea există, atunci F x) L R n, LR n, R m ) ) şi pentru orice h R n, F x) h LR n, R m ). În mod analog se pot defini derivatele Gâteaux sau Fréchet de ordinul al treilea. Teorema Fie operatorul F : D R n R m diferenţiabil Gâteaux pe o mulţime convexă D 0 D. Atunci pentru orice x, y D 0 avem Demonstraţie. Fie F y) F x) sup F x + ty x)) y x. t [0,1] M = sup F x + ty x)) y x t [0,1] şi fie Γ mulţimea punctelor din [0, 1] pentru care avem F x + ty x)) F x) Mt y x + εt y x, 1.1) unde ε este un număr pozitiv dat. Este evident că 0 Γ şi deci Γ nu este vidă. Fie γ = sup t Γ t. Deoarece F este hemicontinuă pe D 0, rezultă că F x + ty x)) este un operator continuu pe [0, 1] şi avem F x + γy x)) F x) Mγ y x + εγ y x. 1.2) Dacă γ = 1, teorema este demonstrată deoarece ε este arbitrar. Să presupunem că γ < 1. Atunci din definiţia derivatei Gâteaux a operatorului 20

21 Ion Ionescu Lucrare de licenţă F, scrisă în punctul x + γy x) şi h = y x, t = β γ, unde β γ, 1), obţinem F x + βy x)) F x + γy x)) F x + γy x)) β γ)y x) Prin urmare, avem εβ γ) y x. F x + βy x)) F x + γy x)) M + ε)β γ) y x. De aici şi din relaţia 1.2) obţinem F x + βy x)) F x) M + ε)β γ) y x + M + ε)γ y x = M + ε)β y x, adică o relaţie de forma 1.1) în care t = β > γ, ceea ce contrazice definiţia lui γ. Prin urmare γ = 1 şi teorema este demonstrată. Observaţia Dacă F x) M < pe D 0, atunci din teorema rezultă imediat că F este continuu Lipschitz pe D 0. În cele ce urmează vom mai avea nevoie şi de următoarele două corolare ale teoremei Corolarul Dacă F : D R n R m este diferenţiabil Gâteaux pe mulţimea convexă D 0 D, atunci pentru orice x, y, z D 0 avem F y) F z) F x) y z) sup F z + ty z)) F x) y z. t [0,1] Demonstraţie. Pentru fiecare x D 0 definim operatorul G : D 0 R n R m, cu Gu) = F u) F u) u. Deoarece G u) = F u) F x), aplicăm teorema şi corolarul rezultă din relaţia Gy) Gz) sup G z + ty z)) y z. t [0,1] Corolarul Dacă F : D R n R m este diferenţiabil Gâteaux pe o vecinătate a lui x D şi F este continuu în x atunci F este diferenţiabil Fréchet în x. 21

22 Lucrare de licenţă Ion Ionescu Demonstraţie. Deoarece F este continuu în x, fiind dat ε > 0, există δ > 0 astfel încât F x + h) F x) < ε dacă h < δ. Din corolarul în care luăm y = x + h şi z = x, obţinem F x + h) F x) F x) h sup F x + th) F x) h ε h. t [0,1] Teorema Dacă F : D R n R m este de două ori diferenţiabil Gâteaux pe o mulţime convexă D 0 D, atunci pentru orice x, y D 0, avem F y) F x) F x) y x) sup F x + ty x)) y x 2. t [0,1] Demonstraţie. Din corolarul şi teorema aplicate operatorului F, obţinem F y) F x) F x) y x) Dar este evident că sup sup F x + ty x)) F x) y x t [0,1] { sup t [0,1] s [0,1] sup t [0,1] şi teorema este demonstrată. sup F x + tsy x)) y x s [0,1] F x + tsy x)) = sup F x + ty x)) t [0,1] } y x. Fie F : D R n R m un operator diferenţiabil Gâteaux pe D şi fie x, y două puncte din D astfel încât x + ty x) D pentru orice t [0, 1]. Atunci, deoarece F este hemicontinuu pe D, rezultă că componentele sale f 1, f 2,..., f m luate în punctul x + ty x) sunt funcţii continue în raport cu t. Dacă în plus presupunem că f k x + ty x))y x) sunt integrabile Riemann pe [0, 1], atunci f k y) f k x) = 1 0 f k x + ty x))y x)dt 1.3) Într-adevăr, dacă notăm cu x 1, x 2,..., x n şi cu y 1, y 2,..., y n componentele lui x şi ale lui y respectiv, atunci f k x + ty x)) = f k x1 + ty 1 x 1 ), x

23 Ion Ionescu Lucrare de licenţă ty 2 x 2 ),..., x n + ty n x n ) ) astfel încât f k x + ty x)) t = f k x 1 y 1 x 1 ) + f k x 2 y 2 x 2 ) f k x n y n x n ) = f kx + ty x))y x) şi relaţia 1.3) rezultă din egalitatea g1) g0) = 1 0 g t)dt în care luăm gt) = f k x + ty x)). Acum, dacă definim integrala unei funcţionale G : [0, 1] R m, de componente g 1, g 2,..., g m prin 1 g 0 1t)dt 1 1 g 0 2t)dt Gt)dt =, 0. 1 g 0 mt)dt din 1.3) rezultă că F y) F x) = 1 0 F x + ty x)) y x)dt. 1.4) Lema Dacă G : [0, 1] R m este continuă pe [0, 1], atunci 1 1 Gt)dt Gt) dt. 0 Demonstraţie. Deoarece norma este o funcţie continuă, Gt) este integrabilă Riemann. Fiind dat un ε > 0, există o partiţie 0 = t 0 < t 1 <... < t p = 1 astfel încât 1 p Gt)dt Gt k )t k t k 1 ) ε şi Gt) dt k=1 0 p Gt k ) t k t k 1 ) ε. k=1 Prin urmare 1 Gt)dt p Gt k )t k t k 1 ) + ε k=1 p Gt k ) t k t k 1 ) + ε k=1 1 0 Gt) dt + 2ε. 23

24 Lucrare de licenţă Ion Ionescu Teorema Fie F : D R n R m un operator diferenţiabil Fréchet pe mulţimea convexă D 0 D Presupunem că derivata Fréchet este continuă Lipschitz pe D 0, adică F x) F y) L x y, pentru x, y D 0. Atunci pentru orice x, y D 0 avem F x) F y) F x) y x) L 2 y x 2. Demonstraţie. Ţinând seama de relaţia 1.4) şi de lemma 1.2.1, avem F y) F x) F x) y x) 1 = [F x + ty x)) F x)] y x)dt F x + ty x)) F x) y x dt 1 L y x 2 dt Ordin de convergenţă în R Fie şirul real definit de o metodă de calcul în p paşi x k+1 = Φ x k, x k 1,..., x k p+1 ) k = 0, ) convergentă către x, unde x este o soluţie a ecuaţiei neliniare fx) = 0. Definiţia Numărul real r 1 este ordinul de convergenţă al şirului {x k }, k N dacă x k+1 x lim k x k x r = ρ, 1.6) unde 0 < ρ <. Definiţia Numărul real pozitiv ρ obţinut cu relaţia 1.6) se numeşte eroare asimptotică a metodei 1.5). Observaţia Pentru un şir real {x k } avem următoarele ordine de convergenţă 24

25 Ion Ionescu Lucrare de licenţă Dacă r = 1 atunci spunem că avem o convergenţă liniară; Dacă 1 < r < 2 atunci spunem că avem o convergenţa superliniară; Dacă r = 2 atunci spunem că avem o convergenţă pătratică; Dacă r = 3 atunci spunem că avem o convergenţă cubică; Observaţia Este posibil ca şirul {x k } să conveargă la x dar să nu existe limita ρ dată de 1.6). De exemplu prin interclasarea a două şiruri care converg cu viteze diferite la aceiaşi limită x. Fie şirurile a k = 1 k şi b k = 1 2 k atunci şirul definit după cum urmează atunci c k 0, iar c 2k = a k şi c 2k+1 = b k k = 0, 1,... c k+1 c k r = k r 0, pentru r 1, 2k 2 k r, pentru r 1. k + 1 Observaţia În situaţia precizată de observaţia putem caracteriza viteza de convergenţă astfel: fie relaţia x k+1 x x k x r 0 1.7) dacă există r 1 astfel încât să avem relaţia 1.6), atunci r r 0. Întradevăr, dacă presupunem că r < r 0, atunci x k+1 x x k x r = x k+1 x 1 0 x k x r x k x r 0 r, ceea ce contrazice relaţia 1.7). Dacă avem o relaţie de tipul 1.7), spunem că metoda are o viteză de convergenţă cel puţin de ordinul r 0. Observaţia Dacă putem stabili relaţia ρ 1 x k x r 0 x k+1 x ρ 2 x k x r 0 1.8) şi există relaţia 1.6) atunci se poate arăta ca mai sus că r = r 0 ; dacă avem relaţia 1.8), în acest caz spunem că viteza de convergenţă este r 0 cu toate că s-ar putea să existe relaţia 1.8) dar să nu existe limita din relaţia 1.6) pentru r 0 ). 25

26 Lucrare de licenţă Ion Ionescu 1.4 Ordin de convergenţă în R n Fie { x k)} R n un şir convergent în norma. Definiţia Dacă lim k x k+1) x x k) x r = ρ cu 0 < ρ <, atunci r se numeşte viteza de convergenţă a şirului { x k)}, iar ρ este eroarea asimptotică Q-ordinul de convergenţă Fie şirul { x k)} convergent la x cu x k) x pentru orice k N iar x k+1) := Φ x k)). Ipoteza x k) x este naturală căci dacă x k) = x pentru orice k > k 0, atunci şirul devine constant şi nu se mai pune problema vitezei de convergenţă. În astfel de cazuri spunem că şirul converge într-un număr finit de paşi. Definiţia Fie funcţia Q : [1, ) [0, ) dată de x k+1) x lim sup Qt) := k x k) x t dacă x k) x pentru k k 0 0 dacă x k) = x pentru k k 0 Spunem că Qt) se numeşte Q factori de convergenţă cât. Teorema Fie Qt), Q-factori de convergenţă cât a unui şir { x k)} în raport cu norma atunci are loc una din relaţiile: a) Qt) = 0 pentru t [0, ); b) Qt) = pentru t [1, ); c) q [1, ) astfel încât Qt) = 0 pentru t [1, q) şi Qt) = pentru t [q, ). Demonstraţie. Fie ε k := x k) x. Dacă ε k = 0 pentru k k 0 atunci Qt) = 0 pentru t [1, ) şi are loc cazul a). Dacă ε k > 0 pentru k k 0 şi fie q := inf {t t [1, ), Qt) = }, dacă Qt) < pentru t [1, ), atunci q =. 26

27 Ion Ionescu Lucrare de licenţă Q 1,0) q t Figura 1.1: Funcţia Q Dacă q 1, ) atunci pentru t [1, q) Qt) = 0, întradevăr t 1 t, q) astfel încât Qt 1 ) < şi Qt) = lim sup k ε k+1 ε t ε t1 t 1 k = Qt 1 ) lim ε t 1 t k = 0 k k deci Qt) = 0 atunci când există limită avem limita superioară egală cu limita şirului). atunci pentru t q, ) Qt) =, întradevăr, dacă ar t q, ) pentru care Qt) < atunci fie t 1 [q, t) astfel încât Qt 1 ) = existenţa lui t 1 din definiţia lui q), atunci Qt 1 ) = lim sup k ε k+1 ε t k ε t t 1 k = Qt) lim k ε t t 1 k = 0 ceea ce este absurd Qt) = pentru t q, ). Concluzia teoremei este graficul funcţiei Q : [1, ) R dat de figura 1.1. Lema Într-un spaţiu cu dimensiune finită relaţiile Qt) = 0, 0 < Qt) < şi Qt) = nu depind de normă. Demonstraţie. Fie α şi β două norme pe R n şi Qt) şi Q t) Q factori unui şir { x k)} în cele două norme. Să presupunem că x k) x pentru 27

28 Lucrare de licenţă Ion Ionescu k k 0 în caz contrar Qt) = Q t) = 0 şi lema este demonstrată. Normele în R n sunt echivalente, adică c, d [0, ) astfel încât şi Qt) = lim sup k Q t) = lim sup k c x α x β d x α x R n, x k+1) x α x k) x t α x k+1) x β x k) x t β lim sup k lim sup k d t x k+1) c x β x k) x t β d x k+1) c x α t x k) x t α = dt c Q t) = d c t Qt) de unde c d Qt) t Q t) d c Qt) t atunci Qt) = 0 Q t) = 0 şi Qt) = Q t) =. Definiţia Fie spaţiul real n dimendional R n cu norma şi şirul { x k) } R n convergent la x R n. Fie Qt), Q factori şirului şi q := inf {t t [1, ), Qt) = }, atunci q se numeşte Q ordinul de convergenţă al şirului. Observaţia Fie şirul { x k)} R n convergent la x R n atunci Dacă q=1 convergenţa se numeşte Q liniară; Dacă 1 < q < 2 convergenţa se numeşte Q superliniară; Dacă q=2 convergenţa se numeşte Q pătratică; Dacă q=3 convergenţa se numeşte Q cubică. Observaţia Fie { x k)} şi { y k)} două şiruri convergente la x şi respectiv la y. Fie q, q Q ordinele de convergenţă corespunzătoare, atunci Dacă q < q şirul { y k)} este mai rapid Q convergent decât { x k)} ; Dacă q = q şi t astfel încât Q t) = 0 < Qt) sau Q t) < Qt) = aceste relaţii sunt independente de normă) vom spune că şirul { y k)} este mai rapid Q convergent decât { x k)} ; Dacă q = q şi t astfel încât 0 < Q t) < Qt) < atunci şirul { y k)} este mai rapid Q convergent în normă dar pot exista alte norme în care relaţia să fie inversă. 28

29 Ion Ionescu Lucrare de licenţă R ordinul de convergenţă Fie spaţiul R n cu norma şi şirul { x k)} R n convergent la x R n. Definiţia Fie funcţia R : [1, ) [0, ) definit de lim sup x k) x 1/k pentru t = 1 k Rt) := lim sup x k) x 1/tk pentru t > 1 k Vom spune că Rt) sunt factori de convergenţă rădăcină sau R factori şirului { x k) }. Observaţia Deoarece şirul { x k)} este convergent la x atunci rezultă că k 0 N astfel încât x k) x < 1 pentru k > k0, atunci pentru k k 0 avem 0 Rt) 1 pentru t [1, ). Observaţia R factorii nu depind de normă. Fie normele α, β din R n, atunci ele sunt echivalente adică c, d [0, ) astfel încât c x α x β d x α x R n. Fie şirul {ε k } R şi lim k ε k = 0 atunci şi Rt) = lim sup x k) x ε k lim sup α k k = lim sup k R t) = lim sup x k) x ε k β k 1 c ε k lim sup k = lim sup k x k) x ε k β x k) x ε k = β R t) t [1, ) d ε k x k) x ε k α x k) x ε k α = Rt) t [1, ) deci Rt) R t) şi R t) Rt) pentru t [1, ) rezultă că Rt) = R t) pentru t [1, ). Teorema Fie Rt) R factori şirului { x k)} R n convergent la x R n, atunci are loc unul din cazurile: a) Rt)=0 pentru t [1, ); b) Rt)=1 pentru t [1, ); 29

30 Lucrare de licenţă Ion Ionescu R 1 1,0) r t Figura 1.2: Funcţia R c) r [1, ) astfel încât Rt)=0 pentru t [1, r) şi Rt)=1 pentru t [r, ). Demonstraţie. Notăm cu α kt := { 1/k pentru t = 1 1/t k pentru t > 1 şi fie r := inf {t t [1, ), Rt) = 1}. Fie r [1, ) şi t [1, r) fixat vom arăta că dacă Rt) = 0, atunci t 1 t, r) astfel încât Rt 1 ) < 1. Notăm cu ε k := x k) x, atunci Rt) = lim sup ε α kt k k = lim sup k α ε kt1 ) α kt α kt1 k α = lim ε kt1 ) α kt α kt1 k = 0. k Fie r [1, ) şi t [r, ) fixat, vom arăta că Rt) = 1. Să presupunem contrariu adică că Rt) < 1, deci t 1 r, t) astfel încât Rt 1 ) = 1, atunci 1 = Rt) = lim sup ε α kt 1 k k = lim sup ε α α kt1 kt α k ) kt k α kt1 lim sup = Rt) k α kt = Rt) lim α kt1 k α kt = 0, ceea ce este absurd, rezultă că Rt) = 1 pentru t r, ). Definiţia Numărul r dat de r = {t t [1, ), Rt) = 1} se numeşte R ordinul de convergenţă al şirului { x k)} convergent la x. 30

31 Ion Ionescu Lucrare de licenţă Relaţii între ordine de convergenţă Relaţia între R ordinul de convergenţă şi Q ordinul de convergenţă este dată de următoarele teoreme: Teorema Fie şirul { x k)} convergent la x atunci R1) Q1). Demonstraţie. Dacă Q1) = atunci inegalitatea este demonstrată. Dacă Q1) < atunci fie ε > 0 oarecare. Atunci k 0 N astfel încât ε k+1 Q1) + ε ) ε k pentru k k 0, dacă notăm cu α = Q1) + ε atunci avem relaţia ε k+1 α ε k pentru k k 0. Din considerentele de mai sus putem scrie de unde În concluzie deoarece ε k0 /α k 0 ε k α ε k 1 α 2 ε k 2... α k k0 ε k0, R1) = lim sup k ceea ce era de demonstrat. ε k ) 1/k εk0 ) 1/k α α k 0. ε k ) 1/k εk0 ) 1/k α lim sup k α k 0 = α, este o contantă, adică R1) Q1) + ε, Teorema Fie şirul { x k)} R n şi convergent la x atunci q r. Demonstraţie. Dacă q = 1 atunci relaţia este evidentă pentru că r 1. Dacă q > 1, atunci fie t [1, q). Vom arăta că Rt) = 0 adică r q). Vezi figura 1.3. Notăm cu ε k = x k x. Pentru t [1, q) rezultă Qt) = 0. Fie α > 0, atunci k 0 astfel încât ε k+1 < αε t k pentru k > k 0. Fie α aşa ales astfel încât α 1/t 1) ε k0 < 1, atunci avem Qt) = lim sup k ε k+1 ε t k < α de unde rezultă că Qt) = 0. Atunci avem succesiunea de inegalităţi ε k0 +1 αε t k 0 ε k0 +2 αε t k 0 +1 = αα t ε t2 k 0 = α t+1 ε t2 k 0 ε k0 +3 αε t k 0 +2 = αα t+1)t ε t3 k 0 = α t2 +t+1 ε t3 k 0. ε k0 +k αε t k 0 +k 1 =... = α tk 1 +t k ε tk k 0. 31

32 Lucrare de licenţă Ion Ionescu Q,R Q 1 1, 0) q ) R ) r t Figura 1.3: Funcţia R şi Q Ultima inegalitate se ridică la puterea 1/t k şi rezultă ε k0 +k) 1 t k α 1 t + 1 t t k ε k0 lim k α 1 t + 1 t t k ε k0 = α 1 t 1 εk0 < 1. Cantitatea α 1 t 1 εk0 < 1 este un număr ce nu depinde de k. Atunci avem Rt) = lim ε k0 k +k) 1 t k = α 1 t 1 εk0 < 1, de unde rezultă că Rt) = 0 pentru t [1, q). Dacă Rt) = 0, atunci t q astfel încât Rt) = 1 de unde rezultă că r q pentru că r = inf {t t [1, ), Rt) = 1}. Teorema Fie şirul { x k)} R n, convergent la x. Presupunem că există x k+1) x lim k x k) x p = ρ, unde 0 < ρ <, atunci q = r = p. Demonstraţie. Notăm cu ε k = x k) x. Dacă Qp) = lim sup k ε k+1 ε p k = lim k ε k+1 ε p k = ρ, atunci conform teoremei 1.4.1, Qt) = 0 pentru t [1, p) şi Qt) = pentru t p, ), rezultă că q = inf {t t 1, ), Qt) = } = p, adică q = p. Dacă există ε k+1 lim k ε p = ρ, k 32

33 Ion Ionescu Lucrare de licenţă cu 0 < ρ <, atunci rezultă că k 0 N astfel încât pentru k k 0, de unde avem ε k+1 ρε p k şi ρp 1)/p ε p k 0 < 1 ε k0 +1 ρ ε k0 ε k0 +2 ρ ε p k 0 +1 ρp+1 ε p k 0 ε k0 +3 ρ ε p k 0 +2 ρ ρp+1 ε p2 k 0 = ρ p2 +p+1 ε p3 k 0. ε k0 +k+1 ρ ε p k 0 +k... = ρpk +p k ε pk+1 k 0 Ridicăm la puterea 1/p k ultima inegalitate, atunci atunci ε k0 +k+1) 1 p k ρ 1+ 1 p p k 1 Rp) = lim sup εk0 p +k+1) k k ε p k 0 lim ε p 1 k 0 = ρ k ρ 1 1 p k+1 1 p) ε p k 0, 1 1 p k p) ρ p 1 p ε p k 0 < 1, dar conform teoremei avem situaţia c) din teoremă, atunci rezultă că r = inf {t t [1, ), Rt) = 1} = p, adică r = p. Cu aceasta s-a demonstrat că q = r = p. Definiţia Fie un şir { x k)} R n convergent la x R n şi există p real, p 1 şi ρ, 0 < ρ < astfel încât x k+1) x lim k x k) x p = ρ. Numărul real pozitiv ρ se numeşte eroarea asimptotică a metodei ce generează şirul { x k)}. 33

34 Capitolul 2 Metode numerice pentru ecuaţii neliniare în R n Fie spaţiul liniar R n cu n N, n 2. Vom considera metode numerice pentru rezolvarea ecuaţiei neliniare F x) = 0, unde F : D R n R n. 2.1 Metoda Newton Construcţia metodei Newton În teorema de medie fie y x şi x x k), atunci teorema devine ) F x k) F x) F x k)) x x k)) L x x k) 2. 2 Dacă x şi x k) sunt apropiate de x, soluţia ecuaţiei F x) = 0, atunci F x) F x k)) F x k)) x x k)) = 0 sau F x) = F x k)) + F x k)) x x k)). În locul ecuaţiei F x) = 0 putem considera ecuaţia F x k)) + F x k)) x x k)) = 0. Rezolvăm această ecuaţie. Egalitatea F x k)) x x k)) = F x k)) este echivalentă cu x x k) = F x k)) 1 ) F x k), 34

35 Ion Ionescu Lucrare de licenţă de unde rezultă că x = x k) F x k)) 1 F x k) ). În final rezultă formulele iterative pentru metoda Newton pentru o ecuaţie neliniară din R n. Convenim ca în cele ce urmează să notăm cu Γx) funcţia F x) 1 şi cu N x) operatorul Newton dat de produsul Γx)F x). x k+1) := x k) Γ x k)) F x k)) = x k) N x k)) 2.1) cu k = 0, 1,... şi x 0) R n dat. Ca şi în cazul unidimensional putem avea metoda Newton simplificată x k+1) := x k) Γ x 0)) F x k)), cu k = 0, 1,... şi x 0) R n dat, şi metoda liniilor paralele x k+1) := x k) A F x k)), unde A Γ x pk))), cu k = 0, 1,... şi x 0) R n dat. Determinarea matricii A din pk) în pk + 1) paşi este o problemă Convergenţa metodei Newton Pentru demonstrarea convergenţei metodei Newton în R n vom apela la teorema lui Kantorovich, rezultat fundamental în analiza numerică. Kantorovich a demonstrat în anul 1948 în lucrarea [21] convergenţa pătratică a metodei Newton în spaţii Banach. Un rezultat recent al autorilor Ezquerro şi Hernández, [16], generalizează condiţiile de converenţă ale teoremei Kantorovich. Hernández şi Rubio în articolul [19] studiază aplicabilitatea metodei Newton pentru o ecuaţie operatorială neliniară, F x) = 0 unde operatorul F este nediferenţiabil. Teorema Kantorovich 1948). Fie F : D R n R n o aplicaţie diferenţiabilă Fréchet pe mulţimea D 0 D şi x 0) D 0. Dacă avem îndeplinite condiţiile: 1. Există Γ 0 = Γ x 0)) = F x 0)) 1 şi Γ0 β 0, 2. F y) F x) γ y x pentru x, y D 0, 3. Γ0 F x 0)) = N x 0) ) η0, 4. α 0 = β 0 γη 0 1 2, 35

36 Lucrare de licenţă Ion Ionescu 5. S 0 = S x 0), r 0 ) D0 unde r 0 = 1 1 2α 0 ) η0 /α 0, atunci ecuaţia F x) = 0 are o unică soluţie x D 0 iar şirul { x k)} generat de metoda Newton 2.1) cu iteraţia iniţială x 0) converge la x iar eroarea a priori a metodei este dată de relaţia x x k) 2 1 k 2α 0 ) 2k 1 η 0. Demonstraţie. Să arătăm că η 0 < r 0 2η 0. Aceasta este echivalent cu η 0 < 1 1 2α 0 α 0 η 0 2η 0, dar η 0 /α 0 > 0 deci putem împărţi relaţia cu η 0 /α 0, fără să schimbăm sensul relaţiilor, deci α 0 < 1 1 2α 0 2α 0 α 0 1 < 1 2α 0 2α 0 1. După îmulţirea cu 1 avem relaţia echivalentă, 1 α 0 > 1 2α 0 1 2α 0, unde 1 α 0 > 0 şi 1 2α 0 0, deci putem ridica relaţia la pătrat şi avem relaţia echivalentă 1 α 0 ) 2 > 1 2α 0 1 2α 0 ) 2. Această relaţie este la rândul ei echivalentă cu α0 2 > 0 > 4α0 2 2α 0. Dar α0 2 > 0 este evidentă iar 4α0 2 2α 0 0. Această ultimă relaţie este echivalentă cu 2α 0 2α 0 1) 0 care este la rândul ei este echivalentă cu 2α adică α 0 1/2. Deci relaţia 4 din ipoteza teoremei, α 0 1/2, este echivalentă cu relaţia η 0 < r 0 2η 0. Avem x 1) x 0) = N x 0) ) η0 < r 0 de unde rezultă că x 1) S 0 D 0. F x 1)) F x 0)) γ x 1) x 0) γη0 deoarece avem, condiţia globală, că funcţia F este Lipschitz continuă pe D 0. Din relaţia 1 din ipoteza teoremei rezultă că există Γ 0 şi Γ 0 β 0 iar β 0 γη 0 = α 0 1/2 < 1. Din ultimele două aliniate, conform lemei 1.1.7, de perturbare a lui John von Neumann, rezultă că există Γ 1 = Γ x 1)) şi Γ 1 β 0 1 β 0 γη 0 = β 0 1 α 0 = β 1, 2.2) unde s-a notat cu β 1 expresia β 0 /1 α 0 ). Deoarece F y) F x) γ y x pentru x, y D 0, adică condiţia de Lipschitz continuă a funcţiei F pe D 0 condiţie globală pe D 0 ), atunci avem că I Γ0 F x 1)) [ = Γ0 F x 0)) F x 1))] Γ 0 F x 0)) F x 1)) β 0 γ x 0) x 1) β 0 γη 0 = α < ) 36

37 Ion Ionescu Lucrare de licenţă Deoarece ρa) A pentru A M n,n R) rezultă că, deoarece ρ I Γ 0 F x 1))) 1 2 < 1, atunci, conform lemei 1.1.6, avem că există [ I I + Γ 0 F x 1))] 1, adică există [ Γ 0 F x 1))] 1 ) = Γ x 1) F x 0)) = Γ 1 F x 0)), deci există Γ 1 şi avem Γ 1 F x 0)) [ = I Γ0 F x 1))] k. k=0 În relaţia de mai sus s-a aplicat proprietatea A B) 1 = B 1 A 1, adevărată pentru A, B LR n, R n ). Această relaţie o înmulţim la dreapta cu vectorul Γ 0 F x 1)) şi rezultă Γ 1 F x 1)) = N [ x k)) = I Γ0 F ] x 1))) k Γ 0 F x 1)). k=0 În ultima relaţie aplicăm norma şi majorăm ) [ N x 1) I Γ0 F ] x 1)) k Γ0 F x 1)) k=0 = k=0 În concluzie avem inegalitatea α k 0 ) Γ0 F x 1)) = 1 1 α 0 Γ0 F x 1)). N x 1) ) 1 1 α 0 Γ0 F x 1)). 2.4) Considerăm aplicaţia Gx) = x Γ 0 F x). Derivata Fréchet a aplicaţie G este G x) = I Γ 0 F x) pentru că Γ 0 este o matrice constantă. De unde rezultă că G x 0)) = 0. Acum putem scrie G x 1)) G x 0)) = x 1) Γ 0 F x 1)) [ x 0) N x 0))] = x 1) Γ 0 F x 1)) x 1) = Γ 0 F x 1)) Acum rezultă egalitatea G x 1)) G x 0)) G x 0)) x 1) x 0)) = Γ 0 F x 1)), 2.5) 37

38 Lucrare de licenţă Ion Ionescu unde s-a ţinut cont că G x 0)) = 0. Să arătăm că aplicaţia G este Lipschitz continuă. G y) G x) = I Γ 0 F y) I + Γ 0 F x) Γ 0 F y) F x) = β 0 γ y x. Deoarece β 0 γ < 1 rezultă că aplicaţia G este Lipschitz continuă. aplicăm teorema de medie pentru funcţia G în egalitatea 2.5). Γ0 F x 1)) = G x 1) ) G x 0)) G x 0)) x 1) x 0)) Din relaţia 2.4) şi 2.5) rezultă Facem notaţia atunci avem îndeplinită condiţia β 0γ 2 N x 1) ) 1 1 α 0 α0 2 η 0. η 1 = 1 1 α 0 α0 2 η 0, x 1) x 0) 2 β 0γη Acum = α 0 2 η 0 N x 1) ) η1, 2.6) condiţie similară cu condiţia 3 din ipoteza teoremei. Notăm cu α 1 = β 1 γη 1 = β 0γ α 0 η 0 1 α 0 21 α 0 ) = β 0γη 0 )α 0 1 α 0 ) = 1 ) 2 α α 0 Fie funcţia g : 0, 1/2] 0, 1], gx) = [x/1 x)] 2 care este crescătoare pe 0, 1/2], pentru că g x) = 2x/1 x) 3 > 0 pentru x 0, 1/2], atunci funcţia g atinge valoarea maximă în x = 1/2 iar g1/2) = 1 vezi figura 2.1). Valoarea lui α 1 este α 1 = β 1 γη 1 = 1 2 α0 1 α 0 ) ) Considerăm sfera S 1 = S x 1), r 1 ) = { x x x 1) r1, x R n} 38

39 Ion Ionescu Lucrare de licenţă Figura 2.1: Funcţia gx) unde r 1 = 1 1 2α 1 ) η1 /α 1. Să remarcăm că r 1 = 1 1 α0 1 α0 2 1 α 0 ) 2 1 α 0 ) 2 α 0 η 0 21 α 0 ) = 1 1 2α0 1 α 0 ) 2 α 0 η 0 1 α 0 = 1 1 2α 0 α 0 η 0 η 0 = r 0 η 0. Să arătăm că S 1 S 0 = S x 0), r 0 ) = { x x x 0) r0, x R n}. Sfera S 1 este mulţimea { x x x 1) r1 = r 0 η 0, x R n}, atunci x x 0) = x x 1) + x 1) x 0) x x 1) + x 1) x 0) r 0 η 0 + η 0 = r 0, de unde rezultă că Recapitulăm notaţiile S 1 S 0 D ) β 1 = β 0 1 α 0, η 1 = α 0 21 α 0 ) η 0, α 1 = β 1 γη 1, r 1 = 1 În relaţiile 2.2), 2.6), 2.7) şi 2.8) s-a dovedit că 1. Γ 1 = Γ x 1)) şi Γ 1 β 1, 3. N x 1) ) η1, α1 α 1 η 1.

40 Lucrare de licenţă Ion Ionescu 4. α 1 = β 1 γη 1 1/2, 5. S 1 S 0 D 0. Acest set de condiţii alături de condiţia globală 2 este un set similar cu condiţiile din ipoteza teoremei. Dacă notăm cu β k = β k 1 α k 1, η k = 1 α k 1 21 α k 1 ) η k 1, α k = β k γη k, r k = 1 1 2αk η k, α k atunci în mod analog se poate arăta că 1 k. Γ k = Γ x k)) şi Γ k β k, 3 k. N x k) ) ηk, 4 k. α k = β k γη k 1/2, 5 k. S k S k 1 S k 2... D 0. Considerăm relaţia de recurenţă a lui α şi inegalitatea 4 k de unde αk 1 1 α k 1 α k = 1 2 αk 1 1 α k 1 ) ) 2 2α k 1) 2 α k 1 1 α k 1 2α k 1 α k 1 2α k 1 2α 2 k 1. Această ultimă inegalitate este echivalentă cu inegalitatea 2α 2 k 1 α k 1 0 şi aceasta la rândul ei cu inegalitatea α k 1 2α k 1 1) 0. Pentru că α k 1 > 0 şi α k 1 1/2 rezultă că α k = 1 2 αk 1 1 α k 1 Acum putem scrie şirul de inegalităţi ) α k 1) 2. 2α k 2α k 1 ) 2 2α k 2 ) α 0 ) 2k k N. 2.9) De asemenea avem η k = α k 1 η k 1 /[21 α k 1 )] α k 1 η k 1, atunci putem scrie şirul de inegalităţi ca în relaţia de mai sus η k α k 1 η k 1 α k 1 α k 2 η k 2... α k 1 α k 2... α 0 η ) 40

41 Ion Ionescu Lucrare de licenţă Din relaţiile 2.9) şi 2.10) rezultă inegalitatea adică η k 2 1 2α 0 ) 2k α 0 ) 2k α 0 ) 20 η 0 = 2 k 2α 0 ) 2k 1 η 0 η k 2 k 2α 0 ) 2k 1 η ) Deoarece α 0 1/2 rezultă că lim k η k = 0. De asemenea avem inegalitatea r k 2η k pentru k N, aceasta se demonstrează în mod analog ca inegalităţile η 0 r 0 2η 0, deja dovedită mai sus. Atunci rezultă că lim k r k = 0. Atunci evident avem şirul de incluziuni S 0 S 1... S k... deci rezultă că exită un unic x S k pentru k N astfel încât lim k xk) = x. Să arătăm că x este soluţia ecuaţiei F x) = 0. Deoarece aplicaţia F este diferenţiabilă Fréchet pe D 0 rezultă că F este mărginită pe o mulţime Ω D 0 unde D 0 este mărginită dacă D 0 este o sferă atunci D 0 ar fi chiar un compact) deci Ω este mărginită, atunci fie Să majorăm pe F x k) ) M = max x Ω F x). F x k) ) = F x k)) Γ x k)) F x k)) M N x k) ) Mηk, atunci trecem la limită în această majorare lim k ) F x k) = lim F x k)) ) F = lim k k xk) = F x ) lim k Mη k = 0. Deoarece norma este o cantitate pozitivă sau nulă rezultă că F x ) = 0, iar din proprietăţiile normei avem că F x ) = 0 F x ) = 0. Să evaluăm eroarea a priori din faptul că x S k şi din relaţia 2.11), relaţii adevărate pentru orice k N, atunci avem x k) x rk 2η k 2 1 k 2α 0 ) 2k 1 η 0. Cu aceasta demonstraţia este încheiată. 41

42 Lucrare de licenţă Ion Ionescu Programe pentru metoda Newton Programele Mathcad pentru metoda Newton sunt prezentate în această secţiune. Fie cazul bidimensional. Pentru exemplificare considerăm sistemul neliniar { x 3 1 x 2 = 25, x 1 x ) 2 = 5. Atunci în Mathcad, [10], facem următoarele definiri ORIGIN := 1 f 1 x) := x 3 1 x 2 25 f 2 x) := x 1 x F x) := f1 x) f 2 x) ). Jacobianul funcţiei F, adică F x), se poate calcula cu ajutorul calculului simbolic. Atunci matricea Jx) este Definim operatorii ) 3x 2 Jx) := x 2. 2 Γx) := Jx) 1 şi N x) := Γx) F x). Programul Parametri de intrare în programul pentru metoda Newton sunt: vectorul iniţial x şi ε precizia impusă aproximaţiei obţinută prin program. Newtonx, ε) := z x T while N x) ε x x N x)) z stack z, x T) return z Exemplul Apelul programului Newton pentru iteraţia iniţială x := )

43 Ion Ionescu Lucrare de licenţă este Newton x, 10 14) = Convergenţa pătratică a metodei Newton, în acest caz, are loc numai de la pasul al 18-lea din cei 23 de paşi. Acest lucru se datorează alegeri nefericite a iteraţiei iniţiale Alegerea iteraţiei iniţiale Alegerea optimă a iteraţiei iniţiale se face pe baza condiţiilor impuse de teorema de convergenţă globală a lui Kantorovich. Fie ecuaţia neliniară 2.12). Definim un domeniu convex D 0 = {x a x b, x R 2 } care să conţină numai soluţia ce dorim s-o aproximăm cu metoda Newton. Această acţiune se numeşte separarea soluţiilor ecuaţiei F x) = 0. În Mathcad definim cei doi vectori a := 1 0 ) şi b := 5 4 care definesc pe D 0. O altă posibilitate este să definim o sferă prin precizarea centrului sferei şi a razei sale. Cu ajutorul problemei de programare neliniare Ju) Jv) max u v u, v D 0 determină constanta Lipschitz pentru operatorul J relativ la domeniul D 0. Fie funcţia obiectiv ) γu, v) := norme Ju) Jv) ) 43 u v,,

44 Lucrare de licenţă Ion Ionescu unde norme este funcţia Mathcad ce calculează norma euclidiană a matricii iar modulul vectorului este norma ecuclidiană a vectorului. Fie doi vectori iniţiali, u D 0 şi v D 0, de exemplu u := a şi v := b. În Mathcad după ce au fost definite funcţia obiectiv şi valorile iniţiale pentru necunoscute, într-un spaţiu ecuaţie se definesc retricţiile. Spaţiu ecuaţie este regiunea dintre cuvintele cheie Given şi Minimize sau Maximize. Atunci problema de programare neliniară este ) µ Given a u b a v b := Maximizeκ, u, v). ω Valorea funcţiei obiectiv în soluţiile optime µ şi ω este constanta Lipschitz căutată. γ := γµ, ω) γ = Fie vectorul iniţial x := 1, 0) T. Prima condiţie din teorema lui Kantorovich se verifică prin calcul direct. Există Γx). Γx) = Definim celelalte funcţii ce depind de x, vectorul iniţial. Fie funcţia: βx) := norme Γx) ) ηx) := N x) αx) := γ βx) ηx). rx) := ) αx) ) ηx) αx) Problema de programare neliniară ce determină cea mai mare sferă de convergenţă pătratică pentru metoda Newtonín domeniul D 0 este max rx) αx) < 1. 2 x D 0 Transpunera acestei probleme în Mathcad este:.. Given αx) < 1 2 a x b s := Maximizer, x). 44

45 Ion Ionescu Lucrare de licenţă Soluţia optimă a problemei este iteraţia de start pentru metoda Newton şi centru sferei de convergenţă pătratică ) s = Raza sferei de convergenţă pătratică este rs) = Apelul programului Newton cu această iteraţie de start este Newton s, 10 14) = Bazinul de atraţie pentru metoda Newton Bazinul de atracţie depinde de metoda iterativă şi de ecuaţia considerată. Reprezentarea grafică a bazinelor de atracţie se poate realiza cu ajutorul funcţiilor grafice din Mathcad [10]. O reprezentare intuitivă se obţine în R 2. Dăcă se doreşte realizarea unor bazine de atracţie pentru ecuaţii din R 3, de exemplu, din bazinul de atracţie care este tridimensional vom putea vizualiza doar secţiuni prin acest bazin. Pentru exemplificare vom considera sistemul neliniar din R ). Se face definirea funcţiilor f 1, f 2, F x) şi a matricii Jx) ca în secţiunea Programe pentru metoda Newton. În plus se mai fac următoarele definiri: a := 8 b := 12 m := 1000 h := b a m unde prin a şi b se precizează segmentul [a, b] de pe axa x 1. Prin m se indică numărul de diviziuni de pe segmentul [a, b] iar h este lungimea diviziuni. Pentru axa x 2 facem definiri analoage c := 10 d := 10 n := 1000 q := d c n unde prin c şi d se precizează segmentul [c, d] de pe axa x 2. Prin n se indică numărul de diviziuni de pe segmentul [c, d] iar q este lungimea diviziuni. Mai definim două variabile kmax := 15 ε := 0.001, 45

46 Lucrare de licenţă Ion Ionescu cu următoarea semnificaţie. Variabila kmax reprezintă numărul maxim de iteraţii pe care îl impunem metodei. Dacă metoda numerică,,nu reuseşte în kmax paşi să determine o soluţie cu precizia ε, atunci considerăm că metoda nu converge şi oprim algoritmul. Programul prezentat în această secţiune va returna pentru fiecare punct iniţial de coordonate a + lh, c + jq), punct identificat prin indicii l şi j, numărul de iteraţii k, unde 0 k kmax. Aceste valori k vor fi elementele matricii B, care va avea m + 1 linii şi n + 1 coloane. Programul Programul are ca parametri de intrare indicii l şi j. Nl, j) := x a + l h c + j q) T return kmax on error δ Jx) 1 F x) return kmax on error µ δ k 0 while µ ε) k < kmax) x x δ k k + 1 return kmax on error δ Jx) 1 F x) return kmax on error µ δ return k Matricea B se generează cu ajutorul funcţiei Mathcad matrixn, m, N), unde N este numele programului ce aplică metoda Newton B := matrixm, n, N). Cu ajutorul regiunii grafice Mathcad CountourP lot, ce va avea ca argument matricea B, se va realiza graficul bazinului de atracţie folosind reprezentarea cu linii de nivel vezi în Anexa 1 figura 3.1). Graficul a fost colorat cu convenţia topografică prin care se realizează hărţile geografice. 2.2 Metoda secantei şi metoda Steffensen Metoda secantei Metoda secantei în cazul n-dimensinal se poate obţine pe două căi. Prima cale constă în liniarizarea ecuaţiei F x) = 0. Vom face aproximarea F x) A x + a 46

47 Ion Ionescu Lucrare de licenţă unde A LR n, R n ) şi a R n. Determinarea elementelor matricii A şi a componentelor vectorului a, adică a nn + 1) necunoscute, se poate face cunoscând n + 1 vectori iniţiali, x 0), x 1),... x n), unde x k) R n, k = 0, 1,..., n. Vom scrie A x k) + a = F x k)), k = 0, 1,..., n. Elementele lui A, respectiv componentele lui a rezultă dintr-un sistem liniar de nn+1) ecuaţii cu nn+1) necunoscute. Ecuaţia F x) = 0, o vom înlocui cu ecuaţia liniară A x + a = 0, a cărei soluţie x o vom considera iteraţie următoare x n+1). Procesul se continuă lunând în considerare vectori inţiali x 1), x 2),... x n+1). Se observă că pentru fiecare iteraţie se utilizează n + 1 iteraţii precedente şi că la fiecare pas trebuie rezolvate două sisteme liniare, unul cu nn + 1) ecuaţii iar celălalt cu n ecuaţii. Exemplul Fie funcţia neliniară F : R 2 R 2 ) x F x) = 2 1 x 2 2x 1 + x 1 x 2 3 şi matricea x x = unde fiecare coloană reprezintă vectori iniţiali x 0), x 1) şi x 2). Sistemul liniar, care permite determinarea componentelor A 11, A 12, A 21 şi A 22 ale maticii A şi elementele a 1 şi a 2 ale vectorului a, este A A A = A a a

48 Lucrare de licenţă Ion Ionescu Soluţia acestui sistem liniar este A 11 A 12 A = = A 21 A a = a 1 a 2 = Dacă rezolvăm sistemul linear A x 3) + a = 0 rezultă soluţia ) x 3) = = Matricea x care conţine iteraţiile rezultate prin metoda secantei este x = Procesul se reia de la început folosind vectori iniţiali x 1), x 2) şi x 3). După aplicarea acestui pas rezultă ) x 4) = Să remarcăm că soluţia ecuaţiei F x) = 0 este x = 1, 1) T. A doua cale constă în discretizarea metodei Newton, prin înlocuirea derivatelor parţiale cu diferenţe divizate de ordinul întâi Construcţia metodei secantei şi a metodei Steffensen Fie F : D R n R n un operator neliniar, h R n un element oarecare şi e j, j I n versorii axelor de coordonate e 1 = 1, 0,..., 0), e 2 = 0, 1, 0,..., 0),..., e n = 0, 0,..., 1). În metoda Newton dată de formula 2.1) vom lua componentele derivatei Fréchet după cum urmează f k f k x + h j e j ) f k x) = lim x j hj 0 h j 48 f kx + h j e j ) f k x) h j..

49 Ion Ionescu Lucrare de licenţă Derivata Fréchet F x) este aproximată de matricea Jx, h). Jx, h) = f 1 x + h 1 e 1 ) f 1 x) h f n x + h 1 e 1 ) f n x) h 1... f 1 x + h n e n ) f 1 x) h n. f n x + h n e n ) f n x) h n 2.13) Vom alege vectorul h diferit la fiecare iteraţie vom nota valorile succesive ale lui h cu h k) ) şi astfel încât h k) 0 când k. Astfel dacă h k) = x k+1) x k), se obţine x k+1) := x k) J x k), x k+1) x k)) 1 F x k) ), metoda secantei în doi paşi, [22], deoarece la fiecare iteraţie este nevoie de două iteraţii precedente. Metoda a fost considerată pentru prima dată sub aceată formă de Korganoff în anul Dacă h k) = F x k)), se obţine metoda x k+1) := x k) J x k), F x k))) 1 F x k) ), numită metoda Steffensen. Metoda a fost considerată pentru prima dată de Wegge în articolul [35]. O bogată bibliografie la această temă se găseşte în monografia lui Janko [20] Convergenţa metodelor secantei şi Steffensen Forma generală a unei metode cu mai mulţi paşi p paşi p N, p 1) este x k+1) := G x k), x k 1),..., x k p+1)). O formă particulară a acestei metode este x k+1) := G x k), h k)), h k) = g k x k), x k 1),..., x k p+1)), unde G : D D h R n R n R n şi g k : D k R n) p Dh R n. Putem lua pentru h k) un anumit şir din R n şi metoda devine x k+1) := G x k), h k)). 2.14) 49

50 Lucrare de licenţă Ion Ionescu Lema Fie G : D D h R n R n R n un operator neliniar şi x D. Presupunem că există o constantă α < 1 astfel încât Gx, h) x α x x, x S, h D h, unde S = S x, r) D şi D h D. Atunci pentru orice şir { h k)} D { } h şirul x k) dat 2.14) aparţine lui S şi converge la x. În plus R1) Q1) α. Demonstraţie. Avem x k) x = G x k 1), h k 1)) x α x k 1) x α k x 0) x, deci şirul { x k)} S şi x k) x, când k. Partea a doua a lemei rezultă direct din definiţia 1.4.2, a lui Q1) şi teorema Vom considera în continuare metoda mai generală x k+1) := x k) J x k), h k)) 1 F x k) ), 2.15) unde J : R n R n L R n) este un anumit operator neliniar nu neapărat de forma 2.13) ) iar { h k)} un şir din R n. Se vede că metoda secantei cu doi paşi şi metoda Steffensen sunt cazuri particulare ale metodei 2.15). În cazul în care operatorul J este dat de 2.13), Jx, h) tinde la F x) când h 0. Această observaţie conduce la următoarea definiţie: Definiţia Fie F : D R n R n diferenţiabil Gâteaux pe D 0 D şi fie J : D j D h R n R n L R n). Operatorul J se numeşte o aproximare consistentă a lui F pe D 0 D j dacă zero este punct limită pentru D h şi lim Jx, h) = F x) uniform pe D 0. h 0 h D h Se vede că, dacă F este continuu diferenţiabil pe D 0, atunci operatorul J dat de 2.13) este o aproximaţie consistentă a lui F. Lema Fie F : D R n R n diferenţiabil Gâteaux pe o vecinătate S 0 D a lui x, soluţie a ecuaţiei F x) = 0. Presupunem că F este continuu în x şi că F x ) este nesingulară. Fie J : R n R n L R n) o aproximare consistentă a lui F pe S 0. Atunci există, constantele reale, δ > 0 şi r > 0 astfel încât funcţia G : S 0 R n dată de Gx, h) = x Jx, h) 1 F x) este definită pentru x S = S x, δ), h D h = D h S 0, r) şi Gx, h) x ωx, h) x x, x S, h D h, unde ωx, h) 0 pentru x x şi h 0. 50

51 Ion Ionescu Lucrare de licenţă Demonstraţie. Notăm cu β = F x ) 1 şi fie 0 < ε < 2β) 1. Deoarece J este o aproximare consistentă a lui F pe S 0, există un număr real r > 0 astfel încât D h = D h S 0, r) este nevidă şi Jx, h) F x) ε 2, x S 0, h D h. F fiind continuu în x, rezultă că există o constantă reală δ > 0 astfel încât S = S x, δ) S 0 şi Aşadar F x) F x ) ε 2, x S. Jx, h) F x ) Jx, h) F x) + F x) F x ) ε pentru x S, h D h. Din lema rezultă că există Jx, h) 1 şi satisface relaţia Jx, h) 1 β η = 1 βε x S, h D h. Astfel, G este definit pe S D h şi Gx, h) x = Jx, h) 1 [Jx, h)x x ) F x)] η Jx, h)x x ) F x) η Jx, h) F x) + F x) F x ) ) x x Relaţia din lemă are loc cu ωx, h) = η Jx, h) F x) + η F x) F x ) + η F x) F x ) F x ) x x ). + η F x) F x ) F x ) x x ) x x Acum, deoarece F există şi este continuu în x iar J este o aproximaţie consistentă a lui F, rezultă că ωx, h) 0, dacă x x şi h 0. O aplicaţie imediată a acestei leme este următorul rezultat asupra convergenţei metodei 2.15). Teorema Fie F şi J ca în lema Atunci există o sferă S = S x, δ 1 ) S 0 şi un număr real r 1 > 0 astfel încât pentru orice x 0) S şi pentru orice şir { h k)} D h S 0, r 1 ), şirul { x k)} dat de 2.15) aparţine lui S şi converge la x. Mai mult, dacă h k) 0 când k, atunci R1) = Q1) =

52 Lucrare de licenţă Ion Ionescu Demonstraţie. Fie δ şi r ca în lema Deoarece ωx, h) 0, putem determina un δ 1 δ şi un r 1 r astfel încât ωx, h) α < 1, x S x, δ 1 ), h D h S 0, r 1 ). Existenţa şirului rezultă din lema iar convergenţa lui la x din lema Tot din lema rezultă R1) Q1) α şi cum α este arbitar, obţinem R1) = Q1) = 0. Din această teoremă rezultă imediat convergenţa locală a metodei secantei în doi paşi şi a metodei Steffensen. Mai mult, dacă F este continuă Lipschitz pe D iar J este o aproximaţie strict consistentă, adică F x) Jx, h) c h, x D 0, h D h S 0, r), atunci se poate arăta că r q 2 pentru metoda Steffensen şi r 1 + 5)/2, pentru metoda secantei în doi paşi [26] Programe pentru metoda secantei În cele ce urmează prezentăm programele Mathcad pentru metoda secantei. Fie cazul bidimensional, adică n = 2 şi sistemul neliniar 2.12). Atunci în Mathcad, [10], facem următoarele definiri: ORIGIN := 1 n := 2 f 1 x) := x 1 ) 2 x 2 f 2 x) := x 1 x 2 + 1) 2, [ ] f1 x) F x) :=. f 2 x) Jacobianul funcţiei F, adică F x), definit cu ajutorul diferenţelor divizate este: )] )] h1 0 f 1 [x + f 0 1 x) f 1 [x + f h 1 x) 2 Jx, h) := h 1 h )] 2 )] h1 0 f 2 [x + f 0 2 x) f 2 [x + f 2 x) h 1 h 2 h ) Programul Parametri de intrare în programul Secanta sunt: vectori iniţiali y şi x, parametrul r ce defineşte norma folosită şi ε precizia impusă aproximaţie soluţiei obţinută prin program. 52

53 Ion Ionescu Lucrare de licenţă Secantay, x, r, ε) := h y x δ nor, F x)) while δ ε break if Jx, h) =0 return x on error h Jx, h) 1 F x) x x h δ nor, F x)) return x Exemplul Apelul programului Mathcad Secanta în norma euclidiană adică r = 2) este [ 0 Secanta 0 ) 5, 3 ) ] 1, 2, = 1 ), sau în norma 1 adică r = 1) [ 0 Secanta 0 ) 5, 3 ) ] 1, 1, = 1 ) Programe pentru metoda Steffensen Prezentăm programele Mathcad pentru metoda Steffensen. Fie cazul bidimensional, adică n = 2 şi sistemul neliniar 2.12). Atunci în Mathcad, [10], facem următoarele definiri: ORIGIN := 1 n := 2 f 1 x) := x 1 ) 2 x 2 f 2 x) := x 1 x 2 + 1) 2, F x) := [ f1 x) f 2 x) Jacobianul funcţiei F, adică F x), definit cu ajutorul diferenţelor divizate este dat de 2.16). Pentru funcţia normă se foloseşte funcţia utilizator ]. n ) 1/r nor, x) := x k r k=1. Programul Parametri de intrare în programul Steffensen sunt: vectorul iniţial x, parametrul r ce defineşte norma folosită şi ε precizia impusă aproximaţie soluţiei obţinută prin program. 53

54 Lucrare de licenţă Ion Ionescu Steffensenx, r, ε) := δ nor, F x)) while δ ε break if Jx, F x)) =0 return x on error x x Jx, F x)) 1 F x) δ nor, F x)) return x Exemplul Apelul programului Mathcad Steffensen în norma euclidiană adică r = 2) este [ 5 Steffensen 3 ) ] 1, 2, = 1 ), sau în norma 1 adică r = 1) [ 5 Steffensen 3 ) ] 1, 1, = 1 ). 2.3 Metode cvasi-newton În anul 1965 şi 1970 în articolele [4] şi [5] Broyden consideră o metodă intitulată de autor ca metodă cvasi-newton. De fapt această metodă este o metodă care generalizează metoda secantei în R n. Pentru alte considerente se pot consulta monografiile lui Ortega şi Rheinboldt [26] şi respectiv [27] lucrarea lui Dennis şi More [14] sau lucrearea a lui Gay [17]. În general metodele de tip cvasi-newton sunt de forma sau x k+1) := x k) B x k)) 1 F x k) ), x k+1) := x k) B 1 k F x k)), adică matricea B nu depinde de F sau depinde numai de k în cel de al doilea caz. Dacă matricea B = F x) atunci evident obţinem metoda Newton Leme preliminare Pentru a dovedi convergenţa metodei Broyden avem nevoie de umătoarele leme. 54

55 Ion Ionescu Lucrare de licenţă Lema Fie u, v R n, u 0, v 0 şi α 0, 1). Dacă u v α u, atunci u, v > 0, 1 v u, v 2 u α şi 1 u 2 v 2 α2. Demonstraţie. În inegalitatea triunghiului u + v u + v substituim pe u cu u v şi rezultă u u v + v, relaţie din care avem inegalitatea u v u v. Această inegalitate o împărţim cu u şi rezultă 1 v u v u α, u de unde avem a doua inegalitate din concluzia lemei 1 v u α. Fie ω = u, v / u v ) şi să evaluăm următoarea expresie u v 2 = u v, u v u v, u v = u, u 2 u, v + v, v = u 2 2 u, v + v 2 ) ) = u 2 u, v 1 2 u 2 + v 2 u 2 = u 2 1 2ω v u + v 2 u 2. Punctul de minim pentru trinomul t 2 2ωt + 1 este pentru t = ω şi valoarea minimă este 1 ω 2, deci u v 2 u 2 1 ω 2), atunci u v 2 Deoarece u v α u rezultă că u 2 1 ω 2. 1 ω 2 u v 2 u 2 α 2, de unde rezultă cea de a treia inegalitate din concluzia lemei 1 u, v 2 u 2 v 2 α2. Din relaţia u v 2 = u 2 2 u, v + v 2 rezultă că 2 u, v = u 2 + v 2 u v 2. Acum ţinem cont de inegalitatea din ipoteză u v 55

56 Lucrare de licenţă Ion Ionescu α u, atunci avem 2 u, v u 2 + v 2 α 2 u 2 = 1 α 2) u 2 + v 2 > 0 pentru că α > 0 iar u 0 şi v 0. Atunci s-a demonstrat şi prima inegalitate din concluzia lemei u, v > 0. Lema Shermann-Morrison 1949). Fie u, v R n, A LR n, R n ), A nesingulară, atunci A + uv T este nesingulară şi A + uv T ) 1 = A 1 A 1 uv T A v, A 1 u. Demonstraţie. Demonstraţia se face direct prin calcul, verificând identitatea A + uv T ) 1 A + uv T ) = I. Să calculăm produsul A 1 A 1 uv T A v, A 1 u ) A + uv T ) = I + A 1 uv T A 1 uv T A 1 ) A + uv T 1 + v, A 1 u = I + A 1 uv T I A 1 A + uv T) ) 1 + v, A 1 u = I + A 1 uv T I I + ) A 1 uv T 1 + v, A 1 u = I + A 1 uv T I + A 1 uv T I A 1 uv T 1 + v, A 1 u ) = I + A 1 uv T v, A 1 u = I. În şirul de egalităţi s-a folosit faptul că A 1 uv T = v, A 1 u. Din calculul de mai sus rezultă concluzia lemei. Observaţia Să presupunem că H k este inversabilă şi fie B k = H 1 k. Conform lemei 2.3.2, în care luăm u = H k F x k+1)) şi v T = d T k /dt k yk), unde s-a notat y k) = F x k+1)) F x k)), matricea H k+1 este de asemenea 56

57 Ion Ionescu Lucrare de licenţă inversabilă şi B k+1 = H 1 k+1 = B k dt k d T k yk) B kh k F x k+1) ) = B k + B k H k F x k+1)) 1 d T k yk) d T k F xk+1) ) F x k+1)) d T k B k d T k d T k yk) B k = B k dt k B k d T k F xk) ) F x k+1)). 2.17) Lema Fie u, v R n astfel încât v T u = 1. Atunci I vu T u v. Demonstraţie. Fără să restrângem generalitatea putem considera pe u de componente 1, 0,..., 0. Atunci din v T u = 1 rezultă că prima componentă a lui v va fi v 1 = 1; vectorul de componente v 2, v 3,..., v n, din R n 1, îl vom nota cu v. Fie z R n. Lema este demonstrată dacă arătăm că I vu T) z z v şi că pentru un anumit z se obţine egalitate. Presupunem că z este de forma ) z1 z = z, unde z R n 1. Relaţia precedentă se reduce la z z 1 v 2 = z z 1 v 2 z 21 + z 2) 1 + v 2) sau după efectuarea calculelor se obţine inecuaţia echivalentă z z, v z 1 + z 2 v 2 0. Această relaţie este satisfăcută pentru orice z 1 R întrucât = z, v 2 z 2 v 2 0 iar egalitatea se obţine pentru z = v şi z 1 = v 2. Lema Fie F : D 0 R n R n un operator diferenţiabil Fréchet pe mulţimea D 0 şi x D 0. Presupunem că derivata Fréchet, F, satisface relaţia F x) F x ) κ x x, pentru orice x D 0 şi fie x, y D 0, B LR n, R n ), d R n astfel încât d T F x) 0 şi B d T B = B + [F y) F x) By x)] d T By x), 57

58 Lucrare de licenţă Ion Ionescu Atunci q = y x d T B d T By x) B F x ) q B F x ) + Demonstraţie. Avem. qκ y x 2 + x x 2). 2 y x B F x ) = B F x ) + {[F y) F x ) F x ) y x )] [F x) F x ) F x ) x x )] [B F x )]y x)} Atunci rezultă d T B d T By x). B F x ) [B F x d T B )]y x) d T By x) [ ] = [B F x d T B )] I y x). d T By x) Dacă luăm u = y x, v T = d T B/d T By x) atunci avem evident v T u = 1 şi putem aplica lema Obţinem d T B I y x) d T By x) = q. În expresia lui B F x ) pentru termenii din mijloc avem şi F y) F x ) F x ) y x ) κ 2 y x 2 F x) F x ) F x ) x x ) κ 2 x x 2 unde s-a aplicat teorema de medie Atunci B F x ) q B F x qκ ) + y x 2 + x x 2) 2 y x ceea ce era de demonstrat. Observaţia Dacă luăm x = x k), y = x k+1), B = B k şi d = Hk T H kf x k)), atunci Hk F x k)) ) F x k) Hk T q = H kb k F x k) ) T Hk TH kf x k) ) H k F x k)) H k F x k))) T = H k F x k) )) T H k F x k) = 1. ) 58

59 Ion Ionescu Lucrare de licenţă Construcţia metodei Broyden Fie aplicaţia neliniară F : D 0 R n R n şi ecuaţia ataşată F x) = 0. Dacă derivata Fréchet a funcţiei F este Lipschitz continuă, adică F y) F x) L y x, atunci, conform teoremei de medie 1.2.6, avem Putem face aproximarea F y) F x) F x) y x) L 2 y x 2. F y) = F x) + F x) y x). În această formulă facem pe x = x k) şi y = x k+1) şi rezultă F x k+1)) = F x k) ) + F x k)) x k+1) x k)). Considerăm egalitatea F x k)) x k+1) x k)) = F x k+1)) F x k)), numită şi ecuaţia cvasi-newton şi considerăm pasul iterativ x k+1) := x k) B 1 k F x k)), 2.18) unde căutăm matricea B k, care să satisfacă ecuaţia cvasi-newton. Broyden a considerat următoarele formule iterative y k) := F x k+1)) F x k)), 2.19) s k) := x k+1) x k), 2.20) y k) B k s k)) s k)) T B k+1 := B k + s k) ) Dacă avem iteraţia iniţială x 0) şi matricea iniţială B 0 din relaţia 2.18) găsim pe x 1), cu x 0) şi x 1) aplicăm formulele 2.20) şi 2.21). Vom obţine pe y 0) şi s 0) iar cu formula 2.21) calculăm pe B 1, apoi se începe de la început calculând pe x 2). Cu x 2) şi x 1) aplicăm formulele 2.20) şi 2.21) şi aşa mai departe. Să verificăm că matricea B k verifică ecuaţia cvasi-newton, adică avem identitatea F x k)) s k) = y k). B k+1 s k) = B k + y k) B k s k)) s k)) ) T s k) 2 = B k s k) + 59 s k) y k) B k s k)) s k), s k) s k) 2 = y k)

60 Lucrare de licenţă Ion Ionescu Din punct de vedere al calculului nu avem un avantaj pentru că în locul calculului inversei matricii F x k)) în ecuaţia cvasi-newton pentru procesul iterativ x k+1) := x k) + F x k)) 1 F x k+1) ) F x k))), se calculează inversa matricii B k pentru următorul proces iterativ x k+1) := x k) + B ) 1 k F x k+1) F x k))). Cu ajutorul lemei Shermann-Morrison) putem evita calculul inversei matricii B k. Fie în lema Shermann-Morrison A = B k, u = y k) B k s k) şi v = s k) / s k) 2, atunci conform lemei, dacă B 0 este nesingulară rezultă că y 0) B 0 s 0)) s 0)) T B 0 + este nesingulară şi există B 1 1 B 1 1 = B s 0) s 0) 2 B0 1 y 0) B 0 s 0)) s 0)) T s 0) 2 B 1 0. s 0) 2, B 1 0 y 0) B 0 s 0) ) Prin inducţie matematică, dacă B k este nesingulară atunci conform lemei rezultă că y k) B k s k)) s k)) T B k + este nesingulară şi există B 1 k+1 B 1 k+1 = B 1 k s k) s k) 2 B 1 k y k) B k s k)) s k)) T s k) 2 B 1 k. 2.22) s k) 2, B 1 k y k) B k s k) ) Dar s k) s k) 2, B 1 k y k) B k s k)) s k) = s k) 2, B 1 k yk) s k) s k) = s k) 2, s k) B 1 k yk) s k) 2, 1 sk) = s k) s k) 2, B 1 k 1 s k) 2 s k), s k) = 60 yk) 1 s k) 2 s k), B 1 k yk) 1.

61 Ion Ionescu Lucrare de licenţă Atunci numitorul din expresia lui B 1 k+1, dată de relaţia 2.22) este s k) 1 + s k) 2, B 1 k y k) B k s k)) = s k) 2 s k), B 1 k yk) 1 = 1 s k) 2 s k), B 1 k yk). Numărătorul din aceeaşi expesie a lui B 1 k+1 poate fi scrisă sub forma B 1 k y k) B k s k)) s k)) T s k) 2 B 1 k Atunci expresia lui B 1 k+1 B 1 k+1 = B 1 k + = B 1 k yk) s k)) s ) k) T s k) 2 B 1 k. se poate scrie sub forma B 1 k yk) s k)) s k)) T s k), B 1 B 1 k yk) k. 2.23) Observaţia Inversarea unei matrici A M n,n R) necesită operaţii de ordinul n 3. De exemplu, dacă se foloseşte regula dreptunghilui numărul operaţiilor este 4n 3 n 2 n [24, pag. 22]. În metoda Broyden numărul operaţiilor prin folosirea lemei Shermann-Morrison este de ordinul n 2. Deci ordinul de mărime pentru operaţiile din metoda Broyden este n 2, iar pentru metoda Newton ordinul de mărime al numărului de operaţii este n 3. Notăm pe B 1 k cu H k, atunci procesul iterativ al metodei Broyden devine x k+1) := x k) H k F x k)), y k) := F x k+1)) F x k)), s k) := x k+1) x k), 2.24) Hk y k) s k)) s k)) T H k+1 := H k + H s k), H k y k) k, pentru k = 0, 1,..., unde x 0) D R n şi H 0 M n,n R) sunt daţi. Facem notaţiile x = x k), x = x k+1), s = s k), y = y k), B = B k, B = B k+1, H = H k şi Ĥ = H k+1. Atunci metoda Broyden poate fi scrisă sub forma x := x HF x), y := F x) F x), s := x x, Ĥ := H + 61 Hy s) st H, s, Hy 2.25)

62 Lucrare de licenţă Ion Ionescu unde x D R n şi H M n,n R) sunt daţi Convergenţa metodei Broyden Conergentă locală şi superliniară a metodei Quasi-Newton a fost arătată de Broyden, Dennis şi Moré în articolul [6]. Presupunem că aplicaţia F : D R n R n îndeplineşte următoarele condiţii: 1. a) Aplicatia F este continuu diferenţiabilă pe D, unde D este o mulţime deschisă şi convexă, b) Există x D astfel încât F x ) = 0 şi există F x ) 1, unde F este un operator de la R n la mulţimea aplicaţiilor. 2. Aplicaţia F este Lipschitz continuă pe mulţimea deschisă şi convexă D, adică F y) F x) κ y x pentru orice x, y D. Definiţia Şirul { x k)} R n are o convergenţă cel puţin superliniară dacă există un şir {α k } R astfel încât lim α k = 0 şi x k+1) x αk x k) x. k Observaţia Din inegalitatea x k+1) x αk x k) x rezultă că x k+1) x x k) x α k iar lim k x k+1) x x k) x = 0. Atunci rezultă că R ordinul de convergenţă este r > 1. Definiţia Şirul { x k)} R n are o convergenţă cel puţin pătratică dacă există o constantă β R astfel încât x k+1) x β x k) x 2 pentru orice k N. Teorema Dacă aplicaţia neliniară F : D R n R n satisface condiţiile 1a) şi 1b), de la pagina 62, atunci există o mulţime deschisă S D astfel încât x S iar iteraţiile metodei Newton x k+1) := x k) F x k)) 1 F x k) ), sunt definite şi lim k xk) = x, iar convergenţa este superliniară. Dacă aplicaţia F satisface şi condiţia 2, de la pagina 62, atunci convergentă metodei Newton este cel puţin pătratică. 62

63 Ion Ionescu Lucrare de licenţă Demonstraţie. Pentru demonstraţie vezi [27, p ]. Teorema Dacă aplicaţia neliniară F : D R n R n satisface condiţiile 1a) şi 1b), de la pagina 62 şi matriciile Bx k) ) sunt inversabile pentru fiecare x k) şi ρ B x ) 1 F x ) ) = σ < 1, atunci şirul definit de relaţia x k+1) := x k) B x k)) 1 F x k) ) pentru k = 0, 1,... şi x 0) dat, converge la x, iar R-ordinul de convergenţă este 1. Demonstraţie. Pentru demonstraţie vezi [27, pag ]. Observaţia Dacă Bx) = F x) atunci rezultă că σ = 0. În acest caz avem metoda Newton şi rezultă o convergenţă cel puţin superliniară. Teorema Dacă aplicaţia neliniară F : D R n R n satisface condiţiile 1a) şi 1b), de la pagina 62 şi fie {B k } LR n, R n ) astfel încât B k este nesingulară pentru orice k N, atunci şirul { x k)} generat de formula iterativă x k+1) := x k) B 1 k F x k)) pentru k = 0, 1,... şi x 0) dat, converge la x. Convergenţa este cel puţin superliniară dacă lim k [ B k F x k))] x k+1) x k)) x k+1) x k) Demonstraţie. Pentru demonstraţie vezi [14]. = 0. Teorema Fie aplicaţia neliniară F : D 0 R n R n diferenţiabilă Fréchet pe D 0 şi x D 0 o soluţie a ecuaţiei F x) = 0. Presupunem că F satisface relaţia F x) F x ) κ x x, pentru orice x D 0 şi că F x ) este inversabilă. Atunci există numerele δ şi ε astfel încât dacă B 0 F x ) δ şi x 0) x ε, metoda Broyden, dată de formulele 2.24), cu iteraţiile iniţiale x 0) şi H 0 = B0 1 converge la x. Demonstraţie. Fie constanta pozitivă β = F x ) 1. Impunem lui ε condiţia naturală S x 0), ε ) D 0. Deoarece B 0 F x ) δ considerăm pe β astfel încât 2βδ < 1, rezultă, conform lemei 1.1.7, că există B0 1 = H 0 şi H 0 β/1 2βδ). Aşadar, iteraţia următoare din metoda Broyden, 63

64 Lucrare de licenţă Ion Ionescu x 1) = x 0) H 0 F x 0)) este definită. Să notăm e k = x k) x, atunci avem e 1 = x 1) x = x 0) x H 0 F x 0) ) F x ) ) H 0 F x 0)) F x ) B 0 x 0) x ) H 0 ) F x 0) F x ) F x ) x 0) x ) + F x ) B 0 x 0) x ) ) β 1 1 2βδ 2 κe2 0 + δe 0 ) β 1 1 2βδ 2 κε + δ e 0. Fie funcţia obiectiv fκ, ε, β, δ) = ) β 1 1 2βδ 2 κε + δ şi restricţiile βδ < 1 5κε < 2δ 2fκ, ε, β, δ) < 1 Atunci maxfκ, ε, β, δ) se obţine pentru valorile. κ = , ε = β = , δ = În concluzie avem e 1 fκ, ε, β, δ )e 0 < 1 2 e 0. Deoarece d dκ fκ, ε, β, δ) = 1 2 d fκ, ε, β, δ) = dβ εβ 1 2βδ > 0, d dε fκ, ε, β, δ) = 1 2 κβ 1 2βδ > 0, κε + 2δ 21 2βδ) > 0 şi d βκεβ + 1) fκ, ε, β, δ) = 2 dδ 1 2βδ) > 0, 2 atunci pentru orice valori pozitive κ κ, ε ε, β β şi δ δ avem că fκ, ε, β, δ) < fκ, ε, β, δ ) < 1/2. De exemplu 3 f 10, 3 10, 3 5, 7 ) =

65 Ion Ionescu Lucrare de licenţă Să mai observăm că x 1) x 0) x 0) x x 1) x e0 1 2 e 0 = 1 2 e 0. Vom aplica lema lunând x = x 0), y = x 1), B = B 0 şi B = B 1 dat de 2.17). Se poate vedea uşor că întra-devăr B 1 are forma din lema 2.3.4, întrucât F x 0)) = B 0 x 1) x 0)) şi B 1 = B 0 + [ F x 1)) F x 0)) B 0 x 1) x 0))] d T B 0 d T B 0 x 1) x 0) ). Deasemenea, ţinând seama de observaţia 2.3.2, avem q = 1. Aşadar obţinem B 1 F x ) δ + ) κ 1 2 x 1) x 0) 4 e2 0 + e 2 0 δ κe 0 δ κε < δ + δ 2 = 2 1 ) δ. 2 De aici rezultă că B1 1 = H 1 există şi H 1 β/1 2βδ). Presupunem că x 1),..., x k 1) şi H 1,..., H k 1 sunt definiţi şi că există relaţiile e k 1 2 e k 1, B k F x ) [2 12 ] δ. 2.26) k Să observăm în primul rând că H k = B 1 k există şi H k β/1 2βδ). Ţinând seama că e 0 < ε şi că ε < 2δ/5κ), atunci avem e k 1 2 k e 0 2δ 5κ 1 2 k. Utilizând această relaţie, obţinem ca şi pentru e 1 relaţia e k+1 = x k+1) x = x k) x H k F x k) ) F x ) ) H k F x k)) F x ) B k x k) x ) H k ) F x k) F x ) F x ) x k) x ) + F x ) B k x k) x ) ) ) β 1 β 1 1 2βδ 2 κe2 k + δe k 1 2βδ 2 κε + δ e k < 1 2 e k. Ultima inegalitate se obţine din problema de programare neliniară considerată. Astfel prin inducţie matematică s-a demonstrat că e k+1 < e k /2 pentru orice k N. Pentru a doua relaţie din 2.26) aplicăm lema în care 65

66 Lucrare de licenţă Ion Ionescu luăm x = x k), y = x k+1), B = B k şi B = B k+1 dat de 2.17). Vom ţine seama că q = 1, conform observaţiei şi că x k+1) x k) > e k 2. Obţinem B k+1 F x ) B k F x κ ) + e 2 2 x k+1) x k) k+1 + ek) ) δ + κ ) 1 k e k 4 e2 k + e 2 k = 2 12 ) δ + 5 k 4 κe k 2 12 ) δ + 5 k 4 κe ) δ + δ k k 2 = k k+1 ) δ, adică a doua relaţie din 2.26) este adevărată pentru orice k N. Prin inducţie rezultă că x k) şi H k sunt definiţi pentru orice k N şi avem relaţia e k+1 < e k /2. Din relaţia e k e 0 /2 k rezultă că x k) x 0, când k, adică x k) x când k. Teorema Fie aplicaţia neliniară F : D R n R n care satisface condiţiile 1 şi 2 de pe pagina 62 şi fie { x k)} şirul generat de metoda Broyden, 2.25), atunci acest şir converge cel puţin superliniar la x. Demonstraţie. În cele ce urmează vom folosi notaţiile din formulele 2.25). Aplicăm toerema 2.3.1, dacă F îndeplineşte condiţiile 1a) şi 1b), de la pagina 62, rezultă că există o mulţime deschisă S R n astfel încât x S iar iteraţiile metodei Newton x := x F x) 1 F x) sunt definite şi x k) x când k, convergenţa fiind cel puţin superliniară. Calculăm B F x ). B F x ) = B + = B + = B + y Bs)sT s 2 s, y Bs s 2 s, y s 2 F x ) + F x ) sst s 2 F x ) sst s 2 F x ) + F x ) sst s 2 F x ) sst s 2 s, Bs s 2 F x ) + F x ) sst s 2 F x ) sst s 2 = B F x ) sst s 2 B F x )) + s, y s, F x ) s s 2 ) = B F x )) 66 I sst s 2 + s, y F x ) s s 2.

67 Ion Ionescu Lucrare de licenţă Atunci rezultă B F x ) B F x ) I sst s 2 + s, y F x ) s s ) Fie u = s T şi v = s T / s 2 atunci avem v T u = 1. Din lema rezultă că I sst s 2 1. Pe de altă parte avem s, y F x ) s y F x ) s) s T s 2 = s 2 F x) F x) F x ) s) s T = s 2 κ 2 În final avem inegalitatea x x s s = κ s = κσ. 2 B F x ) B F x ) + κσ. 2.28) Din această inegalitate rezultă convergenţa şirului { x k)} generat de metoda Broyden, adică lim k xk) = x. { În } continuare să demonstrăm convergenţa cel puţin superliniară a şirului x k) generat de metoda Broyden, plecând de la identitatea pentru norma Frobenius A 2 F = T rat A). Prin calcul direct avem egalitatea ) E I sst 2 ) T ) s 2 = T r E E ) EssT F s 2 EssT s 2 ) ) E = T re T T Ess T ss T E T E ) ) Ess T T Ess T E) T r s 2 T r s 2 + T r s 4 ) 2 Es = E 2 F, s = E 2 F 2 Es 2 s 2 + Es 2 s 2 pentru orice E LR n, R n ). Pentru orice α > 0 şi β 0, numere reale, avem inegaliatea α 2 β 2 α 2α) 1 β 2 adevărată. Întradevăr β 4 /4α 2 0 atunci avem α 2 β 2 + β4 4α 2 α2 β 2 α 2 2α β2 2α + 67 ) β 2 2 α 2 β 2 2α

68 Lucrare de licenţă Ion Ionescu ) 2 α β2 α 2 β 2 α β2 2α 2α α 2 β 2. Fie acum α = E F şi β = Es / s şi înlocuim în relaţia mai sus demonstrată. Atunci rezultă ) E I sst s 2 = E 2 F Es 2 s 2 E F Es 2 2 E F s 2. F Fie acum în locul matricii E care este o matrice oarecare din LR n, R n ), vom considera matricea B F x )). Atunci rezultă inegalitatea ) B F x )) I sst s 2 F Atunci din relaţia 2.27) şi 2.29) avem B F x ) B F x ) B F x ) F B F x )) s 2 2 B F x ) F s ) I sst s 2 + s, y F x ) s s 2 B F x ) F B F x )) s 2 2 B F x ) F s 2 + κ s 2. Notăm cu η k = B k F x ) F, ψ k = B k F x )) s k s k atunci în noile notaţii relaţia de mai sus devine, σ k = s k 2. η k+1 η k ψ2 k 2η k η k + κσ k. 2.30) Relaţia 2.28) transcrisă în notaţiile mai sus precizate este η k+1 η k + κσ k. Având în vedere că şirul {η k } converge, rezultă că şirul {η k } este mărginit de o constantă reală pozitivă, notată η. Atunci din relaţia 2.30) avem ψ 2 k 2η ψ2 k 2η k η k η k+1 + κσ k. 68

69 Ion Ionescu Lucrare de licenţă Însumăm după k în această relaţie rezultă 1 2η ψk 2 η 0 + κ σ k < k=0 deoarece seria σ k converge, dar o serie converge dacă termenul general al ei converge la 0. Atunci rezultă adică lim k k=0 lim ψ k = 0, k Bk F x ) x k+1) x k)) x k+1) x k) = 0, relaţie ce reprezintă condiţia din ipoteza teoremei 2.3.3, care spune că şirul { x k) } are o convergenţă cel puţin superliniară. Convergenţa super liniară a metodei Broyden este dovedită şi în lucrarea lui Stachurski [33]. Remarcăm articolul lui X. Chen [7] în care se pune problema convergenţei metodelor de tip Broyden în condiţia în care funcţia F din ecuaţia neliniară F x) = 0 este nediferenţiabilă Programe pentru metoda Broyden Programul Mathcad pentru metoda Broyden este prezentat în această secţiune. Pentru exemplificare considerăm sistemul neliniar x 1 + x 2 = 2, x 1 lnx 2 ) + x 3 = 2, x 2 2 2x 3 = 1 Atunci în Mathcad, [10], facem următoarele definiri x 1 + x 2 2 ORIGIN := 1 F x) := x 1 lnx 2 ) + x 3 2. x 2 2 2x ) Programul Parametri de intrare în programul pentru metoda Broydensunt: vectorul iniţial x, matricea iniţială H şi ε precizia impusă aproximaţiei obţinută prin program. Broydenx, H, ε) := δ F x) while δ ε s H F x)) 69

70 Lucrare de licenţă Ion Ionescu y F x + s) F x) break if s H y) = 0 s H y) st H H + s H y) x x + s δ F x) return x H Exemplul Apelul programului Broyden pentru iteraţia iniţială x := şi matricea iniţială este H := Broyden x, H, 10 2) = Broyden x, H, 10 16) = ,. O alegere aleatoare a iteraţiei de start sau a maticii de start poate să aibe următoarele consecinţe: Metoda să nu conveargă 1 Broyden , H, = Metoda să conveargă către o altă soluţie a sistemului neliniar Broyden 14, H, = În Mathcad orice eroare este semnalată prin afişare în roşu a comenzii. avem o depăşire flotantă superioară. În acest caz 70

71 Ion Ionescu F = Lucrare de licenţă

72 Capitolul 3 Bazine de atracţie Odată cu dezvoltarea softurilor matematice Mathematica, Matlab, Mathcad), a graficii pe calculator, s-au realizat graficele ce reprezintă bazinele de atracţie ale diferitelor metode numerice [8], [9], [12], [11]. Prezentăm în figura 3.1 bazinele de atracţie, din fereastra [ 9, 12] [ 10, 10], pentru metoda Newton, referitor la sistemul neliniar 3.1), care are soluţia 1, 1) T. Pentru o recunoaştere uşoară, toate bazinele de atracţie, din această secţiune, pentru metoda Newton s-au realizat cu schema de colorare Royal. { x 2 1 x 2 = 0 x 1 x 2 + 1) = 2, 3.1) Bazinele de atracţie au devenit un subiect intens studiat de specialişti, [2], [18], [32]. S-au făcut programe în Mathcad care permit realizarea acestor bazine de atracţie. Acest document Mathcad poate fi luat ca model pentru toate cele 2 exemple şi cele 3 metode numerice Newton, Broyden, Steffensen), cărora li s-a realizat bazinele de atracţie în jurul soluţiilor. Figura 3.2 reprezintă bazinele de atracţie, din dreptunghiul [ 3, 18] [ 3, 27], pentru metoda Broyden, referitor la sistemul neliniar 3.1), care are soluţia 1, 1). Pentru o recunoaştere uşoară, toate bazinele de atracţie, din această secţiune, pentru metoda Broyden s-au afişat cu schema de colorare Neon. În figura 3.3 avem bazinele de atracţie, din dreptunghiul [ 4, 6] [ 4, 6], pentru metoda Steffensen, referitor la sistemul neliniar 3.1), care are soluţia 1, 1). Pentru o recunoaştere uşoară, toatele bazinele de atracţie, din această secţiune, pentru metoda Steffensen s-au afişat cu schema de colorare Gamma. Sistemul { x sin3 x 1 ) x 2 = 0 4 x x 2, 3.2) 2 4 exp x 1 ) = 0 72

73 Ion Ionescu Lucrare de licent a Figura 3.1: Bazinul de atract ie pentru metoda Newton. Figura 3.2: Bazinul de atract ie pentru metoda Broyden 73

74 Lucrare de licenţă Ion Ionescu Figura 3.3: Bazinul de atracţie pentru metoda Steffensen are două soluţiile şi x 1 x Fereastra din planul x 1 Ox 2, pe care s-au vizualizat bazinele de atracţie pentru metoda Newton relativ la sistemul 3.2), este [ 15, 15] [ 10, 10]. Numărul de noduri considerate pe axa Ox 1 este 1500, iar de pe axa Ox 2 este Bazinele de atracţie se pot vizualiza, în varianta electronică a lucrării, printr-un clic pe N02.pdf. Fereastra din planul x 1 Ox 2, pe care s-au vizualizat bazinele de atracţie pentru metoda Broyden relativ la sistemul 3.2), este [ 15, 15] [ 10, 10]. Numărul de noduri considerate pe axa Ox 1 este 1500, iar de pe axa Ox 2 este Bazinele de atracţie se pot vizualiza, în varianta electronică a lucrării, printr-un clic pe By02.pdf. Fereastra din planul x 1 Ox 2, pe care s-au vizualizat bazinele de atracţie pentru metoda Steffensen relativ la sistemul 3.2), este [ 5, 5] [ 5, 10]. Numărul de noduri considerate pe axa Ox 1 este 1000, iar de pe axa Ox 2 este tot Bazinele de atracţie se pot vizualiza, în varianta electronică a lucrării, printr-un clic pe St02.pdf. ) ). 74