Numerička analiza 24. predavanje

Σχετικά έγγραφα
Numerička analiza 26. predavanje

2 tg x ctg x 1 = =, cos 2x Zbog četvrtog kvadranta rješenje je: 2 ctg x

1 Promjena baze vektora

Dijagonalizacija operatora

Operacije s matricama

M086 LA 1 M106 GRP. Tema: Baza vektorskog prostora. Koordinatni sustav. Norma. CSB nejednakost

18. listopada listopada / 13

MATRICE I DETERMINANTE - formule i zadaci - (Matrice i determinante) 1 / 15

Elementi spektralne teorije matrica

Linearna algebra 2 prvi kolokvij,

Matematička analiza 1 dodatni zadaci

Matematičke metode u marketingumultidimenzionalno skaliranje. Lavoslav ČaklovićPMF-MO

Linearna algebra 2 prvi kolokvij,

3.1 Granična vrednost funkcije u tački

DISKRETNA MATEMATIKA - PREDAVANJE 7 - Jovanka Pantović

PRAVA. Prava je u prostoru određena jednom svojom tačkom i vektorom paralelnim sa tom pravom ( vektor paralelnosti).

Numerička matematika 2. kolokvij (1. srpnja 2009.)

TRIGONOMETRIJSKE FUNKCIJE I I.1.

SISTEMI NELINEARNIH JEDNAČINA

(P.I.) PRETPOSTAVKA INDUKCIJE - pretpostavimo da tvrdnja vrijedi za n = k.

Trigonometrija 2. Adicijske formule. Formule dvostrukog kuta Formule polovičnog kuta Pretvaranje sume(razlike u produkt i obrnuto

a M a A. Može se pokazati da je supremum (ako postoji) jedinstven pa uvodimo oznaku sup A.

Pismeni ispit iz matematike Riješiti sistem jednačina i diskutovati rješenja sistema u zavisnosti od parametra: ( ) + 1.

7 Algebarske jednadžbe

Neka je a 3 x 3 + a 2 x 2 + a 1 x + a 0 = 0 algebarska jednadžba trećeg stupnja. Rješavanje ove jednadžbe sastoji se od nekoliko koraka.

1. Svojstveni problem

ELEKTROTEHNIČKI ODJEL

RIJEŠENI ZADACI I TEORIJA IZ

Iskazna logika 3. Matematička logika u računarstvu. novembar 2012

Kosinus-sinus dekompozicija ortogonalnih matrica malog reda

Osnovni primer. (Z, +,,, 0, 1) je komutativan prsten sa jedinicom: množenje je distributivno prema sabiranju

INTEGRALNI RAČUN. Teorije, metodike i povijest infinitezimalnih računa. Lucija Mijić 17. veljače 2011.

radni nerecenzirani materijal za predavanja R(f) = {f(x) x D}

Funkcije dviju varjabli (zadaci za vježbu)

Determinante. a11 a. a 21 a 22. Definicija 1. (Determinanta prvog reda) Determinanta matrice A = [a] je broj a.

Riješeni zadaci: Limes funkcije. Neprekidnost

1.4 Tangenta i normala

POVRŠINA TANGENCIJALNO-TETIVNOG ČETVEROKUTA

16 Lokalni ekstremi. Definicija 16.1 Neka je A R n otvoren, f : A R i c A. Ako postoji okolina U(c) od c na kojoj je f(c) minimum

IZVODI ZADACI ( IV deo) Rešenje: Najpre ćemo logaritmovati ovu jednakost sa ln ( to beše prirodni logaritam za osnovu e) a zatim ćemo

Riješeni zadaci: Nizovi realnih brojeva

Ĉetverokut - DOMAĆA ZADAĆA. Nakon odgledanih videa trebali biste biti u stanju samostalno riješiti sljedeće zadatke.

TRIGONOMETRIJA TROKUTA

Strukture podataka i algoritmi 1. kolokvij 16. studenog Zadatak 1

SOPSTVENE VREDNOSTI I SOPSTVENI VEKTORI LINEARNOG OPERATORA I KVADRATNE MATRICE

Osnovne teoreme diferencijalnog računa

radni nerecenzirani materijal za predavanja

Teorijske osnove informatike 1

UNIVERZITET U NIŠU ELEKTRONSKI FAKULTET SIGNALI I SISTEMI. Zbirka zadataka

Pismeni ispit iz matematike GRUPA A 1. Napisati u trigonometrijskom i eksponencijalnom obliku kompleksni broj, zatim naći 4 z.

2. Ako je funkcija f(x) parna onda se Fourierov red funkcije f(x) reducira na Fourierov kosinusni red. f(x) cos

PARCIJALNI IZVODI I DIFERENCIJALI. Sama definicija parcijalnog izvoda i diferencijala je malo teža, mi se njome ovde nećemo baviti a vi ćete je,

41. Jednačine koje se svode na kvadratne

Sume kvadrata. mn = (ax + by) 2 + (ay bx) 2.

Više dokaza jedne poznate trigonometrijske nejednakosti u trokutu

IZVODI ZADACI (I deo)

k a k = a. Kao i u slučaju dimenzije n = 1 samo je jedan mogući limes niza u R n :

IspitivaƬe funkcija: 1. Oblast definisanosti funkcije (ili domen funkcije) D f

9. GRANIČNA VRIJEDNOST I NEPREKIDNOST FUNKCIJE GRANIČNA VRIJEDNOST ILI LIMES FUNKCIJE

Linearna algebra Materijali za nastavu iz Matematike 1

- pravac n je zadan s točkom T(2,0) i koeficijentom smjera k=2. (30 bodova)

Uvod u teoriju brojeva

Cauchyjev teorem. Postoji više dokaza ovog teorema, a najjednostvniji je uz pomoć Greenove formule: dxdy. int C i Cauchy Riemannovih uvjeta.

Dvanaesti praktikum iz Analize 1

( ) ( ) 2 UNIVERZITET U ZENICI POLITEHNIČKI FAKULTET. Zadaci za pripremu polaganja kvalifikacionog ispita iz Matematike. 1. Riješiti jednačine: 4

Veleučilište u Rijeci Stručni studij sigurnosti na radu Akad. god. 2011/2012. Matematika. Monotonost i ekstremi. Katica Jurasić. Rijeka, 2011.

Apsolutno neprekidne raspodele Raspodele apsolutno neprekidnih sluqajnih promenljivih nazivaju se apsolutno neprekidnim raspodelama.

Sortiranje prebrajanjem (Counting sort) i Radix Sort

( ) ( ) Zadatak 001 (Ines, hotelijerska škola) Ako je tg x = 4, izračunaj

Zavrxni ispit iz Matematiqke analize 1

LINEARNA ALGEBRA 1, ZIMSKI SEMESTAR 2007/2008 PREDAVANJA: NENAD BAKIĆ, VJEŽBE: LUKA GRUBIŠIĆ I MAJA STARČEVIĆ

1.3. Rješavanje nelinearnih jednadžbi

Računarska grafika. Rasterizacija linije

Sveučilište u Zagrebu. Točan rastav svojstvenih vrijednosti streličastih matrica i primjene

2log. se zove numerus (logaritmand), je osnova (baza) log. log. log =

MJERA I INTEGRAL 2. kolokvij 30. lipnja (Knjige, bilježnice, dodatni papiri i kalkulatori nisu dozvoljeni!)

π π ELEKTROTEHNIČKI ODJEL i) f (x) = x 3 x 2 x + 1, a = 1, b = 1;

Praktikum iz numeričkih metoda u statistici. Tina Bosner. Rješavanje nelinearnih sustava. Tina Bosner

MATEMATIKA Pokažite da za konjugiranje (a + bi = a bi) vrijedi. a) z=z b) z 1 z 2 = z 1 z 2 c) z 1 ± z 2 = z 1 ± z 2 d) z z= z 2

Sustav dvaju qubitova Teorem o nemogućnosti kloniranja. Spregnuta stanja. Kvantna računala (SI) 17. prosinca 2016.

Matrice i sustavi linearnih jednadžbi, inverzi i determinante, svojstvene vrijednosti i svojstveni vektori

Zadaci sa prethodnih prijemnih ispita iz matematike na Beogradskom univerzitetu

VJEŽBE 3 BIPOLARNI TRANZISTORI. Slika 1. Postoje npn i pnp bipolarni tranziostori i njihovi simboli su dati na slici 2 i to npn lijevo i pnp desno.

PRIMJER 3. MATLAB filtdemo

Zadaci iz Osnova matematike

Inženjerska grafika geometrijskih oblika (5. predavanje, tema1)

numeričkih deskriptivnih mera.

Matematika 1 - vježbe. 11. prosinca 2015.

Ispitivanje toka i skiciranje grafika funkcija

DRUGI KOLOKVIJUM IZ MATEMATIKE 9x + 6y + z = 1 4x 2y + z = 1 x + 2y + 3z = 2. je neprekidna za a =

6 Polinomi Funkcija p : R R zadana formulom

Ispit održan dana i tačka A ( 3,3, 4 ) x x + 1

( , 2. kolokvij)

( x) ( ) ( ) ( x) ( ) ( x) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )

IZRAČUNAVANJE POKAZATELJA NAČINA RADA NAČINA RADA (ISKORIŠĆENOSTI KAPACITETA, STEPENA OTVORENOSTI RADNIH MESTA I NIVOA ORGANIZOVANOSTI)

KOMUTATIVNI I ASOCIJATIVNI GRUPOIDI. NEUTRALNI ELEMENT GRUPOIDA.

1. Rješavanje diskretne Poissonove jednadžbe

1. Osnovne operacije s kompleksnim brojevima

6 Primjena trigonometrije u planimetriji

KONVEKSNI SKUPOVI. Definicije: potprostor, afin skup, konveksan skup, konveksan konus. 1/5. Back FullScr

Transcript:

Numerička analiza 24. predavanje Saša Singer singer@math.hr web.math.hr/~singer PMF Matematički odjel, Zagreb NumAnal 2009/10, 24. predavanje p.1/45

Sadržaj predavanja Algoritmi za računanje svih svojstvenih vrijednosti simetričnih matrica: Jacobijev algoritam. Algoritam podijeli pa vladaj. Algoritam za svojstvene vrijednosti simetričnih matrica u zadanom intervalu. Algoritam bisekcije. NumAnal 2009/10, 24. predavanje p.2/45

Jacobijev algoritam NumAnal 2009/10, 24. predavanje p.3/45

Dijagonalizacija rotacijom u ravnini Simetričnu 2 2 matricu A = [ a ii a ij a ij a jj ] možemo dijagonalizirati korištenjem jedne rotacije R(θ), [ ] A a ii 0 = = R(θ)AR (θ), 0 a jj gdje je R(θ) = [ cosθ sin θ sin θ cosθ ]. NumAnal 2009/10, 24. predavanje p.4/45

Računanje kuta Uz kraće oznake c := cos θ, s := sin θ, t := tg θ, množenjem dobivamo: [ ] [ ] [ ] c s a ii a ij c s s c s c = [ a ij a jj a ii c 2 2a ij sc + a jj s 2 (c 2 s 2 )a ij + (a ii a jj )sc (c 2 s 2 )a ij + (a ii a jj )sc a ii s 2 + 2a ij sc + a jj c 2 ]. Da bismo poništili element na mjestu (1, 2) (istovremeno, i element na mjestu (2, 1)), moramo naći sinus i kosinus kuta za koji je (c 2 s 2 )a ij + (a ii a jj )sc = 0. NumAnal 2009/10, 24. predavanje p.5/45

Računanje kuta Primijetimo da je cos(2θ) = c 2 s 2 i sin(2θ) = 2sc, pa prethodnu jednadžbu možemo napisati kao cos(2θ)a ij + 1 2 sin(2θ)(a ii a jj ) = 0. Odatle možemo izračunati ζ := ctg(2θ) (bolje od tg(2θ) = 1/ζ) ζ := ctg(2θ) = a jj a ii 2a ij. Sada prvo treba izračunati t, pa zatim c i s. Idemo redom: ctg(2θ) = cos(2θ) sin(2θ) = c2 s 2 2cs = c2 s 2 2cs : c2 c = 1 t2. 2 2t NumAnal 2009/10, 24. predavanje p.6/45

Računanje kuta Budući da ζ znamo, treba riješiti kvadratnu jednadžbu po t Njezina rješenja su t 2 + 2ζt 1 = 0. t 1,2 = 2ζ ± 4ζ 2 + 4 2 = ζ ± ζ 2 + 1. Po apsolutnoj vrijednosti manji od dva (tangensa) kuta, tj. t 1 (to će nam poslije trebati kod dokaza konvergencije), je t = { ζ + ζ2 + 1, za ζ 0, ζ ζ 2 + 1, za ζ < 0, NumAnal 2009/10, 24. predavanje p.7/45

Računanje kuta što možemo pisati kao t = ζ + sign(ζ) ζ 2 + 1 = sign(ζ) ( ζ + ζ 2 + 1 ). Jedino, ne smijemo tako računati, doći će do katastrofalnog kraćenja! Katastrofalno kraćenje ćemo izbjeći deracionalizacijom izraza t = sign(ζ) ( ζ + ζ 2 + 1 ) ζ + ζ 2 + 1 ζ + ζ 2 + 1 = sign(ζ) ζ + ζ 2 + 1. Posljednji izraz se stabilno računa. Autor algoritma: H. Rutishauser. NumAnal 2009/10, 24. predavanje p.8/45

Računanje kuta Sad možemo izračunati c i s. Iz c 2 + s 2 = 1, dijeljenjem s c 2, dobivamo 1 + t 2 = 1/c 2, odnosno, c 2 = 1 1 + t 2. Budući da smo izabrali manji od dva kuta, onda je njegov kosinus pozitivan, pa je c = 1 1 + t 2. Konačno, s ćemo izračunati kao t s = ct =. 1 + t 2 NumAnal 2009/10, 24. predavanje p.9/45

Dijagonalni elementi I formulu za dijagonalne elemente možemo poljepšati : a ii = a ii c 2 2a ij sc + a jj s 2 = a ii c 2 + a ii s 2 a ii s 2 2a ij sc + a jj s 2 = a ii + s 2 (a jj a ii ) 2a ij sc = a ii + 2a ij s 2 ctg(2θ) 2a ij sc = a ii + 2a ij s 2c2 s 2 2sc = a ii a ij t(s 2 c 2 + 2c 2 ) = a ii a ij t, a jj = a ii s 2 + 2a ij sc + a jj c 2 = a jj + a ij t. 2a ij sc = a ii + a ij t(c 2 s 2 ) 2a ij sc Drugu relaciju dobijemo, ili na isti način kao i prvu, ili korištenjem svojstva da sličnosti ne mijenjaju trag matrice. NumAnal 2009/10, 24. predavanje p.10/45

Ravninske rotacije Tehniku koju smo primijenili za dijagonalizaciju simetričnih matrica reda 2, želimo primijeniti i na simetrične matrice reda n > 2. Problem: Konstrukcija n-dimenzionalnih rotacija? Postoje 3-dimenzionalne rotacije (Euleovi kutovi). Bojanczyk i Lutoborski su ih iskoristili za svoju modifikaciju Jacobijevog algoritma. Uobičajeno umjesto rotacija u n dimenzija, koristiti puno ravninskih rotacija. Definicija. Ravninska rotacija R(i,j,θ) u ravnini (i,j) je jedinična matrica, osim na presjecima i-tog i j-tog retka i stupca, gdje je jednaka R(θ). NumAnal 2009/10, 24. predavanje p.11/45

Ravninske rotacije Jacobijev algoritam Ideja Jacobijevog algoritma: Nekim redom prolaziti po gornjem (ili donjem trokutu) simetrične matrice i poništavati elemente na mjestima (i,j) korištenjem ravninskih rotacija. Što će se promijeniti obzirom na 2 2 algoritam? Algoritam je nužno iterativan. Formule za transformaciju elemenata a ii i a jj ostaju iste. Mijenjaju se i-ti i j-ti redak i stupac. Za k i,j imamo a ik = c a ik s a jk, a jk = s a ik + c a jk, a ki = c a ki + s a kj, a kj = s a ki + c a kj. NumAnal 2009/10, 24. predavanje p.12/45

Ravninske rotacije transformirani elementi Ipak, treba pamtiti samo polovinu tih promjena (simetrija). Obično se pamte samo one u gornjem trokutu kao na slici. Konačno, primijetimo da prije i poslije transformacije vrijedi (a ik) 2 + (a jk) 2 = a 2 ik + a 2 jk, i,j k. NumAnal 2009/10, 24. predavanje p.13/45

Ravninske rotacije transformirani elementi Ipak, treba pamtiti samo polovinu tih promjena (simetrija). Obično se pamte samo one u gornjem trokutu kao na slici. Konačno, primijetimo da prije i poslije transformacije vrijedi (a ik) 2 + (a jk) 2 = a 2 ik + a 2 jk, i,j k. NumAnal 2009/10, 24. predavanje p.13/45

Ravninske rotacije transformirani elementi Ipak, treba pamtiti samo polovinu tih promjena (simetrija). Obično se pamte samo one u gornjem trokutu kao na slici. Konačno, primijetimo da prije i poslije transformacije vrijedi (a ik) 2 + (a jk) 2 = a 2 ik + a 2 jk, i,j k. NumAnal 2009/10, 24. predavanje p.13/45

Redoslijed obilaska i konvergencija algoritma Možemo li elemente gornjeg trokuta obilaziti bilo kojim redom da bismo postigli konvergenciju prema dijagonalnoj formi? Na žalost, odgovor je ne možemo. Za neke strategije može se dokazati konvergencija: strategija koja poništava najveći vandijagonalni element, strategija koja ciklički poništava sve elemente po retcima (1, 2),..., (1,n), (2, 3),..., (2,n),..., (n 1,n), ili po stupcima (1, 2), (1, 3), (2, 3),..., (1,n),..., (n 1,n), strategije koje su ekvivalentne prethodnim dvjema, tzv. wavefront strategije,... NumAnal 2009/10, 24. predavanje p.14/45

Konvergencija poništi najveći element Prvo, prisjetimo se da je Frobeniusova norma unitarno ekvivalentna, tj. za unitarne matrice U i V vrijedi UAV F = A F. Posebno, to vrijedi i za svaku ortogonalnu matricu Q, tj. QAQ F = A F. Umjesto same norme A F, možemo promatrati kvadrat norme A 2 F. Njega možemo rascijepiti u dva dijela: n n 1 n d(a) = a 2 ii, 2 off(a) = a 2 ij, i=1 tzv. dijagonalni i vandijagonalni dio. i=1 j=i+1 NumAnal 2009/10, 24. predavanje p.15/45

Konvergencija poništi najveći element Za bilo koju ravninsku rotaciju R(p,q,θ) u ravnini (p,q) vrijedi d(r(p,q,θ)ar (p,q,θ)) = d(a) + 2 ( a 2 pq (novi a pq) 2). Ako se radi o Jacobijevoj rotaciji, tj. onoj koja djeluje i poništava u (i,j) ravnini, onda je off(r(i,j,θ)ar (i,j,θ)) = off(a) a 2 ij. To pokazuje da vandijagonalna norma monotono pada, tj. sigurno konvergira, samo je pitanje je li njezin limes jednak 0 ili ne. NumAnal 2009/10, 24. predavanje p.16/45

Konvergencija poništi najveći element Ako se tzv. pivotni elementi a ij (to su oni za poništavanje) u svakom koraku uzimaju tako da je onda izlazi a 2 ij prosjek { a 2 pq p < q } = 2 off(a) n(n 1), off(r(i,j,θ)ar (i,j,θ)) ( 1 pa off(a) sigurno konvergira u nulu. ) 2 off(a), n(n 1) Prethodna relacija osigurava konvergenciju Jacobijevog algoritma prema dijagonalnoj formi. Treba još pokazati da ta dijagonalna forma predstavlja baš svojstvene vrijednosti matrice A. NumAnal 2009/10, 24. predavanje p.17/45

Teorem Wielandt Hoffman Teorem (Wielandt Hoffman). Neka su D i E kvadratne matrice reda n i neka su matrice D i D + E obje normalne. Neka su λ 1,...,λ n svojstvene vrijednosti od D i neka su ˆλ 1,..., ˆλ n svojstvene vrijednosti od D + E, u nekom poretku. Tada postoji permutacija indeksa π, takva da vrijedi ( n ) 1/2 ˆλ π(i) λ i 2 E F. i=1 NumAnal 2009/10, 24. predavanje p.18/45

Primjena teorema Wielandt Hoffman Ako za D uzmemo dijagonalu od A, a za E izvandijagonalne elemente od A, tako da je D + E = A, prethodni teorem daje n ˆλ π(i) a ii 2 ˆλ π(k) a kk 2 2 off(a). k=1 Dakle, kad off(a) 0, dijagonalni elementi od A konvergiraju prema nekoj permutaciji svojstvenih vrijednosti od A. Taj poredak π se neće mijenjati u kasnijim fazama algoritma, kada je off(a) 1 4 min λ p λ q 2 =: σ 2, pri čemu se minimum uzima po različitim svojstvenim vrijednostima. Dakle, imamo pravu konvergenciju. NumAnal 2009/10, 24. predavanje p.19/45

Kvadratična konvergencija Jacobijev algoritam (asimptotski) kvadratično konvergira za jednostruke svojstvene vrijednosti. Što to znači? Kada je max i j a ij η, za neki η < σ (v. prethodnu foliju za definiciju separacije σ), onda vrijedi max i j novi a ij η2 (n 1) σ = O(η 2 ), kad η 0. I za višestruke svojstvene vrijednosti može se postići kvadratična konvergencija. Uvjet za to je da iste svojstvene vrijednosti moraju biti poredane jedna za drugom na dijagonali (tj. u bloku ). NumAnal 2009/10, 24. predavanje p.20/45

Drugi Jacobijevi algoritmi Osim za simetrične (realne) matrice, Jacobijev algoritam može se napisati i za hermitske (kompleksne) matrice, samo je ključna 2 2 podmatrica tada jednaka [ ] cosθ sin θ e iα. sin θ e iα cosθ Postoji i Jacobi-nalik algoritam za parove matrica, od kojih su obje simetrične, a jedna je još i pozitivno definitna. U tom algoritmu se koriste i hiperboličke rotacije [ ch θ sh θ sh θ ch θ ]. NumAnal 2009/10, 24. predavanje p.21/45

Još o Jacobijevom algoritmu Zanimljivosti: Algoritam je dugo vremena bio zaboravljen, kao prespor, obzirom na QR algoritam. Revoluciju izazvao članak J. W. Demmela i K. Veselića 1992. godine, u kojem pokazuju da svojstvene vrijednosti izračunate Jacobijevim algoritmom mogu imati visoku relativnu točnost, što QR algoritam (u načelu) nema. Jacobijev algoritam se lako paralelizira, svodenjem na tzv. jednostrani algoritam (bit će još govora o tome kod singularnih vrijednosti). NumAnal 2009/10, 24. predavanje p.22/45

Algoritam podijeli pa vladaj NumAnal 2009/10, 24. predavanje p.23/45

Osnovno o algoritmu Algoritam podijeli pa vladaj (engl. divide and conquer ) autora J. J. M. Cuppena, objavljen je 1981. godine. Algoritam rekurzivno nalazi svojstvene vrijednosti trodijagonalnih matrica. Nakon toga koristi korekciju dobivenog rezultata matricom ranga 1. Tek 1995. su M. Gu i S. Eisenstat riješili kako taj algoritam treba stabilno računati svojstvene vektore. Algoritam se (uz diferencijalni qd algoritam) smatra najbržim algoritmom za računanje svojstvenih vrijednosti matrica. NumAnal 2009/10, 24. predavanje p.24/45

Konstrukcija algoritma Neka je T trodijagonalna matrica oblika a 1 b 1. b 1........ a m 1 b m 1 b m 1 a m b m T = b m a m+1 b m+1. b m+1........ a n 1 b n 1. b n 1 a n NumAnal 2009/10, 24. predavanje p.25/45

Konstrukcija algoritma Matricu T možemo napisati kao a 1 b 1. b 1........ a m 1 b m 1 b m 1 a m b m a m+1 b m b m+1. b m+1........ a n 1 b n 1 + b n 1 a n NumAnal 2009/10, 24. predavanje p.26/45

Konstrukcija algoritma + b m b m b m b m, NumAnal 2009/10, 24. predavanje p.27/45

Konstrukcija algoritma odnosno, kao pri čemu je [ ] T 1 0 T = + b m vv T, 0 T 2 v T = [ 0,..., 0, 1 1, 0,..., 0 ]. Traženje svojstvenih vrijednosti metodom podijeli pa vladaj sastoji se od dva tridijagonalna svojstvena problema, za T 1 i T 2, i njihovog efikasnog ažuriranja matricama ranga 1. Neka su T 1 = Q 1 Λ 1 Q T 1 i T 2 = Q 2 Λ 2 Q T 2 svojstveni rastavi matrica T 1 i T 2. NumAnal 2009/10, 24. predavanje p.28/45

Konstrukcija algoritma Svojstvene vrijednosti matrice T možemo izračunati ovako [ ] [ ] T 1 T = + b m vv T Q = 1 Λ 1 Q T 1 + b T 2 Q 2 Λ 2 Q T m vv T 2 [ ] ([ ] ) [ Q = 1 Λ 1 + b m uu T Q 2 Λ 2 Q T 1 Q T 2 ], gdje je, iz oblika vektora v, [ ] [ Q T 1 posljednji stupac matrice Q T 1 u = v = Q T 2 prvi stupac matrice Q T 2 ]. NumAnal 2009/10, 24. predavanje p.29/45

Konstrukcija algoritma Problem: nalaženje svojstvenih vrijednosti λ matrice oblika D = D + ρuu T, pri čemu je D dijagonalna, ρ = b m, a u je poznati vektor. Prvo pretpostavimo da je matrica D λi nesingularna, pa karakteristični polinom matrice D glasi det(d + ρuu T λi) = det[ (D λi) (I + ρ(d λi) 1 uu T ) ]. Iz pretpostavke o nesingularnosti D λi izlazi da mora biti det(i + ρ(d λi) 1 uu T ) = 0 kad god je λ svojstvena vrijednost matrice D. NumAnal 2009/10, 24. predavanje p.30/45

Konstrukcija algoritma Nadalje, matrica I + ρ(d λi) 1 uu T je jedinična matrica plus matrica ranga 1, za koju se lako računa determinanta. Lema. Ako su x i y vektori iz R n, onda vrijedi det(i + xy T ) = 1 + y T x. Dokaz. Determinanta je produkt svih svojstvenih vrijednosti matrice, pa je n det(i + xy T ) = λ i (I + xy T ). S druge strane, I + xy T je polinom u matrici xy T, pa vrijedi i=1 λ i (I + xy T ) = 1 + λ i (xy T ), i = 1,...,n. NumAnal 2009/10, 24. predavanje p.31/45

Konstrukcija algoritma Dobivamo da je det(i + xy T ) = n i=1 ( 1 + λi (xy T ) ). Treba još naći svojstvene vrijednosti matrice xy T. Ako je x = 0 ili y = 0, onda je xy T = 0 (u R n ) i y T x = 0, pa tvrdnja očito vrijedi. Za x,y 0, matrica xy T ima rang jednak 1. Neka je λ 0 jedina svojstvena vrijednost matrice xy T različita od 0. Onda imamo det(i + xy T ) = 1 + λ 0. Svojstvenu vrijednost λ 0 nalazimo iz traga matrice. NumAnal 2009/10, 24. predavanje p.32/45

Konstrukcija algoritma Trag matrice xy T jednak je s jedne strane, zbroju svih dijagonalnih elemenata te matrice, s druge strane, zbroju svih svojstvenih vrijednosti te matrice = λ 0. Odavde slijedi λ 0 = tr(xy T ) = n x i y i = y T x. i=1 Kad to uvrstimo u formulu za determinantu, izlazi det(i + xy T ) = 1 + λ 0 = 1 + y T x. NumAnal 2009/10, 24. predavanje p.33/45

Konstrukcija algoritma Iz prethodne leme, jer je D λi dijagonalna, izlazi det(i + ρ(d λi) 1 uu T ) = 1 + ρu T (D λi) 1 u n = 1 + ρ i=1 u 2 i d i λ =: f(λ). Jednadžba f(λ) = 0 obično se zove sekularna jednadžba, a vrijednosti λ za koje je f(λ) = 0 su svojstvene vrijednosti. U najjednostavnijem slučaju su svi d i različiti, a svi u i 0. Budući da je f monotona (f i f fiksnog znaka), onda Newtonova metoda za nalaženje nultočaka konvergira, ali konvergencija može biti vrlo spora, ako su d i vrlo maleni. NumAnal 2009/10, 24. predavanje p.34/45

Svojstveni vektori Lema. Ako je α svojstvena vrijednost matrice D + ρuu T, onda je (D αi) 1 u svojstveni vektor za tu svojstvenu vrijednost. Dokaz. Provodi se direktno po definiciji svojstvenih vektora. Nažalost, prethodna formula za računanje svojstvenih vektora je numerički nestabilna, pa svojstveni vektori mogu biti neortogonalni. Zato se oni računaju na drugi način. NumAnal 2009/10, 24. predavanje p.35/45

Algoritam Za simetričnu trodijagonalnu matricu T svojstvene vrijednosti i vektori T = QΛQ T dobivaju se rekurzivnim algoritmom. proc dc eig (T, Q, Λ) if n = 1 return Q = 1, Λ = T else form T = diag(t 1,T 2 ) + b m vv T call proc dc eig (T 1, Q 1, Λ 1 ) call proc dc eig (T 2, Q 2, Λ 2 ) form D = D + ρuu T from Q 1, Λ 1, Q 2, Λ 2 find eigenvalues Λ and eigenvectors Q of D form Q = diag(q 1,Q 2 ) Q return Q and Λ end if NumAnal 2009/10, 24. predavanje p.36/45

Bisekcija i inverzna iteracija NumAnal 2009/10, 24. predavanje p.37/45

Osnovno o algoritmu Metoda bisekcije služi za nalaženje svojstvenih vrijednosti hermitskih matrica u nekom zadanom poluotvorenom intervalu [a,b. Teorem koji se koristi je Sylvesterov teorem o inerciji. Definicija. Inercija hermitske/simetrične matrice A je trojka brojeva (n,z,p), pri čemu je n broj negativnih, z broj nula, a p broj pozitivnih svojstvenih vrijednosti matrice A. Teorem (Sylvesterov teorem o inerciji). Neka je A simetrična matrica, a X nesingularna. Onda matrice A i X T AX imaju istu inerciju. Transformacija A X T AX zove se kongruencija. NumAnal 2009/10, 24. predavanje p.38/45

Konstrukcija algoritma Na drugi način, inerciju matrice A wi možemo izraziti i ovako: Neka je n je broj svojstvenih vrijednosti matrice A manjih od w, z je broj svojstvenih vrijednosti matrice A jednakih w, p broj svojstvenih vrijednosti matrice A većih od w. n b = broj svojstvenih vrijednosti od A manjih od b, tj. broj negativnih svojstvenih vrijednosti matrice A bi, n a = broj svojstvenih vrijednosti od A manjih od a, tj. broj negativnih svojstvenih vrijednosti matrice A ai. Iz prethodnih razmatranja odmah slijedi da je broj svojstvenih vrijednosti matrice A u intervalu [a,b jednak n b n a. NumAnal 2009/10, 24. predavanje p.39/45

Konstrukcija algoritma Kako se taj broj n b n a može izračunati? Napravimo li LDL T faktorizaciju matrice A wi, gdje je L donjetrokutasta matrica s jedinicama na dijagonali, odmah čitamo inerciju matrice A wi, jer ona piše na dijagonali matrice D u predznacima tih elemenata (Sylvesterov teorem). Označimo s neg ev(a,w) = n w. Onda je neg ev(a,w) = broj negativnih dijagonalnih elemenata matrice D. Primijetite da bi računanje s punim matricama bilo skupo, pa se, umjesto toga, brzo računa za trodijagonalne matrice, uz uvjet da se ne pivotira u LDL T faktorizaciji. NumAnal 2009/10, 24. predavanje p.40/45

Algoritam bisekcije ideja Ideja algoritma: Algoritam se sastoji u prebrajanju svojstvenih vrijednosti na intervalu, koji se svaki puta smanjuje na polovinu svoje prethodne duljine. Ako na intervalu [a,b ima svojstvenih vrijednosti, on se raspolovi, i prebroji se koliko je svojstvenih vrijednosti ostalo u svakoj polovini intervala. Ako je duljina (raspolovljenog) intervala veća od tolerancije, i on sadrži svojstvene vrijednosti, stavljamo ga u listu za daljnje raspolavljanje. Ako je duljina intervala manja od zadane tolerancije, a on ima svojstvenih vrijednosti, izbacujemo ga s liste, a sredinu intervala proglasimo svojstvenom vrijednošću. Postupak ponavljamo dok lista intervala nije prazna. NumAnal 2009/10, 24. predavanje p.41/45

Algoritam bisekcije Metoda bisekcije za danu simetričnu matricu A nalazi sve svojstvene vrijednosti unutar intervala [a,b, s tim da se sve svojstvene vrijednosti koje se razlikuju za manje od tol smatraju jednakima. /* work list je lista intervala za bisekciju */ n a = neg ev(a,a) n b = neg ev(a,b) if n a = n b quit /* nema sv. vrijednosti unutar */ else put [a,n a,b,n b ] onto work list end if while work list do remove [low,n low,up,n up ] from work list NumAnal 2009/10, 24. predavanje p.42/45

Algoritam bisekcije if up low < tol then print n up n low sv. vrijednosti u [up,low else mid = (up + low)/2 n mid = neg ev(a,mid) if n mid > n low put [low,n low,mid,n mid ] onto work list end if if n up > n mid put [mid,n mid,up,n up ] onto work list end if end if end while NumAnal 2009/10, 24. predavanje p.43/45

Bisekcija za trodijagonalne matrice Ako je A wi trodijagonalna, onda je njezina LDL T faktorizacija bez pivotiranja a 1 w b 1 b 1 a 2 w... A wi =...... b n 1 = LDLT, b n 1 a n w gdje je L = 1 l 1......... l n 1 1, D = d 1...... d n. NumAnal 2009/10, 24. predavanje p.44/45

Bisekcija za trodijagonalne matrice Usporedivanjem elemenata, dobivamo početak rekurzije a zatim za i = 2,...,n. d 1 = a 1 w, l 2 i 1d i 1 + d i = a i w, d i 1 l i 1 = b i 1, Supstituiramo li l i 1 iz druge jednadžbe u prvu, dobivamo rekurziju d i = (a i w) b2 i 1 d i 1, i = 2,...,n. Iako se čini opasnim, ova rekurzija je, zbog trodijagonalnosti matrice, vrlo stabilna. NumAnal 2009/10, 24. predavanje p.45/45