Αριθµητική Γραµµική Αλγεβρα Κεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών και Ιδιοδιανυσµάτων ΕΚΠΑ 2 Απριλίου 205 Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων / 50
Αριθµητικός Υπολογισµός Ιδιοτιµών και Ιδιοδιανυσµάτων ίνεται ένας πίνακας A C n n και Ϲητούνται να προσδιορισθούν οι ιδιοτιµές λ i, i = ()n και τα αντίστοιχα ιδιοδιανύσµατα x (i), i = ()n του πίνακα A. Ax = λx det(a λi) = 0 Επίλυση της πολυωνυµικής εξίσωσης (εύρεση ιδιοτιµών) det(a λi) = ( ) N λ N + c λ (N ) + + c N λ + c }{{ N = 0 () } p(λ) Επίλυση του οµογενούς γραµµικού συστήµατος (εύρεση ιδιοδιανυσµάτων) (A λi)x = 0 (2) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 2 / 50
Μέθοδος των δυνάµεων (Power method) Εστω ότι ο πίνακας A έχει n γραµµικά ανεξάρτητα ιδιοδιανύσµατα x (i), i = ()n και αντίστοιχες ιδιοτιµές λ i, i = ()n µε λ > λ 2 λ 3 λ n Τότε έχουµε Ax (i) = λ i x (i), i =, 2,, n Τα x (i) αποτελούν µια ϐάση του C n και αν y (0) C n τότε y (0) = n a i x (i), i= a i C Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 3 / 50
Μέθοδος των δυνάµεων Σχηµατίζουµε την επαναληπτική µέθοδο y (m+) = Ay (m), m = 0,, 2, Ετσι έχουµε y (m+) = Ay (m) = A 2 y (m ) = = A m+ y (0) Αρα ισχύει y (m+) = A m+ y (0) οπότε έχουµε n y (m+) = A m+ ( a i x (i) ) = i= n a i A m+ x (i) = i= n i= a i λ m+ i x (i) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 4 / 50
Μέθοδος των δυνάµεων y (m+) = λ m+ [ n i= ( ) ] m+ λi a i x (i) λ y (m) = λ m [ n i= ( ) ] m λi a i x (i) λ y (m+) j y (m) j = λ m+ λ m [ [ a x () j + a x () j + n ( λi a i i=2 n i=2 λ a i ( λi λ ) m+ x (i) j ] ) m x (i) j ] Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 5 / 50
Μέθοδος των δυνάµεων y (m+) j lim m y (m) j = λ y (m) lim = m λ m a x () Ταχύτητα σύγκλισης Εξαρτάται από τις σταθερές a i και τους λόγους λ 2 λ, λ 3 λ, λ n λ Οσο µικρότεροι είναι οι λόγοι αυτοί τόσο ταχύτερη είναι η σύγκλιση της µεθόδου. Ιδιαίτερα αν λ2 λ είναι κοντά στη µονάδα, τότε η σύγκλιση πιθανόν να είναι πολύ αργή. Θεωρητικά αν τύχει y (0) : a = 0 και λ 2 > λ 3 λ 4 λ n τότε η µέθοδος ϑα συγκλίνει στην λ 2 και σε ένα πολλαπλάσιο του x (2). Στην πράξη όµως λόγω των σφαλµάτων στρογγύλευσης δηµιουργείται µια µικρή Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 6 / 50
Περίπτωση: λ = λ 2 και λ 2 > λ j, j = 3, 4, n Τότε έχουµε: y (m) = λ m [ a x () + a 2 x (2) + Αν a + a 2 0, τότε παρόµοια προκύπτουν : y (m+) j lim m y (m) j y (m) lim m λ m n i=3 = λ = a x () + a 2 x (2) ( ) ] m λi a i x (i) λ δηλαδή ένα ιδιοδιάνυσµα που αντιστοιχεί στην ιδιοτιµή λ. Στην πράξη για να ϐρεθεί ένα ιδιοδιάνυσµα µη συγγραµµικό προς το a x () + a 2 x (2) που αντιστοιχεί στην ίδια ιδιοτιµή λ αλλάζουµε το αρχικό διάνυσµα y (0). Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 7 / 50
Περίπτωση: λ = λ 2 y (m) = λ m [ και λ 2 > λ j, j = 3, 4, n a x () + ( ) m a 2 x (2) + n i=3 ( ) ] m λi a i x (i) λ από την οποία δεν µπορεί να ϐρεθεί η λ. Οµως µπορούν να σχηµατισθούν οι εξής δύο ακολουθίες : [ n ( ) ] 2m y (2m) = λ 2m a x () + a 2 x (2) λi + a i x (i), λ i=3 [ n ( ) ] 2m+ y (2m+) = λ 2m+ a x () a 2 x (2) λi + a i x (i), λ m = 0,, 2, οπότε προκύπτει : y (2m+2) j lim m y (2m) j από την οποία υπολογίζουµε τις τιµές λ. i=3 = λ 2 Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 8 / 50
Υπολογισµός ιδιοδιανυσµάτων Για την εύρεση των αντιστοίχων ιδιοδιανυσµάτων έχουµε και y (2m) lim m λ 2m y (2m+) lim m λ 2m+ = a x () + a 2 x (2) (2) = a x () a 2 x (2) (22) Με πρόσθεση και αφαίρεση κατά µέλη ϐρίσκουµε τα ιδιοδιανύσµατα a x () και a 2 x (2) που αντιστοιχούν στις ιδιοτιµές λ και λ 2 (= λ ). Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και205 Ιδιοδιανυσµάτων 9 / 50
Περίπτωση: λ = r + iq και λ 2 = r iq = λ Αν A R nn τότε ειναι x (2) = x () Επίσης αν y (0) το αρχικό πραγµατικό διάνυσµα τότε έχουµε a 2 = a. Ετσι µετά από m επαναλήψεις έχουµε: y (m) = λ m [ = λ m a x () + [ ( λ λ a x () + ) m n ( ) ] m a x () λi + a i x (i) λ i=3 ) m ] a x () + ɛ (m) ( λ λ όπου ή ɛ (m) = lim m y(m) = λ m n i=3 [ ( ) m λi a i x (i) λ a x () + ( λ λ ) m a x () ]. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 0 / 50
Υπολογισµός των ιδιοτιµών και ιδιοδιανυσµάτων Αν λ και λ είναι οι ϱίζες της εξίσωσης λ 2 + bλ + c = 0, b, c R τότε αφού έχουµε ή n n y (m) = a i A m x (i) = a i λ m i x (i) i= i= λ m+2 + bλ m+ + cλ m = 0 y (m+2) + by (m+) + cy (m) = 0 όπου υποθέτουµε ότι lim m ɛ(m+i) = 0, i = 0,, 2. Οι σταθερές b και c µπορούν να υπολογισθούν από δύο οποιεσδήποτε εξισώσεις. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων / 50
Μια καλύτερη διαδικασία για τον υπολογισµό των σταθερών b και c Χρήση όλων των n εξισώσεων ως εξής: Υπολογισµός των b και c έτσι ώστε η ποσότητα n i= [ y (m+2) i + by (m+) i ] + cy (m) 2 i να είναι η ελάχιστη (γραµµικό πρόβληµα ελαχίστων τετραγώνων). Υπολογισµός των λ και λ 2 (= λ ) Υπολογισµός των αντιστοίχων ιδιοδιανυσµάτων x () και x (2) (= x () ) για δύο διαδοχικά διανύσµατα y (m) και y (m+). Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 2 / 50
Ετσι έχουµε : y (m) lim m λ m = a x () + ( λ λ ) m a x () και y (m+) lim m λ m+ = a x () + ( λ λ ) m+ a x () λ Πολ/ζοντας επί λ και αφαιρώντας κατά µέλη υπολογίζεται το ιδιοδιάνυσµα a x () που αντιστοιχεί στην ιδιοτιµή λ. Για τον υπολογισµό του ιδιοδιανύσµατος που αντιστοιχεί στην ιδιοτιµή λ 2 αρκεί να πάρουµε το συζυγές του a x (). Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 3 / 50
Γενίκευση Η ανωτέρω διαδικασία µπορεί να γενικευθεί έτσι ώστε να υπολογίζει οποιονδήποτε αριθµό άνισων ιδιοτιµών που έχουν το ίδιο µέτρο, ή τις ιδιοτιµές λ, λ 2,, λ k πραγµατικές ή µιγαδικές οι οποίες να ικανοποιούν τις σχέσεις λ λ 2 λ k > > λ k+ λ n Οµως είναι γνωστό ότι υπάρχουν ουσιαστικά προβλήµατα αριθµητικής αστάθειας µε τη µέθοδο των ελαχίστων τετραγώνων για k 8. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 4 / 50
Παρατήρηση y (m) = λ m [ n i= ( ) ] m λi a i x (i) = λ m λ [ a x () + n i=2 ( ) ] m λi a i x (i) λ και επειδή λ i λ < τότε ενώ για i = 2()n, προκύπτει ότι lim m y(m) = λ m a x () (4) για λ > lim m y(m) j = ± για λ < lim m y(m) j = 0 Αρα εκτελούνται πράξεις µε απόλυτα πάρα πολύ µεγάλους ή πάρα πολύ µικρούς αριθµούς. Αυτό αποφεύγεται µόνο στην περίπτωση που είναι λ. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 5 / 50
Τροποποιηµένη µέθοδος των δυνάµεων y (m) j m = max j y (m) j = y (m) z (m) = y (m) j m y (m) y (m+) = Az (m) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 6 / 50
Τροποποιηµένη µέθοδος των δυνάµεων [ y (m) = y (0) j 0 y () y (m ) λ m a x () + j m y (m ) j m οπότε έχουµε [ j y (0) j 0 y () j z (m ) = y (m 2) j m 2 n i=2 y (m ) j m y (m ) = λ m ( a x () + n i=2 ( ) ] m λi a i x (i) λ ( ) )] m λi a i x (i) λ lim m y (m) j m z (m ) j m = λ Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 7 / 50
αλλά z (m ) j m = οπότε προκύπτει και lim m y(m) j m = λ lim m z(m) = cx () όπου c σταθερά τέτοια ώστε η απόλυτα µεγαλύτερη συνιστώσα cx () να είναι µονάδα. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 8 / 50
Αλγόριθµος της µεθόδου των δυνάµεων Β. ιάβασε n, ɛ, maxiter Για i = ()n επανάλαβε ιάβασε y i για j = ()n επανάλαβε ιάβασε a ij Β2. m = 0 λ0 = 0 Β3. Εύρεση του µικρότερου ακέραιου p : y p = max y i i=()n Β4. Για i = ()n επανάλαβε z i = y p y i Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 9 / 50
Β5. Οσο ισχύει m maxiter επανάλαβε Β5. Για i = ()n επανάλαβε n y i = j= a ijz j Β5.2 Εύρεση του µικρότερου ακέραιου p : y p = max y i i=()n Β5.3 λ = y p Β5.4 Αν y p = 0 τότε Τύπωσε ( ο A έχει ιδιοτιµή 0, επέλεξε νέο αρχικό διανυσµα και άρχισε πάλι τη διαδικασία ). Τέλος. Β5.5 Για i = ()n επανάλαβε z i = y p y i Β5.6 Αν λ λ0 < ɛ τότε Τύπωσε (λ, z) Τέλος. Β5.7 m = m + λ0 = λ Β6. Τύπωσε( Οχι σύγκλιση µετά από µαξιτερ επαναλήψεις ) Β7. Τέλος Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 20 / 50
Εφαρµογή του αλγορίθµου της µεθόδου των δυνάµεων ίνεται ο πίνακας A = 4 4 0 5 3 0 0 2 (µε ιδιοτιµές λ = 6, λ 2 = 3, λ 3 = 2). Εφαρµόστε δύο ϐήµατα της µεθόδου των δυνάµεων (µε αρχικό διάνυσµα [,, ] T ) για τον υπολογισµό της µεγαλύτερης κατά µέτρο ιδιοτιµής και του αντιστοίχου ιδιοδιανύσµατος του πίνακα Α.. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 2 / 50
Εφαρµογή m = 0 λ0 = 0 y (0) = max{,, } = άρα p = z (0) = [,, ] T y () = Az (0) = [0, 8, ] T y () = max{ 0, 8, } = 0 άρα p = λ = y () = 0 z () = y () y () = [, 0.8, 0.] T λ λ0 = 0 0 = 0 < ɛ = 0.00 ΟΧΙ Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 22 / 50
m = λ0 = λ = 0 y (2) = Az () = [7.2, 5.4, 0.8] T y (2) = max{ 7.2, 5.4, 0.8 } = 7.2 άρα p = m = 2 λ = y (2) = 7.2 z (2) = y (2) y (2) = [, 0.75, 0.] T λ λ0 = 7.2 0 = 2.8 < ɛ = 0.00 ΟΧΙ λ0 = λ = 7.2. κ.ο.κ. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 23 / 50
Υπολογισµός της µικρότερης κατά µέτρο ιδιοτιµής Αν λ n < λ n λ τότε ο υπολογισµός της µικρότερης κατά µέτρο ιδιοτιµής λ n γίνεται ως εξής : Επειδή Ax = λx και A x = λ x και λ n > λ i εφαρµόζεται η µέθοδος των δυνάµεων y (m+) = A y (m), m = 0,, 2, ή Ay (m+) = y (m), m = 0,, 2, δηλ. η επίλυση των γραµµικών συστηµάτων Ay () = y (0), Ay (2) = y (), Ay (3) = y (2), Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 24 / 50
Τεχνικές επιτάχυνσης της µεθόδου των δυνάµεων Μέθοδος των πηλίκων του Rayleigh Αν A πραγµατικός και συµµετρικός πίνακας τότε είναι δυνατόν να επιταχυνθεί η σύγκλιση της µεθόδου των δυνάµεων προς την µεγαλύτερη κατά µέτρο ιδιοτιµή χρησιµοποιώντας την µέθοδο των πηλίκων του Rayleigh. Ορισµός Για κάθε διάνυσµα x 0 η ποσότητα (x, Ax) (x, x) λέγεται πηλίκο του Rayleigh που αντιστοιχεί στο x. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 25 / 50
Θεώρηµα των πηλίκων του Rayleigh Αν A πραγµατικός και συµµετρικός n n πίνακας και x 0 ένα αυθαίρετο διάνυσµα, τότε ισχύουν και λ = max x 0 (x, Ax) (x, x) = (x(), Ax () ) (x (), x () ) (x, Ax) λ n = min x 0 (x, x) = (x(n), Ax (n) ) (x (n), x (n) ) όπου λ, λ n είναι η µεγαλύτερη και η µικρότερη κατά µέτρο ιδιοτιµή αντίστοιχα και x (), x (n) τα αντίστοιχα ιδιοδιανύσµατα. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 26 / 50
Αλγόριθµος της µεθόδου των πηλίκων του Rayleigh Β. ιάβασε n, ɛ, maxiter Για i = ()n επανάλαβε ιάβασε y i για j = ()n επανάλαβε ιάβασε a ij Β2. m = 0 λ0 = 0 Β3. Για i = ()n επανάλαβε y i z i = y 2 Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 27 / 50
Β4. Οσο ισχύει m maxiter επανάλαβε Β4. Για i = ()n επανάλαβε n y i = j= a ijz j Β4.2 Για i = ()n επανάλαβε n λ = z iy i i= Β4.3 Αν y 2 = 0 τότε Τύπωσε ( ο A έχει ιδιοτιµή 0, επέλεξε νέο αρχικό διανυσµα και άρχισε πάλι τη διαδικασία ). Τέλος. Β4.4 Για i = ()n επανάλαβε yi z i = y 2 Β4.5 Αν λ λ0 < ɛ τότε Τύπωσε (λ, z) Τέλος. Β4.6 m = m + λ0 = λ Β5. Τύπωσε( Οχι σύγκλιση µετά από maxiter επαναλήψεις ) Β6. Τέλος Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 28 / 50
Χρήση των πηλίκων του Rayleigh για την επιτάχυνση της µεθόδου των δυνάµεων τότε y (m+) = Ay (m) καθόσον (y (m), y (m+) ) = (y (m), Ay (m) ) n = α 2 i λ 2m+ i i= (x (i), x (j) ) = δ ij = {, αν i = j 0, αν i j (3) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 29 / 50
Χρήση των πηλίκων του Rayleigh Επίσης οπότε έχουµε (y (m), y (m) ) = n i= α 2 i λ 2m i (4) Συµπέρασµα (y (m), Ay (m) ) (y (m), y (m) ) = λ + O(λ i /λ ) 2m ) (5) Το πηλίκο του Rayleigh που αντιστοιχεί στο y (m) γενικά ϑα συγκλίνει ταχύτερα (O(λ i /λ ) 2m ) από την µέθοδο των δυνάµεων (O(λ i /λ ) m ). Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 30 / 50
Μετατόπιση της αρχής των αξόνων Πρόταση Οι πίνακες A και A qi έχουν τα ίδια ιδιοδιανύσµατα και αν λ i είναι ιδιοτιµή του A τότε η αντίστοιχη ιδιοτιµή του A qi είναι η λ i q. Απόδειξη Αν Ax (i) = λ i x (i) τότε (A qi)x (i) = Ax (i) qix (i) = (λ i q)x (i) Αφαιρώντας λοιπόν την ποσότητα q από τα διαγώνια στοιχεία του A έχει σαν αποτέλεσµα την αφαίρεση της q από τις ιδιοτιµές. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 3 / 50
Μετατόπιση της αρχής των αξόνων Υποθέτουµε ότι ο A R nn έχει n γραµµικά ανεξάρτητα ιδιοδιανύσµατα και όλες οι ιδιοτιµές του είναι πραγµατικές και ικανοποιούν τη σχέση λ > λ 2 λ 3... λ n λ n (6) Αν αφαιρέσουµε την ποσότητα q R µε q / ( λ n, λ ) από τα διαγώνια στοιχεία του A, τότε ανεξάρτητα από την τιµή της q, η µεγαλύτερη κατά µέτρο ιδιοτιµή του A qi ϑα είναι πάντα η λ q ή η λ n q. Ας υποθέσουµε ότι ϑέλουµε να προσδιορίσουµε την λ. Οι ιδιοτιµές του A qi είναι οι µ i = λ i q. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 32 / 50
Μετατόπιση της αρχής των αξόνων Ταχύτητα σύγκλισης της µεθόδου των δυνάµεων Με τη χρήση του πίνακα A qi αντί του A, εξαρτάται από την ποσότητα max i λi q λ q (7) Οσο µικρότερη είναι η ανωτέρω ποσότητα, τόσο ταχύτερη η σύγκλιση της µεθόδου. Αρκεί δηλαδή να εκλέξουµε το q τέτοιο ώστε να ελαχιστοποιείται η ποσότητα Αποδεικνύεταιότι η ανωτέρω ποσότητα γίνεται ελάχιστη αν max λ i q (8) i q = /2(λ 2 + λ n). Οµοια εργαζόµενοι ϐρίσκουµε ότι η µέγιστη ταχύτητα σύγκλισης στην λ n q επιταχύνεται αν επιλέξουµε q = /2(λ + λ n ). Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 33 / 50
Παρατήρηση Με τη µέθοδο αυτή µπορούµε να υπολογίσουµε τόσο την λ όσο και την λ n, ωστόσο όµως χρειαζόµαστε κάποιες εκτιµήσεις των ιδιοτιµών λ 2 και λ n (ή των λ και λ n ) πράγµα που απαιτεί επιπλέον υπολογισµούς στην πράξη και είναι ένα µειονέκτηµα αυτής της µεθόδου. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 34 / 50
Η αντίστροφη µέθοδος των δυνάµεων Εχει το πλεονέκτηµα να υπολογίζει µια οποιαδήποτε ιδιοτιµή και το αντίστοιχο ιδιοδιάνυσµα και να έχει γρήγορη ταχύτητα σύγκλισης. Λήµµα Οι πίνακες A και A έχουν τα ίδια ιδιοδιανύσµατα και αν λ i είναι µια ιδιοτιµή του A τότε η αντίστοιχη ιδιοτιµή του A είναι η /λ i. Απόδειξη Αν Ax (i) = λ i x (i) τότε πολ/ζοντας από αριστερά µε A έχουµε λ i x (i) = A x (i). Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 35 / 50
Η αντίστροφη µέθοδος των δυνάµεων Ας υποθέσουµε ότι ο A R nn, έχει n γραµµικά ανεξάρτητα ιδιοδιανύσµατα και όλες οι ιδιοτιµές του είναι πραγµατικές. Επίσης αν γνωρίζουµε κάποια ποσότητα q R η οποία ϐρίσκεται πλησιέστερα στην απλή ιδιοτιµή λ k του A από οποιαδήποτε άλλη ιδιοτιµή του, τότε ϑα ισχύει λ k q < λ i q, i = ()n, i k (9) ηλαδή η ιδιοτιµή λ k q είναι η µικρότερη κατά απόλυτο τιµή ιδιοτιµή του πίνακα A qi. Συνεπώς, αν αντί του A χρησιµοποιήσουµε τον πίνακα (A qi) στο ϐασικό επαναληπτικό σχήµα της µεθόδου των δυνάµεων, τότε είναι δυνατόν να υπολογισθεί η ποσότητα και από λ k q αυτήν η λ k. Ο επαναληπτικός τύπος της µεθόδου Πράγµατι, αν εφαρµοστεί η ε.µ. (A qi)y (m+) = y (m), m = 0,, 2,... (0) όπου y (0) 0 αυθαίρετο διάνυσµα είναι δυνατόν να υπολογισθεί η απόλυτα µεγαλύτερη ιδιοτιµή του (A qi) δηλαδή η /(λ k q) και το αντίστοιχο ιδιοδιάνυσµα. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 36 / 50
Ταχύτητα σύγκλισης Εξαρτάται από την ποσότητα αφού max i k λ k q λ i q () y (m) = (A qi) y (m ) = (A qi) m y (0) = α (λ q) m x() + = α 2 (λ 2 q) m x(2) +... + α n (λ n q) m x(n) [ ( ) λk m q α (λ k q) m x () +... + α k x (k) λ q ( ) ] λk m q +... + α n x (n) λ n q Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 37 / 50
Παρατηρήσεις Η επιλογή της q καθορίζει και την ταχύτητα σύγκλισης της µεθόδου. Οσο πλησιέστερα η q είναι στην ιδιοτιµή λ k τόσο ταχύτερη ϑα είναι και η σύγκλιση της µεθόδου. Επειδή η q µπορεί να εκλεγεί αυθαίρετα, µπορούµε να ϐρούµε µια προσέγγιση σε οποιαδήποτε ιδιοτιµή του A. Ο προσδιορισµός των y (m) γίνεται από την επίλυση των συστηµάτων (A qi)y (m) = y (m ), m =, 2,... (2) Στην πράξη τα διανύσµατα κανονικοποιούνται, µε άλλα λόγια, εφαρµόζεται η παραλλαγή της µεθόδου των δυνάµεων. Τα γραµµικά συστήµατα που προκύπτουν έχουν τον ίδιο πίνακα και διαφορετικά δεύτερα µέλη. Χρήση µιας άµεσης µεθόδου για την επίλυση τους. Σχηµατισµός της LU διάσπασης του A qi µόνο µία ϕορά. Αν λοιπόν χρησιµοποιήσουµε κανονικοποιηµένα διανύσµατα και την LU µέθοδο τότε το ϐασικό επαναληπτικό σχήµα ϑα είναι το παρακάτω: Lx = z (m) Uy (m+) = x (3) όπου LU = A qi Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 38 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών Υπάρχουν πολλές µέθοδοι για τον προσδιορισµό των άλλων υπερεχουσών κατά µέτρο ιδιοτιµών από τη στιγµή που υπολογισθεί η µεγαλύτερη. Στη συνέχεια ϑα αναφερθούµε σε µία µόνο µέθοδο που ϐασίζεται σε µετασχηµατισµούς οµοιότητας. Ας υποθέσουµε ότι οι ιδιοτιµές ενός πίνακα A ικανοποιούν τη σχέση λ > λ 2 >... > λ m >> λ m+... λ n (4) δηλαδή οι τιµές λ, λ 2,..., λ m απέχουν αρκετά η µία από την άλλη. Τότε η λ µπορεί να υπολογισθεί µε τη µέθοδο των δυνάµεων και αποµένει ο υπολογισµός των άλλων ιδιοτιµών που υπερέχουν, των λ 2, λ 3,..., λ m. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 39 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών Κατασκευή νέου πίνακα από τον αρχικό µε υποβιβασµό (deflation). Ο νέος πίνακας κατασκευάζεται κατά τέτοιο τρόπο ώστε να έχει σαν ιδιοτιµές µόνο τις υπόλοιπες άγνωστες ιδιοτιµές του αρχικού πίνακα. Η επαναληπτική εφαρµογή της διαδικασίας αυτής ϑα υπολογίσει όλες τις υπόλοιπες υπερέχουσες ιδιοτιµές και τα αντίστοιχα ιδιοδιανύσµατα. Οι πιο εύχρηστες µέθοδοι υποβιβασµού είναι εκείνες που ϐασίζονται στους µετασχηµατισµούς οµοιότητας. Για την περιγραφή της µεθόδου υποθέτουµε κατ αρχήν ότι η ιδιοτιµή λ και το αντίστοιχο ιδιοδιάνυσµα x () του πίνακα A έχουν υπολογιστεί. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 40 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών Εστω τώρα H ένας µη ιδιάζων πίνακας τέτοιος ώστε H x () = ke () (5) όπου k 0 και e () = (, 0, 0,..., 0) T. Αν αναβάλουµε τη διαδικασία εύρεσης του H, τότε έχουµε από την οποία λαµβάνουµε η οποία λόγω της (5) γράφεται A x () = λ x () H A H (H x () ) = λ H x () (6) H A H e () = λ e () (7) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 4 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών που δηλώνει ότι η πρώτη στήλη του πίνακα H A H πρέπει να είναι η λ e (), άρα µπορούµε να γράψουµε [ A 2 = H A H λ b T = 0 B 2 ], (8) όπου ο πίνακας B 2 είναι n τάξης και το διάνυσµα b έχει n στοιχεία. Επειδή ο A 2 έχει τις ίδιες ιδιοτιµές µε τον A, έπεται ότι ο πίνακας B 2 έχει ιδιοτιµές τις λ 2, λ 3,..., λ n. Μπορούµε λοιπόν να εργαστούµε µε τον πίνακα B 2 προκειµένου να προσδιορίσουµε την επόµενη ιδιοτιµή λ 2 και το αντίστοιχο ιδιοδιάνυσµα y (2) του B 2 που ικανοποιούν την B 2 y (2) = λ 2 y (2). (9) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 42 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών Αυτό που αποµένει είναι η εύρεση του ιδιοδιανύσµατος x (2) του A που αντιστοιχεί στην λ 2. Εστω z (2) το ιδιοδιάνυσµα του A 2 που αντιστοιχεί στην λ 2, τότε ή A 2 z (2) = λ 2 z (2) (20) ή συνεπώς H A H z (2) = λ 2 z (2) A (H z (2) ) = λ 2 (H z (2) ) x (2) = H z (2) (2) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 43 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών αφού A x (2) = λ 2 x (2). Αρκεί λοιπόν να υπολογισθεί το z (2) για την εύρεση του x (2). Η (20) λόγω της (8) γράφεται λ b T 0 B 2 z(2) = λ 2 z (2) (22) λόγω όµως της (9) µπορούµε να λάβουµε z (2) = [ α y (2) όπου α ένα ϐαθµωτό µέγεθος, που προσδιορίζεται από την (22) ή την ή ] λ α + b T y (2) = λ 2 α (23) α = bt y (2) λ 2 λ. (24) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 44 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών Συµπέρασµα Παρατηρούµε ότι τα λ 2, y (2) υπολογίζονται µε τη µέθοδο των δυνάµεων [ϐλ. (9)], το z (2) υπολογίζεται από την (23), όπου το α δίνεται από την (24). Εχοντας υπολογίσει το z (2), το x (2) ϐρίσκεται από την (2). Συνεχίζοντας κατ αυτό τον τρόπο υπολογίζουµε τις υπόλοιπες υπερέχουσες ιδιοτιµές και τα αντίστοιχα ιδιοδιανύσµατα του A. Είναι ϕανερό ότι οι διαδοχικοί υποβιβασµοί του A ϑα τον µετασχηµατίσουν, στο όριο, σε ένα άνω τριγωνικό πίνακα. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 45 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών Στη συνέχεια ϑα περιγράψουµε ένα τρόπο για την εκλογή του H έτσι ώστε η διαδικασία της διατάραξης να είναι αριθµητικά ευσταθής. ιαλέγουµε τον H τέτοιον ώστε H = L I,p (25) όπου L είναι ένας στοιχειώδης κάτω τριγωνικός πίνακας και I,p ένας µεταθετικός πίνακας, όπου p είναι τέτοιο ώστε η x () p είναι η µεγαλύτερη κατά µέτρο συνιστώσα του x (). Από τις (5) και (25) έχουµε ότι y = I,p x () (26) και L y = ke () (27) Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 46 / 50
Υπολογισµός των υπερεχουσών ιδιοτιµών όπου L = y 2 /y 0.... y n /y (28) και k = y = x () p. Η εισαγωγή του µεταθετικού πίνακα I,p ουσιαστικά ορίζει µία διαδικασία οδήγησης, η οποία απαιτεί τα στοιχεία του H να είναι κατά µέτρο µικρότερα ή ίσα από τη µονάδα, εξασφαλίζοντας έτσι την αριθµητική ευστάθεια όπως και στη µέθοδο της απαλοιφής του Gauss. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 47 / 50
Παράδειγµα Εστω ο πίνακας A = 2 3 2 0 3 4 3 6 Με τη µέθοδο των δυνάµεων υπολογίζουµε την ιδιοτιµή λ =.0 και το αντίστοιχο ιδιοδιάνυσµα x () = (0.5,.0, 0.75) T. Παρατηρούµε ότι k = y =.0 = x () 2, άρα p = 2 και y = (.0, 0.5, 0.75) T έτσι L = 0 0 0.5 0 0.75 0.. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 48 / 50
Αρα A 2 = L I,2 A I,2 L 0 0 3 0 4 0 0 = 0.5 0 3 2 2 0.5 0 0.75 0 6 3 0.75 0 3 0 4 0 0 0 4 =.5 3 0 0.5 0 = 0 3 0. 3.75 4.5 2 0.75 0 0 4.50 2 Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 49 / 50
Παρατηρούµε ότι ο πολ/µός µε L δεν χρειαζόταν αφού γνωρίζουµε ότι η πρώτη στήλη του A 2 είναι ίση µε λ e (). Από την τελευταία σχέση έχουµε ότι [ ] 3 0 B 2 = 4.5 2 και οι υπόλοιπες ιδιοτιµές του είναι -3 και -2. Εύκολα υπολογίζονται και τα αντίστοιχα ιδιοδιανύσµατα. Αριθµητική Γραµµική ΑλγεβραΚεφάλαιο 4. Αριθµητικός Υπολογισµός Ιδιοτιµών 2 Απριλίου και 205 Ιδιοδιανυσµάτων 50 / 50