ΚΕΦΑΛΑΙΟ VI Ε αναλη τικές Μέθοδοι Για Γραµµικά Συστήµατα Τo κεφάλαιο πραγµατεύεται την επίλυση γραµµικών συστηµάτων µε χρήση επαναληπτικών µεθόδων. Κάτω από προϋποθέσεις, πρόκειται για µια σειρά µεθόδων που µπορούν να αποδειχθούν αποδοτικότερες από τις κλασσικές µεθόδους απαλοιφής και διάσπασης. Στην ( 6.) παρουσιάζεται η θεµελίωση των µεθόδων αυτών. Στις 6. και 6.3 αναπτύσσονται δύο από τις πλέον αντιπροσωπευτικές αυτές µεθόδους. 6. Γενική Επαναληπτική Μέθοδος Όπως είδαµε στο Κεφάλαιο ΙΙΙ, η ανάλυση της µεθόδου Guss έδειξε ότι η υπολογιστική προσπάθεια της µεθόδου για τη λύση της συστήµατος είναι O( 3 ). Εξ άλλου, οι απαιτήσεις µνήµης είναι της τάξης του (O( )). Αν τώρα θεωρήσουµε συστήµατα µε, µε αραιά µητρώα συντελεστών (τα οποία περιέχουν λίγα στοιχεία ), τότε η εφαρµογή της µεθόδου απαλοιφής αποδεικνύεται χρονοβόρα. Τέτοια συστήµατα εµφανίζονται συνήθως σε διάφορες εφαρµογές της Αριθµητικής Ανάλυσης, όπως στην επίλυση συστηµάτων µε µερικές παραγώγους, ενώ χαρακτηρίζονται από αραιά µητρώα συντελεστών, έτσι ώστε να απαιτούν µνήµη ανάλογη του, αντί του. Επιπλέον τα µητρώα αυτά µπορούν να έχουν και πρόσθετες ιδιότητες, όπως µηδενικά µπλοκ, να είναι ταινιακοί κλπ. Για την επίλυση τέτοιων συστηµάτων, εκτός των µεθόδων παραγοντοποίησης, εφαρµόζονται µε επιτυχία και οι ε αναλη τικές µέθοδοι. Η απλούστερη µορφή των µεθόδων αυτών αποτελεί γενίκευση της γενικής ε αναλη τικής µεθόδου που αναφέρεται στην κατασκευή επαναληπτικών συναρτήσεων για την προσέγγιση ριζών µη γραµµικών εξισώσεων, την οποία εξετάσαµε στο Κεφάλαιο II. Για την κατασκευή µιας επαναληπτικής µεθόδου για την επίλυση της οµαλού συστήµατος Ab, επιλέγεται ένα µητρώο B και ένα διάνυσµα c, έτσι ώστε η εξίσωση B + c (6..) να είναι ισοδύναµη µε την A-b. Υπολογίζουµε τότε την ακολουθία { },,,,..., που προκύπτει από την επανάληψη : B - + c,,,... (6..) ξεκινώντας από ένα αρχικό διάνυσµα. Αναζητούµε τότε συνθήκες που να εξασφαλίζουν ότι η ακολουθία { } συγκλίνει στην λύση της (6..) και άρα και του συστήµατος. Θα λέµε ότι µια ακολουθία διανυσµάτων { }, όπου R, συγκλίνει στο διάνυσµα όταν lim i i, για i,,, όπου i υποδηλώνει τη συντεταγµένη I του διανύσµατος και i τη συντεταγµένη I του. Για να επιλέξουµε τώρα ένα µητρώο B και ένα διάνυσµα c έτσι ώστε η µορφή (6..) να είναι ισοδύναµη µε την A-b, εκφράζουµε το A ως διαφορά AQ-P, όπου Q είναι ένα κατάλληλα επιλεγµένο µητρώο ώστε να είναι «εύκολα» αντιστρέψιµο, και PQ-A. Τότε παίρνουµε το ισοδύναµο σύστηµα (Q-P) b που γράφεται: ή: Q P + b, (6..3) Q - P + Q - b (6..) Πανεπιστήμιο Πατρών //
VI- Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα Η (6..) γράφεται και ως: Q - (Q-A) + Q - b (I-Q - A) + Q - b (6..) Το σύστηµα Q P - + b, όπως προκύπτει από την (6..3), πρέπει να λύνεται εύκολα σε κάθε επανάληψη. Αυτό σηµαίνει από την (6..), ότι η επιλογή του Q θα πρέπει να είναι τέτοια ώστε ο υπολογισµός του Q -, για κάθε διάνυσµα, να απαιτεί πολύ λιγότερες πράξεις από ό,τι ο υπολογισµός του A -. Έτσι το Q µπορεί να επιλεγεί ως διαγώνιο µητρώο (όπως στην ε ανάληψη Jcobi), τριγωνικό (όπως στην ε ανάληψη Guss-Seidel), ή ταινιακό µητρώο, ή γινόµενο δύο τριγωνικών µητρώων κ.λ.π. Ακόµα, όπως θα δούµε και στη συνέχεια, το µητρώο Q - θα πρέπει να είναι µια αρκετά καλή προσέγγιση του A -, έτσι ώστε ο πρώτος όρος της (6..) να είναι όσο δυνατόν «µικρός», δηλ. να ισχύει I-Q - A < για κάποια φυσική νόρµα µητρώου. Συνοψίζοντας, η γενική επαναληπτική µέθοδος ορίζεται από την επαναληπτική εξίσωση: B - + c,,,... (6..6) ε ιλεγµένο αρχικό διάνυσµα ό ου BQ - P και cq - b Πριν συζητήσουµε συνθήκες για την σύγκλιση της (6..6), θα εισάγουµε µερικούς χρήσιµους ορισµούς και προτάσεις για τη σύγκλιση διανυσµάτων και µητρώων. Ορισµός 6.. Θα λέµε ότι µια ακολουθία διανυσµάτων { } του R,,,,..., έχει όριο το διάνυσµα, και θα σηµειώνουµε lim, τότε και µόνον τότε, όταν η ακολουθία { -},,,,..., έχει όριο το µηδενικό διάνυσµα: lim( ) Ορισµός 6.. Θα λέµε ότι µια ακολουθία µητρώων {A },,,,..., έχει όριο το µητρώο A, και θα σηµειώνουµε lim A A, αν και µόνον αν η ακολουθία {A -A},,,,..., έχει όριο το µηδενικό µητρώο : lim( A A) (όλα τα στοιχεία τείνουν στα στοιχεία του Α). Μπορούµε όµως να διαπιστώνουµε ευκολότερα τη σύγκλιση µιας ακολουθίας διανυσµάτων { } δια µέσου της νόρµας: Πρόταση 6.. Ικανή και αναγκαία συνθήκη για να είναι lim, είναι : lim (6..7) για κάποια τυχαία νόρµα στο R. Α όδειξη: Αφήνεται ως άσκηση. Ένα σηµαντικό α οτέλεσµα είναι ότι αν µια ακολουθία διανυσµάτων (µητρώων) συγκλίνει σε ένα διάνυσµα (µητρώο) ως ρος µια νόρµα, τότε θα συγκλίνει στο ίδιο διάνυσµα και ως ρος ο οιαδή οτε άλλη: Λήµµα 6.. Αν. p και. q είναι δύο τυχαίες νόρµες στο R και { } µια ακολουθία του R, τότε αν lim, θα είναι και lim, και αντιστρόφως. p q Ανάλογη πρόταση ισχύει και για τα µητρώα: Aν lim A A, θα είναι και lim A A, και αντιστρόφως. Πρόταση 6.. Ικανή και αναγκαία συνθήκη για να είναι lim A p A, είναι lim A A (6..) για κάποια νόρµα µητρώου. q Πανεπιστήμιο Πατρών //
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI-3 Τότε σύµφωνα µε το Λ6.., η (6..) θα ισχύει και για οποιοδήποτε άλλη νόρµα. Πρόταση 6..3 Για κάθε µητρώο και για κάθε φυσική νόρµα. µητρώου είναι A < A (6..9) Πρόταση 6.. Αν A <, τότε ή ακολουθία των δυνάµεων {Α }τείνει στο : lim A (6..) Α όδειξη: Επειδή A <, είναι A. Από την (6..9) έχουµε A, δηλαδή A. Πρόταση 6.. Έστω A ένα μητρώο με ιδιοτιμές λi, i,...,, και φασματική ακτίνα ρ(a)m λi. Τότε για οποιαδήποτε φυσική νόρμα μητρώου ισχύει ρ(a)< A. Α όδειξη: Αφήνεται ως άσκηση. Πρόταση 6..6 Ικανή και αναγκαία συνθήκη ώστε lim A, είναι: ρ(a)< (6..) Α όδειξη Αν A, τότε από την Π6.. είναι A, όπου. µια φυσική νόρµα. Θεωρούµε τώρα µια τυχαία ιδιοτιµή του A και το αντίστοιχο ιδιοδιάνυσµα λ, µε λ. Τότε: A A A sup sup m u ( Au ) A Άρα A A λ λ λ λ, εποµένως limλ, από όπου προκύπτει λ <, δηλαδή ρ(a)<. Αντίστροφα, αν ρ(a)<, τότε µπορεί να αποδειχθεί ότι υπάρχει φυσική νόρµα., έτσι ώστε A ρ(a)+ε<. Συνεπώς A A (ρ(a)+ε), και άρα lim A. ( ) Επανερχόµενοι τώρα στη σύγκλιση της ακολουθίας (6..3) έχουµε το παρακάτω σηµαντικό αποτέλεσµα : Θεώρημα 6.. Ικανή και αναγκαία συνθήκη για να συγκλίνει η ακολουθία {} στην λύση του συστήματος Αb για οποιοδήποτε αρχικό διάνυσμα, είναι: limβ (6..) A όδειξη: Από τις (6..) και (6..) λαµβάνουµε : απ όπου συνάγουµε ότι: - B(- ) B (- - ) B 3 (-3 - )... B ( - ) λ Μια μερική απόδειξη (από τη Γραμμική Άλγεβρα) για μητρώα που έχουν διακεκριμένες ιδιοτιμές ή είναι συμμετρικά: τα μητρώα αυτά διαγωνοποιούνται ΑVDV -, όπου D διαγώνιο που περιέχει τις ιδιοτιμές του Α. Αν ρ(α)<, τότε D, και επειδή ισχύει Α VD V -, προκύπτει Α V V -. Πανεπιστήμιο Πατρών //
VI- Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα - B - Εξ άλλου, αφού B, τότε και B. Εποµένως lim για κάθε αρχικό. Αντίστροφα, αν lim για κάθε, τότε lim. Αν τώρα για i,,..., επιλέξουµε διαδοχικά : + ei, όπου ei(,...,,...,) T (το στη θέση i) λαµβάνουµε τις σχέσεις : - B ( - ) B i ei i-στήλη του B, i,,..., Άρα B [B e... B e]ei (,...,), για. Από την Π6..6 προκύπτει άµεσα µια ισοδύναµη µε την (6..) ικανή και αναγκαία συνθήκη για τη σύγκλιση. Μια χρήσιµη ικανή συνθήκη είναι αντικείµενο του Πορ.6..: Θεώρημα 6.. Ικανή και αναγκαία συνθήκη για να συγκλίνει η ακολουθία { } στην λύση του συστήµατος Ab για οποιοδήποτε αρχικό διάνυσµα, είναι: ρ(b)< όπου ρ(b) είναι η φασµατική ακτίνα του Α. Πόρισμα 6.. Aν για κάποια νόρµα µητρώου., ισχύει B <, τότε lim οποιοδήποτε αρχικό διάνυσµα., για Tο Πορ.6.. αποτελεί αποτέλεσµα του εξής βασικού θεωρήµατος: Θεώρημα 6..3 Aν η μοναδική λύση της διανυσματικής εξίσωσης B+c, τότε η ακολουθία που παράγεται από την επανάληψη B- + c συγκλίνει στο για κάθε αρχικό διάνυσμα, αν και μόνον αν ισχύει B <, για κάποια νόρμα.. Παρατήρηση 6.. Γενικά, για τη σύγκλιση των επαναληπτικών µεθόδων αρκεί να βεβαιωνόµαστε ότι για το µητρώο επανάληψης ισχύει ρ(b)<. Επειδή όπως για µεγάλα συστήµατα η εύρεση της ρ(b) είναι πολύπλοκη και χρονοβόρα, εξετάζουµε πρώτα αν ισχύει η ικανή συνθήκη B < για κάποια από τις νόρµες. και., οι οποίες υπολογίζονται πιο εύκολα. Σε θετική περίπτωση η σύγκλιση είναι εξασφαλισµένη. Παρατήρηση 6.. Αν Β είναι συµµετρικό, τότε η συνθήκη ρ(β)< συµπίπτει µε την Β <, αφού ισχύει Β ρ(β). 6.. Ανάλυση Σφάλµατος Από την ανισότητα - B - προκύπτει το παρακάτω φράγµα απολύτου σφάλµατος : - B - (6..3) H (6..3) δείχνει ότι όσο µικρότερο είναι το B, τόσο ταχύτερη είναι η σύγκλιση της ε αναλη τικής µεθόδου. Πανεπιστήμιο Πατρών //
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI- Επίσης, επειδή είναι ρ(b)< B για κάθε φυσική νόρµα, ισχύει προσεγγιστικά: - ρ(b) - (6..) Το συµπέρασµα από την (6..) είναι ότι η ταχύτητα σύγκλισης µιας ε αναλη τικής µεθόδου εξαρτάται α ό το µέγεθος του ρ(b): όσο µικρότερο του είναι το ρ(b), τόσο ταχύτερα προσεγγίζεται η λύση, δηλαδή επιτυγχάνεται η επιθυµητή ακρίβεια. Εξ άλλου, αν B < λαµβάνουµε: - - - + - - B - - + - - - - (- B ) - - - B B (6..) Από την - - B- ( ) έχουµε - - B -, και η (6..) γίνεται: B B (6..6) Οι (6..) και (6..9) αποτελούν πολύ χρήσιµες εκτιµήσεις σφάλµατος, αφού τα µέτρα - - και - µπορούν φυσικά να υπολογισθούν πολύ εύκολα. Παρέχουν και οι δυο φράγµα για το απόλυτο σφάλµα στην επανάληψη. Συνήθως χρησιµοποιείται η (6..6), επειδή οι δύο πρώτες προσεγγίσεις είναι άµεσα υπολογίσιµες. Παράδειγµα 6.. Εξετάζουµε αν το Β[.9.;,.9] µπορεί να είναι µητρώο συγκλίνουσας επαναληπτικής µεθόδου. Υπολογίζουµε εύκολα τις νόρµες: Β, Β Για τις παραπάνω νόρµες δεν µπορεί να εφαρµοσθεί φυσικά το κριτήριο Β < για κάποια φυσική νόρµα. Εξετάζουµε στη συνέχεια τι συµβαίνει µε τη νόρµα και έχουµε: B T B..9.9. Υπολογίζουµε τις ιδιοτιµές: det( B T. -λ BλI).9.9 λ.63λ+.66. -λ Οι ρίζες είναι: λ.79 και λ.9, συνεπώς ρ(β Τ Β).9 B T ρ ( B B).9.9 < Για τη νόρµα ισχύει λοιπόν το κριτήριο και συνεπώς η επαναληπτική µέθοδος µε µητρώο επανάληψης Β συγκλίνει πάντα αν και αρκετά αργά. Σηµείωση: Στο Παρ. 3.3.. παρατηρούµε ότι το Β έχει διπλή ιδιοτιµή λ9. Συνεπώς ρ(β)9 και επαληθεύουµε ότι ρ(β)< Β, ρ(β)< Β, ρ(β)< Β. Όπως είδαµε στο Κεφ. V, το ίδιο συµβαίνει για οποιαδήποτε άλλη φυσική νόρµα που ορίζεται στο Μ 3(R). Πανεπιστήμιο Πατρών //
VI-6 Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα 6. Επανάληψη Jcobi Αν Ab ένα γραµµικό σύστηµα όπου Α αντιστρέψιµο και µε µη µηδενικά διαγώνια στοιχεία, τότε στην επαναληπτική µέθοδο Jcobi επιλέγουµε το µητρώο Q τριγωνικό: Από όπου προκύπτει : Q dig([,,, ] Τ ) (6..) P Q A (6..) Q Τα B(b ) και c προσδιορίζονται εύκολα :, i j b i b, ci, i,...,, i j Η µέθοδος γράφεται : (6..3) ή µε µορφή µητρώων: B- + c,,... (6..) δοθέν αρχικό διάνυσµα b b +,,..., b (6..) Θέτοντας (,,..., )T στην (6..3) βρίσκουµε την αναλυτική µορφή της επανάληψης Jcobi: i bi j,, i,,...,,,... (6..6) j j i i: δοθείσα αρχική τιµή, i,,...,, Πανεπιστήμιο Πατρών //
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI-7 Παρατήρηση 6.. Στην µέθοδο Jcobi κάθε επανάληψη προκύπτει µόνον από τα στοιχεία (συνιστώσες) της προηγούµενης. Αυτό ακριβώς δείχνει η (6..): κάθε συνιστώσα i του διανύσµατος (προσέγγισης) στην επανάληψη υπολογίζεται από τις συνιστώσες της προηγουµένης -. Κάθε επανάληψη διατυπώνεται εκφράζοντας άµεσα τον άγνωστο i από την εξίσωση i, για i,,. Παρατήρηση 6.. Από το Θ6.. και την (6..), ικανή και αναγκαία συνθήκη για να συγκλίνει η ακολουθία (6..6) είναι: ρ(β)ρ(q - P) ρ(i-q - A) < (6..7) Επίσης, µια ικανή συνθήκη είναι B I-Q - A < (6..) H τελευταία µπορεί να εξασφαλισθεί από την ιδιότητα της α.δ.κ. για το Α. Με αυτό ασχολείται το Θ6.. που ακολουθεί. H επανάληψη Jcobi διατυπώνεται από τον παρακάτω αλγόριθµο: Αλγόριθµος 6..: Επανάληψη Jcobi Iput, A, b,, ανοχή Tοl, µέγιστος αριθµός ε αναλήψεων NM. Output διάνυσµα λύσης, φράγµα σφάλµατος Error. % Υπολογισµός της λύσης του γραµµικού συστήµατος Ab µε την επανάληψη Jcobi. for i:: { for j:: if ji the c(i,i) : else c(i,j) : -(i,j)/(i,i) % κατασκευή του B στο C και του c στο d d(i) : b(i)/(i,i) ; } ormcorm(c); % Υπολογισμός νόρμας C ; for :: () : C(-) + d ; Error : C ()-(-) / (- C ); if ()-(-) / () < Tol the { write(, Error), eit ; } Write('το NM εξαντλήθηκε' ) ed Jcobi Θεώρηµα 6.. % έλεγχος σχετικού σφάλματος Aν το μητρώο Α έχει α.δ.κ., τότε η μέθοδος Jcobi συγκλίνει για κάθε αρχικό διάνυσμα. Α όδειξη: Aν το Α έχει α.δ.κ. τότε, οπότε µπορεί να εφαρµοσθεί η µέθοδος Jcobi. Επί πλέον, λόγω της α.δ.κ. είναι: < <, i,,..., j j j i j i (6..) Το µητρώο επανάληψης B δίνεται από την (6..3). Εποµένως, αν λάβουµε τη νόρµα «άπειρο» του Β, έχουµε: B m i j j i Από την (6..) προκύπτει άµεσα Β <. Συνεπώς, από Πορ.6.., η µέθοδος Jcobi συγκλίνει για κάθε αρχικό διάνυσµα. Πανεπιστήμιο Πατρών //
VI- Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα Παρατήρηση 6... Το Θ6.. ισχύει και για α.δ.κ. κατά στήλες. Αν ο Α έχει α.δ.κ. κατά στήλες, τότε ο Α Τ έχει α.δ.κ. κατά γραµµές. Τα Α και Α Τ έχουν όµως τις ίδιες ιδιοτιµές και συνεπώς ισχύει ρ(α Τ )ρ(α)<. Παράδειγµα 6.. Εφαρµόζουµε την επανάληψη Jcobi για την επίλυση του συστήµατος: - + z 7 - + z - - + + z Το σύστηµα γράφεται υπό τη µορφή Ab: 7 z Με απαλοιφή Guss βρίσκουµε τη θεωρητική λύση: (,,3) Τ. Το µητρώο συντελεστών Α έχει α.δ.κ. και άρα η µέθοδος Jcobi συγκλίνει για κάθε αρχικό διάνυσµα. ιαµορφώνουµε τώρα άµεσα τις επαναλήψεις σύµφωνα µε την Παρατήρηση 6.. και λαµβάνουµε για κάθε εξίσωση: δηλαδή: / (7+ - -z -) / (+ - +z - ) z / (+ - - -) z (7+ z) + + ( z),,, (+ ) Ως αρχικό διάνυσµα µπορούµε να πάρουµε οποιοδήποτε. Καλό είναι να ξεκινήσουµε µε κάποιο κοντά στη θεωρητική λύση (από πλευράς νόρµας), π.χ. το (,,) Τ. Για την εκτίµηση του σφάλµατος στην η επανάληψη, εφαρµόζουµε την ανισότητα (6..6): - B (- B ) - - (.6/.37).7.3 Λαµβάνοντας ως αρχικό διάνυσµα (,,) Τ, οι διαδοχικές προσεγγίσεις της επανάληψης δίνονται στον πίνακα. Η ακολουθία τους συγκλίνει στη θεωρητική λύση (,,3) Τ. z....7 3.37 3..37 3.7 3. 3.96 3.9.96.996 3.9766 3..9963 3.993 3.937..................... 9.. 3. [Mtlb] Παράδειγµα 6.. Υλοποίηση της Μεθόδου Jcobi Η παρακάτω συνάρτηση Jcobi υλοποιεί την επαναληπτική µέθοδο Jcobi: Πανεπιστήμιο Πατρών //
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI-9 fuctio [P,dP,Z] jcobi(a,b,p,delt,mit) %JACOBI Jcobi itertio for solvig lier sstem A*b. % Smple cll % [X,dX] jcobi(a,b,p,delt,m) % [X,dX,Z] jcobi(a,b,p,delt,mit) % Iputs % A coefficiet mtri % B costt terms vector % P strtig vector % delt covergece tolerce % mit mimum umber of itertios % Retur % X solutio vector % dx error estimte vector % Z Histor mtri of the itertios %--------------------------------------------------------------------------- Z P'; legth(b); %size of A mtri Pew P; for :mit, for r :, Sum B(r) - A(r,[:r-,r+:])*P([:r-,r+:]); Pew(r) Sum/A(r,r); ed dp bs(pew-p); %computes differece betwee two successive itertes err orm(dp); relerr err/(orm(pew)+eps); %computes relevt error P Pew; Z [Z;P']; %Adds ew iterte ito histor mtri if (err<delt) (relerr<delt), bre, ed ed if (mit) %checs if mimum umber of itertios is reched disp( Mimum umber of itertios ehusted ) ed οκιµάζουµε τη συνάρτηση για το σύστηµα του Παρ.6... ίνουµε το µητρώο συντελεστών Α, το διάνυσµα του β µέλους Β και το αρχικό διάνυσµα P. Κατόπιν δίνουµε την εντολή κλήσης της συνάρτησης ορίζοντας την ανοχή σύγκλισης delte- και τον µέγιστο ανεκτό αριθµό επαναλήψεων mit. >> A[ - ; - ; - ] >> B[7; -; ] >> P[;;] >> [X,dX,Z] Jcobi(A,B,P,e-3,) Λαµβάνουµε στην έξοδο: X.999997639 3.99999333 3.3393 dx.e- *.937667.636773.33937 Z....7 3.37 3..37 3.7 3..96 3.9.96.996 3.9766 3..996 3.993 3.937.99937 3.9977.99937.999637 3.999937 3..99977337 3.9997 3.36.9999766 3.99993.9999766.9999666 3.9999676 3..999997639 3.99999333 3.3393 Πανεπιστήμιο Πατρών //
VI- Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα 6.3 Επανάληψη Guss-Seidel Αν Ab γραµµικό σύστηµα όπου Α αντιστρέψιµο και µε µη µηδενικά διαγώνια στοιχεία, τότε στην επαναληπτική µέθοδο Guss-Seidel επιλέγουµε ως Q το κάτω τριγωνικό του Α: Qtril(Α). Τότε το P προκύπτει άνω τριγωνικό: Q, H επανάληψη Guss-Seidel γράφεται: P Q A triu(dig(a)-a) (6.3.) B - + c,,... (6.3.) ε ιλεγµένο αρχικό διάνυσµα µε BQ - P και cq - b. Ισοδύναµα, σε κάθε βήµα λύνουµε το παρακάτω κάτω τριγωνικό σύστηµα ως προς : Q P - + b,,..., (6.3.3) εφαρµόζοντας εµ ρός αντικατάσταση. Οι συντεταγµένες i της επανάληψης εκφράζονται εύκολα αν αντικαταστήσουµε από την (6.3.) τα P και Q. Παίρνουµε λοιπόν: i i b i j j,, i,,,..., (6.3.) j j i+ Τα i εκφράζουν τις συντεταγµένες του Q - P+Q - b. Συνεπώς οι συντεταγµένες u i του πρώτου όρου uq - P Β δίνονται: i ui u j j, i,,,..., + j j i+ (6.3.) Παρατήρηση 6.3. Η (6.3.) αναλύεται (πιο αυστηρά) στις παρακάτω σχέσεις που δείχνουν τους εκτελούµενους υπολογισµούς σε κάθε επανάληψη : b j j j,, i i b,,,3,..., i j j i (6.3.6) j j i+ b j j j Οι (6.3.6) δείχνουν ότι το πρώτο άθροισµα αντιστοιχεί στους όρους της τρέχουσας επανάληψης που έχουν ήδη υπολογισθεί, ενώ το δεύτερο αντιστοιχεί στους όρους της προηγούµενης επανάληψης. Πιο συγκεκριµένα η προσέγγιση στην επανάληψη υπολογίζεται από τα στοιχεία (συνιστώσες) της που υπολογίστηκαν ήδη ( j), καθώς και από τις συνιστώσες της προσέγγισης - ( j,-). Συνεπώς η διαµόρφωση του επαναληπτικού σχήµατος µπορεί πρακτικά να ληφθεί άµεσα από την αρχική έκφραση του συστήµατος, µε συστηµατική οµαδοποίηση και µεταφορά στο β µέλος όσων όρων µπορούν να εκφρασθούν σε σχέση µε τις προηγούµενα υπολογισθείσες συνιστώσες (i- όροι για τη i- συνιστώσα i), και των όρων από την προηγούµενη επανάληψη - (-i όροι, δηλ. σύνολο - όροι, και -συνολικά µαζί µε το b i-, όροι). Πανεπιστήμιο Πατρών //
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI- O υπολογισµός µιας επανάληψης από προηγούµενες συνιστώσες µειώνει τους απαιτούµενους υπολογισµούς και αποτελεί σηµείο υπεροχής της µεθόδου Guss-Seidel έναντι της µεθόδου Jcobi. Παρατήρηση 6.3.. Στο πνεύµα των παραπάνω, θα ήταν πολύ ωφέλιµο να κατανοήσει κανείς την αντιστοιχία της υλοποίησης της µεθόδου Guss-Seidel στον κώδικα του Παρ.6.3.3. Ειδικότερα, εστιάστε στο δεύτερο µπλοκ εντολών που υλοποιούν την εµπρός αντικατάσταση (σχέση (6.3.3). Στη συνέχεια να επαληθεύσετε τα αποτελέσµατα του Παρ.6.3.. Θεώρηµα 6.3. Αν το µητρώο Α έχει α.δ.κ., τότε η µέθοδος Guss-Seidel συγκλίνει για κάθε αρχικό διάνυσµα. A όδειξη Αφού ο Α έχει α.δ.κ, ισχύει j j i p<, i,,..., Με την παραπάνω παραδοχή, θα επιχειρήσουµε να δείξουµε ότι ισχύει Β < για κάποια φυσική νόρµα. Θεωρούµε ένα τυχαίο διάνυσµα R και θέτουµε z Q - P B. Τότε οι συντεταγµένες z i του z εκφράζονται από την (6.3.): z z, i,,..., i j j j j i+ Θα δείξουµε τώρα ότι ισχύει z i p, i,,...,, µε επαγωγή. Για i λαµβάνουµε: z i j j j p Υποθέτουµε ότι ισχύει z p για,,...,i- και δείχνουµε ότι ισχύει και για i. Είναι: z i i j z j + j i+ j i j p + j i+ i j j p Συνεπώς ισχύει z i p για,...,, οπότε συνάγουµε άµεσα: B z p B p, για κάθε R, µε Άρα B p<, και σύµφωνα µε το Πορ.6.. η µέθοδος συγκλίνει. Παράδειγµα 6.3. ίνεται το µητρώο A[ ; ; ; ]. Υποθέτουµε ότι δουλεύουµε σε α.κ.υ. σηµ. ψηφίων µε εφαρµογή στρογγύλευσης και ότι υπάρχουν µόνον σφάλµατα στρογγύλευσης κατά τους υπολογισµούς. Θα εφαρµόσουµε την επαναληπτική µέθοδο Gus-Seidel για την υπολογιστική επίλυση του Ab µε b[ ] Τ. Η επαναληπτική ακολουθία στη γενική της µορφή εκφράζεται B - +c,,,, µε BQ - (Q-A) και cq - b, όπου Q, P Q-A Πανεπιστήμιο Πατρών //
VI- Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα Πανεπιστήμιο Πατρών // Για τα δεδοµένα του συστήµατος εκφράζουµε τώρα αναλυτικά τον επαναληπτικό τύπο κάθε συνιστώσας i. Κάθε επανάληψη προκύπτει από την προηγούµενή της - ως λύση µε εµπρός αντικατάσταση του κάτω τριγωνικού συστήµατος Q P - +b. Έχουµε λοιπόν: + 3 b P Q - +, 3,,, + 3 + 3,, 3 (εµπρός αντικατάσταση) + / ) ( / 3 3, 3 3, / ) ( /, 3, 3 Τα παραπάνω απεικονίζουν το συµπέρασµα από την Παρατήρηση 3.3.. ηλαδή η αναλυτική έκφραση της επανάληψης λαµβάνεται άµεσα από τις αρχικές εξισώσεις: σε κάθε εξίσωση i, i,3, οµαδοποιούµε συστηµατικά και µεταφέρουµε στο β µέλος τους όρους που αντιστοιχούν στις προηγούµενα υπολογισθείσες συνιστώσες. Έτσι λαµβάνουµε απ ευθείας: / ) ( /, 3, 3,,, ος τρόπος: Τα ίδια αποτελέσµατα παίρνουµε, αν και µε µεγαλύτερο κόπο, υπολογίζοντας τα BQ - P και cq - b. Το αντίστροφο του δισδιαγώνιου Q υπολογίζεται εύκολα: έχει την ίδια µορφή µε το Q, µε αντίστροφα διαγώνια στοιχεία (βλ. και Άσκηση 3.3 που αναφέρεται σε γνωστή ιδιότητα από τη Γραµµική Άλγεβρα): Q - ( ) / 3) 3, : ( : / Q, όπου Q(:3,:3) είναι το κεντρικό µπλοκ του Q, Q(:3,:3). Υπολογίζουµε εύκολα: ( ) T Q * * - 3) 3, : ( :..7 -. και τελικά: Q -...7.. Εποµένως:
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI-3 B Q - P.6.396, c Q - b (.,., -.7,.) Τ Το Α έχει προφανώς α.δ.κ. και εποµένως η ακολουθία Gus-Seidel συγκλίνει για κάθε αρχικό διάνυσµα. Θέτοντας αρχικά (.,,,.) T, υπολογίζουµε τώρα το αριθµητικό φράγµα για το απόλυτο σφάλµα στη η επανάληψη µε χρήση της νόρµας «άπειρο». Σε κάθε περίπτωση πρέπει να έχουµε υπολογίσει το B : B* +c (.,., -.7,.) Τ B.6 -. Αν e - είναι το απόλυτο σφάλµα στην η επανάληψη, τότε από την (6..6) παίρνουµε την ανισότητα: e B B Αντικαθιστώντας βρίσκουµε: e.3 [Mtlb] Μπορούµε να επαληθεύσουµε στο Mtlb τα παραπάνω αποτελέσµατα δίνοντας τις εντολές: A[ ; ; ; ] b[ ] QA /*υπολογισµός Q*/ Q(,3) PQ-A Biv(Q)*P /*µητρώο επανάληψης*/ civ(q)*b [..] /*αρχική προσέγγιση*/ B*+c frgmorm(-, if)*orm(b, if)^/(-orm(b, if)) /*υπολογισµός άνω φράγµατος*/ Παράδειγµα 6.3. Εφαρµόζουµε τη µέθοδο Guss-Seidel στο σύστηµα του Παρ.6... Από το σύστηµα 7 z και σύµφωνα µε την Παρατήρηση 3.3., λαµβάνουµε άµεσα: (7+ z) (+ + z) z (+ ) για,, Συνεπώς, η επανάληψη Guss-Seidel διαµορφώνεται: Πανεπιστήμιο Πατρών //
VI- Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα u (7+ z ) + + ( z ),,, z (+ ) Επειδή το σύστηµα έχει α.δ.κ., η µέθοδος συγκλίνει για κάθε αρχικό διάνυσµα. Ξεκινώντας µε το ίδιο αρχικό διάνυσµα u (,,) Τ, λαµβάνουµε µια ακολουθία διανυσµάτων που συγκλίνει στην λύση (,,3) Τ, όπως φαίνεται στο παρακάτω πίνακα: z....7 3.7.9.9 3.967.96 3.996 3.996937.9993......................9999993 3.999999.99999996 9.9999999 3.99999999 3... 3. Από τους δυο πίνακες είναι φανερό ότι η µέθοδος Guss-Seidel συγκλίνει ταχύτερα από τη µέθοδο Jcobi. [Mtlb] Παράδειγµα 6.3.3 Υλοποίηση της Μεθόδου Guss-Seidel Η παρακάτω συνάρτηση Gseid υλοποιεί την επαναληπτική µέθοδο Guss-Seidel: fuctio [P,dP,Z] GSeid(A,B,P,delt,mit) %-------------------------------------------------------------------- %GSEID Guss-Seidel itertio for solvig lier sstem A*b. % Smple cll % [X,dX] GSeid(A,B,P,delt,m) % [X,dX,Z] GSeid(A,B,P,delt,m) % Iputs % A coefficiet mtri % B right hd side vector % P strtig vector % delt covergece tolerce % mit mimum umber of itertios % Retur % X solutio vector % dx error estimte vector % Z Histor mtri of the itertios %-------------------------------------------------------------------- Z P'; legth(b); Pold P; for :mit, for r :, Sum B(r) - A(r,[:r-,r+:])*P([:r-,r+:]); P(r) Sum/A(r,r); ed dp bs(pold-p); err orm(dp); relerr err/(orm(p)+eps); Pold P; Z [Z;P']; if (err<delt) (relerr<delt), bre, ed ed if (mit) %checs if mimum umber of itertios ws reched disp( Mimum umber of itertios ehusted ) ed Πανεπιστήμιο Πατρών //
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI- οκιµάζουµε την GSeid για το σύστηµα του Παρ.6..: >> [X,dX,Z] GSeid(A,B,P,e-,) X.99999767 3.999999636.99999979 dx.e- *.97669379.66773.996733 Z....7 3.7.9.9 3.967.96.996 3.996937.9993.99966 3.99977.999396.9999693 3.999939637.99999.99999963 3.999993767.999997336.99999767 3.999999636.99999979 Τα αποτελέσµατα επιβεβαιώνουν την παρατήρηση που κάναµε στο Παρ. 6.3.. 6. Σύγκλιση Παρακάτω δίνονται µια σύνοψη καθώς και παρατηρήσεις σχετικά µε τη σύγκλιση και την ταχύτητα των µεθόδων Jcobi και Guss-Seidel. Θα πρέπει αρχικά να τονιστεί ότι είναι αποδοτικές (λίγες επαναλήψεις) όταν εφαρµόζονται σε αραιά µητρώα, (όπως π.χ. το µητρώο του Παρ.6.3.), οπότε οι υπολογισµοί µε µηδενικά µπορούν να αποφευχθούν. Παράλληλα εξοικονοµείται και µνήµη, αφού τα αραιά µητρώα (π.χ. ταινιακά) αποθηκεύονται σε πολύ µικρότερο χώρο. Η µέθοδος Guss-Seidel υπερέχει υπολογιστικά της µεθόδου Jcobi. Το πλεονέκτηµά της έγκειται στο ότι εξοικονοµεί υπολογιστικό χρόνο και ότι χρησιµοποιεί λιγότερη µνήµη. Είναι περίπου δύο φορές ταχύτερη. Η διαφορά στη ταχύτητα σύγκλισης φαίνεται χαρακτηριστικά και από τα αποτελέσµατα που πήραµε στα Παρ.6.. και Παρ.6.3.3 (συγκρίνατε επίσης τον απαιτούµενο αριθµό επαναλήψεων και για την ανοχή σφάλµατος εe-7). Αναφορικά µε τη σύγκλιση και την υπολογιστική συµπεριφορά και των δύο σχηµάτων, όλα εξαρτώνται από το µητρώο Α. Η σύγκλιση δεν είναι γενικά εξασφαλισµένη. Υπάρχουν επίσης συστήµατα για τα οποία συγκλίνει η µια µόνον από τις δύο µεθόδους. Ισχύουν ασφαλώς όλα τα κριτήρια σύγκλισης που χαρακτηρίζουν τη σύγκλιση της Γενικής Ε αναλη τικής Μεθόδου που εστιάζουν στις ιδιότητες του ΒQ - P. Ας κάνουµε όµως µια ανασκόπηση: Το µοναδικό πρακτικό (ικανό και αναγκαίο) κριτήριο σύγκλισης αναφέρεται στη φασµατική ακτίνα (Θ6.I.): Αν ρ(β)<, ό ου ΒQ - P το µητρώο ε ανάληψης, τότε η µέθοδος συγκλίνει (όλες οι ιδιοτιµές να είναι µικρότερες του κατ απόλυτο τιµή). Αυτό εξασφαλίζει τη σύγκλιση της ακολουθίας {Β },,,..., στο. Πρέπει να γνωρίζουµε όλες τις ιδιοτιµές του Β. Σε αρκετές περιπτώσεις το κριτήριο αυτό είναι δύσκολα εφαρµόσιµο, ιδίως όταν το είναι µεγάλο. Η ταχύτητα σύγκλισης υπαγορεύεται από το µέγεθος του ρ(β): όσο ιο κοντά στο είναι το ρ(β), τόσο η σύγκλιση είναι ταχύτερη (βλ. 6..). Θα πρέπει εποµένως να επιλέγεται εκείνη η επαναληπτική µέθοδος για την οποία το ρ(b) να είναι ελάχιστο. Πανεπιστήμιο Πατρών //
VI-6 Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα Σαφώς πιο πρακτική είναι η εφαρµογή ενός ικανού κριτηρίου που βασίζεται στη φυσική νόρµα: Αν για κά οια α ό τις γνωστές φυσικές νόρµες. (,, «ά ειρον») ισχύει Β <, τότε υ άρχει σύγκλιση (Πορ.6...). εν είναι όµως ασφαλής: αν δεν ικανοποιείται, δεν σηµαίνει ότι δεν υπάρχει σύγκλιση. ηλ. υπάρχουν µητρώα Β µε ρ(β)<, για τα οποία είναι Β >, Β > και Β >. Το µόνο βέβαιο είναι ότι για µια συγκλίνουσα επαναληπτική µέθοδο, υπάρχει πάντα κάποια νόρµα., τέτοια ώστε Β < (βλ. Θ6..3). Η αναζήτησή της βέβαια δεν είναι πάντοτε εφικτή, οπότε καταφεύγουµε στην εξέταση των γνωστών φυσικών νορµών. Επιπρόσθετα υπάρχει ένα ειδικότερο και χρήσιµο κριτήριο (µόνον ικανό) που εστιάζει κατ ευθείαν σε ιδιότητα του µητρώου συντελεστών ενός συστήµατος και το οποίο ισχύει και για τις δύο µεθόδους: αν το µητρώο Α του Αb έχει α.δ.κ. (κατά γραµµές ή στήλες), τότε η µέθοδος συγκλίνει. Αποτελεί συνήθως κριτήριο αφετηρίας για να εξετάσουµε τη σύγκλιση των δύο µεθόδων. Ασκήσεις 6. Έστω ένα άνω τριγωνικό µητρώο Β µε b i/(i+). Να εξετάσετε αν η επαναληπτική µέθοδος B - +c (c R ) συγκλίνει. 6. είξτε ότι η γενική επαναληπτική µέθοδος µε µητρώο επανάληψης Β[.999.99 ; ] συγκλίνει πάντα. 6.3 Για ποια c συγκλίνει η επαναληπτική µέθοδος µε µητρώο επανάληψης B[.9, ;. c]; 6. Nα δειχθεί το Πόρισµα 6... 6. ίνονται A[,,;,6,3;,,3] και b[,3,]. (α) Εξετάστε αν συγκλίνουν οι µέθοδοι Jcobi και Guss-Seidel για το σύστηµα Ab, υπολογίζοντας τις αντίστοιχες φασµατικές ακτίνες. (β) Επιχειρηµατολογήστε σχετικά µε την ταχύτητα σύγκλισης (γ) Επιβεβαιώσετε τα συµπεράσµατά σας εκτελώντας τους κώδικες Jcobi και Gseid των Παρ.6.. και Παρ.6.3.3. για ανοχή σύγκλισης delte-. 6.6 Να υπολογισθούν οι λύσεις των συστηµάτων των ασκήσεων. και.6 µε εφαρµογή της µεθόδου Guss-Seidel. Να χρησιµοποιηθεί ακρίβεια σ.ψ. Να υπολογισθούν οι αντίστοιχες φασµατικές ακτίνες των µητρώων Β και να εκτιµηθούν τα σχετικά σφάλµατα των λύσεων. 6.7 Να υπολογισθούν οι λύσεις των συστηµάτων των ασκήσεων III.. και III..9 µε εφαρµογή της µεθόδου Jcobi. Nα χρησιµοποιηθεί ακρίβεια σ.ψ. Να υπολογισθούν οι αντίστοιχες φασµατικές ακτίνες των µητρώων Β και να εκτιµηθούν τα σχετικά σφάλµατα των λύσεων. Τέλος, να συγκριθούν οι ταχύτητες σύγκλισης των µεθόδων Guss-Seidel και Jcobi για την προσέγγιση της ζητούµενης ακρίβειας. 6. Για τη διαµόρφωση ενός σχήµατος της Γενικής Επαναληπτικής Μεθόδου, επιλέγεται το Q έτσι ώστε να περιλαµβάνει την κύρια και τη δευτερεύουσα κάτω διαγώνιο του Α. Να βρεθεί η επαναληπτική ακολουθία για τις συνιστώσες κάθε προσέγγισης. Να συγκρίνετε τους απαιτούµενους υπολογισµούς έναντι της µεθόδου Jcobi. 6.9 Ένα ταινιακό σύστηµα λύνεται ευκολότερα και ταχύτερα από ένα τυχαίο (βλ..6). Να διατυπωθεί η επαναληπτική µέθοδος, όπου το Q επιλέγεται ως το ταινιακό µητρώο που περιέχει τις 3 διαγώνιους του Α (κύρια και δευτερεύουσες). Να βρεθεί η επαναληπτική ακολουθία για τις συνιστώσες κάθε προσέγγισης. Πανεπιστήμιο Πατρών //
Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα VI-7 6. Σύνοψη και Βιβλιογραφία Σύνοψη Τα πιο βασικά σηµεία που είδαµε στο κεφάλαιο αυτό είναι: Οι επαναληπτικές µέθοδοι προσφέρονται για συστήµατα µε αραιά µητρώα συντελεστών. Κεντρική ιδέα Γενική Ε αναλη τική Μεθόδου για την επίλυση ενός γραµµικού συστήµατος Ab, είναι η εκτέλεση µιας ακολουθίας υπολογισµών B - + c,,,..., ξεκινώντας µε ένα αρχικό διάνυσµα, η οποία συγκλίνει στην λύση. To B είναι το µητρώο επανάληψης. Το Α εκφράζεται ως ΑQ-P όπου Q είναι ένα επιλεγµένο µητρώο, εύκολα αντιστρέψιµο. Τα Β και c προκύπτουν από τις ΒQ - P και cq - b αντίστοιχα. Η εκτέλεση της παραπάνω ακολουθίας ισοδυναµεί µε την επαναληπτική επίλυση του συστήµατος: Q P - +b, για,, Ικανή και αναγκαία συνθήκη για να συγκλίνει µια επαναληπτική ακολουθία B -+c στη λύση, είναι limβ. Αυτή ισοδυναµεί µε ρ(β)<, όπου ρ(β) η φασµατική ακτίνα του Β. Η σχέση αυτή αποτελεί το κεντρικό κριτήριο σύγκλισης. Αν B p < για κάποια νόρµα p, τότε ικανοποιείται η ρ(β)<, και η επαναληπτική ακολουθία B -+c συγκλίνει στη λύση. H B p < είναι σηµαντική ικανή συνθήκη σύγκλισης. Ειδικές περιπτώσεις της γενικής επαναληπτικής µεθόδου αποτελούν τα επαναληπτικά σχήµατα Jcobi και Guss-Seidel. Η µέθοδος Jcobi κατασκευάζεται λαµβάνοντας Qdig(A). Οι συνιστώσες του στην επανάληψη υπολογίζονται από τις συνιστώσες της ροηγούµενης -. Η µέθοδος Guss-Seidel κατασκευάζεται λαµβάνοντας Qtril(A). Τότε Ptriu(dig(A)-A). Οι συνιστώσες του σε κάθε επανάληψη υπολογίζονται από προηγούµενες συνιστώσες της ίδιας ε ανάληψης και τις συνιστώσες της προηγούµενης -. Αυτή είναι και ή κύρια διαφορά µεταξύ των δυο µεθόδων στην κατασκευή και στη διαδικασία των υπολογισµών. Η µέθοδος Guss-Seidel υπερέχει της Jcobi σε ταχύτητα υπολογισµού. Αν Α έχει α.δ.κ., τότε η σύγκλιση των επαναλήψεων Jcobi και Guss-Seidel είναι εξασφαλισµένη και ισχύει για κάθε αρχικό διάνυσµα. Βιβλιογραφία και Χρήσιµες Αναφορές Η βιβλιογραφία αφορά κυρίως σε ελληνικά ([]-[3] και ξενόγλωσσα ([]-[3] συγγράµµατα Αριθµητικής Ανάλυσης και Αριθµητικής Γραµµικής Άλγεβρας [6]-[]). Τέλος δίνονται µερικές αναφορές για το Mtlb ([]-[3]). Στους φοιτητές-μηχανικούς προτείνονται ιδιαίτερα οι []-[] και [], []. Στις []-[3] και []-[] µπορεί κανείς να αναζητήσει εκτενέστερο υλικό για βελτιωµένα σχήµατα επαναληπτικών µεθόδων, διάφορα θεωρητικά και ειδικά θέµατα, όπως αποδείξεις σηµαντικών θεωρηµάτων και προτάσεων, καθώς και ενδιαφέρουσες εφαρµογές. Πανεπιστήμιο Πατρών //
VI- Επαναληπτικές Μέθοδοι για Γραμμικά Συστήματα [] Χ. Αλεξόπουλος, «Εισαγωγή στην Αριθμητική Ανάλυση και Περιβάλλοντα Υλοποίησης», Πανεπιστημιακές Σημειώσεις, Πανεπιστήμιο Πατρών, 7. [] Χ. Αλεξόπουλος, «Επιλεγμένες Ασκήσεις και Θέματα Αριθμητικής Ανάλυσης», (dowlodble versio), Πάτρα [3] Μ. Βραχάτης, «Αριθμητική Ανάλυση», Εκδ. «Ελληνικά Γράμματα»,. [] Δημήτρης Α. Γεωργίου, «Αριθμητική Ανάλυση, Παραδείγματα, Ασκήσεις και Θέματα Εξετάσεων», Εκδ. Κλειδάριθμος, Αθήνα, [] Α. Μπακόπουλος, Ι. Χρυσοβέργης, «Εισαγωγή στην Αριθμητική Ανάλυση», Εκδ. Συμεών, Αθήνα 99. [6] Γ. Σ. Παπαγεωργίου, «Θέματα Αριθμητικής Ανάλυσης», Εκδ. Συμεών, Αθήνα 99. [7] Γ. Αβδελάς, Θ. Σίμος, «Αριθμητική Γραμμική Άλγεβρα», Εκδόσεις Συμεών,. [] Γ. Αβδελάς, Θ. Σίμος, «Σημειώσεις Αριθμητικής Γραμμικής Άλγεβρας», Χανιά-Ξάνθη 999. [9] Γ. Δ. Ακρίβης, Β. Α. Δούγαλης, «Εισαγωγή στην Αριθμητική Ανάλυση», Πανεπιστημιακές Εκδόσεις Κρήτης, Ηράκλειο, 99. [] Δ. Κυταγιάς, Λ. Βρυζίδης, «Αριθμητική Ανάλυση» (Α και Β τόμος), Εκδ. Ίων, Αθήνα, 99. [] Α. Χατζηδήμος, «Εισαγωγή στην Αριθμητική Ανάλυση», Γιάννενα, 977. [] Α. Χατζηδήμος, «Αριθμητική Ανάλυση Ι», Γιάννενα, 97. [3] Α. Χατζηδήμος, «Αριθμητική Ανάλυση ΙΙ», Γιάννενα, 979. [] J. H. Mthews: Numericl Methods for Computer Sciece, Egieerig, d Mthemtics, Pretice-Hll It, Editios. [] S. C. Chpr, Rmod P. Cle, Numericl Methods for Egieers, Mc.Grw-Hill It. Editios, Secod Editio. [6] J. L. Goldeberg, Mtri Theor with Applictios, McGrw Hill, 99 [7] R. Broso, Mtri Methods, Acdemic Press, New Yor, 97. [] S. Bret, Mtrices Methods d Applictios, Clredo Press, Oford, 99. [9] B. N. Dtt, A first course i Numericl Lier Algebr, Broos Cole, 99. [] J. H. Hubbrd, Brbr Bure Hubbrd, «Διανυσματικός Λογισμός, Γραμμική Άλγεβρα και Διαφορικές Μορφές», Εκδόσεις Πανεπιστημίου Πατρών, 6. [] Χ. Αλεξόπουλος, «Εισαγωγή στο Mtlb», Πανεπιστημιακές Σημειώσεις,. [] Mtlb, The Lguge of Thechicl Computig, Gettig strted with Mtlb, The Mthwors,. [3] Due Hselm, Bruce Littlefield, «Μάθετε το Mtlb 7», τόμος Α και Β, Εκδόσεις Κλειδάριθμος, 6. Πανεπιστήμιο Πατρών //