Αριθμητική Ανάλυση και Εφαρμογές

Transcript

1 Αριθμητική Ανάλυση και Εφαρμογές Διδάσκων: Δημήτριος Ι. Φωτιάδης Τμήμα Μηχανικών Επιστήμης Υλικών Ιωάννινα

2 Συστήματα Γραμμικών Εξισώσεων

3 Εισαγωγή Σύστημα γραμμικών εξισώσεων a x a x a x b a x a x a x b ,, 1 a x a x a x b Οι πραγματικοί ή μιγαδικοί αριθμοί aij, i 1 1, j 1 1 συστήματος ονομάζονται συντελεστές των αγνώστων ή μεταβλητών x, i 1 1. i Οι πραγματικοί ή μιγαδικοί αριθμοί δεύτερα μέλη του συστήματος.. b, i 1 1 i του ονομάζονται

4 Εισαγωγή Το σύστημα (1) ονομάζεται σύστημα γραμμικών εξισώσεων, διότι μπορεί να γραφεί στη μορφή: όπου όλες οι συναρτήσεις είναι γραμμικές συναρτήσεις. Δηλαδή για κάθε x x1, x2,, x και y y1, y2,, y που ανήκουν στην περιοχή και για όλα τα ισχύουν ότι: Ορισμός: Αν τα δεύτερα μέλη του συστήματος (1) είναι όλα μηδέν, δηλαδή D f x, x,, x b, i 1 1, i 1 2 i f : D i i f x y f x f y i i i f kx kf x i b 0, i 1 1, i i, για k. τότε το σύστημα ονομάζεται ομογενές.,

5 Βασικές έννοιες μητρώων Εισαγωγή Χρησιμοποιώντας μητρώα το σύστημα (1) γραμμικών εξισώσεων γράφεται ως: όπου Ax b, a11 a 12 a1 x1 b1 a21 a 22 a 2 x 2 b 2 A, x, b. a a a x b 1 2

6 Εισαγωγή Ορισμός: Με την ονομασία μητρώο, μήτρα ή μητρείο τύπου ή τάξης m εννοούμε m το πλήθος πραγματικούς ή μιγαδικούς αριθμούς aij, i 11 m, j 11 που έχουν διαταχθεί ορθογώνια σε γραμμές και στήλες όπως: m A a11 a 12 a1 a11 a 12 a1 a a a a a a, ή. a a a a a a m1 m2 m m1 m2 m Οι αριθμοί aij, i 1 1 m, j 1 1 καλούνται στοιχεία του μητρώου και ο αντίστοιχος συμβολισμός του a ij υποδηλώνει ότι το στοιχείο αυτό βρίσκεται στην i γραμμή και στην j στήλη του μητρώου.

7 Εισαγωγή Ένα m μητρώο γράφεται και ως, Αν τα στοιχεία του είναι μιγαδικοί αριθμοί, συμβολίζεται ως Αν τα στοιχεία του είναι πραγματικοί αριθμοί συμβολίζεται ως Ορισμός: Ανάλογα με την πυκνότητα των μηδενικών στοιχείων σε ένα μητρώο, τα μητρώα διακρίνονται σε αραιά ή σποραδικά μητρώα αν το πλήθος των μη μηδενικών στοιχείων του είναι μικρό. Αν το μητρώο είναι τάξης, τότε θεωρείται αραιό αν το πλήθος των μη μηδενικών στοιχείων του είναι της τάξης O. Αν το πλήθος αυτό είναι της τάξης O 2, το μητρώο θεωρείται πυκνό ή αποθηκεύσιμο και γενικά απαιτεί τόση χωρητικότητα για την αποθήκευσή του όση και η τάξη του. A a ij m i, j A A m,. m,.

8 Εισαγωγή Ορισμός: Αν όλα τα στοιχεία ενός μητρώου είναι μηδέν, τότε το μητρώο ονομάζεται μηδενικό μητρώο και σημειώνεται ως. Ορισμός: Αν έχουμε m 1 ή 1, τότε το μητρώο λέγεται διάνυσμα γραμμής ή διάνυσμα στήλης, αντίστοιχα. Αν m 1 και 1, τότε το μητρώο αποτελείται από ένα μοναδικό στοιχείο. Αν m, τότε το μητρώο καλείται τετραγωνικό μητρώο τάξης m ή Σε τετραγωνικό μητρώο τα στοιχεία a11, a22,, a ονομάζονται διαγώνια και όλα μαζί αποτελούν την κύρια διαγώνιο του μητρώου. Το άθροισμα των διαγώνιων στοιχείων ονομάζεται ίχνος του μητρώου. tr A a11 a22 a O.

9 Εισαγωγή Για τα τετραγωνικά μητρώα ισχύουν τα εξής: Ορισμός: α) Αν ισχύει ότι aij 0, για i j, τότε το μητρώο λέγεται διαγώνιο, σημειώνεται ως diag a11, a22,, a και γράφεται με τη μορφή: a11 a a11 O a 22 0 a22 0 a 22 ή ή. a 0 0 a O a Ειδικότερα, το διαγώνιο μητρώο διάστασης που έχει όλα τα στοιχεία του ίσα με τη μονάδα καλείται μοναδιαίο μητρώο και σημειώνεται ως I ή ως. I

10 Εισαγωγή β) Αν ισχύει ότι aij 0, για i j, τότε το μητρώο λέγεται κάτω τριγωνικό και σημειώνεται με τη μορφή: a11 a a11 O a21 a 22 a21 a22 0 a21 a 22 ή ή. a a a a a a a a a γ) Αν ισχύει ότι aij 0, για i j, τότε το μητρώο λέγεται άνω τριγωνικό και σημειώνεται με τη μορφή: a11 a12 a1 a11 a12 a1 a11 a12 a1 a22 a 2 0 a22 a 2 a22 a 2 ή ή. a 0 0 a O a

11 Εισαγωγή Ορισμός: Σαν ανάστροφο μητρώο ενός μητρώου.. A T m ορίζεται το μητρώο A a., ji, Τα στοιχεία των γραμμών του A γίνονται στοιχεία των στηλών του T T A ενώ τα στοιχεία των στηλών του A γίνονται στοιχεία των γραμμών του A. A Ορισμός: Το μητρώο για το οποίο ισχύει η ισότητα ονομάζεται συμμετρικό μητρώο. ji, ij Στην περίπτωση όπου τα στοιχεία ενός μητρώου είναι μιγαδικοί αριθμοί και ισχύει ότι A A, τότε το μητρώο ονομάζεται Ερμιτιανό μητρώο. T H T Το μητρώο A A A A αποτελείται από τα αντίστοιχα συζυγή μιγαδικά στοιχεία του ανάστροφου του μητρώου A. A a m i, j A A T

12 Εισαγωγή Ορισμός: Δύο μητρώα A aij, B bij τάξης m είναι ίσα όταν για τα στοιχεία τους ισχύει ότι: Δηλαδή τα στοιχεία των ίσων μητρώων στις ίδιες θέσεις είναι ίσα. a b, i 1 1 m, j 1 1. ij ij Ορισμός: Ως άθροισμα δύο μητρώων A aij, B bij ίδιων τάξεων m, ορίζεται το μητρώο C c ij τάξης m του οποίου τα στοιχεία ορίζονται ως εξής: Την αντίστοιχη πράξη τη συμβολίζουμε ως c a b, i 1 1 m, j 1 1. ij ij ij C AB.

13 Εισαγωγή Ορισμός: Αν είναι ένα μητρώο τάξης m και είναι ένας αριθμός, τότε το γινόμενο του επί είναι το μητρώο B ka, το οποίο αποτελείται από τα αντίστοιχα στοιχεία του πολλαπλασιασμένα με τον αριθμό Αν 1, τότε το μητρώο 1 A Aονομάζεται αντίθετο του μητρώου και ισχύει ότι AA O. Ορισμός: Η διαφορά δύο μητρώων και της ίδιας τάξης, ορίζεται ως A k A A B A 1 B. A Η πράξη της αφαίρεσης δύο μητρώων ορίζεται ως τα στοιχεία ενός μητρώου C AB που προκύπτουν από τη σχέση: k. A k B c a b, i 1 1 m, j 1 1. ij ij ij k A

14 Ορισμός: Εισαγωγή Δύο μητρώα A και για τα οποία ο αριθμός των στηλών του A ισούται με τον αριθμό των γραμμών του ονομάζονται σύμμορφα ή συμμορφοτά. B, Αν το πρώτο μητρώο είναι τάξης m p και πολλαπλασιαστεί με το δεύτερο μητρώο B τάξης p, το γινόμενο των μητρώων συμβολίζεται ως C AB και είναι το μητρώο τάξης m με στοιχεία: A C όπου το διάνυσμα gi A συμβολίζει την γραμμή του μητρώου A ενώ το διάνυσμα s B συμβολίζει την στήλη του μητρώου B. Επομένως, το στοιχείο του γινομένου προκύπτει αν αθροίσουμε τα επιμέρους γινόμενα της [γραμμής i του A ] επί τα αντίστοιχα στοιχεία της [στήλης j του B ]. B, c g A s B a b, i 1 1 m, j 1 1, ij i j ik kj k1 j c ij p j i

15 Εισαγωγή Για τον πολλαπλασιασμό δεν ισχύει πάντα η αντιμεταθετική ιδιότητα Παράδειγμα: Για τα μητρώα A και, 1 1 B 1 1 δεν ισχύει ότι AB BA, διότι: AB, ενώ BA Ορισμός: Τα μητρώα AB, για τα οποία ισχύει η αντιμεταθετική ιδιότητα AB BA ονομάζονται αντιμεταθετικά μητρώα.

16 Εισαγωγή Ορισμός: Για ένα τετραγωνικό μητρώο αν υπάρχουν μητρώα X και έτσι ώστε να ισχύει: XA I AY, τότε ισχύει ότι X Y και ότι το μητρώο ή Y είναι μοναδικό, συμβολίζεται ως και ονομάζεται αντίστροφο μητρώο του A 1 A X A. Y Δεν έχουν όλα τα μητρώα αντίστροφο. Έτσι: Ορισμός: Αν για ένα μητρώο A υπάρχει το A 1, τότε το μητρώο A ονομάζεται αντιστρέψιμο και λέγεται ότι είναι ομαλό ή μη ιδιάζον διαφορετικά λέγεται μη ομαλό ή ιδιάζον. Το αντίστροφο ενός μητρώου έχει μεγάλη σημασία στην επίλυση συστημάτων γραμμικών εξισώσεων. Αν το αντίστροφο A 1 του μητρώου,.είναι A γνωστό, τότε η λύση του συστήματος Ax b μπορεί να αποκτηθεί ως εξής: x A b 1.

17 Εισαγωγή A Ορισμός: Ένα μητρώο είναι μη ιδιάζον μητρώο όταν η ορίζουσα του είναι διάφορη του μηδενός. Η ορίζουσα ενός τετραγωνικού μητρώου τάξης συμβολίζεται ως det A ή ως και εκφράζει έναν αριθμό που υπολογίζεται συναρτήσει των στοιχείων του μητρώου A. A Αν το μητρώο είναι τάξης τότε ισχύει ότι Αν το μητρώο είναι τάξης, τότε η ορίζουσά του ορίζεται με τη βοήθεια οριζουσών μητρώων τάξης 1 1 ως εξής: A 11, όπου 1 j είναι ένα μητρώο τάξης 1 1 που προκύπτει αν απαλειφθεί η πρώτη γραμμή και η j στήλη του μητρώου A. A j1 A A a1j A1j det 1 det, j1 A A a11 det. A

18 Εισαγωγή Παράδειγμα: Η ορίζουσα του μητρώου των συντελεστών των αγνώστων του συστήματος είναι x και επομένως το αντίστοιχο σύστημα έχει μοναδική λύση.

19 Εισαγωγή Μπορεί εύκολα να αποδειχθεί ότι η ορίζουσα ενός διαγώνιου ή τριγωνικού μητρώου ισούται με το γινόμενο των διαγωνίων στοιχείων του μητρώου. Ορισμός: Το πλήθος των γραμμικών ανεξάρτητων διανυσμάτων τα οποία αποτελούν ένα μητρώο λέγεται βαθμός του μητρώου και συμβολίζεται ως rak A. Παράδειγμα: Ο βαθμός του μητρώου A είναι 2, εφόσον γραμμη 3 γραμμη 1 2γραμμη 2 ή στηλη 3 στηλη 1 1 στηλη 2 και στηλη 4 στηλη 1 3 στηλη A

20 Εισαγωγή Ορισμός: Μια ελλάσων ορίζουσα μπορεί να σχηματιστεί από τα στοιχεία ενός μητρώου που αντιστοιχούν σε ίσο αριθμό γραμμών και στηλών. Παράδειγμα: Η ελλάσων ορίζουσα που σχηματίζεται από τις γραμμές 1 και 3 και τις στήλες 2 και 3 του μητρώου A είναι r, Αν ένα μητρώο έχει βαθμό τότε θα πρέπει να υπάρχει τουλάχιστον μία μη μηδενική ελλάσων ορίζουσα τάξης rr καμία άλλη μη μηδενική ελλάσων ορίζουσα δεν έχει τάξη μεγαλύτερη από rr. και

21 Εισαγωγή Ορισμός: Ένα συμμετρικό μητρώο ονομάζεται θετικά ορισμένο αν για κάθε διάνυσμα διάφορο του μηδενός ισχύει ότι: T z Az 0, z A ενώ ονομάζεται θετικά ημιορισμένο αν για κάθε διάνυσμα διάφορο του μηδενός ισχύει ότι: T z Az 0. z Παράδειγμα: Το μοναδιαίο μητρώο είναι θετικά ορισμένο, διότι, για κάθε διάνυσμα, T T z z z 0,0 ισχύει ότι: I 1 2 T 1 0 z1 z1 2 2 z Iz z1, z2 z1, z2 z1 z z 2 z 2

22 Εισαγωγή Ορισμός: Ένα τετραγωνικό, τάξης, μητρώο λέγεται ότι έχει αυστηρά διαγώνια κυριαρχία κατά γραμμές αν ισχύει ότι: Ενώ, αν ισχύει: τότε το μητρώο A κατά στήλες. j1 ji λέγεται ότι έχει αυστηρά διαγώνια κυριαρχία Όταν το μητρώο έχει αυστηρά διαγώνια κυριαρχία κατά γραμμές (ή κατά στήλες ), τότε ισχύουν ότι: A a a, i 1 1. ii j1 ji ij a a, i 1 1, ii ji A det A 0 και a 0 για όλα τα i 1 1. ii

23 Εισαγωγή Ορισμός: Αν σε ένα πραγματικό μητρώο ισχύει ότι τότε το μητρώο ονομάζεται ορθογώνιο μητρώο. A Ορισμός: Δύο μητρώα A και B ονομάζονται όμοια αν υπάρχει 1 μητρώο τέτοιο ώστε να ισχύει A S BS. Παράδειγμα: Τα παρακάτω μητρώα και είναι όμοια: A T T A A AA I, Παράδειγμα: Τα παρακάτω μητρώα είναι ορθογώνια: cos si cos si A, B, C si cos si cos S A, B, με S A B

24 Εισαγωγή Ιδιοτιμές και Ιδιοδιανύσματα, Για κάθε μητρώο A υπάρχουν ιδιοτιμές i, i11 και μη μηδενικά ιδιοδιανύσματα q τέτοια ώστε i \ 0, i 11 να επαληθεύουν τις εξισώσεις: Aq q, i 1 1. Οι ιδιοτιμές μπορούν να βρεθούν από την επίλυση της εξίσωσης: det AI 0, Ενώ τα αντίστοιχα ιδιοδιανύσματα μπορούν να βρεθούν από την επίλυση των παρακάτω γραμμικών συστημάτων A ii qi 0, i 11. Αναπτύσσοντας την ορίζουσα προκύπτει η χαρακτηριστική εξίσωση του μητρώου A Οι ρίζες 1, 2,, της παραπάνω εξίσωσης δεν είναι κατ ανάγκη διακεκριμένες (απλές) και αποτελούν τις ιδιοτιμές του μητρώου A. i i i c c c c

25 Ιδιοτιμές και Ιδιοδιανύσματα Εισαγωγή Ορισμός: Το σύνολο των ιδιοτιμών ενός μητρώου A ονομάζεται φάσμα των ιδιοτιμών του και συμβολίζεται: A,,,. 1 2 A Η απολύτως μεγαλύτερη ιδιοτιμή του μητρώου φασματική ακτίνα και συμβολίζεται: A max. i11 i A ονομάζεται

26 Εισαγωγή Ιδιοτιμές και Ιδιοδιανύσματα Παρατηρήσεις Αφού det AI 0, τα γραμμικά συστήματα έχουν μητρώα συντελεστών των αγνώστων μη αντιστρέψιμα και οι λύσεις που αναζητούνται είναι μη μηδενικές. Αν είναι ένα ιδιοδιάνυσμα του μητρώου A, τότε το cq, όπου c \ 0, είναι επίσης ιδιοδιάνυσμα το οποίο όμως δεν θεωρείται διαφορετικό από το q Υπάρχει περίπτωση ένα μητρώο A να έχει γραμμικά ανεξάρτητα ιδιοδιανύσματα, οπότε αυτά αποτελούν και μία βάση του χώρου. q.

27 Εισαγωγή Ιδιοτιμές και Ιδιοδιανύσματα Παρατηρήσεις Οι ιδιοτιμές ενός διαγώνιου ή τριγωνικού μητρώου ταυτίζονται με τα διαγώνια στοιχεία του μητρώου. Αν είναι μία ιδιοτιμή του μητρώου και το είναι μη ιδιάζον, τότε η τιμή θα είναι ιδιοτιμή του A 1 1. Αν το είναι ιδιάζον, τότε έχει τουλάχιστον μία μηδενική ιδιοτιμή. Ο βαθμός του μητρώου ισούται με το πλήθος των μη μηδενικών ιδιοτιμών του. A Εναλλάσσοντας δύο γραμμές ή δύο στήλες του A, οι ιδιοτιμές παραμένουν οι ίδιες. Τα θετικά ορισμένα μητρώα έχουν θετικές ιδιοτιμές, ενώ τα θετικά ημιορισμένα μητρώα έχουν μη αρνητικές ιδιοτιμές. A A A

28 Ανάλυση και Εκτίμηση Σφάλματος Μελέτη των σφαλμάτων που προκύπτουν κατά την αριθμητική επίλυση συστημάτων γραμμικών εξισώσεων. Στάθμη διανύσματος και στάθμη μητρώου Εκτίμηση σφάλματος Ασταθή συστήματα γραμμικών εξισώσεων Επαναληπτική βελτίωση προσεγγιστικής λύσης

29 Στάθμη Διανύσματος και Στάθμη Μητρώου Μία οικογένεια από στάθμες ενός διανύσματος x με συνιστώσες x, i 1 1, περιγράφεται από τη σχέση: x Συγκεκριμένα: (α) x x, 1 i i1 p i (β) x x x, 2 i i1 (γ) x max x. i i i x i p 1 p.

30 Στάθμη Διανύσματος και Στάθμη Μητρώου Όλες οι στάθμες ενός διανύσματος x με συνιστώσες xi, i 11, εκφράζουν έναν μη αρνητικό αριθμό και ορίζονται ώστε να ικανοποιούν τις συνθήκες: β α x 0, εκτός αν x 0, οποτε 0 0, cx c x, όπου c σταθερά, γ x y x y, όπου y. Αν στη σχέση (γ) θέσουμε x z y, τότε: z z y y z y z y, οπότε γενικά ισχύει ότι: x y x y.

31 Στάθμη Διανύσματος και Στάθμη Μητρώου Με ανάλογο τρόπο ορίζεται και η στάθμη ενός μητρώου, Αν m είναι ένα μητρώο με στοιχεία aij, i 1 1 m, j 11, τότε η στάθμη εκφράζει έναν μη αρνητικό αριθμό και ορίζεται ώστε να ικανοποιεί τις συνθήκες: β α A 0, εκτός αν A O, οπότε O 0, m, γ A B A B, όπου B, m, δ AB A B, όπου B. Frobeius στάθμη: A A ca c A, όπου c σταθερά, F i1 j1 m a ij 2 12.

32 Στάθμη Διανύσματος και Στάθμη Μητρώου Στάθμες μητρώων: α Α max a, H A A 1 i1 j1 12 β Α, 2 γ Α max a, j i ij ij όπου B είναι η φασματική ακτίνα του μητρώου B, ενώ H... A είναι το συζυγές ανάστροφο μητρώο του A.

33 Στάθμη Διανύσματος και Στάθμη Μητρώου Ορισμός: Ο αριθμός κατάστασης, συντελεστής κατάστασης ή δείκτης κατάστασης του τετραγωνικού και ομαλού μητρώου Adet A 0 είναι το μέγεθος που εκφράζεται από την σχέση: A A A 1. Ο αριθμός κατάστασης που αντιστοιχεί στη στάθμη συμβολίζεται με x. Ορισμός: Το σύστημα Ax b είναι ασταθές ή το μητρώο A είναι ασταθές αναφορικά με το σύστημα Ax b, όταν ο αριθμός κατάστασης είναι μεγάλος αριθμός 1. Σε διαφορετική περίπτωση, όταν ο αριθμός κατάστασης είναι πλησίον του ένα, το σύστημα είναι ευσταθές. x

34 Εκτίμηση Σφάλματος Ορισμός: Ορίζεται ως σφάλμα και συμβολίζεται ως η διαφορά των διανυσμάτων: x x, x όπου είναι μία προσεγγιστική λύση του συστήματος 1 Ax b, det A 0, b 0, και x A b είναι η ακριβής λύση του συστήματος. Στην πράξη δεν είναι γνωστή η ακριβής τιμή του x, οπότε αντί για το σφάλμα χρησιμοποιείται ένα άνω φράγμα για τη στάθμη του διανύσματος.

35 Εκτίμηση Σφάλματος Ορισμός: Ο αριθμός: x x, ονομάζεται απόλυτο σφάλμα της προσεγγιστικής λύσης x. Ορισμός: Ο αριθμός που εκφράζει το λόγο του σφάλματος προς τη στάθμη της ακριβής λύσης δηλαδή ο αριθμός: x 0, x x, x x ονομάζεται σχετικό σφάλμα της προσεγγιστικής λύσης Ορισμός: Ως υπόλοιπο διάνυσμα ή κατάλοιπο διάνυσμα ορίζεται το διάνυσμα: r Ax b. Το υπόλοιπο διάνυσμα είναι γνωστό, διότι, με δεδομένα μπορεί να υπολογιστεί. x. A, x και b

36 Εκτίμηση Σφάλματος Με βάση το υπόλοιπο διάνυσμα μπορούν να εκτιμηθούν τα σφάλματα της προσεγγιστικής λύσης x. Αυτό μπορεί να γίνει ως εξής: 1. A A x x Ax Ax Ax b A r A r Ή ισοδύναμα χρησιμοποιώντας κάποια στάθμη, για το σφάλμα αποκοπής της προσεγγιστικής λύσης ισχύει: 1 1 A r A r Με όμοιο τρόπο εξάγεται η παρακάτω έκφραση για το σχετικό σφάλμα της προσεγγιστικής λύσης x. r r 1, με = A A. b x b r x

37 Εκτίμηση Σφάλματος Είναι προφανές ότι, αν η στάθμη του υπόλοιπου είναι μικρή, αυτό δεν σημαίνει ότι αναγκαστικά το απόλυτο σφάλμα ή το σχετικό σφάλμα θα είναι μικρά. Εφαρμογή: Έστω το σύστημα γραμμικών εξισώσεων Ax b που δίνεται με τη μορφή: 1 2 x x T Το σύστημα έχει ακριβή λύση x 1,1. T Παίρνοντας μία προσεγγιστική λύση, όπως την x 3, 0, θα δούμε ότι, ενώ η στάθμη r είναι μικρή, το απόλυτο σφάλμα για αυτήν την προσεγγιστική λύση είναι αρκετά μεγάλο. Θα εξετάσουμε και θα δικαιολογήσουμε γιατί αυτό συμβαίνει. r r

38 Εκτίμηση Σφάλματος Λύση: Το υπόλοιπο για την προσεγγιστική λύση x 3,0 T είναι: r Ax b r Παίρνοντας μια στάθμη έχουμε ότι r Το σφάλμα για αυτήν την προσεγγιστική τιμή είναι: x x Οπότε για το απόλυτο σφάλμα έχουμε: x x max 2, 1 2. Βλέπουμε ότι, ενώ η στάθμη r του υπόλοιπου r είναι μικρή, το απόλυτο σφάλμα 2 είναι αρκετά μεγάλο.

39 Εκτίμηση Σφάλματος συνέχεια λύσης 1 Ο όρος στη σχέση A r, αν είναι πολύ μεγάλος, τότε A 1 επηρεάζει κατά πολύ το απόλυτο σφάλμα ανεξάρτητα από την τιμή της στάθμης Το αντίστροφο του μητρώου είναι το μητρώο: η στάθμη του οποίου είναι: r. A A , A max , max 20000,

40 Εκτίμηση Σφάλματος συνέχεια λύσης Έτσι, μπορούμε να πάρουμε ότι: A r, Και κατά συνέπεια έχουμε ότι: 1 r Επίσης, μπορούμε να πάρουμε και ένα άνω φράγμα για το απόλυτο σφάλμα της προσεγγιστικής τιμής x 3, 0 T ως εξής: max 2, r r

41 Εκτίμηση Σφάλματος συνέχεια λύσης Η δυσκολία του παραπάνω προβλήματος μπορεί να επεξηγηθεί παρατηρώντας ότι η ακριβής λύση x 1,1 T του δοθέντος συστήματος εκφράζει την τομή των ευθειών: l : x 2x l : x 2x Επίσης, το σημείο x 3, 0 T βρίσκεται στην ευθεία αφού την επαληθεύει, είναι όμως πολύ κοντά και στην ευθεία αφού Έτσι, το παραπάνω πρόβλημα προκύπτει επειδή οι δύο ευθείες είναι σχεδόν παράλληλες. l 1 l 2

42 Ασταθή Συστήματα Γραμμικών Εξισώσεων Όταν ένα σύστημα γραμμικών εξισώσεων Ax b είναι ασταθές, τότε μία μικρή μεταβολή ή διατάραξη στα στοιχεία του μητρώου ή και του διανύσματος μπορεί να επιφέρει μεγάλη μεταβολή στη μονοσήμαντα ορισμένη λύση του συστήματος. Παράδειγμα: Έστω το σύστημα των γραμμικών εξισώσεων Ax b που δίνεται με τη μορφή (α) και έστω ότι μεταβάλλουμε μερικά από τα στοιχεία του με πολύ μικρές διαταράξεις ώστε να το φέρουμε στη μορφή (β): Το σύστημα (α) δέχεται ως λύση την T δέχεται ως λύση την x 7, 5. b 1 2 x x α, β x x x T 1,1, A ενώ το σύστημα (β)

43 Ασταθή Συστήματα Γραμμικών Εξισώσεων Έστω ένα μητρώο ίδιας τάξης με την τάξη του το οποίο εκφράζει τις διαταράξεις ή τα σφάλματα που υπάρχουν στα στοιχεία του A. A Έστω το διάνυσμα που εκφράζει τις διαταράξεις ή σφάλματα για το διάνυσμα b. b Υποθέτοντας ότι κατά την επίλυση του συστήματος δεν θα σχηματιστούν επιπρόσθετα σφάλματα, τότε αντί της ακριβούς λύσης x, θα βρούμε μία λύση x x. Η λύση x x θα επαληθεύει το σύστημα γραμμικών εξισώσεων: A A x x b b. A,

44 Ασταθή Συστήματα Γραμμικών Εξισώσεων Αν το μητρώο είναι ομαλό και η διατάραξη του A είναι τέτοια ώστε να ισχύει: A A 1 1 A A 1, A τότε για τη σχετική διατάραξη της λύσης x b A x 1 A A b A ισχύει: x 1, με. Επίσης με βάση τη σχέση A A 1 ισχύει: x b A. x b A

45 Ασταθή Συστήματα Γραμμικών Εξισώσεων Αν η διατάραξη του μητρώου είναι μηδέν, τότε ισχύει: Αν η διατάραξη του διανύσματος είναι μικρή και η 1 συνθήκη A A 1 ικανοποιείται, τότε η σχέση απλοποιείται στην 1 x A x 1 A A A 1 A x b. x b x b A x 1 A A b A b 1, με, 1.

46 Επαναληπτική Βελτίωση Προσεγγιστικής Λύσης 1 Έστω ότι x A b είναι η ακριβής λύση του συστήματος.. Ax b, det A 0, b 0, και ότι είναι μία προσεγγιστική λύση του ίδιου συστήματος. Το σφάλμα που περιέχει η δίνεται από τη διαφορά. 0 x x. 0 0 Το υπόλοιπο διάνυσμα r υπολογίζεται ως r 0 Ax b και ισχύει A r 0. Στην πράξη, αντί της ακριβούς λύσης του συστήματος 0.βρίσκεται A r μία προσεγγιστική της τιμή 0. Οπότε η τιμή x 1 x 0 0, παρέχει μία βελτίωση της προσεγγιστικής τιμής 0 x. x 0 x 0

47 Επαναληπτική Βελτίωση Προσεγγιστικής Λύσης Επαναληπτική διαδικασία: p1 p p x x, p 0,1, 2, p Το σφάλμα δίνεται από τη λύση του συστήματος: p p p p A r, r Ax b, p 0,1,2, Το σφάλμα αυξάνουν. p τείνει στο μηδέν, καθώς οι επαναλήψεις p Επομένως, οι προσεγγιστικές τιμές ακριβή λύση x. x p πλησιάζουν την

48 Άμεσες Μέθοδοι Απαλοιφή του Gauss Μέθοδος απαλοιφής των Gauss Jorda Ομογενή γραμμικά συστήματα Υπολογισμός ορίζουσας Επίλυση πολλών γραμμικών συστημάτων με το ίδιο μητρώο συντελεστών των αγνώστων και εύρεση του αντίστροφου Μερική και πλήρης οδήγηση

49 Πρόβλημα προς επίλυση: Απαλοιφή του Gauss Ax b A b b O,, όπου, det 0,,. Η μέθοδος απαλοιφής του Gauss βασίζεται στις εξής ιδιότητες των γραμμικών συστημάτων: α. αν αντιμετατεθούν δύο οποιεσδήποτε εξισώσεις του συστήματος, β. αν πολλαπλασιαστεί μία εξίσωση του συστήματος επί έναν αριθμό c τέτοιον ώστε c 0, γ. αν αντικατασταθεί μία εξίσωση του συστήματος με το άθροισμα αυτής και μιας άλλης πολλαπλασιασμένης επί έναν αριθμό c τέτοιον ώστε c 0, τότε προκύπτει ένα σύστημα: Ax b, το οποίο είναι ισοδύναμο με το αρχικό σύστημα, με την έννοια ότι έχουν την ίδια λύση.

50 Απαλοιφή του Gauss Διαδικασία απαλοιφής: Στο βήμα i, i 1 1, η -οστή εξίσωση παραμένει αμετάβλητη και απαλείφεται ο άγνωστος από όλες τις άλλες εξισώσεις. i x i i Αυτό γίνεται προσθέτοντας κατάλληλα πολλαπλάσια της -οστής εξίσωσης σε καθεμιά από τις υπόλοιπες. Αυτή η διαδικασία επαναλαμβάνεται έως ότου το μητρώο του συστήματος να μετασχηματιστεί σε ένα άνω τριγωνικό μητρώο...: a 11 a 12 a 1 x1 b 1 a 22 a 2 x 2 b 2. a x b i A

51 Απαλοιφή του Gauss Τα στοιχεία ονομάζονται οδηγοί ή οδηγά στοιχεία και κάθε μία από τις αντίστοιχες γραμμές ονομάζεται οδηγός γραμμή. a ii Αν κατά τη διαδικασία απαλοιφής προκύψει οδηγός να είναι μηδέν, τότε ανταλλάσσεται η εξίσωση αυτή με μία επόμενη με οδηγό διάφορο του μηδενός det A 0. Το επαυξημένο μητρώο του συστήματος Ax b, ορίζεται ως: a11 a12 a1 b1 a21 a22 a2 b 2 A A b. a 1 a2 a b

52 Απαλοιφή του Gauss Η λύση του μετασχηματιζόμενου συστήματος προκύπτει εφαρμόζοντας τη διαδικασία της προς τα πίσω αντικατάστασης. Οι τιμές των συνιστωσών της λύσης προκύπτουν ως εξής: x b 1 x και xk b k a kjx j, για k 111. a a kk jk1

53 Απαλοιφή του Gauss Χρονική πολυπλοκότητα της μεθόδου απαλοιφής και της προς τα πίσω αντικατάστασης Το συνολικό πλήθος πολλαπλασιασμών και διαιρέσεων είναι Το συνολικό πλήθος των προσθέσεων και αφαιρέσεων είναι Επομένως, για μεγάλα αυτοί οι αριθμοί μπορεί να 3 θεωρηθούν ότι είναι της τάξης 1 3.

54 Απαλοιφή του Gauss Εφαρμογή: Εφαρμόζοντας την απαλοιφή Gauss, θα επιλύσουμε το σύστημα των γραμμικών εξισώσεων Ax b, του οποίου το επαυξημένο μητρώο έχει τη μορφή που ακολουθεί: A A b

55 Απαλοιφή του Gauss Λύση: Κρατάμε την πρώτη γραμμή του επαυξημένου μητρώου αμετάβλητη και θα μηδενίσουμε τα υπόλοιπα στοιχεία της πρώτης στήλης, χρησιμοποιώντας τους ακόλουθους μετασχηματισμούς: 1η γραμμη 2η γραμμη 2 : η γραμμη 3η γραμμη 3 :

56 Απαλοιφή του Gauss συνέχεια λύσης Κρατάμε την δεύτερη γραμμή του προκύπτοντος επαυξημένου μητρώου αμετάβλητη και θα μηδενίσουμε τα στοιχεία της δεύτερης στήλης, κάτω από την οδηγό γραμμή, χρησιμοποιώντας τους ακόλουθους μετασχηματισμούς: 4 2η γραμμη 3η γραμμη : Το αρχικό μητρώο των συντελεστών των αγνώστων έχει γίνει άνω τριγωνικό. Εφαρμόζοντας τη διαδικασία της προς τα πίσω αντικατάστασης προκύπτει η λύση x 11,3,3 T του συστήματος.

57 Μέθοδος Απαλοιφής των Πρόβλημα προς επίλυση:, όπου Gauss Jorda Ax b,, det A 0, b, b O. Η μέθοδος απαλοιφής των Gauss Jorda αποτελεί μία απλοποίηση της κλασικής μεθόδου απαλοιφής του Gauss. Η μέθοδος αυτή συνίσταται σε μία συστηματική εφαρμογή των μετασχηματισμών γραμμών, όπως και στην απαλοιφή Gauss, έτσι ώστε το μητρώο των συντελεστών των αγνώστων του τελικού μετασχηματιζόμενου συστήματος να είναι διαγώνιο, αντί να είναι άνω τριγωνικό.

58 Μέθοδος Απαλοιφής των Διαδικασία απαλοιφής: i Gauss Jorda Κατά το -οστό βήμα της διαδικασίας ο άγνωστος απαλείφεται από τις τελευταίες i εξισώσεις και από τις i 1 πρώτες εξισώσεις. Το προκύπτον σύστημα Ax b είναι ισοδύναμο με το αρχικό Ax b a 11 x1 b 1 a 22 x 2 b 2. a x b Οι οδηγοί είναι τα στοιχεία a ii για i 1 1. Οι τιμές των συνιστωσών της λύσης x i προκύπτουν από τη σχέση x b a για i 1 1. i i ii x i

59 Μέθοδος Απαλοιφής των Gauss Jorda Χρονική πολυπλοκότητα της μεθόδου απαλοιφής των Gauss - Jorda Το συνολικό πλήθος πολλαπλασιασμών και διαιρέσεων είναι Το συνολικό πλήθος των προσθέσεων και αφαιρέσεων είναι Επομένως, για μεγάλα αυτοί οι αριθμοί μπορεί να 3 θεωρηθούν ότι είναι της τάξης 1 2.

60 Μέθοδος Απαλοιφής των Gauss Jorda Εφαρμογή: Εφαρμόζοντας την απαλοιφή Gauss Jorda, θα επιλύσουμε το σύστημα των γραμμικών εξισώσεων Ax b, του οποίου το επαυξημένο μητρώο έχει τη μορφή που ακολουθεί: A A b

61 Λύση: Μέθοδος Απαλοιφής των Gauss Jorda Κρατάμε την πρώτη γραμμή του επαυξημένου μητρώου αμετάβλητη και θα μηδενίσουμε τα υπόλοιπα στοιχεία της πρώτης στήλης, χρησιμοποιώντας τους ακόλουθους μετασχηματισμούς: 1η γραμμη 2η γραμμη 2 : η γραμμη 3η γραμμη 5 :

62 συνέχεια λύσης Μέθοδος Απαλοιφής των Gauss Jorda Κρατάμε τη δεύτερη γραμμή του προκύπτοντος επαυξημένου μητρώου αμετάβλητη και θα μηδενίσουμε τα υπόλοιπα στοιχεία της δεύτερης στήλης, χρησιμοποιώντας τους ακόλουθους μετασχηματισμούς: 2η γραμμη 3η γραμμη 5 : η γραμμη 1η γραμμη 2 :

63 συνέχεια λύσης Μέθοδος Απαλοιφής των Gauss Jorda Κρατάμε την τρίτη γραμμή του προκύπτοντος επαυξημένου μητρώου αμετάβλητη και θα μηδενίσουμε τα υπόλοιπα στοιχεία της τρίτης στήλης, χρησιμοποιώντας τους ακόλουθους μετασχηματισμούς: 3η γραμμη 2η γραμμη 2 3 : η γραμμη 1η γραμμη 1 3 : Το αρχικό μητρώο των συντελεστών των αγνώστων έχει γίνει διαγώνιο και, επομένως, η λύση του T x 1,1,1. συστήματος είναι η

64 Ομογενή Γραμμικά Συστήματα Το σύστημα Ax b, τάξης, ονομάζεται ομογενές, όταν b 0, i 1 1. i Η γενική μορφή ενός ομογενούς γραμμικού συστήματος είναι: a x a x a x a x a x a x a x a x a x T Το σημείο x x1, x2,, x 0,0,,0, επαληθεύει πάντα το σύστημα και ονομάζεται τετριμμένη ή ευτελής λύση. T

65 Ομογενή Γραμμικά Συστήματα Εφαρμογή: Θα επιλύσουμε το παρακάτω ομογενές σύστημα γραμμικών εξισώσεων: x x x 0, x 3x 2x 0, x 4x 3x 0, εφαρμόζοντας την απαλοιφή του Gauss.

66 Ομογενή Γραμμικά Συστήματα Λύση: Χρησιμοποιούμε τους ακόλουθους μετασχηματισμούς: 1η γραμμη 2η γραμμη 1 : η γραμμη 3η γραμμη 2 : η γραμμη 3η γραμμη 1 : Έχουμε άπειρες λύσεις, επειδή Αν υποθέσουμε ότι 3, τότε όπου είναι ένας αυθαίρετος αριθμός. c x c c c x,, c, 2 2 T 0x3 0.

67 Ομογενή Γραμμικά Συστήματα Είδαμε στην προηγούμενη εφαρμογή πως το συγκεκριμένο ομογενές σύστημα έχει μία μονοπαραμετρική απειρία λύσεων. Ο λόγος είναι ότι οι εξισώσεις του συστήματος είναι γραμμικά εξαρτημένες. Αυτό ισοδυναμεί με τη μηδενική τιμή της ορίζουσας των συντελεστών των αγνώστων. Διαφορετικά το σύστημα θα δεχόταν μόνο την τετριμμένη λύση.

68 Υπολογισμός Ορίζουσας Για την τιμή της ορίζουσας του μητρώου A ισχύει: a a a a a a a a a a a k det A 1 a a a a a a a όπου k το πλήθος των εναλλαγών γραμμών σε όλη τη διαδικασία της απαλοιφής Gauss.

69 Επίλυση Πολλών Γραμμικών Συστημάτων με το Ίδιο Μητρώο Συντελεστών των Αγνώστων και Εύρεση Αντιστρόφου Έστω το σύνολο των συστημάτων γραμμικών εξισώσεων: x j j όπου και είναι τα διανύσματα στήλες των αγνώστων και των δεύτερων μελών του -οστού συστήματος, και όπου το εκφράζει το πλήθος των συστημάτων. b j j Για να αποφευχθεί η επανάληψη της ίδιας διαδικασίας για την τριγωνοποίηση του χρησιμοποιείται το επαυξημένο μητρώο: A j Ax b, j 1 1 k, k 1 2 k a11 a12 a1 b1 b1 b k k a a a b b b A A b b b 1 2 k a 1 a2 a b b b ,,,.

70 Επίλυση Πολλών Γραμμικών Συστημάτων με το Ίδιο Μητρώο Συντελεστών των Αγνώστων και Εύρεση Αντιστρόφου Σύμφωνα με τη μέθοδο της απαλοιφής του Gauss, πραγματοποιώντας κατάλληλους μετασχηματισμούς γραμμών στο επαυξημένο μητρώο, προκύπτει το μητρώο: 1 2 k a 11 a 12 a 1 b 1 b 1 b 1 a 22 a 2 b 2 b 2 b 2 A a b b b 1 2 k 1 2 k Ακολουθώντας τη διαδικασία της προς τα πίσω αντικατάστασης για κάθε j διάνυσμα j b, προκύπτει η αντίστοιχη λύση x του -οστού συστήματος. Η χρονική πολυπλοκότητα της μεθόδου απαλοιφής του Gauss, όταν 1 2 k 3 εφαρμοστεί στο μητρώο A A b, b,, b, είναι της τάξης 1 3. j.

71 Επίλυση Πολλών Γραμμικών Συστημάτων με το Ίδιο Μητρώο Συντελεστών των Αγνώστων και Εύρεση Αντιστρόφου Αν εφαρμοστεί η απαλοιφή των Gauss Jorda, το επαυξημένο μητρώο μετασχηματίζεται στη μορφή: 1 A k b b b k b b b k b b b j Είναι προφανές ότι το κάθε διάνυσμα b αποτελεί την αντίστοιχη λύση j x του -οστού συστήματος. j Η χρονική πολυπλοκότητα της μεθόδου απαλοιφής των Gauss Jorda, 1 2 k όταν εφαρμοστεί στο μητρώο A A b, b,, b, είναι της τάξης A

72 Επίλυση Πολλών Γραμμικών Συστημάτων με το Ίδιο Μητρώο Συντελεστών των Αγνώστων και Εύρεση Αντιστρόφου Εύρεση του αντιστρόφου ενός μητρώου Έστω το αντίστροφο μητρώο του η -οστή στήλη του μητρώου και η -οστή στήλη του μοναδιαίου μητρώου Ισχύει: A 1 X e j j j Οι παραπάνω σχέσεις εκφράζουν το πλήθος συστήματα γραμμικών εξισώσεων, τα οποία έχουν το ίδιο μητρώο συντελεστών των αγνώστων αλλά A, διαφέρουν στα δεύτερα μέλη. j Η λύση x του j j j -οστού συστήματος Ax e παρέχει την j -οστή στήλη του ζητούμενου αντιστρόφου A 1. A, j x j j AX I Ax e, j 1 1. I.

73 Επίλυση Πολλών Γραμμικών Συστημάτων με το Ίδιο Μητρώο Συντελεστών των Αγνώστων και Εύρεση Αντιστρόφου A 1 Η εύρεση του απαιτεί την επίλυση γραμμικών συστημάτων. Χρονική πολυπλοκότητα της μεθόδου απαλοιφής του Gauss και της προς τα πίσω αντικατάστασης όταν εφαρμοστούν στο επαυξημένο μητρώο 1 2 A e, e,, e Το συνολικό πλήθος πολλαπλασιασμών και διαιρέσεων είναι 3 2 Το συνολικό πλήθος των προσθέσεων και αφαιρέσεων είναι Χρονική πολυπλοκότητα της μεθόδου απαλοιφής των Gauss Jorda όταν 1 2 εφαρμοστεί στο επαυξημένο μητρώο A e, e,, e Το συνολικό πλήθος πολλαπλασιασμών και διαιρέσεων είναι Το συνολικό πλήθος των προσθέσεων και αφαιρέσεων είναι

74 Επίλυση Πολλών Γραμμικών Συστημάτων με το Ίδιο Μητρώο Συντελεστών των Αγνώστων και Εύρεση Αντιστρόφου Εφαρμογή: Θα βρούμε εφαρμόζοντας την απαλοιφή Gauss το αντίστροφο μητρώου A Λύση: A: Το επαυξημένο μητρώο που προκύπτει θέτοντας δεξιά του μητρώου μοναδιαίου μητρώου είναι: Πραγματοποιώντας το μετασχηματισμό γραμμών έχουμε: I Επομένως το ζητούμενο αντίστροφο του μητρώου είναι: A 1 x x x2 x2 A A 1 του τις στήλες του 2 31η γραμμή 2η γραμμή A

75 Μερική και Πλήρης Οδήγηση Οι τεχνικές της μερικούς και της πλήρους οδήγησης αντιμετωπίζουν τη συσσώρευση των σφαλμάτων στρογγυλοποίησης. Παράδειγμα: Ας υποθέσουμε ότι εφαρμόζουμε την απαλοιφή Gauss στο παρακάτω σύστημα γραμμικών εξισώσεων: 6 10 x x 0.6, η ακριβής λύση του οποίου είναι η Σύμφωνα με την απαλοιφή Gauss, θα πρέπει να πολλαπλασιάσουμε την 6 πρώτη εξίσωση με το μεγάλο σε μέγεθος αριθμό 10 και τα αντίστοιχα πολλαπλάσια να τα προσθέσουμε στη δεύτερη εξίσωση. Επομένως, η δεύτερη εξίσωση μετασχηματίζεται στην x x x 1, 110 x , T

76 Μερική και Πλήρης Οδήγηση συνέχεια παραδείγματος Ας υποθέσουμε ότι στους υπολογισμούς μας εργαζόμαστε με πέντε σημαντικά ψηφία. Έτσι από την παραπάνω εξίσωση έχουμε ότι: από την οποία παίρνουμε ότι Αν εφαρμόσουμε τη μέθοδο της προς τα πίσω αντικατάστασης θα έχουμε από την οποία παίρνουμε Έτσι η λύση x λύση x , 0,0.6 T x x x, x1 0. που βρήκαμε απέχει πολύ από την πραγματική

77 Μερική και Πλήρης Οδήγηση συνέχεια παραδείγματος Η αιτία για αυτό είναι ότι προσθέσαμε στους συντελεστές της αρχικής δεύτερης εξίσωσης ποσότητες τόσο μεγάλες σε μέγεθος, ώστε χρησιμοποιώντας μόνο πέντε σημαντικά ψηφία, τα μεγέθη των παλιών συντελεστών να γίνουν αμελητέα. Αν επιλύσουμε το ίδιο σύστημα με την ίδια μέθοδο και χρησιμοποιώντας την ίδια ακρίβεια, αλλά με εναλλαγή των T εξισώσεων, τότε θα πάρουμε τη λύση x , Η λύση αυτή δεν απέχει πολύ από την πραγματική λύση.

78 Μερική και Πλήρης Οδήγηση Ορισμός: Σύμφωνα με τη μερική οδήγηση στο -οστό στάδιο της απαλοιφής Gauss, επιλέγεται ως οδηγό στοιχείο το στοιχείο που βρίσκεται στην j οστή γραμμή για. j k 1 και για το οποίο ισχύει ότι: a k jk lk Στη συνέχεια ανταλλάσσεται η γραμμή με τη γραμμή j και συνεχίζεται η διαδικασία απαλοιφής. x k Για να απαλειφθεί το άγνωστο σε μία από τις επόμενες γραμμές, έστω την.-οστή, πρέπει να πολλαπλασιαστούν τα στοιχεία της νέας -οστής οδηγού γραμμής με το συντελεστή: k apk m, pk k akk ο οποίος γενικά ονομάζεται πολλαπλασιαστής. p Ο πολλαπλασιαστής είναι απολύτως μικρότερος της μονάδας και επομένως δεν προκαλεί μεγέθυνση στα σφάλματα στρογγυλοποίησης. 1 k max a, k lk k k a jk k

79 Μερική και Πλήρης Οδήγηση Ορισμός: Η μέθοδος που επιλέγει σε κάθε στάδιο της απαλοιφής ως οδηγό στοιχείο τον απολύτως μεγαλύτερο συντελεστή σε όλο το μητρώο ονομάζεται πλήρης οδήγηση. Στην πλήρη οδήγηση δεν αναδιατάσσουμε μόνο τις γραμμές αλλά και τις στήλες. Στην αρχή του -οστού σταδίου της απαλοιφής, επιλέγουμε ως k οδηγό στοιχείο το στοιχείο a jm που βρίσκεται στην -οστή γραμμή και την m-οστή στήλη και για το οποίο ισχύει ότι: k a k jm p, qk 1 k max a. pq j

80 Μερική και Πλήρης Οδήγηση Η μερική οδήγηση απαιτεί για την εύρεση του απολύτως μεγαλύτερου στοιχείου πράξεις της τάξης O 2, ενώ αυτής της πλήρους οδήγησης απαιτεί πράξεις της τάξης του O 3. Όταν ένα μητρώο έχει αυστηρά διαγώνια κυριαρχία, τότε η τεχνική της οδήγησης δεν είναι απαραίτητη. Πολλές φορές μειώνει την αποδοτικότητα των αντίστοιχων αλγορίθμων χωρίς οδήγηση.

81 Επαναληπτικές Μέθοδοι Οι έμμεσες ή επαναληπτικές μέθοδοι αριθμητικής επίλυσης γραμμικών συστημάτων, σε σχέση με τις αντίστοιχες άμεσες, χρησιμοποιούνται κυρίως όταν είναι γνωστό από πριν ότι η σύγκλισή τους είναι πολύ γρήγορη ή όταν το μητρώο A είναι μεγάλης τάξης και αραιό. Στις περιπτώσεις αυτές το πλήθος των πράξεων, που απαιτείται για την εύρεση της λύσης με μία επαναληπτική μέθοδο, είναι συνήθως πολύ μικρότερο από το αντίστοιχο πλήθος με μία άμεση μέθοδο. Οι επαναληπτικές μέθοδοι προγραμματίζονται πολύ εύκολα σε έναν υπολογιστή παράλληλης επεξεργασίας.

82 Επαναληπτικές Μέθοδοι Θα παρουσιαστούν επαναληπτικές αριθμητικές μέθοδοι επίλυσης του προβλήματος: Ax b A b b O οι οποίες μπορούν να εφαρμοστούν και σε περιπτώσεις μιγαδικών, συστημάτων, δηλαδή όταν A και b. Γενικά, οι επαναληπτικές μέθοδοι χρησιμοποιώντας μία αυθαίρετη προσέγγιση της λύσης, έστω τη και με βάση έναν αναδρομικό αλγόριθμο, κατασκευάζουν διαδοχικά του όρους μίας ακολουθίας διανυσμάτων k x η οποία κάτω από ορισμένες προϋποθέσεις συγκλίνει στη k λύση του προβλήματος. 0,,, όπου, det 0,,, 0 x

83 Επαναληπτικές Μέθοδοι Κατασκευή μίας επαναληπτικής μεθόδου για την επίλυση του, συστήματος Ax b,, det A 0, b, b O. Θεωρείται μία διάσπαση του μητρώου : A M N, όπου το μητρώο ονομάζεται μητρώο ρυθμιστής. M Οι βασικοί περιορισμοί που πρέπει να ισχύουν σε ένα μητρώο ρυθμιστή είναι: M να είναι αντιστρέψιμο (δηλαδή det M 0) και το μητρώο να είναι τέτοιο ώστε ένα γραμμικό σύστημα με μητρώο συντελεστών των αγνώστων M να λύνεται με λιγότερες πράξεις από ένα άλλο σύστημα με μητρώο συντελεστών των αγνώστων A. Έτσι, η εξίσωση Ax b μπορεί να γραφεί ως: A M N x b Mx Nx b.

84 Επαναληπτικές Μέθοδοι Κατασκευή μίας επαναληπτικής μεθόδου για την επίλυση του, συστήματος, Ax b, det A 0, b, b O x 0 Αν είναι μία αρχική προσέγγιση της ακριβούς λύσης τότε: k1 k Mx Nx b, k 0,1, 2, x A b 1, M 1 Επειδή το αντίστροφο υπάρχει, ισχύει: με 0 x δεδομένο. k k 1 1 x M Nx M 1 b, k 0,1,2,

85 Επαναληπτικές Μέθοδοι Θεώρημα: Ο επαναληπτικός τύπος καθορίζει μία ακολουθία διανυσμάτων k x, η οποία, αν συγκλίνει, θα συγκλίνει k 0 στη μονοσήμαντα ορισμένη λύση του συστήματος Ax b. Θεώρημα: Αναγκαία και ικανή συνθήκη για τη σύγκλιση της ακολουθίας των παραγόμενων από τον επαναληπτικών τύπο 1 διανυσμάτων στη λύση x A b του συστήματος είναι: και όπου T 1 T 1, οπου T M N, συμβολίζει τη φασματική ακτίνα του μητρώου T.

86 Επαναληπτικές Μέθοδοι Πόρισμα: Μια ικανή συνθήκη για τη σύγκλιση της ακολουθίας των παραγόμενων από τον επαναληπτικό τύπο διανυσμάτων στη λύση 1 του συστήματος x A b είναι για μια οποιαδήποτε στάθμη να ισχύει T 1. Πόρισμα: Αν για κάποια στάθμη και για κάποιο θετικό ακέραιο k για το μητρώο του επαναληπτικού τύπου ισχύει ότι T 1, τότε ο επαναληπτικός τύπος συγκλίνει. Στην πράξη, πρώτα εξετάζεται αν ικανοποιείται η ικανή συνθήκη T M N 1, για p 1 ή p, p 1 p οπότε σύμφωνα με τη σχέση T T θα ισχύει η αναγκαία και ικανή συνθήκη T 1, για τη σύγκλιση του επαναληπτικού τύπου. k

87 Επαναληπτικές Μέθοδοι Τα συνηθέστερα κριτήρια τερματισμού των επαναληπτικών μεθόδων είναι: k1 k x x k1 k α x x 1, β 1 2, k x όπου τα και είναι μικροί θετικοί αριθμοί. 1 2 Το πρώτο κριτήριο συσχετίζεται με το απόλυτο σφάλμα, ενώ το δεύτερο κριτήριο, το οποίο συνήθως εφαρμόζεται στην πράξη, συσχετίζεται με το σχετικό σφάλμα. Στην πράξη, αν επιθυμούμε προσέγγιση της λύσης με m σημαντικά ψηφία και θεωρώντας το δεύτερο κριτήριο χρησιμοποιώντας την άπειρο στάθμη, τότε μπορούμε να πάρουμε m. 2

88 Επαναληπτικές Μέθοδοι Θεώρημα: Αν για κάποια στάθμη του επαναληπτικού μητρώου 1.. T M N ισχύει ότι T 1, τότε το ελάχιστο πλήθος των k επαναλήψεων που αρκούν, ώστε να ισχύει 1, δίνεται από τον τύπο k mi,, όπου log log 1 T log 1 T x M b 1 log T 0 1 log log 1 T log I T x M b 2, log T όπου ο συμβολισμός. δηλώνει το μικρότερο ακέραιο, ο οποίος είναι μεγαλύτερος ή ίσος του αριθμού που βρίσκεται μέσα στο όρισμα.,

89 Μέθοδος του Jacobi και Μέθοδος των Gauss Seidel Οι δύο μέθοδοι βασίζονται στη διάσπαση του μητρώου των συντελεστών των αγνώστων A: A D L U, όπου D diag a11, a22,, a, διαγώνιο μητρώο με διαγώνια στοιχεία τα αντίστοιχα του ενώ το μητρώο είναι αυστηρά κάτω τριγωνικό μητρώο και το U αυστηρά άνω τριγωνικό μητρώο: A, L L 0 0 a12 a1 a a 2, U. a1 a2 0 0

90 Μέθοδος του Jacobi και Μέθοδος των Gauss Seidel, Θεώρημα: Αν το μητρώο A έχει αυστηρά διαγώνια κυριαρχία κατά γραμμές ή κατά στήλες, δηλαδή να ισχύει: ii ij ii ji j1 j1 ji ji τότε οι αντίστοιχες μέθοδοι των Jacobi και Gauss Seidel συγκλίνουν. a a, i 1 1, ή a a, i 1 1,

91 Μέθοδος του Jacobi Στη μέθοδο Jacobi το μητρώο ρυθμιστής είναι το Για να είναι το μητρώο M αντιστρέψιμο, θα πρέπει: Αν το αντίστροφο μητρώο υπάρχει, το επαναληπτικό σχήμα της μεθόδου Jacobi είναι: με οποιοδήποτε M D. det M det D a a a 0. D 1 k k 1 1 x D L U x D 1 b, k 0,1,2,, x 0. k k Οι συνιστώσες xi, i 1 1 του διανύσματος x της -οστής επανάληψης δίνονται από τη σχέση: k1 1 k xi bi aijx j, i 11, k 0,1,2, a ii j1 ji k

92 Μέθοδος του Jacobi Η ικανή συνθήκη για τη σύγκλιση του επαναληπτικού σχήματος είναι το μητρώο A να έχει αυστηρά διαγώνια κυριαρχία κατά γραμμές ή κατά στήλες, ή να ισχύει ότι: 1 1 T M N D L U 1, ενώ η αναγκαία και ικανή συνθήκη για τη σύγκλιση είναι η εξής: 1 T M N D 1 L U 1.

93 Μέθοδος των Gauss Seidel Στη μέθοδο Gauss Seidel το μητρώο ρυθμιστής είναι το Για να είναι το μητρώο αντιστρέψιμο, θα πρέπει: Αν το αντίστροφο μητρώο D υπάρχει, το επαναληπτικό σχήμα της μεθόδου Gauss Seidel είναι: με οποιοδήποτε M M D L L 1 det det 0. k k1 x D L 1 Ux D L 1 b k M D L. k k Οι συνιστώσες xi, i 1 1 του διανύσματος x της -οστής επανάληψης δίνονται από τη σχέση:, 0,1,2,, x 0. i1 k1 1 k1 k xi bi aij x j aij x j, i 11, k 0,1,2, aii j1 ji1 k

94 Μέθοδος των Gauss - Seidel Η ικανή συνθήκη για τη σύγκλιση του επαναληπτικού σχήματος είναι το μητρώο A να έχει αυστηρά διαγώνια κυριαρχία κατά γραμμές ή κατά στήλες, ή να ισχύει ότι: 1 1 T M N D L U 1, ενώ η αναγκαία και ικανή συνθήκη για τη σύγκλιση είναι η εξής: 1 T M N D L U 1. 1

95 Μέθοδος του Jacobi και Μέθοδος των Gauss Seidel Μέθοδος Jacobi Μέθοδος Gauss Seidel k1 1 k xi bi aijx j, i 11, k 0,1,2, a ii j1 ji i1 k 1 1 k 1 k xi bi aijx j aijx j, i 11, k 0,1,2, aii j1 ji1 Για την εύρεση της συνιστώσας της νέας επανάληψης στη μέθοδο Jacobi χρησιμοποιούνται όλες οι συνιστώσες k 1 x i k στη μέθοδο Gauss Seidel χρησιμοποιούνται οι συνιστώσες x 1 j, j 1(1) i 1 της k τρέχουσας επανάληψης και οι συνιστώσες x j, j i 11 της προηγούμενης επανάληψης. Εκτελώντας τη μέθοδο Jacobi σε έναν υπολογιστή με παράλληλη αρχιτεκτονική, είναι δυνατόν όλες οι συνιστώσες της νέας επανάληψης να βρεθούν σε ένα χρονικό βήμα από όλες της προηγούμενης επανάληψης. k x, j 1 1. j

96 Μέθοδος του Jacobi και Μέθοδος των Gauss Seidel Εφαρμογή: Θα εφαρμόσουμε τη μέθοδο του Jacobi για να επιλύσουμε το παρακάτω σύστημα των γραμμικών εξισώσεων: x 2x 2x 1, x x x 1, x 2x x 1, χρησιμοποιώντας ως αρχική εκτίμηση της λύσης την x 0 T 1,1,1.

97 Μέθοδος του Jacobi και Μέθοδος των Λύση: Gauss Seidel Το μητρώο των συντελεστών των αγνώστων και το σταθερό διάνυσμα είναι: Διασπάμε το μητρώο σε A D L U, όπου: Οπότε το επαναληπτικό μητρώο A A 1 1 1, b D 0 1 0, L 1 0 0, U T 1 T D L U είναι:

98 Μέθοδος του Jacobi και Μέθοδος των Σύγκλιση μεθόδου Gauss Seidel Το μητρώο δεν έχει αυστηρά διαγώνια κυριαρχία κατά γραμμές ή κατά στήλες και, επιπλέον, για το επαναληπτικό μητρώο ισχύει ότι: T T 4 1 1, επομένως δεν μπορούμε να συμπεράνουμε ότι η μέθοδος συγκλίνει. Υπολογισμός της φασματικής ακτίνας του μητρώου Από την εξίσωση Επομένως, οι ιδιοτιμές είναι δηλαδή η A det T 0, έχουμε ότι: 2 3 οπότε: Επομένως, η μέθοδος του Jacobi συγκλίνει. T T , T max,, max 0,0,0 0, T

99 Μέθοδος του Jacobi και Μέθοδος των Gauss Seidel Εφαρμογή μεθόδου Ξεκινώντας από το αρχικό σύστημα και λύνοντας την πρώτη εξίσωση ως προς τη δεύτερη ως προς x και την τρίτη ως προς έχουμε: x, 1 2 x 1 2x 2 x, x 1 x x, x 1 2x 2 x Η επαναληπτική μορφή της μεθόδου Jacobi για το συγκεκριμένο σύστημα είναι: k 1 k k x 1 2x 2 x, k 1 k k x 1 x x, k 1 k k x 1 2x 2 x x 3,

100 Μέθοδος του Jacobi και Μέθοδος των Gauss Seidel Εφαρμογή μεθόδου T T Αν στις παραπάνω σχέσεις θέσουμε x x1, x2, x 3 1,1,1, μπορούμε να πάρουμε διαδοχικά τις παρακάτω προσεγγίσεις της λύσης: Παρατηρούμε ότι οι δύο τελευταίες προσεγγίσεις ταυτίζονται, δηλαδή ικανοποιούν το κριτήριο τερματισμού: για την προσέγγιση της λύσης με T x x1, x2, x3 1, 1, 3, T x x1, x2, x3 3,3,1, T x x1, x2, x3 3,3,1. x x 3 m 3 2 x 1 10 m, 2 σημαντικά ψηφία. T T T