Τµηµα Επιστηµης και Τεχνολογιας Υλικων Πανεπιστηµιο Κρητης Ηλεκτρονικοί Υπολογιστές ΙΙ : Εισαγωγή στην Αριθµητική Ανάλυση Σηµειώσεις ιαλέξεων και Εργαστηρίων Ηράκλειο εκέµβριος 01
Copyright c 005 01 Στη συγγραφή συνεισέφεραν οι Μ Γραµµατικάκης, Θ Καλαµπούκης, Γ Κοπιδάκης, Ν Παπαδάκης, Σ Σταµατιάδης (stamatis@materialsuocgr) Η στοιχειοθεσία έγινε από τον Σ Σταµατιάδη µε τη χρήση του LaTEXε Χρησιµοποιήθηκε η σειρά χαρακτήρων Κέρκης (c Τµήµα Μαθηµατικών, Πανεπιστήµιο Αιγαίου) Τελευταία τροποποίηση του κειµένου έγινε την 19 εκεµβρίου 01 Η πιο πρόσφατη έκδοση ϐρίσκεται στο http://wwwmaterialsuocgr/el/undergrad/courses/ety13
Περιεχόµενα 1 Σφάλµατα 1 11 Εισαγωγή 1 1 Ασκησεις 3 Αριθµητικη Επιλυση µη Γραµµικων Εξισωσεων 5 1 Εισαγωγή 5 11 Χρήσιµα ϑεωρήµατα 6 1 Ταχύτητα σύγκλισης 6 13 Ευστάθεια 6 Μεθοδος ιχοτοµησης 6 1 Σφάλµα αλγορίθµου διχοτόµησης 7 Σύγκλιση αλγορίθµου διχοτόµησης 8 3 Αριθµός επαναλήψεων αλγορίθµου διχοτόµησης 9 3 Μέθοδος ψευδούς σηµείου 9 31 Σύγκλιση αλγορίθµου ψευδούς σηµείου 10 4 Μεθοδος Σταθερου Σηµειου x = g(x) 10 41 Σταθερά σηµεία Σχετικά Θεωρήµατα 10 5 Μέθοδοι Householder 1 51 Μεθοδος Newton Raphson 13 5 Μεθοδος Halley 14 6 Μεθοδος τεµνουσας 15 61 Σύγκλιση της µεθόδου τέµνουσας 15 7 Μέθοδος Müller 15 8 Ασκησεις 16 3 Επίλυση Γραµµικών Συστηµάτων 19 31 Εισαγωγή 19 3 Ευστάθεια γραµµικών συστηµάτων 19 33 Μέθοδος Cramer 0 34 Απαλοιφή Gauss 0 341 Τριγωνοποίηση 1 34 Επίλυση άνω τριγωνικού συστήµατος 3 343 Εφαρµογή 3 344 Παρατηρήσεις 4 345 Μερική οδήγηση κατά γραµµές 4 35 Μέθοδος Gauss Jordan 5 36 Επαναληπτικές Μέθοδοι 6 i
ii ΠΕΡΙΕΧΟΜΕΝΑ 37 Εφαρµογές 7 371 Υπολογισµός του αντίστροφου πίνακα 7 37 Υπολογισµός Ορίζουσας 7 373 Εύρεση ιδιοτιµών και ιδιοδιανυσµάτων 8 38 Ασκησεις 8 4 Παρεµβολή και Προσέγγιση Συναρτήσεων 31 41 Παρεµβολή µε πολυώνυµο 31 411 Σφάλµα παρεµβολής µε πολυώνυµο 33 4 Παρεµβολή µε λόγο πολυωνύµων 34 43 Παρεµβολή κατά τµήµατα µε πολυώνυµα ελάχιστου ϐαθµού 34 44 Παρεµβολή µε spline 34 45 Προσέγγιση µε τη µέθοδο ελάχιστων τετραγώνων 35 451 Ευθεία ελάχιστων τετραγώνων 36 45 Πολυώνυµο ελάχιστων τετραγώνων 36 453 Καµπύλη ελάχιστων τετραγώνων της µορφής f (y) = αg(x) + β 37 46 Ασκησεις 38 5 Αριθµητική Ολοκλήρωση 41 51 Εισαγωγή 41 511 Ολοκληρώµατα µε µη πεπερασµένα όρια ολοκλήρωσης 41 5 Κανόνας Τραπεζίου 4 51 Σφάλµα ολοκλήρωσης κανόνα τραπεζίου 43 5 Εκτεταµένος τύπος τραπεζίου 43 53 Σφάλµα ολοκλήρωσης εκτεταµένου τύπου τραπεζίου 44 53 Κανόνας Simpson 45 531 Σφάλµα ολοκλήρωσης κανόνα Simpson 45 53 Εκτεταµένος τύπος Simpson 46 533 Σφάλµα ολοκλήρωσης εκτεταµένου τύπου Simpson 46 54 Κανόνας Simpson των 3/8 46 541 Εκτεταµένος τύπος Simpson των 3/8 47 54 Εναλλακτικός τρόπος υπολογισµού των τύπων Newton Cotes 47 55 Μέθοδοι Gauss 48 551 Μέθοδος Gauss Legendre 48 55 Μέθοδος Gauss Hermite 50 553 Μέθοδος Gauss Laguerre 50 554 Μέθοδος Gauss Chebyshev 50 56 Μέθοδος Clenshaw Curtis 51 57 Ειδικές Περιπτώσεις 51 571 Ολοκλήρωση σε άνισα τµήµατα 51 58 Ασκησεις 5 6 Μετασχηµατισµός Fourier 57 61 Εισαγωγή 57 6 Σειρά Fourier 57 61 Εκθετική µορφή της σειράς Fourier 59 63 ιακριτός µετασχηµατισµός Fourier (DFT) 60
ΠΕΡΙΕΧΟΜΕΝΑ iii 631 Γρήγορος υπολογισµός του DFT 61 64 Ασκησεις 6 7 ιαφορικές Εξισώσεις 63 71 Γενικά 63 7 Εισαγωγή 63 71 ιωνυµικό Ανάπτυγµα 64 73 Κατηγορίες και Λύσεις ιαφορικών Εξισώσεων 65 731 Πρωτοβάθµιες Ε 65 73 ευτεροβάθµιες Ε 65 733 Σύστηµα πρωτοβάθµιων Ε µε σταθερούς συντελεστές 66 74 Μέθοδος Σειράς Taylor 67 741 Μέθοδος Euler 69 74 Σφάλµα Μεθόδου Taylor 70 75 Μέθοδος Runge Kutta 71 751 Μέθοδος Runge Kutta ου ϐαθµού 7 75 Μέθοδος Runge Kutta 4 ου ϐαθµού 73 753 Σχόλια 74 76 Τελεστές ιαφορών 74 761 Ιδιότητες 75 76 Άλλοι τελεστές 76 763 Γενικευµένοι τύποι του Newton 78 764 Εφαρµογή των τελεστών στον υπολογισµό ολοκληρωµάτων 78 77 Πολυβηµατικές Μέθοδοι 79 771 Μέθοδος Adams Bashforth 80 77 Μέθοδος Adams Moulton 81 773 Μέθοδοι Πρόβλεψης ιόρθωσης (Predictor Corrector) 8 78 Συστήµατα ιαφορικών Εξισώσεων 84 79 Εξισώσεις ιαφορών 86 791 Εξίσωση διαφορών πρώτου ϐαθµού 87 79 Εξίσωση διαφορών δεύτερου ϐαθµού 87 793 Μη οµογενείς εξισώσεις διαφορών 89 794 Σχόλια 89 710Αριθµητική Ευστάθεια 90 711Απόλυτη Ευστάθεια 93 71Ασκησεις 94 Α Ολοκληρώµατα 99
iv ΠΕΡΙΕΧΟΜΕΝΑ
Κεφάλαιο 1 Σφάλµατα 11 Εισαγωγή Η αναπαράσταση πραγµατικών ή ακεραίων αριθµών δεν είναι πάντα δυνατή µε ακρίβεια λόγω της πεπερασµένης µνήµης του Η/Υ Για παράδειγµα, ο αριθµός y R αναπαρίσταται ως (ϐάση δεκαδικών αριθµών) ỹ = ±0d 1 d d K 10 ±s, όπου 1 d 1 9, 0 d i 9, i {, 3,, K} και 0 s M, µε K,M σταθερές εξαρτώµενες από τον εκάστοτε Η/Υ Ετσι έχουµε, αν ενώ αν K = 6, M = 10 π = 0314159 10 1, K = 5, M = 10 π = 031416 10 1, Το σφάλµα στρογγύλευσης ( round off error) ορίζεται ως y ỹ πλήθος των σηµαντικών ψηφίων ( significant digits) Ο αριθµός K αποτελεί το Παρατηρήσεις : 1 Αν ο αριθµός y (ή και αποτέλεσµα ενδιάµεσης πράξης) υπερβαίνει κατ απόλυτη τιµή το µέγιστο αναπαραστάσιµο στον Η/Υ αριθµό, έχουµε υπερχείλιση ( overflow) Αντίστοιχα, αν είναι κατ απόλυτη τιµή µικρότερος από το µικρότερο αναπαραστάσιµο στον Η/Υ αριθ- µό, τότε έχουµε υπεκχείλιση ( underflow) Η τιµή που ϑα αποκτήσει αυτός και στις δύο περιπτώσεις είναι απροσδιόριστη, ο υπολογισµός όµως µπορεί να συνεχίσει µε, σχεδόν σίγουρα, λάθος αποτέλεσµα Σε υπολογιστές που υλοποιούν το πρότυπο αναπαράστασης αριθµών IEEE οι τιµές είναι αντίστοιχα ±infinity (το πλησιέστερο άπειρο ) και ±0 1 Ο τρόπος αναπαράστασης που περιγράφηκε µπορεί να αποθηκεύσει ακριβώς ένα πεπερασµένο πλήθος πραγµατικών αριθµών Οι υπόλοιποι προσεγγίζονται µε έναν από αυτούς, είτε µε αποκοπή είτε µε στρογγύλευση, ανάλογα µε τον υπολογιστή 1 στο πρότυπο υπάρχει διάκριση µεταξύ των +0 (από τη κατεύθυνση των ϑετικών αριθµών) και 0 (από τους αρνητικούς) 1
ΚΕΦΑΛΑΙΟ 1 ΣΦΆΛΜΑΤΑ Παράδειγµα : Εστω ότι ϑέλουµε να υπολογίσουµε το άθροισµα των αριθµών x = 58916 και y = 0773414 σε υπολογιστή µε K = 5 στο µοντέλο αναπαράστασής του Εστω ακόµα ότι αυτή γίνεται µε στρογγύλευση Οι αριθµοί x, y εποµένως αποθηκεύονται ως x = 058913 10 4, ỹ = 077341 10 1 Πριν την εκτέλεση της πράξης οι αριθµοί τροποποιούνται ώστε να έχουν τον ίδιο εκθέτη στην αναπαράσταση : x = 058913 10 4, ỹ = 000001 10 4 Εποµένως, το άθροισµα στον υπολογιστή των αριθµών x, y είναι 058914 10 4 = 58914 ενώ η αλγεβρική πρόσθεσή τους δίνει ως αποτέλεσµα το 58913373414, το οποίο στρογγυλευόµενο σε K ψηφία είναι 58913 3 Συνέπεια της πεπερασµένης αναπαράστασης είναι ακόµα το ότι το αποτέλεσµα σύνθετων εκφράσεων δεν ακολουθεί απαραίτητα τους κανόνες της άλγεβρας Πχ αν x = 58916, y = 0773414, z = 007 και K = 5 έχουµε x = +058913 10 4, ỹ = +077341 10 1, z = 070000 10 1 Η πράξη x + y + z στον υπολογιστή έχει διαφορετικό αποτέλεσµα αν εκτελεστεί ως (x + y) + z από αυτό που προκύπτει αν εκτελεστεί ως x + (y + z) (υπολογίστε τα!) 4 Προσέξτε ότι στο µοντέλο που περιγράψαµε ισχύει 1 + x = 1 για κάθε x µε x < 5 10 K Αυτό σηµαίνει ότι υπάρχει ένα όριο κάτω από το οποίο οι αριθµοί συµπεριφέρονται σαν το µηδέν σε προσθέσεις ή αφαιρέσεις µε αριθµούς της τάξης του 1 Το όριο αυτό ονοµάζεται έψιλον της µηχανής παρατηρήστε ότι είναι πολύ µεγαλύτερο από τον µικρότερο αριθµό που µπορεί να αναπαρασταθεί Παράδειγµα : Εστω Η/Υ µε αναπαράσταση πραγµατικών αριθµών µε ϐάση το, 4 bit mantissa, 4 bit εκθέτη και µε bits προσήµου Τότε έχουµε : Μέγιστος ϑετικός αριθµός (+111) (+111) = +7 7 Μέγιστος αρνητικός αριθµός ( 111) (+111) = 7 7 Ελάχιστος ϑετικός αριθµός (+001) ( 111) = +1 7 Ελάχιστος αρνητικός αριθµός ( 001) ( 111) = 1 7 Η απόπειρα αναπαράστασης ενός αριθµού x έξω από τα παραπάνω όρια δίνει υπερχείλιση αν x > 7 7 ή x < 7 7, υπεκχείλιση αν 7 < x < 7 και x 0 Παρατηρήσεις : 1 Για τον εκθέτη µπορεί να µη χρησιµοποιηθεί bit προσήµου αλλά bias Ετσι ( N e 1 ) x ( N e 1 1) όπου N e ο αριθµός ψηφίων του εκθέτη Για την mantissa µε N m bits έχουµε N m bits ακρίβειας Συνήθως ο αριθµός είναι κανονικοποιηµένος ως 1 f 1 f f 3 ή, σπανιότερα, 0 f 1 f f 3 όπου f 1, f, f 3, τα ψηφία του δυαδικού αριθµού
1 ΑΣΚΗΣΕΙΣ 3 1 Ασκήσεις 1 Υπολογίστε το έψιλον της µηχανής για πραγµατικούς αριθµούς απλής και διπλής α- κρίβειας µε τους εξής τρόπους : (α ) Εφαρµόστε τον αλγόριθµο : Θέτουµε ε 1 Για όσο ισχύει 1 + ε 1 ϑέτουµε ε ε/ και επαναλαµβάνουµε (ϐ ) Καλέστε τις ϱουτίνες SLAMCH() και DLAMCH() της συλλογής ϱουτινών LAPACK (γ ) Καλέστε την εσωτερική συνάρτηση EPSILON() της FORTRAN 90 Οι ϱίζες του τριωνύµου ax + bx + c δίνονται ως όταν a 0 Εστω a = 1, b = 3000001, c = 3 x 1, = b ± b 4ac a, (α ) Υπολογίστε τα x 1, µε απλή και διπλή ακρίβεια Συγκρίνετέ τα µε τις ακριβείς ϱίζες (x1 = 0001, x = 30000) (ϐ ) Επαναλάβετε τους υπολογισµούς του προηγούµενου σκέλους εφαρµόζοντας τον αλγεβρικά ισοδύναµο τύπο c x 1, = b b 4ac Τι παρατηρείτε ως προς την ακρίβεια των υπολογισµών σας; 3 Γράψτε κώδικα ώστε να υπολογίσετε την τιµή του e 1 εφαρµόζοντας τη σχέση e x = lim (1 + x ) n n n Βρείτε και τυπώστε, δηλαδή, την τιµή του (1 + x/n) n για n = 1,, 3, Τι παρατηρείτε ως προς την ταχύτητα σύγκλισης στην πραγµατική τιµή του (7188188459045 ); 4 Γράψτε κώδικα σε υποπρόγραµµα της FORTRAN που να υπολογίζει το e x εφαρµόζοντας τη σχέση e x x n = n! n=0 Για τη διευκόλυνσή σας παρατηρήστε ότι ο nοστός όρος στο άθροισµα προκύπτει από τον αµέσως προηγούµενο αν αυτός πολλαπλασιαστεί µε το x/n οκιµάστε τον κώδικά σας για ϑετικά και αρνητικά x Τι παρατηρείτε ; 5 Γράψτε κώδικα σε υποπρόγραµµα της FORTRAN που να υπολογίζει το sin x εφαρµόζοντας τη σχέση sin x = ( 1) k x k+1 (k + 1)! k=0 Για τη διευκόλυνσή σας παρατηρήστε ότι ο k όρος στο άθροισµα προκύπτει από τον αµέσως προηγούµενο αν αυτός πολλαπλασιαστεί µε το x k(k+1) οκιµάστε τον κώδικά σας για ϑετικά και αρνητικά x Τι παρατηρείτε ;
4 ΚΕΦΑΛΑΙΟ 1 ΣΦΆΛΜΑΤΑ 6 Γράψτε κώδικα σε υποπρόγραµµα της FORTRAN που να υπολογίζει το cos x εφαρµόζοντας τη σχέση ( 1) k x k cos x = (k)! οκιµάστε τον κώδικά σας για ϑετικά και αρνητικά x Τι παρατηρείτε ; k=0
Κεφάλαιο Αριθµητική Επίλυση µη Γραµµικών Εξισώσεων 1 Εισαγωγή Στο κεφάλαιο αυτό ϑα παρουσιάσουµε κάποιους αλγορίθµους (µεθόδους) εύρεσης των λύσεων µιας εξίσωσης µε ένα άγνωστο Η εξίσωση έχει γενικά τη µορφή f (x) = 0, x R (1) Οι λύσεις της, τα συγκεκριµένα σηµεία x που την ικανοποιούν, λέγονται και ϱίζες της συνάρτησης f (x) Στην περίπτωση που η συνάρτηση f (x) είναι γραµµική (δηλαδή, της µορφής f (x) = ax + b) η εύρεση της ϱίζας είναι τετριµµένη Οι δυσκολίες εµφανίζονται στην αντίθετη περίπτωση και γι αυτό ϑα επικεντρωθούµε στην επίλυση µη γραµµικών εξισώσεων Οταν η f (x) είναι γενικό πολυώνυµο µέχρι και 4 ου ϐαθµού, υπάρχουν αναλυτικοί τύποι που δίνουν τις ϱίζες της Ηδη, όµως, από τον 3 ο ϐαθµό είναι αρκετά δύσχρηστοι Στη γενική περίπτωση που δεν είναι πολυώνυµο, η εύρεση των ϱιζών (ή και η απόδειξη της ύπαρξής τους) γενικά δεν είναι δυνατή µε αναλυτικούς τύπους Η επίλυση µε αριθµητικές µεθόδους της εξίσωσης (1) ϐασίζεται στην εύρεση µιας ακολου- ϑίας τιµών x 0, x 1,, x n, που συγκλίνουν για n σε µία ϱίζα της εξίσωσης Κάθε µία από τις µεθόδους που ϑα δούµε, παράγει τέτοια ακολουθία µε συγκεκριµένη διαδικασία Φυσικά, η διαδικασία δεν επαναλαµβάνεται επ άπειρον αλλά διακόπτεται όταν ϕτάσουµε στην κατάλληλη προσέγγιση της ϱίζας Κατάλληλη ϑεωρείται η προσέγγιση x k όταν ικανοποιούνται µία ή περισσότερες από τις ακόλουθες γενικές συνθήκες (µε ε συµβολίζουµε την επιθυµητή ακρίβεια): x k x k 1 < ε x k x k 1 x k < ε αν x k 0 f (x k ) < ε, ή ειδικές συνθήκες για κάθε µέθοδο 5
6 ΚΕΦΑΛΑΙΟ ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΜΗ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ 11 Χρήσιµα ϑεωρήµατα Θεώρηµα Ενδιαµέσου Τιµής Εστω f (x) συνεχής συνάρτηση στο κλειστό διάστηµα [a, b] Αν λ είναι ένας οποιοσδήποτε πραγµατικός αριθµός µεταξύ των f (a), f (b) (συµπεριλαµβανο- µένων και αυτών), τότε υπάρχει ένα τουλάχιστον c [a, b] ώστε f (c) = λ Θεώρηµα Μέσης Τιµής Εστω f (x) συνεχής συνάρτηση για x [a, b], διαφορίσιµη στο (a, b), µε παράγωγο f (x) Τότε υπάρχει ένα τουλάχιστον c [a, b] ώστε f (b) f (a) = f (c)(b a) Αν επιπλέον ισχύει f (a) = f (b) τότε σε κάποιο c [a, b] έχουµε f (c) = 0 (Θεώρηµα Rolle) Θεώρηµα Taylor Εστω ότι η συνάρτηση f (x), x [a, b], έχει παράγωγο τάξης n+1 και η f n+1 (x) είναι συνεχής στο [a, b] Αν x, x 0 [a, b], x x 0, τότε υπάρχει ξ (x 0, x) ώστε f (x) = f (x 0 ) + f (x 0 )(x x 0 ) + f (x 0 )! 1 Ταχύτητα σύγκλισης (x x 0 ) + + f n (x 0 ) (x x 0 ) n + f n+1 (ξ) n! (n + 1)! (x x 0) n+1 Μια µέθοδος επίλυσης της εξίσωσης f (x) = 0, παράγει την ακολουθία προσεγγιστικών λύσεων x 0, x 1, η οποία συγκλίνει στην ϱίζα x Η µέθοδος χαρακτηρίζεται ως α τάξης όσον αφορά στη σύγκλιση, αν υπάρχουν α, λ > 0 ώστε Ο αριθµός λ αποτελεί την ταχύτητα (ή ϱυθµό) σύγκλισης x n+1 x lim n x n x α = λ () 13 Ευστάθεια Οπως ϑα δούµε, οι περισσότερες µεθόδοι εύρεσης ϱίζας χρειάζονται µια αρχική προσέγγιση της λύσης (ή και περισσότερες), την οποία ϐελτιώνουν σε κάθε στάδιο της επίλυσης Η αριθµητική τους ευστάθεια προσδιορίζεται από τη συµπεριφορά τους σε µεταβολές αυτής της αρχικής τιµής Μια µέθοδος είναι ευσταθής αν οποιαδήποτε κατάλληλα µικρή µεταβολή της αρχικής τιµής δεν επηρεάζει την εύρεση της ϱίζας, ενώ είναι ασταθής αν µια µικρή µεταβολή της αρχικής προσέγγισης οδηγεί µακριά από τη ϱίζα Μέθοδος ιχοτόµησης f (x) x 1 x 0 a b x x Σχήµα 1: Σχηµατική αναπαράσταση της Μεθόδου ιχοτόµησης για την εύρεση ϱίζας
ΜΕΘΟ ΟΣ ΙΧΟΤΟΜΗΣΗΣ 7 Η µέθοδος ϐασίζεται στο Θεώρηµα Ενδιάµεσης Τιµής (ΘΕΤ) Αν f (x) συνεχής στο [a, b] και έχουµε f (a) f (b) < 0, τότε από το ϑεώρηµα, υπάρχει c = x (a, b) ώστε f ( x) = 0 Άρα υπάρχει τουλάχιστον µία ϱίζα της f (x) στο (a, b) Το συµπέρασµα αυτό αποτελεί το ϑεώρηµα Weierstrass Η διαδικασία που ακολουθεί η µέθοδος διχοτοµεί το διάστηµα [a, b], εντοπίζει τη ϱίζα σε ένα από τα δύο υποδιαστήµατα και επαναλαµβάνεται στο επιλεγµένο υποδιάστηµα Παράγεται έτσι µια ακολουθία διαστηµάτων [a 1, b 1 ], [a, b ],,[a N, b N ] και µια ακολουθία προσεγγίσεων της ϱίζας x 1 = (a 1 + b 1 )/, x = (a + b )/,,x N = (a N + b N )/ Αν ε είναι σταθερά που δηλώνει το αποδεκτό σφάλµα µπορούµε να ϑέσουµε ως κριτήριο τερµατισµού ένα ή περισσότερα από τα γενικά κριτήρια ή το ειδικό κριτήριο για τη συγκεκριµένη µέθοδο b N a N < ε Αλγόριθµος : Επίλυση της f (x) = 0 µε τη µέθοδο διχοτόµησης : 1 Επιλέγουµε δύο τιµές a, b έτσι ώστε η f (x) να είναι συνεχής στο [a, b] και να ισχύει f (a) f (b) < 0 Θέτουµε x a + b 3 Αν το x είναι ικανοποιητική προσέγγιση της ϱίζας πηγαίνουµε στο ϐήµα 6 4 Αν ισχύει ότι f (a) f (x) < 0 τότε ϑέτουµε b x Αλλιώς, ϑέτουµε a x 5 Επαναλαµβάνουµε τη διαδικασία από το ϐήµα 6 Τέλος Παράδειγµα : Εστω η συνάρτηση f (x) = x 3 +4x 10, η οποία είναι συνεχής σε όλο το διάστηµα ορισµού της, (, ) Παρατηρούµε ότι f (1) = 5 και f () = 14, δηλαδή f (1) f () < 0 Εποµένως, υπάρχει µία τουλάχιστον ϱίζα της στο [1, ] Παρατηρούµε ακόµα ότι f (x) = 3x + 8x > 0 για κάθε x στο συγκεκριµένο διάστηµα Εποµένως, η f (x) είναι αύξουσα σε αυτό και άρα έχει µοναδική ϱίζα στο [1, ] Εφαρµόζουµε τη µέθοδο διχοτόµησης για την εύρεσή της και προκύπτουν οι ακολουθίες του Πίνακα 1 Μετά από 0 επαναλήψεις το σχετικό σφάλµα είναι x 0 x 05 b 0 a 0 095 10 6, άρα έχουµε προσδιορίσει σωστά µέχρι και το 5 δεκαδικό ψηφίο της ϱίζας Η προσεγγιστική τιµή είναι 13653 ενώ η ακριβής είναι 13653001361638 Παρατήρηση : Η µέθοδος διχοτόµησης αποτυγχάνει όταν δεν πληρούνται οι προϋποθέσεις του Θεωρήµατος Ενδιάµεσης Τιµής Πχ όταν η συνάρτηση δεν είναι συνεχής, Σχήµα α, η µέθοδος εντοπίζει για ϱίζα το σηµείο ασυνέχειας Αντίστροφα, αν δεν µπορούµε να εντοπίσουµε δύο σηµεία στα οποία η συνάρτηση έχει ετερόσηµες τιµές, δε σηµαίνει ότι δεν έχει ϱίζα (Σχήµα ϐ) 1 Σφάλµα αλγορίθµου διχοτόµησης Η µέθοδος διχοτόµησης για την εύρεση της ϱίζας, x 1, x, µε την ιδιότητα x n x 1 (b n a), n 1 x, της f (x) παράγει µια ακολουθία
8 ΚΕΦΑΛΑΙΟ ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΜΗ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ n a n b n x n (a n b n )/ f (x n ) 1 100000000 00000000 150000000 3750 100000000 150000000 15000000 17969 3 15000000 150000000 137500000 01611 4 15000000 137500000 13150000 084839 5 13150000 137500000 134375000 035098 6 134375000 137500000 135937500 096409 10 1 7 135937500 137500000 136718750 03356 10 1 8 135937500 136718750 1363815 03150 10 1 9 1363815 136718750 13653438 0705 10 4 10 1363815 13653438 13645781 016047 10 1 11 13645781 13653438 136474609 079893 10 1 136474609 13653438 13649903 039591 10 13 13649903 13653438 13651130 019437 10 14 13651130 13653438 136517334 093585 10 3 15 136517334 13653438 13650386 04319 10 3 16 13650386 13653438 1365191 017995 10 3 17 1365191 13653438 1365675 053963 10 4 18 1365675 13653438 13653056 090310 10 5 19 1365675 13653056 1365865 0466 10 4 0 1365865 13653056 1365961 067174 10 5 Πίνακας 1: Ακολουθίες των διαστηµάτων, της προσεγγιστικής ϱίζας και της αντίστοιχης τιµής της f (x) = x 3 + 4x 10 κατά την εφαρµογή της µεθόδου διχοτόµησης Απόδειξη : ΘΕΤ b 1 a 1 = b a, x (a 1, b 1 ) b a = 1 (b 1 a 1 ) = 1 (b a), x (a, b ) b 3 a 3 = 1 (b a ) = 1 (b a), x (a 3, b 3 ) b n a n = 1 n 1 (b a), x (a n, b n ) Καθώς x n = 1 (a n + b n ) και είτε x n x b n είτε a n x x n, έχουµε : Εποµένως, lim n x n = x καθώς lim x x n = x 1 (a n + b n ) 1 (b n a n ) = 1 (b a) n n 1 (b a) = 0 n Σύγκλιση αλγορίθµου διχοτόµησης Για το σφάλµα ε n x n x της µεθόδου έχουµε ε n+1 = b a n+1 = 1 ε n
3 Μ ΕΘΟ ΟΣ ΨΕΥ Ο ΥΣ ΣΗΜΕ ΙΟΥ 9 f (x) f (x) 0 x 0 a b x (α) (ϐ) Σχήµα : Σχηµατικές αναπαραστάσεις συναρτήσεων για τις οποίες η µέθοδος διχοτόµησης (α) εντοπίζει µη υπαρκτή ϱίζα, (ϐ) αποτυγχάνει να εντοπίσει ϱίζα στο προσδιοριζόµενο διάστηµα Εποµένως στον τύπο () έχουµε α = 1 και λ = 05, δηλαδή η σύγκλιση είναι πρώτης τάξης και αρκετά αργή 3 Αριθµός επαναλήψεων αλγορίθµου διχοτόµησης Ο αριθµός απαιτούµενων επαναλήψεων της µεθόδου διχοτόµησης για να επιτύχουµε ένα συγκεκριµένο σφάλµα ε (ή λιγότερο) προκύπτει ως εξής ε n ε b a n ε n b a ( ) b a n log ε ε Παράδειγµα : Εστω η συνάρτηση f (x) = x 3 + 4x 10, συνεχής µε µία ϱίζα στο [1, ] Ο αριθµός απαιτούµενων επαναλήψεων της µεθόδου διχοτόµησης ώστε x n x ε = 10 5 είναι ( ) 1 n log 10 5 = log 10 5 = 5 log 10 1661 Εποµένως, αρκούν 17 επαναλήψεις για να έχουµε x n x 10 5 3 Μέθοδος ψευδούς σηµείου Παρά το γεγονός ότι η µέθοδος διχοτόµησης είναι µια απολύτως αποδεκτή µέθοδος για τον προσδιορισµό των ϱιζών συναρτήσεων µιας µεταβλητής, η µέθοδος είναι σχετικά αναποτελεσµατική Ενα µειονέκτηµα της µεθόδου διχοτόµησης είναι ότι µε τον χωρισµό του διαστήµατος από x 1 σε x σε ίσα µισά, δε λαµβάνεται υπόψη η πληροφορία για το µέγεθος των f (x 1 ) και f (x ) Η µέθοδος ψευδούς σηµείου είναι µια τροποποίηση της µεθόδου διχοτόµησης ώστε η νέα προσέγγιση της ϱίζας να εξαρτάται από τις τιµές των f (a) και f (b) Στη νέα µέθοδο υπολογίζουµε την ευθεία που περνά από τα σηµεία (a, f (a)) και (b, f (b)) σε κάθε επανάληψη, και ως νέα προσέγγιση ορίζουµε την τοµή αυτής µε τον άξονα των x (αντί για το µέσο του [a, b] της µεθόδου διχοτόµησης) Εύκολα µπορεί να δειχθεί ότι η ευθεία είναι η y = f (a) + f (a) f (b) (x a) a b
10 ΚΕΦΑΛΑΙΟ ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΜΗ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ Εποµένως, x = a f (a) b f (a) a f (b) (a b) = f (a) f (b) f (a) f (b) Οπως και στη µέθοδο διχοτόµησης, µετακινούµε σε κάθε επανάληψη το ένα από τα δύο άκρα στο x ώστε η ϱίζα να περικλείεται πάντα Προσέξτε όµως ότι σε αυτή τη µέθοδο, το µήκος των διαδοχικών διαστηµάτων [a, b] δεν είναι απαραίτητο να τείνει στο 0 31 Σύγκλιση αλγορίθµου ψευδούς σηµείου Η µέθοδος ψευδούς σηµείου είναι γενικά πιο γρήγορα από τη µέθοδο διχοτόµησης έχει τάξη σύγκλισης α > 1 Υπάρχουν, όµως, περιπτώσεις συναρτήσεων που η σύγκλιση σε ϱίζα τους µε αυτή τη µέθοδο είναι γραµµική 4 Μέθοδος Σταθερού Σηµείου x = g(x) Το πρόβληµα εύρεσης (πραγµατικής) λύσης της f (x) = 0 είναι ισοδύναµο µε την επίλυση της εξίσωσης x = g(x) όπου g(x) κατάλληλη συνάρτηση Ειδικές µορφές της g(x) δίνουν ευσταθείς και γρήγορους επαναληπτικούς αλγορίθµους για την εύρεση της λύσης Αλγόριθµος : Εστω η αρχική λύση (προσέγγιση) x 0 Κατασκευάζουµε την ακολουθία x 0, x 1, x,, x n ως εξής : x 1 = g(x 0 ), x = g(x 1 ), x 3 = g(x ),, x n = g(x n 1 ) Αν η ακολουθία συγκλίνει σε ένα σηµείο x και καθώς η g(x) είναι συνεχής 1 έχουµε Άρα 1 Θέτουµε στο x την αρχική προσέγγιση x lim n x n = lim n g(x n 1 ) = g( lim n x n 1 ) g( x) Ελέγχουµε αν ικανοποιείται το κριτήριο τερµατισµού (όποιο έχουµε επιλέξει) Αν ναι, πηγαίνουµε στο ϐήµα 4 3 Θέτουµε x g(x) και επαναλαµβάνουµε από το ϐήµα 4 Τέλος 41 Σταθερά σηµεία Σχετικά Θεωρήµατα Ορισµός Η συνάρτηση g(x) έχει σταθερό σηµείο στο [a, b] αν υπάρχει ϱ [a, b] ώστε g(ϱ) = ϱ Κριτήριο ύπαρξης σταθερού σηµείου Εστω g(x) συνεχής συνάρτηση στο [a, b], µε a g(x) b, x [a, b] Τότε η g(x) έχει τουλάχιστον ένα σταθερό σηµείο στο [a, b] Απόδειξη : Ισχύει g(a) a, g(b) b Ορίζουµε τη συνεχή συνάρτηση h(x) = g(x) x Τότε h(a) 0, h(b) 0 Το ΘΕΤ εξασφαλίζει ότι υπάρχει x ώστε h( x) = 0 1 lim g(x n ) = g(lim x n )
4 ΜΕΘΟ ΟΣ ΣΤΑΘΕΡΟΥ ΣΗΜΕΙΟΥ X = G(X) 11 Παράδειγµα : Εστω g(x) = 3 x, x [0, 1] Εχουµε g(0) = 1, g(1) = 1/3 και g (x) = 3 x ln 3 < 0 x [0, 1] Η g(x) είναι ϕθίνουσα και 0 < 1/3 g(x) 1 x [0, 1] Από το κριτήριο ύπαρξης προκύπτει ότι η g(x) έχει τουλάχιστον ένα σταθερό σηµείο (µοναδικό καθώς είναι ϕθίνουσα) Μοναδικότητα σταθερού σηµείου Εστω g(x) συνεχής και διαφορίσιµη συνάρτηση στο [a, b], µε a g(x) b και g (x) < 1 x [a, b] Τότε η g(x) έχει µοναδικό σταθερό σηµείο στο [a, b] Απόδειξη : Εστω p, r δύο σταθερά σηµεία στο [a, b] µε p r ϑα έχουµε τότε p r = g(p) g(r) Από το Θεώρηµα Μέσης Τιµής προβλέπεται ότι υπάρχει ξ [a, b] ώστε g(p) g(r) = g (ξ)(p r) Εποµένως, στο συγκεκριµένο ξ έχουµε g (ξ) = 1, αντίθετα µε την αρχική υπόθεση Παράδειγµα : Η g(x) = x 1 3 έχει µοναδικό σταθερό σηµείο στο [ 1, 1] καθώς, όταν x 1, ισχύει α) 1/3 g(x) 0 και κατ επέκταση, 1 < g(x) < 1, και ϐ) g (x) = x/3 < 1 Σύγκλιση της µεθόδου Εστω g(x) συνεχής και διαφορίσιµη συνάρτηση στο [a, b], µε a g(x) b και g (x) k < 1 x [a, b] Τότε, αν x 0 [a, b], η ακολουθία x n+1 = g(x n ), n = 0, 1, συγκλίνει στο µοναδικό σταθερό σηµείο, x, της g(x) στο [a, b] Το σφάλµα x n x k n max(x 0 a, b x 0 ), n 1 Παραδείγµατα : 1 Εστω η συνάρτηση f (x) = x 6x + 5 µε ϱίζες 10, 50 Ας δοκιµάσουµε να τις εντοπίσουµε µε την επαναληπτική σχέση g(x) = x + 5 = x 6 Για x 0 = 5 έχουµε x 1 = g(x 0 ) = 18750 x = g(x 1 ) 14193 x 3 = g(x ) 11691 x 4 = g(x 3 ) 10611 x 5 = g(x 4 ) 1010 x 6 = g(x 5 ) 10078 x 7 = g(x 6 ) 1004 x 8 = g(x 7 ) 10008 x 9 = g(x 8 ) 10003 x 10 = g(x 9 ) 10001 x 11 = g(x 10 ) 10000 Αν δοκιµάσουµε άλλο αρχικό σηµείο ϑα έχουµε πάλι σύγκλιση στο 1 ή απόκλιση στο + Μπορεί να αποδειχθεί ότι κανένα σηµείο εκτός από το x 0 = 50 δε δίνει ακολουθία µε όριο την άλλη ϱίζα Ας υπολογίσουµε τις ϱίζες της f (x) = ln x x+, x > 0 Γράφουµε g(x) = ln x+ = x Καθώς η g(x) είναι αύξουσα και g(1) =, υπάρχει ϱίζα στο [0, 1] Από το γράφηµα (Σχήµα 3)
1 ΚΕΦΑΛΑΙΟ ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΜΗ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ 5 y 4 3 1 0-1 y = g(x) y = x 0 1 3 4 5 x Σχήµα 3: Εκτίµηση των σταθερών σηµείων της g(x) = ln x + παρατηρούµε ότι η άλλη ϱίζα είναι x 31 Αν δοκιµάσουµε µε αρχική προσέγγιση x 0 {05, 10, 15, 0, 40, }, έχουµε σύγκλιση στη ϱίζα x = 3146193 Αντίθετα, δεν µπορούµε να ϐρούµε αρχικό σηµείο για να εντοπίσουµε την άλλη ϱίζα Παρατηρήστε ότι για x 0 e ή x 0 e e,, x 0 0158594339563 δεν ορίζεται ακολουθία (Η τιµή 0158594339563 είναι η άλλη ϱίζα µπορείτε να την εντοπίσετε έχοντας ως g(x) = e x ) Εξετάστε τη σύγκλιση µε διάφορα αρχικά x για την g(x) = x x 1 Παρατηρήστε ότι δια- ϕορετική επιλογή της g(x) και της αρχικής προσέγγισης µας δίνει διαφορετική ταχύτητα σύγκλισης (διαφορετικό αριθµό επαναλήψεων) 3 Η f (x) = x 3 + 4x 10 = 0 έχει µία ϱίζα στο [1, 15] Η µέθοδος x = g(x) έχει διαφορετική ταχύτητα σύγκλισης ανάλογα µε την επιλογή της g(x), πχ g(x) = x x 3 4x + 10, 10 g(x) = x 4x, g(x) = 10 4+x, g(x) = 1 10 x 3, κλπ ln x+1 Παρατήρηση : Η γενική επαναληπτική µέθοδος x n+1 = g(x n ), n = 0, 1, είναι πρώτης τάξης αν g (x) 0, δεύτερης τάξης αν g (x) = 0 και η g (x) είναι συνεχής σε διάστηµα που περικλείει τη ϱίζα, κλπ 5 Μέθοδοι Householder Η οικογένεια µεθόδων Householder αποτελείται από επαναληπτικές µεθόδους για την εύρεση ϱίζας µιας συνάρτησης µε συνεχείς παραγώγους τουλάχιστον µέχρι την τάξη d + 1 Η γενική σχέση που παράγει την ακολουθία x 0, x 1, x, είναι x n+1 = x n + d (1/ f )(d 1) (x n ) (1/ f ) (d) (x n ) και για να ξεκινήσει χρειάζεται µία αρχική προσέγγιση x 0 Η τάξη της σύγκλισης είναι d + 1 Παρακάτω ϑα δούµε αναλυτικά την την µέθοδο για d = 1, που έχει την ειδική ονοµασία Newton Raphson και ϑα αναφέρουµε την µέθοδο για d = µε την ειδική ονοµασία Halley
5 Μ ΕΘΟ ΟΙ HOUSEHOLDER 13 y tan ω i = f (x i) x i 1 x i ω 1 x 1 x x 0 x Σχήµα 4: Σχηµατική εύρεση ϱίζας µε τη µέθοδο Newton Raphson 51 Μέθοδος Newton Raphson Η µέθοδος Newton Raphson είναι επαναληπτική µέθοδος της µορφής x = g(x) Η επιλογή της g(x) γίνεται ως εξής : Εστω ότι αναζητούµε τη ϱίζα της συνεχούς και διαφορίσιµης, σε διάστηµα [a, b], συνάρτησης f (x) Αν γνωρίζουµε την τιµή αυτής και των παραγώγων της σε κάποιο σηµείο x 0 [a, b], το Θεώρηµα Taylor µας εξασφαλίζει ότι στη ϱίζα, x [a, b], ισχύει f ( x) = f (x 0 ) + f (x 0 )( x x 0 ) + f (ξ) ( x x 0 ),! όπου ξ ( x, x 0 ) Αγνοώντας τον όρο του υπολοίπου έχουµε 0 f (x 0 ) + f (x 0 )( x x 0 ) x x 0 f (x 0) f (x 0 ) Εποµένως, η συνάρτηση g(x) = x f (x) f (x) µπορεί να παράξει µε την µέθοδο σταθερού σηµείου την ακολουθία διαδοχικών προσεγγίσεων στη ϱίζα αρκεί να έχουµε f (x i ) 0 Παρατηρήστε ότι σε κάθε επανάληψη πρέπει να υπολογίσουµε τις τιµές δύο συναρτήσεων ( f (x), f (x)) Θεώρηµα (χωρίς απόδειξη): Εστω ότι η f (x) είναι συνεχής και τουλάχιστον δύο ϕορές πα- ϱαγωγίσιµη στο [a, b], µε συνεχή τη δεύτερη παράγωγό της Αν x ϱίζα της f (x) στο [a, b] (δηλ f ( x) = 0) και f (x) 0 τότε υπάρχει δ > 0 ώστε η ακολουθία {x n } που ορίζεται µε τη µέθοδο Newton Raphson συγκλίνει στο x, x 0 [ x δ, x + δ] Παράδειγµα : Εστω f (x) = x 6x + 5 Εχουµε x n+1 = x n x n 6x n + 5 x n 6, n = 0, 1,,
14 ΚΕΦΑΛΑΙΟ ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΜΗ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ Οι διαδοχικές προσεγγίσεις των ϱιζών 10, 50 µε αρχικά σηµεία 0, 60 είναι οι εξής n x n (1) x n () 0 0 60 1 05 516666666666667 095 5006410564106 3 09993904390439 50000104006 4 0999999907077705 5000000000061 5 0999999999999998 50 6 10 Σύγκλιση αλγορίθµου Newton Raphson Ας υπολογίσουµε το σφάλµα ε n x n x της µεθόδου Από το ϑεώρηµα Taylor έχουµε f ( x) = f (x n ) + f (x n )( x x n ) + f (ξ) ( x x n) 0 = f (x n ) + f (x n )( x x n ) + f (ξ) ( x x n) f (x n ) f (x n )( x x n ) = f (ξ) ( x x n) f (x n) f (x n ) + (x f (ξ) n x) = f (x n ) ( x x n) x n+1 x = ε n+1 = f (ξ) f (x n ) ( x x n) f (ξ) f (x n ) ε n Συµπεραίνουµε ότι η µέθοδος είναι δεύτερης τάξης, έχουµε δηλαδή τετραγωνική σύγκλιση Αρκούν λίγα ϐήµατα για να έχουµε πολύ ικανοποιητική προσέγγιση της ϱίζας, µε την προϋπόθεση ότι ϑα ξεκινήσουµε από σηµείο όχι µακριά από αυτή Από την άλλη, αν f ( x) 0 έχουµε πολύ αργή σύγκλιση Αν ϱίζα είναι πολλαπλή µε πολλαπλότητα m, δηλαδή ισχύει f ( x) = f ( x) = = f (m 1) ( x) = 0, µπορεί να δειχθεί ότι ο τύπος Newton Raphson συγκλίνει γραµµικά Χρειάζεται την ακόλουθη τροποποίηση αν ϑέλουµε να διατηρήσει την τετραγωνική σύγκλιση : 5 Μέθοδος Halley x n+1 = x n m f (x n) f (x n ), Εστω ότι η συνάρτηση f (x) έχει απλές ϱίζες σε κάποιο διάστηµα, δεν µηδενίζονται δηλαδή ταυτόχρονα οι f (x), f (x) Τότε οι συναρτήσεις f (x) και g(x) = f (x)/ f (x) έχουν τις ίδιες ϱίζες Η εφαρµογή της µεθόδου Newton Raphson για την εύρεση ϱίζας της g(x) δίνει x n+1 = x n g(x n) g (x n ) = x n f (x n ) f (x n ) [ f (x n )] f (x n ) f (x n ) Μπορεί να δειχθεί ότι η µέθοδος είναι τρίτης τάξης µε ταχύτητα σύγκλισης 3[ f ( x)] f ( x) f ( x) 1[ f ( x)]
6 ΜΕΘΟ ΟΣ ΤΕΜΝΟΥΣΑΣ 15 6 Μέθοδος τέµνουσας Σύµφωνα µε αυτήν τη µέθοδο, προσεγγίζουµε τη συνάρτηση f (x) µε ευθεία που περνά από δύο σηµεία (x n 1, f (x n 1 )) και (x n, f (x n )) Τα x n 1, x n είναι διαδοχικές προσεγγίσεις της ϱίζας Η νέα προσέγγιση, x n+1, είναι η τοµή µε τον άξονα x (η ϱίζα) της προσεγγιστικής ευθείας Η ευθεία y = y(x) είναι y = f (x n ) + f (x n) f (x n 1 ) x n x n 1 (x x n ) Εποµένως, x n+1 = x n f (x n ) f (x n ) f (x n 1 ) (x n x n 1 ) = x n 1 f (x n ) x n f (x n 1 ) f (x n ) f (x n 1 ) Οπως καταλαβαίνετε, πρέπει να επιλέξουµε δύο αρχικά σηµεία, x 0, x 1, ώστε να παράγουµε την ακολουθία Από την άλλη, η κάθε επανάληψη χρειάζεται ένα µόνο νέο υπολογισµό τιµής της συνάρτησης, πράγµα σηµαντικό όταν ο υπολογισµός είναι σχετικά αργός Αλγόριθµος : Επίλυση της f (x) = 0 µε τη µέθοδο της τέµνουσας : 1 Επιλέγουµε δύο τιµές a, b Βρίσκουµε την τοµή µε τον άξονα των x της ευθείας που περνά από τα σηµεία (a, f (a)), (b, f (b)) Την ονοµάζουµε c 3 Αν το c είναι ικανοποιητική προσέγγιση της ϱίζας πηγαίνουµε στο ϐήµα 6 4 Θέτουµε a b, b c 5 Επαναλαµβάνουµε τη διαδικασία από το ϐήµα 6 Τέλος 61 Σύγκλιση της µεθόδου τέµνουσας Μπορεί να δειχθεί ότι η τάξη της σύγκλισης της µεθόδου τέµνουσας σε απλή ϱίζα είναι α = (1 + 5)/ 1618 Η µέθοδος είναι πιο γρήγορη από άλλες πρώτης τάξης αλλά πιο αργή από µεθόδους δεύτερης τάξης 7 Μέθοδος Müller Η µέθοδος αυτή είναι παρόµοια µε τη µέθοδο τέµνουσας αλλά προσεγγίζει τη συνάρτηση µε παραβολή (εξίσωση της µορφής y = ax + bx + c) και, εποµένως, χρειάζεται τρία σηµεία για τον προσδιορισµό της Η νέα προσέγγιση της ϱίζας είναι η τοµή της παραβολής µε τον άξονα x Είναι γενικά πιο γρήγορη από τη µέθοδο τέµνουσας, µε τάξη σύγκλισης, σε απλή ϱίζα, α 184
16 ΚΕΦΑΛΑΙΟ ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΜΗ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ Αλγόριθµος : Επίλυση της f (x) = 0 µε τη µέθοδο Müller: 1 επιλέγουµε τρεις διαφορετικές τιµές x 0, x 1, x στη περιοχή της αναζητούµενης ϱίζας Ορίζουµε τις ποσότητες q = x x 1 x 1 x 0, A = q ( f (x ) (1 + q) f (x 1 ) + q f (x 0 )), B = (q + 1) f (x ) (1 + q) f (x 1 ) + q f (x 0 ), C = (1 + q) f (x ) 3 Η επόµενη προσέγγιση της ϱίζας δίνεται από τη σχέση x 3 = x C(x x 1 )/D όπου D ο αριθµός που έχει το µεγαλύτερο µέτρο µεταξύ των B+ B 4AC, B B 4AC 4 Αν η νέα προσέγγιση είναι ικανοποιητική πηγαίνουµε στο ϐήµα 7 5 Θέτουµε x 0 x 1, x 1 x, x x 3 6 Επαναλαµβάνουµε τη διαδικασία από το ϐήµα 7 Τέλος Προσέξτε ότι οι διαδοχικές προσεγγίσεις της ϱίζας µπορεί να είναι µιγαδικές λόγω της τετραγωνικής ϱίζας, οπότε οι ποσότητες x n, q, A, B, C, D είναι γενικά µιγαδικές Ο συγκεκριµένος αλγόριθµος είναι ο µοναδικός, από όσους είδαµε, που µπορεί να υπολογίσει µιγαδικές ϱίζες µιας συνάρτησης 8 Ασκήσεις 1 Υλοποιήστε τον αλγόριθµο διχοτόµησης µε υπορουτίνα της Fortran Χρησιµοποιήστε τη για να εντοπίσετε τη ϱίζα της f (x) = x 3 + 4x 10 στο διάστηµα [1, ], f (x) = x cos x στο διάστηµα [0, 1] είξτε ότι η g(x) = ln x + έχει ένα και µοναδικό σταθερό σηµείο στο [, 4] Υπολογίστε το µέγιστο αριθµό επαναλήψεων ώστε x n x 10 3 3 (α ) Γράψτε ένα πρόγραµµα Fortran το οποίο να υλοποιεί τη µέθοδο ψευδούς ϑέσης (ϐ ) Εφαρµόστε την για να ϐρείτε τη ϱίζα της στο διάστηµα [04, 06] f (x) = 0 + 6x 40x + 07x 3
8 ΑΣΚΗΣΕΙΣ 17 (γ ) Εφαρµόστε τη µέθοδο ψευδούς ϑέσης και τη µέθοδο διχοτόµησης για να ϐρείτε τις ϱίζες της f (x) = x 10 095 στο διάστηµα [0, 14] < 10 6 ; Ποια µέθοδος συγκλίνει πιο γρήγορα µε σχετικό σφάλµα 4 Γράψτε κώδικα που να υλοποιεί τη γενική επαναληπτική µέθοδο x = g(x) Χρησιµοποιήστε τον για να υπολογίσετε µια ϱίζα της f (x) = x 6x + 5, τη ϱίζα της f (x) = x cos 3 x κοντά στο 06 5 Υπολογίστε το y = ex 1 x µε ένα ευσταθή αλγόριθµο για µικρό, κατ απόλυτη τιµή, x Για µικρό x χρησιµοποιούµε το ανάπτυγµα Taylor του e x ώστε να αποφύγουµε την αλληλοαναίρεση όρων ίδιας τάξης 6 Υπολογίστε µε ευσταθή αλγόριθµο τις λύσεις των εξισώσεων (α ) 15x + 13 10 6 x + 0037 = 0 Οι ακριβείς είναι x 1 846 10 9, x 86667 10 6 (ϐ ) 15x 37 10 6 x + 0057 = 0 Οι ακριβείς είναι x 1 15405 10 9, x 4667 10 7 7 Εφαρµόστε τη µέθοδο Newton Raphson για να υπολογίσετε τις ϱίζες της (α ) f (x) = sin x x, (ϐ ) f (x) = 3xe x 1 8 Υπολογίστε τις ϱίζες της f (x) = 4 cos x e x µε ακρίβεια 10 8 µε τη µέθοδο διχοτόµησης, τη µέθοδο σταθερού σηµείου, τη µέθοδο Newton Raphson και τη µέθοδο τέµνουσας 9 Βρείτε µε 1 ψηφία σωστά το σηµείο τοµής των καµπυλών e x, tan(x) στο διάστηµα [ 1, 1] Συµβουλή : σχεδιάστε τις καµπύλες 10 Υλοποιήστε σε κώδικα Fortran τον αλγόριθµο Müller Εφαρµόστε τον για να ϐρείτε τη µη µηδενική ϱίζα της f (x) = sin x x 11 Υλοποιήστε σε κώδικα τη µέθοδο Newton Raphson, κατάλληλα τροποποιηµένη ώστε να υπολογίζει τις ϱίζες πολυωνύµου ϐαθµού n, p n (x) = α 0 +α 1 x+α x + +α n x n, όταν έχουµε ως δεδοµένους τους συντελεστές του α 0, α 1,, α n Το πολυώνυµο και η παράγωγός του να υπολογίζονται µε τον αλγόριθµο Horner 1 Υλοποιήστε σε κώδικα τη µέθοδο τέµνουσας, κατάλληλα τροποποιηµένη ώστε να υπολογίζει τις ϱίζες πολυωνύµου ϐαθµού n, p n (x) = α 0 + α 1 x + α x + + α n x n, όταν έχουµε ως δεδοµένους τους συντελεστές του α 0, α 1,, α n Το πολυώνυµο και η παράγωγός του να υπολογίζονται µε τον αλγόριθµο Horner
18 ΚΕΦΑΛΑΙΟ ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΜΗ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ
Κεφάλαιο 3 Επίλυση Γραµµικών Συστηµάτων 31 Εισαγωγή Στο κεφάλαιο αυτό ϑα παρουσιάσουµε δύο µεθόδους για την εύρεση της λύσης γενικών γραµµικών συστηµάτων n n: a 11 x 1 + a 1 x + + a 1n x n = b 1 (31α ) a 1 x 1 + a x + + a n x n = b (31β ) a n1 x 1 + a n x + + a nn x n = b n (31γ ) Οι συντελεστές a i j και οι σταθεροί όροι b i είναι γνωστοί, ενώ τα n x i είναι άγνωστα και προς εύρεση Το σύστηµα µπορεί να εκφραστεί µε την ϐοήθεια των πινάκων και διανυσµάτων A n n = [a i j ], x n 1 = [x i ], και b n 1 = [b i ] ως εξής a 11 a 1 a 1n a 1 a a n a n1 a n a nn Θεώρηµα : Τα παρακάτω είναι ισοδύναµα : x 1 x x n = 1 Για κάθε δεύτερο µέλος b, το σύστηµα Ax = b έχει µοναδική λύση Ο πίνακας A έχει αντίστροφο (A 1 ) 3 Η ορίζουσα του A, det A είναι µη µηδενική 4 Το οµογενές σύστηµα Ax = 0 έχει µοναδική λύση τη x = 0 5 Οι στήλες ή οι γραµµές του A είναι γραµµικά ανεξάρτητες b 1 b b n 3 Ευστάθεια γραµµικών συστηµάτων Το σύστηµα Ax = b χαρακτηρίζεται ως ασταθές αν έχουµε µεγάλη απόκλιση στη λύση για µικρές αλλαγές στα A, b 19
0 ΚΕΦΑΛΑΙΟ 3 ΕΠ ΙΛΥΣΗ ΓΡΑΜΜΙΚ ΩΝ ΣΥΣΤΗΜΆΤΩΝ Παράδειγµα : [ 1 3 1 301 έχει λύση x 1 = x = 1 Το ελαφρά διαφορετικό σύστηµα [ 1 3 1 99 ] [ x1 x ] [ x1 x ] = ] = [ 4 401 [ 4 40 έχει λύση x 1 = 10, x =, τελείως διαφορετική Ο δείκτης κατάστασης, κ, του πίνακα A ως προς τη νόρµα ορίζεται ως κ = A A 1 Πχ µία νόρµα είναι η νόρµα αθροίσµατος γραµµών n A = max a i j 1 i n j=1 Αν κ 1 το σύστηµα είναι ασταθές ] ] 33 Μέθοδος Cramer Η µέθοδος Cramer προσδιορίζει τη λύση του γραµµικού συστήµατος Ax = b ως εξής x j = det B j det A, j = 1,,, n, όπου ο πίνακας B j προκύπτει από τον A αν αντικαταστήσουµε την στήλη j του A µε το διάνυσµα b Η λύση µε αυτήν τη µέθοδο απαιτεί (n + 1)! πολλαπλασιασµούς και γι αυτό δεν εφαρµόζεται στην πράξη για n 4 Παρατήρηση : Ο υπολογισµός της ορίζουσας µπορεί να γίνει µε τις µεθόδους που παρουσιάζονται στην 37 34 Απαλοιφή Gauss Η µέθοδος της απαλοιφής Gauss αποτελείται από δύο στάδια : 1 Μετατρέπουµε, µε κατάλληλους µετασχηµατισµούς, το γενικό γραµµικό σύστηµα (31) σε άνω τριγωνικό: a 11 x 1 + a 1 x + a 13 x 3 + + a 1n x n = b 1 (3α ) a x + a 3 x 3 + + a n x n = b (3β ) a 33 x 3 + + a 3n x n = b 3 (3γ ) a n 1,n 1 x n 1 + a n 1,n x n = b n 1 (3δ ) a nn x n = b n (3ε )
34 ΑΠΑΛΟΙΦ Η GAUSS 1 Οι µετασχηµατισµοί είναι τέτοιοι ώστε να διατηρούν τη λύση Επιλύουµε το άνω τριγωνικό σύστηµα Η λύση τριγωνικών συστηµάτων εκφράζεται µε κλειστούς τύπους 341 Τριγωνοποίηση Σε ένα γραµµικό σύστηµα µπορούµε να εκτελέσουµε τους παρακάτω στοιχειώδεις µετασχη- µατισµούς χωρίς να επηρεαστεί η λύση του : Εναλλαγή της σειράς δύο εξισώσεων, Πρόσθεση σε µία εξίσωση µιας άλλης, Πολλαπλασιασµός µιας εξίσωσης µε ένα µη µηδενικό αριθµό Οι δύο τελευταίοι µετασχηµατισµοί έχουν ως συνέπεια ότι µπορούµε να προσθέσουµε σε µία εξίσωση i το πολλαπλάσιο της εξίσωσης j χωρίς να αλλάξει η λύση Ας συµβολίσουµε αυτόν τον µετασχηµατισµό µε [i] [i] + λ[ j] Πρώτη στήλη Ας δούµε µε ποιούς µετασχηµατισµούς µπορούµε να µηδενίσουµε τους όρους κάτω από τη διαγώνιο στην πρώτη στήλη : για να είµαστε συστηµατικοί, επιλέγουµε την πρώτη εξίσωση και την προσθέτουµε σε κάθε επόµενη, πολλαπλασιασµένη µε κατάλληλους αριθµούς Ετσι έχουµε [] [] + λ [1], [3] [3] + λ 3 [1], [n] [n] + λ n [1] Ο µετασχηµατισµός σε κάθε εξίσωση i =, 3,, n δίνει a i j a i j + λ i a 1 j, j = 1,,, n b i b i + λ b 1 Καθώς ϑέλουµε να έχουµε, µετά το µετασχηµατισµό, a i1 = 0, πρέπει να ισχύει λ i = a i1 /a 11 Θεωρούµε ότι a 11 0 Θα εξετάσουµε παρακάτω τι πρέπει να κάνουµε αν δεν ισχύει αυτό Εποµένως, συγκεντρωτικά, µηδενίζουµε τους συντελεστές της πρώτης στήλης κάτω από τη διαγώνιο µε τις εξής πράξεις : για i =, 3,, n Το σύστηµα (31) ϑα γίνει λ i = a i1 /a 11 (33α ) a i j a i j + λ i a 1 j, j = 1,,, n (33β ) b i b i + λ i b 1, (33γ ) a 11 x 1 + a 1 x + + a 1n x n = b 1 a x + + a n x n = b a n x + + a nn x n = b n
ΚΕΦΑΛΑΙΟ 3 ΕΠ ΙΛΥΣΗ ΓΡΑΜΜΙΚ ΩΝ ΣΥΣΤΗΜΆΤΩΝ εύτερη στήλη Ας δούµε πώς µηδενίζουµε τα στοιχεία της δεύτερης στήλης, κάτω από τη διαγώνιο Επιλέγουµε τη δεύτερη γραµµή και την προσθέτουµε σε κάθε επόµενη, πολλαπλασιασµένη µε κατάλληλους αριθµούς Εποµένως [3] [3] + λ 3 [], [4] [4] + λ 4 [], [n] [n] + λ n [] Ο µετασχηµατισµός σε κάθε εξίσωση i = 3, 4,, n δίνει a i j a i j + λ i a j, j =, 3,, n b i b i + λ i b Προσέξτε ότι ο δείκτης j ξεκινά από το (είναι περιττό να ξεκινήσουµε από το 1 καθώς οι συντελεστές a i1 κάθε γραµµής i µε i =, 4,, n είναι 0) Καθώς ϑέλουµε να έχουµε, µετά το µετασχηµατισµό, a i = 0 προκύπτει ότι πρέπει να ισχύει λ i = a i /a µε i = 3, 4,, n Εποµένως, συγκεντρωτικά, µηδενίζουµε τους συντελεστές της δεύτερης στήλης, κάτω από τη διαγώνιο µε τις εξής πράξεις : για i = 3, 4,, n λ i = a i /a (34α ) a i j a i j + λ i a j, j =, 3,, n (34β ) b i b i + λ i b, (34γ ) Γενικοί Τύποι Από τους τύπους που ϐγάλαµε για την πρώτη και δεύτερη στήλη, µπορούµε να εξάγουµε τους γενικούς τύπους για κάθε στήλη, δηλαδή τον αλγόριθµο που µετατρέπει ένα γενικό γραµµικό σύστηµα σε άνω τριγωνικό Ετσι, αν ο δείκτης που είναι 1 στις εξισώσεις (33) γίνεται στις (34), συµπεραίνουµε ότι ϑα γίνεται k για την k στήλη : λ i = a ik /a kk (35α ) a i j a i j + λ i a k j, j = k, k + 1,, n (35β ) b i b i + λ i b k, (35γ ) µε i = k + 1, n (ο δείκτης i χρησιµοποιείται για να διατρέξουµε τις επόµενες εξισώσεις από την k) Τις παραπάνω εξισώσεις ϑα τις εκτελέσουµε διαδοχικά για k = 1,,, n 1 (η στήλη k = n δεν έχει στοιχεία κάτω από τη διαγώνιο) Στο τέλος, το γενικό γραµµικό σύστηµα ϑα έχει µετατραπεί σε άνω τριγωνικό Παρατήρηση : Στην περίπτωση που κάποιος συντελεστής a KK είναι ή γίνει κατά την εφαρµογή του αλγορίθµου ίσος µε 0, δεν µπορούµε να εφαρµόσουµε τις εξισώσεις (35) για την εξίσωση K ως έχει Πρέπει να εναλλάξουµε την επίµαχη εξίσωση K µε κάποια από τις επόµενές της ώστε να έρθει στη διαγώνιο ένας µη µηδενικός συντελεστής Κατόπιν, µπορούµε να συνεχίσουµε τη διαδικασία
34 ΑΠΑΛΟΙΦ Η GAUSS 3 Αν δεν µπορούµε να ϐρούµε µη µηδενικό συντελεστή στη στήλη K, στις επόµενες του K γραµµές, προχωρούµε τη διαδικασία κανονικά στο επόµενο k Το τριγωνικό σύστηµα που ϑα προκύψει, όπως ϑα δούµε παρακάτω, δεν ϑα έχει µοναδική λύση 34 Επίλυση άνω τριγωνικού συστήµατος Η εύρεση της λύσης ενός άνω τριγωνικού συστήµατος, (3), γίνεται µε τη µέθοδο οπισθοδρόµησης, από την τελευταία προς την πρώτη εξίσωση Εχουµε διαδοχικά για την τελευταία, προτελευταία, κλπ πρώτη εξίσωση x n = x n 1 = 1 b n, a nn 1 (b n 1 a n 1,n x n ), a n 1,n 1 Ο γενικός τύπος είναι x 1 = 1 (b 1 a 1 x a 13 x 3 a 1n x n ) a 11 x i = 1 n a ii b i a i j x j j=i+1, i = n, n 1,, 1 (36) Στου υπολογισµό του αθροίσµατος χρησιµοποιούµε την ακόλουθη σύµβαση : όταν το κάτω όριο του δείκτη άθροισης είναι µεγαλύτερο από το άνω (εποµένως, στην περίπτωσή µας, όταν i = n) το άθροισµα είναι 0 Παρατήρηση : Αν κάποιος συντελεστής a II είναι 0, εξετάζουµε τον αριθµητή στη σχέση (36): αν b I n j=i+1 a I j x j = 0 το σύστηµα έχει άπειρες λύσεις Τα x i µε i < I ϑα εκφράζονται ως συναρτήσεις του x I, δεν ϑα µπορούν να πάρουν συγκεκριµένη αριθµητική τιµή Το x I ϑα είναι ελεύθερη ποσότητα που ϑα µπορεί να πάρει οποιαδήποτε τιµή ϑέλουµε αν το σύστηµα δεν έχει λύση n b I a I j x j 0 j=i+1 343 Εφαρµογή Το σύστηµα επιλύεται ως εξής : 0 1 5 3 1 1 x 1 x x 3 = 3 4 6
4 ΚΕΦΑΛΑΙΟ 3 ΕΠ ΙΛΥΣΗ ΓΡΑΜΜΙΚ ΩΝ ΣΥΣΤΗΜΆΤΩΝ 1 Καθώς a 11 = 0 και a 1 0 εναλλάσσουµε τις δύο πρώτες εξισώσεις 5 3 1 0 1 1 x 1 x x 3 = Η δεύτερη εξίσωση έχει ήδη a 1 = 0, όπως επιδιώκουµε Πολλαπλασιάζουµε την πρώτη εξίσωση µε /5 και την προσθέτουµε στην τρίτη 5 3 1 0 1 0 3 06 x 1 x x 3 4 3 6 = Πολλαπλασιάζουµε τη δεύτερη γραµµή µε 3 και την προσθέτουµε στην τρίτη Με οπισθοδρόµηση έχουµε 344 Παρατηρήσεις 5 3 1 0 1 0 0 7 Απαιτήσεις µνήµης και χρόνου (πράξεων) x 1 x x 3 = 4 3 14 4 3 44 x 3 =, x = 1, x 1 = 1 Ο γενικός πίνακας A χρειάζεται n ϑέσεις µνήµης για πραγµατικούς ή µιγαδικούς (ό,τι τύπου είναι τα στοιχεία του) Επιπλέον n ϑέσεις απαιτεί ο b Παρατηρήστε ότι ο b µπορεί να χρησιµοποιηθεί για την αποθήκευση του διανύσµατος x Αν µετρήσουµε πολλαπλασιασµούς και διαιρέσεις (που είναι πιο χρονοβόρες από τις προσθέσεις και αφαιρέσεις) η µέθοδος Gauss χρειάζεται n 1 n (n k) + (n k) } {{ } } {{ } + (n k + 1) = n3 3 + n n 3 k=1 για a i j k=1 για b i πράξεις, πολύ λιγότερες από τις (n + 1)! που χρειάζεται η µέθοδος Cramer Πολλαπλά δεξιά µέλη, b = b n m Οταν ϑέλουµε να επιλύσουµε πολλές ϕορές το σύστηµα µε ίδιο πίνακα A αλλά m διαφορετικά δεξιά µέλη b, είναι προτιµότερο να εκτελέσουµε συγχρόνως την διαδικασία για όλα τα b, δηλαδή, να σχηµατίσουµε ένα πίνακα b µε m στήλες και να επεκτείνουµε τις πράξεις που υπαγορεύει ο αλγόριθµος για το b σε όλες τις στήλες 345 Μερική οδήγηση κατά γραµµές Για να ελαχιστοποιήσουµε τα αριθµητικά σφάλµατα κατά την τριγωνοποίηση, είναι σηµαντικό να επιλέγουµε κάθε ϕορά ο διαγώνιο συντελεστής a kk (που διαιρεί την k εξίσωση) ώστε να είναι αρκετά µεγάλο κατ απόλυτη τιµή Μπορούµε να κάνουµε κατάλληλη εναλλαγή γραµµών
35 Μ ΕΘΟ ΟΣ GAUSS JORDAN 5 (της k µε κάποια από τις επόµενες, µε i > k) ώστε να µεταφερθεί στη διαγώνιο το µεγαλύτερο κατ απόλυτη τιµή στοιχείο από τα a ik, i k Βέβαια, οποιοδήποτε στοιχείο από αυτά µπορεί να γίνει όσο µεγάλο ϑέλουµε αν πολλαπλασιάσουµε την εξίσωση στην οποία ανήκει µε κατάλληλο αριθ- µό Γι αυτό, καλό είναι να λαµβάνουµε υπόψη τις σχετικές τιµές των συντελεστών ως προς το µεγαλύτερο συντελεστή της εξίσωσης στην οποία ανήκουν Εποµένως, υπολογίζουµε κάθε ϕορά το µέγιστο στοιχείο των γραµµών µε i k, M i = max j ai j µε j = 1,, n Κατόπιν, κάνουµε σύγκριση κατ απόλυτη τιµή του a kk /M k µε τα a ik /M i, i > k Παράδειγµα : Το σύστηµα [ 00003 1566 03454 436 ] [ x1 x ] = [ 1569 1018 ] έχει λύση x 1 = 10, x = 1 Οµως, αν υποθέσουµε Η/Υ µε αναπαράσταση αριθµών ±0 f 1 f f n 10 ± s, s 10, n = 5, η απλή απαλοιφή Gauss δίνει προσεγγιστικά µετά την τριγωνοποίηση [ 03 10 3 01566 10 1 ] [ ] [ x1 01569 10 0 01804 10 1 = 1 ] x 01805 10 0 και τότε, x = 10006, x 1 = 6868 Η οδήγηση µε εναλλαγή γραµµών είναι απαραίτητη για να ϐρούµε τα ακριβή x 1, x Ετσι, αν εναλλάξουµε την πρώτη µε τη δεύτερη εξίσωση, αν, δηλαδή, ξεκινήσουµε µε το σύστηµα ] [ ] ] x1 [ 03454 436 00003 1566 x = [ 1018 1569 η τριγωνοποίηση δίνει [ 03454 10 0 0436 10 1 0 01568 10 1 ] [ x1 x ] [ 01018 10 1 = 01568 10 1 ] Συνεπώς, x = 1, x 1 = 10 Ολική οδήγηση (κατά γραµµές και στήλες) Αν χρειάζεται, µπορούµε να ϕέρνουµε, σε κάθε επανάληψη, µε κατάλληλη εναλλαγή γραµ- µών και στηλών, το µεγαλύτερο κατ απόλυτη τιµή στοιχείο όλου του πίνακα στη ϑέση του a kk Προσέξτε ότι η εναλλαγή στηλών απαιτεί και εναλλαγή στοιχείων στο διάνυσµα x 35 Μέθοδος Gauss Jordan Μια άλλη µέθοδος επίλυσης γραµµικών συστηµάτων, επέκταση της µεθόδου Gauss, είναι η εξής : Αφού ϕέρουµε τον πίνακα σε άνω τριγωνική µορφή µε την απαλοιφή Gauss, επαναλαµ- ϐάνουµε τη διαδικασία από την τελευταία γραµµή προς την πρώτη ώστε να µηδενίσουµε και τα στοιχεία πάνω από τη διαγώνιο Εποµένως, µε αυτήν τη διαδικασία, ένα σύστηµα της µορφής Ax = B
6 ΚΕΦΑΛΑΙΟ 3 ΕΠ ΙΛΥΣΗ ΓΡΑΜΜΙΚ ΩΝ ΣΥΣΤΗΜΆΤΩΝ γίνεται A x = B, όπου ο A είναι διαγώνιος πίνακας Με πολύ απλό µετασχηµατισµό µπορεί να γίνει ο µοναδιαίος, οπότε Ix = B Η µέθοδος αυτή παράγει απευθείας τη λύση του συστήµατος, απαιτεί όµως περισσότερες πράξεις από την τριγωνοποίηση σε συνδυασµό µε την οπισθοδρόµηση, και γι αυτό δε χρησιµοποιείται συνήθως 36 Επαναληπτικές Μέθοδοι Ενα σύστηµα n γραµµικών εξισώσεων, (31), για το οποίο ισχύει ότι a ii > n j=1, j i a i j, i = 1,, n, µπορεί να επιλυθεί, χωρίς να τροποποιηθεί, ακολουθώντας µια επαναληπτική µέθοδο Σε αυτή την κατηγορία µεθόδων, ξεκινάµε από µια αρχική προσέγγιση x (0) για τη λύση και παράγουµε µια ακολουθία καλύτερων προσεγγίσεων x (1), x (), η οποία συγκλίνει στη λύση σε άπειρες επαναλήψεις Στην πράξη, µια προσέγγιση x (k) είναι ικανοποιητική όταν τα στοιχεία του διανύσµατος Ax (k) b είναι κατ απόλυτη τιµή µικρά, το µέτρο του διανύσµατος Ax (k) b είναι µικρό, Η διαφορά (ή η σχετική διαφορά) των x (k+1) και x (k) έχει µικρό µέτρο ή µικρά (κατ απόλυτη τιµή) στοιχεία Θα παρουσιάσουµε µία τέτοια µέθοδο, µε δύο παραλλαγές Καταρχήν, λύνοντας ως προς x i, ϕέρνουµε το σύστηµα (31) στη µορφή x i = 1 i 1 a ii b i a i j x j j=1 n a i j x j, i = 1,, n Παρατηρήστε ότι για να υπολογίσουµε το x i χρειαζόµαστε τις τιµές όλων των x j µε j i j=i+1 Gauss Jacobi Σε αυτήν την παραλλαγή, οι παλαιές τιµές για τα x i (δηλαδή της προηγούµενης επανάληψης, x (k) i ), χρησιµοποιούνται για να υπολογιστούν οι νέες, x (k+1) i : x (k+1) i = 1 i 1 n a ii b i a i j x (k) j a i j x (k) j j=1 j=i+1 = 1 n a ii b i a i j x (k) j + x(k) i, i = 1,, n (37) j=1
37 ΕΦΑΡΜΟΓ ΕΣ 7 Gauss Seidel Στη δεύτερη παραλλαγή, οι νέες τιµές των x i, x (k+1) i, χρησιµοποιούνται στον τύπο αµέσως µόλις υπολογιστούν : x (k+1) i = 1 i 1 n a ii b i a i j x (k+1) j a i j x (k) j j=1 j=i+1 = 1 i 1 n a ii b i a i j x (k+1) j a i j x (k) j + x(k) i, i = 1,, n (38) j=1 j=i Προσέξτε ότι ο υπολογισµός του x (k+1) i τιµές x (k) j για j > i 37 Εφαρµογές χρειάζεται τις νέες τιµές x (k+1) j για j < i και τις παλαιές Η διαδικασία τριγωνοποίησης µε τη µέθοδο απαλοιφής Gauss, 341, ϐρίσκει εφαρµογή και σε άλλα προβλήµατα γραµµικής άλγεβρας, πέρα από την επίλυση γραµµικών συστηµάτων 371 Υπολογισµός του αντίστροφου πίνακα Κάθε µέθοδος επίλυσης γραµµικού συστήµατος της µορφής Ax = b παράγει τελικά το x = A 1 b Συνεπώς, αν επιλέξουµε για πίνακα b διαδοχικά τα n διανύσµατα (1, 0,, 0) T, (0, 1,, 0) T,, (0, 0,, 1) T ϑα έχουµε ως λύσεις τις αντίστοιχες στήλες του πίνακα A 1 Η µέθοδος αυτή για την εύρεση του αντιστρόφου ενός (τετραγωνικού) πίνακα A n n απαιτεί την επίλυση n γραµµικών συστηµάτων µε διαφορετικά δεξιά µέλη Κατά τη διαδικασία της τριγωνοποίησης, οποιαδήποτε µεταβολή των συστηµάτων καθορίζεται αποκλειστικά από τα στοιχεία του A και, συνεπώς, µπορούν να επιλυθούν ταυτόχρονα 37 Υπολογισµός Ορίζουσας Η ορίζουσα είναι ένας αριθµός που σχετίζεται µε ένα τετραγωνικό πίνακα Μπορεί να οριστεί µε πολλούς ισοδύναµους τρόπους Ενας ορισµός δίνεται ως ανάπτυγµα κατά τη στήλη j από την αναδροµική σχέση n det A = ( 1) i+ j a i j det A i j, (39) i=1 όπου A i j είναι ο πίνακας διαστάσεων (n 1) (n 1) που προκύπτει από τον A διαγράφοντας τη γραµµή i και τη στήλη j Η ορίζουσα ενός πίνακα 1x1 είναι το µοναδικό στοιχείο του Μια άλλη διαδικασία για να υπολογίσουµε την ορίζουσα, εκτός από την εφαρµογή του τύπου (39), είναι η µετατροπή του αρχικού πίνακα σε ένα τριγωνικό (άνω ή κάτω) Η πρόσθεση σε µία γραµµή ενός (τετραγωνικού) πίνακα του πολλαπλάσιου µίας άλλης είναι διαδικασία που διατηρεί την ορίζουσα Ο άνω τριγωνικός πίνακας που παράγεται µε την απαλοιφή Gauss, αν η τριγωνοποίηση περιοριστεί µόνο σε τέτοιες µεταβολές, έχει ίδια ορίζουσα µε τον αρχικό Προσέξτε ότι, σε περίπτωση που εφαρµόσουµε οδήγηση (δηλ εναλλαγή γραµµών ή στηλών) πρέπει να λάβουµε υπόψη ότι κάθε τέτοια µεταβολή αλλάζει το πρόσηµο της ορίζουσας
8 ΚΕΦΑΛΑΙΟ 3 ΕΠ ΙΛΥΣΗ ΓΡΑΜΜΙΚ ΩΝ ΣΥΣΤΗΜΆΤΩΝ Η ορίζουσα ενός άνω ή κάτω τριγωνικού πίνακα είναι πολύ εύκολη Η εφαρµογή της σχέσης (39), µε ανάπτυξη κατά την πρώτη στήλη, δίνει ως ορίζουσα το γινόµενο των διαγωνίων στοιχείων του : n det A = a ii Προσέξτε ότι τα στοιχεία a ii είναι τα διαγώνια στοιχεία του τριγωνικού πίνακα Εποµένως, η ορίζουσα det A µπορεί να υπολογιστεί ως το γινόµενο των στοιχείων της διαγωνίου του τελικού πίνακα (µετά την άνω ή κάτω τριγωνοποίηση), A, επί ( 1) s όπου s είναι ο συνολικός αριθµός εναλλαγών γραµµών (ή στηλών) που έγιναν κατά την απαλοιφή i=1 373 Εύρεση ιδιοτιµών και ιδιοδιανυσµάτων Ας ϑυµίσουµε τον ορισµό των εννοιών του ιδιοδιανύσµατος και της ιδιοτιµής ενός πίνακα A Αν υπάρχει ένας αριθµός λ, εν γένει µιγαδικός, και ένα διάνυσµα (πίνακας στήλη) x, διάφορο του (0, 0,, 0) T για τα οποία ισχύει Ax = λx, (310) τότε το x λέγεται ιδιοδιάνυσµα του A ενώ το λ είναι η αντίστοιχη ιδιοτιµή Παρατηρήστε ότι το x δεν είναι µοναδικό καθώς οποιοδήποτε πολλαπλάσιό του αποτελεί επίσης λύση του συστήµατος (310) για την ίδια ιδιοτιµή Η (310) µπορεί να γραφεί ως εξής Ax = λx Ax = λix (A λi)x = 0 Το σύστηµα έχει µοναδική λύση, την x = (0, 0,, 0) T, αν και µόνο αν ο πίνακας A λi αντιστρέφεται Καθώς δεν ενδιαφερόµαστε για τη µηδενική λύση, οδηγούµαστε στην απαίτηση να ισχύει det(a λi) = 0 Παρατηρήστε ότι η έκφραση det(a λi) είναι ένα πολυώνυµο ϐαθµού n ως προς λ Η εύρεση των n ϱιζών του µπορεί να γίνει αναλυτικά (για n < 5) ή, γενικότερα, αριθµητικά µε τις µεθόδους που περιγράψαµε στο Κεφάλαιο Αφού προσδιοριστούν οι ιδιοτιµές, η επίλυση του γραµµικού συστήµατος (A λi)x = 0 µπορεί να γίνει µε τις µεθόδους που παρουσιάστηκαν Προσέξτε ότι το σύστηµα έχει άπειρες λύσεις, οπότε τουλάχιστον µία από τις συνιστώσες του διανύσµατος x είναι ελεύθερη Αυτό προκύπτει καθώς κατά την επίλυση του συστήµατος καταλήγουµε σε εξίσωση της µορφής 0x k = 0 για κάποιο k Τότε, η συγκεκριµένη συνιστώσα µπορεί να τεθεί αυθαίρετα 1 εν ϑα αναφερθούµε στην περίπτωση που εµφανιστεί και δεύτερη ελεύθερη συνιστώσα 38 Ασκήσεις 1 Υλοποιήστε σε πρόγραµµα FORTRAN την απαλοιφή Gauss Θεωρείστε ότι τα διαγώνια στοιχεία του πίνακα είναι και παραµένουν σε όλη τη διαδικασία µη µηδενικά Υπόδειξη : ηµιουργήστε ένα πίνακα 4 4 µε τυχαία στοιχεία για να ελέγξετε το πρόγραµµά σας Υλοποιήστε την απαλοιφή Gauss µε µερική οδήγηση Υπόδειξη : Τροποποιήστε την υπορουτίνα της απλής απαλοιφής που γράψατε στην προηγούµενη άσκηση
38 ΑΣΚΗΣΕΙΣ 9 3 Να γράψετε δύο υπορουτίνες Fortran, µε ονόµατα JACOBI, SEIDEL που να υλοποιούν τους αντίστοιχους αλγορίθµους (Gauss Jacobi, Gauss Seidel) Να τις χρησιµοποιήσετε για την εύρεση της λύσης του συστήµατος Ax = B όπου A = 11 39 03 41 43 113 08 15 10 8 143 81 4 61 11 15, x = x 1 x x 3 x 4, B = Να χρησιµοποιήσετε το ακόλουθο κριτήριο τερµατισµού των επαναλήψεων : κάθε στοιχείο του διανύσµατος Ax B να είναι κατ απόλυτη τιµή µικρότερο του 10 7 4 Υλοποιήστε σε υπορουτίνα FORTRAN τον αλγόριθµο αντιστροφής πίνακα που περιγράφηκε Να τη χρησιµοποιήσετε για να ϐρείτε τον αντίστροφο του 1 39 03 41 43 13 08 15 10 8 43 81 4 61 11 15 5 Να γράψετε συνάρτηση της FORTRAN που να υπολογίζει την ορίζουσα ενός πίνακα Θα δέχεται ως ορίσµατα τον πίνακα και, αν σας χρειάζεται, την τάξη του και ϑα επιστρέφει την ορίζουσα 1 3 34 45 Χρησιµοποιήστε τη για να υπολογίσετε την ορίζουσα του 1 39 03 41 43 13 08 15 10 8 43 81 4 61 11 15 6 Υλοποιήστε σε πρόγραµµα FORTRAN τη µέθοδο Cramer 7 Να γράψετε πρόγραµµα FORTRAN που να υλοποιεί τον αλγόριθµο εύρεσης ιδιοτιµών ενός τετραγωνικού πίνακα Να ϐρείτε µία ιδιοτιµή του πίνακα 1 39 03 41 43 13 08 15 10 8 43 81 4 61 11 15