ΑΡΙΘΜΗΤΙΚΗ ΓΡΑΜΜΙΚΗ ΑΛΓΕΒΡΑ. (Σηµειώσεις)

Transcript

1 ΑΡΙΘΜΗΤΙΚΗ ΓΡΑΜΜΙΚΗ ΑΛΓΕΒΡΑ (Σηµειώσεις) Ν Μισυρλής S(L ω ) 10 (2, 1) ( 1, µ 2 ) (ω b,ω b 1 ) 10 ω b 20 ω ΑΘΗΝΑ 2008

2 Ν Μισυρλής Τµήµα Πληροφορικής και Τηλεπικοινωνιών Πανεπιστήµιο Αθηνών ΑΡΙΘΜΗΤΙΚΗ ΓΡΑΜΜΙΚΗ ΑΛΓΕΒΡΑ (Σηµειώσεις) Θεωρία Αλγόριθµοι Παραδείγµατα ΑΘΗΝΑ

3 Περιεχόµενα 1 Σφάλµατ α στ ους Αριθµητικούς Υπολογισµούς 5 11 Εισαγωγή 5 12 Αριθµοί Μηχανής 6 13 Ανάλυση σφάλµατος των αριθµών κινητής υπ οδιαστολής Ανάλυση σφάλµατος στο άθροισµα όρων ιαδιδόµενο σφάλµα 13 2 Άµεσοι µέθοδοι για την επίλυση γραµµικών συστηµάτων Η µέθοδος απ αλοιφής του Gauss Επίλυση των Ax k = b k,k=1(1)l Υπολογισµός του A Υπολογισµός της det A Ο αλγόριθµος της απ αλοιφής του Gauss Τροπ οπ οίηση της µεθόδου απ αλοιφής του Gauss Αριθµητική αστάθεια Ο αλγόριθµος απαλοιφής του Gauss µε µερική οδήγηση Η µέθοδος απ αλοιφής του Jordan Ο αλγόριθµος απαλοιφής του Jordan µε µερική οδήγηση Υπ ολογιστική π ολυπ λοκότητα Η LU µέθοδος Ο Αλγόριθµος της LU µεθόδου Παραλλαγές της LU µεθόδου Ο αλγόριθµος του Choleski Η LU µέθοδος µε µερική οδήγηση Ο αλγόριθµος της LU µεθόδου µε µερική οδήγηση Λύση τριδιαγώνιου συστήµατος Υπολογιστική πολυπλοκότητα της LU µεθόδου Norms διανυσµάτων και π ινάκων Ασταθή συστήµατα 85 3

4 3 Επαναληπτικές Μέθοδοι για την επίλυση Γραµµικών Συστηµάτων Γενικά Βασικές επαναληπτικές µέθοδοι Αλγόριθµοι των ϐασικών επ αναληπ τικών µεθόδων Σύγκλιση των ϐασικών επ αναληπ τικών µεθόδων Υπολογιστική πολυπολοκότητα της µεθόδου του Jacobi Ηµι-Επ αναληπ τικές Μέθοδοι Μέθοδοι Μεταβλητής Παρεκτροπής (Variable Extrapolation) Μέθοδοι ευτέρου Βαθµού (Second-Degree) (SD) Μέθοδος των Συζυγών Κατευθύνσεων (Conjugate Gradient) Αριθµητικός Υπολογισµός Ιδιοτιµών και Ιδιοδιανυσµάτων Γενικά Η µέθοδος των δυνάµεων Τροπ οπ οίηση της µεθόδου των δυνάµεων Ο αλγόριθµος της µεθόδου των δυνάµεων Τεχνικές επ ιτάχυνσης της µεθόδου των δυνάµεων Η µέθοδος του Aitken Η µέθοδος των π ηλίκων του Rayleigh Ο αλγόριθµος της µεθόδου των πηλίκων του Rayleigh Μετατόπιση της αρχής των αξόνων (Shift of Origin) Η αντίστροφη µέθοδος των δυνάµεων Υπ ολογισµός των υπ ερεχουσών ιδιοτιµών Η µέθοδος του Jacobi Παραλλαγές της µεθόδου του Jacobi Υπ ολογισµός των ιδιοδιανυσµάτων Η µέθοδος του Givens Η µέθοδος του Householder Υπολογισµός του ιδιοσυστήµατος ενός συµµετρικού τριδιαγώνιου π ίνακα 175 4

5 Κεφάλαιο 1 Σφάλµατα στους Αριθµητικούς Υπολογισµούς 11 Εισαγωγή Υπάρχουν διάφορες πηγές σφαλµάτων που µπορούν να προκύψουν κατά τους αριθµητικούς υπολογισµούς 1 Σφάλµατα που προκύπτουν κατά το σχηµατισµό του µαθηµατικού µοντέλου Εναϕυσικό ϕαινόµενο περιγράφεται από ένα µαθηµατικό πρόβληµα, το οποίο προκύπτει από τη µελέτη ενός µοντέλου που προσεγγίζει όσο το δυνατόν καλύτερα το ϕυσικό ϕαινόµενο 2 Σφάλµατα στα δεδοµένα Κατά τη µέτρηση των δεδοµένων ενός προβλήµατος υπεισέρχοναι σφάλµατα που προέρχονται κυρίως από τα όργανα µέτρησης 3 Σφάλµατα αποκοπής Είναι αυτά που προκύπτουν όταν, για παράδειγµα, επιθυµούµε τον υπολογισµό της τιµής µιας σειράς απείρων όρων Στην περίπτωση αυτή είµαστε αναγκασµένοι να διατηρήσουµε µόνο ένα συγκεκριµένο πλήθος όρων 4 Σφάλµατα στρογγύλευσης Τα σφάλµατα αυτά προκύπτουν λόγω του πεπερασµένου µεγέθους µνήµης που διατίθεται για την αποθήκευση ενός αριθµού στον υπολογιστή Υπάρχουν δύο µεγέθη που µετρούν το σφάλµα, το απόλυτο σφάλµα και το απόλυτο σχετικό σφάλµα Ορισµός 1 Αν x είναι µια προσέγγιση του x, το απόλυτο σφάλµα είναι η ποσότης x x και το σχετικό σφάλµα η ποσότης x x,x 0 x 5

6 12 Αριθµοί Μηχανής Οι περισσότεροι υπολογιστές χρησιµοποιούν το δυαδικό σύστηµα αρίθµησης δεκαδικό σύστηµα ο αριθµός είναι ίσος µε Οπως στο κατ αναλογία ο αριθµός του δυαδικού συστήµατος είναι ίσος µε ή =575 (10111) 2 =(575) 10 όπου ο συµβολισµός ( ) β δηλώνει τη ϐάση του συστήµατος αρίθµησης ϐ στο οποίο παριστάνεται ο αριθµός Η επικοινωνία του υπολογιστή µε τον άνθρωπο γίνεται στο δεκαδικό σύστηµα Επειδή όµως η επεξεργασία των δεδοµένων από τον υπολογιστή γίνεται στο δυαδικό σύστηµα γι αυτόυπάρχειτοανάλογολογισµικόγιατηµετατροπήτωναριθµώναπότοδεκαδικόστο δυαδικό και αντίστροφα Κατά τη διαδικασία αυτής της µετατροπής υπεισέρχονται σφάλµατα στρογγύλευσης όπως ϑα δούµε στη συνέχεια Ακέραιοι Ενας ακέραιος µπορεί να χρησιµοποιήσει όλο το µήκος µιας λέξης για την παράστασή του στη µνήµη εκτός από ένα µόνο δυαδικό ψηφίο (bit) που πρέπει να δεσµευθεί για το πρόσηµό του Αν λοιπόν υποτεθεί ότι διατίθενται n bits για την παράσταση των ψηφίων ενός ακεραίου αριθµού, τότε ο µεγαλύτερος ακέραιος αριθµός που µπορεί να παρασταθεί στη µνήµη είναι ο: n {}}{ (111 1) 2 =1 2 n n =2 n 1 Αν n = 15 τότε = Εποµένως, όλοι οι ακέραιοι αριθµοί στην περιοχή [ (2 n 1), 2 n 1] παριστάνονται µε την ορθή (ακριβή) τιµή τους στη µνήµη Σπάνια ό- µως υπάρχουν υπολογισµοί που επεξεργάζονται ακεραίους αριθµούς Πραγµατικοί Αριθµοί - Κινητή Υποδιαστολή Στο δεκαδικό σύστηµα ένας πραγµατικός αριθµός µπορεί να παρασταθεί στην κανονικοποιηµένη επιστηµονική µορφή Αυτό σηµαίνει ότι η δεκαδική τελεία µετατοπίζεται έτσι ώστεόλαταψηφίατουαριθµούναϐρίσκονταιστα δεξιά της δεκαδικής τελείας και το πρώτο ψηφίο να είναι διάφορο του µηδενός Για παράδειγµα, =

7 Ετσι, ένας πραγµατικός αριθµός x ( 0)µπορεί να παρασταθεί µε τη µορφή x = ± x 10 e (11) όπου e είναι ένας ακέραιος, ο οποίος καλείται εκθέτης (exponent) και x είναι το δεκαδικό τµήµα του αριθµού και καλείται ϐάση (mantissa) Είναι ϕανερό ότι 01 x <1 Γενικά, ένας αριθµός παριστάνεται σε ένα σύστηµα αρίθµησης µε ϐάση ϐ σαν όπου x = ± x β e, (12) x =(0a 1 a 2 a n ) β (13) Τα a i,i =1, 2,n είναι όλα ψηφία του συστήµατος αρίθµησης µε ϐάση β και ικανοποιούν τις σχέσεις 0 a i β 1, a 1 0 (14) Επίσης για τον εκθέτη ισχύει : m e M (15) όπου m και Μ είναι ακέραιοι Συνήθως m = M ή m = M ±1 Από την (13) παρατηρούµε ότι η ϐάση περιέχει n ψηφία και όλοι οι αριθµοί που έχουν περισσότερα ψηφία πρέπει µε κάποιο τρόπο, να προσεγγισθούν ώστε να έχουν µόνο n ψηφία Οι πραγµατικοί αριθµοί παριστάνονται στη µνήµη ενός υπολογιστή όπως ακριβώς περιγράφηκε προηγουµένως όπου συνήθως β =2 Στο σχήµα 11 παριστάνονται πραγµατικοί αριθµοί σε υπολογιστές µε 64 και 32 bits λέξεις x e { { { bits 2-24 bits e x { bits 2-12 bits bit CDC 6000 Σχήµα 11: Παράσταση πραγµατικού αριθµού στη µνήµη Το πρώτο δυαδικό ψηφίο (bit) είναι 0 αν ο αριθµός είναι ϑετικός και 1 αν είναι αρνητικός 7

8 Αριθµοί Μηχανής Η παράσταση (12) καλείται κινητής υποδιαστολής (floating point) Στη συνέχεια ϑα προσπαθήσουµε να εντοπίσουµε το διάστηµα [s, L] των πραγµατικών αριθµών που µπορούν να παρασταθούν ακριβώς στη µνήµη Θα υποθέσουµε δηλαδή ότι β =2, το x είναι αποθηκευ- µένο σαν µια ακολουθία από n δυαδικά ψηφία και Κατ αρχήν παρατηρούµε ότι η ποσότητα x ϕράσσεται ως εξής : e M (16) n n {}}{{}}{ (010 0) 2 x (011 1) 2 ή οπότε 1 2 x 1 2 n (17) s = 1 2 2e x 2 e = x (1 2 n ) 2 e = L<2 e ή Επειδή το x είναι της µορφής 2 e 1 x < 2 e (18) x =(01a 2 a 3 a n ) 2 συνεπάγεται ότι για κάθε e = M, M +1,,M 1,M,υπάρχουν2 n 1 κανονικοποιηµένα x Αυτάτα x αντιστοιχούν σε 2 n 1 ίσης απόστασης αριθµούς x σε κάθε ένα από τα διαστήµατα [2 e 1, 2 e ) και ( 2 e, 2 e 1 ] (ϐλ Σχήµα 12) õðï åßëéóç õðåñ åßëéóç e=-m+1 e=-m+1 }e=-me=-m [ ]( ]( ] [ )[ )[ ] -L -4s -2s } } -s 0 s 2s 4s L õðåñ åßëéóç } Σχήµα 12: Παράσταση αριθµών µηχανής Οταν αυξάνεται ο εκθέτης κατά 1 διπλασιάζεται το µήκος και των δύο διαστηµάτων [2 e 1, 2 e ) και ( 2 e, 2 e 1 ] Συνέπεια του γεγονότος αυτού είναι ότι οι αριθµοί που παριστάνονται όπως στο σχήµα 12 είναι πυκνά κατανεµηµένοι πλησίον του µηδενός και αραιά κατανε- µηµένοι µακρυά του µηδενός Οι αριθµοί αυτοί που είναι κινητής υποδιαστολής και για τους οποίους ισχύουν οι (16) και (17), καλούνται αριθµοί µηχανής Υπάρχει λοιπόν µόνο ένα πεπερασµένο σύνολο πραγµατικών αριθµών που µπορεί να παρασταθεί µε την ακριβή τιµή 8

9 τους και αυτό ϐρίσκεται στα δύο διαστήµατα [ L, s] και [s,l] Οποιοσδήποτε αριθµός x για τον οποίο ισχύει x >Lδεν µπορεί να αποθηκευτεί στη µνήµη και το ϕαινόµενο αυτό είναι γνωστό σαν υπερχείλιση (overflow) Οµοια αν x <sτότε έχουµε το ϕαινόµενο της υποχείλισης (underflow) Ας σηµειωθεί ότι περισσότερα δυαδικά ψηφία για την παράσταση του x αυξάνουν την πυκνότητα των αριθµών µηχανής, ενώ περισσότερα δυαδικά ψηφία για το e έχει σαν αποτέλεσµα να µεγαλώνει το διάστηµα παράστασής τους Παράδειγµα Αν β =2,n=3,m= 1, M=2, να ϐρεθούν και να παρασταθούν οι αριθµοί µηχανής Λύση Οι αριθµοί µηχανής έχουν τη µορφή (12) - (13) ή για τα δεδοµένα του παραδείγµατος x = ± x 2 e, x =(01a 2 a 3 ) 2 µε 0 a i 1, i =2, 3 Ο µικρότερος x είναι ο αριθµός (0100) 2, ενώ οι επόµενοι λαµ- ϐάνονται αν κάθε ϕορά προστίθεται ο αριθµός (0001) 2 Για δεδοµένο e έχουµε τους εξής τέσσερις αριθµούς : 0100, 0101, 0110 και 0111 άρα για e = 1, 0, 1, 2 λαµβάνουµε τους ακόλουθους ϑετικούς αριθµούς µηχανής : (0100) (0101) (0110) (0111) ( 1) 4 ( 5 ) 16 ( 6 ) 16 ( 7 ) 16 (0100) (0101) (0110) (0111) ( 1) 2 (5) 8 (6) 8 (7) 8 (0100) (0101) (0110) (0111) (1) ( 5) 4 (6) 4 (7) 4 (0100) (0101) (0110) (0111) (2) ( 5) 2 (6) 2 (7) 2 Επιπλέον, υπάρχει το µηδέν και το αντίστοιχο σύνολο των αρνητικών αριθµών Η γραφική παράσταση των αριθµών είναι η ακόλουθη : Παρατηρούµε ότι δεν υπάρχουν αριθµοί στα διαστήµατα ( 1, 0) 4 και (0, 1) Επ ίσης, οι 4 αριθµοί δεν είναι αµοιόµορφα κατανεµηµένοι Ωστόσο οι αριθµοί που έχουν κοινό εκθέτη απέχουν ίση απόσταση µεταξύ τους 9

10 13 Ανάλυση σφάλµατος των αριθµών κινητής υποδιαστολής Εστω ο πραγµατικός αριθµός κινητής υποδιαστολής x = ± (0a 1 a 2 a n a n+1 ) β β e,a 1 0 (19) όπου χωρίς ϐλάβη της γενικότητας υποθέτουµε ότι ο β είναι άρτιος (β=2, 8, 10, 16) Εάν υποτεθεί ότι το µέγιστο πλήθος ψηφίων που µπορούν να αποθηκευτούν είναι n,τότε ο αριθµός αυτός δεν µπορεί να παρασταθεί στη µνήµη Το ερώτηµα λοιπόν που τίθεται είναι το εξής : Ποιός είναι ο πλησιέστερος αριθµός µηχανής προς τον x; Προκειµένου να δοθεί µια απάντηση στο ερώτηµα αυτό ας ϑεωρήσουµε τους δύο αριθµούς µηχανής µεταξύ των οποίων ϐρίσκεται ο x (σχήµα 13) Οπως παρατηρούµε από το σχήµα 13 (α), ο πλησιέστερος αριθµός µηχανής προς τον x είναι ο x και ϐρίσκεται αν αποκοπούν τα ψηφία a n+1 από το δεκαδικό τµήµα του (ϐλ (19)), δηλαδή είναι ο x =(0a 1 a 2 a n ) β β e (110) x' x x'' x' x x'' (a) (b) Σχήµα 13: ύο πιθανές ϑέσεις του x (x, x αριθµοί µηχανής) Εάν όµως έχουµε την περίπτωση του σχήµατος 13(ϐ), τότε ο x είναι πλησιέστερος προς τον x και ϐρίσκεται αν στον x προστεθεί η ποσότητα (000 01) β = β n, δηλαδή είναι ο ) x = ((0a 1 a 2 a n ) β + β n β e (111) Η τεχνική αυτή καλείται στρογγύλευση (rounding up) Χρησιµοποιώντας λοιπόν την τεχνική της στρογγύλευσης ένας πραγµατικός αριθµός αντιστοιχεί σε ένα αριθµό µηχανής Κατ αυτόν τον τρόπο ένας πραγµατικός αριθµός παριστάνεται (προσεγγίζεται) στη µνήµη µε τον αντίστοιχο αριθµό µηχανής Αν εφαρµόσουµε τη διαδικασία της στρογγύλευσης για την (a) περίπτωση του σχήµατος 13, έχουµε ότι το απόλυτο σφάλµα ϕράσσεται ως εξής x x 1 ( ) 1 2 x x = 2 β n β e (112) ενώ για το απόλυτο σχετικό σφάλµα ϑα έχουµε x x x 1 2 β n β e x β e = 1 2 β n x β n β 1 = 1 2 β n+1 (113)

11 Εύκολα διαπιστώνεται ότι οι (112) και (113) ισχύουν και για την περίπτωση (b) του σχήµατος 13 Συνήθως ο αριθµός µηχανής κινητής υποδιαστολής που είναι πλησιέστερος προς τον x συµβολίζεται µε fl(x) Χρησιµοποιώντας το συµβολισµό αυτό οι τύποι (112) και (113) γράφονται x fl(x) 1 2 β n β e (114) και x fl(x) 1 x 2 β n+1, (115) αντίστοιχα Οι τύποι (114) και (115) παρέχουν άνω ϕράγµατα του σφάλµατος στρογγύλευσης Αν τεθεί τότε η (115) γράφεται µε ε = fl(x) x, x fl(x) =(1+ε) x (116) ε 1 2 β n+1 (117) Το ϕράγµα της ποσότητας ε καλείται µονάδα µηχανής (machine unit), επειδή δε είναι µικρή, η (116) δηλώνει ότι ο fl(x) είναι µια ελαφρά διατάραξη του x Μία άλλη τεχνική απεικόνισης των πραγµατικών αριθµών στο σύνολο των αριθµών µηχανής είναι αυτή της αποκοπής (chopping) Αν ακολουθηθεί η τεχνική αυτή, τότε ο πραγµατικός αριθµός x προσεγγίζεται πάντα µε τον πλησιέστερο από τα αριστερά του αριθµού µηχανής, δηλαδή µε τον x (ϐλ Σχ 13) Στην περίπτωση που χρησιµοποιηθεί η διαδικασία της αποκοπής, τότε µε ανάλογο τρόπο εύκολα ϐρίσκεται ότι x fl(x) β e n (118) και x fl(x) β n+1 (119) x Συγκρίνοντας τους τύπους (114), (115) µε τους (118) και (119) παρατηρούµε ότι : 1 Το χειρότερο σφάλµα στρογγύλευσης είναι το µισό εκείνου της αποκοπής 2 Το σφάλµα στη στρογγύλευση είναι αρνητικό στις µισές περίπου περιπτώσεις και ϑετικό στις άλλες µισές µε αποτέλεσµα την απαλοιφή του, ενώ στην αποκοπή έχει συνέχεια το ίδιο πρόσηµο 11

12 Η µελέτη του σφάλµατος στρογγύλευσης είναι ένα σηµαντικό τµήµα της Αριθµητικής Ανάλυσης και αναπτύχθηκε από τον Wilkinson Η διεξοδική παρουσίασή της ξεφεύγει από τα πλαίσια του παρόντος ϐιβλίου Η αξία της στην αξιολόγηση µιας αριθµητικής µεθόδου είναι αναγκαία και σηµαντική όπως ϕαίνεται στο παράδειγµα που ακολουθεί 14 Ανάλυση σφάλµατος στο άθροισµα όρων Στην παράγραφο αυτή ϑα µελετηθεί το σφάλµα στρογγύλευσης στην πράξη του αθροίσµατος ενός µεγάλου πλήθους όρων και ϑα προταθεί µια µέθοδος για την ελαχιστοποίησή του Εστω ότι έχουµε το άθροισµα n S = x i (120) όπου x i είναι αριθµοί κινητής υποδιαστολής που ήδη έχουν αποθηκευτεί στη µνήµη Υπο- ϑέτουµε ότι προσθέτουµε τους δύο πρώτους, οπότε i=1 S 2 = fl(x 1 + x 2 ) και στο αποτέλεσµα προσθέτουµε τον 3ο όρο κοκ, συνεπώς S 3 = fl(x 3 + S 2 ) S 4 = fl(x 4 + S 3 ) S n = fl(x n + S n 1 ) (121) όπου S n είναι το αποτέλεσµα του υπολογισµού του S Λόγω της (116), οι ανωτέρω σχέσεις γράφονται όπου S 2 =(x 1 + x 2 )(1+ε 2 ) S 3 =(x 3 + S 2 )(1+ε 3 ) S n =(x n + S n 1 )(1+ε n ) ε i 1 2 β n+1, i =2, 3,,n (122) Αναπτύσσοντας τις πρώτες ποσότητες της (122) έχουµε S 2 =(x 1 + x 2 )+(x 1 + x 2 ) ε 2 S 3 =[(x 1 + x 2 + x 3 )+(x 1 + x 2 ) ε 2 ](1+ε 3 ) =(x 1 + x 2 + x 3 )+(x 1 + x 2 ) ε 2 +(x 1 + x 2 + x 3 ) ε 3 +(x 1 + x 2 ) ε 2 ε 3 12

13 ή παραλείποντας τον τελευταίο όρο, επειδή ε 2 ε 3 ε 2,ε 3,λαµβάνουµε Αναγωγικά ϐρίσκουµε τελικά ότι S 3 (x 1 + x 2 + x 3 )+(x 1 + x 2 ) ε 2 +(x 1 + x 2 + x 3 ) ε 3 S n n x i +(x 1 + x 2 ) ε 2 +(x 1 + x 2 + x 3 ) ε 3 + +(x 1 + x x n ) ε n i=1 ή λόγω της (120) ή S n S x 1 (ε 2 + ε ε n )+x 2 (ε 2 + ε ε n ) +x 3 (ε 3 + ε ε n )++ x n ε n S n S x 1 ( ε ε n )+ x 2 ( ε ε n ) (123) + x 3 ( ε ε n )++ x n ε n Παρατηρώντας προσεκτικά την (123) και προσπαθώντας να ελαχιστοποιήσουµε το απόλυτο σφάλµα S S n καταλήγουµε στο συµπέρασµα ότι : οι όροι ϑα πρέπει να διαταχθούν, πριν τον υπολογισµό του αθροίσµατός τους, έτσι ώστε x 1 x 2 x 3 x n Υπό την προυπόθεση αυτή, οι όροι στο δεξί µέλος της (123) µε το µεγαλύτερο πλήθος σφαλµάτων ε i ϑα πολλαπλασιάζονται µε τις µικρότερες τιµές µεταξύ των x i 15 ιαδιδόµενο σφάλµα Για τον έλεγχο της προσέγγισης του x σε σχέση µε την τιµή του x χρησιµοποιούµε τα ακόλουθα κριτήρια που προκύπτουν από τις (114) και (115), αντίστοιχα Αν ε x = x x < d τότε, λόγω της (114), ο x προσεγγίζει τον x σε d δεκαδικά ψηφία Αυτό σηµαίνει ότι ο x έχει d δεκαδικά ψηφία ακριβή(ίδια µε τον x) Αν x 0, τότε µπορεί να χρησιµοποιηθεί το σχετικό σφάλµα προκειµένου να εξασφαλισθεί προσέγγιση σε ένα επιθυµητό πλήθος σηµαντικών ψηφίων Σηµαντικά ψηφία ενός δεκαδικού αριθµού είναι όλα τα ψηφία του αριθµού, από αριστερά προς τα δεξιά του πρώτου µη µηδενικού ψηφίου (συµπεριλαµβανοµένου) Αν ϱ x = ε x 5 10 s x τότε, λόγω της (115), ο x προσεγγίζει τον x σε s σηµαντικά ψηφία 13

14 Ας συµβολίσουµε µε µια αριθµητική πράξη (+,,,/) και µε την ίδια πράξη που εκτελείται στον υπολογιστή, η οποία περιέχει το σφάλµα στρογγύλευσης Εστω x και y οι αριθµοί που χρησιµοποιούνται στους υπολογισµούς και είναι οι προσεγγίσεις των τιµών x = x + ε x y = y + ε y (124) όπου ε x και ε y τα αντίστοιχα σφάλµατα Τότε µε την εκτέλεση της αριθµητικής πράξης ο αριθµός που υπολογίζεται είναι ο x y και το συνολικό σφάλµα δίνεται από τον τύπο ε x y = x y x y =(x y x y)+(x y x (125) y) Ο πρώτος όρος στο δεξί µέλος της (125) είναι το σφάλµα διάδοσης και ο δεύτερος όρος είναι το σφάλµα στρογγύλευσης κατά τον υπολογισµό του x y Επειδή όµως fl(x y) =x y (126) που σηµαίνει ότι το x y υπολογίζεται ακριβώς και στη συνέχεια στρογγυλεύεται Λόγω των (115) και (126) έχουµε x y x y 1 2 β n+1 x y (127) µε την υπόθεση ότι χρησιµοποιείται στρογγύλευση Υποθέτοντας ότι το σφάλµα στρογγύλευσης είναι µικρό ϑα µελετηθεί η συµπεριφορά του σφάλµατος διάδοσης Αν = ±, τότεαπό την (125) έχουµε ή ε x±y =(x ± y) (x ± y) =(x x) ± (y y) ε x±y = ε x ± ε y και τέλος για τα απόλυτα σφάλµατα έχουµε τη σχέση Ισχύει δηλαδή το ακόλουθο ϑεώρηµα ε x±y ε x + ε y (128) Θεώρηµα 151 Η µέγιστη τιµή του απολύτου σφάλµατος του αθροίσµατος ή της διαφοράς δύο αριθµών είναι ίση µε το άθροισµα των απολύτων αφαλµάτων των αριθµών αυτών Λόγω του ανωτέρω ϑεωρήµατος, αν x και y έχουν ακρίβεια τεσσάρων δεκαδικών ψηφίων (δηλαδή, αν ε x, ε x < ), τότε η ποσότητα x ± y µπορεί να διαφέρει από την x ± y το πολύ κατά 10 4 Εποµένως είναι πιθανό η ποσότητα x ± y να έχει ένα ψηφίο λάθος 14

15 στην τέταρτη δεκαδική ϑέση Επιπλέον, αν οι x και y έχουν διαφορετική ακρίβεια, τότε η ποσότητα x ± y στη χειρότερη περίπτωση ϑα είναι λανθασµένη από εκείνη τη δεκαδική ϑέση που αντιστοιχεί στο µεγαλύτερο από τα ε x και ε y Αν =, τότε ε xy = xy xy = xy (x ε x )(y ε y ) ή Οµοια εάν = / και y, y 0,τότε ε xy = yε x + xε y + ε x ε y (129) ε x/y = x y x y = x y x ε x = yε x xε y y ε y y 2 (130) + yε y ιατηρώντας τους υπερέχοντες όρους οι (129) και (130) δίνουν ε xy xε y + yε x (131) και ε x/y yε x xε y y 2 (132) αντίστοιχα Από την (131) παρατηρούµε ότι µεγάλες τιµές του x ήτουy έχουν σαν αποτέλεσµα την αύξηση του σφάλµατος στο γινόµενο xy Οµοια, η (132) ϑα παράγει µεγάλο σφάλµα στη διαίρεση x/y για µεγάλες τιµές του x και/ή µικρές τιµές του y Το συµπέρασµα είναι ότι τέτοιου είδους πράξεις (δηλ πολ/σµός µε µεγάλους αριθµούς και διαιρέσεις όπου ο διαιρετέος είναι ο µεγάλος αριθµός και/ή ο διαιρέτης είναι µικρός) ϑα πρέπει να αποφεύγονται µε αναδιάταξη των υπολογισµών Θεώρηµα 152 Η µέγιστη τιµή του απόλυτου σχετικού σφάλµατος του γινοµένου ή του πηλίκου δύο αριθµών είναι κατα προσέγγιση ίση µε το άθροισµα των απολύτων σχετικών σφαλµάτων των αριθµών αυτών Απόδειξη ιαιρώντας την (131) δια xy λαµβάνουµε ή ϱ xy = ε xy xy = ε x x + ε y y + ε x x εȳ y (133) ϱ xy = ϱ x + ϱ y + ϱ x ϱȳ (134) Αν ϱ x, ϱȳ << 1, µε άλλα λόγια αν ε x << x ( x x << x ) και εȳ << y ( y ȳ ), δηλαδή οι ποσότητες x και ȳ είναι καλές προσεγγίσεις, µε την έννοια ότι τα σφάλµατα είναι µικρά σε σχέση µε τις ακριβείς τιµές x και y, τότε η (134) γράφεται ϱ xȳ ϱ x + ϱȳ 15

16 ή ϱ xȳ ϱ x + ϱȳ (135) και αποδείχθηκε το ϑεώρηµα για το γινόµενο δύο αριθµών Οµοια για το πηλίκο έχουµε από την (132) ότι ϱ x/ȳ = ε x/ȳ x/y yε x xεȳ x(y εȳ) (136) Αν ϱȳ << 1 ή εȳ << y τότε η (136) δίνει ϱ x/ȳ yε x xεȳ xy = ε x x ε ȳ y ή ϱ x/ȳ ϱ x ϱȳ ή ϱ x/ȳ ϱ x + ϱȳ (137) Από το παραπάνω ϑεώρηµα προκύπτει ότι αν x και y έχουν ακρίβεια s σηµαντικών ψηφίων, τότε οι ποσότητες xy και x/y ϑα έχουν περίπου ακρίβεια s σηµαντικών ψηφίων (γιατί;) Τέλος, παρατηρούµε ότι ϱ x±y = ε x±y x ± y = ε x x ± y ± ε ( ) ( ) y x y x ± y = ϱ x ± ϱ y (138) x ± y x ± y Η (138) δηλώνει ότι αν x±y είναι πολύ µικρότερο από το x ήαπότοy, τότε οι παράγοντες x/(x±y) και y/(x±y) ϑα λάβουν µεγάλες τιµές µε συνέπεια να αυξηθεί η τιµή του ϱ x±y Για το λόγο αυτό ϑα πρέπει να αποφεύγεται η πρόσθεση ενός πολύ µεγάλου και ενός πολύ µικρού αριθµού ή η αφαίρεση δύο περίπου ίσων αριθµών 16

17 Κεφάλαιο 2 Αµεσοι µέθοδοι για την επίλυση γραµµικών συστηµάτων 21 Η µέθοδος απαλοιφής του Gauss Στο παρόν κεφάλαιο ϑα αναπτύξουµε υπολογιστικές µεθόδους για την αριθµητική επίλυση µεγάλων συστηµάτων αλγεβρικών εξισώσεων Θα περιορισθούµε σε συστήµατα των οποίων ο πίνακας των συντελεστών των αγνώστων είναι τετραγωνικοί και υπάρχει µια µοναδική λύση Η λύση ενός συστήµατος 20 εξισώσεων µε τη µέθοδο του Gramer δεν είναι καθόλου πρακτική, γιατί ένας υπολογιστής που εκτελεί 2 εκατοµµύρια πράξεις το δευτερόλεπτο, ϑα ήθελε 2 εκατοµµύρια χρόνια για να ϐρεί τη λύση του παραπάνω προβλήµατος! Το πλήθος των πράξεων όµως δεν είναι ϐασικό µόνο για την ελάττωση του υπολογιστικού χρόνου, αλλά είναι εξ ίσου καθοριστικό για την ακρίβεια των υπολογισµών λόγω συσσώρευσης των σφαλ- µάτων στρογγύλευσης Μία µέθοδος για την επίλυση πυκνών γραµµικών συστηµάτων είναι η µέθοδος της απαλοιφής του Gauss Ας ϑεωρήσουµε το σύστηµα το οποίο µπορεί να γραφεί και a (1) 11 x 1 + a (1) 12 x 2 + a (1) 13 x a (1) 1n x n = b (1) 1 a (1) 21 x 1 + a (1) 22 x 2 + a (1) 23 x a (1) 2n x n = b (1) 2 a (1) 31 x 1 + a (1) 32 x 2 + a (1) 33 x a (1) 3n x n = b (1) 3 a (1) n1 x 1 + a (1) n2 x 2 + a (1) n3 x a (1) nnx n = b (1) n a (1) 11 a (1) 12 a (1) 13 a (1) 1n a (1) 21 a (1) 22 a (1) 23 a (1) 2n a (1) 31 a (1) 32 a (1) 33 a (1) 3n a (1) n1 a (1) n2 a (1) n3 a (1) nn 17 x 1 x 2 x 3 x n = b (1) 1 b (1) 2 b (1) 3 b (1) n (21) (22)

18 ήαπλά A (1) x = b (1) (23) Υποθέτουµε ότι det A (1) 0έτσι ώστε να υπάρχει µία και µοναδική λύση Επίσης υποθέτου- µε b (1) του µηδενικού διανύσµατος Το πρώτο ϐήµα είναι να αντικαταστήσουµε το σύστηµα (21) µε ένα ισοδύναµο σύστηµα, το οποίο είναι απλούστερο από το (21) Το σύστηµα a (1) 11 x 1 + a (1) 12 x 2 + a (1) 13 x a (1) 1n x n = b (1) 1 a (2) 22 x 2 + a (2) 23 x a (2) 2n x n = b (2) 2 a (2) 32 x 2 + a (2) 33 x a (2) 3n x n = b (2) 3 a (2) n2 x 2 + a (2) n3 x a (2) nnx n = b (2) n (24) είναι απλούστερο από το (21) γιατί η µεταβλητή x 1 έχει απαλειφθεί από όλες τις εξισώσεις εκτός από την πρώτη Το σύστηµα (24) µπορεί να γραφτεί ήαπλούστερα a (1) 11 a (1) 12 a (1) 13 a (1) 1n a (2) 22 a (2) 23 a (2) 2n a (2) 32 a (2) 33 a (2) 3n 0 a (2) n2 a (2) n3 a (2) nn A (2) x = b (2) x 1 x 2 x 3 x n = Θεωρώντας το σύστηµα που αποτελείται από όλες τις εξισώσεις εκτός από την πρώτη (ϐλ(24) ) επαναλαµβάνουµε την ίδια διαδικασία απαλείφοντας τώρα τον άγνωστο x 2 Τοδεύτεροϐήµα είναι το εξής ή b (1) 1 b (2) 2 b (2) 3 b (2) n a (1) 11 x 1 + a (1) 12 x 2 + a (1) 13 x a (1) 1n x n = b (1) 1 a (2) 22 x 2 + a (2) 23 x a (2) 2n x n = b (2) 2 a (1) 11 a (1) 12 a (1) 13 a (1) 1n a (2) 22 a (2) 23 a (2) 2n a (3) 33 x a (3) 3n x n = b (3) 3 a (3) n3 x a (3) nnx n = b (3) n a (3) 33 a (3) 3n 0 a (3) n3 a (3) nn 18 x 1 x 2 x 3 x n = b (1) 1 b (2) 2 b (3) 3 b (3) n

19 ή Μετά από r 1 τέτοια ϐήµατα ϑα έχουµε A (3) x = b (3) a (1) 11 x 1 + a (1) 12 x a (1) 1,r 1x r 1 + a (1) 1,rx r + + a (1) 1n x n = b (1) 1 a (2) 22 x a (2) 2,r 1x r 1 + a (2) 2,rx r + + a (2) 2n x n = b (2) 2 a (r 1) r 1,r 1 x r 1 + a (r 1) r 1,r x r + + a (r 1) r 1,n x n = b (r 1) r 1 a (r) r,rx r + + a (r) rn x n = b (r 1) r το οποίο µπορεί να γραφεί ή a (1) 11 a (1) 12 a (1) 1,r 1 a (1) 1r a (1) 1n a (2) 22 a (2) 2,r 1 a (2) 2r a (2) 2n 0 a (r 1) r 1,r 1 a (r) n,rx r + + a (r) nnx n = b (r) n a (r 1) r 1,r a (r 1) r 1,n a (r) rr a (r) rn 0 a (r) nr a (r) nn A (r) x = b (r) x 1 x 2 x r 1 x r x n = b (1) 1 b (2) 2 b (r 1) r 1 b (r) ṛ Τελικά, µετά από n 1 τέτοια ϐήµατα το αρχικό σύστηµα µετατρέπεται στο ακόλουθο τριγωνικό σύστηµα εξισώσεων b (r) n a (1) 11 x 1 + a (1) 12 x a (1) 1,r 1x r 1 + a (1) 1,rx r + + a (1) 1n x n = b (1) 1 a (2) 22 x 2 + a (2) 2,r 1x r 1 + a (2) 2,rx r + + a (2) 2n x n = b (2) 2 a (n 1) n 1,n 1x n 1 + a (n 1) n 1,nx n = a (n) nn x n = b (n 1) n 1 b (n) n το οποίο µπορεί να γραφτεί σαν A (n) x = b (n), (26) όπου A (n) είναι ένας άνω τριγωνικός πίνακας Το σύστηµα (25) µπορεί να λυθεί πολύ εύκολα µε την προς τα πίσω αντικατάσταση από τον τύπο x n = b(n) n a (n) nn 19 (25)

20 και x i = b(i) i n j=i+1 a(i) a (i) ii ij x j, i =1(1)n 1 (27) Πιο { αναλυτικά } η µέθοδος απαλοιφής του Gauss δηµιουργεί µία ακολουθία από πίνακες A (k),k =1(1)n, όπουa (1) = A { και µια ακολουθία από δεξιά µέλη b (k)},k =1(1)n τέτοια ώστε ο A (n) U είναι ένας άνω τριγωνικός πίνακας Το πρώτο ϐήµα της µεθόδου είναι να ϕυλάξουµε την πρώτη από τις εξισώσεις για να την χρησιµοποιήσουµε αργότερα και να απαλείψουµε τον άγνωστο x 1 από τις υπόλοιπες n 1 εξισώσεις Ετσι άν χρησιµοποιήσουµε τους συµβολισµούς = a ij a (1) ij b (1) i = b i, i =1(1)n, j =1(1)n, τότε προκειµένου να απαλειφθεί ο x 1 από την i-οστή εξίσωση του (21) για i =2(1)n, προσθέτουµε m i1 ϕορές την πρώτη εξίσωση, η οποία καλείται οδηγός εξίσωση, στηνi-οστή εξίσωση, όπου m i1 = a(1) i1 a (1) 11, i =2(1)n (28) µε a (1) 11 0 Το a (1) 11 καλείται οδηγό στοιχείο Το αποτέλεσµα αυτής της εργασίας ϑα είναι το ακόλουθο [ ] [ ] a (1) i2 + m i1a (1) 12 x a (1) in + m i1a (1) 1n x n = b (1) 1 + m i1 b (1) 1 ή όπου και a (2) i2 x a (2) in x n = b (2) i, i =2(1)n a (2) ij = a (1) ij + m i1 a (1) 1j, i =2(1)n, j =2(1)n (29) b (2) i = b (1) i + m i1 b (1) 1, i =2(1)n Παρατηρούµε ότι ο άγνωστος x 1 πράγµατι απαλείφεται από την i-οστή εξίσωση αφού a (2) i1 = a(1) i1 + m i1a (1) 11 =0 Στη συνέχεια ϑεωρούµε το σύστηµα που αποτελείται από όλες τις εξισώσεις εκτός από την οδηγό, δηλαδή από τις n 1 εξισώσεις a (2) 22 x a (2) 2n x n = b (2) 2 a (2) n2 x a (2) nnx n = b (2) n 20

21 Ετσι αν a (2) 22 0, τότε ορίζουµε τους πολλαπλασιαστές m i2 για την απαλοιφή του x 2 από τις n 2 τελευταίες εξισώσεις κοκ Κατ αυτόν τον τρόπο καταλήγουµε στο άνω τριγωνικό σύστηµα (26) Μπορούµε τώρα εύκολα να παρατηρήσουµε ότι αν M (1) είναι ο πίνακας M (1) = 1 0 m 21 m 31 m n1 I n 1 (210) τότε το πρώτο ϐήµα της απαλοιφής του Gauss µπορεί να γίνει πολλαπλασιάζοντας από αριστερά το αρχικό σύστηµα επί M (1) Ετσιέχουµε: M (1) A (1) x = M (1) b (1) (211) ή όπου A (2) x = b (2) (212) A (2) = M (1) A (1) και b (2) = M (1) b (1) Θεώρηµα 211 Το σύστηµα A (1) x = b (1) είναι ισοδύναµο µε το A (2) x = b (2) Απόδειξη Υποθέσαµε ότι το (21) έχει µια µοναδική λύση, δηλαδή det A (1) 0Επίσηςαπό την (211) και (212) έχουµε A (2) = M (1) A (1) ή det A (2) = [ det M (1)][ det A (1)] =deta (1) 0 επειδή det M (1) =1 Άρα ο A (2) είναι µη ιδιάζων και το σύστηµα (24) έχει µία µοναδική λύση Αλλά η (211) δείχνει ότι η λύση του (21) ικανοποιεί το (24), συνεπώς οι µοναδικές λύσεις των (21) και (24) ταυτίζονται Παρατηρούµε τώρα ότι το πρώτο ϐήµα είναι τυπικό καθόσον µετά από r 1 απαλοιφές ϑα έχουµε, αν a (r) rr 0, την οδηγό εξίσωση a (r) rr x r + + a (r) rn x n = b (r) r Προκειµένου να απαλειφθεί ο x r από τις υπόλοιπες n r εξισώσεις προσθέτουµε m ir ϕορές την οδηγό εξίσωση στην i-οστή για i = r +1(1)n Ετσιορίζοντας m ir = a(r) ir a (r) rr, i = r +1(1)n 21

22 έχουµε [ ] [ ] [ a (r) i,r+1 + m ira (r) r,r+1 x r a (r) in + m ira (r) rn x n = b (r) i η οποία µπορεί να γραφεί σαν όπου και a (r+1) i,r+1 x r a (r+1) in x n = b (r+1) i, i = r +1(1)n a (r+1) ij = a (r) ij b (r+1) i Καταλήγουµε λοιπόν στο σύστηµα ] + m ir b (r) r + m ir a (r) rj, i = r +1(1)n, j = r +1(1)n (213) = b (r) i + m ir b (r) r, i = r +1(1)n A (r+1) x = b (r+1) (214) Είναι πάλι εύκολο να διαπιστωθεί ότι αν I r M (r) m r+1,r 1 0 = m r+2,r m n,r 0 1 (215) τότε το r ϐήµα της απαλοιφής περιγράφεται από την εξίσωση των πινάκων ή M (r) A (r) x = M (r) b (n) A (r+1) x = b (r+1) Παρατηρούµε λοιπόν ότι η όλη διαδικασία της τριγωνοποίησης µπορεί να περιγραφεί σαν τον πολλαπλασιασµό του αρχικού συστήµατος επί τον πίνακα M = M (n 1) M (2) M (1) (216) Άρα η παράγει την MA (1) x = Mb (1) (217) A (n) x = b (n) (218) Θεώρηµα 212 Το σύστηµα A (n) x = b (n) είναι ισοδύναµο µε το σύστηµα A (1) x = b (1) Απόδειξη Η απόδειξη είναι όµοια µε εκείνη του Θεωρήµατος 211 και αφήνεται σαν άσκηση για τον αναγνώστη 22

23 211 Επίλυση των Ax k = b k,k=1(1)l Ας υποθέσουµε ότι έχουµε τα l συστήµατα όπου τα οποία µπορούν να γραφούν σαν Ax k = b k, k =1(1)l, (219) x k =[x 1k,x 2k,,x nk ] T και b k =[b 1k,b 2k,,b nk ] T AX = B όπου X και B δύο n l πίνακες Με την προϋπόθεση ότι det A 0, µπορούµε να ε- ϕαρµόσουµε τη µέθοδο απαλοιφής του Gauss µε τη µόνη διαφορά ότι αντί οι πράξεις της απαλοιφής να εκτελούνται σε µια στήλη του b τώρα εκτελούνται συγχρόνως και στις l στήλες του πίνακα B 212 Υπολογισµός του A 1 Στην περίπτωση αυτή έχουµε για επίλυση τα συστήµατα τα οποία είναι ειδική περίπτωση της (219) 213 Υπολογισµός της det A AX = I Ο τριγωνικός πίνακας A (n) δίνεται από τη σχέση ή Αλλά λόγω της (216) έχουµε ότι A (n) = MA (1) (220) det A (n) =[detm] [ det A (1)] n 1 det M = det M (r) και επειδή οι πίνακες M (r),r =1(1)n 1 είναι µοναδιαίοι κάτω τριγωνικοί έπεται ότι r=1 Επειδή όµως ο A (n) είναι ένας τριγωνικός πίνακας έχουµε det M =1 (221) det A (1) =deta (n) = a (1) 11 a(2) 22 a(n) nn (222) πράγµα που σηµαίνει ότι η τιµή της ορίζουσας ενός πίνακα είναι το γινόµενο των οδηγών στοιχείων στη µέθοδο της απαλοιφής του Gauss 23

24 214 Ο αλγόριθµος της απαλοιφής του Gauss Ο ακόλουθος αλγόριθµος περιγράφει τη µέθοδο της απαλοιφής του Gauss για τη λύση του Ax = b 1 ιάβασε τα δεδοµένα A =(a ij ),b=(b i ) 2 Για i =1(1)n εκτελείται a i,n+1 = b i 3 Για r =1(1)n 1 εκτελούνται τα ϐήµατα Εστω p ο µικρότερος ακέραιος για τον οποίο a p,r 0,p = r(1)n Αν δεν υπάρχει ο p τότε τύπωσε (δεν υπάρχει µοναδική λύση) Πήγαινε στο τέλος 32 Αν p r τότε (εναλλάσονται οι p και r γραµµές) Για q = r(1)n εκτελούνται οι αντικαταστάσεις b q = a rq a rq = a pq a pq = b q 33 Για i = r +1(1)n εκτελούνται τα ϐήµατα Θέτουµε 332 Για j = r +1(1)n +1να εκτελεσθεί m ir = a ir a rr a ij = a ij + m ir a rj 4 Αν a nn =0τότε τύπωσε δεν υπάρχει µοναδική λύση Πήγαινε στο τέλος 5 Θέτουµε (πίσω αντικατάσταση) x n = a n,n+1 /a nn 6 Για i = n 1( 1)1 ϑέτουµε x i = [ a i,n+1 n j=i+1 a ijx j ] a ii 7 Εκτύπωση της λύσης x i,i=1(1)n Τέλος 24

25 215 Τροποποίηση της µεθόδου απαλοιφής του Gauss Είναι ϕανερό ότι αν κάποιο οδηγό στοιχείο είναι µηδέν, τότε η µέθοδος απαλοιφής του Gauss σταµατά Για την αποφυγή µιας τέτοιας περίπτωσης ο ανωτέρω αλγόριθµος εξετάζει τους συντελεστές της r-στήλης κάτω από τη κύρια διαγώνιο µέχρις ότου να ϐρεθεί ένας, ο οποίος είναι διάφορος από το µηδέν, έστω ο a (r) ir Στη συνέχεια εναλλάσει τις i και r εξισώσεις και χρησιµοποιεί τη νέα εξίσωση σαν οδηγό Η διαδικασία αυτή δεν αλλάζει το µαθηµατικό πρόβληµα καθόσον η τυπική λύση ενός συστήµατος γραµµικών εξισώσεων είναι ανεξάρτητη από τη διάταξη των εξισώσεων στο σύστηµα Ωστόσο όµως µπορούµε πάντοτε να ϐρίσκουµε ένα µη µηδενικό συντελεστή a (r) ir ; Θεώρηµα 213 Αν ο A (1) είναι µη ιδιάζων, τότε υπάρχει ένας µη µηδενικός συντελεστής a (r) ir Απόδειξη Ακολουθώντας το σκεπτικό της απόδειξης του Θεωρήµατος 211 µπορούµε να δείξουµε ότι det A (r) =deta (1) άρα det A (r) 0 Αλλά και γενικά όπου a (1) 11 a (1) 12 a (1) 1n det A (1) 0 a (2) 22 a (2) 2n =det = a(1) 11 det 0 a (2) n2 a (2) nn = a (1) 11 det A (2) n 1 det A (r) = [ ] a (1) 11 a(2) 22 a(r 1) r 1,r 1 det A (r) n r+1, A (r) n r+1 = a (r) rr a (r) rn a (r) nr a (n) nn a (2) 22 a (2) 2n a (2) n2 a (2) nn Συνεπώς det A (r) n r+1 0το οποίο σηµαίνει ότι ο A n r+1 δεν µπορεί να έχει την πρώτη στήλη του µηδέν Εποµένως µπορούµε πάντα να ϐρούµε ένα οδηγό στοιχείο 0στην πρώτη στήλη του A (r) n r+1 Σε περίπτωση λοιπόν που a (r) rr =0, τότε αναζητείται στηνr στήλη, και κάτω από τη διαγώνιο, a (r) ir 0(ϐλ Θεώρηµα 213) Στη συνέχεια εναλλάσονται οι r και i εξισώσεις Στην τροποποιηµένη µέθοδο της απαλοιφής χρησιµοποιούµε το συµβολισµό A (r) και β (r) αντί των A (r) και b (r), αντίστοιχα Η εναλλαγή των εξισώσεων αντιστοιχεί στον πολλαπλασιασµό του A (r) x = β (r) (223) 25

26 µε τον πίνακα (r <i) I ri = r i r i, (224) ο οποίος καλείται µεταθετικός πίνακας και για τον οποίο εύκολα διαπιστώνεται ότι I 2 ri = I (225) Ηδηµιουργίατουr ϐήµατος γίνεται µε τον πολλαπλασιασµό της (223) µε I ri και στη συνέχεια µε τον πολλαπλασιασµό της προκύπτουσας εξίσωσης µε M (r) Εχουµε λοιπόν [ M (r) I ri ] A (r) x = [ M (r) I ri ] β (r) (226) το οποίο δίνει A (r+1) x = β (r+1) (227) Στην περίπτωση όπου δεν χρειάζεται εναλλαγή των γραµµών τότε i = r και I ri = I rr = I Ετσι η όλη διαδικασία τριγωνοποίησης µπορεί τώρα να περιγραφεί τυπικά από τον πολλαπλασιασµό του A (1) x = β (1) (228) µε τον πίνακα M = [ ][ ] [ ][ ] M (n 1) I n 1,in 1 M (n 2) I n 2,in 2 M (2) I 2,i2 M (1) I 1,i1 (229) δηλαδή το σύστηµα MA (1) x = Mβ (1) (230) γίνεται το τριγωνικό σύστηµα A (n) x = β (n) (231) Στη συνέχεια αποδεικνύεται η ισοδυναµία του τριγωνικού συστήµατος (231) και του αρχικού (228) 26

27 Θεώρηµα 214 Το σύστηµα A (1) x = β (1) είναι ισοδύναµο µε το σύστηµα A (n) x = β (n) Απόδειξη Εχουµε υποθέσει ότι det A (1) 0 Επίσης από τις (230) και (231) παρατηρούµε ότι A (n) = MA (1) (232) επίσης det A (n) =[detm] [ det A (1)] (233) Συνεπώς det A (n) 0αν και µόνο αν det M 0 Αλλά από την (229) έχουµε ότι [ n 1 ][ n 1 ] det M = det M (r) det I r,ir r=1 r=1 (234) όπου υπενθυµίζεται ότι επειδή οι πίνακες M (r), r =1(1)n 1είναι µοναδιαίοι κάτω τριγωνικοί έχουµε n 1 det M (r) =1 (235) r=1 Αυτό που αποµένει λοιπόν να δειχθεί είναι ότι n 1 det I r,ir 0 (236) r=1 πράγµα που ισχύει αφού για r =1(1)n 1 και για r i r det I r,ir = 1 γιατί ο πίνακας det I r,ir προέρχεται από τον I µετά από την εναλλαγή των r και i γραµµών (αν r = i r,τότεdet I rr =1) Ετσι από τις (234), (235) και (236) συνάγεται ότι det A (n) 0 το οποίο σηµαίνει ότι η (231) έχει µια µοναδική λύση Η λύση του (228) όµως είναι η x = [ A (1)] 1 β (1) η οποία ικανοποιεί την (231) ή την «230», γιατί { [A A (n) x = MA ] } (1) (1) 1 β (1) = Mβ (1) = β (n) πράγµα που σηµαίνει ότι τα συστήµατα (228) και (231) έχουν την ίδια λύση και συνεπώς είναι ισοδύναµα 27

28 216 Αριθµητική αστάθεια Οταν εφαρµόζεται στην πράξη ο αλγόριθµος της απαλοιφής του Gauss ϑα πρέπει να εξετασθεί η επιρροή των σφαλµάτων στρογγύλευσης στους υπολογισµούς Οπως αναφέρεται και στην εισαγωγή, η αριθµητική των υπολογιστών δεν είναι \ακριβής", καθόσον οι αριθµοί που µπορούν να παρασταθούν στη µνήµη δεν αποτελούν σώµα, λόγω των σφαλµάτων στρογγύλευσης Αν µπορούσαµε να παραστήσουµε όλους τους πραγµατικούς αριθµούς µε την ακριβή τιµή τους στη µνήµη και αν µπορούσαµε να εκτελέσουµε αριθµητική µε άπειρα ψηφία, τότε το πρόβληµα της αριθµητικής επίλυσης ενός γραµµικού συστήµατος ϑα µπορούσε να γίνει µε την τροποποιηµένη µέθοδο της απαλοιφής του Gauss δίχως επιπλέον προβληµατισµούς Ωστόσο όµως ϑα πρέπει να λάβουµε υπόψη τα αποτελέσµατα των σφαλµάτων στρογγύλευσης Κατά τη µαθηµατική διατύπωση της µεθόδου της απαλοιφής µας ενδιέφερε µόνον αν το υποψήφιο οδηγό στοιχείο µηδενίζεται σε κάθε ϐήµα Στην πράξη αυτό σηµαίνει ότι ϑα πρέπει να εξεταστεί αν το υποψήφιο οδηγό στοιχείο a (r) rr είναι \µικρό" συγκρινόµενο µε µερικά από τα στοιχεία a (r) rr (r <i) Αν το a (r) rr είναι \µικρό", τότε παρατηρούµε ότι οι αντίστοιχοι πολλαπλασιαστές m ir ϑα είναι αρκετά µεγάλοι και οι εξισώσεις που ϑα παράγονται από το ϐήµα της απαλοιφής ϑα έχουν συντελεστές, οι οποίοι ϑα είναι πολύ µεγαλύτεροι από εκείνους του προηγούµενου ϐήµατος Ο Wilkinson παρατηρεί ότι στη περίπτωση αυτή είναι πιθανό να εµφανισθεί το ϕαινόµενο της αριθµητικής αστάθειας Για την αποφυγή της εµφάνισης αυτού του ϕαινοµένου προτείνει την εναλλαγή των γραµµών όταν τα υποψήφια οδηγά στοιχεία είναι µικρότερα από όλους τους συντελεστές στην ίδια στήλη Πιο συγκεκριµένα επιλέγεται σαν οδηγό στοιχείο εκείνο που έχει τη µεγαλύτερη απόλυτη τιµή στην r στήλη του A (r) και ϐρίσκεται επί ή κάτω από την r γραµµή, οπότε ϑα ισχύει m ir 1, δηλαδή: a (r) pr =max i a (r) ir, r i n οπότε και εναλλάσονται οι r και p γραµµές του A (r) πριν από το r-ϐήµα Η τεχνική αυτή καλείται µερική οδήγηση σε αντιδιαστολή µε την ολική οδήγηση όπου σε κάθε r ϐήµα επιλέγεται σαν οδηγό στοιχείο εκείνο που έχει τη µεγαλύτερη απόλυτο τιµή από τις τελευταίες n r +1γραµµές και στήλες του A (r) δηλαδή a (r) pr =max ij a (r) ij, r i, j n οπότε εναλλάσονται οι p και r γραµµές και στήλες Τέλος, στην περίπτωση όπου ο πίνακας είναι µεγάλης τάξης και αραιός αρκεί το οδηγό στοιχείο να είναι µεγαλύτερο από κάποιο ε =10 3 Από τα ανωτέρω συµπεραίνουµε ότι ενώ η µερική οδήγηση απαιτεί εναλλαγές γραµµών, η ολική οδήγηση είναι περισσότερο πολύπλοκη αφού απαιτεί την εναλλαγή και των στηλών 28

29 Παράδειγµα ίνεται το γραµµικό σύστηµα x 1 + 2x 2 x 3 = 0 2x 1 x 2 = 1 x 1 + 7x 2 3x 3 = 5 Να υπολογιστεί η λύση του ανωτέρω συστήµατος µε τη µέθοδο απαλοιφής του Gauss i) χωρίς οδήγηση και ii) µε µερική οδήγηση Λύση (i) Κατασκευάζουµε τον επαυξηµένο πίνακα [Ab], ο οποίος στην προκειµένη περίπτωση είναι ο Στη συνέχεια εφαρµόζουµε τη µέθοδο απαλοιφής του Gauss χωρίς οδήγηση παρουσιάζοντας τους πολλαπλασιαστές από τα αριστερά για κάθε γραµµή Ετσι έχουµε διαδοχικά τους ακόλουθους υπολογισµούς ο ϐήµα ο ϐήµα Λύση του τριγωνικού συστήµατος x 1 + 2x 2 x 3 = 0 3x 2 2x 3 = 1 2x 3 = 2 Άρα x 3 =1, x 2 =1 και x 1 =1 29

30 (ii) Για την εφαρµογή της µεθόδου απαλοιφής του Gauss µε µερική οδήγηση εργαζόµαστε µε ανάλογο τρόπο ανταλλάσοντας όπου απαιτείται τις γραµµές του επαυξηµένου πίνακα Ετσι έχουµε 1/2 1/2 1/ (1) (2) (3) /2 1 1/2 0 15/2 3 9/ /2 3 9/2 0 3/2 1 1/2 Η λύση του τριγωνικού συστήµατος Οι αριθµοί των παρενθέσεων δηλώνουν τη διάταξη των γραµµών (2) (1) (3) (2) (3) (1) /2 3 9/ /5 2/5 (2) (1) (3) Ανταλλαγή των δύο πρώτων γραµµών 1ο ϐήµα Ανταλλαγή των δύο τελευταίων γραµµών (2) (3) (1) 2ο ϐήµα 2x 1 x 2 = 1 15 x x 3 = 2x 5 3 = 2 5 είναι η x 3 =1, x 2 =1 και x 1 =1 217 Ο αλγόριθµος απαλοιφής του Gauss µε µερική οδήγηση Ο αλγόριθµος της απαλοιφής του Gauss µε µερική οδήγηση είναι ο ακόλουθος 1 ιάβασε τα δεδοµένα A =(a ij ), b =(b i ) και n 2 για i =1(1)nεκτελείται a i,n+1 = b i 3 Για i =1(1)n να τεθεί h(i)= i 30

31 (Τοποθέτηση αρχικών τιµών στο δείκτη της γραµµής) 4 για r =1(1)n 1 να εκτελεστούν τα ϐήµατα 4(α )-4(δ ) (διαδικασία απαλοιφής) (α ) Εστω p ο µικρότερος ακέραιος µε r p n και a(h(p),r) =max r j n a(h(j),r) (ϐ ) Αν a(h(p),r)=0τότε τύπωσε (δεν υπάρχει µοναδική λύση) Τέλος (γ ) Αν h(r) h(p) τότε(ανταλλαγή των τιµών των h(p) και h(r)) q = h(r) h(r) =h(p) h(p) =q (προσοµοίωση της εναλλαγής των γραµµών) (δ ) για i = r +1(1)n να εκτελεστούν τα ϐήµατα i και ii i Να τεθεί m(h(i),r) = a(h(i),r) a(h(r),r) ii Για j = r +1(1)n +1να εκτελεσθεί a(h(i),j) = a(h(i),j) + m(h(i),r)a(h(r),j) Αν a(h(n),n) = 0 τότε τύπωσε (δεν υπάρχει µοναδική λύση) τέλος Πήγαινε στο 5 Να τεθεί (πίσω αντικατάσταση) 6 Για i = n 1( 1)1 να υπολογιστούν οι 7 Εκτύπωση της λύσης x i,i=1(1)n Τέλος x n = a(h(n),n +1)/a(h(n),n) x i = a(h(i),n +1) n j=i+1 a(h(i),j)x j a(h(i),i) Ενώ για αρκετά γραµµικά συστήµατα η µερική οδήγηση παράγει ικανοποιητικά αποτελέσµατα, υπάρχουν περιπτώσεις όπου η τεχνική αυτή δεν είναι αρκετή 31

32 Παράδειγµα Εστω το γραµµικό σύστηµα 30, 00x x 2 = , 291 6, 130x 2 = 46, 78 Αν εφαρµοστεί ο προηγούµενος αλγόριθµος µε αριθµητική τεσσάρων ψηφίων ϑα έχουµε που οδηγεί στο σύστηµα m 21 = 5, 291 =0, , 00 30, 00x x 2 = x 2 = το οποίο έχει τις λύσεις x 2 =1, 001 και x 1 = 10, 00 Ωστόσο οι ακριβείς λύσεις του αρχικού συστήµατος είναι οι x 1 =10, 00 και x 2 =1, 000 Μία διαδικασία µερικής οδήγησης, η οποία ϑα µπορούσε να αντεπεξέλθει τη δυσκολία αυτή όπως και πολλές άλλες για τις οποίες η προηγούµενη µέθοδος παρουσιάζει κάποιο πρόβληµα είναι η λεγόµενη κλιµακούµενη (scaled) µερική οδήγηση Στην τεχνική αυτή διαιρούνται οι γραµµές από την οδηγό µέχρι την τελευταία µε τον εκάστοτε µεγαλύτερο κατά απόλυτο τιµή συντελεστή της κάθε γραµµής Στη συνέχεια εφαρµόζεται η µερική οδήγηση Για το παράδειγµα αυτό έχουµε 30, =0, και 5, 291 =0, , 130 οπότε εναλλάσονται οι δύο γραµµές και το αποτέλεσµα της απαλοιφής δίνει τις ακριβείς λύσεις Οι δε αλλαγές που διαφέρουν από την προηγούµενη µέθοδο είναι στα ϐήµατα 3-4(α ), τα οποία ϑα πρέπει να αντικατασταθούν µε τα : 3 Για i =1(1)n ναεκτελεσθούνταϐήµατα3(α )-3(ϐ ) (α ) s i =max 1 j n a ij (ϐ ) Αν s i =0τότε τύπωσε `δεν υπάρχει µοναδική λύση (γ ) h(i) =i 4 Για r =1(1)n 1 να εκτελεστούν τα ϐήµατα 4(α )-4(ϐ ) Εστω p ο µικρότερος ακέραιος µε r p n και a(h(p),r) s(h(p)) =max r j n a(h(j),r) s(h(j)) Η ανωτέρω τεχνική µπορεί επίσης να πραγµατοποιηθεί αν πολλαπλασιάσουµε την εξίσωση Ax = b µε το διαγώνιο πίνακα D 1 του οποίου το i-οστό διαγώνιο στοιχείο είναι το (s i ) 1 32

33 22 Η µέθοδος απαλοιφής του Jordan Με την χρησιµοποίηση της µεθόδου της απαλοιφής του Jordan είναι δυνατόν να µετασχη- µατιστεί ο πίνακας των συντελεστών των αγνώστων σε ένα διαγώνιο πίνακα Η µορφή αυτή του πίνακα είναι απλούστερη από εκείνη της απαλοιφής του Gauss καθόσον ο υπολογισµός του αγνώστου x i µπορεί να προκύψει µε µία απλή διαίρεση Θεωρώντας πάλι το σύστηµα (21), το πρώτο ϐήµα της απαλοιφής του Jordan είναι ακριβώς ίδιο µε εκείνο της µεθόδου απαλοιφής του Gauss, έτσι έχουµε το σύστηµα (24) δηλαδή το : a (1) 11 x 1 + a (1) 12 x 2 + a (1) 13 x a (1) 1n x n = b (1) 1 a (2) 22 x 2 + a (2) 23 x a (2) 2n x n = b (2) 2 a (2) 32 x 2 + a (2) 33 x a (2) 3n x n = b (2) 3 a (2) n2 x 2 + a (2) n3 x a (2) nnx n = b (2) n (237) όπου παρατηρούµε ότι ο x 1 έχει απαλειφθεί από τις n 1 τελευταίες εξισώσεις οπότε έχουµε πάλι A (2) x = b (2) Ωστόσο στο δεύτερο ϐήµα της µεθόδου της απαλοιφής του Jordan απαλείφεται ο x 2 όχι µόνο από τις n 2 τελευταίες εξισώσεις, αλλά συγχρόνως και από την πρώτη Ετσι λαµβάνουµε το σύστηµα ή a (1) 11 x 1 a (3) 13 x a (3) 1n x n = b (3) 1 a (2) 22 x 2 + a (3) 23 x a (3) 2n x n = b (3) 2 a (3) 33 x a (3) 3n x n = b (3) 3 a (3) n3 x a (3) nnx n = b (3) n (238) A (3) x = b (3) (239) αν υποθέσουµε ότι αλλάζουµε τους επάνω δείκτες των συντελεστών της δεύτερης γραµµής εκτός του πρώτου Μετά από r 1 τέτοια ϐήµατα ϑα έχουµε το σύστηµα a (1) 11 x 1 +a (r) 1r x r + + a (r) 1n x n = b (r) 1 a (2) 22 x 2 +a (r) 2r x r + + a (r) 2n x n = b (r) 2 a (r 1) r 1,r 1 x r 1 +a (r) r 1,r x r + a (r) r 1,n x n = b (r) r 1 a (r) rr x r + + a (r) rn x n = b (r) r a (r) nr x r + + a (r) nnx n = b (r) n (240) 33

34 ή A (r) x = b (r) όπου πάλι για λόγους οµοιοµορφίας στον συµβολισµό αλλάξαµε τους επάνω δείκτες των συντελεστών της r 1 γραµµής εκτός του πρώτου Τέλος, µετά από n τέτοια ϐήµατα ϑα έχουµε το διαγώνιο σύστηµα : a (1) 11 x 1 = b (n+1) 1 a (2) 22 x 2 = b (n+1) 2 a (n) nn x n = b (n+1) n (241) το οποίο µπορεί να γραφεί σαν A (n) x = b (n+1) (242) όπου ο A (n) τώρα είναι ένας διαγώνιος πίνακας Η λύση του (242) είναι η εφόσον a (i) ii x i = 1 a (i) ii b (n+1) i 0,i=1(1)n Αναλυτικότερα χρησιµοποιούµε πάλι τους συµβολισµούς a (1) ij = a ij i, j =1(1)n b (1) i = b i i =1(1)n και αν a (1) 11 0, τότε ορίζουµε τους πολλαπλασιαστές m i1 = a(1) i1 a (1) 11, i =2(1)n Τώρα προκειµένου να απαλειφθεί ο x 1 από την i-οστή εξίσωση, προσθέτουµε m i1 ϕορές την πρώτη εξίσωση στην i-οστή, οπότε λαµβάνουµε το σύστηµα (237), όπου a (2) ij = a (1) ij + m ij a (1) 1j, i =1(1)n, i 1 j =2(1)n και b (2) i = b (1) i + m i1 b (1) 1, i =1(1)n, i 1 Στο σηµείο αυτό παρατηρούµε ότι πριν ακολουθήσει το δεύτερο ϐήµα ϑα πρέπει για λόγους οµοιοµορφίας να κάνουµε τις αντικαταστάσεις a (2) 1j = a (1) 1j, b (2) 1 = b (1) 1 j =2(1)n 34

35 Στο δεύτερο ϐήµα τώρα απαλείφεται ο άγνωστος x 2 τόσο από τις τελευταίες n 2 εξισώσεις όσο και από την πρώτη, οπότε λαµβάνουµε το σύστηµα (238) όπου a (3) ij = a (2) ij + m i2 a (2) 2j, i =1(1)n, i 2,j =3(1)n και µε b (3) i = b (2) i + m i2 b (2) 2, i =1(1)n, i 2 m i2 = a(2) i2 a (2) 22 Για λόγους οµοιοµορφίας στον συµβολισµό ϑέτουµε, i =1(1)n, i 2 a (3) 2j = a (2) 2j, b (3) 2 = b (2) 2 j =3(1)n Συνεχίζοντας καταλήγουµε στο διαγώνιο σύστηµα (241) Ο µετασχηµατισµός του A σε ένα διαγώνιο πίνακα της ίδιας τάξης αποτελείται από n κύριαϐήµαταταοποίααντιστοιχούνσεn πράξεις των γραµµών του πίνακα Υπό µορφή πινάκων η µέθοδος του Jordan αναζητεί ένα µη ιδιάζων n n πίνακα M για τον οποίο να ισχύει µε Συνεπώς και Αν υποθέσουµε ότι το αρχικό σύστηµα είναι το MAx = Mb (243) MA = I (244) M = A 1 (245) x = Mb (246) A (1) x = b (1) (247) τότε µπορούµε να παρατηρήσουµε εύκολα ότι αν M (1) είναι ο πίνακας µ 11 0 µ 21 M (1) = µ 31 I n 1 µ n1 (248) 35

36 όπου µ i1 = { 1/a (1) a (1) i1 /a(1) 11 11, i =1 µε a(1) 11 0 (249), i 1 Το πρώτο ϐήµα της απαλοιφής του Jordan µπορεί να γίνει µε τον πολλαπλασιασµό του (247) επί τον M (1),δηλαδή: M (1) A (1) x = M (1) b (250) ή A (2) x = b (2) (251) Ετσι το r ϐήµα της απαλοιφής ϑα περιγράφεται από την εξίσωση : M (r) A (r) x = M (r) b (252) όπου M (r) = και τα µ ir δίνονται από τον τύπο { µ i1 = 1/a (r) rr, Από την (252) προκύπτει το σύστηµα µ 1r I r 1 0 µ r 1,r 0 0 µ rr µ r+1,r I n r µ nr i = r a (r) ir /a(r) rr, i r, a (r) rr 0, r =1(1)n (253) A (r+1) x = b (r+1) (254) µε [ ] A (r+1) Ir = (255) 0 όπου συµβολίζει την ύπαρξη στοιχείων Ετσι η όλη διαδικασία µπορεί να περιγραφεί από τον πολλαπλασιασµό του αρχικού συστήµατος µε τον πίνακα όπου M (1) και M (i), M = M (n) M (n 1) M (2) M (1) (256) i =2(1)n 1 δίνονται από τις (248) και (253), αντίστοιχα ενώ M (n) = µ 1,n I n 1 µ n 1,n 0 0 µ nn (257) 36

37 Άρα η MA (1) x = Mb (1) δίνει την x = Mb (1) (258) Οπως µε τη µέθοδο απαλοιφής του Gauss, µπορεί να αναπτυχθεί η µέθοδος της απαλοιφής του Jordan µε µερική ή ολική οδήγηση (Η ανάπτυξη της σχετικής ϑεωρίας αφήνεται σαν άσκηση) Στην περίπτωση αυτή η επιλογή του οδηγού στοιχείου γίνεται όπως ακριβώς στη µέθοδο της απαλοιφής του Gauss και δεν επεκτείνεται στην αναζήτηση όλης της στήλης όπως ίσως ϑα περίµενε κανείς διότι τότε ϑα καταστρεφόταν η προηγούµενη διαγωνοποίηση του πίνακα Η µέθοδος της απαλοιφής του Jordan χρησιµοποιείται συνήθως για τον υπολογισµό του αντιστρόφου ενός πίνακα ή για την επίλυση συστηµάτων µε τον ίδιο πίνακα συντελεστών των αγνώστων Παράδειγµα Να εφαρµοστεί η µέθοδος Jordan µε µερική οδήγηση στο σύστηµα του προηγούµενου πα- ϱαδείγµατος Λύση 1/2 1/2 2/15 1/ /2 1 1/2 0 15/2 3 9/ /2 3 9/2 0 3/2 1 1/2 (2) (1) (3) 2 0 2/5 8/5 0 15/2 3 9/ /5 2/ /2 0 15/ /5 2/5 Άραηλύσηείναιηx 1 =1,x 2 =1και x 3 =1 37 (2) (1) (3) (2) (3) (1) (1) (2) (3) Ανταλλαγή των δύο πρώτων γραµµών 1ο ϐήµα Ανταλλαγή των δύο τελευταίων γραµµών (2) (3) (1) (2) (3) (1) 2ο ϐήµα 3ο ϐήµα

38 221 Ο αλγόριθµος απαλοιφής του Jordan µε µερική οδήγηση Ο αλγόριθµος της απαλοιφής του Jordan µε µερική οδήγηση για τη λύση του Ax = b είναι ο ακόλουθος : 1 ιάβασε τα δεδοµένα A =(a ij ),b=(b i ) και n 2 Για i =1(1)n να εκτελεσθεί 3 Για i =1(1)n να τεθεί a i,n+1 = b i h(i)= i 4 Για r =1(1)n να εκτελεσθούν τα ϐήµατα (διαδικασία απαλοιφής) 41 Εστω p ο µικρότερος ακέραιος και r p n a(h(p),r)) =max r j n a(h(j),r) 42 Εάν a(h(p),r)= 0τότε τύπωσε δεν υπάρχει µοναδική λύση Τέλος 43 Εάν h(r) h(p) τότε q=h(r) h(r)=h(p) h(p)=q (προσοµοίωση της εναλλαγής των γραµµών) 44 Για i =1(1)n και i r να εκτελεσθούν τα ϐήµατα i και ii i Να τεθεί m(h(i),r) = a(h(i),r) a(h(r),r) ii για j = r +1(1)n +1να εκτελεσθεί 5 Για i =1(1)n να εκτελεσθεί a(h(i),j) = a(h(i),j) + m(h(i),r)a(h(r),j) Εάν a(h(i),i) =0τότε τύπωσε όχι µοναδική λύση Τέλος x i = a(h(i),n +1)/a(h(i),i) 6 Τύπωσε την λύση x i,i=1(1)n Τέλος 38

39 222 Υπολογιστική πολυπλοκότητα Στη συνέχεια ϑα συγκρίνουµε το πλήθος και το είδος των πράξεων όπως επίσης και τις α- παιτήσεις, όσον αφορά τη µνήµη, για τις µεθόδους απαλοιφής του Gauss και Jordan Ας υποθέσουµε ότι ϐρισκόµαστε στο k ϐήµα της απαλοιφής του Gauss για τη λύση l συστηµάτων δηλαδή : n k a 11 a 12 a 13 a 1k a 1,k+1 a 1n â 22 â 23 â 2k â 2,k+1 â 2n 0 â 33 â 3k â 3,k+1 â 3n â kk â k,k+1 â kn 0 â k+1,k â k+1,k+1 â k+1,n â nk â n,k+1 â nn } {{ } n k x (1) 1 x (2) 1 x (l) 1 x (1) 2 x (2) 2 x (l) 2 x (1) 3 x (2) 3 x (l) 3 x (1) k x (2) k x (l) k k+1 x (2) k+1 x (l) k+1 x (1) x (1) n x (2) n x (l) n } {{ } l = = n k b (1) 1 b (2) 1 b (l) 1 ˆb(1) 2 ˆb(2) 2 ˆb(l) 2 ˆb(1) 3 ˆb(2) 3 ˆb(l) 3 ˆb(1) k ˆb(1) k+1 ˆb(1) n ˆb(2) k ˆb(l) k ˆb(2) k+1 ˆb(l) k+1 ˆb(2) n ˆb(l) n } {{ } l (259) όπου το ˆ πάνω από τα στοιχεία συµβολίζει ότι αυτά δεν είναι πλέον τα αρχικά στοιχεία του πίνακα A Οπως αντιλαµβάνεται κανείς οι πράξεις για το επόµενο ϐήµα ϑα γίνουν για εκείνα τα στοιχεία τα οποία ϐρίσκονται στον κάτω δεξιά υποπίνακα, ο οποίος είναι (n k) (n k+l) Σε κάθε ένα από τα στοιχεία του πίνακα αυτού ϑα προστεθεί ένας αριθµός ( ο οποίος είναι ένα πολλαπλάσιο ενός στοιχείου της k γραµµής) Άρα απαιτούνται (n k)(n k + l) προσθέσεις για το επόµενο ϐήµα Παρατηρούµε ότι για τις n k γραµµές ϑα πρέπει να ορισθούν οι πολλαπλασιαστές m ik, i = k +1(1)n των οποίων ο υπολογισµός απαιτεί n k διαιρέσεις Επιπλέον, κάθε ένας από τους πολλαπλασιαστές αυτούς πολλαπλασιάζεται µε τα τελευταία n k + l στοιχεία της k γραµµής του πίνακα A και των l δεύτερων µελών Εφόσον η διαδικασία αυτή γίνεται για όλες τις n k εξισώσεις έπεται ότι απαιτούνται (n k)(n k + l) 39

40 πολλαπλασιασµοί Επειδή τώρα k = 1(1)n 1 το πλήθος και το είδος των πράξεων για την τριγωνοποίηση του συστήµατος ϑα είναι και n 1 (n k) διαιρέσεις k=1 n 1 (n k)(n k + l) πολλαπλασιασµοί (260) k=1 n 1 (n k)(n k + l) προσθαφαιρέσεις k=1 Χρησιµοποιώντας τους τύπους m k = k=1 m(m +1) 2 και m k 2 = k=1 m(m + 1)(2m +1) 6 οι (260) γράφονται και n(n 1) 2 n(n 1)(2n 1+3l) 6 διαιρέσεις πολλαπλασιασµοί (261) n(n 1)(2n 1+3l) προσθαφαιρέσεις 6 Για τον υπολογισµό των λύσεων x (i) k,k =1(1)n, i =1(1)lχρησιµοποιούνται οι τύποι (27) από τους οποίους παρατηρούµε ότι για κάποιο i απαιτούνται n k πολλαπλασιασµοί για τα γινόµενα a ij x j,j = k +1(1)n, n k προσθαφαιρέσεις και µία διαίρεση για k =1(1)n 1, ενώ για τον υπολογισµό του x (i) n απαιτείται µία διαίρεση µόνον Συνεπώς για τον υπολογισµό όλων των x (i) k απαιτούνται n l 1 διαιρέσεις και k=1 n 1 l (n k) πολλαπλασιασµοί k=1 n 1 l (n k) προσθαφαιρέσεις k=1 40

41 δηλαδή nl διαιρέσεις n(n 1)l 2 πολλαπλασιασµοί (262) και n(n 1)l 2 προσθαφαιρέσεις Συνεπώς το συνολικό πλήθος των πράξεων για την εύρεση της λύσης του (259) είναι : n(n 1+2l) 2 διαιρέσεις n(n 1)(2n 1+6l) 6 πολλαπλασιασµοί (263) και n(n 1)(2n 1+6l) 6 προσθαφαιρέσεις Ετσι λοιπόν για την επίλυση ενός µόνον γραµµικού συστήµατος (l =1) η µέθοδος απαλοιφής του Gauss απαιτεί n n 2 διαιρέσεις n n2 2 5n 6 πολλαπλασιασµοί (264) n n2 2 5n 6 προσθαφαιρέσεις Για την εύρεση του αντιστρόφου A 1 µε τη µέθοδο της απαλοιφής του Gauss (l = n) απαιτούνται 3n 2 2 n 2 διαιρέσεις 4n 3 3 3n2 2 n 6 πολλαπλασιασµοί (265) και 4n 3 3 3n2 2 n 6 προσθαφαιρέσεις Συµπεραίνουµε λοιπόν ότι το πλήθος των πράξεων για τη λύση ενός γραµµικού συστήµατος µε τη µέθοδο της απαλοιφής του Gauss είναι της τάξης O(n 3 /3) ενώ για την εύρεση του αντιστρόφου απαιτείται τετραπλάσιο πλήθος πράξεων Ετσι πάντοτε αποφεύγουµε να υπολογίσουµε τον αντίστροφο ενός πίνακα (είναι προτιµότερο να λύσουµε το σύστηµα) εκτός αν µας Ϲητείται µόνον ο A 1 41