ΜΕΜ251 Αριθμητική Ανάλυση Διάλεξη 14, 30 Απριλίου 2018 Μιχάλης Πλεξουσάκης Τμήμα Μαθηματικών και Εφαρμοσμένων Μαθηματικών
Περιεχόμενα 1. Χώροι με εσωτερικό γινόμενο (Ευκλείδειοι χώροι) 2. Βέλτιστες προσεγγίσεις σε Ευκλείδειους χώρους 3. Ορθοκανονικοποίηση Gram-Schmidt 1
Χώροι με εσωτερικό γινόμενο (Ευκλείδειοι χώροι)
Χώροι με εσωτερικό γινόμενο Ορισμός. Έστω X πραγματικός γραμμικός χώρος. Μια απεικόνιση (, ) : X X R ονομάζεται εσωτερικό γινόμενο αν ισχύουν τα x, y, z X x X \ {0} (x, x) > 0, (x + y, z) = (x, z) + (y, z), x X λ R (λx, y) = λ(x, y), x, y X (x, y) = (y, x) Αν για x, y X ισχύει (x, y) = 0, τότε λέμε ότι τα x, y είναι ορθογώνια και γράφουμε x y. Παράδειγμα 1. Στον R n το ευκλείδειο εσωτερικό γινόμενο είναι το (x, y) 2 = n x i y i. i=1 2
Χώροι με εσωτερικό γινόμενο Παράδειγμα 2. Στον χώρο C[a, b] ορίζονται τα εσωτερικά γινόμενα (f, g) = b a f(x)g(x) dx, (f, g) w = b a w(x)f(x)g(x) dx, όπου w : [a, b] R μια θετική και ολοκληρώσιμη συνάρτηση βάρους. Πρόταση. Έστω (X, (, )) χώρος με εσωτερικό γινόμενο. Τότε με x = (x, x), x X, ορίζεται μια νόρμα στον X. Λέμε ότι η συγκεκριμένη νόρμα παράγεται από το εσωτερικό γινόμενο (, ). Η απόδειξη χρησιμοποιεί την ανισότητα των Cauchy-Schwarz x, y X (x, y) (x, x) (y, y). 3
Χώροι με εσωτερικό γινόμενο Ιδιότητα του παραλληλογράμμου. Σε έναν Ευκλείδειο χώρο (X, (, )) με τη νόρμα που παράγεται από το εσωτερικό γινόμενο ισχύει x, y X x + y 2 + x y 2 = 2( x 2 + y 2 ). Απόδειξη. Για x, y, X έχουμε x + y 2 = (x, x) + 2(x, y) + (y, y) = x 2 + 2(x, y) + y 2, x y 2 = (x, x) 2(x, y) + (y, y) = x 2 2(x, y) + y 2, από τις οποίες προκύπτει η ζητούμενη σχέση. Πυθαγόρειο θεώρημα. Για x 1,..., x n X ισχύει (x i, x j ) = 0, i j = x 1 + + x n 2 = x 2 1 + + x n 2. 4
Βέλτιστες προσεγγίσεις σε Ευκλείδειους χώρους
Βέλτιστες προσεγγίσεις Ορισμός. Έστω (X, ) γραμμικός χώρος, Y μη κενό υποσύνολο του X και x X. Το y Y για το οποίο ισχύει z Y x y x z, λέγεται βέλτιστη προσέγγιση του x από τον Y. Χαρακτηρισμός βέλτιστων προσεγγίσεων σε Ευκλείδειους χώρους. Έστω (X, (, )) Ευκλείδειος χώρος, Y υπόχωρος του X και x X. Ένα στοιχείο y Y είναι βέλτιστη προσέγγιση του x από τον Y, αν και μόνο αν ισχύει z Y (x y, z) = 0. (1) Απόδειξη. Έστω ότι ισχύει η (1). Μια και y z Y έχουμε (x y, y z) = 0, οπότε από το Πυθαγόρειο θεώρημα παίρνουμε x y 2 x y 2 + y z 2 = x y + y z 2 = x z 2, δηλαδή, y είναι βέλτιστη προσέγγιση του x από τον Y. 5
Βέλτιστες προσεγγίσεις Έστω τώρα y βέλτιστη προσέγγιση του x από τον Y. Έστω ότι υπάρχει z Y τέτοιο ώστε (x y, z) 0. Αναγκαστικά, z 0. Ορίζουμε ϕ : R R ως ϕ(λ) = x (y + λz) 2. Έχουμε, ( ) (x y, z) x y 2 = ϕ(0) > min ϕ(λ) = ϕ λ R z 2, άτοπο, αφού το y είναι βέλτιστη προσέγγιση του x από τον Y. Επομένως ισχύει (x y, z) = 0 για κάθε z Y, δηλαδή ισχύει η (1). Έστω τώρα ότι ο υπόχωρος Y είναι πεπερασμένης διάστασης, dimy = n. Τότε η (1) ικανοποιείται αν και μόνο αν όπου {x 1,..., x n } είναι μια βάση του Y. (y, x i ) = (x, x i ), i = 1,..., n, (2) 6
Βέλτιστες προσεγγίσεις Αν γράψουμε y = α 1 x 1 +... + α n x n για κάποια α 1,..., α n R, αντικαθιστώντας στην (2) λαμβάνουμε τις λεγόμενες κανονικές εξισώσεις (x 1, x 1 )α 1 + (x 1, x 2 )α 2 + + (x 1, x n )α n = (x, x 1 ) (x 2, x 1 )α 1 + (x 2, x 2 )α 2 + + (x 2, x n )α n = (x, x 2 ) (x n, x 1 )α 1 + (x n, x 2 )α 2 + + (x n, x n )α n = (x, x n ) Αφού η μόνη βέλτιστη προσέγγιση του μηδενικού διανύσματος από τον Y είναι το μηδενικό διάνυσμα, το σύστημα των κανονικών εξισώσεων έχει μοναδική λύση.. 7
Βέλτιστες προσεγγίσεις Ο πίνακας του συστήματος των κανονικών εξισώσεων G(x 1,..., x n ) = ((x i, x j )) i,j=1,...n ονομάζεται πίνακας του Gram. Όπως είδαμε, στην περίπτωση που τα {x 1,..., x n } είναι γραμμικά ανεξάρτητα ο πίνακας του Gram είναι αντιστρέψιμος. Επίσης, εύκολα βλέπει κανείς ότι είναι συμμετρικός και θετικά ορισμένος. Παρατήρηση. Ο υπολογισμός της βέλτιστης προσέγγισης με τη λύση του συστήματος των κανονικών εξισώσεων δεν είναι πάντα εύκολος, γιατί κακή επιλογή των στοιχείων της βάσης του Y μπορεί να δώσει πίνακα του Gram με κακό δείκτη κατάστασης. Για παράδειγμα, αν X = C[0, 1] με το σύνηθες εσωτερικό γινόμενο, Y = P n 1 και x i (t) = t i 1, i = 1,..., n, τότε ο πίνακας του Gram είναι ο πίνακας του Hilbert! 8
Ορθοκανονικοποίηση Gram-Schmidt
Ορθοκανονικοποίηση Gram-Schmidt Ορισμός. Έστω (X, (, )) ένας Ευκλείδειος χώρος. Ένα σύνολο S = {x 1,..., x n } X λέγεται ορθογώνιο αν για i j ισχύει (x i, x j ) = 0. Αν επιπλέον x i = 1, για κάθε i, τότε το S λέγεται ορθοκανονικό. Αν το ορθοκανονικό σύνολο S αποτελεί βάση του X, τότε το S λέγεται ορθοκανονική βάση του X. Έστω y η βέλτιστη προσέγγιση του x X από τον υπόχωρο Y. Αν {e 1,..., e n } είναι ορθοκανονική βάση του Y και y = α 1 x 1 +... + α n x n, τότε η λύση των κανονικών εξισώσεων είναι α i = (x, e i ), οπότε (y, e i ) = (x, e i ), i = 1,..., n, y = (x, e 1 )e 1 + + (x, e n )e n. 9
Ορθοκανονικοποίηση Gram-Schmidt Αν το σύνολο {e 1,..., e n } είναι βάση του Y με ορθογώνια μεταξύ τους στοιχεία τότε α i = (x, e i), i = 1,..., n, e i 2 και η βέλτιστη προσέγγιση δίνεται από y = (x, e 1) e 1 2 e 1 + + (x, e n) e n 2 e n. (3) Παραστάσεις αυτού του είδους λέγονται ορθογώνια αναπτύγματα ή αναπτύγματα Fourier. Δείχνουμε ότι κάθε υπόχωρος Y πεπερασμένης διάστασης έχει μια ορθοκανονική βάση. 10
Ορθοκανονικοποίηση Gram-Schmidt Λήμμα. Αν {e 1,..., e n } είναι ένα ορθοκανονικό σύνολο στοιχείων του Ευκλείδειου χώρου (X, (, )), τότε τα e 1,..., e n είναι γραμμικά ανεξάρτητα. Απόδειξη. Πράγματι, αν λ 1,..., λ n R είναι τέτοια ώστε λ 1 e 1 + + λ n e n = 0, τότε έχουμε 0 = (λ 1 e 1 + + λ n e n, e i ) = n λ j (e j, e i ) = λ i, i = 0,..., n. j=1 Επομένως, τα e 1,..., e n είναι γραμμικά ανεξάρτητα. 11
Ορθοκανονικοποίηση Gram-Schmidt Θεώρημα. Έστω {x 1,..., x n } γραμμικά ανεξάρτητα διανύσματα του Ευκλείδειου χώρου (X, (, )). Yπάρχει ένα ορθοκανονικό σύστημα {e 1,..., e n }, τέτοιο ώστε: κάθε e i να είναι γραμμικός συνδιασμός των e 1,....e i τα διανύσματα x 1,..., x n και e 1,..., e n να παράγουν τον ίδιο χώρο. Απόδειξη. Κατ αρχήν ισχύει x i 0, i = 1,..., n, μια και τα x 1,..., x n είναι γραμμικά ανεξάρτητα. Ορίζουμε τα διανύσματα e 1,..., e n ως εξής: e 1 = x 1, e i = x i 1 (x i, e j i ) (e j, e j )e j, i = 2,..., n Προφανώς τα e 1,..., e n είναι καλά ορισμένα και e i x 1,..., x i. j=1 12
Ορθοκανονικοποίηση Gram-Schmidt Ακόμα, σύμφωνα με τη σχέση (3), η ποσότητα i 1 j=1 (x i, e j ) (e j, e j )e j είναι η βέλτιστη προσέγγιση του x i στον χώρο e 1,..., e i 1. Επομένως, η (1) δίνει (e i, e j ) = 0, j = 1,..., i 1. Από αυτή τη σχέση έπεται ότι το σύστημα {e 1,..., e n} είναι ορθογώνιο. Αν θέσουμε e i = e i / e i, i = 1,..., n, παίρνουμε ένα ορθοκανονικό σύστημα. 13
Ορθοκανονικοποίηση Gram-Schmidt Ανισότητα του Bessel. Έστω (X, (, )) Ευκλείδειος χώρος, x X και X n ένα n-διάστατος υπόχωρος του X. Αν x n είναι η βέλτιστη προσέγγιση του x από τον X n τότε ισχύει x n x. (4) Αν {e 1,..., e n } είναι μια ορθοκανονική βάση του X n, τότε η (4) είναι ισοδύναμη με την ανισότητα του Bessel n (x, e i ) 2 x 2. i=1 Απόδειξη. Από τον χαρακτηρισμό της βέλτιστης προσέγγισης (x x n, x n ) = 0, και το Πυθαγόρειο θεώρημα έχουμε 14
Ορθοκανονικοποίηση Gram-Schmidt x 2 = x x n + x n 2 = x x n 2 + x n 2, από την οποία προκύπτει αμέσως η (4). Από τη σχέση (3) έχουμε n x n = (x, e i )e i, οπότε x n 2 = δηλαδή, i=1 i=1 n n (x, e i )e i 2 = (x, e i )e i 2 = i=1 i=1 n x n 2 = (x, e i ) 2. Η σχέση αυτή και η (4) ολοκληρώνουν την απόδειξη. i=1 n (x, e i ) 2 e i 2, 15
Ερωτήσεις; 15