ΜΕΜ251 Αριθμητική Ανάλυση

Transcript

1 ΜΕΜ251 Αριθμητική Ανάλυση Διάλεξη 14, 30 Απριλίου 2018 Μιχάλης Πλεξουσάκης Τμήμα Μαθηματικών και Εφαρμοσμένων Μαθηματικών

2 Περιεχόμενα 1. Χώροι με εσωτερικό γινόμενο (Ευκλείδειοι χώροι) 2. Βέλτιστες προσεγγίσεις σε Ευκλείδειους χώρους 3. Ορθοκανονικοποίηση Gram-Schmidt 1

3 Χώροι με εσωτερικό γινόμενο (Ευκλείδειοι χώροι)

4 Χώροι με εσωτερικό γινόμενο Ορισμός. Έστω X πραγματικός γραμμικός χώρος. Μια απεικόνιση (, ) : X X R ονομάζεται εσωτερικό γινόμενο αν ισχύουν τα x, y, z X x X \ {0} (x, x) > 0, (x + y, z) = (x, z) + (y, z), x X λ R (λx, y) = λ(x, y), x, y X (x, y) = (y, x) Αν για x, y X ισχύει (x, y) = 0, τότε λέμε ότι τα x, y είναι ορθογώνια και γράφουμε x y. Παράδειγμα 1. Στον R n το ευκλείδειο εσωτερικό γινόμενο είναι το (x, y) 2 = n x i y i. i=1 2

5 Χώροι με εσωτερικό γινόμενο Παράδειγμα 2. Στον χώρο C[a, b] ορίζονται τα εσωτερικά γινόμενα (f, g) = b a f(x)g(x) dx, (f, g) w = b a w(x)f(x)g(x) dx, όπου w : [a, b] R μια θετική και ολοκληρώσιμη συνάρτηση βάρους. Πρόταση. Έστω (X, (, )) χώρος με εσωτερικό γινόμενο. Τότε με x = (x, x), x X, ορίζεται μια νόρμα στον X. Λέμε ότι η συγκεκριμένη νόρμα παράγεται από το εσωτερικό γινόμενο (, ). Η απόδειξη χρησιμοποιεί την ανισότητα των Cauchy-Schwarz x, y X (x, y) (x, x) (y, y). 3

6 Χώροι με εσωτερικό γινόμενο Ιδιότητα του παραλληλογράμμου. Σε έναν Ευκλείδειο χώρο (X, (, )) με τη νόρμα που παράγεται από το εσωτερικό γινόμενο ισχύει x, y X x + y 2 + x y 2 = 2( x 2 + y 2 ). Απόδειξη. Για x, y, X έχουμε x + y 2 = (x, x) + 2(x, y) + (y, y) = x 2 + 2(x, y) + y 2, x y 2 = (x, x) 2(x, y) + (y, y) = x 2 2(x, y) + y 2, από τις οποίες προκύπτει η ζητούμενη σχέση. Πυθαγόρειο θεώρημα. Για x 1,..., x n X ισχύει (x i, x j ) = 0, i j = x x n 2 = x x n 2. 4

7 Βέλτιστες προσεγγίσεις σε Ευκλείδειους χώρους

8 Βέλτιστες προσεγγίσεις Ορισμός. Έστω (X, ) γραμμικός χώρος, Y μη κενό υποσύνολο του X και x X. Το y Y για το οποίο ισχύει z Y x y x z, λέγεται βέλτιστη προσέγγιση του x από τον Y. Χαρακτηρισμός βέλτιστων προσεγγίσεων σε Ευκλείδειους χώρους. Έστω (X, (, )) Ευκλείδειος χώρος, Y υπόχωρος του X και x X. Ένα στοιχείο y Y είναι βέλτιστη προσέγγιση του x από τον Y, αν και μόνο αν ισχύει z Y (x y, z) = 0. (1) Απόδειξη. Έστω ότι ισχύει η (1). Μια και y z Y έχουμε (x y, y z) = 0, οπότε από το Πυθαγόρειο θεώρημα παίρνουμε x y 2 x y 2 + y z 2 = x y + y z 2 = x z 2, δηλαδή, y είναι βέλτιστη προσέγγιση του x από τον Y. 5

9 Βέλτιστες προσεγγίσεις Έστω τώρα y βέλτιστη προσέγγιση του x από τον Y. Έστω ότι υπάρχει z Y τέτοιο ώστε (x y, z) 0. Αναγκαστικά, z 0. Ορίζουμε ϕ : R R ως ϕ(λ) = x (y + λz) 2. Έχουμε, ( ) (x y, z) x y 2 = ϕ(0) > min ϕ(λ) = ϕ λ R z 2, άτοπο, αφού το y είναι βέλτιστη προσέγγιση του x από τον Y. Επομένως ισχύει (x y, z) = 0 για κάθε z Y, δηλαδή ισχύει η (1). Έστω τώρα ότι ο υπόχωρος Y είναι πεπερασμένης διάστασης, dimy = n. Τότε η (1) ικανοποιείται αν και μόνο αν όπου {x 1,..., x n } είναι μια βάση του Y. (y, x i ) = (x, x i ), i = 1,..., n, (2) 6

10 Βέλτιστες προσεγγίσεις Αν γράψουμε y = α 1 x α n x n για κάποια α 1,..., α n R, αντικαθιστώντας στην (2) λαμβάνουμε τις λεγόμενες κανονικές εξισώσεις (x 1, x 1 )α 1 + (x 1, x 2 )α (x 1, x n )α n = (x, x 1 ) (x 2, x 1 )α 1 + (x 2, x 2 )α (x 2, x n )α n = (x, x 2 ) (x n, x 1 )α 1 + (x n, x 2 )α (x n, x n )α n = (x, x n ) Αφού η μόνη βέλτιστη προσέγγιση του μηδενικού διανύσματος από τον Y είναι το μηδενικό διάνυσμα, το σύστημα των κανονικών εξισώσεων έχει μοναδική λύση.. 7

11 Βέλτιστες προσεγγίσεις Ο πίνακας του συστήματος των κανονικών εξισώσεων G(x 1,..., x n ) = ((x i, x j )) i,j=1,...n ονομάζεται πίνακας του Gram. Όπως είδαμε, στην περίπτωση που τα {x 1,..., x n } είναι γραμμικά ανεξάρτητα ο πίνακας του Gram είναι αντιστρέψιμος. Επίσης, εύκολα βλέπει κανείς ότι είναι συμμετρικός και θετικά ορισμένος. Παρατήρηση. Ο υπολογισμός της βέλτιστης προσέγγισης με τη λύση του συστήματος των κανονικών εξισώσεων δεν είναι πάντα εύκολος, γιατί κακή επιλογή των στοιχείων της βάσης του Y μπορεί να δώσει πίνακα του Gram με κακό δείκτη κατάστασης. Για παράδειγμα, αν X = C[0, 1] με το σύνηθες εσωτερικό γινόμενο, Y = P n 1 και x i (t) = t i 1, i = 1,..., n, τότε ο πίνακας του Gram είναι ο πίνακας του Hilbert! 8

12 Ορθοκανονικοποίηση Gram-Schmidt

13 Ορθοκανονικοποίηση Gram-Schmidt Ορισμός. Έστω (X, (, )) ένας Ευκλείδειος χώρος. Ένα σύνολο S = {x 1,..., x n } X λέγεται ορθογώνιο αν για i j ισχύει (x i, x j ) = 0. Αν επιπλέον x i = 1, για κάθε i, τότε το S λέγεται ορθοκανονικό. Αν το ορθοκανονικό σύνολο S αποτελεί βάση του X, τότε το S λέγεται ορθοκανονική βάση του X. Έστω y η βέλτιστη προσέγγιση του x X από τον υπόχωρο Y. Αν {e 1,..., e n } είναι ορθοκανονική βάση του Y και y = α 1 x α n x n, τότε η λύση των κανονικών εξισώσεων είναι α i = (x, e i ), οπότε (y, e i ) = (x, e i ), i = 1,..., n, y = (x, e 1 )e (x, e n )e n. 9

14 Ορθοκανονικοποίηση Gram-Schmidt Αν το σύνολο {e 1,..., e n } είναι βάση του Y με ορθογώνια μεταξύ τους στοιχεία τότε α i = (x, e i), i = 1,..., n, e i 2 και η βέλτιστη προσέγγιση δίνεται από y = (x, e 1) e 1 2 e (x, e n) e n 2 e n. (3) Παραστάσεις αυτού του είδους λέγονται ορθογώνια αναπτύγματα ή αναπτύγματα Fourier. Δείχνουμε ότι κάθε υπόχωρος Y πεπερασμένης διάστασης έχει μια ορθοκανονική βάση. 10

15 Ορθοκανονικοποίηση Gram-Schmidt Λήμμα. Αν {e 1,..., e n } είναι ένα ορθοκανονικό σύνολο στοιχείων του Ευκλείδειου χώρου (X, (, )), τότε τα e 1,..., e n είναι γραμμικά ανεξάρτητα. Απόδειξη. Πράγματι, αν λ 1,..., λ n R είναι τέτοια ώστε λ 1 e λ n e n = 0, τότε έχουμε 0 = (λ 1 e λ n e n, e i ) = n λ j (e j, e i ) = λ i, i = 0,..., n. j=1 Επομένως, τα e 1,..., e n είναι γραμμικά ανεξάρτητα. 11

16 Ορθοκανονικοποίηση Gram-Schmidt Θεώρημα. Έστω {x 1,..., x n } γραμμικά ανεξάρτητα διανύσματα του Ευκλείδειου χώρου (X, (, )). Yπάρχει ένα ορθοκανονικό σύστημα {e 1,..., e n }, τέτοιο ώστε: κάθε e i να είναι γραμμικός συνδιασμός των e 1,....e i τα διανύσματα x 1,..., x n και e 1,..., e n να παράγουν τον ίδιο χώρο. Απόδειξη. Κατ αρχήν ισχύει x i 0, i = 1,..., n, μια και τα x 1,..., x n είναι γραμμικά ανεξάρτητα. Ορίζουμε τα διανύσματα e 1,..., e n ως εξής: e 1 = x 1, e i = x i 1 (x i, e j i ) (e j, e j )e j, i = 2,..., n Προφανώς τα e 1,..., e n είναι καλά ορισμένα και e i x 1,..., x i. j=1 12

17 Ορθοκανονικοποίηση Gram-Schmidt Ακόμα, σύμφωνα με τη σχέση (3), η ποσότητα i 1 j=1 (x i, e j ) (e j, e j )e j είναι η βέλτιστη προσέγγιση του x i στον χώρο e 1,..., e i 1. Επομένως, η (1) δίνει (e i, e j ) = 0, j = 1,..., i 1. Από αυτή τη σχέση έπεται ότι το σύστημα {e 1,..., e n} είναι ορθογώνιο. Αν θέσουμε e i = e i / e i, i = 1,..., n, παίρνουμε ένα ορθοκανονικό σύστημα. 13

18 Ορθοκανονικοποίηση Gram-Schmidt Ανισότητα του Bessel. Έστω (X, (, )) Ευκλείδειος χώρος, x X και X n ένα n-διάστατος υπόχωρος του X. Αν x n είναι η βέλτιστη προσέγγιση του x από τον X n τότε ισχύει x n x. (4) Αν {e 1,..., e n } είναι μια ορθοκανονική βάση του X n, τότε η (4) είναι ισοδύναμη με την ανισότητα του Bessel n (x, e i ) 2 x 2. i=1 Απόδειξη. Από τον χαρακτηρισμό της βέλτιστης προσέγγισης (x x n, x n ) = 0, και το Πυθαγόρειο θεώρημα έχουμε 14

19 Ορθοκανονικοποίηση Gram-Schmidt x 2 = x x n + x n 2 = x x n 2 + x n 2, από την οποία προκύπτει αμέσως η (4). Από τη σχέση (3) έχουμε n x n = (x, e i )e i, οπότε x n 2 = δηλαδή, i=1 i=1 n n (x, e i )e i 2 = (x, e i )e i 2 = i=1 i=1 n x n 2 = (x, e i ) 2. Η σχέση αυτή και η (4) ολοκληρώνουν την απόδειξη. i=1 n (x, e i ) 2 e i 2, 15

20 Ερωτήσεις; 15