Παναγιώτης Ψαρράκος Αν. Καθηγητής

Transcript

1 Ανάλυση Πινάκων Κεφάλαιο 1: Νόρμες Διανυσμάτων και Πινάκων Παναγιώτης Ψαρράκος Αν. Καθηγητής Δ.Π.Μ.Σ. Εφαρμοσμένες Μαθηματικές Επιστήμες Σχολή Εφαρμοσμένων Μαθηματικών και Φυσικών Επιστημών Τομέας Μαθηματικών Εθνικό Μετσόβιο Πολυτεχνείο

2 Άδεια Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες χρήσης Creative Commons. Για εκπαιδευτικό υλικό, όπως εικόνες, που υπόκειται σε άδεια χρήσης άλλου τύπου, αυτή πρέπει να αναφέρεται ρητώς.

3 Νόρμες Διανυσμάτων στο C ν Αρχικά, υπενθυμίζουμε το γνωστό ορισμό της νόρμας (του μέτρου) διανυσμάτων. Ορισμός 1 Μία συνάρτηση : C ν R ονομάζεται νόρμα διανυσμάτων αν για κάθε x,y C ν, ικανοποιεί τα ακόλουθα: (i) x 0 (μη αρνητική). (ii) x = 0 αν και μόνο αν x = 0. (iii) ax = a x για κάθε a C. (iv) x + y x + y (τριγωνική ανισότητα). Μία συνάρτηση : C ν R που ικανοποιεί τα (i), (iii) και (iv) του παραπάνω ορισμού καλείται ημι-νόρμα διανυσμάτων. Η ημι-νόρμα αποτελεί μία γενίκευση της έννοιας της νόρμας, η οποία επιτρέπει σε μη μηδενικά διανύσματα να έχουν μηδενικό μέτρο. Ανάλυση Πινάκων 1 / 62

4 Λήμμα 1 Εστω μία ημι-νόρμα διανυσμάτων στο C ν. Τότε για κάθε ζεύγος διανυσμάτων x,y C ν, ισχύει x y x y. Απόδειξη. Από τη σχέση y = x + (y x) και την τριγωνική ανισότητα (iv) του Ορισμού 1, έχουμε y = x + (y x) x + x y. Επομένως, y x x y. Ομοίως, από τη σχέση x = y + (x y) προκύπτει ότι x y y x. Λόγω του (iii) του Ορισμού 1, y x = x y ±( x y ) και η απόδειξη ολοκληρώθηκε. Ορισμός 2 Μία νόρμα ονομάζεται ορθομοναδιαία αναλλοίωτη αν για κάθε διάνυσμα x C ν και για κάθε ορθομοναδιαίο πίνακα U C ν ν (δηλαδή, U U = UU = I ν ), ισχύει Ux = x. Ανάλυση Πινάκων 2 / 62

5 Ορισμός 3 Μία συνάρτηση, : C ν C ν C ονομάζεται εσωτερικό γινόμενο αν για κάθε x,y,w C ν, ικανοποιεί τα ακόλουθα: (i) x,x 0 (μη αρνητική). (ii) x,x = 0 αν και μόνο αν x = 0. (iii) x + y,w = x,w + y,w (προσθετική). (iv) ax,y = a x,y για κάθε a C. (v) x,y = y,x. Από τον ορισμό του εσωτερικού γινομένου, εύκολα μπορεί κανείς να επιβεβαιώσει τις παρακάτω ιδιότητες: (1) x,ay = ay,x = a y,x = a x,y. (2) x,y + z = y + z,x = y,x + z,x = x,y + x,z. (3) x = 0 αν και μόνο αν x,y = 0 για κάθε y C ν. Ανάλυση Πινάκων 3 / 62

6 Πόρισμα 1 Για κάθε εσωτερικό γινόμενο, στο C ν, η συνάρτηση f(x) = x,x είναι νόρμα διανυσμάτων. Απόδειξη. Με απλές πράξεις, επαληθεύεται ότι η συνάρτηση f(x) = x,x ικανοποιεί τον Ορισμό 1 της νόρμας διανυσμάτων. Ανάλυση Πινάκων 4 / 62

7 Αν είναι μία νόρμα διανυσμάτων τέτοια ώστε να ισχύει x = x,x για κάθε x C ν, για κάποιο εσωτερικό γινόμενο,, τότε λέμε ότι η επάγεται (προέρχεται) από το εσωτερικό γινόμενο,. Στην περίπτωση αυτή, για κάθε x,y C ν, ισχύει: 1 2 ( x + y 2 + x y 2 ) = 1 ( x + y,x + y + x y,x y ) 2 = 1 (2 x,x + 2 y,y ). 2 Δηλαδή, η νόρμα ικανοποιεί τον κανόνα του παραλληλογράμμου: 1 2 ( x + y 2 + x y 2 ) = x 2 + y 2, x,y C ν. (1) Ανάλυση Πινάκων 5 / 62

8 Θεώρημα 1 Ο κανόνας του παραλληλογράμμου (1) αποτελεί ικανή και αναγκαία συνθήκη ώστε μία νόρμα να επάγεται από ένα εσωτερικό γινόμενο. Απόδειξη. Η αναγκαιότητα του κανόνα του παραλληλογράμμου έχει ήδη αποδειχθεί παραπάνω. Η απόδειξη για το γεγονός ότι ο κανόνας του παραλληλογράμμου είναι ικανή συνθήκη ώστε μία νόρμα να επάγεται από εσωτερικό γινόμενο βασίζεται σε τεχνικούς υπολογισμούς και παραλείπεται. Ανάλυση Πινάκων 6 / 62

9 Μία σημαντική ιδιότητα του εσωτερικού γινομένου είναι η ανισότητα Cauchy-Schwarz, γνωστή και ως ανισότητα Bunyakovsky. Θεώρημα 2 (Cauchy-Schwarz) Εστω, ένα εσωτερικό γινόμενο στο C ν και η επαγόμενη νόρμα. Τότε για κάθε x,y C ν, ισχύει ή ισοδύναμα, x,y 2 x,x y,y, x,y x y. Η ισότητα ισχύει αν και μόνο αν τα διανύσματα x και y είναι γραμμικά εξαρτημένα. Ανάλυση Πινάκων 7 / 62

10 Απόδειξη. Θεωρούμε το πραγματικό δευτεροβάθμιο πολυώνυμο p(t) = x + ty,x + ty = x,x + t y,x + t x,y + t 2 y,y = y,y t Re( x,y )t + x,x όπου t R. Το p(t) λαμβάνει αποκλειστικά μη αρνητικές τιμές και κατά συνέπεια, η διακρίνουσα του είναι ή ισοδύναμα, 4 Re( x,y ) 2 4 y,y x,x 0, Re( x,y ) 2 y,y x,x. Η ανισότητα αυτή ισχύει για κάθε ζεύγος x,y C ν και αντικαθιστώντας το y με το διάνυσμα x,y y, προκύπτει ότι Re( x, x,y y ) 2 x,x y,y x,y 2. (2) Ανάλυση Πινάκων 8 / 62

11 Συνέχεια Απόδειξης. Ομως, Re( x, x,y y ) = Re ( x, x,y y ) = Re ( x,y x,y ) Επομένως, η ανισότητα (2) γράφεται = Re ( x,y 2) = x,y 2. x,y 4 x,x y,y x,y 2. Αν x,y = 0, τότε ο ισχυρισμός του θεωρήματος ισχύει κατά τετριμμένο τρόπο. Αν x,y 0, τότε προφανώς x,y 2 x,x y,y. Από το (ii) του Ορισμού 3, προκύπτει ότι το p(t) έχει πραγματική (διπλή) ρίζα αν και μόνο αν x + ty = 0 για κάποιο t. Δηλαδή, x,y 2 = x,x y,y αν και μόνο αν τα διανύσματα x και y είναι παράλληλα. Ανάλυση Πινάκων 9 / 62

12 Χαρακτηριστικά παραδείγματα νορμών διανυσμάτων στο C ν Η l p -νόρμα (ή p-νόρμα), για οποιονδήποτε πραγματικό αριθμό p 1, ορίζεται ως x p = [x1 x 2 x ν ] T p = ( x 1 p + x 2 p + + x ν p ) 1/p. Κάθε p-νόρμα (1 p < + ) ικανοποιεί τις προϋποθέσεις του Ορισμού 1. Ειδικότερα, η τριγωνική ανισότητα x + y p x p + y p, x,y C ν είναι γνωστή και ως ανισότητα Minkowski. Επιπλέον, για τις p-νόρμες, ισχύει η ανισότητα H ĺolder (γενίκευση της ανισότητας Cauchy-Schwarz), x,y x p y q, p, q > 1 με 1 p + 1 q = 1. Ανάλυση Πινάκων 10 / 62

13 Η Ευκλείδια νόρμα (ή l 2 -νόρμα, ή 2-νόρμα) ορίζεται ως x 2 = [x1 x 2 x ν ] T 2 = ( x x x ν 2) 1/2. Αποτελεί μία ειδική περίπτωση της p-νόρμας (για p = 2), είναι ίσως η πιο γνωστή νόρμα διανυσμάτων, και επάγεται από το Ευκλείδιο εσωτερικό γινόμενο x,y = y x = [ y 1 y 2 y ν ] x 1 x 2. x ν = y 1 x 1 + y 2 x y ν x ν. Επίσης, είναι ορθομοναδιαία αναλλοίωτη καθώς για κάθε διάνυσμα x C ν και για κάθε ορθομοναδιαίο πίνακα U C ν ν, ισχύει Ux 2 2 = (Ux) Ux = x U Ux = x x = x 2 2. Ανάλυση Πινάκων 11 / 62

14 Η αθροιστική νόρμα (ή l 1 -νόρμα, ή 1-νόρμα) ορίζεται ως x 1 = [x1 x 2 x ν ] T 1 = x 1 + x x ν και είναι γνωστή και ως νόρμα του Μανχάταν, καθώς συνδέεται με την απόσταση που διανύει ένα αυτοκίνητο κινούμενο πάνω στο ορθογώνιο πλέγμα δρόμων του Μανχάταν. Η μέγιστη νόρμα (ή max-νόρμα, ή -νόρμα) ορίζεται ως x = [x1 x 2 x ν ] T = max{ x 1, x 2,..., x ν } και είναι η πιο εύκολα υπολογίσιμη νόρμα (αναφερόμενοι πάντα στο C ν ). Ανάλυση Πινάκων 12 / 62

15 Παρατήρηση 1 Η -νόρμα και η p-νόρμα συνδέονται με τη σχέση x = lim x p, x C ν. p + Πράγματι, αν για ένα διάνυσμα x = [x 1 x 2 x ν ] T C ν, θεωρήσουμε την p-νόρμα x p = ( x 1 p + x 2 p + + x ν p ) 1/p και την -νόρμα x = max{ x 1, x 2,..., x ν }, Ανάλυση Πινάκων 13 / 62

16 Παρατήρηση 1 (Συνέχεια) τότε Επειδή ( x p x 1 p = x x x + 2 p x x + + ν x p ) 1/p [ 1,ν 1/p]. lim p + ν1/p = lim 1 = 1, από το κριτήριο παρεμβολής, έχουμε p + lim p + x p = 1. x Ανάλυση Πινάκων 14 / 62

17 Παρατήρηση 2 Πέρα των νορμών που ορίζονται στο C ν, μπορούμε να ορίσουμε νόρμες και σε διανυσματικούς χώρους άπειρης διάστασης. Αν, για παράδειγμα θεωρήσουμε το διανυσματικό χώρο C[a, b] των συνεχών στο κλειστό διάστημα [a, b] πραγματικών συναρτήσεων f(t), τότε μπορούμε να ορίσουμε ( ) 1/p b την l p -νόρμα f p = a f(t) p dt (p 1), ( ) 1/2 b την l 2 -νόρμα f 2 = a f(t)2 dt, την l 1 -νόρμα f 1 = b a f(t) dt, και την -νόρμα f = max{f(t) : t [a,b]}. Ανάλυση Πινάκων 15 / 62

18 Ισοδυναμία Νορμών Είναι σαφές από τα παραδείγματα που προηγήθηκαν πως υπάρχουν πολλές διαφορετικές συναρτήσεις : C ν R που ικανοποιούν τον ορισμό της νόρμας. Επιπλέον, είναι χαρακτηριστικό ότι μία νόρμα μπορεί να είναι περισσότερο εύχρηστη από κάποια άλλη για ένα συγκεκριμένο πρόβλημα. Σε πλήθος εφαρμογών, παρατηρείται το ϕαινόμενο η νόρμα στην οποία βασίζεται η θεωρία και η νόρμα που είναι πιο εύκολο να υπολογιστεί σε μία δεδομένη κατάσταση να μην ταυτίζονται. Επομένως, είναι σημαντικό να γνωρίζουμε τη σχέση που μπορεί να συνδέει δύο διαφορετικές νόρμες. Ομως, στο διανυσματικό χώρο C ν που μελετάμε (καθώς και σε όλους τους διανυσματικούς χώρους πεπερασμένης διάστασης), όλες οι νόρμες είναι ισοδύναμες, όπως θα διαπιστώσουμε στη συνέχεια. Ανάλυση Πινάκων 16 / 62

19 Οι διανυσματικές νόρμες μπορούν να χρησιμοποιηθούν για να μετρήσουμε τη σύγκλιση μιας ακολουθίας διανυσμάτων, με την έννοια ότι η επιλογή της νόρμας επηρεάζει την ταχύτητα σύγκλισης. Για μία νόρμα διανυσμάτων, μία ακολουθία διανυσμάτων x (k) C ν (k = 1,2,...) κι ένα x C ν, λέμε ότι η ακολουθία x (k) συγκλίνει στο x ως προς τη νόρμα αν ισχύει η σχέση lim x (k) x = 0. Επομένως, κατά τη μελέτη σύγκλισης μιας ακολουθίας απαιτείται (προς το παρόν) να είναι ξεκάθαρο ποια νόρμα χρησιμοποιείται. Ενα πολύ ενδιαφέρον ερώτημα που δημιουργείται είναι το αν μία ακολουθία διανυσμάτων μπορεί να συγκλίνει ως προς μία νόρμα και να μη συγκλίνει ως προς μία άλλη, δηλαδή το αν το όριο επηρεάζεται από τη νόρμα που επιλέγεται. Για να απαντήσουμε το συγκεκριμένο ερώτημα, θα χρειαστούμε ένα γενικό λήμμα σχετικά με τις ιδιότητες συνέχειας των νορμών. Ανάλυση Πινάκων 17 / 62

20 Λήμμα 2 Εστω μία νόρμα διανυσμάτων στο C ν και n διανύσματα x (1),x (2),...,x (n) C ν. Τότε η συνάρτηση g : C n R με είναι ομοιόμορφα συνεχής. g(z 1,z 2,...,z n ) = z 1 x (1) + z 2 x (2) + + z n x (n) Ανάλυση Πινάκων 18 / 62

21 Απόδειξη. Αρκεί να αποδείξουμε ότι η συνάρτηση g ικανοποιεί τη συνθήκη Lipschitz. Θεωρούμε δύο τυχαία διανύσματα u = u 1 x (1) + u 2 x (2) + + u n x (n) και v = v 1 x (1) + v 2 x (2) + + v n x (n) του C ν. Χρησιμοποιώντας τις βασικές ιδιότητες της νόρμας, βλέπουμε ότι g(u 1,u 2,...,u n ) g(v 1,v 2,...,v n ) = u v u v = (u1 v 1 )x (1) + (u 2 v 2 )x (2) + + (u n v n )x (n) u 1 v 1 x (1) + u 2 v 2 x (2) + + u n v n x (n). Επομένως, g(u 1,u 2,...,u n ) g(v 1,v 2,...,v n ) c max{ u i v i : i = 1,2,...,n}, όπου c = n max{ x (i) : i = 1,2,...,n} η απαιτούμενη σταθερά. Ανάλυση Πινάκων 19 / 62

22 Πόρισμα 2 Κάθε νόρμα στο C ν είναι ομοιόμορφα συνεχής συνάρτηση των στοιχείων του διανύσματος. Απόδειξη. Η απόδειξη προκύπτει άμεσα από το Λήμμα 2 αν θέσουμε n = ν και θεωρήσουμε ότι τα διανύσματα x (1),x (2),...,x (n) C ν είναι τα στοιχεία της κανονικής βάσης του C ν. Ανάλυση Πινάκων 20 / 62

23 Θεώρημα 3 Εστω a και b δύο τυχαίες νόρμες στο C ν. Τότε υπάρχουν θετικοί (πεπερασμένοι και σταθεροί) αριθμοί µ, M R τέτοιοι ώστε Απόδειξη. Θεωρούμε την l 1 -νόρμα µ x a x b M x a, x C ν. x 1 = [x1 x 2 x ν ] T 1 = x 1 + x x ν και μία τυχαία νόρμα στο C ν. Η μοναδιαία σφαίρα του C ν ως προς τη l 1 -νόρμα, B 1 (0,1) = {x C ν : x 1 = 1} είναι ένα κλειστό και ϕραγμένο υποσύνολο του C ν. Ανάλυση Πινάκων 21 / 62

24 Συνέχεια Απόδειξης. Επομένως, από το Θεώρημα του Weierstrass (Μία συνεχής πραγματική συνάρτηση ορισμένη σε ένα κλειστό και ϕραγμένο σύνολο Ω C ν είναι ϕραγμένη και επιτυγχάνει τις τιμές του supremum και του infimum επί του Ω.) έπεται ότι η συνεχής συνάρτηση : C ν [0,+ ) λαμβάνει μία ελάχιστη θετική τιμή µ και μία μέγιστη θετική τιμή M < +. Δηλαδή, για κάθε διάνυσμα y C ν, έχουμε y y 1 = y 1 y = 1 και µ 1 y 1 y 1 M < +. Συνεπώς, για κάθε διάνυσμα y C ν, ισχύει µ y 1 y M y 1. Ανάλυση Πινάκων 22 / 62

25 Συνέχεια Απόδειξης. Εφαρμόζοντας, τη σχέση αυτή για = a και για = b, έχουμε µ a y 1 y a M a y 1 και µ b y 1 y b M b y 1, απ όπου καταλήγουμε στη σχέση 1 M a y a y 1 1 µ b y b M b µ b y 1 M b µ a µ b y a, ολοκληρώνοντας την απόδειξη. Ανάλυση Πινάκων 23 / 62

26 Ειδικότερα για τις νόρμες 1, 2 και, έχουμε το ακόλουθο αποτέλεσμα. Πρόταση 1 Για κάθε διάνυσμα x C ν, ισχύουν οι ανισότητες x 2 x 1 ν x 2, και x x 1 ν x x x 2 ν x. Απόδειξη. Αφήνεται ως άσκηση. Ανάλυση Πινάκων 24 / 62

27 Μια άμεση συνέπεια του Θεωρήματος 3 είναι το γεγονός ότι η σύγκλιση μιας ακολουθίας διανυσμάτων ως προς μία νόρμα σε ένα μιγαδικό χώρο πεπερασμένης διάστασης είναι ανεξάρτητη από τη νόρμα που χρησιμοποιείται. Πόρισμα 3 Εστω a και b δύο τυχαίες νόρμες στο C ν και x (k) C ν (k = 1,2,...) μία ακολουθία διανυσμάτων. Τότε η ακολουθία x (k) συγκλινεί σε ένα διάνυσμα x ως προς τη νόρμα a αν και μόνο αν συγκλίνει στο x ως προς τη νόρμα b. Απόδειξη. Από το Πόρισμα 3, υπάρχουν θετικοί αριθμοί M,µ R τέτοιοι ώστε µ x i x a x i x b M x i x a, i = 1,2,...,ν και η απόδειξη είναι προφανής. Ανάλυση Πινάκων 25 / 62

28 Ορισμός 4 Δύο νόρμες a και b ονομάζονται ισοδύναμες αν κάθε ακολουθία διανυσμάτων x (k) C ν (k = 1,2,...) η οποία συγκλίνει σε ένα οποιοδήποτε διάνυσμα x C ν ως προς τη νόρμα a θα συγκλίνει στο ίδιο διάνυσμα και ως προς τη νόρμα b. Το Πόρισμα 3 μας εξασφαλίζει τα δύο επόμενα αποτελέσματα. Πόρισμα 4 Στο διανυσματικό χώρο C ν, όλες οι νόρμες είναι ισοδύναμες. Ανάλυση Πινάκων 26 / 62

29 Πόρισμα 5 Εστω μία νόρμα στο C ν και x (k) C ν (k = 1,2,...) μία ακολουθία διανυσμάτων. Τότε η ακολουθία x (k) συγκλινεί σε ένα διάνυσμα x C ν ως προς τη νόρμα αν και μόνο αν συγκλίνει στο x κατά στοιχείο, δηλαδή x (k) i x i για κάθε i = 1,2,...,ν. Απόδειξη. Αρκεί να εργαστούμε με την l 1 -νόρμα. Θα λέμε λοιπόν ότι μία ακολουθία x (k) C ν (k = 1,2,...) συγκλίνει σε ένα διάνυσμα x C ν αν η ακολουθία συγκλίνει στο x ως προς μία οποιαδήποτε νόρμα. Ανάλυση Πινάκων 27 / 62

30 Παρατήρηση 3 Σε ένα διανυσματικό χώρο άπειρης διάστασης, δύο νόρμες μπορεί να μην είναι ισοδύναμες. Για παράδειγμα, ας θεωρήσουμε στο διανυσματικό χώρο C[0, 1] των συνεχών στο κλειστό διάστημα [0, 1] πραγματικών συναρτήσεων, την ακολουθία f k (t) = 0, 0 t < 1/k 2(k 3/2 t k 1/2 ), 1/k t < 3/(2k) 2( k 3/2 t + 2k 1/2 ), 3/(2k) t < 2/k 0, 2/k t 1 (k = 1,2,...) και τις νόρμες 1, 2 και που ορίσαμε στην Παρατήρηση 3. Τότε έχουμε f k (t) 1 = 1 2 k 0, f k(t) 2 = και f k (t) = k +. Ανάλυση Πινάκων 28 / 62

31 Ολες οι γνωστές l p -νόρμες έχουν την ιδιότητα να εξαρτώνται αποκλειστικά από τα μέτρα των στοιχείων των διανυσμάτων. Επιπλέον, αποτελούν αύξουσες συναρτήσεις των μέτρων των στοιχείων. Οι δύο αυτές ιδιότητες αποδεικνύονται ισοδύναμες μεταξύ τους. Για ένα διάνυσμα x = [x i ] C ν, γράφουμε x = [ x i ], ενώ για δύο τυχαία διανύσματα x = [x i ],y = [y i ] C ν, γράφουμε x y αν x i y i για κάθε i = 1,2,...,ν. Ορισμός 5 Μία νόρμα διανυσμάτων καλείται μονότονη αν η σχέση x y συνεπάγεται ότι x y, ενώ καλείται απόλυτη αν x = x για κάθε x C ν. Ανάλυση Πινάκων 29 / 62

32 Θεώρημα 4 Μία νόρμα στον διανυσματικό χώρο C ν είναι μονότονη αν και μόνο αν είναι απόλυτη. Απόδειξη. Εστω ότι η νόρμα είναι μονότονη. Θεωρούμε ένα τυχαίο διάνυσμα x C ν και το y = x. Τότε x y x y και y x y x. Επομένως, x = y = x, δηλαδή η νόρμα είναι απόλυτη. Για το αντίστροφο, υποθέτουμε ότι η νόρμα είναι απόλυτη. Ανάλυση Πινάκων 30 / 62

33 Συνέχεια Απόδειξης. Εστω ένα διάνυσμα x C ν, ένας ϕυσικός αριθμός k {1,2,...,ν} κι ένας πραγματικός αριθμός a [0, 1]. Τότε ισχύει [x 1 x 2 ax k x ν ] T 1 a = 2 [x 1 x 2 x k x ν ] T + 1 a 2 x + ax 1 a [x 1 x 2 x k x ν ] T 1 a + x + a x 2 2 = 1 a 2 x + 1 a x + a x 2 = x. Επαναλαμβάνοντας τη σχέση αυτή για όλα τα στοιχεία του x, καταλήγουμε στο ότι για κάθε επιλογή πραγματικών αριθμών a 1,a 2,...,a ν [0,1], ισχύει: Ανάλυση Πινάκων 31 / 62

34 Συνέχεια Απόδειξης. [a 1 x 1 a 2 x 2 a ν x ν ] T [x1 x 2 x ν ] T = x. Αν λοιπόν θεωρήσουμε δύο τυχαία διανύσματα x,y C ν με x y, τότε υπάρχουν πραγματικοί αριθμοί a 1,a 2,...,a ν [0,1] και θ 1,θ 2,...,θ ν [0,2π] τέτοιοι ώστε [x 1 x 2 x ν ] T = [ a 1 e iθ 1y 1 a 2 e iθ 2y 2 a ν e iθ ν y ν ] T. Κατά συνέπεια, έχουμε [x 1 x 2 x ν ] T = [ a1 e iθ 1 y 1 a 2 e iθ 2 y 2 a ν e iθ ν y ν ] T = [a1 y 1 a 2 y 2 a ν y ν ] T [y1 y 2 y ν ] T. Δηλαδή, η νόρμα είναι μονότονη. Ανάλυση Πινάκων 32 / 62

35 Νόρμες Πινάκων στο C ν ν Γνωρίζουμε ότι το σύνολο C ν ν των ν ν μιγαδικών πινάκων είναι ένας διανυσματικός χώρος διάστασης ν 2, ο οποίος είναι ισόμορφος με το διανυσματικό χώρο C ν2. Μπορούμε λοιπόν να ορίσουμε νόρμες πινάκων με τρόπο ανάλογο με αυτόν που ορίσαμε τις νόρμες διανυσμάτων στην Παράγραφο 1. Ορισμός 6 Μία συνάρτηση : C ν ν R ονομάζεται νόρμα πινάκων αν για κάθε A,B C ν ν, ικανοποιεί τα ακόλουθα: (i) A 0 (μη αρνητική). (ii) A = 0 αν και μόνο αν A = 0. (iii) aa = a A για κάθε a C. (iv) A + B A + B (τριγωνική ανισότητα). (v) A B A B (υπο-πολλαπλασιαστική). Ανάλυση Πινάκων 33 / 62

36 Ειδικότερα, για κάθε νόρμα πινάκων και για το μοναδιαίο πίνακα I ν, ισχύει I ν = I 2 ν I ν 2 I ν 1. Επομένως, για κάθε A C ν ν, 1 I ν = AA 1 A A 1 A 1 1 A. Κάποιες από τις νόρμες διανυσμάτων που συναντήσαμε στην προηγούμενη παράγραφο αποτελούν νόρμες πινάκων όταν εφαρμόζονται στο διανυσματικό χώρο C ν ν, ενώ κάποιες άλλες όχι. Τα πιο γνωστά παραδείγματα είναι οι l p -νόρμες, για p = 1,2,. Ανάλυση Πινάκων 34 / 62

37 Η l 1 -νόρμα ενός πίνακα A = [ ] a ij C ν ν ορίζεται ως ν A l1 = a ij. Η νόρμα Frobenius (ή l 2 -νόρμα) ενός πίνακα A = [ ] a ij C ν ν ορίζεται ως 1/2 ν A F = a ij 2 = trace(a A), i,j=1 i,j=1 όπου με trace( ) συμβολίζουμε το ίχνος πίνακα. Η l -νόρμα ενός πίνακα A = [ ] a ij C ν ν ορίζεται ως A l = max{ a ij : i,j = 1,2,...,ν}. Ανάλυση Πινάκων 35 / 62

38 Με απλές πράξεις, μπορεί κανείς να επαληθεύσει ότι οι συναρτήσεις l1 και F αποτελούν πράγματι νόρμες πινάκων. Αντίθετα, η l, αν και ικανοποιεί τα (i) (iv) του Ορισμού 6, δεν ικανοποιεί το (v) του ορισμού και δεν είναι νόρμα πινάκων. Για παράδειγμα, [ ] 2 [ ] 1 1 [ ] = = 2 1 = = l l Αν για έναν πίνακα A C ν ν, συμβολίσουμε με a 1,a 2,...,a ν C ν τις στήλες του A, τότε ο A γράφεται A = [a 1 a 2 a ν ]. Ετσι μπορεί κανείς να παρατηρήσει ότι A 2 F = a a a ν l. Ανάλυση Πινάκων 36 / 62

39 Δεδομένου ότι η l 2 -νόρμα διανυσμάτων είναι ορθομοναδιαία αναλλοίωτη, για κάθε ορθομοναδιαίο πίνακα U C ν ν, ισχύει UA 2 F = [Ua 1 Ua 2 Ua ν ] 2 F = Ua Ua Ua ν 2 2 = a a a ν 2 2 = A 2 F. Επίσης, επειδή A F = A F για κάθε A C ν ν, έπεται ότι για κάθε ζεύγος ορθομοναδιαίων πινάκων U,V C ν ν, ισχύει UAV F = AV F = (AV) F = V A F = A F = A F. Αυτό σημαίνει ότι η νόρμα Frobenius στο C ν ν είναι ορθομοναδιαία αναλλοίωτη. Ιδιαίτερα σημαντικό ρόλο στις νόρμες πινάκων παίζουν οι επαγόμενες νόρμες, ή αλλιώς ϕυσικές νόρμες. Ανάλυση Πινάκων 37 / 62

40 Ορισμός 7 Εστω μία νόρμα διανυσμάτων στο C ν. Η επαγόμενη από την νόρμα στο C ν ν ορίζεται ως A = max x =1 Ax = max x 1 Ax Ax = max x 0 x. Θεώρημα 5 Εστω μία νόρμα διανυσμάτων στο C ν και η επαγόμενη από την νόρμα στο C ν ν. Τότε ισχύουν τα ακόλουθα: (i) Η είναι νόρμα πινάκων. (ii) Ax A x για κάθε x C ν. (iii) I ν = 1. Ανάλυση Πινάκων 38 / 62

41 Απόδειξη. (i) Για να αποδείξουμε ότι η συνάρτηση είναι νόρμα πινάκων, αρκεί να επαληθεύσουμε τον Ορισμό 6. Τα (i) (iv) του ορισμού προκύπτουν άμεσα από τη σχέση A = max Ax (A C ν ν ). x =1 Για το (v) του Ορισμού 6, θεωρούμε δύο πίνακες A,B C ν ν και παρατηρούμε ότι A B = max ( x 0 max Bx 0 ABx x A(Bx) Bx ( ) A(Bx) Bx = max x 0 Bx x ) ( ) Bx max = A B. x 0 x Ανάλυση Πινάκων 39 / 62

42 Συνέχεια Απόδειξης. (ii) Εστω ένας πίνακας A C ν ν. Τότε για κάθε μη μηδενικό διάνυσμα x C ν, ισχύει Ax A, x ή ισοδύναμα, Ax A x. Η τελευταία σχέση ισχύει κατά τετριμμένο τρόπο για x = 0. (iii) Προφανώς, έχουμε ότι I ν = max I ν x = max x = 1. x =1 x =1 Το θεώρημα αυτό παρέχει την αναγκαία συνθήκη I ν = 1 για μία νόρμα πινάκων στο C ν ν ώστε να επάγεται από κάποια νόρμα διανυσμάτων στο C ν, η οποία όμως δυστυχώς δεν είναι και ικανή συνθήκη. Ανάλυση Πινάκων 40 / 62

43 Πόρισμα 6 Εστω μία επαγόμενη (ϕυσική) νόρμα πινάκων στο C ν ν. (i) Για κάθε πίνακα A C ν ν, ισχύει A k A k, k = 1,2,... (ii) Για κάθε αντιστρέψιμο πίνακα A C ν ν, ισχύει A 1 A 1. Ανάλυση Πινάκων 41 / 62

44 Στη συνέχεια, αναφέρουμε τα σημαντικότερα παραδείγματα νορμών πινάκων που επάγονται από τις γνωστές l p -νόρμες και οι οποίες μπορούν να υπολογιστούν χωρίς να απαιτείται η χρήση του Ορισμού 7. Σε κάθε περίπτωση, θεωρούμε έναν τετραγωνικό πίνακα A = [ a ij ] C ν ν. Η νόρμα πινάκων μεγίστου αθροίσματος κατά στήλη στο C ν ν ορίζεται ως A 1 = max 1 j ν i=1 ν a ij. Η νόρμα 1 επάγεται από τη διανυσματική l 1 -νόρμα. Πράγματι, αν θεωρήσουμε τον πίνακα A γραμμένο ως προς τις στήλες, A = [a 1 a 2 a ν ], τότε για κάθε διάνυσμα x = [x i ] C ν, ισχύει Ax 1 = x 1 a 1 + x 2 a x ν a ν 1 x 1 a x 2 a x ν a ν 1 ( x 1 + x x ν ) max a k 1 1 k ν = x 1 A 1. Ανάλυση Πινάκων 42 / 62

45 Επομένως, max Ax 1 A 1. x 1 =1 Αν τώρα επιλέξουμε x = e k το διάνυσμα της κανονικής βάσης που αντιστοιχεί στην στήλη a k του A με τη μεγαλύτερη l 1 -νόρμα, τότε παρατηρούμε ότι Ae k 1 = a k 1 = A 1. Δηλαδή, max Ax 1 = A 1. x 1 =1 Συνεπώς, η νόρμα 1 επάγεται από τη διανυσματική l 1 -νόρμα και αποτελεί νόρμα πινάκων. Ανάλυση Πινάκων 43 / 62

46 Η νόρμα πινάκων μεγίστου αθροίσματος κατά γραμμή στο C ν ν ορίζεται ως ν A = max a ij. 1 i ν j=1 Η νόρμα επάγεται από τη διανυσματική l -νόρμα, δηλαδή A = max Ax. x =1 Η απόδειξη αυτής της παρατήρησης ακολουθεί τα βήματα της απόδειξης του προηγούμενου παραδείγματος και αφήνεται ως άσκηση. Προφανώς, και η νόρμα (ως επαγόμενη) αποτελεί νόρμα πινάκων. Ανάλυση Πινάκων 44 / 62

47 Η ϕασματική (τελεστική) νόρμα πινάκων στο C ν ν ορίζεται ως A 2 = max { λ : λ σ(a A) }, όπου με σ(a) συμβολίζουμε το ϕάσμα ενός πίνακα A C ν ν, δηλαδή το σύνολο των ιδιοτιμών του A. Παρατηρούμε ότι αν λ σ(a A) και x C ν ένα (μη μηδενικό) ιδιοδιάνυσμα του A A που αντιστοιχεί στην ιδιοτιμή λ, τότε (Ax) (Ax) = x A Ax = x λx = λ(x x) Ax 2 2 = λ x 2 2. Ανάλυση Πινάκων 45 / 62

48 Επομένως, οι ιδιοτιμές του πίνακα A A είναι μη αρνητικές κι έτσι μπορούν να οριστούν οι (μη αρνητικές) τετραγωνικές ρίζες τους. Επιπλέον, η ϕασματική νόρμα 2 είναι νόρμα πινάκων η οποία επάγεται από την Ευκλείδια νόρμα 2, δηλαδή A 2 = max Ax 2, x 2 =1 και είναι ορθομοναδιαία αναλλοίωτη, δηλαδή UAV 2 = A 2 για κάθε ζεύγος ορθομοναδιαίων πινάκων U,V C ν ν. Οι αποδείξεις αυτών των ιδιοτήτων της ϕασματικής νόρμας 2 αφήνονται ως ασκήσεις. Ανάλυση Πινάκων 46 / 62

49 Ακολουθώντας τα βήματα της απόδειξης του Λήμματος 2, μπορεί κανείς να επαληθεύσει το επόμενο αποτέλεσμα. Πρόταση 2 Μία νόρμα πινάκων : C ν ν [0,+ ) είναι ομοιόμορφα συνεχής συνάρτηση των στοιχείων του πίνακα. Η ισοδυναμία των νορμών πινάκων στο C ν ν ορίζεται και αποδεικνύεται με τον ίδιο ακριβώς τρόπο που ορίζεται και αποδεικνύεται η ισοδυναμία των νορμών διανυσμάτων στο C ν. Επιπλέον, για τις νόρμες πινάκων 1, 2,, F και l1, έχουμε το ακόλουθο αποτέλεσμα. Ανάλυση Πινάκων 47 / 62

50 Πρόταση 3 Για κάθε πίνακα A C ν ν, ισχύουν οι ανισότητες 1 ν A 2 ( A 1 ή A ) ν A 2, 1 ν A F ( A 1 ή A ) ν A F, 1 ν A A 1 ν A, 1 ν A F A 2 A F και ( A 1 ή A ή A F ) A l1 ( ν A 1 ή ν A ή ν A F ). Απόδειξη. Αφήνεται ως άσκηση. Ανάλυση Πινάκων 48 / 62

51 Φασματική Ακτίνα και Νόρμες Πινάκων Εστω ένας πίνακας A C ν ν με ϕάσμα σ(a) = {λ C : det(λi ν A) = 0}. Η ϕασματική ακτίνα του A ορίζεται ως ρ(a) = max{ λ : λ σ(a)}. Θεώρημα 6 Εστω μία νόρμα πινάκων στο C ν ν. Τότε για κάθε A C ν ν, ισχύει ρ(a) A. Ανάλυση Πινάκων 49 / 62

52 Απόδειξη. Για κάθε ιδιοτιμή λ του πίνακα A, ισχύει λ ρ(a). Επιπλέον, υπάρχει τουλάχιστον μία ιδιοτιμή λ 0 σ(a) τέτοια ώστε λ 0 = ρ(a). Θεωρούμε ακόμη ένα ιδιοδιάνυσμα x 0 C ν του A που αντιστοιχεί στην ιδιοτιμή λ 0 και τον ν ν πίνακα X 0 = [x 0 x 0 x 0 ] (δηλαδή, με όλες τις στήλες του ίσες με x 0 ). Τότε έχουμε AX 0 = λ 0 X 0 και λ 0 X 0 = λ 0 X 0 = AX 0 A X 0. Επομένως, ρ(a) = λ 0 A. Ανάλυση Πινάκων 50 / 62

53 Η ϕασματική ακτίνα δεν αποτελεί νόρμα πινάκων. Είναι αξιοσημείωτο ότι η σχέση ρ(a) = 0 δεν συνεπάγεται ότι A = 0, ενώ μπορεί κανείς να βρει δύο πίνακες A,B C ν ν τέτοιους ώστε ρ(a + B) > ρ(a) + ρ(b). Παρ όλα αυτά, η σχέση ρ(a) A (για οποιαδήποτε νόρμα πινάκων) του Θεωρήματος 6 εξασφαλίζει ότι η συνάρτηση ρ( ) : C ν ν [0,+ ) είναι ομοιόμορφα συνεχής συνάρτηση των στοιχείων του πίνακα. Από το σημείο αυτό και για τη συνέχεια, μας είναι απαραίτητο το γνωστό Λήμμα του Schur. Λήμμα 3 (Schur) Εστω ένας τυχαίος πίνακας A C ν ν. Τότε υπάρχουν ένας ορθομοναδιαίος πίνακας U C ν ν κι ένας άνω τριγωνικός πίνακας T C ν ν με διαγώνια στοιχεία τις ιδιοτιμές του A (λαμβάνοντας υπόψη και τις πολλαπλότητες), τέτοιοι ώστε A = UTU. Ανάλυση Πινάκων 51 / 62

54 Απόδειξη. Εστω λ 1,λ 2,...,λ ν οι (όχι κατ ανάγκη διακεκριμένες) ιδιοτιμές του A και x 1 C ν ένα ιδιοδιάνυσμα του A, με x 1 x 1 = 1, το οποίο αντιστοιχεί στην ιδιοτιμή λ 1 του A. Θεωρούμε επίσης μία ορθοκανονική βάση {x 1,w 2,w 3,...,w ν } του C ν και τον αντίστοιχο ορθομοναδιαίο πίνακα W 1 = [x 1 w 2 w 3 w ν ] = [ x 1 Ŵ 1 ] C ν ν, όπου Ŵ 1 = [w 2 w 3 w ν ] C ν (ν 1). Αφού w 2 x 1 = w 3 x 1 = = wνx 1 = 0, έπεται ότι Ŵ 1 x 1 = 0. Κατά συνέπεια, με απλές πράξεις βλέπουμε ότι [ ] x W 1 AW 1 = 1 A [ [ ] ] x [Ax1 ] x 1 Ŵ 1 = 1 AŴ 1 = Ŵ 1 [ x 1 λ 1 x 1 x 1 AŴ 1 Ŵ 1 λ 1 x 1 Ŵ 1 AŴ 1 ] Ŵ 1 = [ λ1 x 1 AŴ 1 0 Ŵ 1 AŴ 1 ]. Ανάλυση Πινάκων 52 / 62

55 Συνέχεια Απόδειξης. Ο (ν 1) (ν 1) πίνακας A 2 = Ŵ 1 AŴ 1 έχει ιδιοτιμές ακριβώς τις λ 2,λ 3,...,λ ν. Ομοίως με παραπάνω, μπορούμε να κατασκευάσουμε έναν (ν 1) (ν 1) ορθομοναδιαίο πίνακα W 2 = [ ] x 2 Ŵ 2 C (ν 1) (ν 1) (όπου Ŵ 2 C (ν 1) (ν 2) ), τέτοιον ώστε Επομένως, [ W 2 W 2 A 2 W 2 = ] [ W AW 1 0 W 2 [ λ2 x 2 A 2Ŵ2 0 Ŵ 2 A 2Ŵ2 ] = ]. λ 1 0 λ 2 x 2 A 2Ŵ2 0 0 Ŵ 2 A 2Ŵ2, όπου ο (ν 2) (ν 2) πίνακας A 3 = Ŵ 2 A 2 Ŵ2 έχει ιδιοτιμές ακριβώς τις λ 3,...,λ ν. Ανάλυση Πινάκων 53 / 62

56 Συνέχεια Απόδειξης. Επαναλαμβάνοντας τα ίδια βήματα, μπορούμε να κατασκευάσουμε συνολικά ν 1 ορθομοναδιαίους πίνακες W 1 C ν ν, W 2 C (ν 1) (ν 1), W 3 C (ν 2) (ν 2),..., W ν 1 C 2 2 τέτοιους ώστε ο πίνακας U = W 1 [ W 2 ][ I2 0 0 W 3 ] [ Iν W ν 1 ] να ικανοποιεί τη σχέση U AU = λ 1 0 λ λ λ ν. Ανάλυση Πινάκων 54 / 62

57 Στο θεώρημα που ακολουθεί αποδεικνύεται ότι η ϕασματική ακτίνα ρ(a) είναι το μέγιστο κάτω ϕράγμα των νορμών πινάκων. Θεώρημα 7 Εστω ένας πίνακας A C ν ν κι ένας πραγματικός αριθμός ε > 0. Τότε υπάρχει μία νόρμα πινάκων τέτοια ώστε A ρ(a) + ε. Απόδειξη. Από το Λήμμα 3 του Schur, υπάρχουν ένας ορθομοναδιαίος πίνακας U C ν ν και ένας άνω τριγωνικός πίνακας T C ν ν τέτοιοι ώστε A = UTU. Τα διαγώνια στοιχεία του T, λ 1,λ 2,...,λ ν, είναι οι ιδιοτιμές του πίνακα A, λαμβάνοντας υπόψη και τις πολλαπλότητες. Θεωρούμε ένα διαγώνιο πίνακα D t = diag{t,t 2,...,t ν } για κάποιον πραγματικό αριθμό t 0. Ο αντίστροφος του D t είναι ο D 1 t = diag{t 1,t 2,...,t ν }. Ανάλυση Πινάκων 55 / 62

58 Συνέχεια Απόδειξης. Υπολογίζουμε τον πίνακα D t TD 1 t = λ 1 t 1 t 2 t ν+1 0 λ 2 t 1 t ν λ 3 t ν λ ν, όπου με συμβολίζουμε (μιγαδικούς) αριθμούς ανεξάρτητους του t. Για t > 0 αρκετά μεγάλο, το άθροισμα των μέτρων όλων των μη διαγωνίων στοιχείων του D t TD 1 t είναι μικρότερο ή ίσο του ε > 0 και συνεπώς, D t TD 1 t 1 ρ(a) + ε. Ανάλυση Πινάκων 56 / 62

59 Συνέχεια Απόδειξης. Ας ορίσουμε τώρα τη συνάρτηση UD 1 t : C ν ν [0,+ ), με M UD 1 t = D t U MUD 1 t 1 = (UD 1 t ) 1 MUD 1 t 1, M C ν ν. Μπορούμε να επαληθεύσουμε ότι, αφού ο πίνακας UD 1 t είναι αντιστρέψιμος, η συνάρτηση UD 1, είναι μία νόρμα πινάκων για την οποία t προφανώς ισχύει ότι A UD 1 = D t TD 1 t t 1 ρ(a) + ε. Ανάλυση Πινάκων 57 / 62

60 Θεώρημα 8 Εστω ένα πίνακας A C ν ν. Τότε lima k = 0 αν και μόνο αν ρ(a) < 1. Απόδειξη. Αν lima k = 0, τότε είναι προφανές ότι για κάθε ιδιοτιμή λ σ(a), ισχύει limλ k = 0. Αυτό σημαίνει ότι όλες οι ιδιοτιμές του A έχουν μέτρο μικρότερο του 1 κι επομένως, ρ(a) < 1. Για το αντίστροφο, υποθέτουμε ότι ρ(a) < 1. Τότε, από το Θεώρημα 7, υπάρχει μία νόρμα πινάκων τέτοια ώστε A < 1. Αφού για κάθε ϕυσικό αριθμό k, ισχύει A k A k, έπεται ότι lim A k lim A k = 0. Ανάλυση Πινάκων 58 / 62

61 Ολοκληρώνοντας το πρώτο κεφάλαιο, παρουσιάζουμε κάποιες ενδιαφέρουσες (κυρίως από μεριάς εφαρμογών) ιδιότητες των νορμών πινάκων. Οι αποδείξεις τους παραλείπονται διότι είναι τεχνικές και απαιτούν σειρά άλλων αποτελεσμάτων που απέχουν από τους στόχους των συγκεκριμένων διαλέξεων. Θεώρημα 9 Αν είναι μία ορθομοναδιαία αναλλοίωτη νόρμα πινάκων στο C ν ν, τότε A 2 A για κάθε πίνακα A C ν ν. Επιπλέον, η ϕασματική νόρμα 2 είναι η μοναδική νόρμα πινάκων στο C ν ν η οποία είνακ επαγόμενη και ορθομοναδιαία αναλλοίωτη. Ανάλυση Πινάκων 59 / 62

62 Θεώρημα 10 Εστω ένα πίνακας A C ν ν. (i) Για κάθε νόρμα πινάκων στο C ν ν, ισχύει ρ(a) = lim A k 1/k. (ii) Αν υπάρχει νόρμα πινάκων στο C ν ν τέτοια ώστε I ν A < 1, τότε ο πίνακας A είναι αντιστρέψιμος και A 1 = + k=0 (I ν A) k. Ανάλυση Πινάκων 60 / 62

63 Πόρισμα 7 Εστω ένα πίνακας A C ν ν. Αν για τα στοιχεία της κυρίας διαγωνίου του A ισχύει a ii > a i1 + + a i,i 1 + a i,i a i,ν, i = 1,2,...,ν, τότε ο πίνακας A είναι αντιστρέψιμος. Ενας πίνακας που ικανοποιεί την υπόθεση του παραπάνω πορίσματος λέμε ότι έχει ισχυρή διαγώνια κυριαρχία. Ανάλυση Πινάκων 61 / 62

64 Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στα πλαίσια του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα» του ΕΜΠ έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ενωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους.