Αλγόριθμοι & Βελτιστοποίηση

Αλγόριθμοι & Βελτιστοποίηση ΠΜΣ / ΕΤΥ : Μεταπτυχιακό Μάθημα 4η Ενότητα: Γραμμικά Συστήματα Εξισωσεων και Pivots Χρήστος Ζαρολιάγκης (zaro@ceid.upatras.gr) Σπύρος Κοντογιάννης (kontog@cs.uoi.gr) Τμήμα Μηχανικών Η/Υ & Πληροφορικής Πανεπιστήμιο Πατρών ευτέρα, 21 Νοεμβρίου 2016

Σκελετός Ομιλίας 1 Επίλυση Γραμμικών Συστημάτων Εξισώσεων με Pivots 2 Χαρακτηρισμός Γραμμικών Συστημάτων Εξισώσεων με Pivots 3 Πολυπλοκότητα Επίλυσης Γραμμικών Συστημάτων Εξισώσεων 4 εύτερη Εργαστηριακή Άσκηση Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [2 / 23]

Block Pivots & Schur Complement x K x [n]\k y K = A B y [m]\k = C D Ομαδική ανταλλαγή (γίνεται αν το A είναι αντιστρέψιμο) ΟΛΩΝ των στοιχείων από γραμμές και στήλες του Α: y K x [n]\k x K =?? y [m]\k =?? Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [3 / 23]

Block Pivots & Schur Complement x K x [n]\k y K = A B y [m]\k = C D Ομαδική ανταλλαγή (γίνεται αν το A είναι αντιστρέψιμο) ΟΛΩΝ των στοιχείων από γραμμές και στήλες του Α: y K x [n]\k x K = A 1 A 1 B y [m]\k = CA 1 D CA 1 B Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [3 / 23]

Block Pivots & Schur Complement x K x [n]\k y K = A B y [m]\k = C D Ομαδική ανταλλαγή (γίνεται αν το A είναι αντιστρέψιμο) ΟΛΩΝ των στοιχείων από γραμμές και στήλες του Α: y K x [n]\k x K = A 1 A 1 B y [m]\k = CA 1 D CA 1 B Schur Complement του μητρώου E = [A, B; C, D] ως προς το (αντιστρέψιμο) υπομητρώο A: S = D CA 1 B. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [3 / 23]

Block Pivots & Schur Complement x K x [n]\k y K = A B y [m]\k = C D Ομαδική ανταλλαγή (γίνεται αν το A είναι αντιστρέψιμο) ΟΛΩΝ των στοιχείων από γραμμές και στήλες του Α: y K x [n]\k x K = A 1 A 1 B y [m]\k = CA 1 D CA 1 B Schur Complement του μητρώου E = [A, B; C, D] ως προς το (αντιστρέψιμο) υπομητρώο A: S = D CA 1 B. Πολύ χρήσιμος μετασχηματισμός. Πχ, το (τετραγωνικό) μητρώο E είναι αντιστρέψιμο ΑΝΝ και τα μητρώα A και S = D CA 1 B είναι αντιστρέψιμα. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [3 / 23]

Χειρισμός Γραμμικών Συστημάτων ΕΡΩΤΗΣΗ: Τι γίνεται με τη λύση του γραμμικού συστήματος Ax = b, για κάποια A R m n, b R m ; Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [4 / 23]

Χειρισμός Γραμμικών Συστημάτων ΕΡΩΤΗΣΗ: Τι γίνεται με τη λύση του γραμμικού συστήματος Ax = b, για κάποια A R m n, b R m ; Μελετάμε το σύστημα [ γραμμικών ] συναρτήσεων x y = Ax b z = [A, b] θεωρώντας νέα μεταβλητή z, z που τη διατηρούμε πάντα στη στήλη της, και θέτουμε τιμή 1: x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [4 / 23]

Χειρισμός Γραμμικών Συστημάτων ΕΡΩΤΗΣΗ: Τι γίνεται με τη λύση του γραμμικού συστήματος Ax = b, για κάποια A R m n, b R m ; Μελετάμε το σύστημα [ γραμμικών ] συναρτήσεων x y = Ax b z = [A, b] θεωρώντας νέα μεταβλητή z, z που τη διατηρούμε πάντα στη στήλη της, και θέτουμε τιμή 1: x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L Εκτελούμε όσο το δυνατόν περισσότερα pivots ( K = M ) ανάμεσα σε x μεταβλητές και y μεταβλητές: y K x N z = 1 x M = B K,M B K,N d K y L = B L,M B L,N = O d L Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [4 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (Ι) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Κρίσιμη Παρατήρηση: Είναι δυνατόν να βρούμε ένα διάνυσμα λύσεων ( x, ȳ, z) τ.ώ. ȳ = 0 και z = 1; Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [5 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (Ι) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Κρίσιμη Παρατήρηση: Είναι δυνατόν να βρούμε ένα διάνυσμα λύσεων ( x, ȳ, z) τ.ώ. ȳ = 0 και z = 1; ΑΝ ναι (πώς ελέγχεται αυτό;) ΤΟΤΕ το Ax = b είναι επιλύσιμο (μια λύση είναι το x), ΑΛΛΙΩΣ το Ax = b είναι μη επιλύσιμο. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [5 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (ΙΙ) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Εστω ότι υπάρχει λύση ( x, ȳ, z) : ȳ = 0, z = 1. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [6 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (ΙΙ) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Εστω ότι υπάρχει λύση ( x, ȳ, z) : ȳ = 0, z = 1. ΑΝ d L 0 ΤΟΤΕ 0 = ȳ L = B L,M ȳ K + d L 0 (ΑΤΟΠΟ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [6 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (ΙΙ) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Εστω ότι υπάρχει λύση ( x, ȳ, z) : ȳ = 0, z = 1. ΑΝ d L 0 ΤΟΤΕ 0 = ȳ L = B L,M ȳ K + d L 0 (ΑΤΟΠΟ) ΑΛΛΙΩΣ (d L = 0) οι λύσεις περιγράφονται ως εξής: ȳ K = 0, ȳ L = 0, z = 1 / «ενδιαφέρουσες» περιπτώσεις για Ax = b / x N R N / «ανεξάρτητες» μεταβλητές / x M = B K,N x N + d K / «εξαρτημένες» μεταβλητές / Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [6 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (ΙΙ) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Εστω ότι υπάρχει λύση ( x, ȳ, z) : ȳ = 0, z = 1. ΑΝ d L 0 ΤΟΤΕ 0 = ȳ L = B L,M ȳ K + d L 0 (ΑΤΟΠΟ) ΑΛΛΙΩΣ (d L = 0) οι λύσεις περιγράφονται ως εξής: ȳ K = 0, ȳ L = 0, z = 1 / «ενδιαφέρουσες» περιπτώσεις για Ax = b / x N R N / «ανεξάρτητες» μεταβλητές / x M = B K,N x N + d K / «εξαρτημένες» μεταβλητές / Το Ax = b είναι μη επιλύσιμο ΑΝΝ L d L 0. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [6 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (ΙΙ) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Εστω ότι υπάρχει λύση ( x, ȳ, z) : ȳ = 0, z = 1. ΑΝ d L 0 ΤΟΤΕ 0 = ȳ L = B L,M ȳ K + d L 0 (ΑΤΟΠΟ) ΑΛΛΙΩΣ (d L = 0) οι λύσεις περιγράφονται ως εξής: ȳ K = 0, ȳ L = 0, z = 1 / «ενδιαφέρουσες» περιπτώσεις για Ax = b / x N R N / «ανεξάρτητες» μεταβλητές / x M = B K,N x N + d K / «εξαρτημένες» μεταβλητές / Το Ax = b είναι μη επιλύσιμο ΑΝΝ L d L 0. Q Μία ή άπειρες λύσεις, όταν L = d L = 0; Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [6 / 23]

Επιλυσιμότητα Γραμμικών Συστημάτων (ΙΙ) x M x N z = 1 y K = A K,M A K,N b K y L = A L,M A L,N b L ρ pivots x M = y K B K,M x N B K,N z = 1 d K y L = B L,M B L,N = O d L Εστω ότι υπάρχει λύση ( x, ȳ, z) : ȳ = 0, z = 1. ΑΝ d L 0 ΤΟΤΕ 0 = ȳ L = B L,M ȳ K + d L 0 (ΑΤΟΠΟ) ΑΛΛΙΩΣ (d L = 0) οι λύσεις περιγράφονται ως εξής: ȳ K = 0, ȳ L = 0, z = 1 / «ενδιαφέρουσες» περιπτώσεις για Ax = b / x N R N / «ανεξάρτητες» μεταβλητές / x M = B K,N x N + d K / «εξαρτημένες» μεταβλητές / Το Ax = b είναι μη επιλύσιμο ΑΝΝ L d L 0. Q Μία ή άπειρες λύσεις, όταν L = d L = 0; Μοναδική λύση (δεδομένης επιλυσιμότητας) ΑΝΝ N = (καμιά x μεταβλητή στις στήλες). Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [6 / 23]

Σκελετός Ομιλίας 1 Επίλυση Γραμμικών Συστημάτων Εξισώσεων με Pivots 2 Χαρακτηρισμός Γραμμικών Συστημάτων Εξισώσεων με Pivots 3 Πολυπλοκότητα Επίλυσης Γραμμικών Συστημάτων Εξισώσεων 4 εύτερη Εργαστηριακή Άσκηση Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [7 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (Ι) Πρόταση (PROP.2.4.1 [FMW2007]) Εστω μητρώο A R n n. Οι ακόλουθες προτάσεις είναι ισοδύναμες: 1 Το A είναι αντιστρέψιμο (non-singular). / Γραμ. ανεξ. γραμμές του A / 2 x R n, Ax = 0 x = 0 / ns(a) = {0} και rank(a) = n / 3 Το Ax = b έχει μοναδική λύση, για κάθε b R n. 4 Το Ax = b έχει μοναδική λύση, για κάποιο b R n. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [8 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (Ι) Πρόταση (PROP.2.4.1 [FMW2007]) Εστω μητρώο A R n n. Οι ακόλουθες προτάσεις είναι ισοδύναμες: 1 Το A είναι αντιστρέψιμο (non-singular). / Γραμ. ανεξ. γραμμές του A / 2 x R n, Ax = 0 x = 0 / ns(a) = {0} και rank(a) = n / 3 Το Ax = b έχει μοναδική λύση, για κάθε b R n. 4 Το Ax = b έχει μοναδική λύση, για κάποιο b R n. ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) (1) (2) : ΕΣΤΩ (μοναδικό) A 1 : AA 1 = A 1 A = eye(n). Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [8 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (Ι) Πρόταση (PROP.2.4.1 [FMW2007]) Εστω μητρώο A R n n. Οι ακόλουθες προτάσεις είναι ισοδύναμες: 1 Το A είναι αντιστρέψιμο (non-singular). / Γραμ. ανεξ. γραμμές του A / 2 x R n, Ax = 0 x = 0 / ns(a) = {0} και rank(a) = n / 3 Το Ax = b έχει μοναδική λύση, για κάθε b R n. 4 Το Ax = b έχει μοναδική λύση, για κάποιο b R n. ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) (1) (2) : ΕΣΤΩ (μοναδικό) A 1 : AA 1 = A 1 A = eye(n). ΑΝ x 0 : Ax = 0 Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [8 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (Ι) Πρόταση (PROP.2.4.1 [FMW2007]) Εστω μητρώο A R n n. Οι ακόλουθες προτάσεις είναι ισοδύναμες: 1 Το A είναι αντιστρέψιμο (non-singular). / Γραμ. ανεξ. γραμμές του A / 2 x R n, Ax = 0 x = 0 / ns(a) = {0} και rank(a) = n / 3 Το Ax = b έχει μοναδική λύση, για κάθε b R n. 4 Το Ax = b έχει μοναδική λύση, για κάποιο b R n. ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) (1) (2) : ΕΣΤΩ (μοναδικό) A 1 : AA 1 = A 1 A = eye(n). ΑΝ x 0 : Ax = 0 ΤΟΤΕ x 0 : x = eye(n)x = A 1 Ax = A 1 0 = 0 (ΑΤΟΠΟ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [8 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. ΑΝ x, x : x x A x = b A x = b ΤΟΤΕ ˆx = x x 0 : Aˆx = 0 (ΑΤΟΠΟ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. ΑΝ x, x : x x A x = b A x = b ΤΟΤΕ ˆx = x x 0 : Aˆx = 0 (3) (4) : Τετριμμένο. (ΑΤΟΠΟ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. ΑΝ x, x : x x A x = b A x = b ΤΟΤΕ ˆx = x x 0 : Aˆx = 0 (3) (4) : Τετριμμένο. (4) (1) : (ΑΤΟΠΟ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. ΑΝ x, x : x x A x = b A x = b ΤΟΤΕ ˆx = x x 0 : Aˆx = 0 (3) (4) : Τετριμμένο. (4) (1) : ΕΣΤΩ b R m : το Ax = b έχει μοναδική λύση. (ΑΤΟΠΟ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. ΑΝ x, x : x x A x = b A x = b ΤΟΤΕ ˆx = x x 0 : Aˆx = 0 (3) (4) : Τετριμμένο. (4) (1) : ΕΣΤΩ b R m : το Ax = b έχει μοναδική λύση. ΤΟΤΕ Μπορούν να εκτελεστούν και τα n pivots: x z = 1 y = A b n pivots y z = 1 x = B d (ΑΤΟΠΟ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. ΑΝ x, x : x x A x = b A x = b ΤΟΤΕ ˆx = x x 0 : Aˆx = 0 (3) (4) : Τετριμμένο. (4) (1) : ΕΣΤΩ b R m : το Ax = b έχει μοναδική λύση. ΤΟΤΕ Μπορούν να εκτελεστούν και τα n pivots: x z = 1 y = A b n pivots y z = 1 x = B d (ΑΤΟΠΟ) ΤΟΤΕ z = eye(n)y = y = Ax = ABy (ισοδύναμα Γ.Σ.Ε). ΤΟΤΕ s = eye(n)x = x = By = BAx (ισοδύναμα Γ.Σ.Ε). Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Χαρακτηρισμός Επιλυσιμότητας Γ.Σ.Ε. (ΙΙ) ΕΞΗΓΗΣΗ: (PROP.2.4.1 [FMW2007]) συνέχεια (2) (3) : ΕΣΤΩ x R n, Ax = 0 x = 0. ΑΝ x, x : x x A x = b A x = b ΤΟΤΕ ˆx = x x 0 : Aˆx = 0 (3) (4) : Τετριμμένο. (4) (1) : ΕΣΤΩ b R m : το Ax = b έχει μοναδική λύση. ΤΟΤΕ Μπορούν να εκτελεστούν και τα n pivots: x z = 1 y = A b n pivots y z = 1 x = B d (ΑΤΟΠΟ) ΤΟΤΕ z = eye(n)y = y = Ax = ABy (ισοδύναμα Γ.Σ.Ε). ΤΟΤΕ s = eye(n)x = x = By = BAx (ισοδύναμα Γ.Σ.Ε). eye(n) = AB = BA και B = A 1 (μοναδικότητα A 1 ). Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [9 / 23]

Παράδειγμα Ελέγχου Γ.Σ.Ε. (Ι) ΑΣΚΗΣΗ (Ex.2-4-6 [FMW2007]): Να επιλυθούν τα ακόλουθα γραμμικά συστήματα. Αν υπάρχουν άπειρες λύσεις, να περιγραφούν οι εξαρτημένες μεταβλητές ως προς τις ανεξάρτητες μεταβλητές (που θα θεωρήσετε). Να δοθεί επίσης, όπου υπάρχει, η σχέση εξάρτησης μεταξύ των γραμμικών περιορισμών που εκφράζει κάθε σύστημα: 2 1 1 1 1 Ax = a : A = 1 2 1 2 a = 1 Bx = b : B = Cx = c : C = 4 1 1 1 1 1 1 2 1 1 0 1 1 3 2 5 1 1 1 2 1 1 1 1 2 1 1 1 b = c = 5 2 1 1 3 2 2 1. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [10 / 23]

Παράδειγμα Ελέγχου Γ.Σ.Ε. (ΙΙ) 1 ΑΣΚΗΣΗ 2-4-6: Επίλυση του Ax = a Παραδείγματα Επίλυσης Γραμμικών Συστημάτων (ΙI) A = 2-1 1 1-1 2-1 -2 4 1 1-1 >> a = [ 1; 1; 5]; >> T = totbl(a,a); x1 x2 x3 x4 1 ------------------------------------------------------- y1 = 2.0000-1.0000 1.0000 1.0000-1.0000 y2 = -1.0000 2.0000-1.0000-2.0000-1.0000 y3 = 4.0000 1.0000 1.0000-1.0000-5.0000 >> T = ljx(t,1,1); y1 x2 x3 x4 1 ------------------------------------------------------- x1 = 0.5000 0.5000-0.5000-0.5000 0.5000 y2 = -0.5000 1.5000-0.5000-1.5000-1.5000 y3 = 2.0000 3.0000-1.0000-3.0000-3.0000 >> T = ljx(t,2,2); y1 y2 x3 x4 1 ------------------------------------------------------- x1 = 0.6667 0.3333-0.3333 0.0000 1.0000 x2 = 0.3333 0.6667 0.3333 1.0000 1.0000 y3 = 3.0000 2.0000 0.0000 0.0000 0.0000 Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [11 / 23]

Παράδειγμα Ελέγχου Γ.Σ.Ε. (ΙΙ) 1 ΑΣΚΗΣΗ 2-4-6: Επίλυση του Ax = a A = 2-1 1 1-1 2-1 -2 4 1 1-1 >> a = [ 1; 1; 5]; >> T = totbl(a,a); Παραδείγματα Επίλυσης Γραμμικών Συστημάτων (ΙI) Άπειρες λύσεις: Χ 1 = 1/3 * Χ 3 +1, Χ 2 = 1/3 * Χ 3 + Χ 4 + 1 Χ 3,Χ 4 R Εξάρτηση: Υ 3 = 3Υ 1 + 2Υ 2 x1 x2 x3 x4 1 ------------------------------------------------------- y1 = 2.0000-1.0000 1.0000 1.0000-1.0000 y2 = -1.0000 2.0000-1.0000-2.0000-1.0000 y3 = 4.0000 1.0000 1.0000-1.0000-5.0000 >> T = ljx(t,1,1); y1 x2 x3 x4 1 ------------------------------------------------------- x1 = 0.5000 0.5000-0.5000-0.5000 0.5000 y2 = -0.5000 1.5000-0.5000-1.5000-1.5000 y3 = 2.0000 3.0000-1.0000-3.0000-3.0000 >> T = ljx(t,2,2); y1 y2 x3 x4 1 ------------------------------------------------------- x1 = 0.6667 0.3333-0.3333 0.0000 1.0000 x2 = 0.3333 0.6667 0.3333 1.0000 1.0000 y3 = 3.0000 2.0000 0.0000 0.0000 0.0000 Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [11 / 23]

Παράδειγμα Ελέγχου Γ.Σ.Ε. (ΙΙΙ) 2 ΑΣΚΗΣΗ 2-4-6: Επίλυση του Bx = b Παραδείγματα Επίλυσης Γραμμικών Συστημάτων (ΙII) B = 1-1 1 2 1 1 0-1 1-3 2 5 >> b = [ 2;1;1]; >> T=totbl(B,b); x1 x2 x3 x4 1 ------------------------------------------------------- y1 = 1.0000-1.0000 1.0000 2.0000-2.0000 y2 = 1.0000 1.0000 0.0000-1.0000-1.0000 y3 = 1.0000-3.0000 2.0000 5.0000-1.0000 >> T=ljx(T,1,1); y1 x2 x3 x4 1 ------------------------------------------------------- x1 = 1.0000 1.0000-1.0000-2.0000 2.0000 y2 = 1.0000 2.0000-1.0000-3.0000 1.0000 y3 = 1.0000-2.0000 1.0000 3.0000 1.0000 >> T=ljx(T,2,2); y1 y2 x3 x4 1 ------------------------------------------------------- x1 = 0.5000 0.5000-0.5000-0.5000 1.5000 x2 = -0.5000 0.5000 0.5000 1.5000-0.5000 y3 = 2.0000-1.0000 0.0000 0.0000 2.0000 Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [12 / 23]

2 Παράδειγμα Ελέγχου Γ.Σ.Ε. (ΙΙΙ) ΑΣΚΗΣΗ 2-4-6: Επίλυση του Bx = b B = 1-1 1 2 1 1 0-1 1-3 2 5 >> b = [ 2;1;1]; >> T=totbl(B,b); Παραδείγματα Επίλυσης Γραμμικών Συστημάτων (ΙII) Μη επιλύσιμο σύστημα. Εξάρτηση? OXI (γιατί???) x1 x2 x3 x4 1 ------------------------------------------------------- y1 = 1.0000-1.0000 1.0000 2.0000-2.0000 y2 = 1.0000 1.0000 0.0000-1.0000-1.0000 y3 = 1.0000-3.0000 2.0000 5.0000-1.0000 >> T=ljx(T,1,1); y1 x2 x3 x4 1 ------------------------------------------------------- x1 = 1.0000 1.0000-1.0000-2.0000 2.0000 y2 = 1.0000 2.0000-1.0000-3.0000 1.0000 y3 = 1.0000-2.0000 1.0000 3.0000 1.0000 >> T=ljx(T,2,2); y1 y2 x3 x4 1 ------------------------------------------------------- x1 = 0.5000 0.5000-0.5000-0.5000 1.5000 x2 = -0.5000 0.5000 0.5000 1.5000-0.5000 y3 = 2.0000-1.0000 0.0000 0.0000 2.0000 Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [12 / 23]

Παράδειγμα Ελέγχου Γ.Σ.Ε. (IV) 3 ΑΣΚΗΣΗ 2-4-6: Επίλυση του Cx = c Παραδείγματα Επίλυσης Γραμμικών Συστημάτων (ΙV) Σ. 2016) 4η ενότητα [13 / 23] >> T=totbl(C,c); x1 x2 x3 1 ---------------------------------------------------- y1 = 1.0000-1.0000 1.0000-3.0000 y2 = 2.0000 1.0000 1.0000-2.0000 y3 = -1.0000-1.0000 2.0000-2.0000 y4 = 1.0000 1.0000-1.0000 1.0000 >> T=ljx(T,1,1); y1 x2 x3 1 ---------------------------------------------------- x1 = 1.0000 1.0000-1.0000 3.0000 y2 = 2.0000 3.0000-1.0000 4.0000 y3 = -1.0000-2.0000 3.0000-5.0000 y4 = 1.0000 2.0000-2.0000 4.0000 >> T=ljx(T,2,2); y1 y2 x3 1 ---------------------------------------------------- x1 = 0.3333 0.3333-0.6667 1.6667 x2 = -0.6667 0.3333 0.3333-1.3333 y3 = 0.3333-0.6667 2.3333-2.3333 y4 = -0.3333 0.6667-1.3333 1.3333 >> T=ljx(T,3,3); y1 y2 y3 1 ---------------------------------------------------- x1 = 0.4286 0.1429-0.2857 1.0000 x2 = -0.7143 0.4286 0.1429-1.0000 x3 = -0.1429 0.2857 0.4286 1.0000 y4 = Κοντογιάννης, Χ. -0.1429 Ζαρολιάγκης ΠΜΣ/ΕΤΥ 0.2857 : Αλγόριθμοι -0.5714 & Βελτιστοποίηση -0.0000 (Φθινόπωρο

Παράδειγμα Ελέγχου Γ.Σ.Ε. (IV) 3 ΑΣΚΗΣΗ 2-4-6: Επίλυση του Cx = c Παραδείγματα Επίλυσης Γραμμικών Συστημάτων (ΙV) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [13 / 23] >> T=totbl(C,c); Eπιλύσιμο σύστημα. x1 x2 x3 1 ---------------------------------------------------- Μοναδική λύση: y1 = 1.0000-1.0000 1.0000-3.0000 Χ y2 = 2.0000 1.0000 1.0000-2.0000 1 = 1, Χ 2 = -1, Χ 3 = 1 y3 = -1.0000-1.0000 2.0000-2.0000 Εξάρτηση? ΝΑΙ y4 = 1.0000 1.0000-1.0000 1.0000 >> T=ljx(T,1,1); y1 x2 x3 1 ---------------------------------------------------- x1 = 1.0000 1.0000-1.0000 3.0000 y2 = 2.0000 3.0000-1.0000 4.0000 y3 = -1.0000-2.0000 3.0000-5.0000 y4 = 1.0000 2.0000-2.0000 4.0000 >> T=ljx(T,2,2); y1 y2 x3 1 ---------------------------------------------------- x1 = 0.3333 0.3333-0.6667 1.6667 x2 = -0.6667 0.3333 0.3333-1.3333 y3 = 0.3333-0.6667 2.3333-2.3333 y4 = -0.3333 0.6667-1.3333 1.3333 >> T=ljx(T,3,3); y1 y2 y3 1 ---------------------------------------------------- x1 = 0.4286 0.1429-0.2857 1.0000 x2 = -0.7143 0.4286 0.1429-1.0000 x3 = -0.1429 0.2857 0.4286 1.0000 y4 = -0.1429 0.2857-0.5714-0.0000

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. A1 rank(a) = m = n. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. A1 rank(a) = m = n. Q2 Αποκλείεται να υπάρχει μοναδική λύση, για κάθε b R m. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. A1 rank(a) = m = n. Q2 Αποκλείεται να υπάρχει μοναδική λύση, για κάθε b R m. A2 rank(a) m <n. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. A1 rank(a) = m = n. Q2 Αποκλείεται να υπάρχει μοναδική λύση, για κάθε b R m. A2 rank(a) m <n. Q3 Υπάρχει το πολύ μια λύση, ανάλογα με το b R m. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. A1 rank(a) = m = n. Q2 Αποκλείεται να υπάρχει μοναδική λύση, για κάθε b R m. A2 rank(a) m <n. Q3 Υπάρχει το πολύ μια λύση, ανάλογα με το b R m. A3 rank(a) = n n. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. A1 rank(a) = m = n. Q2 Αποκλείεται να υπάρχει μοναδική λύση, για κάθε b R m. A2 rank(a) m <n. Q3 Υπάρχει το πολύ μια λύση, ανάλογα με το b R m. A3 rank(a) = n n. Q4 Υπάρχουν άπειρες λύσεις, ανεξάρτητα από το b R m. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Παραδείγματα Κατανόησης για Επίλυση Γ.Σ.Ε. ΑΣΚΗΣΗ (Ex.2-4-8 [FMW2007]): ώστε παραδείγματα μητρώων A R m n (δλδ ικανές συνθήκες, όχι όμως απαραίτητα αναγκαίες) ώστε για το σύστημα Ax = b να ισχύει κάποια από τις ακόλουθες ιδιότητες (χωριστά): Q1 Υπάρχει μοναδική λύση, για κάθε b R m. A1 rank(a) = m = n. Q2 Αποκλείεται να υπάρχει μοναδική λύση, για κάθε b R m. A2 rank(a) m <n. Q3 Υπάρχει το πολύ μια λύση, ανάλογα με το b R m. A3 rank(a) = n n. Q4 Υπάρχουν άπειρες λύσεις, ανεξάρτητα από το b R m. A4 rank(a) = m <n. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [14 / 23]

Αντιστρεψιμότητα Γινομένων Μητρώων ΑΣΚΗΣΗ (Ex.2-5-1.2 [FMW2007]): Νδο για οποιαδήποτε τετραγωνικά μητρώα A, B R n n, ισχύει ότι τα A, B είναι αντιστρέψιμα ΑΝ ΚΑΙ ΜΟΝΟ ΑΝ το A B είναι αντιστρέψιμο. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [15 / 23]

Αντιστρεψιμότητα Γινομένων Μητρώων ΑΣΚΗΣΗ (Ex.2-5-1.2 [FMW2007]): Νδο για οποιαδήποτε τετραγωνικά μητρώα A, B R n n, ισχύει ότι τα A, B είναι αντιστρέψιμα ΑΝ ΚΑΙ ΜΟΝΟ ΑΝ το A B είναι αντιστρέψιμο. ΕΞΗΓΗΣΗ: (Ex.2-5-1.2 [FMW2007]) Εστω αντιστρέψιμα μητρώα A, B, άρα υπάρχουν (και είναι μοναδικά) τα A 1, B 1.. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [15 / 23]

Αντιστρεψιμότητα Γινομένων Μητρώων ΑΣΚΗΣΗ (Ex.2-5-1.2 [FMW2007]): Νδο για οποιαδήποτε τετραγωνικά μητρώα A, B R n n, ισχύει ότι τα A, B είναι αντιστρέψιμα ΑΝ ΚΑΙ ΜΟΝΟ ΑΝ το A B είναι αντιστρέψιμο. ΕΞΗΓΗΣΗ: (Ex.2-5-1.2 [FMW2007]) Εστω αντιστρέψιμα μητρώα A, B, άρα υπάρχουν (και είναι μοναδικά) τα A 1, B 1. y = ABx A 1 y = A 1 ABx = Bx B 1 A 1 y = B 1 Bx B 1 A 1 y = x B 1 A 1 = (AB) 1 / από μοναδικότητα αντίστροφου /. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [15 / 23]

Αντιστρεψιμότητα Γινομένων Μητρώων ΑΣΚΗΣΗ (Ex.2-5-1.2 [FMW2007]): Νδο για οποιαδήποτε τετραγωνικά μητρώα A, B R n n, ισχύει ότι τα A, B είναι αντιστρέψιμα ΑΝ ΚΑΙ ΜΟΝΟ ΑΝ το A B είναι αντιστρέψιμο. ΕΞΗΓΗΣΗ: (Ex.2-5-1.2 [FMW2007]) Εστω αντιστρέψιμα μητρώα A, B, άρα υπάρχουν (και είναι μοναδικά) τα A 1, B 1. y = ABx A 1 y = A 1 ABx = Bx B 1 A 1 y = B 1 Bx B 1 A 1 y = x B 1 A 1 = (AB) 1 / από μοναδικότητα αντίστροφου / Εστω αντιστρέψιμο μητρώο A B. ΑΝ A (ή B) μη αντιστρέψιμο : z 0 : z A = 0. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [15 / 23]

Αντιστρεψιμότητα Γινομένων Μητρώων ΑΣΚΗΣΗ (Ex.2-5-1.2 [FMW2007]): Νδο για οποιαδήποτε τετραγωνικά μητρώα A, B R n n, ισχύει ότι τα A, B είναι αντιστρέψιμα ΑΝ ΚΑΙ ΜΟΝΟ ΑΝ το A B είναι αντιστρέψιμο. ΕΞΗΓΗΣΗ: (Ex.2-5-1.2 [FMW2007]) Εστω αντιστρέψιμα μητρώα A, B, άρα υπάρχουν (και είναι μοναδικά) τα A 1, B 1. y = ABx A 1 y = A 1 ABx = Bx B 1 A 1 y = B 1 Bx B 1 A 1 y = x B 1 A 1 = (AB) 1 / από μοναδικότητα αντίστροφου / Εστω αντιστρέψιμο μητρώο A B. ΑΝ A (ή B) μη αντιστρέψιμο : z 0 : z A = 0 ΤΟΤΕ z 0 : z AB = 0 B = 0 ΤΟΤΕ AB μη αντιστρέψιμο (ΑΤΟΠΟ). Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [15 / 23]

Αντιστρεψιμότητα Γινομένων Μητρώων ΑΣΚΗΣΗ (Ex.2-5-1.2 [FMW2007]): Νδο για οποιαδήποτε τετραγωνικά μητρώα A, B R n n, ισχύει ότι τα A, B είναι αντιστρέψιμα ΑΝ ΚΑΙ ΜΟΝΟ ΑΝ το A B είναι αντιστρέψιμο. ΕΞΗΓΗΣΗ: (Ex.2-5-1.2 [FMW2007]) Εστω αντιστρέψιμα μητρώα A, B, άρα υπάρχουν (και είναι μοναδικά) τα A 1, B 1. y = ABx A 1 y = A 1 ABx = Bx B 1 A 1 y = B 1 Bx B 1 A 1 y = x B 1 A 1 = (AB) 1 / από μοναδικότητα αντίστροφου / Εστω αντιστρέψιμο μητρώο A B. ΑΝ A (ή B) μη αντιστρέψιμο : z 0 : z A = 0 ΤΟΤΕ z 0 : z AB = 0 B = 0 ΤΟΤΕ AB μη αντιστρέψιμο (ΑΤΟΠΟ) Τα A, B είναι αντιστρέψιμα.. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [15 / 23]

Αποδοτικότητα Επίλυσης Γ.Σ.Ε. (Ι) ΕΡΩΤΗΣΗ: Πόσο κοστίζει η επίλυση ενός m n γραμμικού συστήματος με pivots (μετράμε στοιχειώδεις αριθμητικές πράξεις); Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [16 / 23]

Αποδοτικότητα Επίλυσης Γ.Σ.Ε. (Ι) ΕΡΩΤΗΣΗ: Πόσο κοστίζει η επίλυση ενός m n γραμμικού συστήματος με pivots (μετράμε στοιχειώδεις αριθμητικές πράξεις); ΑΠΑΝΤΗΣΗ: Pivot Element: (r, s) K = [1 : r 1, r + 1, m] / δηλαδή, K = [m] {r} / J = [1 : s 1, s + 1 : n] / δηλαδή, J = [n] {s} / # Πράξεων (flops) Λειτουργία 1 B(r, s) = 1 n 1 B(r, J) = [ A(r,s) ] A(r,j) A(r,s) [ ] j s A(k,s) = A(r, J) B(r, s) m 1 B(K, s) = = A(K, s) B(r, s) A(r,s) [ k r ] 2(m 1)(n 1) B(K, J) = A(k, j) A(k,s) A(r,j) 2mn m n + 1 p 2 (2q 1) p(q 1) A(r,s) k r,j s = A(K, J) B(K, s) A(r, J) Κόστος ΜΙΑΣ ανταλλαγής Jordan (pivot) Επίλυση του Ax = b, για A R m n, p = min{m, n}, q = max{m, n} Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [16 / 23]

Σκελετός Ομιλίας 1 Επίλυση Γραμμικών Συστημάτων Εξισώσεων με Pivots 2 Χαρακτηρισμός Γραμμικών Συστημάτων Εξισώσεων με Pivots 3 Πολυπλοκότητα Επίλυσης Γραμμικών Συστημάτων Εξισώσεων 4 εύτερη Εργαστηριακή Άσκηση Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [17 / 23]

Αποδοτικότητα Επίλυσης Γ.Σ.Ε. (ΙΙ) LU Decomposition Θεώρημα (THM 2.6.1 [FMW2007]) χωρίς απόδειξη Εστω οποιοδήποτε μητρώο A R n n. Υπάρχουν μεταθετικά μητρώα R, Q, κάτω τριγωνικό μητρώο L και άνω τριγωνικό μητρώο U, τ.ώ.: PAQ = LU. Επιπλέον: ΑΝ το A είναι αντιστρέψιμο ΤΟΤΕ το Q είναι το μοναδιαίο μητρώο, και άρα PA = LU. Το συνολικό κόστος υπολογισμού των P, Q, L, U είναι 2 3 n 3 + O ( n 2) flops. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [18 / 23]

Αποδοτικότητα Επίλυσης Γ.Σ.Ε. (ΙΙ) LU Decomposition Θεώρημα (THM 2.6.1 [FMW2007]) χωρίς απόδειξη Εστω οποιοδήποτε μητρώο A R n n. Υπάρχουν μεταθετικά μητρώα R, Q, κάτω τριγωνικό μητρώο L και άνω τριγωνικό μητρώο U, τ.ώ.: PAQ = LU. Επιπλέον: ΑΝ το A είναι αντιστρέψιμο ΤΟΤΕ το Q είναι το μοναδιαίο μητρώο, και άρα PA = LU. Το συνολικό κόστος υπολογισμού των P, Q, L, U είναι 2 3 n 3 + O ( n 2) flops. Μεταθετικό Μητρώο: Προκύπτει από αναδιάταξη των γραμμών του μοναδιαίου μητρώου. Άνω (Κάτω) Τριγωνικό Μητρώο: Όλα τα στοιχεία ΚΑΤΩ (ΠΑΝΩ) από την κύρια διαγώνιο έχουν τιμή 0. Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [18 / 23]

Αποδοτικότητα Επίλυσης Γ.Σ.Ε. (ΙΙ) Gaussian Elimination ΕΣΤΩ A αντιστρέψιμο n n μητρώο. ΤΟΤΕ Υπάρχουν μητρώα P, L, U τ.ώ. PA = LU. ΤΟΤΕ Ax = b LUx = Pb {Lw = Pb; Ux = w} Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [19 / 23]

Αποδοτικότητα Επίλυσης Γ.Σ.Ε. (ΙΙ) Gaussian Elimination ΕΣΤΩ A αντιστρέψιμο n n μητρώο. ΤΟΤΕ Υπάρχουν μητρώα P, L, U τ.ώ. PA = LU. ΤΟΤΕ Ax = b LUx = Pb {Lw = Pb; Ux = w} GaussianElimination (1) Υπολογισμός των P, L, U 2 3 n 3 + O ( n 2) flops / forward substitution / (2) w = Pb; w(1) = w(1) 2n flops L(1,1) (3) for i = 2 : 1 : n n 2 1 flops (3.1) J = [1 : i 1]; w(i) = w(i) L(i,J) w(j) ; L(i,i) / backward substitution / (4) x = w; x(n) = x(n) U(n,n) 1 flop (5) for i = n 1 : 1 : 1 n 2 1 flops (5.1) J = [i + 1 : n]; x(i) = x(i) U(i,J) x(j) ; U(i,i) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [19 / 23]

Πολυπλοκότητα Πολυπλοκότητα Πράξεων Στοιχειωδών σε Μητρώα Στοιχειωδών Πράξεων Πινάκων Operation Input Output Method Complexity (#flops) Matrix Multiplication two nxn matrices one nxn matrix Schoolbook matrix multiplication O(n 3 ) Strassen algorithm O(n 2.807 ) Coppersmith-Winograd algorithm O(n 2.376 ) Williams algorithm O(n 2.373 ) Matrix Inversion one nxn matrix one nxn matrix Gauss-Jordan Elimination / LU Decomposition O(n 3 ) Strassen algorithm O(n 2.807 ) Coppersmith-Winograd algorithm O(n 2.376 ) Determinant one nxn matrix one nxn matrix Laplace expansion O(n!) LU decomposition O(n 3 ) Bareiss algorithm O(n 3 ) Fast matrix multiplication O(n 2.376 ) Back Substitution Low- Triangular Matrix n solutions Backwards substitution O(n 2 ) Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [20 / 23]

Σκελετός Ομιλίας 1 Επίλυση Γραμμικών Συστημάτων Εξισώσεων με Pivots 2 Χαρακτηρισμός Γραμμικών Συστημάτων Εξισώσεων με Pivots 3 Πολυπλοκότητα Επίλυσης Γραμμικών Συστημάτων Εξισώσεων 4 εύτερη Εργαστηριακή Άσκηση Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [21 / 23]

2η Εργαστηριακή Άσκηση Τρόπος Παράδοσης: Κώδικας (σε Matlab) / Παρουσίαση στο διδάσκοντα. Ημερομηνία Παράδοσης: ευτέρα, 12 εκεμβρίου 2016. Όροι ιεξαγωγής Άσκησης: Οι ασκήσεις είναι ατομικές και προαιρετικές, ενώ θα παρουσιαστούν από κάθε φοιτητή / φοιτήτρια στο διδάσκοντα. Εκφώνηση Άσκησης: 1 Γράψτε σε Matlab ρουτίνα που για είσοδο μητρώο A R n n, και θα υπολογίζει (ι) τον βαθμό του A, (ιι) τον αντίστροφό του (αν το A έχει πλήρη βαθμό), ή (ιιι) μια γραμμική εξάρτηση των γραμμών του A (που θα αποτελεί και αποδεικτικό μη αντιστρεψιμότητας του A). 2 Γράψτε σε Matlab μια ρουτίνα που θα δέχεται ως είσοδο ένα m n γραμμικό σύστημα εξισώσεων Ax = a (ΕΙΣΟ ΟΣ: A, a), και θα διαπιστώνει: (ι) είτε ότι είναι μη επιλύσιμο, ή (ιι) ότι είναι επιλύσιμο με μοναδική λύση, την οποία θα επιστρέφει, ή (ιιι) ότι έχει άπειρες λύσεις, τις οποίες θα περιγράφει με ένα υποσύστημα της μορφής x M = B K,N x N + d K ( ΕΞΟ ΟΣ: B K,N, d K ). Χρησιμοποιήστε ως βασικό εργαλείο τις ανταλλαγές Jordan (pivots).. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [22 / 23]

Ευχαριστώ για την προσοχή σας! Ερωτήσεις / Σχόλια ; Σ. Κοντογιάννης, Χ. Ζαρολιάγκης ΠΜΣ/ΕΤΥ : Αλγόριθμοι & Βελτιστοποίηση (Φθινόπωρο 2016) 4η ενότητα [23 / 23]