Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη.

Transcript

1 ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΤΜΗΜΑ ΜΑΘΗΜΑΤΙΚΩΝ ΜΕΤΑΠΤΥΧΙΑΚΟ ΠΡΟΓΡΑΜΜΑ ΣΠΟΥΔΩΝ ΘΕΩΡΗΤΙΚΗ ΠΛΗΡΟΦΟΡΙΚΗ & ΘΕΩΡΙΑ ΣΥΣΤΗΜΑΤΩΝ ΚΑΙ ΕΛΕΓΧΟΥ Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. ΜΕΤΑΠΤΥΧΙΑΚΗ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ Μαρίνα Β. Κοντοκώστα Επιβλέπων: Αθανάσιος Μυγδαλάς Καθηγητής Α.Π.Θ Θεσσαλονίκη, Δεκέμβριος 2012

2

3 ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΤΜΗΜΑ ΜΑΘΗΜΑΤΙΚΩΝ ΜΕΤΑΠΤΥΧΙΑΚΟ ΠΡΟΓΡΑΜΜΑ ΣΠΟΥΔΩΝ ΘΕΩΡΗΤΙΚΗ ΠΛΗΡΟΦΟΡΙΚΗ & ΘΕΩΡΙΑ ΣΥΣΤΗΜΑΤΩΝ ΚΑΙ ΕΛΕΓΧΟΥ Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. ΜΕΤΑΠΤΥΧΙΑΚΗ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ Μαρίνα Β. Κοντοκώστα Επιβλέπων: Αθανάσιος Μυγδαλάς Καθηγητής Α.Π.Θ Εγκρίθηκε από την τριμελή εξεταστική επιτροπή την 13 η Δεκεμβρίου Αθανάσιος Μυγδαλάς Καραμπετάκης Νικόλαος Ραχώνης Γεώργιος Καθηγητής Α.Π.Θ Αν. Καθηγητής Α.Π.Θ Επίκ. Καθηγητής Α.Π.Θ Θεσσαλονίκη, Δεκέμβριος

4 Μαρίνα Β. Κοντοκώστα Πτυχιούχος Μαθηματικός Α.Π.Θ. Copyright Μαρίνα Β. Κοντοκώστα, Με επιφύλαξη παντός δικαιώματος. All rights reserved. Απαγορεύεται η αντιγραφή, αποθήκευση και διανομή της παρούσας εργασίας, εξ ολοκλήρου ή τμήματος αυτής, για εμπορικό σκοπό. Επιτρέπεται η ανατύπωση, αποθήκευση και διανομή για σκοπό μη κερδοσκοπικό, εκπαιδευτικής ή ερευνητικής φύσης, υπό την προϋπόθεση να αναφέρεται η πηγή προέλευσης και να διατηρείται το παρόν μήνυμα. Ερωτήματα που αφορούν τη χρήση της εργασίας για κερδοσκοπικό σκοπό πρέπει να απευθύνονται προς τη συγγραφέα. Οι απόψεις και τα συμπεράσματα που περιέχονται σε αυτό το έγγραφο εκφράζουν τη συγγραφέα και δεν πρέπει να ερμηνευτεί ότι εκφράζουν τις επίσημες θέσεις του Α.Π.Θ. 4

5 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. ΠΕΡΙΛΗΨΗ Στην εργασία αυτή παρουσιάζουμε αλγορίθμους αναδιάταξης σποραδικών μητρών που έχουν ως στόχο την ελαχιστοποίηση της καταστροφής των μηδενικών στοιχείων κατά την παραγοντοποίηση. Η σημαντικότητα διατήρησης των μηδενικών στοιχείων κατά την παραγοντοποίηση είναι και ο λόγος σύνθεσης της εργασίας αυτής. Αρχικά, στο πρώτο κεφάλαιο, θα συναντήσουμε κάποιες εισαγωγικές έννοιες όπως αυτή της σποραδικής μήτρας καθώς και αυτές της πλήρωσης και της αναδιάταξης. Οι έννοιες αυτές συνοδεύονται από παραδείγματα για την καλύτερη κατανόησή τους. Έπειτα, στο δεύτερο κεφάλαιο, κάνουμε τον διαχωρισμό των αλγορίθμων σε αλγορίθμους γενικών και τοπικών προσεγγίσεων. Οι αλγόριθμοι γενικών προσεγγίσεων προσπαθούν να μεταθέσουν την μήτρα σε κάποια μορφή έτσι ώστε η πλήρωση να φράσσεται ολικά. Αντίθετα, οι αλγόριθμοι τοπικών προσεγγίσεων ελαχιστοποιούν την πλήρωση σε κάθε στάδιο απαλοιφής. Στους αλγορίθμους γενικών προσεγγίσεων ανήκουν οι Cuthill-Mckee και ο ανάστροφός του, η μονόδρομη διαμέριση (one-way dissection) και η εμφωλιασμένη διαμέριση(nested dissection). Επιπλέον, παρουσιάζουμε τον πίνακα που συγκρίνει τους χρόνους αναδιάταξης και την συνολική αποθήκευση για τους αλγορίθμους, ανάστροφο Cuthill-Mckee, μονόδρομη και εγκιβωτισμένη διαμέρισης. Στην συνέχεια, αναφέρουμε τους αλγορίθμους των τοπικών προσεγγίσεων όπως είναι ο αλγόριθμος του Markowitz και ο αλγόριθμος των Tinney και Walker. Ο τελευταίος ονομάστηκε αλγόριθμος ελαχίστου βαθμού (minimum degree algorithm). Στο τρίτο κεφάλαιο επικεντρωνόμαστε στις τελευταίες έρευνες που έχουν γίνει στον αλγόριθμο ελαχίστου βαθμού. Δίνουμε τον ψευδοκώδικα του αλγορίθμου και παραθέτουμε τα προβλήματα που προκύπτουν κατά την εκτέλεση του καθώς και τους τρόπους επίλυσης τους. Τέλος, στο τέταρτο κεφάλαιο, παρουσιάζουμε έναν αλγόριθμο ελαχίστου βαθμού που χρησιμοποιεί το Matlab, τον Colamd και στο πέμπτο κεφάλαιο τα τεστ επίδοσης του ως προς τον χρόνο και την ποιότητα αναδιάταξης σε σχέση με άλλους αλγορίθμους του Matlab. ΛΕΞΕΙΣ ΚΛΕΙΔΙΑ Σποραδική Μήτρα, Αλγόριθμοι Ελαχίστου Βαθμού, Αλγόριθμος Cuthill-Mckee, Colamd. 5

6 Μαρίνα Κοντοκώστα ABSTRACT In this paper ordering algorithms for sparse matrices which aim to minimize the fill in during the factorization are presented. The importance of keeping zero elements during the factorization is the reason for composing this paper. To begin with, in the first chapter there are some introductory concepts such as the sparse matrix, the fill in and the ordering. They are accompanied by examples for better understanding. In the second chapter, we divide the algorithms in algorithms of global and local approaches. The algorithms of global approaches attempt to permute the matrix into some form which can globally bound the fill in. Conversely, the algorithms of local approaches minimize the fill in at each elimination step. Some algorithms of local approaches are the Cuthill Mckee algorithm, the reverse Cuthill Mckee algorithm, the one way dissection algorithm and the nested dissection algorithm. Furthermore, there is a table which compares the ordering time and the total storage for the algorithms reverse Cuthill Mckee, one way dissection and nested dissection. Then, the algorithms of local approaches are mentioned like Markowitz algorithm and the Tinney and Walker algorithm which is called minimum degree algorithm. In the third chapter, the latest researches that have been conducted about the minimum degree algorithm are focused on. The pseudo-code of the algorithm as well as the solution to them are cited. In the fourth chapter, colamd, a minimum degree algorithm that matlab uses, is introduced. Finally, in the fifth chapter, the performance tests regarding the ordering time and the quality of ordering of this algorithm in relation to other algorithms, are mentioned. KEY WORDS Sparse Matrix, Minimum Degree Algorithm, Cuthill Mckee Algorithm, Colamd 6

7 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. ΠΙΝΑΚΑΣ ΠΕΡΙΕΧΟΜΕΝΩΝ ΠΕΡΙΛΗΨΗ.5 ABSTRACT.6 ΠΕΡΙΕΧΟΜΕΝΑ.7 Κεφάλαιο Σελίδα 1. ΕΙΣΑΓΩΓΙΚΑ Τι είναι σποραδική μήτρα Από πού προέρχονται και γιατί ενδιαφερόμαστε Τρόποι αποθήκευσης σποραδικών μητρών Πεπιεσμένη αποθήκευση κατά στοίχους Πεπιεσμένη αποθήκευση κατά στήλες Μήτρες μετάθεσης Πλήρωση και αναδιάταξη ΑΛΓΟΡΙΘΜΟΙ ΓΕΝΙΚΩΝ ΚΑΙ ΤΟΠΙΚΩΝ ΠΡΟΣΕΓΓΙΣΕΩΝ Εισαγωγή Βασικές έννοιες της θεωρίας γραφημάτων Γενικές προσεγγίσεις Τοπικές προσεγγίσεις ΠΡΟΣΦΑΤΕΣ ΕΡΕΥΝΕΣ ΣΤΟΝ ΕΛΑΧΙΣΤΟ ΒΑΘΜΟ Μαζική απαλοιφή Υπερκόμβος Μοντέλο γραφήματος πηλίκων Ατελής ενημέρωση βαθμού Απορρόφηση κλίκας Πολλαπλή απαλοιφή Εξωτερικός βαθμός Α Τ Α αναδιατάξεις Προσεγγιστικοί βαθμοί Προσέγγιση ελάχιστης έλλειψης

8 Μαρίνα Κοντοκώστα 4. ΠΑΡΟΥΣΙΑΣΗ ΤΟΥ COLAMD Χαρακτηριστικά του COLAMD Η άπληστη ευρετική μέθοδος Η επίσημη περιγραφή του αλγορίθμου ΤΕΣΤ ΕΠΙΔΟΣΗΣ Τετραγωνικές μη συμμετρικές μήτρες (RUA) Ορθογώνιες μήτρες (RRA) Συμμετρικές μήτρες (SYM) Σύνοψη Συμπεράσματα και μελλοντική έρευνα.70 ΒΙΒΛΙΟΓΡΑΦΙΑ 71 ΠΑΡΑΡΤΗΜΑ 73 8

9 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. ΚΕΦΑΛΑΙΟ 1 ο ΕΙΣΑΓΩΓΙΚΑ 1.1 Τι είναι η σποραδική μήτρα Σποραδική ή αραιή ονομάζεται μία μήτρα που έχει ένα μικρό μόνο ποσοστό μη μηδενικών στοιχείων. Από πρακτικής άποψης μία n x n μήτρα κατηγοριοποιείται ως σποραδική εάν το πλήθος των μη μηδενικών στοιχείων της είναι της τάξης n, δηλαδή O (n), π.χ. 2 με 10 μη μηδενικά στοιχεία ανά στήλη για μεγάλο n. Γενικά, μία τετραγωνική μήτρα της τάξης n με m μη μηδενικά στοιχεία είναι σποραδική εφόσον m << n 2. Κατ άλλους, η μήτρα είναι σποραδική εφόσον m = n 1+γ όπου γ < 1. Τυπικά γ = 0.2 για προβλήματα ηλεκτρισμού και γ = 0.5 για ταινιοειδείς μήτρες πλεγμάτων. Εάν n = 1000 και γ = 0.9, τότε το πλήθος των μη μηδενικών στοιχείων είναι και μπορεί κανείς να αναρωτιέται εάν η μήτρα είναι σποραδική ή όχι. Από πρακτικής άποψης, ένας ευρετικός χαρακτηρισμός της σποραδικότητας εμπλέκει την μήτρα, τον αλγόριθμο και τον ηλεκτρονικό υπολογιστή: μία μήτρα είναι σποραδική εφόσον η εκμετάλλευση της ύπαρξης πολλών μηδενικών στοιχείων θεωρείται αξιόλογη. Κάθε σποραδική μήτρα μπορεί να υποβληθεί σε επεξεργασία υπό μορφή πυκνής ή πλήρους μήτρας και αντιστρόφως. Το αριθμητικό αποτέλεσμα θα είναι το ίδιο σε αμφότερες τις περιπτώσεις. Αλλά το υπολογιστικό κόστος διαφορετικό. Ο χαρακτηρισμός μίας μήτρας ως σποραδικής προϋποθέτει την ύπαρξη αλγορίθμου που εκμεταλλεύεται την σποραδικότητα και καθιστά τους υπολογισμούς με την μήτρα χαμηλότερου κόστους απ ότι χωρίς αυτόν τον χαρακτηρισμό. 9

10 Μαρίνα Κοντοκώστα Παράδειγμα 1.1 Έστω ότι έχουμε το σύστημα: x3 2 2x1 x6 7 x12 x2 13 3x2 x8 4 x4 x5 x7 0 x3 2x6 4 x5 2x7 5 x4 2x8 1 Η μήτρα Α του συστήματος Αx=b είναι: όπου έχουμε 16 μη μηδενικούς συντελεστές μεταξύ των 64 στοιχείων. Συνεπώς, η μήτρα μας είναι σποραδική εφόσον << 8 2 =64, όπου 8 η τάξη της μήτρας. 1.2 Από πού προέρχονται και γιατί ενδιαφερόμαστε Οι σποραδικές μήτρες έχουν αναγνωριστεί ως σημαντικές νωρίς αν και η προέλευση της ορολογίας είναι αρκετά παλιά. Ο Gauss όρισε την πρώτη μέθοδο για αυτά τα συστήματα το Ο Varga χρησιμοποίησε σαφώς τον όρο ʺ σποραδική ʺ στο βιβλίο του με επαναληπτικές μεθόδους το Ειδικές τεχνικές χρησιμοποιήθηκαν για τα προβλήματα σποραδικότητας τα οποία προέρχονται από τις μερικές διαφορικές εξισώσεις. Η γενική τεχνολογία που χρησιμοποιείται σήμερα γεννήθηκε το Τα γραφήματα εισήχθησαν ως εργαλεία για τις σποραδικές γκαουσιανές μήτρες το

11 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Το θέμα των σποραδικών μητρών έχει τις ρίζες της σε πολλούς διαφορετικούς τομείς όπως στην ανάλυση δομών μεγάλης κλίμακας, στη βιομηχανική επεξεργασία μη Νευτωνιακών υγρών, στη προσομοίωση σωμάτων, οχημάτων και σκαφών, στη θεωρία δικτύων, στη βελτιστοποίηση σε προβλήματα αποφάσεων, στην αριθμητική επίλυση διαφορικών εξισώσεων κ.α.. Ο λόγος που ενδιαφερόμαστε για τις σποραδικές μήτρες είναι τα σημαντικά πλεονεκτήματα του έχουν: τον χώρο και την ταχύτητα. Δηλαδή για παράδειγμα μία μήτρα 5000x5000 σε πλήρη αποθήκευση απαιτεί χώρο 25 εκατομμυρίων μιγαδικών αριθμών ακόμη και αν μόνο τα είναι μη μηδενικά στοιχεία. Η ίδια μήτρα με τα μη μηδενικά στοιχεία σε σποραδική αποθήκευση θα αποθήκευε μιγαδικούς αριθμούς και ζευγάρια ακεραίων δεικτών, δηλαδή λιγότερο από 0,5% του χώρου( λιγότερο από 1 ΜΒ αντί για 200ΜΒ). Ομοίως, λύνοντας ένα σύστημα της μορφής Αx = b, όπου Α μια τέτοια μήτρα, θα απαιτούσε πολύ περισσότερο χρόνο για την περίπτωση της πλήρης αποθήκευσης απ ότι για την περίπτωση της σποραδικής αποθήκευσης. 1.3 Τρόποι αποθήκευσης των σποραδικών μητρών Υπάρχουν πολλοί τρόποι αποθήκευσης των σποραδικών μητρών ανάλογα με τα δομικά χαρακτηριστικά τους (π.χ. συμμετρική μήτρα, ασύμμετρη μήτρα, ταινιοειδής μήτρα) και την επιλογή μεθόδου επίλυσης του συστήματος εξισώσεων. (π.χ. στις επαναληπτικές μεθόδους, η επιλογή του τρόπου αποθήκευσης γίνεται κυρίως με αναφορά στην αλγοριθμική απόδοση του γινομένου μήτρας διανύσματος). Μερικοί από τους πιο δημοφιλείς τρόπους αποθήκευσης είναι: Πεπιεσμένη αποθήκευση κατά στοίχους (Compressed row storage) Πεπιεσμένη αποθήκευση κατά στήλες (Compressed column storage) Πεπιεσμένη αποθήκευση τμηματικά κατά στοίχους (Block compressed row storage) Πεπιεσμένη διαγώνια αποθήκευση (Compressed diagonal storage) Οδοντωτή διαγώνια αποθήκευση (Jagged diagonal storage) Μεταβλητή ταινιοειδής αποθήκευση (Variable band or skyline storage) 11

12 Μαρίνα Κοντοκώστα Η πεπιεσμένη αποθήκευση κατά στοίχους ή στήλες προσφέρει το γενικότερο σχήμα αποθήκευσης σποραδικών μητρών διότι δεν θέτει προϋποθέσεις στα δομικά χαρακτηριστικά της σποραδικότητας. Από την άλλη μεριά δεν είναι και η πιο αποδοτική για το σχηματισμό γινομένων μήτρας διανύσματος. Βασίζεται στην αντίληψη της σποραδικής μήτρας με τη μορφή γραφήματος. Ας δούμε πιο αναλυτικά την πεπιεσμένη αποθήκευση κατά στοίχους και στήλες Πεπιεσμένη αποθήκευση κατά στοίχους Η πεπιεσμένη αποθήκευση κατά στοίχους τοποθετεί τα μη μηδενικά στοιχεία του πίνακα σε διαδοχικές θέσεις μνήμης. Υποθέτοντας ότι έχουμε μία μη συμμετρική σποραδική μήτρα δημιουργούμε τρία διανύσματα: ένα του κινητού σημείου (val) και τα άλλα δύο με ακεραίους (col_ptr, row_ptr). Το διάνυσμα του κινητού σημείου (val) αποθηκεύει τις τιμές των μη μηδενικών στοιχείων του πίνακα όπως διασχίζονται στοίχο - στοίχο. Το διάνυσμα col_ptr αποθηκεύει του δείκτες των στηλών των στοιχείων του διανύσματος val. Δηλαδή, εάν val(k) = a ij τότε col_ptr(k) = j. Το διάνυσμα row_ptr αποθηκεύει για κάθε στοίχο την θέση στο διάνυσμα val που αντιστοιχεί στο πρώτο μη μηδενικό στοιχείο του, δηλαδή, εάν val(k) = a ij τότε row_ptr (i) k< row_ptr(i+1). Ορίζουμε ως row_ptr(n+1) = nnz+1, όπου nnz είναι ο αριθμός των μη μηδενικών στοιχείων του πίνακα Α. Η εξοικονόμηση χώρου αποθήκευσης είναι σημαντική. Αντί να αποθηκεύσουμε n 2 στοιχεία, χρειαζόμαστε μόνο 2nnz+n+1 θέσεις αποθήκευσης. Παράδειγμα Έστω η μη συμμετρική μήτρα Α=

13 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. row_ptr col_ptr val Εάν η μήτρα Α είναι συμμετρική αποθηκεύουμε συνήθως μόνο το άνω (ή κάτω) τριγωνικό τμήμα της μήτρας Πεπιεσμένη αποθήκευση κατά στήλες Η πεπιεσμένη αποθήκευση κατά στήλες η οποία ονομάζεται και σχήμα Harwell- Boeing, είναι ακριβώς ανάλογη της πεπιεσμένης αποθήκευσης κατά στοίχους με την διαφορά ότι αποθηκεύει τις στήλες της σποραδικής μήτρας Α. Στην ουσία, η πεπιεσμένη αποθήκευση κατά στήλες της μήτρας Α είναι η πεπιεσμένης αποθήκευσης κατά στοίχους της μήτρας Α Τ. Παράδειγμα 1.3 Έστω η μήτρα Α του προηγούμενου παραδείγματος. col_ptr row_ptr val Εάν η μήτρα Α είναι συμμετρική αποθηκεύουμε συνήθως μόνο το άνω (ή κάτω) τριγωνικό τμήμα της μήτρας. 13

14 Μαρίνα Κοντοκώστα 1.4 Μήτρες μετάθεσης Οι μήτρες μετάθεσης είναι πολύ ιδιαίτερες σποραδικές μήτρες που προέρχονται από τις ταυτοτικές μήτρες με αναδιάταξη στοίχων ή στηλών. Συνήθως χρησιμοποιούνται σε υπολογισμούς μητρών για να παραστήσουν την διάταξη των συνιστωσών σε ένα διάστημα ή για να επιτευχθεί η αναδιάταξη των στοίχων και των στηλών σε μία μήτρα. Για το λόγο αυτό επιθυμούμε μία πολύ ιδιαίτερη μορφή των μητρών μετάθεσης η οποία να είναι συμπαγής σε αποθήκευση και να επιτρέπει εύκολα τις εκτελέσεις των πράξεων μετάθεσης. Αν θεωρήσουμε την μετάθεση σαν μια ακολουθία εναλλαγών (i, p i ), i=1,2... n-1 (1.1) όπου p i i, η ακολουθία αυτή των εναλλαγών σε ένα διάνυσμα μήκους n μπορεί να εκφραστεί σε σημειογραφία μήτρας ως: P x (1.2) όπου P είναι η μήτρα μετάθεσης. Η P μπορεί να αποκτηθεί εκτελώντας την ακολουθία των εναλλαγών της σχέσης (1.1) στην ταυτοτική μήτρα. Για κάθε μήτρα μετάθεσης, η σχέση είναι αληθής. PP T =P T P=I (1.3) Ένας βολικός τρόπος για να αποθηκεύσουμε μία τέτοια μήτρα μετάθεσης είναι ως ένα διάνυσμα ακεραίων με στοιχεία p i, i=1,2... n-1 (1.4) Σε αυτή την περίπτωση το x μπορεί να μετατεθεί επί τόπου, δηλαδή χωρίς καμία πρόσθετη αποθήκευση μήτρας, π.χ τον κώδικα στο Σχήμα 1. 14

15 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. for i=1, n-1 temp= x(i) x(i)=x(p(i)) x(p(i))=temp end for Σχήμα 1 Στην πραγματικότητα, κάθε εναλλαγή (i, p i ) είναι από μόνη της μία απεικόνιση μιας στοιχειώδους μετάθεσης της μήτρας P i (στοιχειώδης γιατί μόνο δύο στοίχοι ή στήλες της ταυτοτικής μήτρας έχουν εναλλαχθεί) και P είναι το γινόμενο P= P n-1 P n-2...p 1. Η ανάστροφη μετάθεση P P P... P T T T T 1 2 n 1 μπορεί επομένως να παρασταθεί από το ίδιο σύνολο εναλλαγών αλλά τώρα με αντίστροφη σειρά. Μία εναλλακτική μορφή της P είναι ως διάνυσμα ακεραίων π i, i=1,2... n, το οποίο απεικονίζει τις θέσεις των συνιστωσών του x στην y=px. Σε αυτή την περίπτωση η επί τόπου μετάθεση δεν είναι απλή, αλλά το y μπορεί να σχηματιστεί από το x όπως φαίνεται στο Σχήμα 2. Περιλαμβάνει λιγότερες προσβάσεις στοιχείων απ ότι ο κώδικας στο Σχήμα 1, έτσι είναι αναμενόμενο να ʺτρέχειʺ ταχύτερα. Αυτή η απεικόνιση είναι εξίσου βολική για την ανάστροφη μετάθεση και πάλι υπό την προϋπόθεση ότι η επί τόπου μετάθεση δεν είναι απαραίτητη. 15

16 Μαρίνα Κοντοκώστα for i=1,n y(π(i)) = x(i) end for Σχήμα 2 Η κατασκευή του π i, i=1,2... n από το p i, i=1,2... n-1 είναι εύκολη. Έχουμε απλώς να εφαρμόσουμε τις διαδοχικές εναλλαγές στο διάνυσμα (1,2,, n). Η ανάστροφη διαδικασία μπορεί να γίνει σε O(n) πράξεις εάν γίνει με προσοχή. 1.5 Πλήρωση και αναδιάταξη Δύο σημαντικές έννοιες που συνδέονται με την επίλυση των εξισώσεων των σποραδικών συστημάτων είναι η πλήρωση (fill in) και η αναδιάταξη. Το επόμενο παράδειγμα απεικονίζει τις έννοιες αυτές. Παράδειγμα 1.4 Έστω το γραμμικό σύστημα των εξισώσεων Αx = b όπου η Α είναι η συμμετρική θετικά ορισμένη σποραδική μήτρα που ορίζεται ως εξής: A Η παραγοντοποίηση Cholesky της Α είναι: Α=LL T, όπου L

17 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Εικόνα 1. Η αριστερή εικόνα δείχνει τα μη μηδενικά στοιχεία της μήτρας Α και η δεξιά τα μη μηδενικά στοιχεία της μήτρας L. Οι κόκκινες κουκίδες της δεξιάς εικόνας δείχνουν την πλήρωση της μήτρας L. Παρατηρούμε ότι αν και η μήτρα Α είναι σποραδική, η κάτω τριγωνική μήτρα L έχει μη μηδενικά στοιχεία κάτω από την διαγώνιο. Η κατάσταση της L να έχει μη μηδενικά στοιχεία στις θέσεις που η Α έχει μηδενικά αναφέρεται ως πλήρωση (fill in). Υπολογιστικά, θα ήταν πιο αποτελεσματικό εάν μπορούσαμε να εκμεταλλευτούμε την μη μηδενική δομή της Α με τέτοιο τρόπο ώστε να μειώνονταν η πλήρωση κατά τον υπολογισμό της L. Για τον σκοπό αυτό, αναζητούμε κατάλληλες μεταθέσεις των στοίχων και των στηλών της μήτρας Α. Τις μεταθέσεις αυτές τις απεικονίζουμε με την μήτρα P. Υποθέτουμε ότι στο παραπάνω παράδειγμα ανταλλάσουμε τους στοίχους 1 και 5 και τις στήλες 1 και 5 της μήτρας Α και ονομάζουμε την μήτρα που προκύπτει Β, όπου Β= PAP T. Αναλυτικότερα έχουμε: P , T P και B Η παραγοντοποίηση Cholesky της Β είναι: Β=LL T, όπου L

18 Μαρίνα Κοντοκώστα Εικόνα 2. Η αριστερή εικόνα δείχνει τα μη μηδενικά στοιχεία της μήτρας Β και η δεξιά τα μη μηδενικά στοιχεία της μήτρας L. Παρατηρούμε ότι στην μήτρα L δεν έχουμε πλήρωση. Η πλήρωση που συσχετίζεται με την μήτρα Β είναι πολύ μικρότερη από αυτή που συσχετίζεται με την μήτρα Α. Συνεπώς, η μνήμη και ο χρόνος υπολογισμού που απαιτείται για την παραγοντοποίηση της Β είναι πολύ μικρότερα απ ότι για την παραγοντοποίηση της Α Τώρα, ας εφαρμόσουμε την μετάθεση P ' μήτρα Β είναι: B ' στην μήτρα Α. Τότε η νέα Η παραγοντοποίηση Cholesky της B ' είναι: L '

19 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Και σε αυτή την περίπτωση η L ' έχει μη μηδενικά στοιχεία στις θέσεις όπου η B ' έχει μηδενικά. Συνεπώς, η επιλογή της μετάθεσης είναι κρίσιμη για την μείωση της πλήρωσης. 19

20 Μαρίνα Κοντοκώστα ΚΕΦΑΛΑΙΟ 2 ο ΑΛΓΟΡΙΘΜΟΙ ΓΕΝΙΚΩΝ ΚΑΙ ΤΟΠΙΚΩΝ ΠΡΟΣΕΓΓΙΣΕΩΝ 2.1 Εισαγωγή Λύνοντας μεγάλα σποραδικά μη συμμετρικά γραμμικά συστήματα της μορφής Αx=b με αριθμητικές μεθόδους παραγοντοποίησης, η μνήμη που απαιτείται για τους παράγοντες της Α, είναι συχνά πολύ μεγαλύτερη απ ότι η Α μόνη της. Συνεπώς, είναι σύνηθες να προηγείται της αριθμητικής παραγοντοποίησης κάποια αναδιάταξη της Α με σκοπό την ελαχιστοποίηση της πλήρωσης. Αυτό είναι χρήσιμο και στην LU παραγοντοποίηση με μερική οδήγηση της Α, αλλά και στην παραγοντοποίηση Cholesky της A T A. Άρα, ο στόχος αυτής της αναδιάταξης είναι να βρούμε μία μήτρα μετάθεσης στηλών Q, τέτοια ώστε οι πληρώσεις των παραγόντων της ΑQ να ελαχιστοποιούνται. Επειδή η εύρεση της βέλτιστης αναδιάταξης είναι NP-πλήρες πρόβλημα, χρησιμοποιούνται ευρετικές μέθοδοι [1]. Υπάρχουν αρκετές προσεγγίσεις για την εύρεση μιας καλής αναδιάταξης για την παραγοντοποίηση μιας μήτρας. Οι προσεγγίσεις αυτές χωρίζονται σε δύο σύνολα, στις γενικές και στις τοπικές προσεγγίσεις. Οι γενικές προσεγγίσεις προσπαθούν να μεταθέσουν μια μήτρα σε κάποια μορφή η οποία να φράσει ολικά την πλήρωση. Οι τοπικές προσεγγίσεις, γενικά, παίρνουν αποφάσεις για την ελαχιστοποίηση της πλήρωσης σε κάθε στάδιο απαλοιφής. Στη συνέχεια, θα δούμε μια σύντομη εισαγωγή της απεικόνισης των μητρών με γραφήματα. 2.2 Βασικές έννοιες της θεωρίας γραφημάτων Οι αλγόριθμοι αναδιάταξης σποραδικών μητρών παραδοσιακά βασίζονται στη θεωρία γραφημάτων. Από μία συμμετρική μήτρα με μη μηδενικά στοιχεία στη διαγώνιο μπορούμε να δημιουργήσουμε ένα μη προσανατολισμένο γράφημα G = (V,E). To V είναι το σύνολο των κορυφών ή των κόμβων του γραφήματος τέτοιο ώστε V = {1, 2,...,n}όπου n είναι η διάσταση της μήτρας. Το Ε είναι το σύνολο των ακμών του γραφήματος. Η ακμή (i,j) είναι ένα στοιχείο του Ε εάν α ij 0 και ij. Ας είναι Adj p το σύνολο των κόμβων οι οποίοι ενώνονται με ακμές με τον κόμβο p. Ο βαθμός, d p του κόμβου p είναι ίσος με τον αριθμό των παρακειμένων κόμβων του, ή d p = Adj p. Κατά την εκτέλεση ενός βήματος της παραγοντοποίησης Cholesky στο γράφημα G με βήμα p, προστίθενται ακμές στο G τέτοιες ώστε όλες οι κορυφές που είναι 20

21 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. παρακείμενες στον p είναι πλήρως συνδεδεμένες. Έπειτα, όλες οι προσκείμενες ακμές στον p και ο ίδιος ο p αφαιρούνται από το γράφημα G. Γράφουμε το γράφημα που προκύπτει G p. Επίσης, για μια συμμετρική μήτρα Α χωρίς μηδενικά στην διαγώνιο, το γράφημα G + (A) είναι το γράφημα του παράγοντα Cholesky. Το γράφημα G + (A) = (V, E + ) περιέχει τις αρχικές ακμές του Ε συν τις ακμές που δημιουργούνται κατά την διάρκεια της απαλοιφής. Μία μήτρα μπορεί να αναδιαταχθεί συμμετρικά επαναριθμώντας τις κορυφές του αντίστοιχου γραφήματος. Το εύρος ζώνης (bandwidth) μια μήτρας είναι η μέγιστη απόσταση μεταξύ δύο παρακείμενων κόμβων και συμβολίζεται ως max{ v 1 -v 2 : (v 1,v 2 ) E(G)}. Παρατηρούμε ότι, επαναριθμώντας την μήτρα είναι πιθανόν να μειωθεί το εύρος ζώνης της μήτρας. Ένας τρόπος υπολογισμού του εύρου ζώνης είναι ο φάκελος (envelope). Για κάθε στοίχο i, μιας συμμετρικής μήτρας Α, ορίζουμε: () i i jmin i (2.1) όπου το j () min i είναι η στήλη με τον ελάχιστο δείκτη στον στοίχο i για τον οποίο ισχύει A 0. Το εύρος ζώνης γίνεται τώρα: max( ) (2.2) i i ij Ο φάκελος της Α είναι το σύνολο των στοιχείων A τέτοια ώστε 0 i j i. Για έναν ij συγκεκριμένο στοίχο i, όλα τα στοιχεία με δείκτες στηλών από j () min i μέχρι i-1 ανήκουν στον φάκελο. Το προφίλ της Α είναι τα στοιχεία που ανήκουν στον φάκελο: ί ( ) i (2.3) i Ένα άλλο σημαντικό αποτέλεσμα των γραφημάτων είναι η δομή επιπέδου (level structure). Η δομή επιπέδου ορίζεται ως L(G) και αποτελείται από τα σύνολα των επιπέδων L 1, L 2,, L k τέτοια ώστε κάθε κορυφή στο L i να μπορεί να είναι παρακείμενη με τις κορυφές L i-1, L i+1 και L i. Το εύρος μίας δομής επιπέδου είναι το max{ L i L(G)} και το βάθος της είναι ίσο με k. 21

22 Μαρίνα Κοντοκώστα 2.3 Γενικές προσεγγίσεις Ένας τρόπος μείωσης της πλήρωσης κατά την διάρκεια της παραγοντοποίησης είναι η οργάνωση των μητρών σε ειδικές μορφές. Υπάρχουν διάφορες μορφές που μπορούν να αξιοποιηθούν για την μείωση της πλήρωσης όπως το τριδιαγώνιο μπλοκ, το διπλά φραγμένο διαγώνιο μπλοκ, το φραγμένο τριγωνικό μπλοκ και άλλες πολλές μορφές, βλέπε εικόνες 3, 4 [26]. Για παράδειγμα, στο διπλά φραγμένο διαγώνιο μπλοκ η πλήρωση αποθηκεύεται μόνο στα διαγώνια μπλοκ. Εικόνα 3. Τριδιαγώνιο μπλοκ Εικόνα 4. Διπλά φραγμένο διαγώνιο μπλοκ Αρκετές γενικές μέθοδοι περιέχουν μία φάση ελαχιστοποίησης του εύρου ζώνης. Υπάρχουν αρκετοί αλγόριθμοι για την ελαχιστοποίηση του εύρου ζώνης των συμμετρικών μητρών. Ένας από αυτούς είναι ο αλγόριθμος Cuthill Mckee. Ο αλγόριθμος αυτός δημιουργεί δομή επιπέδων ξεκινώντας με τις κορυφές που έχουν μικρό βαθμό. Ας είναι L 1 το επίπεδο που περιέχει μία κορυφή με μικρό βαθμό. Ο αλγόριθμος τότε δημιουργεί το L 2 που περιέχει όλες τις κορυφές που είναι παρακείμενες με την αρχική κορυφή του L 1. Στη συνέχεια, το L 3 περιέχει όλες τις κορυφές του L 2 αλλά όχι του L 1 και ούτω καθεξής. Αυτό συνεχίζεται μέχρις ότου όλες οι κορυφές να έχουν τοποθετηθεί σε σύνολα επιπέδων. Σε κάθε δομή επιπέδου με ελάχιστο εύρος, γίνεται επαναρίθμηση των κορυφών. Αυτό γίνεται έτσι ώστε οι κορυφές σε ένα επίπεδο που είναι παρακείμενες στις κορυφές με τον μικρότερο αριθμό από το προηγούμενο επίπεδο, να αναδιατάσσονται πρώτες με αύξουσα σειρά. Εφόσον όλα τα επίπεδα έχουν αναδιαταχθεί, επιλέγουμε ως τελική αναδιάταξη, την αναδιάταξη με το μικρότερο εύρος ζώνης. Ο αλγόριθμος 22

23 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. αυτός παράγει στενές δομές ζώνης, ωστόσο, εάν η μήτρα έχει πολλές κορυφές «χαμηλού» βαθμού, διαπιστώνουμε ότι ο αλγόριθμος αυτός θα περάσει από πολλές επαναλήψεις. Τέλος, μια παραλλαγή του αλγορίθμου αυτού είναι ο ανάστροφος Cuthill Mckee αλγόριθμος που συμβολίζεται ως RCM. Ο αλγόριθμος αυτός έχει το ίδιο εύρος ζώνης με τον Cuthill Mckee αλλά μικρότερο προφίλ και είναι καλύτερος από τον «γνήσιο» στους τομείς της αποθήκευσης και της υπολογιστικής πολυπλοκότητας [2,3]. Παράδειγμα 2.1 Έστω η μήτρα Α και το αντίστοιχο μη προσανατολισμένο γράφημα G A Συνεπώς, το εύρος ζώνης είναι β=9 και το προφίλ, ί ( ) =40. Εφαρμόζουμε τώρα τον αλγόριθμο Cuthill Mckee στην μήτρα Α ξεκινώντας με τον κόμβο 1, προκύπτει η παρακάτω μήτρα και το αντίστοιχο γράφημα. Οι αριθμοί έξω από τους κύκλους δείχνουν την νέα αρίθμηση των κόμβων ενώ οι αριθμοί μέσα στους κύκλους την παλιά. 23

24 Μαρίνα Κοντοκώστα Οι παρακείμενες κορυφές του κόμβου 1, είναι η 6 και η 10 και οι δύο με βαθμό 2. Στην περίπτωση αυτή, σπάμε αυθαίρετα τον «δεσμό» (tie) και η κορυφή 6 παίρνει τον αριθμό 2 και η κορυφή 10 τον αριθμό 3. Οι επόμενες υποψήφιες κορυφές είναι οι 9 και 11, με βαθμούς 3 και 5 αντίστοιχα, συνεπώς η κορυφή 9 παίρνει τον αριθμό 4 και η κορυφή 11 τον αριθμό 5. Ο αλγόριθμος συνεχίζεται με τον ίδιο τρόπο έως ότου όλες οι κορυφές να πάρουν την νέα αυτή αρίθμηση. Εφαρμόζοντας ομοίως την παραπάνω διαδικασία βρίσκουμε ότι το εύρος ζώνης είναι β=4 και το προφίλ, ί =26. Ας εφαρμόσουμε τώρα τον ανάστροφο Cuthill Mckee αλγόριθμο στην μήτρα Α ξεκινώντας με τον κόμβο 1. Η μήτρα που προκύπτει είναι η παρακάτω: [4]. Το εύρος ζώνης είναι β=4, δηλαδή δεν αλλάζει, το προφίλ όμως μειώνεται ί =24 Σε μία προσπάθεια να βελτιωθεί ο χρόνος «τρεξίματος» του RCM αλγορίθμου περιγράφτηκε ένας αλγόριθμος από τους Gibbs, Poole και Stockmeyer [5], ο οποίος παράγει 24

25 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. παρόμοιας ποιότητας διατάξεις με τον RCM αλλά είναι πολύ πιο γρήγορος. Ο αλγόριθμος αυτός ξεκινά με μία αυθαίρετη κορυφή ελαχίστου βαθμού, έστω r, και παράγει μία δομή επιπέδου με αρχή την κορυφή αυτή. Έστω d το βάθος της. Έπειτα βρίσκει όλες τις κορυφές που συνδέονται στο βαθύτερο επίπεδο και για την κορυφή με τον ελάχιστο βαθμό δημιουργεί μια νέα δομή επιπέδου με ρίζα την κορυφή αυτή. Εάν για κάποια κορυφή, έστω v, η δομή επιπέδου είναι βαθύτερη από d τότε η διαδικασία επαναλαμβάνεται ξεκινώντας τώρα με την κορυφή r. Τέλος, η τελική δομή επιπέδου δημιουργείται όταν με αυτόν τον τρόπο το βάθος μεγιστοποιηθεί και η αρίθμηση των κορυφών γίνεται όπως στον RCM αλγόριθμο. Παράδειγμα 2.2 Έστω η μήτρα Α του προηγούμενου παραδείγματος. Μία πιθανή κορυφή ελαχίστου βαθμού = 2 είναι η 10. Η δομή επιπέδου με ρίζα την κορυφή 10 είναι: Η δομή αυτή επιπέδου έχει βάθος 3. Οι κορυφές 2, 4 και 5 βρίσκονται στο βαθύτερο επίπεδο. Οι κορυφές που συνδέονται στο βαθύτερο επίπεδο είναι οι 2, 4 και έχουν βαθμό = 2. Έπειτα, βρίσκουμε ότι η δομή επιπέδου με ρίζα το 2 έχει βάθος 4. Άρα η κορυφή 2 είναι καλύτερη από την 10. Στην βαθύτερο επίπεδο με ρίζα την 2 βρίσκουμε μόνο την κορυφή 5. Δημιουργώντας ξανά δομή επιπέδου με ρίζα την 5 βρίσκουμε ότι το βάθος της είναι 4. Συνεπώς, η κορυφή 2 είναι αυτή που ψάχναμε [4]. 25

26 Μαρίνα Κοντοκώστα Μία άλλη προσέγγιση για την ελαχιστοποίηση της πλήρωσης είναι η μονόδρομη διαμέριση (one-way dissection). Η δομή της μήτρας που χρησιμοποιείται από αυτόν τον αλγόριθμο είναι το διπλά φραγμένο διαγώνιο μπλοκ. Σε αυτή την προσέγγιση, η δομή επιπέδου παράγεται όπως παραπάνω και σχηματίζονται οι διαχωριστές (ένα σύνολο κορυφών, κατά την απομάκρυνση του οποίου μαζί με τις προσκείμενες ακμές του, αποσυνδέει το κατά άλλο συνδεδεμένο γράφημα), οι οποίοι αναδιατάσσονται τελευταίοι, δηλαδή μετά τα σύνολα των επιπέδων. Επιπλέον, οι κορυφές των συνόλων των επιπέδων αναδιατάσσονται με την βοήθεια του RCM αλγόριθμου. Αυτό που προκύπτει είναι ακριβώς το διπλά φραγμένο διαγώνιο μπλοκ. Η μορφή αυτή μπορεί να γραφεί γενικά όπως στο Σχήμα 3. A A A A T 21 A22, Σχήμα 3. Διπλά φραγμένο διαγώνιο μπλοκ Πιο συγκεκριμένα, έστω L 0 L 1,...L l τα επίπεδα, δηλαδή l+1 το σύνολο των επιπέδων. Στη συνέχεια, υπολογίζουμε την απόσταση των διαχωριστών l ( 1) / 1, όπου 2( l1) / 3m 13 είναι ο αριθμός των διαχωριστών και m N / ( l 1). Έπειτα, όταν το l /2 βρίσκουμε τους διαχωριστές μέσω της εξής επαναληπτικής διαδικασίας: Για i=1 και S, 26

27 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. βρίσκουμε το j i 0.5 που εάν j l πηγαίνουμε κατευθείαν στον υπολογισμό των μπλοκ που θα περιγράψουμε παρακάτω. Αλλιώς, συνεχίζουμε την επαναληπτική διαδικασία με το επόμενο βήμα. Ορίζουμε το S i ως το σύνολο όλων των κορυφών του επιπέδου L j οι οποίες είναι παρακείμενες με κάθε κορυφή του επιπέδου Lj 1. Στο επόμενο βήμα, το S γίνεται S S S i και στο τελευταίο βήμα αυξάνουμε το i κατά 1 δηλαδή i=i+1 και επαναλαμβάνουμε την διαδικασία. Μετά, υπολογίζουμε τα μπλοκ Ri, R2,... R p τα οποία προκύπτουν όταν το σύνολο S αφαιρείται από το γράφημα. Τέλος, αριθμούμε τις κορυφές των μπλοκ χρησιμοποιώντας τον RCM αλγόριθμο και τους κόμβους του S αυθαίρετα. Παράδειγμα 2.3 Έστω το γράφημα και η αντίστοιχη δομή επιπέδου με ρίζα το 8. Το σύνολο των κόμβων είναι Ν = 20, το σύνολο των επιπέδων l = 6 και m = 20/7. Υπολογίζουμε 20 τον αριθμό των διαχωριστών 2 *7 / ,13 και την απόσταση των διαχωριστών 7 7 / 3,13 2,23. Τα επίπεδα από τα οποία επιλέγουμε τους διαχωριστές είναι το 2 και το 4. Άρα, S1 (2,10) και S2 (14,7). Οι κορυφές 14 και 7 είναι οι μόνες κορυφές του επιπέδου 4 που είναι παρακείμενες με τις κορυφές του επιπέδου 5. Συνεπώς, τα μπλοκ που δημιουργούνται 27

28 Μαρίνα Κοντοκώστα είναι: R1 (8,9,19,3), R2 (17,18,11,12,4,16,1), R3 (13,15) και R4 (5,20,6). Το γράφημα και η αντίστοιχη μήτρα χωρισμένη σε μπλοκ είναι [4]: Η εμφωλιασμένη διαμέριση (nested dissection) [7] είναι μια μέθοδος συστηματικής διαμέρισης του γραφήματος μιας μήτρας χρησιμοποιώντας διαχωριστές. Όταν βρούμε τον διαχωριστή, αριθμούμε τις κορυφές του και τον διαγράφουμε από το γράφημα αφήνοντας το γράφημα χωρισμένο σε δύο ή περισσότερα μέρη. Τότε, βρίσκουμε διαχωριστές για κάθε μέρος του γραφήματος και συνεχίζουμε την διαδικασία δημιουργώντας όλο και μικρότερα μέρη, μέχρις ότου να αριθμήσουμε όλες τις κορυφές. Τους διαχωριστές τους βρίσκουμε στα ενδιάμεσα επίπεδα j, όπου j είναι ο μεγαλύτερος ακέραιος που είναι μικρότερος ή ίσος με (l+1)/2 και l είναι ο αριθμός των επιπέδων της εκάστοτε δομής επιπέδων και είναι ελαχιστοτικά υποσύνολα της εκάστοτε δομής επιπέδων. Όταν δεν αποθηκεύουμε μηδενικά στοιχεία της μήτρας, η αρίθμηση των κορυφών μέσα στους διαχωριστές μπορεί να γίνει αυθαίρετα. Ωστόσο, εάν χρησιμοποιούμε ένα σύστημα αποθήκευσης που αποθηκεύει ένα μέρος των μηδενικών στοιχείων, είναι βολικό να αριθμούμε τις κορυφές των διαχωριστών με μια συγκεκριμένη σειρά. Ο χώρος και τα υπολογιστικά φράγματα για την εμφωλιασμένη διαμέριση είναι λιγότερα από την μονόδρομη διαμέριση. Έχει βρεθεί ότι για μεγάλες μήτρες, η μέθοδος αυτή είναι καλύτερη από την μονόδρομη διαμέριση. Ωστόσο για μία τάξη προβλημάτων, όπως μήτρες που παράγονται από εξαιρετικά ορθογώνιες δομές, η εγκιβωτισμένη διαμέριση δεν αποδίδει επαρκώς. 28

29 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Παράδειγμα 2.4 Έστω το γράφημα και η αντίστοιχη δομή επιπέδου με ρίζα το 8 του προηγούμενου παραδείγματος. Εφόσον l = 6 και j = 3, πρέπει να επιλέξουμε τον πρώτο διαχωριστή από το τρίτο επίπεδο L 3 = (17, 18, 11). Αλλά, το L 3 δεν είναι ελαχιστοτικός διαχωριστής εφόσον η κορυφή 11 είναι από μόνη της διαχωριστής και το σύνολο (17, 18) είναι επίσης ένας διαχωριστής. Για να χωρίσουμε το γράφημα σε δύο ίσα μέρη επιλέγουμε S 0 = (11) και βάζουμε στην κορυφή 11 τον αριθμό 20. Η διαγραφή της κορυφής 11 αφήνει το γράφημα σε δύο μέρη, τα 1 R1 (12, 4,17,18, 2,10,9,19,8,3) και 2 R1 (13,15,14,16,1,7,5, 20,6). Ας πάμε τώρα στο 1 R 1. Η δομή επιπέδων με ρίζα το 12 έχει l = 5 επίπεδα, άρα j = 3 και 1 S1 L3 (9,10). Οι κορυφές 9 και 10 παίρνουν τους αριθμούς 19 και 18 αντίστοιχα. Για το 2 R 1, η δομή επιπέδων με ρίζα το 13 έχει l = 6 επίπεδα και j = 3. Συνεπώς, 1 παίρνει τον αριθμό S1 L3 (1) και η κορυφή Η διαγραφή των 1 S1 και 2 S1 αφήνει τα εξής μέρη: 1 R2 (12, 4,17,18, 2), 2 R2 (19,8, 3), 3 R2 (13,15,14,16) και 2 (7,5, 20,6). Ο διαχωριστής για το 4 R 1 R 2 είναι ο 2 (17, 4). Το 1 S 2 R 2 είναι κλίκα και για αυτό δεν έχει διαχωριστή, άρα S R. Οι επόμενοι δύο διαχωριστές είναι οι S2 (14) και 2 (5, 20). Όλα τα υπόλοιπα R σύνολα δεν έχουν διαχωριστές. 4 S Συνεπώς, το γράφημα με την νέα αρίθμηση, το δέντρο με τους διαχωριστές και η αντίστοιχη μήτρα είναι [4]: 29

30 Μαρίνα Κοντοκώστα Ο Πίνακας 1 παρουσιάζει τον χρόνο αναδιάταξης και τον συνολικό χώρο αποθήκευσης των αλγορίθμων RCM, μονόδρομης διαμέρισης και εμφωλιασμένης διαμέρισης [6]. Πίνακας 1. Στον παραπάνω πίνακα παρατηρούμε ότι ο χρόνος αναδιάταξης της μονόδρομης διαμέρισης είναι περίπου 60% μεγαλύτερος από αυτόν του RCM αλλά είναι σημαντικά πιο μικρός από αυτόν της εμφωλιασμένης διαμέρισης. Επίσης, ο συνολικός χώρος αποθήκευσης της μονόδρομης διαμέρισης είναι αρκετά μικρότερος από αυτούς των άλλων δύο και μέχρι που το Ν γίνεται πολύ μεγάλο. Οι πρόσφατες εργασίες στις γενικές μεθόδους συγκεντρώνονται αρχικά στις τεχνικές διαμέρισης γραφημάτων. Παρόμοια με την εμφωλιασμένη διαμέριση, οι μέθοδοι αυτές 30

31 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. προσπαθούν να βρουν μικρά σύνολα κορυφών τα οποία διαιρούν το γράφημα της μήτρας σε καλά ισορροπημένα συνδεδεμένα υποσύνολα. Υπάρχουν πολλά λογισμικά πακέτα που χρησιμοποιούν τις τεχνικές διαμέρισης γραφημάτων όπως το CHACO, το πακέτο διαμέρισης γραφήματος Watson WGPP, και το πακέτο METIS. 2.4 Τοπικές προσεγγίσεις Σε αντίθεση με τις γενικές προσεγγίσεις, οι τοπικές μέθοδοι επιλέγουν έναν οδηγό την φορά, ενημερώνοντας την μήτρα ή το γράφημα της μετά από κάθε επιλογή. Εφόσον αυτές είναι στρατηγικές τοπικής ελαχιστοποίησης, δεν μπορούμε να εγγυηθούμε ότι η πλήρωση είναι συνολικά φραγμένη. Ωστόσο, πρόσφατες βελτιώσεις πολυπλοκότητας χρόνου και χώρου τις έχουν κάνει πολύ δημοφιλείς. Στη συνέχεια, περιγράφονται μερικές τοπικές ευρετικές μέθοδοι για την αναδιάταξη μια μήτρας. Μία από τις πρώτες ευρετικές μεθόδους για την αναδιάταξη της μήτρας ήταν λόγω του Markowitz [8]. Η ευρετική αυτή μέθοδος, χρησιμοποιήθηκε σε μη συμμετρικές μήτρες, παρέχοντας στην πραγματικότητα μία αναδιάταξη στήλης και στοίχου και βασίστηκε όχι μόνο στη μορφή αλλά και τις αριθμητικές τιμές της μήτρας. Δεδομένου ότι, για το k βήμα της παραγοντοποίησης, r i (k) είναι ο βαθμός του i στοίχου και c j (k) ο βαθμός της j στήλης, το οδηγό στοιχείο διαλέγεται έτσι ώστε το (r i (k)-1)(c j (k)-1) να ελαχιστοποιείται και η αριθμητική τιμή του οδηγού να έχει αριθμητική σταθερότητα. Με την επιλογή αυτή του οδηγού η πιθανή πλήρωση ελαχιστοποιείται. Το κύριο πρόβλημα με την στρατηγική του Markowitz είναι η εξάρτηση από τις αριθμητικές τιμές και το βαρύ κόστος αναζήτησης του αποδεκτού οδηγού. Επιπλέον, δύο μήτρες με πανομοιότυπη μη μηδενική μορφή αλλά με διαφορετική αριθμητικές τιμές θα έχουν δύο διαφορετικές αναδιατάξεις. Πολλές φορές, είναι επιθυμητό να παίρνουμε μία αναδιάταξη που βασίζεται μόνο στη μη μηδενική μορφή έτσι ώστε μία αναδιάταξη του οδηγού να μπορεί να χρησιμοποιηθεί σε πολλαπλές μήτρες και με την ίδια μη μηδενική μορφή, αλλά με διαφορετικές αριθμητικές τιμές. Ένα παράγωγο του αλγόριθμου Markowitz είναι ο αλγόριθμος των Tinney και Walker, ο οποίος ονομάστηκε αργότερα αλγόριθμος ελαχίστου βαθμού (minimum degree algorithm) [9]. Ο αλγόριθμος αυτός είναι το συμμετρικό αντίστοιχο του Markowitz. Καθώς χρησιμοποιείται για συμμετρικές θετικά ορισμένες μήτρες, οι επιλογές του οδηγού δεν χρειάζεται να ελεγχθούν για αριθμητική σταθερότητα. Ως εκ τούτου, χρειάζεται μόνο η μη μηδενική μορφή. Η ευρετική αυτή μέθοδος, επιλέγει το οδηγό στοιχείο από την στήλη (ή τον στοίχο) με τον μικρότερο βαθμό. 31

32 Μαρίνα Κοντοκώστα Εφόσον χρησιμοποιείται διαγώνια οδήγηση, η μήτρα παραμένει συμμετρική το οποίο επίσης συνεπάγεται ότι το οδηγό στοιχείο είναι στον στοίχο (ή στην στήλη) με τον μικρότερο βαθμό. Όπως ο Markowitz, ο αλγόριθμος αυτός φράσσει την πλήρωση σε κάθε βήμα. Τέλος, το μειονέκτημα του αλγορίθμου αυτού είναι ότι δεν μπορούμε να προβλέψουμε τον χώρο αποθήκευσης που χρειάζεται. Παράδειγμα 2.5 Ας πάρουμε την μήτρα του παραδείγματος 2.1. Στοίχος Μη- μηδενικά Ο παραπάνω πίνακας δείχνει τον αριθμό των μη - μηδενικών στοιχείων σε κάθε στοίχο, εκτός των διαγωνίων. Υπάρχουν πολλοί στοίχοι με 2 μη- μηδενικά στοιχεία και εφόσον δεν έχει συσταθεί καμία στρατηγική σπασίματος «δεσμών» (tie breaking strategy), επιλέγουμε αυθαίρετα τον στοίχο 1 και διαγράφουμε τον στοίχο και την στήλη 1. Στη συνέχεια, ενημερώνουμε τον πίνακα. Στοίχος Μη- μηδενικά x Ξανά, υπάρχουν πολλοί στοίχοι με δύο μη μηδενικά στοιχεία. Επιλέγουμε τον στοίχο 2, διαγράφουμε τον στοίχο και την στήλη 2 και ενημερώνουμε τον πίνακα. 32

33 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Στοίχος Μη- μηδενικά x x Ομοίως, οποιοσδήποτε στοίχος με 2 μη μηδενικά μπορεί να επιλεγεί. Ας πάρουμε τον στοίχο 10. Κατά τον ίδιο τρόπο συνεχίζουμε την διαδικασία με αποτέλεσμα μία πιθανή αναδιάταξη ελαχίστου βαθμού να είναι [4]: Η περισσότερη έρευνα στους αλγορίθμους αναδιάταξης τοπικής προσέγγισης έχει γίνει είτε στις τροποποιήσεις του Markowitz είτε στους αλγορίθμους ελαχίστου βαθμού. Οι εργασίες αυτές έχουν ως πρωταρχικό ενδιαφέρον την μείωση της μνήμης και της πολυπλοκότητας του χρόνου των αλγορίθμων αυτών. Ένα παράδειγμα είναι η εργασία του Zlatev [25] που μείωσε τον χώρο αναζήτησης της μεθόδου του Markowitz περιορίζοντας την έρευνα του οδηγού στους στοίχους με χαμηλό βαθμό. Πρόσφατη έρευνα έχει γίνει για την μείωση του κόστους υπολογισμού των βαθμών στον αλγόριθμο ελαχίστου βαθμού χρησιμοποιώντας προσεγγιστικούς βαθμούς. Σε άλλες περιπτώσεις έχουν γίνει προσπάθειες για να βελτιωθεί η ποιότητα των ευρετικών μεθόδων. Οι Tinney και Walker πρότειναν μία έκδοση ελάχιστης έλλειψης (minimum deficiency) του αλγόριθμου ελαχίστου βαθμού. Η έκδοση αυτή στην πραγματικότητα ελαχιστοποιεί την πλήρωση σε κάθε στάδιο. Ωστόσο, παρά τις μικρές βελτιώσεις ποιότητας, το κόστος του χρόνου είναι απαγορευτικά μεγάλο. Σε πρόσφατη έρευνα στην ελάχιστη έλλειψη, χρησιμοποιήθηκαν προσεγγιστικές ελλείψεις για να βελτιωθεί σημαντικά ο χρόνος εκτέλεσης. Επίσης, έδειξαν βελτιωμένη ποιότητα σε σχέση με τον αλγόριθμο ελαχίστου βαθμού. 33

34 Μαρίνα Κοντοκώστα ΚΕΦΑΛΑΙΟ 3 ο ΠΡΟΣΦΑΤΕΣ ΕΡΕΥΝΕΣ ΣΤΟΝ ΕΛΑΧΙΣΤΟ ΒΑΘΜΟ Έχουν γίνει πολλές βελτιώσεις στον αλγόριθμο ελαχίστου βαθμού από την πρώτη εκτέλεση από τους Tinney και Walker [9]. Οι George και Liu [10] παρουσίασαν την εξέλιξη του αλγορίθμου ελαχίστου βαθμού. Ο αρχικός αλγόριθμος βασιζόταν στο μοντέλο απαλοιφής γραφήματος. Το μοντέλο αυτό ήταν μία ρητή μορφή γραφήματος της μήτρας σε κάθε βήμα απαλοιφής. Έστω το γράφημα G. Σε κάθε βήμα απαλοιφής ο κόμβος με τον ελάχιστο βαθμό επιλέγεται και αναδιατάσσεται. Έστω p ο κόμβος αυτός. Τότε, προστίθενται ακμές στον G έτσι ώστε όλοι οι κόμβοι που είναι παρακείμενοι στον p να είναι πλήρως συνδεδεμένοι. Έπειτα, όλες οι ακμές που είναι προσκείμενες στον p διαγράφονται από το γράφημα όπως επίσης και ο κόμβος p. Το γράφημα που προκύπτει συμβολίζεται ως G p. Η ακολουθία αυτή επαναλαμβάνεται έως ότου να διαγραφούν όλοι οι κόμβοι. Το Σχήμα 4 περιγράφει τον ψευδο-κώδικα του αλγορίθμου αυτού. G = το συμμετρικό γράφημα Όσο G κάνε Επίλεξε και αναδιάταξε τον κόμβο p με τον ελάχιστο βαθμό στον G. Τέλος όσο G = G p Σχήμα 4. Ο βασικός αλγόριθμος ελαχίστου βαθμού. Υπάρχουν τρία κύρια προβλήματα με την εκτέλεση του αλγορίθμου ελαχίστου βαθμού. Δεδομένου ότι σε κάθε βήμα προσθέτουμε και αφαιρούμε ακμές από το γράφημα, δεν μπορούμε να προβλέψουμε τις απαιτήσεις της μέγιστης αποθήκευσης του αλγορίθμου. Το δεύτερο πρόβλημα είναι ο υπολογισμός των βαθμών. Μπορούμε να δούμε ότι οι ενημερώσεις των βαθμών απαιτούνται για κάθε κόμβο που είναι παρακείμενοι στον διαγραμμένο κόμβο p. Έχει αποδειχθεί ότι οι ενημερώσεις αυτές των βαθμών είναι το υπολογιστικά πολυπλοκότερο μέρος 34

35 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. του αλγορίθμου [11]. Το τελευταίο πρόβλημα είναι η χρήση του αλγορίθμου αυτού για την επίτευξη μιας καλής αναδιάταξης στήλης για μη συμμετρικές μήτρες. Στη συνέχεια, θα αναφερθούμε στις διάφορες λύσεις των τριών αυτών κύριων προβλημάτων. 3.1 Μαζική απαλοιφή (Mass elimination) Μία λύση στο πρόβλημα ενημέρωσης βαθμού είναι ότι συχνά ένα σύνολο κόμβων μπορεί να αναδιαταχθεί μαζί, μειώνοντας έτσι τον αριθμό των φορών που πρέπει να γίνει η ανανέωση του βαθμού. Το σύνολο αυτό μπορεί να προσδιοριστεί από το επόμενο θεώρημα [12]. Θεώρημα 3.1 Έστω q Adj G( p) τότε deg reeg ( q) deg reeg( p) 1 αν και μόνο αν Adj { q} Adj { p}. G( q) G( p) p Οι κόμβοι που ομαδοποιούνται μαζί, μέσω αυτού του θεωρήματος, είναι επίσης γνωστοί και ως μη διακριτοί (indistinguishable) κόμβοι. Αυτό μας οδηγεί στην επόμενη κύρια βελτίωση στον αλγόριθμο ελαχίστου βαθμού. 3.2 Υπερκόμβος (Supernode) Όπως αναφέρει το Θεώρημα 3.1 δύο κόμβοι u και v είναι μη διακριτοί αν και μόνο αν Adj { q} Adj { p}. Έχει δειχτεί επίσης, ότι εάν δύο κόμβοι είναι μη διακριτοί στον G G( q) G( p) παραμένουν μη διακριτοί και στον G p [13]. Γνωρίζοντας αυτό, οι μη διακριτοί κόμβοι μπορούν να αντιπροσωπεύονται από έναν κόμβο στην δομή δεδομένων. Αυτό αναφέρεται ως υπερκόμβος. Όταν αυτός ο υπερκόμβος αναδιατάσσεται, αναδιατάσσονται και όλοι οι κόμβοι που περιέχει. Η χρήση των υπερκόμβων μπορεί να μειώσει σημαντικά τις εργασίες ενημέρωσης του βαθμού. Μόνο ο βαθμός του αντιπροσωπευτικού κόμβου από τον υπερκόμβο χρειάζεται να διατηρηθεί. 35

36 Μαρίνα Κοντοκώστα 3.3 Μοντέλο γραφήματος πηλίκων (Quotient graph model) Για να λύσουμε το πρόβλημα της απρόβλεπτης αποθήκευσης της αναδιάταξης, εισήχθηκε η προσέγγιση γενικευμένου στοιχείου, γνωστή και ως μορφή γράφημα πηλίκων. Στην προσέγγιση αυτή, κάθε ακμή στον G μπορεί να θεωρηθεί σαν μία κλίκα μεγέθους δύο. Το G μπορεί να παρασταθεί σαν μία συλλογή από κλίκες, που η κάθε μία αρχικά έχει μέγεθος δύο. Καθώς η απαλοιφή προχωρά, οι κλίκες που εμπλέκονται σε ένα βήμα απαλοιφής συγχωνεύονται. Ας υποθέσουμε ότι ο κόμβος p επιλέγεται ως ο k οδηγός και ο κόμβος αυτός περιέχεται στις κλίκες C, C,..., C, η διαδικασία απαλοιφής μπορεί να γραφεί ως εξής: p1 p2 p n Πρώτα, δημιούργησε την τη νέα κλίκα n C C \ p. k i1 pi Έπειτα, αφαίρεσε τις κλίκες C, C,..., C από το G. p1 p2 p n Τέλος, πρόσθεσε την νέα κλίκα C k στο G. Εικόνα 5. Μία ακολουθία γραφημάτων πηλίκων [22]. 36

37 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Το επόμενο θεώρημα δείχνει γιατί η προσέγγιση γραφήματος πηλίκων είναι σημαντική. Θεώρημα 3.2 Για n κλίκες C, C,..., C που περιέχουν τον οδηγό κόμβο p, η συγχωνευμένη p1 p2 p n κλίκα που προκύπτει δίνεται από την C k με την ιδιότητα ότι n C C [10]. k i1 pi Αφού το μέγεθος της νέας κλίκας είναι αυστηρά μικρότερο από το άθροισμα των μεγεθών των κλικών που περιέχει, η αποθήκευση που απαιτείται για τον G p δεν θα υπερβαίνει ποτέ αυτή του G. Υπάρχουν πολλές εφαρμογές που χρησιμοποιούν την μορφή γραφήματος πηλίκων όπως το MA27 [14], το Waterloo Sparse Linear Equations Package (SPARSPAK) [15], το Yale Sparse Matrix Package (YSMP) [16] και πιο πρόσφατα το MC47 [11]. 3.4 Ατελής ενημέρωση βαθμού (Incomplete degree update) Μία άλλη καινοτομία στην εξέλιξη του αλγορίθμου ελαχίστου βαθμού, είναι η χρήση της ατελούς ενημέρωσης βαθμού. Με την ατελή ενημέρωση βαθμού, μπορούμε να βρούμε ότι οι βαθμοί για ένα υποσύνολο κόμβων που είναι παρακείμενοι στον οδηγό κόμβο δεν χρειάζονται να υπολογιστούν. Αυτό συμβαίνει γιατί οι κόμβοι αυτοί είναι ανώτεροι από άλλους κόμβους που είναι παρακείμενοι στον οδηγό. Ένας κόμβος v είναι ανώτερος από τον u στον G εάν Adj( u) { u} Adj( v) { v}. Η σχέση αυτή μεταξύ των u και v κρατά όσο η απαλοιφή προχωρά. Ο κόμβος u θα έχει πάντα χαμηλότερο βαθμό από τον κόμβο v. Συνεπώς, εάν ο κόμβος v βρεθεί ότι είναι ανώτερος από τον κόμβο u, ο βαθμός του v δεν χρειάζεται να ενημερωθεί παρά μόνο μετά την απαλοιφή του u. Αυτό έχει ως αποτέλεσμα τη σημαντική βελτίωση τους χρόνους εκτέλεσης μειώνοντας τους υπολογισμούς της ενημέρωσης του βαθμού. 3.5 Απορρόφηση κλίκας (Clique absorption) Με το μοντέλο γραφήματος πηλίκων που περιγράψαμε παραπάνω, είναι εύκολο να παρατηρήσουμε ότι εάν υπάρχει μία κλίκα η οποία είναι υποσύνολο μίας άλλης, Cl Cm, μπορούμε να απαλείψουμε το υποσύνολο απορρόφηση, δηλαδή η κλίκα Cm απορροφά την C l χωρίς να αλλάξει η δομή του G. Αυτό ονομάζεται C l. Εάν τέτοιοι πλεονασμοί βρίσκονται μέσα 37

38 Μαρίνα Κοντοκώστα στο γράφημα πηλίκων πηλίκο G, μπορούν να αφαιρεθούν. Συνεπώς, χάρη στη συντήρηση λιγότερων κλικών θα βελτιωθεί η απόδοση. 3.6 Πολλαπλή απαλοιφή (Multiple elimination) Στην προσπάθεια για περαιτέρω καθυστέρηση ενημερώσεων βαθμού, προτάθηκε ως λύση η πολλαπλή απαλοιφή. Κατά την πολλαπλή απαλοιφή επιλέγεται ένα σύνολο από ανεξάρτητους κόμβους που έχουν ελάχιστο βαθμό και διαγράφεται πριν γίνουν οποιεσδήποτε ενημερώσεις βαθμού. Το κίνητρο πίσω από αυτή την ιδέα είναι το γεγονός ότι κάθε κόμβος που δεν είναι παρακείμενος με τον p, είναι ανεπηρέαστος από την απαλοιφή του p. Συνεπώς, μπορούμε να διαγράφουμε κάθε κόμβο που δεν είναι παρακείμενος με τον p, πριν κάνουμε τις ενημερώσεις των βαθμών των κόμβων που είναι παρακείμενοι με τον p. Επιπλέον, η απομάκρυνση των οδηγών που δεν είναι παρακείμενοι με τον p, μπορεί να μειώσουν το κόστος της ενημέρωσης των βαθμών για κάθε κόμβο q όπου { q : q Adj( p)}. Ας υποθέσουμε τώρα, ότι ένα σύνολο P από ανεξάρτητους οδηγούς βρίσκεται στο G. Όταν οι οδηγοί αυτοί απαλείφονται, το σύνολο των κόμβων Adj ( p ) πρέπει να έχουν τους βαθμούς τους ενημερωμένους. Ωστόσο, εάν το pp σύνολο P ήταν μεγάλο, υπάρχει πιθανότητα ότι κάποιες από αυτές τις ενημερώσεις των βαθμών θα είναι ʺφθηνότερεςʺ απ ότι εάν κάθε οδηγός διαγραφόταν ένας - ένας. 3.7 Εξωτερικός βαθμός (External degree) Μία άλλη βελτίωση του αλγορίθμου ελαχίστου βαθμού, είναι η χρήση του εξωτερικού βαθμού αντί του πραγματικού. Ο εξωτερικός βαθμός ενός οδηγού είναι το πραγματικό μέτρο του μεγέθους της κλίκας που προκύπτει μετά την απαλοιφή του οδηγού. Μετά την εμφάνιση των υπερκόμβων η διαφορά αυτή γίνεται σημαντική. Δεδομένου ότι ο στόχος του αλγορίθμου ελαχίστου βαθμού είναι η μείωση του μεγέθους της κλίκας που προκύπτει σε κάθε βήμα απαλοιφής, ο εξωτερικός βαθμός έχει μεγαλύτερο νόημα. Βρέθηκε ότι η χρήση του εξωτερικού βαθμού τυπικά παράγει καλύτερης ποιότητας αναδιατάξεις [17]. 3.8 Α Τ Α αναδιατάξεις Έκτος από την αναδιάταξη των συμμετρικών μητρών, ο αλγόριθμος ελαχίστου βαθμού είναι ένας αποτελεσματικός αλγόριθμος αναδιάταξης στήλης και για μη συμμετρικές μήτρες. 38

39 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Έχει δειχτεί ότι για μία μη συμμετρική μήτρα Α, η συμμετρική αναδιάταξη του Α Τ Α είναι μία καλή αναδιάταξη στήλης της μήτρας Α. Τα επόμενα θεωρήματα παρουσιάζουν όρια στη δομή της Α είτε κατά την LU είτε κατά την QR παραγοντοποίηση που βασίζονται στη συμμετρική παραγοντοποίηση του Α Τ Α. Θεώρημα 3.3 Έστω η μη συμμετρική μήτρα Α. Ας είναι G ( A) η δομή των παραγόντων Cholesky του Α Τ Α. Ας είναι L και U οι LU παράγοντες της Α που προέρχονται από μερική οδήγηση. Τότε G( L U) G ( A) [18]. Ορισμός 3.1 Έστω Α μία m x n μήτρα με m n. Τότε η Α είναι Hall όταν δεν υπάρχει μηδενική υπομήτρα της Α μεγέθους r x s με r s m. Όταν επιπλέον δεν υπάρχει μηδενική μήτρα με sn 1 και r s m, τότε η Α είναι ισχυρή Hall (strong Hall). Παράδειγμα 3.1 Κάθε μία από τις παρακάτω μήτρες είναι ισχυρές Hall: , και Εάν όμως στην πρώτη μήτρα αντικαταστήσουμε οποιοδήποτε 1 με 0 τότε η μήτρα γίνεται Hall. Θεώρημα 3.4 Έστω η μη συμμετρική μήτρα Α η οποία είναι ισχυρή Hall και ο παράγοντας από τον γράφημα τομής στήλης είναι G ( A) ( V, E ). Για κάθε επιλογή {i,j}όπου {i,j} E, υπάρχουν τιμές για την Α έτσι ώστε U ij 0 [19]. Το επόμενο θεώρημα δείχνει ένα όριο για την QR παραγοντοποίηση. Θεώρημα 3.5 Εάν εκτελείται QR παραγοντοποίηση πάνω στην Α τότε G( R) G ( A) [20]. Θεώρημα 3.6 Εάν εκτελείται QR παραγοντοποίηση πάνω στην Α και η Α είναι ισχυρή Hall, τότε υπάρχουν τιμές για τα μη μηδενικά της Α έτσι ώστε G( R) G ( A) [21]. 39

40 Μαρίνα Κοντοκώστα Συνεπώς, μπορούμε να δούμε την τιμή μιας συμμετρικής ανάλυσης στο Α Τ Α και για την παραγοντοποίηση LU με μερική οδήγηση και για την ορθογώνια QR παραγοντοποίηση. Και στις δύο περιπτώσεις η δομή του G ( A) είναι το άνω φράγμα στην πλήρωση. Τυπικά, μπορούμε να επιτύχουμε μια αναδιάταξη στήλης για μια μη συμμετρική μήτρα Α, σχηματίζοντας πρώτα το Α Τ Α με σαφήνεια. Το Α Τ Α δίνεται σε έναν αλγόριθμο συμμετρικής αναδιάταξης, όπως ο αλγόριθμος ελαχίστου βαθμού. Η συμμετρική μετάθεση που προκύπτει χρησιμοποιείται ως μία μετάθεση στήλης για την Α. Το πρόβλημα με αυτή την προσέγγιση είναι ότι ο χρόνος και ο χώρος που απαιτείται για τον αναλυτικό σχηματισμό του Α Τ Α μπορεί να είναι απαγορευτικός. Επιπλέον, οι πληροφορίες για την δομή της Α χάνονται όταν σχηματίζεται ο Α Τ Α. Οι πληροφορίες όμως αυτές, μπορεί να είναι χρήσιμες στις στρατηγικές σπασίματος δεσμών (tie breaking strategy) για σποραδικές QR αναδιατάξεις. Με την εισαγωγή του γραφήματος πηλίκων της συμμετρικής απαλοιφής Gauss, υπάρχει ένας εναλλακτικός αναλυτικός σχηματισμός του Α Τ Α. Όπως αναφέραμε προηγουμένως, η μορφή του γραφήματος πηλίκων σχηματίζει μία νέα κλίκα σε κάθε στάδιο απαλοιφής. Η κλίκα αυτή σχηματίζεται ως η ένωση του αρχικού στοίχου και μίας ή περισσοτέρων προηγούμενων κλικών. Ωστόσο, θα μπορούσαμε να ξεκινήσουμε με μία μορφή μιας συμμετρικής μήτρας που έχει συντεθεί εξ ολοκλήρου από κλίκες. Ο επόμενος ορισμός του γραφήματος τομής στηλών δείχνει πως μπορεί αυτό να γίνει εύκολα για το Α Τ Α. Ορισμός 3.2 Έστω μία μη συμμετρική μήτρα Α διάστασης m επί n. Ας είναι το προσανατολισμένο γράφημα της G(A) = (V,E). Το γράφημα τομής στηλών της Α είναι G ( A) ( V, E) έτσι ώστε V {1,2,..., m} και m E {( i, j) : ( k, i) E,( k, j) E}. Επιπλέον, k1 υποθέτοντας ότι δεν υπάρχουν αριθμητικές ακυρώσεις, G( ) G ( A) [23]. Με άλλα λόγια, κάθε στοίχος στην Α είναι μία κλίκα στον γράφημα του Α Τ Α. Η Εικόνα 6 δείχνει την σχέση μεταξύ ενός στοίχου στην Α και της αντίστοιχης κλίκας στο Α Τ Α [23]. 40

41 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Εικόνα 6. Η σχέση μεταξύ Α και Α Τ Α. Συνεπώς, χωρίς αρχική δουλειά, υπάρχει μία έμμεση απεικόνιση του Α Τ Α για οποιοδήποτε γράφημα πηλίκων που βασίζεται στην λειτουργία αλγορίθμου της Α. Αυτή είναι η προσέγγιση που χρησιμοποιείται από τους αλγόριθμους Colamd και Colmmd. 3.9 Προσεγγιστικοί βαθμοί (Approximate degrees) Μία από τις πιο πρόσφατες εξελίξεις συμπεριλαμβάνει την μείωση του χρόνου που απαιτείται για να εκτελεστεί η ενημέρωση βαθμού. Έρευνες έκαναν χρήση ενός άνου φράγματος του βαθμού. Η προσεγγιστικός βαθμός χρησιμοποιείται στη συνάρτηση Colmmd του Matlab, που είναι ένας αλγόριθμος αναδιάταξης στήλης για μη συμμετρικές μήτρες. Επειδή το Α Τ Α είναι μία έμμεση μορφή της Α, κάθε στοίχος της Α είναι μία κλίκα στο Α Τ Α. Η προσέγγιση που χρησιμοποιήθηκε είναι απλά το άθροισμα των εξωτερικών βαθμών των κλικών που ανήκουν οι υπερκόμβοι. Αυτό μπορεί να βρεθεί πολύ γρήγορα. Το μειονέκτημα της προσέγγισης αυτής είναι ότι κάποιες χαμηλότερης ποιότητας μεταθέσεις έχουν ως αποτέλεσμα περισσότερη πλήρωση από ότι η χρήση των πραγματικών βαθμών. Άλλες έρευνες έκαναν χρήση μίας πιο εξεζητημένης προσέγγισης του προσεγγιστικού ελαχίστου βαθμού η οποία έχει δείξει ότι αποδίδει αναδιατάξεις υψηλής ποιότητας. Η προσέγγιση αυτή παρουσιάζει μία συλλογή από διαφορές ανάμεσα στην πρόσφατη σχηματισμένη κλίκα C και στις όλες υπόλοιπες κλίκες στις οποίες ανήκουν όλοι οι κόμβοι της C. Ο βαθμός για κάθε κόμβο της C προσδιορίζεται ως το άθροισμα της C και του αριθμού των 41

42 Μαρίνα Κοντοκώστα διαφορών για κάθε επιπρόσθετη κλίκα στην οποία ανήκει ο κόμβος. Η προσέγγιση αυτή χρησιμοποιείται επίσης από τον Colamd Προσέγγιση ελάχιστης έλλειψης (Approximate minimum deficiency) Έρευνες έχουν δείξει ότι οι τροποποιήσεις σε έναν αλγόριθμο αναδιάταξης προσεγγιστικής ελάχιστης έλλειψης (approximate minimum deficiency) είναι σχεδόν τόσο γρήγορες και παράγουν καλύτερες αναδιατάξεις από έναν συγκρίσιμο αλγόριθμο ελαχίστου βαθμού. Ο αλγόριθμος ελάχιστης έλλειψης προσπαθεί να ελαχιστοποιήσει την πραγματική πλήρωση σε κάθε βήμα απαλοιφής αντί να ελαχιστοποιεί το φράγμα της πλήρωσης όπως κάνει ο αλγόριθμος ελαχίστου βαθμού. Προτάθηκε μια φτηνή προσέγγιση στην ελάχιστη πλήρωση και δύο νέες ευρετικές μέθοδοι βασίστηκαν πάνω στην ελάχιστη πλήρωση οι οποίες αποδίδουν καλά. Σχεδιάστηκε ένα φράγμα για την ελάχιστη πλήρωση που βασίζεται στο γράφημα πηλίκων, G. Ας είναι Fill(p) η πραγματική πλήρωση που προκύπτει από την επιλογή του κόμβου p ως οδηγός. Παρατηρήθηκε ότι, για μία κλίκα C στον G όλα τα ζεύγη των κόμβων στην κλίκα είναι ήδη παρακείμενα. Γι' αυτό η παράσταση για την προσεγγιστική πλήρωση για τον κόμβο p ο οποίος είναι μέλος της κλίκας C δίνεται από Fill p d d c c όπου 2 2 approx ( ) ( p p) / 2 ( ) / 2 c C \ p και d p είναι ο βαθμός του κόμβου p. Βρέθηκε ότι, αφήνοντας την C να είναι η πιο πρόσφατη κλίκα που δημιουργήθηκε που περιέχει τον p είναι αρκετό για να πετύχουμε ένα καλό φράγμα της πλήρωσης. Η πρώτη ευρετική μέθοδος ονομάστηκε ελάχιστος μέσος όρος τοπικής πλήρωσης (MMF). Κατά την ευρετική αυτή μέθοδο, η απαλοιφή του υπερκόμβου p σημαίνει την απαλοιφή p αρχικών κόμβων. Άρα, εάν η συνολική πλήρωση που συσχετίζεται από αυτή την επιλογή είναι Fill(p), τότε ο μέσος όρος της πλήρωσης είναι Fill(p)/ p. Επίσης, παρατηρήθηκε ότι προκύπτουν καλύτερα αποτελέσματα χρησιμοποιώντας Fill(p) / p. Η δεύτερη ευρετική μέθοδος βασίζεται στην ελάχιστη πλήρωση και ονομάζεται ελάχιστη αύξηση στον γειτονικό βαθμό (MIND). Με την ευρετική αυτή μέθοδο παρατηρήθηκε ότι η απαλοιφή του υπερκόμβου p προκαλεί την προσθήκη Fill(p) ακμών και την διαγραφή adj(p) 42

43 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. ακμών. Ωστόσο, εφόσον το p αναπαριστά p κόμβους, υπάρχουν adj(p) x p ακμές που διαγράφονται στο πραγματικό γράφημα απαλοιφής. Άρα στην δεύτερη ευρετική μέθοδο score(p) = Fill(p) - adj(p) x p. 43

44 Μαρίνα Κοντοκώστα ΚΕΦΑΛΑΙΟ 4 ο ΠΑΡΟΥΣΙΑΣΗ ΤΟΥ COLAMD 4.1 Χαρακτηριστικά του COLAMD. Στην παράγραφο αυτή θα παρουσιάσουμε τα χαρακτηριστικά του αλγορίθμου Colamd. Εφόσον αναδιατάξουμε το Α Τ Α έμμεσα από την δομή της Α, η προφανής επιλογή για την μορφή του Α Τ Α είναι μέσω του γραφήματος πηλίκων στον οποίο κάθε στοίχος της Α είναι μία κλίκα στο Α Τ Α. Για να υπολογίσουμε τους βαθμούς, η προσέγγιση που χρησιμοποιούμε στον Colamd είναι η ίδια με αυτή που χρησιμοποιούμε στον κώδικα προσεγγιστικού ελαχίστου βαθμού (AMD) [11]. Η προσέγγιση αυτή είναι γρήγορη και καταλήγει σε αναδιατάξεις υψηλής ποιότητας στην περίπτωση που η Α είναι συμμετρική. Ένα άλλο χαρακτηριστικό της προσέγγισης του κώδικα του προσεγγιστικού ελαχίστου βαθμού είναι ότι παρέχει έναν εύκολο έλεγχο για τις πλεονάζουσες κλίκες. Για το λόγο αυτό, η απορρόφηση στοιχείου που είναι υποπροϊόν του υπολογισμού του προσεγγιστικού βαθμού, είναι «δωρεάν» χαρακτηριστικό του Colamd. Η ανίχνευση υπερκόμβου εφαρμόζεται μαζί με την μαζική απαλοιφή. Πολλές φορές είναι πιθανό να εκτελείται η μαζική απαλοιφή ακόμα και όταν ανιχνευθούν υπερκόμβοι. Αυτό συμβαίνει γιατί ένας κόμβος q μπορεί να γίνει μη διάκριτος με οδηγό τον κόμβο p, μέχρις ότου ο p να διαγραφεί. Για περισσότερη ενίσχυση της ποιότητας του αλγορίθμου, χρησιμοποιείται ο εξωτερικός βαθμός αντί του πραγματικού. 4.2 Η άπληστη ευρετική μέθοδος. Ο Colamd είναι ουσιαστικά ένας άπληστος αλγόριθμος ο οποίος επιλέγει σε κάθε επανάληψη την στήλη που ελαχιστοποιεί μία μετρική. Η μετρική αυτή βασίζεται πάνω σε κάποιες ευρετικές μεθόδους οι οποίες, καλώς εχόντων των πραγμάτων, αποδίδουν μία καλή αναδιάταξη. Με αυτό κατά νου, αρκετές ευρετικές μέθοδοι πειραματίστηκαν κατά την διάρκεια των πρώτων εκτελέσεων του Colamd. Οι τρεις κύριες ευρετικές μέθοδοι ήταν: ο αλγόριθμος ελαχίστου βαθμού, η ελαχιστοποίηση του αριθμού των Householder ενημερώσεων μιας μήτρας και η ελαχιστοποίηση του αποτελέσματος στην χειρότερη περίπτωση του Markowitz. Όπως περιγράφτηκε στην παράγραφο 3.8 ο αλγόριθμος ελαχίστου βαθμού στο A T A παρέχει ένα φράγμα στην πλήρωση για την LU παραγοντοποίηση της Α. Χρησιμοποιώντας αυτή 44

45 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. την μετρική, ας είναι το αποτέλεσμα για την στήλη j ίσο με d ( row ). Αυτός είναι j rowicolumn j ο βαθμός της ένωσης των στοίχων που τέμνουν την στήλη j. Επιπλέον έχει δειχθεί ότι οι προσεγγιστικοί βαθμοί είναι καλύτεροι από τους πραγματικούς όταν χρησιμοποιείται η ευρετική αυτή μέθοδος. Άρα, η χρήση του προσεγγιστικού ελαχίστου βαθμού ήταν μία λογική επιλογή ως μία από τις δοκιμές ευρετικών μεθόδων για τον κώδικα αυτόν. Η ελαχιστοποίηση του αριθμού των Householder ενημερώσεων μιας μήτρας θεωρήθηκε ως μία άλλη ενδεχόμενη υποψήφια για την άπληστη ευρετική μέθοδο. Με την μετρική αυτή, ας είναι ο αριθμός των Householder ενημερώσεων για την στήλη j στην QR παραγοντοποίηση ίσος με h j. Αυτό μπορεί να γραφτεί ως: hj ( d j )( column j ), όπου d j είναι ο βαθμός της ένωσης των στοίχων που αναφέραμε παραπάνω και column j είναι το άθροισμα των αρχικών στοίχων του που τέμνουν την στήλη j. Η τελευταία ευρετική μέθοδος που μελετήθηκε ονομάζεται Max-Markowitz ευρετική μέθοδος. Με την μέθοδο αυτή, το αποτέλεσμα στην χειρότερη περίπτωση του Markowitz ελαχιστοποιήθηκε κατά την διάρκεια κάθε επανάληψης. Εφόσον με μερική οδήγηση, δεν είναι γνωστό ποιος στοίχος θα επιλεγεί ως ο οδηγός, υποθέτουμε ότι θα επιλεγεί ο στοίχος με τον μεγαλύτερο βαθμό. Συνεπώς, συμβολίζοντας αυτή την μετρική με m j, μπορεί να γραφτεί ως εξής: m (max row ( column ). j rowi column j i j Τα αρχικά πειράματα με αυτές τις τρεις ευρετικές μεθόδους έδειξαν ξεκάθαρα ότι ο ελάχιστος βαθμός στο Α Τ Α ήταν ο καλύτερος. Μία ενδιαφέρουσα παρατήρηση ήταν ότι τα κριτήρια του Max-Markowitz εκτελούνταν πολύ καλά για μικρές μήτρες και ανεπαρκώς για μεγάλες. Μπορούμε να συμπεράνουμε ότι η συμβολική συγχώνευση στοίχου που συμβαίνει μετά από κάθε οδηγό μειώνει την ακρίβεια του βαθμού του στοίχου. Για μικρές μήτρες, παραμένει αρκετή ακρίβεια για να παραχθούν ποιοτικές αναδιατάξεις. Ωστόσο, για μεγάλες μήτρες, οι βαθμοί των στοίχων γίνονται ανακριβείς πολύ γρήγορα για να παραχθούν ακριβείς αναδιατάξεις. i 45

46 Μαρίνα Κοντοκώστα 4.3 Η επίσημη περιγραφή του αλγορίθμου. Επειδή ο Colamd χρησιμοποιεί την μη συμμετρική μήτρα Α για να αναδιατάξει το Α Τ Α, έχουμε δύο σύνολα με ορολογίες που σημαίνουν το ίδιο πράγμα. Μία στήλη στην Α είναι το ίδιο με έναν κόμβο στο Α Τ Α. Επιπλέον, ένας στοίχος στην Α είναι μία κλίκα στο Α Τ Α. Από τώρα και στο εξής, οι όροι που θα χρησιμοποιούνται θα αναφέρονται στην αρχική μη συμμετρική μήτρα Α. Συνεπώς, οι υπερκόμβοι γίνονται υπερστήλες. Ο όρος στοίχος θα χρησιμοποιηθεί αντί για τον όρο κλίκα. Επίσης, ο όρος στήλη θα χρησιμοποιείται αντί για τον όρο κόμβο. Ωστόσο, ο αναγνώστης θα πρέπει να έχει κατά νου τους παραλληλισμούς μεταξύ των συμμετρικών και μη συμμετρικών όρων. Το γράφημα πηλίκων του Α Τ Α μπορεί τώρα να περιγραφεί ως ένα σύνολο στοίχων και στηλών της Α. Αυτό συμβολίζεται στον Colamd με τα σύνολα R i και C j όπου d j d j Rr j και C { i : a 0} C. Το R ονομάζεται δομή της Α και φυσικά κάθε R i είναι μία κλίκα στο j ij Α Τ Α. Το C ονομάζεται δομή στήλης και το C j παριστάνει τον κόμβο j στο γράφημα του Α Τ Α. Οι στήλες χωρίζονται σε δύο ομάδες. Η πρώτη ομάδα είναι οι κύριες στήλες. Μία κύρια στήλη ονομάζει την υπερστήλη στην οποία ανήκει. Η δεύτερη ομάδα είναι οι μη κύριες στήλες. Μία μη κύρια στήλη είναι μέλος μίας υπερστήλης. Ωστόσο, δεν αντιπροσωπεύει την υπερστήλη στην δομή δεδομένων. Για παράδειγμα, έστω η στήλη i είναι κύρια και η j είναι μη κύρια που ανήκει στην ίδια υπερστήλη που ανήκει και η i. Τότε η υπερστήλη i συμβολίζεται ως i={i,j}. Με i συμβολίζουμε το σύνολο του μεγέθους της υπερστήλης i. Επιπλέον, j. R i jr i Η ανίχνευση υπερστήλης εκτελείται μετά την ολοκλήρωση της φάσης υπολογισμού του προσεγγιστικού βαθμού. Κατά την διάρκεια υπολογισμού του προσεγγιστικού βαθμού, υπολογίζεται μια συνάρτηση κατακερματισμού για κάθε στήλη που βασίζεται στους δείκτες των στοίχων που αποτελούν την στήλη. Κατά την διάρκεια της ανίχνευσης της υπερστήλης, στήλες συγκρίνονται άμεσα με άλλες στήλες με την ίδια αξία κατακερματισμού. Εάν βρούμε ότι δύο στήλες είναι μη διακριτές, επιλέγουμε αυθαίρετα μία στήλη να είναι η μη κύρια στήλη. Υποθέτουμε ότι, οι i και j βρήκαμε ότι είναι μη διακριτές (δηλαδή C i =C j ) και ας είναι j={j, k, l, m} i={i, n}. Εάν επιλέξουμε την j ως την μη κύρια στήλη, τότε υπερστήλη είναι η i={i, j, k, l, m, n} και αφαιρούμε την j από τις δομές δεδομένων. Παρατηρούμε ότι i =6, ακολουθώντας της 46

47 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. συγχώνευση των υπερστηλών. Η μορφή αυτή της ανίχνευσης υπερστήλης μπορεί να παραλείψει κάποιες μη διακριτές στήλες. Αυτό γίνεται επειδή η μη διακριτικότητα στο γράφημα απαλοιφής ( kc i R k R ) δεν συνεπάγεται μη διακριτικότητα στο γράφημα πηλίκων (C i =C j ). kc j k Ωστόσο, το αντίστροφο ισχύει και εφόσον η μέθοδος αυτή είναι πιο γρήγορη από την ολοκληρωμένη ανίχνευση υπερστήλης, χρησιμοποιείται από τον Colamd. Ας είναι Adj G (j) το σύνολο των στηλών που είναι παρακείμενες με την στήλη j. Βασιζόμενοι στον συμβολισμό του στοίχου και της στήλης, αυτό μπορεί να γραφεί ως εξής: AdjG( j) Ri \{ i}. i Cj Ας είναι d j Adj ( j) ο ακριβής εξωτερικός βαθμός της στήλης j. Ο ακριβής βαθμός G είναι πολύ δαπανηρός να υπολογιστεί. Για τους αρχικούς βαθμούς των κόμβων ο Colamd χρησιμοποιεί τους προσεγγιστικούς βαθμούς. Αυτό έχει αποδειχθεί στην παράγραφο 4.2 για την παραγωγή καλύτερης ποιότητας αναδιάταξης από την χρήση του προσεγγιστικού ελαχίστου βαθμού. Ας είναι d j ( Ri 1) d j οι αρχικοί προσεγγιστικοί βαθμοί στηλών. Έστω p ο icj οδηγός στήλη (η στήλη με τον μικρότερο βαθμό d p ). Εφόσον η p είναι κύρια, όλες οι στήλες της πρέπει να τις αναδιατάξουμε τώρα. Αυτό είναι το βήμα μαζικής απαλοιφής. Σε αυτό το σημείο, σχηματίζουμε έναν καινούριο στοίχος r έτσι ώστε R r =Adj G (p). Έστω ότι αυτός ο στοίχος είναι ο οδηγός στοίχος. Μετά τον σχηματισμό του R r, διαγράφουμε όλους τους στοίχους i C από την δομή δεδομένων και τους δείκτες των στοίχων αυτών από κάθε { C : j R }. Παρατηρούμε ότι, όπως αναφέρουμε και στο Θεώρημα 3.2, το R ic r p j R r καταλαμβάνει αυστηρά λιγότερο χώρο από το. Άρα, ο αλγόριθμος αυτός μπορεί να λειτουργεί σε μία ποσότητα μνήμης που φράσσεται από το μέγεθος του αρχικού γραφήματος πηλίκων. Στο σημείο αυτό, όλες οι στήλες j R έχουν ενημερώσει τους βαθμούς τους χρησιμοποιώντας τον προσεγγιστικό ελάχιστο βαθμό. Ο υπολογισμός προσεγγιστικού βαθμού r r p 47

48 Μαρίνα Κοντοκώστα πραγματοποιείται σε δύο φάσεις. Ο παρακάτω τύπος περιγράφει τον προσεγγιστικό βαθμό: d j Rr Ri \ Rr j. icj Η πρώτη φάση είναι ο υπολογισμός του συνόλου των διαφορών των στοίχων, w( i) Ri \ Rr. Αρχικά, w() i Ri για κάθε i jrr C j. Το σύνολο των διαφορών για κάθε στοίχο που περιέχει μία στήλη στον οδηγό στοίχο εκτελείται διασχίζοντας το σύνολο C j για κάθε στήλη d j. Καθώς συναντάμε τον κάθε στοίχο i C, αφαιρούμε το σύνολο των υπερστηλών μεγέθους j 1 από το wi (). Παρατηρούμε ότι j 1. Εάν το wi () γίνει ίσο με μηδέν, ο στοίχος i είναι ένα υποσύνολο του οδηγού στοίχου και συνεπώς μπορούμε να το αφαιρέσουμε από την δομή δεδομένων. Αυτό αναφέρεται ως «επιθετική» απορρόφηση. Η δεύτερη φάση του προσεγγιστικού βαθμού είναι η άθροιση του συνόλου των διαφορών των στοίχων, των wi (). Έστω ο βαθμός d w() i, για κάθε στήλη j Rr. Παρατηρούμε ότι, οι j ic j d j δεν είναι οι τελικοί βαθμοί εφόσον ο βαθμός από τον στοίχο οδηγό j R r δεν περιλαμβάνεται σε αυτούς. Σε αυτό το σημείο, εάν κάποιοι προσωρινοί βαθμοί είναι ίσοι με μηδέν, μπορεί να γίνει περαιτέρω μαζική απαλοιφή. Η κατάσταση αυτή μπορεί να προκύψει παρά την ανίχνευση των υπερστηλών, επειδή, όπως προαναφέρθηκε, κάποιες μη διακριτές στήλες μπορεί να παραλειφθούν. Υποθέτοντας ότι βρήκαμε την στήλη q να είναι μη διακριτή με τον οδηγό στήλη και ότι διαγράφεται σε αυτό το σημείο, τότε R R \ q. Όπως προαναφέραμε, εκτελούμε τώρα την ανίχνευση υπερστηλών. Παρατηρούμε ότι, η r r ανίχνευση υπερστηλών μπορεί να μειώσει τον αριθμό των κύριων στηλών στο R r αλλά δεν θα επηρεάσει τον R r. Στην τελευταία φάση του αλγορίθμου, υπολογίζουμε τον τελικό βαθμό. Προσθέτουμε τον βαθμό του οδηγού στοίχου, Rr στον d j για όλες τις υπόλοιπες κύριες στήλες και αφαιρούμε το μέγεθος του συνόλου των υπερστηλών δηλαδή, d j d j Rr j. Το μέγεθος του συνόλου των υπερστηλών αφαιρείται για να πετύχουμε τον εξωτερικό βαθμό. Τέλος, ο οδηγός στοίχος r πρέπει να προστίθεται σε κάθε { C : j R }. j r 48

49 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Ο Αλγόριθμος 1 δείχνει το γενικό περίγραμμα του Colamd. Υποθέτουμε ότι δίνεται η μήτρα Α με αναδιατεταγμένες στήλες από τον Colamd. Επιπλέον, εάν ο παράγοντας Cholesky, U, του Α Τ Α δίνεται, η πολυπλοκότητα του χρόνου για τον Colamd μπορεί να φράσσεται από: η j στήλη. n O( ( A )), όπου U i είναι ο i στοίχος και A j είναι i1 jui j Αυτό μπορεί να είναι επίσης να εκφραστεί ως ο χρόνος που χρειάζεται για να υπολογίσουμε το AU T. Εάν η Α περιέχει έναν πλήρη στοίχο, ο U θα είναι πυκνός και η πολυπλοκότητα του χρόνου γίνεται On 3 ( ) έναν πλήρη στοίχο και ο πολυπλοκότητα του χρόνου θα είναι. Εάν η Α περιέχει μία πλήρη στήλη, ο U θα περιέχει On 2 ( ). Ωστόσο, ακόμα και σε αυτή την χειρότερη περίπτωση, η ανίχνευση υπερστήλης, η μαζική απαλοιφή, η συγχώνευση στηλών και η «επιθετική» απορρόφηση θα μείωναν τον πραγματικό χρόνο εκτέλεσης με τον ακόλουθο τρόπο: Η ανίχνευση υπερστήλης και η μαζική απαλοιφή μειώνουν το n. Η συγχώνευση στηλών μειώνει το A j. Η «επιθετική» απορρόφηση μειώνει το A j. Συνεπώς, ο πραγματικός χρόνος εκτέλεσης αναμένεται να είναι αρκετά κάτω από το θεωρητικό άνω φράγμα. 49

50 Μαρίνα Κοντοκώστα Αλγόριθμος 1 (Ψευδοκώδικας του Colamd) Αρχικοποίηση και αρχική αποθήκευση: Για i = 1 έως m κάνε Τέλος για R { j : a 0} i Για j = 1 έως n κάνε C j ij { i : a 0} Cc d j Τέλος για ij icj ( R 1) Αναδιάταξε τις στήλες: k = 1 r = m Όσο k n κάνε i επίλεξε και αναδιάταξε το c έτσι ώστε το d c να ελαχιστοποιείται k k c r r1 από τον συγχωνευμένο οδηγό στοίχο: R ( R ) \ c r icc i για κάθε ic κάνε c Ri τέλος για υπολόγισε το σύνολο των διαφορών των στοίχων: για κάθε j R κάνε r υποθέστε ότι w() i Ri για όλα τα i C C \ C j j c για κάθε i C κάνε j 50

51 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. εάν wi ( ) 0 τότε w() i Ri τέλος εάν w( i) w( i) j «επιθετική» απορρόφηση: εάν wi ( ) 0 τότε τέλος εάν τέλος για τέλος για C C \ i j Ri υπολόγισε τους προσεγγιστικούς βαθμούς: για κάθε d τέλος για j R κάνε r j ic j j w() i περαιτέρω μαζική απαλοιφή: εάν d j 0 τότε αναδιάταξε το j k k j R R \ j r r C j τέλος εάν ανίχνευση υπερστήλης: για κάθε ζεύγος i και j R κάνε r εάν C i και i i j C j είναι μη διάκριτοι τότε R R \ j r r 51

52 Μαρίνα Κοντοκώστα τέλος για τέλος εάν C j τελικός υπολογισμός βαθμού: για κάθε τέλος για Cc τέλος όσο j R κάνε r d j d j Rr j C C {} r j j 52

53 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. ΚΕΦΑΛΑΙΟ 5 ο ΤΕΣΤ ΕΠΙΔΟΣΗΣ Εφαρμόσαμε τον αλγόριθμο αναδιάταξης Colamd σε τρία σύνολα μητρών : στις τετραγωνικές μη συμμετρικές μήτρες, στις ορθογώνιες μήτρες και στις συμμετρικές θετικά ορισμένες μήτρες, οι οποίες συμβολίζονται με RUA, RRA και SYM αντίστοιχα σύμφωνα με την σύμβαση ονομασίας Harwell-Boeing. Συγκρίνουμε τον Colamd με τους Colmmd και Amdbar. Ο Colmmd είναι ο αλγόριθμος ελαχίστου βαθμού στήλης που χρησιμοποιείται από το Matlab. Από προεπιλογή, εκτελεί ανίχνευση υπερστήλης και στοιχειώδη απορρόφηση κάθε τρεις επαναλήψεις. Επιπλέον, χρησιμοποιεί έναν προσεγγιστικό βαθμό που περιγράψαμε στην παράγραφο 3.9 ο οποίος δεν είναι τόσο «ισχυρός» όσο αυτός που χρησιμοποιείται από τον Colamd. Χρησιμοποιεί επίσης πολλαπλή απαλοιφή. Με σκοπό να επιτύχει μεγαλύτερα σύνολα με ανεξάρτητους οδηγούς, ο Colmmd δημιουργεί ένα σύνολο απαλοιφής το οποίο περιέχει στήλες με βαθμούς εντός του ορίου 1.2*d+1, όπου d είναι ο ελάχιστος βαθμός. Ο Amdbar είναι αλγόριθμος ελαχίστου βαθμού. Είναι παρόμοιος με τον MC47BD στην βιβλιοθήκη υπορουτίνας Harwell. Χαρακτηριστικά του MC47BD περιλαμβάνουν την χρήση του γραφήματος πηλίκων, τον ίδιο προσεγγιστικό βαθμό που χρησιμοποιείται από τον Colamd, την ανίχνευση υπρεκόμβου και την «επιθετική» απορρόφηση. Η διαφορά του Amdbar με τον είναι MC47BD είναι ότι ο πρώτος δεν εκτελεί την «επιθετική» απορρόφηση. Ο MC47BD χρησιμοποιείται μόνο σε συμμετρικά πειράματα. Συγκρίναμε κάθε μέθοδο με βάση τον χρόνο αναδιάταξης και την ποιότητα δηλαδή τον αριθμό των μη μηδενικών στους παράγοντες και τον αριθμό των πράξεων του κινητού σημείου για τον υπολογισμό της παραγοντοποίησης. 5.1 Τετραγωνικές μη συμμετρικές μήτρες (RUA) Για τις τετραγωνικές μη συμμετρικές μήτρες, χρησιμοποιούμε τον Colamd για να βρούμε μια αναδιάταξη Q για σποραδική μερική οδήγηση. Συγκρίνουμε τα αποτελέσματα αυτά με τον Colmmd με προεπιλεγμένες ρυθμίσεις και με τον Amdbar που εφαρμόζεται στη διάταξη του Α Τ Α (αγνοώντας την αριθμητική διαγραφή και παρακρατώντας τις ίδιες πυκνές στήλες και στοίχους της Α οι οποίες είχαν αγνοηθεί από τους Colamd και Colmmd). Για σποραδική μερική οδήγηση με τις μήτρες στα σύνολα δοκιμών μας, ο Amdbar παρέχει ελαφρώς καλύτερες αναδιατάξεις από τον MC47BD. Μετά την εύρεση μιας αναδιάταξη στήλης, παραγοντοποιούμε την μήτρα AQ με το πακέτο SuperLU. Το πακέτο αυτό επιλέχθηκε αφότου ο Colamd είχε 53

54 Μαρίνα Κοντοκώστα γραφθεί για να αντικαταστήσει την αναδιάταξη στήλης στην τρέχουσα έκδοση του SuperLU. Το SuperLU είναι βασισμένο στο BLAS. Εξαιρέσαμε τις μήτρες οι οποίες μπορούν να μετατεθούν σε άνω τριγωνικό μπλοκ με μία ουσιαστική βελτίωση στο χρόνο παραγοντοποίησης για δύο λόγους: πρώτον, τα όρια μας δεν είναι στενά εάν η μήτρα Α δεν είναι ισχυρή Hall και δεύτερον το SuperLU δεν εκμεταλλεύεται την μείωση της μήτρας σε άνω τριγωνικό μπλοκ. Τέτοιες μήτρες θα πρέπει να παραγοντοποιούνται αναδιατάσσοντας και παραγοντοποιώντας κάθε αμείωτη διαγώνια υπομήτρα, εφόσον η μήτρα έχει μετατεθεί σε άνω τριγωνικό μπλοκ. Το σύνολο δοκιμών είχε 106 μήτρες, που όλες απαιτούσαν περισσότερες από 10 7 πράξεις να παραγοντοποιήσουν. Παρουσιάζουμε ένα αντιπροσωπευτικό δείγμα στον Πίνακα 2 [24], που διαλέχτηκαν σύμφωνα με τον Colamd έναντι του Colmmd σύμφωνα με την ποιότητα αναδιάταξης. Στον Πίνακας 3 [24] εκθέτουμε τον χρόνο αναδιάταξης των Colamd, Colmmd και Amdbar (ο χρόνος για τον υπολογισμό της διάταξης του Α Τ Α συμπεριλαμβάνεται στον Amdbar χρόνο). Για σύγκριση, στην τελευταία στήλη περιγράφουμε τον SuperLU χρόνο παραγοντοποίησης, χρησιμοποιώντας την αναδιάταξη Colamd. Στον Πίνακα 4 [24] δείχνουμε τον τελικό αριθμό των μη μηδενικών στην L+U και τις πράξεις κινητού σημείου που απαιτούνται για να παραγοντοποιηθεί ο μεταθετημένος πίνακας για κάθε μία μέθοδο αναδιάταξης. 54

55 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Πίνακας 2. Μη συμμετρικές μήτρες Ο Colamd είναι ανώτερος από τις άλλες μεθόδους για αυτές τις μήτρες. Ο Colamd ήταν τυπικά 3.9 φορές ταχύτερος από τον Colmmd και 2.1 φορές ταχύτερος από τον Amdbar. Για δύο μήτρες (LHR17C, AF23560), ο Colmmd έκανε περισσότερο χρόνο για να αναδιατάξει την μήτρα απ ότι ο SuperLu για να την παραγοντοποιήσει. Οι αναδιατάξεις που βρέθηκαν από τον Colmmd καταλήγουν σε μία μέση αύξηση κατά 10% σε μη μηδενικά στους LU παράγοντες και κατά 36% στις πράξεις κινητού σημείου, σε σύγκριση με τον Colamd. Οι ποιότητες αναδιάταξης του Colamd και του Amdbar είναι παρόμοιες, παρόλο που υπάρχουν μεγάλες διαφορές προς τις δύο κατευθύνσεις σε ένα μικρό αριθμό μητρών. Για λίγες μήτρες ο Amdbar απαιτεί περισσότερο χώρο να αποθηκεύσει το Α Τ Α απ ότι ο SuperLU απαιτεί να παραγοντοποιήσει την μεταθετημένη μήτρα. 55

56 Μαρίνα Κοντοκώστα Πίνακας 3. Χρόνος αναδιάταξης και παραγοντοποίησης σε δευτερόλεπτα. Πίνακας 4. Ποιότητα αναδιάταξης καθώς παραγοντοποιείται από τον SuperLU. 56

57 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. 5.2 Ορθογώνιες μήτρες (RRA) Για μία ορθογώνια μήτρα m x n με m > n, βρίσκουμε μία αναδιάταξη στήλης Q για την Cholesky παραγοντοποίηση του (AQ) T (AQ), η οποία είναι μία μέθοδος για την επίλυση του προβλήματος των ελαχίστων τετραγώνων. Εάν m < n, βρίσκουμε μία αναδιάταξη στοίχου P για την παραγοντοποίηση Cholesky του (PA)D 2 (PA) T, η οποία εμφανίζεται σε μεθόδους εσωτερικού σημείου για την επίλυση προβλημάτων γραμμικού προγραμματισμού. Εδώ η D είναι μία διαγώνια μήτρα. Στην τελευταία περίπτωση οι Colamd και Colmmd βρίσκουν μία αναδιάταξη στήλης του Α Τ την οποία την χρησιμοποιούμε ως την αναδιάταξη στοίχου P. Συγκρίναμε τις δύο αυτές μεθόδους με τον Amdbar στην αντίστοιχη μήτρα, Α Τ Α (εάν m > n) ή ΑΑ Τ (εάν m < n). Το σύνολο των δοκιμών μας είναι περιορισμένο. Περιέχει μόνο 37 μήτρες που απαιτούν περισσότερες από 10 7 πράξεις. Παρουσιάζουμε μία αντιπροσωπευτική επιλογή στον Πίνακα 5 [24]. Συγκρίναμε τις τρείς μεθόδους που βασίζονται στον χρόνο αναδιάταξης τους, στον αριθμό μη μηδενικών στον παράγοντα L και στην καταμέτρηση των πράξεων κινητού σημείου που χρειάζονται για την παραγοντοποίηση Cholesky. Οι μήτρες αυτές βρίσκονται από το symbfact στο Matlab, μία γρήγορη συμβολική παραγοντοποίηση. Δεν εκτελούμε την αριθμητική παραγοντοποίηση Cholesky. Ο χρόνος για την κατασκευή των Α Τ Α, ΑΑ Τ συμπεριλαμβάνεται στον χρόνο αναδιάταξη για τον Amdbar. Παρουσιάζουμε τα αποτελέσματα στους πίνακες 6 και 7 [24]. Για τις μήτρες αυτές, ο Colamd ήταν δύο φορές πιο γρήγορος από τον Colmmd και ελαφρώς πιο γρήγορος από τον Amdbar. Και οι τρεις παρήγαγαν συγκρίσιμες αναδιατάξεις. Οι Colamd και Colmmd τυπικά απαιτούν λιγότερη αποθήκευση από τον Amdbar λόγω της ανάγκης υπολογισμού του ΑΑ Τ πριν από την αναδιάταξη του από τον Amdbar. Ωστόσο, το μέγεθος των παραγόντων Cholesky κυριαρχεί του μεγέθους του ΑΑ Τ. Το αρχικό πλεονέκτημα του Colamd και του Colmmd έναντι του Amdbar σε αυτό το πλαίσιο είναι η ικανότητα να αναλύουν την παραγοντοποίηση Cholesky βρίσκοντας την αναδιάταξη και το μέγεθος του παράγοντα L που προκύπτει στον χώρο ανάλογα με τον αριθμό των μη μηδενικών στην μήτρα Α, αντί ανάλογα με το μέγεθος της μήτρας που πρέπει να παραγοντοποιηθεί (Α Τ Α ή ΑΑ Τ ). 57

58 Μαρίνα Κοντοκώστα Πίνακας 5.Ορθογώνιες μήτρες (όλες προβλήματα γραμμικού προγραμματισμού). Πίνακας 6. Χρόνος αναδιάταξης σε δευτερόλεπτα. 58

59 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Πίνακας 7. Ποιότητα αναδιάταξης. 5.3 Συμμετρικές μήτρες (SYM) Για τις συμμετρικές μήτρες, η ρουτίνα του Matlab, Symmmd, κατασκευάζει μία μήτρα Μ τέτοια ώστε η μορφή του Μ Τ Μ είναι η ίδια με την Α, και τότε βρίσκει μία αναδιάταξη της Μ χρησιμοποιώντας τον Colmmd. Υπάρχει ένας στοίχος την Μ για κάθε είσοδο a ij κάτω από την διαγώνιο της Α, με μη μηδενικές εισόδους στις στήλες i και j. Η μέθοδος αυτή δίνει μία λογική αναδιάταξη για την παραγοντοποίηση Cholesky της Α. Εφαρμόσαμε μία ανάλογη ρουτίνα την Symamd που βασίζεται στον Colamd. Το σύνολο των δοκιμών μας περιείχε 50 μήτρες που απαιτούσαν 10 7 ή περισσότερες πράξεις να παραγοντοποιήσουν. Το δείγμα του συνόλου δοκιμών μας παρουσιάζεται στον Πίνακα 8 [24]. Τα αποτελέσματα από τους Symamd, Symmmd, Amdbar και Mc47bd παρουσιάζονται στους πίνακες 9 και 10 [24]. Ο χρόνος για την κατασκευή της Μ περιέχεται στον χρόνο αναδιάταξης για τους Symamd και Symmmd. Για τις 9 αυτές μήτρες, ο Symamd ήταν πάνω από έξι φορές γρηγορότερος από τον Symmmd κατά μέσο όρο. Σχεδόν πάντα παράγει σημαντικά καλύτερες αναδιατάξεις. Ήταν όμως πάντα πιο αργός από τον Amdbar και τον Mc47bd, αν και βρήκε αναδιατάξεις με παρόμοια ποιότητα (η FINAN512 είναι μία αξιοσημείωτη εξαίρεση). 59

60 Μαρίνα Κοντοκώστα Πίνακας 8. Συμμετρικές μήτρες. Πίνακας 9. Χρόνος αναδιάταξης σε δευτερόλεπτα. 60

61 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Πίνακας 10. Ποιότητα αναδιάταξης. 5.4 Σύνοψη Για τις τετραγωνικές μη μηδενικής μήτρες ο Colamd είναι πολύ πιο γρήγορος και παρέχει καλύτερες αναδιατάξεις απ ότι η ρουτίνα Colmmd του Matlab. Είναι επίσης πιο γρήγορος από τον Amdbar και χρησιμοποιεί λιγότερο χώρο αποθήκευσης. Για τις ορθογώνιες μήτρες (όπως αυτές που εμφανίζονται σε προβλήματα ελαχίστων τετραγώνων και στις μεθόδους εσωτερικού σημείου για τον γραμμικό προγραμματισμό), ο Colamd είναι πιο γρήγορος και από τον Colmmd και από τον Amdbar και βρίσκει αναδιατάξεις με συγκρίσιμη ποιότητα. Παρουσιάσαμε ακόμα μια μέθοδο συμμετρικής αναδιάταξης, την Symamd που βασίζεται στον Colamd και αν και παράγει αναδιατάξεις τόσο καλές όσο ένας πραγματικός αλγόριθμος συμμετρικής αναδιάταξης (Amdbar) είναι πιο αργή από τον Amdbar. Παράδειγμα 5.1 Ας πάρουμε την τετραγωνική μη συμμετρική μήτρα rdist3a. Θα εφαρμόσουμε τον colamd και τον symrcm (reverse Cuthill- mckee) και στη συνέχεια θα κάνουμε lu παραγοντοποίηση. Με την εντολή spy του Matlab θα δούμε σε γράφημα την μήτρα. Παρατηρούμε ότι έχει μη μηδενικά στοιχεία. 61

62 Μαρίνα Κοντοκώστα A=rdist3a; spy(a) Στη συνέχεια, εφαρμόζουμε τον Colamd στην μήτρα Α και εμφανίζουμε το αντίστοιχο γράφημά της. p=colamd(a); spy(a(:,p)) Μέχρι τώρα ο αριθμός των μη μηδενικών δεν έχει αλλάξει, είναι ακόμα

63 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Έπειτα, κάνουμε lu παραγοντοποίηση στην μήτρα Α και παρατηρούμε ότι στο γράφημά της ο αριθμός των μη μηδενικών έχει αλλάξει και έχει γίνει spy(lu(a)) 63

64 Μαρίνα Κοντοκώστα spy(lu(a(:,p))) Εδώ βλέπουμε το γράφημα της μήτρας αφού έχουμε κάνει lu παραγοντοποίηση και εφόσον έχουμε εφαρμόσει τον Colamd και παρατηρούμε ότι τα μη μηδενικά έχουν μειωθεί αρκετά. Έχουν γίνει Τώρα εφαρμόζουμε τον symrcm στην μήτρα Α q=symrcm(a); spy(a(:,q)) 64

65 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. Βλέπουμε το γράφημα της μήτρας που προκύπτει έχοντας εφαρμόσει τον symrcm. Τα μηδενικά στοιχεία είναι spy(lu(a(:,q))) Και εδώ βλέπουμε το γράφημα της μήτρας αφού έχουμε κάνει lu παραγοντοποίηση και εφόσον έχουμε εφαρμόσει τον symrcm. Τα μη μηδενικά στοιχεία γίνονται , δηλαδή αυξάνονται. Ας δούμε τώρα τους και τους χρόνους: t0=clock; lu(a(:,p)); etime(clock,t0) ans = Ο χρόνος που απαιτείται για να γίνει η lu παραγοντοποίηση εφόσον έχουμε εφαρμόσει στην μήτρα τον Colamd είναι 13,1480 sec. t1=clock; 65

66 Μαρίνα Κοντοκώστα lu(a(:,q)); etime(clock,t1) ans = Ενώ ο χρόνος που απαιτείται για να γίνει lu παραγοντοποίηση εφόσον έχουμε εφαρμόσει τον symrcm στην μήτρα είναι 16,7460 sec. Συνεπώς, ο Colamd ήταν πιο γρήγορος από τον Symrcm για την lu παραγοντοποίηση της μήτρας rdist3a. Παράδειγμα 5.2 Ας πάρουμε την συμμετρική μήτρα msc Θα εφαρμόσουμε τον symmamd και τον symrcm (reverse Cuthill- mckee) και στη συνέχεια θα κάνουμε lu παραγοντοποίηση. A=msc00726; Το γράφημα της μήτρας Α είναι: spy(a) p=symamd(a); Το γράφημα της μήτρας Α εφαρμόζοντας τον symamd είναι: 66

67 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. spy(a:,p)) Μέχρι τώρα ο αριθμός των μη μηδενικών δεν αλλάζει, είναι Το γράφημα της μήτρας Α κάνοντας lu παραγοντοποίηση είναι: spy(lu(a)) Παρατηρούμε ότι ο αριθμός των μη μηδενικών στοιχείων έχει γίνει Το γράφημα της μήτρας Α κάνοντας lu παραγοντοποίηση εφόσον έχουμε εφαρμόσει τον symamd στην Α. 67

68 Μαρίνα Κοντοκώστα spy(lu(a(:,p))) Εδώ, ο αριθμός των μη μηδενικών μειώνεται, γίνεται q=symrcm(a); Τώρα,θα δούμε το γράφημα της Α, έχοντας εφαρμόσει τον symrcm. spy(a(:,q)) Εδώ, ο αριθμός των μη μηδενικών γίνεται

69 Αλγόριθμοι γραφημάτων για την αναδιάταξη σποραδικών μητρών: Μία συγκριτική μελέτη. spy(lu(a(:,q))) Διαπιστώνουμε ότι ο αριθμός των μη μηδενικών γίνεται , δηλαδή αυξάνεται. Ας δούμε τώρα τους και τους χρόνους: t0=clock; lu(a(:,p)); etime(clock,t0) ans = Ο χρόνος που απαιτείται για να γίνει lu παραγοντοποίηση εφόσον έχουμε εφαρμόσει στην μήτρα τον symmamd είναι 30,2740 sec. t1=clock; lu(a(:,q)); etime(clock,t1) 69