Μεγίστου Σφάλµατος. Παναγιώτης Καρράς. Αθήνα, 26 Αυγούστου 2005

Transcript

1 Μ ένα Σµπάρο υο Τρυγώνια: Εισάπαξ Κυµατιδιακές Συνόψεις για Μέτρα Μεγίστου Σφάλµατος Παναγιώτης Καρράς Αθήνα, 6 Αυγούστου 005 Έρευνα στο HKU µε τον Νίκο Μαµουλή Περίληψη Προκαταρκτικά & Κίνητρα Χρησιµότητα Συνόψεων εδοµένων Μετασχηµατισµός κυµατιδίων Haar, συµβατικές κυµατιδιακές συνόψεις Το πρόβληµα µε την εγγύηση σφάλµατος Προηγούµενη Προσέγγιση: Κυµατιδιακές Συνόψεις µε Βέλτιστη Εγγύηση Σφάλµατος Μη πρακτικότητα αυτής της προσέγγισης Λύση: Πρακτικές Κυµατιδιακές Συνόψεις µε Εγγυήσεις Σφάλµατος Αλγόριθµοι Χαµηλής Πολυπλοκότητας που παρέχουν σχεδόν βέλτιστη εγγυήση σφάλµατος Επέκταση σε Ρέοντα εδοµένα Εισάπαξ Προσαρµογές των προταθέντων αλγορίθµων Συµπεράσµατα & Μελλοντικές Κατευθύνσεις 1

2 Συµπαγείς Συνόψεις εδοµένων χρήσιµες για: Προσεγγιστική Επεξεργασία Επερωτήσεων (ακριβείς απαντήσεις δεν απαιτούνται όσο ταχύτητα) Μάθηση, Ταξινόµηση, Εντοπισµό Γεγονότων Εξόρυξη εδοµένων, Εκτίµηση Επιλεκτικότητας Συνθήκες όπου µαζικά δεδοµένααφίκνυνταιενῥοῄ Κυµατιδιακός Μετασχηµατισµός Haar Κυµατίδια: µαθηµατικό εργαλείο για την ιεραρχική αποσύνθεση συναρτήσεων/σηµάτων Κυµατίδια Haar: απλούστερη κυµατιδιακή βάση, εύκολη στην σύλληψη και υλοποίηση Αναδροµική κατά ζεύγος εξαγωγή διαφοράς από µέσο σε διαφορετικές αναλύσεις Ανάλυση Μέσοι Συντελεστές ιαφοράς 3 D = [,, 0,, 3, 5, 4, 4] [, 1, 4, 4] [0, -1, -1, 0] [1.5, 4] [0.5, 0] [.75] [-1.5] Κυµατιδιακός µετ/σµός Haar: [.75, -1.5, 0.5, 0, 0, -1, -1, 0] Κατ αναλογία επάκταση σε πολλαπλές διαστάσεις

3 Συντελεστές Κυµατιδίων Haar ένδρο Σφάλµατος : Ιεραρχική δοµή αποσύνθεσης Εργαλείο για την αναπαράσταση του µετασχηµατισµού και της ανακατασκευής Ανακατασκευή τιµής d(i) d(i) = (/-1) * (συντελεστής στο µονοπάτι) Άθροισµα εύρουςd(l:h) d(l:h) = γραµµικός συνδυασµός συντελεστών στα µονοπάτια των l, h Μόνο O(logN) όροι Αρχικά δεδοµένα =.75 - (-1.5) 0 (-1) 6 = 4*.75 4*(-1.5) Κυµατιδιακές Συνόψεις Υπολογίζουµε µετασχηµατισµό Haar του D Περικοπή συντελεστών : κρατάµε B<< D συντελεστές Το B καθορίζεται από τον διαθέσιµο χώρο Μηχανή προσεγγιστικών επερωτήσεων µπορεί να λειτουργήσει µε τέτοιες συµπαγείς συνόψεις [MVW, SIGMOD 98]; [VW, SIGMOD 99]; [CGRS, VLDB 00] Συµβατική περικοπή: Επιλογή B µεγαλύτερων συντελεστών κατ απόλυτη κανονικοποιηµένη τιµή j Κανονικοποίηση: διαίρεση συντελεστών ανάλυσης jµε Αποδεδειγµένα βέλτιστη για το Ολικό Τετραγωνικό Σφάλµα (L ) υστυχώς, αυτή η µέθοδος δεν παρέχει εγγυήσεις ποιότητας της προσέγγισης για: Ατοµικές ανακατασκευές τιµών Ατοµικά αθροίσµατα εύρους 3

4 Το Πρόβληµα µε τις Συµβατικές Συνόψεις Παράδειγµα δεδοµένων και συνόψεως ( D =16, B=8) Πάνω από,000% σχετικό σφάλµα! Ακριβές! Αρχικές Τιµές Προσεγγίσεις Προσέγγιση = 195, αληθείς τιµές: d(0:)=85, d(3:5)=93! Μεγάλη διακύµανση στην ποιότητα των προσεγγίσεων Αιτία: Ελαχιστοποίηση Ολικού Μέτρου Σφάλµατος L Απουσία εγγυήσεων για ατοµικά σφάλµατα Λύση: Περικοπή για Μέτρα Μεγίστου Σφάλµατος Μέτρα Σφάλµατος παρέχοντα εγγυήσεις για όλες τις ανακατασκευασµένες τιµές: Μέγιστο Απόλυτο Σφάλµα max i { dˆ d } i Μέγιστο Σχετικό Σφάλµα µε όριο(για την αποφυή κυριαρχήσεως των µικρών τιµών) dˆ i di max i max{ di, s} i Στόχευση στην ελαχιστοποίηση αυτών των µέτρων 4

5 Προηγούµενη Πρόταση: Βέλτιστη Περικοπή για Μέτρα Μεγίστου Σφάλµατος [GK, PODS 04] Βασισµένη σε υναµικό Προγραµµατισµό Αναδροµική συνάρτηση που υπολογίζει ελάχιστο δυνατό µέγιστο σφάλµα για τα υποδένδρα ενός συντελεστή δεδοµένου του διαθέσιµου χώρου Βέλτιστη κατανοµή διαθέσιµου χώρου b µεταξύ των υποδένδρων ενός κόµβουκαιτουκόµβου του ίδιου. Όµως: Απαγορευτική Πολυπλοκότητα: ( BN log N ) ( BN ) O στον χρόνο O στον χώρο Μη εφαρµόσιµη για τον σκοπό της Αδύνατη σε Περιβάλλον Ροής εδοµένων Πρόκληση: Σχεδίαση αποδοτικών σχηµάτων περικοπής, χαµηλής πολυπλοκότητας, που επιτυγχάνουν ανταγωνιστικά αποτελέσµατα σε σχέση µε την βέλτιστη λύση. 5

6 Λύση: Άπληστη Περικοπή για Μέτρα Μεγίστου Σφάλµατος Ιδέα: Άπληστη λύση που διαλέγει τον καλύτερο επόµενο συντελεστή που θα διαγράψει βήµα προςβήµα Κάθε κόµβος του δένδρου σφάλµατος αποθηκεύει το Μέγιστο υνάµει Σφάλµα που θα δηµιουργηθεί αν ο συντελεστής διαγραφεί: Για Απόλυτο Σφάλµα: Για Σχετικό Σφάλµα: MA MR = = max d j leaves max d j leaves { err δ c } Σωρός επιστρέφει κόµβο Ελάχιστου Μεγίστου υνάµει Σφάλµατος Για Απόλυτο Σφάλµα: 4 τιµές Max και Min του Συσσωρευµένου Σφάλµατος στους κόµβους Για Σχετικό Σφάλµα: Συσσωρευµένο Σφάλµα στα φύλλα Σωροί επιστρέφοντες φύλλο Μεγίστου υνάµει Σφάλµατος για κάθε κόµβο j j { err δ c max ( d, S )} j j j Λύση: Άπληστη Περικοπή για Μέτρα Μεγίστου Σφάλµατος Μετά από κάθε διαγραφή: Αλλαγές στο Συσσωρευµένο Σφάλµα διαδίδονται στο δένδρο Για κάθε επηρεαζόµενο κόµβο: Για Απόλυτο Σφάλµα: Ενηµέρωση 4 τιµών Max, Min Συσσωρευµένου Σφάλµατος Υπολογισµός Νέου Μεγίστου υνάµει Απολύτου Σφάλµατος ως: MA max = max max l r c c,, l min c, r min c Για Σχετικό Σφάλµα: Ενηµέρωση Σωρού Απογόνων Επιστροφή Νέου Μεγίστου υνάµει Σχετικού Σφάλµατος από Σωρό Ενηµέρωση Ολικού Σωρού συντελεστών 6

7 Παράδειγµα (απόλυτο σφάλµα) Πρώτα διώχνουµε τον συντελεστή -1 ιάδοση σφάλµατος Έπειτα φεύγει το συντελεστής µε δυνάµει µέγιστο σφάλµα 3 Κ.ο.κ Ανάλυση Πολυπλοκότητας Αλγόριθµος για Απόλυτο Σφάλµα : Χρόνος: O(Nlog N) Χώρος: O(N) Αλγόριθµος για Σχετικό Σφάλµα : Χρόνος: O(Nlog 3 N) Χώρος: O(NlogN) 7

8 Επέκταση σε Ρέοντα εδοµένα Κύρια Περιοχή Εφαρµογών Προταθείσες µέθοδοι µη εφαρµόσιµες Παραδοχή: O(B ) διαθέσιµη µνήµη Επιπλέον Πρόβληµα Πρόβληµα: Επέκταση προταθεισών µεθόδων Εισάπαξ ολική διαδικασία Κατασκευή και Περικοπή του δένδρου ταυτόχρονα Λύση για το Απόλυτο Σφάλµα Μετά τα πρώτα B τιµές, ένα ζεύγος συντελεστών αποβάλλεται για κάθε νέο ζεύγος δεδοµένων Σκοπιά στο µέχρι τούδε κατασκευαµένο δένδρο Ανώτερο επίπεδο δένδρου για κάθε δύναµη του #δεδοµένων οµή Μέτωπο αποθηκεύει: Κρεµόµενους συντελεστές Μέση τιµή για το κρεµόµενο υποδένδρο Πληροφορία Σφάλµατος από διαγεγραµµένα ορφανά ιάδοση Σφάλµατος όπως στην στατική περίπτωση, µε παραπάνω λεπτοµέρειες για την προς τα πάνω διάδοση λόγω αραιότητας του δένδρου 8

9 Παράδειγµα: Κλασικό ένδρο Σφάλµατος ένδρο Σφάλµατος Μέτωπο Ροή εδοµένων Παράδειγµα: ένδρο Αδελφιών ένδρο Σφάλµατος Μέτωπο Ροή εδοµένων 9

10 Παράδειγµα : B = 6, µετά από 6 τιµές ένδρο Σφάλµατος Μέτωπο Ροή εδοµένων Παράδειγµα : B = 6, µετά από 8 τιµές ένδρο Σφάλµατος Μέτωπο Ροή εδοµένων 10

11 Παράδειγµα : B = 6, µετά από 10 τιµές ένδρο Σφάλµατος Μέτωπο Ροή εδοµένων Παράδειγµα : B = 6, µετά από 1 τιµές ένδρο Σφάλµατος Μέτωπο Ροή εδοµένων 11

12 Παράδειγµα : B = 6, µετά από 14 τιµές ένδρο Σφάλµατος Μέτωπο Ροή εδοµένων Παράδειγµα: B = 6, µετά το συµπλήρωµα 7 ένδρο Σφάλµατος Ανακατασκευή 1

13 Λύση για το Σχετικό Σφάλµα Ανάλογη Επέκταση αδύνατη Λύση: Ευρετικές Τεχνικές Εκτιµήτρια του MR βασιµένη σε: 4 ποσότητες όπως για Απόλυτο Σφάλµα (µε παρονοµαστές) Ελάχιστες Απόλυτες Τιµές σε κάθε υποδένδρο (µε σφάλµατα) Μια τιµή δείγµα (µε σφάλµα) για κάθε υποδένδρο, αρχικοποιούµενηωςελάχιστηαπόλυτητιµή, µεταβαλλόµενη από της διαδικασίες διάδοσης σφάλµατος όταν άλλη τιµή δώσει µεγαλύτερο σχετικό σφάλµα Ευρετική Εκτίµηση ως το Μέγιστο Σχετικό Σφάλµα µεταξύ των 8 παραπάνω θέσεων Πειραµατικά Αποτελέσµατα Χρόνος, B = N / 16, Σχετικό Σφάλµα OPT GSTA GSTR CON GSTA- time(msec) N 13

14 Πειραµατικά Αποτελέσµατα Ποιότητα, Απόλυτο Σφάλµα (µετρητές συχνότητας), N = 360 Maximum Absolute Error OPT GSTA GSTR CON B Πειραµατικά Αποτελέσµατα Ποιότητα, Σχετικό Σφάλµα (µετρητές συχνότητας), N = 360 Maximum Relative Error OPT GSTA GSTR CON GSTA B 14

15 Πειραµατικά Αποτελέσµατα Κλιµακωσιµότητα, Απόλυτο Σφάλµα (µετρητές φωτονίων), N = 16K Maximum Absolute Error GSTA GSTR CON B Πειραµατικά Αποτελέσµατα Κλιµακωσιµότητα, Σχετικό Σφάλµα (µετρητές φωτονίων), N = 16K Maximum Relative Error GSTA GSTR CON GSTA B 15

16 Πειραµατικά Αποτελέσµατα Κλιµακωσιµότητα, Απόλυτο Σφάλµα (θερµοκρασίες), B = N / 16 Maximum Absolute Error GSTA GSTR CON N Πειραµατικά Αποτελέσµατα Κλιµακωσιµότητα, Σχετικό Σφάλµα (θερµοκρασίες), B = N / 16 Maximum Relative Error GSTA GSTR CON GSTA N 16

17 Συµπεράσµατα & Μελλοντικές Κατευθύνσεις Επιτευξιµότητα Κυµατιδιακών Συνόψεων µε σχεδόν βέλτιστες Εγγυήσεις Μεγίστου Σφάλµατος και σχεδόν γραµµικό κόστος για Στατικά και Ρέοντα εδοµένα Επέκταση σε Πολυδιάστατα Κυµατίδια; Εναλλακτικές Ευρετικές για το Σχετικό Σφάλµα; Μεταβλητές Τιµές Συντελεστών; Θεωρητική Τεκµηρίωση; Αναφορές Y. Matias, J. S. Vitter, and M. Wang. Wavelet-based histograms for selectivity estimation. SIGMOD 1998 J. S. Vitter and M. Wang. Approximate computation of multidimensional aggregates of sparse data using wavelets. SIGMOD 1999 K. Charabarti, M. Garofalais, R. Rastogi, and K. Shim. Approximate query processing using wavelets. VLDB Journal 001 M. Garofalais and A. Kumar. Deterministic wavelet thresholding for maximum-error metrics. PODS 004 A. Gilbert, Y. Kotidis, S. Muthurishnan and Martin Strauss. Surfing Wavelets on Streams: One-Pass Summaries for Approximate Aggregate Queries. VLDB

18 Ευχαριστώ! Ερωτήσεις; 18