Βάσεις Δεδομένων ΙΙ Ενότητα 10

Transcript

1 Ανοικτά Ακαδημαϊκά Μαθήματα στο ΤΕΙ Ιονίων Νήσων Βάσεις Δεδομένων ΙΙ Ενότητα 10: Βάσεις Δεδομένων Πολυμέσων Το περιεχόμενο του μαθήματος διατίθεται με άδεια Creative Commons εκτός και αν αναφέρεται διαφορετικά Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους.

2 Βάσεις Δεδομένων ΙΙ Δεικτοδότηση Πολυμέσων

3 Πρόβλημα Δοθείσας μίας μεγάλης συλλογής (πολυμεσικών) εγγραφών (πχ. μετοχές) Επιτρέπει γρήγορα, ερωτήματα ομοιότητας

4 Εφαρμογές time series: χρηματοιοκονομικά, marketing (click-streams!), ECGs, ήχος; εικόνες: ιατρική, ψηφιακές βιβλιοθήκες, εκπαίδευση, τέχνη higher-d σήματα: επιστημονικές ΒΔ (πχ., αστροφυσική), ιατρική (MRI ακτινογραφίες), ψυχαγωγία (video)

5 Παραδείγματα Ερωτημάτων Βρες ιατρικές υποθέσεις παρόμοιες και του κ. Παπαδόπουλου Βρες ζεύγη μετοχών που κινούνται με συγχρονισμό Βρες ζεύγη εγγράφων που είναι παρόμοια (λογοκλοπία;) Βρες πρόσωπα παρόμοια με του Tiger Woods

6 Λεπτομ. ορισμός προβλήματος: Πρόβλημα: δοθείσας μιας συλλογής πολυμεσικών αντικειμένων, βρες αυτά που είναι παρόμοια με ένα επιθυμητό αντικείμενο-ερώτημα για παράδειγμα:

7 τιμή τιμή τιμή μέρα μέρα μέρα συνάρτηση απόστασης: από ειδικό (πχ, Ευκλείδεια απόσταση)

8 Τύποι ερωτημάτων Ολική ταύτιση εν. sub-pattern match ερωτήματα εύρους εν. πλησιέστερων γειτόνων όλα τα ζεύγη ερώτημα

9 Στόχοι σχεδίου Γρήγορα (γρηγορότερα από σειρ. αναζήτηση) ορθό (πχ., όχι ψεύτικοι συναγερμοί, όχι λάθος απορρίψεις)

10 Πολυμέσα- λεπτομερώς Πολυμέσα Motivation / ορισμός προβλήματος Κύρια ιδέα / time sequences εικόνες sub-pattern matching Αυτόματη εξαγωγή χαρακτηριστικών / FastMap

11 Κεντρική ιδέα Πχ., χρονικές ακολουθίες, ολική ταύτιση, ερωτήματα εύρους, Ευκλείδεια απόσταση τιμή τιμή τιμή μέρα μέρα μέρα

12 Κεντρική ιδέα Η ακολουθιακή αναζήτηση δουλεύει - πώς γίνεται γρηγορότερα;

13 Ιδέα: GEMINI (GEneric Multimedia INdexIng) Εξήγαγε μερικά αριθμητικά χαρακτηριστικά, για γρήγορο και πρόχειρο έλεγχο

14 GEMINI - Παραστατικά S1 πχ,. std F(S1) μέρα F(Sn) Sn πχ, avg μέρα

15 GEMINI Λύση: Γρήγορο-και-πρόχειρο' φίλτρο: εξήγαγε n χαρακτηριστικά (αριθμούς, πχ., avg., κτλ.) πρόβαλε σε ένα σημείο στο n-d χώρο χαρακτηριστικών οργάνωσε τα σημεία με έτοιμη spatial access μέθοδο ( SAM ) Απόρριξε false alarms

16 GEMINI Σημαντικό: Ε: πώς να εγγυηθεί απουσία ψευδών απορρίψεων; A1: διατήρηση αποστάσεων (αλλά: δύσκολο/ακατόρθωτο) A2: Lower-bounding λήμμα: αν η αποτύπωση κάνει τα πράματα να εγγύτερα, τότε δεν υπάρχουν ψευδείς απορρίψεις

17 GEMINI Σημαντικό : Q: how to extract features? A: if I have only one number to describe my object, what should this be?

18 Time sequences Q: what features?

19 Time sequences Q: what features? A: Fourier coefficients (we ll see them in detail soon)

20 Time sequences white noise brown noise Fourier spectrum... in log-log

21 Time sequences Eg.:

22 Time sequences conclusion: colored noises are well approximated by their first few Fourier coefficients colored noises appear in nature:

23 Time sequences brown noise: stock prices (1/f2 energy spectrum) pink noise: works of art (1/f spectrum) black noises: water reservoirs (1/fb, b>2) (slope: related to Hurst exponent, for self-similar traffic, like, eg. Ethernet/web [Schroeder], [Leland+]

24 Time sequences - results time keep the first 2-3 Fourier coefficients faster than seq. scan NO false dismissals (see book) total cleanup-time # coeff. kept r-tree time

25 Time sequences - improvements: improvements/variations: [Kanellakis+Goldin], [Mendelzon+Rafiei] could use Wavelets, or DCT could use segment averages [Yi+2000]

26 Multimedia - Detailed outline multimedia Motivation / problem definition Main idea / time sequences images (color, shapes) sub-pattern matching automatic feature extraction / FastMap

27 Images - color what is an image? A: 2-d array

28 Images - color Color histograms, and distance function

29 Images - color Mathematically, the distance function is:

30 Images - color Problem: cross-talk : Features are not orthogonal -> SAMs will not work properly Q: what to do? A: feature-extraction question

31 Images - color possible answers: avg red, avg green, avg blue it turns out that this lower-bounds the histogram distance -> no cross-talk SAMs are applicable

32 Images - color performance: time seq scan w/ avg RGB selectivity

33 Multimedia - Detailed outline multimedia Motivation / problem definition Main idea / time sequences images (color; shape) sub-pattern matching automatic feature extraction / FastMap

34 Images - shapes distance function: Euclidean, on the area, perimeter, and 20 moments (Q: how to normalize them?

35 Images - shapes distance function: Euclidean, on the area, perimeter, and 20 moments (Q: how to normalize them? A: divide by standard deviation)

36 Images - shapes distance function: Euclidean, on the area, perimeter, and 20 moments (Q: other features / distance functions?

37 Images - shapes distance function: Euclidean, on the area, perimeter, and 20 moments (Q: other features / distance functions? A1: turning angle A2: dilations/erosions A3:... )

38 Images - shapes distance function: Euclidean, on the area, perimeter, and 20 moments Q: how to do dim. reduction?

39 Images - shapes distance function: Euclidean, on the area, perimeter, and 20 moments Q: how to do dim. reduction? A: Karhunen-Loeve (= centered PCA/SVD)

40 Images - shapes Performance: ~10x faster log(# of I/Os) all kept # of features kept

41 Case study: Informedia Video database system, developed at CMU 2+ TB of video data (broadcast news) retrieval by text, image and face similarity

42 Case study: Informedia next foils: visualization features by space by time by concept

43 geo mapping automatic place recognition ambiguity resol. + lookup

44

45 time line

46 concept space

48 Sub-pattern matching Problem: find sub-sequences that match the given query pattern

49 $price $price day $price day day

50 Sub-pattern matching Q: how to proceed? Hint: try to turn it into a whole-matching problem (how?)

51 Sub-pattern matching Assume that queries have minimum duration w; (eg., w=7 days) divide data sequences into windows of width w (overlapping, or not?)

52 Sub-pattern matching Assume that queries have minimum duration w; (eg., w=7 days) divide data sequences into windows of width w (overlapping, or not?) A: sliding, overlapping windows. Thus: trails Pictorially:

53 Sub-pattern matching

54 Sub-pattern matching sequences -> trails -> MBRs in feature space

55 Sub-pattern matching Q: do we store all points? why not?

56 Sub-pattern matching Q: how to do range queries of duration w?

57 Sub-pattern matching (very recent improvement [Moon+2001]) use non-overlapping windows, for data

58 Conclusions GEMINI works for any setting (time sequences, images, etc) uses a quick and dirty filter faster than seq. scan (but: how to extract features automatically?)

60 FastMap Automatic feature extraction: Given a dissimilarity function of objects Quickly map the objects to a (k-d) `feature' space. (goals: indexing and/or visualization)

61 FastMap O1 O2 O3 O4 O5 O O O O O ~100 ~1

62 FastMap Multi-dimensional scaling (MDS) can do that, but in O(N**2) time

63 MDS Multi Dimensional Scaling

64 Main idea: projections We want a linear algorithm: FastMap [SIGMOD95]

65 FastMap - next iteration

66 Results Documents /cosine similarity -> Euclidean distance (how?)

67 Results bb reports recipes

68 Applications: time sequences given n co-evolving time sequences visualize them + find rules [ICDE00] GBP rate JPY HKD time

69 Applications - financial currency exchange rates [ICDE00] USD(t) USD(t-5) HKD 0 USD(t-5) USD(t) FRF HKD(t) HKD(t-5) USD FRF(t-5) DEM(t-5) FRF(t) DEM(t) DEM JPY(t) JPY(t-5) GBP JPY GBP(t) DEM FRF GBP HKD JPY USD GBP(t-5)

70 VideoTrails [ACM MM97]

71 Conclusions GEMINI works for multiple settings FastMap can extract features automatically (-> indexing, visual d.m.)

72 References Faloutsos, C., R. Barber, et al. (July 1994). Efficient and Effective Querying by Image Content. J. of Intelligent Information Systems 3(3/4): Faloutsos, C. and K.-I. D. Lin (May 1995). FastMap: A Fast Algorithm for Indexing, Data-Mining and Visualization of Traditional and Multimedia Datasets. Proc. of ACM-SIGMOD, San Jose, CA. Faloutsos, C., M. Ranganathan, et al. (May 25-27, 1994). Fast Subsequence Matching in Time-Series Databases. Proc. ACM SIGMOD, Minneapolis, MN. Flickner, M., H. Sawhney, et al. (Sept. 1995). Query by Image and Video Content: The QBIC System. IEEE Computer 28(9): Goldin, D. Q. and P. C. Kanellakis (Sept , 1995). On Similarity Queries for Time-Series Data: Constraint Specification and Implementation. Int. Conf. on Principles and Practice of Constraint Programming (CP95), Cassis, France.

73 References Leland, W. E., M. S. Taqqu, et al. (Feb. 1994). On the Self- Similar Nature of Ethernet Traffic. IEEE Transactions on Networking 2(1): Moon, Y.-S., K.-Y. Whang, et al. (2001). Duality-Based Subsequence Matching in Time-Series Databases. ICDE, Heidelberg, Germany. Rafiei, D. and A. O. Mendelzon (1997). Similarity-Based Queries for Time Series Data. SIGMOD Conference, Tucson, AZ. Schroeder, M. (1991). Fractals, Chaos, Power Laws: Minutes from an Infinite Paradise. New York, W.H. Freeman and Company. Yi, B.-K. and C. Faloutsos (2000). Fast Time Sequence Indexing for Arbitrary Lp Norms. VLDB, Kairo, Egypt.

74 Σημείωμα Αδειοδότησης Το παρόν υλικό διατίθεται με τους όρους της άδειας χρήσης Creative Commons Αναφορά, Μη Εμπορική Χρήση Παρόμοια Διανομή 4.0 [1] ή μεταγενέστερη, Διεθνής Έκδοση. Εξαιρούνται τα αυτοτελή έργα τρίτων π.χ. φωτογραφίες, διαγράμματα κ.λ.π., τα οποία εμπεριέχονται σε αυτό. Οι όροι χρήσης των έργων τρίτων επεξηγούνται στη διαφάνεια «Επεξήγηση όρων χρήσης έργων τρίτων». Τα έργα για τα οποία έχει ζητηθεί άδεια αναφέρονται στο «Σημείωμα Χρήσης Έργων Τρίτων». [1] Ως Μη Εμπορική ορίζεται η χρήση: που δεν περιλαμβάνει άμεσο ή έμμεσο οικονομικό όφελος από την χρήση του έργου, για το διανομέα του έργου και αδειοδόχο που δεν περιλαμβάνει οικονομική συναλλαγή ως προϋπόθεση για τη χρήση ή πρόσβαση στο έργο που δεν προσπορίζει στο διανομέα του έργου και αδειοδόχο έμμεσο οικονομικό όφελος (π.χ. διαφημίσεις) από την προβολή του έργου σε διαδικτυακό τόπο Ο δικαιούχος μπορεί να παρέχει στον αδειοδόχο ξεχωριστή άδεια να χρησιμοποιεί το έργο για εμπορική χρήση, εφόσον αυτό του ζητηθεί.

75 Επεξήγηση όρων χρήσης έργων τρίτων διαθέσιμο με άδεια CC-BY διαθέσιμο με άδεια CC-BY-SA διαθέσιμο με άδεια CC-BY-ND διαθέσιμο με άδεια CC-BY-NC διαθέσιμο με άδεια CC-BY-NC-SA διαθέσιμο με άδεια CC-BY-NC-ND διαθέσιμο με άδεια CC0 Public Domain διαθέσιμο ως κοινό κτήμα χωρίς σήμανση Δεν επιτρέπεται η επαναχρησιμοποίηση του έργου, παρά μόνο εάν ζητηθεί εκ νέου άδεια από το δημιουργό. Επιτρέπεται η επαναχρησιμοποίηση του έργου και η δημιουργία παραγώγων αυτού με απλή αναφορά του δημιουργού. Επιτρέπεται η επαναχρησιμοποίηση του έργου με αναφορά του δημιουργού, και διάθεση του έργου ή του παράγωγου αυτού με την ίδια άδεια. Επιτρέπεται η επαναχρησιμοποίηση του έργου με αναφορά του δημιουργού. Δεν επιτρέπεται η δημιουργία παραγώγων του έργου. Επιτρέπεται η επαναχρησιμοποίηση του έργου με αναφορά του δημιουργού. Δεν επιτρέπεται η εμπορική χρήση του έργου. Επιτρέπεται η επαναχρησιμοποίηση του έργου με αναφορά του δημιουργού και διάθεση του έργου ή του παράγωγου αυτού με την ίδια άδεια. Δεν επιτρέπεται η εμπορική χρήση του έργου. Επιτρέπεται η επαναχρησιμοποίηση του έργου με αναφορά του δημιουργού. Δεν επιτρέπεται η εμπορική χρήση του έργου και η δημιουργία παραγώγων του. Επιτρέπεται η επαναχρησιμοποίηση του έργου, η δημιουργία παραγώγων αυτού και η εμπορική του χρήση, χωρίς αναφορά του δημιουργού. Επιτρέπεται η επαναχρησιμοποίηση του έργου, η δημιουργία παραγώγων αυτού και η εμπορική του χρήση, χωρίς αναφορά του δημιουργού. Συνήθως δεν επιτρέπεται η επαναχρησιμοποίηση του έργου.

76 Διατήρηση Σημειωμάτων Οποιαδήποτε αναπαραγωγή ή διασκευή του υλικού θα πρέπει να συμπεριλαμβάνει: το Σημείωμα Αναφοράς το Σημείωμα Αδειοδότησης τη δήλωση Διατήρησης Σημειωμάτων το Σημείωμα Χρήσης Έργων Τρίτων (εφόσον υπάρχει) μαζί με τους συνοδευόμενους υπερσυνδέσμους.

77 Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στα πλαίσια του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα στο ΤΕΙ Ιονίων Νήσων» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους.