Μηχανική Μάθηση Μερωνυµιών για Αναγνώριση Γεγονότων Αναστάσιος Σκαρλατίδης 1,2 anskarl@iit.demokritos.gr επιβλέπων: Καθ. Βούρος Γ. 1 1 Τµήµα Μηχανικών Πληροφοριακών και Επικοινωνιακών Συστηµάτων Πανεπιστήµιο Αιγαίου 2 Ινστιτούτο Πληροφορικής και Τηλεπικοινωνιών Εργαστήριο Τεχνολογίας Γνώσεων και Λογισµικού Ε.Κ.Ε.Φ.Ε. ηµόκριτος 24/05/2008
Περιεχόµενα 1 Εισαγωγή 2 Χρονική Αναπαράσταση Γνώσης 3 Μηχανική Μάθηση για Αναγνώριση Γεγονότων 4 Επίλογος
Προσδιορισµός Προβλήµατος Προσδιορισµός Προβλήµατος Γεγονός: µία ενέργεια για κάποια χρονική στιγµή ή χρονικό διάστηµα [(event 1, t start 1, t end 1 ), (event 2, t start 2, t end 2 ),...] Μάθηση ιεραρχικών µοντέλων για αναγνώριση γεγονότων Ταξονοµία: ιεραρχία µε ϐάση την οµοιότητα Μερωνυµία: ιεραρχία µε ϐάση την σχέση part-of Ενα γεγονός αποτελείται από άλλα υπογεγονότα τα οποία αποτελούν µέρος αυτού (part-of)
Προσδιορισµός Προβλήµατος Event sequence A A C...
Προσδιορισµός Προβλήµατος Συµβολική Αναπαράσταση Στηριζόµαστε µόνο στις χρονικές ιδιότητες υνατότητα για περισσότερο πολύπλοκων/εκφραστικών µοντέλων υνατότητα συµπερασµού Πρόβλεψη της εξέλιξης από µερική παρατήρηση Μοντέλα υψηλού επιπέδου: Αµεσα κατανοητά από τον άνθρωπο Αλληλεπίδραση µε τον άνθρωπο
Χρονική Αναπαράσταση Γνώσης Χρονική Αναπαράσταση Γνώσης Κλασική λογική: Ενα γεγονός είναι αληθές ή ψευδές εν εκφράζει µε κάποιο τρόπο τον χρόνο στον οποίο ισχύει Χρονική Αναπαράσταση: υνατότητα πρόβλεψης, σχεδιασµού ή εξήγησης ϕαινοµένων Γλώσσες Ενεργειών: Event Calculus Interval Temporal Logic Situation Calculus Temporal Description Logic
Χρονική Αναπαράσταση Γνώσης Χρονική Αναπαράσταση Γνώσης - ιαφορές Εκφραστικότητα Υπολογιστική πολυπλοκότητα Χαρακτηριστικά συµπερασµού (πχ. αρτιότητα, πληρότητα) Εννοια του χρόνου Χρονικά σηµεία Χρονικά διαστήµατα ιάρκεια Σειρά Επικάλυψη Περιοδικότητα (επανάληψη)
Χρονική Αναπαράσταση Γνώσης Χρονική Αναπαράσταση Γνώσης - ιαφορές Εκφραστικότητα Υπολογιστική πολυπλοκότητα Χαρακτηριστικά συµπερασµού (πχ. αρτιότητα, πληρότητα) Εννοια του χρόνου Χρονικά σηµεία Χρονικά διαστήµατα ιάρκεια Σειρά Επικάλυψη Περιοδικότητα (επανάληψη)
Χρονική Αναπαράσταση Γνώσης Χρονική Αναπαράσταση Γνώσης - ιαφορές Εκφραστικότητα Υπολογιστική πολυπλοκότητα Χαρακτηριστικά συµπερασµού (πχ. αρτιότητα, πληρότητα) Εννοια του χρόνου Χρονικά σηµεία Χρονικά διαστήµατα ιάρκεια Σειρά Επικάλυψη Περιοδικότητα (επανάληψη)
Χρονική Αναπαράσταση Γνώσης Χρονική Αναπαράσταση Γνώσης - ιαφορές Εκφραστικότητα Υπολογιστική πολυπλοκότητα Χαρακτηριστικά συµπερασµού (πχ. αρτιότητα, πληρότητα) Εννοια του χρόνου Χρονικά σηµεία Χρονικά διαστήµατα ιάρκεια Σειρά Επικάλυψη Περιοδικότητα (επανάληψη)
Χρονική Αναπαράσταση Γνώσης Χρονικές Σχέσεις - Allen Σχέση Σχήµα Περιορισµοί X equals Y X before Y, Y after X X meets Y, Y met-by X X.t s = Y.t s X.t e = Y.t e X.t e < Y.t s X.t e = Y.t s X finish Y, Y finished-by X X.t s > Y.t s X.t e = Y.t e X during Y, Y contains X X.t s > Y.t s X.t e < Y.t e X start Y, Y started-by X X overlaps Y, Y overlapped-by X X.t s = Y.t s X.t e < Y.t e X.t s < Y.t s X.t e > Y.ts X.t e < Y.t e
Χρονική Αναπαράσταση Γνώσης Προβλήµατα µε την προσέγγιση του Allen Πλήρης γνώση των χρονικών σχέσεων στα δεδοµένα Ατελής γνώση οδηγεί σε πολυπλοκότερες αναπαραστάσεις Θόρυβος στα δεδοµένα ιφορούµενες σχέσεις Πολλοί ισοδύναµοι κανόνες για την ίδια ακολουθία
Χρονική Αναπαράσταση Γνώσης Προβλήµατα µε την προσέγγιση του Allen Πλήρης γνώση των χρονικών σχέσεων στα δεδοµένα Ατελής γνώση οδηγεί σε πολυπλοκότερες αναπαραστάσεις Θόρυβος στα δεδοµένα ιφορούµενες σχέσεις Πολλοί ισοδύναµοι κανόνες για την ίδια ακολουθία
Χρονική Αναπαράσταση Γνώσης Προβλήµατα µε την προσέγγιση του Allen Πλήρης γνώση των χρονικών σχέσεων στα δεδοµένα Ατελής γνώση οδηγεί σε πολυπλοκότερες αναπαραστάσεις Θόρυβος στα δεδοµένα ιφορούµενες σχέσεις Πολλοί ισοδύναµοι κανόνες για την ίδια ακολουθία
Χρονική Αναπαράσταση Γνώσης Αλλες προσεγγίσεις Υποσύνολα των σχέσεων του Allen Semi-intervals Activity Relation Trees Υλοποίηση διαφορετικών προσεγγίσεων Unification-based Temporal Grammar Time Series Knowledge Representaion Μεγαλύτερη εκφραστικότητα Αποδοτικότερες υνατότητα αναπαράστασης από ατελή δεδοµένα
Αναγνώριση Γεγονότων Αναγνώριση Γεγονότων Εφαρµογές: Παρακολούθηση δικτύων, συστήµατα επιτήρησης χώρου, αναγνώριση σφαλµάτων κ.α. εδοµένα: ακολουθία από σύµβολα µαζί µε την χρονική τους σφραγίδα Μπορεί να εκφράζει: Σχέσεις σε ένα σύνολο γεγονότων Χρονικούς περιορισµούς µεταξύ γεγονότων Αλλους περιορισµούς, όπως προϋποθέσεις εµφάνισης γεγονότων/µοντέλου
Μοντέλα Συµβολικών ικτύων Συµβολικά δίκτυα - TCN Συσχετίσεις γεγονότων (κόµβοι) Χρονικοί περιορισµοί (ακµές) Αναπαράσταση χρόνου: Χρονικά σηµεία ή χρονικά διαστήµατα
Μοντέλα Συµβολικών ικτύων Συµβολικά δίκτυα - Petri-Nets ιµερές γράφηµα Place: γεγονός Transition: περιορισµός (χρονικός, λογικός) Μοντελοποίηση της δυναµικής συµπεριφοράς του συστήµατος Κατάσταση του συστήµατος: Ανεξαρτησία, αιτιότητα και δυνατότητα ταυτόχρονης εκτέλεσης Ισχυρό µαθηµατικό υπόβαθρο Πολλές παραλλαγές: Time Interval, Coloured, Stochastic Petri-Net etc.
Μοντέλα Συµβολικών ικτύων Αναγνώρηση µε Συµβολικά ίκτυα Προοπτική Αναγνώριση Γεγονότων (Forward Recognition) ιατηρεί σύνολο συµβολικών δικτύων Μπορούν να προβλεφθούν οι πιθανές ακολουθίες µεταγενέστερων χρονικά γεγονότων (-) Τα γεγονότα είναι οριοθετηµένα στο χρόνο (-) ιατηρεί όλα τα µερικώς αναγνωρισµένα δίκτυα Αναδροµικής Αναγνώρισης Γεγονότων (Backward Recognition) Καταγράφονται όλα τα ατοµικά γεγονότα που έχουν παρατηρηθεί Ενα γεγονός να αναγνωρίζεται αναλύοντας το σύνολο των αποθηκευµένων ατοµικών γεγονότων (-) ιατήρηση όλων των γεγονότων που έχουν αναγνωριστεί προηγουµένως (-) Ανάγκη επανυπολογισµού των όλων σχέσεων κάθε ϕορά Συνδυασµός Προοπτικής µε Αναδροµική Αναγνώριση Γεγονότων Ελαττώνει την πολυπλοκότητα Βελτίωση της απόδοσης της αναγνώρισης γεγονότων
Μοντέλα Συµβολικών ικτύων Μάθηση Συµβολικών ικτύων Μάθηση Temporal Constraint Networks Syntactic pattern recognition Frequent Patterns Inductive Logic Programing Συνήθως ανολοκλήρωτη µάθηση δικτύων Σχέσεις των γεγονότων Ατελής µάθηση χρονικών περιορισµών Τελικό µοντέλο από τον χρήστη του συστήµατος Μάθηση Petri-Nets TIPN-ML Self-Learning Process Mining
Γραφικά Μοντέλα Γραφικά Μοντέλα Γράφηµα που αναπαριστά τις ανεξαρτησίες µεταξύ των τυχαίων µεταβλητών Κατευθυνόµενα µοντέλα Bayesian networks Hidden Markov Models Propagation Networks Conditional Random Fields Μη κατευθυνόµενα Markov random fields Πληθώρα εφαρµογών: Αναγνώριση ϕωνής, Μηχανική Οραση, Συστήµατα Παρακολούθησης κλειστών χώρων κ.α
Γραφικά Μοντέλα Μάθηση Γραφικών Μοντέλων Η διαδικασία µάθησης γραφικών µοντέλων: 1 Μάθηση της δοµής του µοντέλου µέθοδοι µάθησης γραφηµάτων ή µε αλγόριθµους αναζήτησης/βελτιστοποίηση 2 Μάθηση κατανοµών των τυχαίων µεταβλητών Καλή συµπεριφορά σε ϑόρυβο Μάθηση από πλήρες ή ελλιπές σύνολο δεδοµένων
Χρονικοί Κανόνες Χρονικοί κανόνες Συµβολική αναπαράσταση χρονικής γνώσης: Κατηγορηµατική λογική Γραµµατικοί κανόνες, αναπαράσταση σε ϕυσική γλώσσα Μαθηµατική λογική, κτλ. υνατότητα άµεσης χρήσης µηχανής συµπερασµού Αλγόριθµοι από το πεδίο της Ανάλυσης Συµβολικών Χρονοσειρών Μάθηση µε συχνότητες εµφάνισης γεγονότων
Επίλογος Συµπεράσµατα Αναπαράσταση χρόνου Αναπαράσταση µερωνυµιών Συµβολικά ίκτυα Χρονικοί περιορισµοί Χρονικές εξαρτήσεις Λογικοί περιορισµοί εν εφαρµόζουν σε δεδοµένα µε ϑόρυβο Γραφικά Μοντέλα Μάθηση δοµής και κατανοµών τυχαίων µεταβλητών Καλή συµπεριφορά στο ϑόρυβο εν εκφράζουν άµεσα εξαρτήσεις και περιορισµούς Μάθηση κανόνων Ανάλυση Συµβολικών Χρονοσειρών Μάθηση απλών προτύπων
Επίλογος Στόχοι Μάθηση από χρονικά δεδοµένα Καρδιογράφηµα (ECG) Κίνηση δεδοµένων δικτύου κ.α Αυτόµατη Κατασκευή Μοντέλων Σχέσεις γεγονότων Χρονικοί περιορισµοί Ιεραρχία από µερωνυµικές σχέσεις γεγονότων Καλή συµπεριφορά στο ϑόρυβο Αυξητική Μάθηση Πρόσθεση νέων µοντέλων Βελτίωση µοντέλων
Επίλογος Ευχαριστώ για τον χρόνο σας! Απορίες;