Επαγωγικός Λογικός Προγραμματισμός και Aσαφείς Λογικές Περιγραφής

.. και Aσαφείς Λογικές Περιγραφής Άγγελος Χαραλαμπίδης Στασινός Κωνσταντόπουλος ΕΚΕΦΕ «Δημόκριτος» {acharal,konstant}@iit.demokritos.gr

.. Σκελετός Ομιλίας Εισαγωγή

.. Ορισμός Προβλήματος Γενικότερο πλαίσιο «ΔΕΛΤΙΟ» 1. Ένας classifier αποφασίζει ότι ένα βίντεο ανήκει σε μία κατηγορία σε κάποιο βαθμό σύμφωνα: με κάποια πρωτογενή χαρακτηριστικά που αναγνωρίστηκαν σε κάποιο βαθμό, με κανόνες συμπερασμού που εξάγουν δευτερογενή χαρακτηριστικά. 2. Ένας χρήστης παρατηρεί ένα λάθος και το δηλώνει. 3. Ένας αλγόριθμος κατανομής ευθύνης αποδίδει feedback στα πρωτογενή εργαλεία ή στο λογικό πρόγραμμα (Apostolikas et al., 2007). 4. Το πρωτογενές ή δευτερογενές μοντέλο βελτιώνεται.

.. Ορισμός Προβλήματος Μηχανική Μάθηση Σημασιολογικών Μοντέλων Τα δευτερογενή χαρακτηριστικά εξάγονται από ένα ασαφές σημασιολογικό μοντέλο, το οποίο ορίζει το δευτερογενές λεξιλόγιο με βάση το πρωτογενές. Ο επαγωγικός λογικός προγραμματισμός (inductive logic programming): καλύπτει διαφορετικό κλάσμα της πρωτοτάξιας λογικής από τις λογικές περιγραφής, που εκφράζουν σημασιολογικά μοντέλα

.. Ορισμός Λογικές Περιγραφής Υποσύνολα της λογικής πρώτης τάξης Περιγράφουν σύνολα από αντικείμενα και σχέσεις ανάμεσα τους Υπόβαθρο για οντολογίες και σημασιολογικό ιστό Επιτρέπουν ανάλογα με την εκφραστικότητά τους: Άρνηση Yπαρξιακή ποσοδειξία Αριθμητική ποσοδειξία (τουλάχιστον n, το πολύ m)

.. Ορισμός Multi-valued Λογικές Περισσότερες από δύο τιμές αλήθειας Κατάλληλες να εκφράσουν αβεβαιότητα στα δεδομένα και στους κανόνες. Τα λογικά συνδετικά ορίζονται από αλγεβρικές νόρμες.

.. Ορισμός Νόρμες ασαφών λογικών Łukasiewicz: Gödel: deg(x Y) = max(0, deg(x) + deg(y) 1) deg(x Y) = min(1, 1 deg(x) + deg(y)) deg(x Y) = max(deg(x), deg(y)) { 1 if deg(x) deg(y) deg(x Y) = deg(y) otherwise

.. Yadlr Μέθοδος συμπερασμού Το σύστημα Yadlr/dlsem υλοποιεί απ' ευθείας τους ορισμούς των λογικών συνδετικών και ποσοδεικτών σε Prolog. Χαρακτηριστικά: μπορεί να παρέχει μόνο ABox services (instance checking, realization, retrieval). είναι το background σε ένα Prolog πρόγραμμα, που εκτελείται κανονικά στη μηχανή της Prolog.

.. Yadlr Παράδειγμα DangerousTrain Train 2 hascar hasload.dangerousload *_select: λειτουργούν ως φίλτρα: concept_select(in, 'DangerousTrain', Out) :- concept_select(in,'train',x), atleast_select(x, [hascar,hasload], 'DangerousLoad', 2, Out).

.. Yadlr Χειρισμός Ασάφειας Ο βαθμός ασάφειας: μία επιπλέον μεταβλητή υπολογίζεται με βάση τις νόρμες που θα επιλεγούν οδηγεί σε σύστημα αλγεβρικών περιορισμών χρησιμοποιεί βιβλιοθήκη clp(q, R)

.. Yadlr Παράδειγμα add_to_concept( 'Train', [(t1,0.88)] ). add_to_concept( 'Car', [(c11,0.9)] ). add_to_concept( 'Load', [(l311,1.0)] ). add_to_concept( 'DangerousLoad', [(l311,0.88)] ). add_to_relation( hascar, t1, [(c11,0.9)]). add_to_relation( hasload, c11, [(l311,1.0)] ). concept_select( [(t1, 1.0)], 'Train', [(t1,0.8)] ).

.. Σύντομη Εισαγωγή Ορισμός του ΕΛΠ Ο (ΕΛΠ) βρίσκεται ανάμεσα στην Μηχανική Μάθηση και στον Λογικό Προγραμματισμό. Δεδομένου ενός γνωστικού υπόβαθρου B και εμπειρικών δεδομένων D, ο ΕΛΠ προσπαθεί να δημιουργήσει μία υπόθεση H, τέτοια ώστε: B H D

.. Σύντομη Εισαγωγή Περιορίζοντας το πρόβλημα του ΕΛΠ Example Setting, Οριστικές Προτάσεις Πρωτοτάξια λογική. Οριστικές προτάσεις: μόνο ένα λεκτικό ως κεφαλή. Example setting: το D περιέχει μόνο λεκτικά που δεν έχουν μεταβλητές, και αντιπροσωπεύουν θετικά και αρνητικά παραδείγματα.

.. Σύντομη Εισαγωγή Ορισμός του ΕΛΠ Οριστικές Προτάσεις Μία οριστική πρόταση μπορεί να θεωρηθεί: μία συνεπαγωγή: parent(g, X) parent(x, S) grandparent(g, S) μία διάζευξη (Horn Clause) με ένα αρνητικό λεκτικό: grandparent(g, S) parent(g, X) parent(x, S) ένας κανόνας Prolog: grandparent(g,s):-parent(g,x),parent(x,s).

.. Σύντομη Εισαγωγή Ορισμός του ΕΛΠ Παράδειγμα Τα δεδομένα (οι παρατηρήσεις): grandparent(g, s). Το γνωστικό υπόβαθρο: parent(g, f). parent(f, s). C2 gr_parent( G, C ) ~parent( G, P ) ~parent( P, C ) C1 parent( g, f ) R gr_parent( g, C ) ~parent( f, C ) parent( f, s ) gr_parent( g, s )

.. Σύντομη Εισαγωγή Παραγωγικός Συμπερασμός Ο συμπερασμός υλοποιείται με την χρήση τελεστών συμπερασμού όπως η θ-υπαγωγή και η ανάλυση Τελεστές συμπερασμού: θ-υπαγωγή: αποδοτική, αλλά όχι πλήρης. ανάλυση: πλήρης, αλλά όχι αποδοτική.

.. Σύντομη Εισαγωγή Επαγωγικός Συμπερασμός Γενικός Μηχανισμός Aναγωγή του προβλήματος σε αναζήτηση ενός κανόνα μάθηση κανόνων, όχι ολοκληρωμένων υποθέσεων διαδοχική μάθηση κανόνων μέχρι όλα τα παραδείγματα να καλυφθούν. ο τελεστής συμπερασμού επιφέρει μερική διάταξη από τους γενικούς στους ειδικούς κανόνες συνάρτηση αποτίμησης (ευρεστικά): coverage, Occam's razor, prior bias, overgeneralisation vs. overfitting balance. στρατηγική αναζήτησης: breadth-, depth-, best-first, beam search, random walks, GAs,...

.. Σύντομη Εισαγωγή Επαγωγικός Συμπερασμός Αντίστροφη Ανάλυση αναζήτηση ειδικό προς γενικό: ξεκινώντας από ένα παράδειγμα χωρίς μεταβλητές. ο τελεστής συμπερασμού είναι η αντίστροφη ανάλυση. πλήρης, αλλά μη αποδοτική: big branching factor, slow individual proofs. Example Algorithm: Cigol (Muggleton 1988)

.. Σύντομη Εισαγωγή Επαγωγικός Συμπερασμός Progol η αντίστροφη ανάλυση κατασκευάζει ελάχιστα γενική πρόταση από ένα παράδειγμα (bottom clause). αναζήτηση με θ-υπαγωγή από το γενικό στο ειδικό, με κάτω όριο την bottom clause. Example Algorithm: Progol (Muggleton 1994,1995)

.. Σύντομη Εισαγωγή Το Σύστημα Aleph Είναι σύστημα μηχανικής μάθησης ΕΛΠ: μαθαίνει οριστικούς κανόνες μόνο για ένα κατηγόρημα κάθε φορά θετικά και αρνητικά παραδείγματα υποστηρίζει δίτιμη λογική. δεν μπορεί να μάθει προγράμματα DL: δεν υποστηρίζει άρνηση δεν υποστηρίζει ποσοδειξία, εκτός LP

.. ΕΛΠ και Λογικές Περιγραφής Κωδικοποιώντας την σημασιολογία των DL Η υπόθεση κτίζεται από τα ακόλουθα κατηγορήματα: 1. concept_select(in,concept,out) 2. forall_select(in,rel,concept,out) 3. atleast_select(in,min,rel,concept,out) 4. atmost_select(in,max,rel,concept,out) Μία έκφραση DL, γράφεται σαν σύζευξη των παραπάνω τροφοδοτώντας Out σε In. Κάθε Concept μπορεί να είναι και compl(concept).

.. ΕΛΠ και Λογικές Περιγραφής Ορθότητα και Πληρότητα Ορθότητα: υλοποιεί τα formal semantics των connectives ο ΕΛΠ δεν χρειάζεται TBox services, σχετικοί περιορισμοί κωδικοποιούνται ως background Πληρότητα: δεν επιτρέπει κυκλικές θεωρίες ή background δεν κωδικοποιεί πλήρως disjunctive heads

.. ΕΛΠ και Λογικές Περιγραφής Επέκταση σε Ασαφείς ΛΠ In και Out περιέχουν για κάθε στοιχείο σε τι βαθμό βρίσκεται στο σύνολο τα κατηγορήματα *_select μειώνουν τον βαθμό ανάλογα με τις νόρμες που χρησιμοιούνται

.. ΕΛΠ και Λογικές Περιγραφής Aleph DL O Aleph μαθαίνει κανόνες για ένα target concept την φορά ένας κανόνας είναι σύζευξη από κατηγορήματα _select πρέπει να καλύψει θετικά και αρνητικά παραδείγματα που ισχύουν για περισσότερο από έναν βαθμό.

.. Αποτελέσματα target(a,b) :- atleast_select(a,['hascar','hasload'], 'DangerousLoad',2,B).

.. To Do δοκιμές με μεγαλύτερα datasets αυτόματη μετατροπή από/σε φορμαλισμούς Semantic Web (OWL, DIG) προσαρμογή Aleph σε DL reasoning: ευκολότερη κωδικοποίηση αξιωμάτων learnability: για απλές ΛΠ (ALN, Kietz, ILP-02) bottom clause? Lisi & Malerba (JML, 2004) μαθαίνουν μόνο ALC