Τεχνητή Νοημοσύνη. 5η διάλεξη ( ) Ίων Ανδρουτσόπουλος.

Transcript

1 Τεχνητή Νοημοσύνη 5η διάλεξη ( ) Ίων Ανδρουτσόπουλος 1

2 Οι διαφάνειες αυτής της διάλεξης βασίζονται στα βιβλία Τεχνητή Νοημοσύνη των Βλαχάβα κ.ά., 3η έκδοση, Β. Γκιούρδας Εκδοτική, 2006 και Artificial Intelligence A Modern Approach των S. Russel και P. Norvig, 2η έκδοση, Prentice Hall, Τα περισσότερα σχήματα των διαφανειών προέρχονται από αντίστοιχες διαφάνειες των δύο βιβλίων.

3 Τι θα ακούσετε σήμερα Προσομοιωμένη ανόπτηση. Beam search. Γενετικοί αλγόριθμοι. Οι έννοιες του γραμμικού και ακέραιου γραμμικού προγραμματισμού. Αποσαφήνιση εννοιών λέξεων μέσω ακέραιου γραμμικού προγραμματισμού.

4 Προσομοιωμένη ανόπτηση (simulated annealing) Εμπνευσμένη από τεχνική μεταλλουργίας. Θέρμανση μετάλλου ή γυαλιού και αργή ψύξη. Επιλέγουμε τυχαία ένα γείτονα. Αν η αξία του είναι μεγαλύτερη από της τρέχουσας κατάστασης (ΔΕ > 0), πηγαίνουμε σε αυτόν. Διαφορετικά, πηγαίνουμε με πιθανότητα e ΔΕ/Τ. ΔΕ < 0. Όσο μικρότερη γίνεται η αξία πηγαίνοντας στο γείτονα, τόσο δυσκολότερα πηγαίνουμε. Σε υψηλές θερμοκρασίες (T), δηλαδή στην αρχή της αναζήτησης, πηγαίνουμε ευκολότερα σε χειρότερους γείτονες. Σε χαμηλότερες θερμ/σίες (αργότερα), πηγαίνουμε δυσκολότερα σε χειρότερους γείτονες (κατηφορίζουμε δυσκολότερα). Σταματάμε όταν η θερμοκρασία μηδενιστεί. Αν η θερμοκρασία T πέφτει αργά, η πιθανότητα εύρεσης ολικού μεγίστου τείνει στο 1.

5 Προσομοιωμένη ανόπτηση 1. Επιλογή τυχαίας αρχικής κατάστασης και αρχικοποίηση T. 2. Αν T = 0, επίστρεψε την τρέχουσα κατάσταση. 3. Διάλεξε τυχαία ένα γείτονα και υπολόγισε το ΔΕ. 4. Αν ΔΕ > 0, κάνε τρέχουσα κατάσταση το γείτονα. 5. Διαφορετικά κάνε τον τρέχουσα κατάσταση με πιθανότητα e ΔΕ/Τ. 6. Μείωσε τη θερμοκρασία και πήγαινε στο βήμα 2.

6 (Local) Beam search m 300 m * * * * * 100 m m 200 m

7 (Local) Beam search m 300 m * * * * ** * * * 100 m 200 m 300 m

8 (Local) Beam search Όπως ο HC, αλλά κρατάμε k καταστάσεις στο μέτωπο. Αρχικά k τυχαίες καταστάσεις στο μέτωπο. Σε κάθε βήμα, επεκτείνουμε όλες τις k καταστάσεις του μετώπου και αξιολογούμε τα παιδιά. Αν έχουμε κριτήρια τελικών καταστάσεων και παραχθεί τελική κατάσταση, σταματάμε. Από όλα τα παιδιά που προκύπτουν, κρατάμε στο μέτωπο τα k καλύτερα και επαναλαμβάνουμε. Μέχρι ένα μέγιστο αριθμό επαναλήψεων. Αν τα παιδιά μιας κατάστασης του μετώπου υπερέχουν όλων των άλλων παιδιών, μπορεί να επικεντρωθούμε σε μια περιορισμένη περιοχή του χώρου αναζήτησης. Έλλειψη ποικιλίας. Πιθανό πρόβλημα και στους γενετικούς αλγορίθμους.

9 Γενετικοί αλγόριθμοι Μιμούνται στοιχεία του φυσικού μηχανισμού εξέλιξης. Πληθυσμός καταστάσεων Παριστάνονται ως χρωμοσώματα. Συνάρτηση καταλληλότητας: αξιολογεί τις καταστάσεις του πληθυσμού. Αναπαραγωγή: Ζεύγη καταστάσεων του πληθυσμού παράγουν απογόνους. Συνδυάζουν χαρακτηριστικά των προγόνων τους. Επιλογή: Οι καταλληλότερες καταστάσεις έχουν περισσότερες πιθανότητες να αναπαραχθούν. Σταδιακά υπερισχύουν στον πληθυσμό οι καταστάσεις με τα καλύτερα χαρακτηριστικά. Απαιτείται προσεκτική επιλογή παράστασης καταστάσεων, συνάρτησης καταλληλότητας κλπ.

10 Χρωμοσώματα γονίδιο χρωμόσωμα κατάσταση Κάθε χρωμόσωμα παριστάνει μια κατάσταση. Κάθε γονίδιο παριστάνει τη θέση μιας βασίλισσας στη στήλη της. Έχουμε απαλλαγεί από καταστάσεις όπου υπάρχουν δύο ή περισσότερες βασίλισσες ανά στήλη, αφού δεν αποτελούν λύσεις. Χρειάζεται προσοχή, ώστε η αναπαραγωγή να οδηγεί σε χρωμοσώματα που παριστάνουν επιτρεπτές καταστάσεις.

11 Διασταύρωση και μετάλλαξη (Β) (Α) διασταύρωση Το σημείο στο οποίο κόβουμε τα χρωμοσώματα επιλέγεται τυχαία μετάλλαξη

12 Διασταύρωση και μετάλλαξη Αν δεν υπάρχει αρκετή ποικιλία στον πληθυσμό, όλοι οι απόγονοι θα είναι πολύ παρόμοιοι. Συγκλίνουμε προς μια λύση. Πρόβλημα αν συμβεί νωρίς, γιατί περιοριζόμαστε σε μικρή περιοχή του χώρου αναζήτησης. Μετάλλαξη: Για κάθε γονίδιο του απογόνου, υπάρχει μια μικρή πιθανότητα να πάρει τυχαία τιμή. Μπορεί να βοηθήσει να ξεφύγουμε από τοπικό μέγιστο.

13 Συνάρτηση καταλληλότητας Συνάρτηση καταλληλότητας: συνήθως απεικονίζει κάθε χρωμόσωμα σε έναν πραγματικό [0, 1]. Η τιμή της συνάρτησης καταλληλότητας μπορεί να παριστάνει την αξία του χρωμοσώματος. Π.χ. κόστος υλοποίησης προγράμματος εξετάσεων. Ή μπορεί να αποτελεί ευρετική εκτίμηση της απόστασης από μια τελική κατάσταση. Π.χ. ποσοστό περιορισμών που παραβιάζονται. Μπορεί να είναι προτιμότερη μια λιγότερο ακριβής συνάρτηση καταλληλότητας που μπορεί όμως να υπολογισθεί γρηγορότερα. Περισσότερες αναπαραγωγές στον ίδιο χρόνο.

14 24/78 = 31% Γενετικοί αλγόριθμοι 78 Σε κάθε αναπαραγωγή επιλέγουμε τους δύο γονείς με πιθανότητα ανάλογη της αξίας τους. Χρωμοσώματα με μεγάλη αξία έχουν μεγάλη πιθανότητα να ζευγαρώσουν πολλές φορές. Χρωμοσώματα με μικρή αξία είναι πιθανότερο να μη ζευγαρώσουν καθόλου.

15 Απλός γενετικός αλγόριθμος πληθυσμός τυχαίο σύνολο χρωμοσωμάτων βρόχος νέος-πληθυσμός {} για i = 1 ως μέγεθος(πληθυσμός) / 2 x επιλογή-από(πληθυσμός) y επιλογή-από(πληθυσμός) <παιδί 1, παιδί 2 > αναπαραγωγή(x, y) με μικρές πιθανότητες, μετάλλαξη των παιδί 1, παιδί 2 πρόσθεσε τα παιδί 1, παιδί 2 στο νέο-πληθυσμό πληθυσμός νέος-πληθυσμός μέχρι ένα χρωμόσωμα να είναι αρκετά καλό ή τέλος χρόνου ή σύγκλιση (π.χ. σχεδόν όλα τα χρωμοσώματα τα ίδια) επιστροφή του καλύτερου χρωμοσώματος

16 Χάσμα γενεών Χάσμα γενεών: Το ποσοστό των χρωμοσωμάτων του πληθυσμού που ανανεώνεται μετά από κάθε φάση αναπαραγωγής. Στον αλγόριθμο που είδαμε πριν, το ποσοστό ήταν 100%. Σε αλγορίθμους με ποσοστό ανανέωσης < 100%, συνυπάρχουν απόγονοι με προγόνους. Επιλογή γονέων που θα αποχωρήσουν πριν κάθε φάση αναπαραγωγής. Π.χ. τυχαία ή με πιθανότητα αντιστρόφως ανάλογη της καταλληλότητάς τους.

17 Παράδειγμα: εύρεση μεγίστου 3 2,5 2 1,5 1 0, ,5 0 0,5 1 1,5 2-0,5-1 Ζητείται το x που μεγιστοποιεί την f(x) = x sin(10π x) στο (-1, 2] με ακρίβεια 6 δεκαδικών (εκατομμυριοστού).

18 Εύρεση με γενετικό αλγόριθμο Ένα χρωμόσωμα για κάθε μία υποψήφια λύση δυνατές τιμές του x Με δυαδική παράσταση του x απαιτούνται 22 δυφία (2 21 < < 2 22 ). Συνάρτηση καταλληλότητας: η ίδια η f(x). Τυχαίος αρχικός πληθυσμός, επιλογή γονέων, διασταύρωση, μετάλλαξη κλπ. Μέγιστο για x 1.85, με f(1.85) = 2.85.

19 Παρατηρήσεις για τους Γ.Α. Παρόμοιοι με beam search. Ο πληθυσμός αντιστοιχεί στο μέτωπο του beam search. Αλλά οι νέες καταστάσεις είναι συνδυασμοί στοιχείων δύο καταστάσεων του μετώπου. Ενδιαφέρουσες ομοιότητες με τη φυσική εξέλιξη. Η φυσική εξέλιξη είναι πιο περίπλοκη (βλ. βιβλιογραφία). Έχουν χρησιμοποιηθεί πολύ σε προβλήματα βελτιστοποίησης. Π.χ. διάταξη κυκλωμάτων, πρόγραμμα εργασιών. Συχνά δεν είναι καθαρό αν και πότε υπερτερούν άλλων μηχανισμών αναζήτησης.

20 Γραμμικός προγραμματισμός (linear programming, LP) Ιδιαίτερη περίπτωση βελτιστοποίησης, όπου: κάθε κατάσταση μπορεί να παρασταθεί ως ένα διάνυσμα: Ԧx = x 1, x 2, x 3,, x n R n ψάχνουμε μέγιστο μια «αντικειμενικής» συνάρτησης f Ԧx που είναι γραμμικός συνδυασμός των x i : f Ԧx = c 1 x c n x n, θέλουμε να ικανοποιούνται γραμμικές ανισότητες: a 11 x 1 + a 12 x a 1n x n b 1 a i1 x 1 + a i2 x a in x n b i a m1 x 1 + a m2 x a mn x n b m

21 Γραμμικός προγραμματισμός συνέχεια Yπάρχουν αλγόριθμοι που βρίσκουν γρήγορα λύση. Αλγόριθμος Simplex: στη χειρότερη περίπτωση εκθετική πολυπλοκότητα (ως προς τον αριθμό μεταβλητών), αλλά στην πράξη πολύ γρήγορος. Υπάρχουν και αλγόριθμοι πολυωνυμικής πολυπλοκότητας. Αλλά αν οι μεταβλητές x i επιτρέπεται να έχουν μόνο ακέραιες τιμές, το πρόβλημα γίνεται NP-hard. Και μιλάμε για «ακέραιο (γραμμικό) προγραμματισμό» (integer linear programming, ILP). Υπάρχουν, όμως, πολύ καλές μέθοδοι λύσης (και υλοποιήσεις), που στην πράξη συχνά βρίσκουν γρήγορα λύση. Περισσότερα στο μάθημα «Επιχειρησιακή Έρευνα». Εδώ «προγραμματισμός» σημαίνει «βελτιστοποίηση».

22 Παράδειγμα χρήσης ILP Ποια είναι η σωστή έννοια κάθε εμφάνισης λέξεως σε ένα κείμενο (word sense disambiguation, WSD). o Δυνητικώς χρήσιμο σε πολλές εφαρμογές (π.χ. ανάκτηση πληροφοριών, μηχανική μετάφραση). o Π.χ. το «bank» να μεταφραστεί ως «τράπεζα» ή ως «όχθη»; o To «άπειρος» σημαίνει «infinite» ή «inexperienced»; o Συχνά γνωρίζουμε όλες τις δυνατές έννοιες των λέξεων (π.χ. από λεξικό, βλ. π.χ. Θεωρούμε ότι διαθέτουμε μια συνάρτηση συνάφειας (relatedness) που δείχνει πόσο συναφείς είναι δύο έννοιες. o o Π.χ. πόσο σχετίζεται η μαθηματική έννοια της λέξης «άπειρος» με την αστρονομική έννοια της λέξης «διάστημα». Π.χ. εξετάζει πόσο συχνά συν-εμφανίζονται οι δύο έννοιες σε ένα σώμα κειμένων, του οποίου οι λέξεις έχουν επισημειωθεί χειρωνακτικά με τις σωστές τους έννοιες.

23 Αποσαφήνιση εννοιών λέξεων w 1 S 11 S 12 S 13 S 1K w 4 S 41 S 42 S 43 rel(s 4N, s 12 ) rel(s 12, s 31 ) rel(s 12, s 23 ) S 21 S 22 S 23 w 2 S 4N rel(s 4N, s 23) rel(s 31, s 23 ) S 2L rel(s 4N, s 31 ) S 31 S 32 S 33 S 3M w 3 Διάλεξε ακριβώς μία έννοια s ij κάθε λέξης w i της πρότασης (ή παραγράφου), ώστε η συνολική συνάφεια όλων των ζευγών επιλεγμένων εννοιών να είναι μέγιστη.

24 Προς μια μέθοδο αποσαφήνισης μέσω ILP w 1 S 11 S 12 S 13 S 1K s 1j : Δυνατές έννοιες της w 1. a 1j : Δείχνει αν επιλέγεται (a 1j =1) ή όχι (a 1j = 0) η s 1j. w 4 S 41 S 42 S 43 rel(s 4N, s 12 ) rel(s 12, s 31 ) rel(s 12, s 23 ) S 21 S 22 S 23 w 2 S 4N rel(s 4N, s 23) rel(s 31, s 23 ) S 2L rel(s 4N, s 31 ) S 31 S 32 S 33 S 3M s 2j : Δυνατές έννοιες της w 2. a 2j : Δείχνει αν επιλέγεται (a 2j =1) ή όχι (a 2j = 0) η s 2j. max σ i,j,i,j,i<i rel(s ij, s i j ) a ij a i j s.t. a ij 0,1, i, j and σ j a ij = 1, i w 3 a i j Μεγιστοποίησε τη συνολική συνάφεια των επιλεγόμενων εννοιών, διαλέγοντας ακριβώς μία έννοια ανά λέξη. Αλλά τετραγωνική αντικειμενική...

25 Μεταβλητές και στις ακμές s 1j : Δυνατές έννοιες της w 1. a 1j : Δείχνει αν επιλέγεται (a 1j =1) ή όχι (a 1j = 0) η s 1j. s 2j : Δυνατές έννοιες της w 2. a 2j : Δείχνει αν επιλέγεται (a 2j =1) ή όχι (a 2j = 0) η s 2j. δ ij,i j : Δείχνει αν είναι ενεργή (1) η ακμή ή όχι (0). Ενεργή αν και μόνο αν και οι δύο έννοιες που συνδέει επιλέγονται (a ij = a i j =1). 25

26 Ένα ILP μοντέλο για WSD max σ i,j,i,j,i<i rel(s ij, s i j ) δ ij,i j s.t. a ij 0,1, i, j and σ j a ij = 1, i and δ ij,i j 0,1, i, j, i, j and δ ij,i j = δ i j,ij, i, j, i, j and σ j δ ij,i j = a ij, i, j, i Μεγιστοποίησε τη συνολική συνάφεια αθροίζοντας τις συνάφειες εννοιών που συνδέονται με ενεργές ακμές. Αν το s ij επιλέγεται (a ij = 1), τότε πρέπει να υπάρχει ακριβώς μία ενεργή ακμή από το s ij προς τις έννοιες κάθε άλλης λέξης w i. Αν το s ij δεν επιλέγεται (a ij = 0), τότε δεν πρέπει να υπάρχει καμία ενεργή ακμή από το s ij προς έννοια άλλης λέξης w i. 26

27 Βιβλιογραφία Russel & Norvig: σελ ενότητας 4.3, ενότητα 4.4 (θα επανέλθουμε σε επόμενες διαλέξεις). Όσοι ενδιαφέρονται μπορούν να διαβάσουν προαιρετικά (εκτός εξεταστέας ύλης) επιπλέον τα τμήματα του κεφαλαίου 4 που εξαιρέθηκαν, καθώς και το κεφάλαιο 5. Το κεφάλαιο 5 μπορεί να σας δώσει ιδέες για να βελτιώσετε το σύστήμα σας στην 1 η εργασία, αν ασχοληθείτε με το ωρολόγιο πρόγραμμα μαθημάτων. Βλαχάβας κ.ά.: ενότητες και 4.2.4, κεφάλαιο 7. Όσοι ενδιαφέρονται μπορούν να διαβάσουν προαιρετικά (εκτός εξεταστέας ύλης) επιπλέον τα τμήματα του κεφαλαίου 4 που εξαιρέθηκαν, καθώς και το κεφάλαιο 6. Το κεφάλαιο 6 μπορεί να σας δώσει ιδέες για να βελτιώσετε το σύστήμα σας στην 1 η εργασία, αν ασχοληθείτε με το πρόγραμμα μαθημάτων. 27

28 Βιβλιογραφία συνέχεια Ο φυσικός μηχανισμός της εξέλιξης είναι πιο περίπλοκος από τους γενετικούς αλγορίθμους που εξετάσαμε. Κάθε άνθρωπος έχει 23 ζεύγη χρωμοσωμάτων, τα ίδια σε (σχεδόν) όλα τα κύτταρα. Κάθε ζεύγος περιλαμβάνει ένα χρωμόσωμα με γονίδια του πατέρα και ένα με γονίδια της μητέρας, με ενδεχομένως αντικρουόμενες «οδηγίες» (π.χ. χρώμα ματιών). Ειδικά τα ωάρια και τα σπερματοζωάρια έχουν μόνο 23 χρωμοσώματα (όχι ζεύγη). Κάθε χρωμόσωμά τους είναι ένας συνδυασμός γονιδίων των δύο μελών του αντίστοιχου ζεύγους. Τα γονίδια των έμβιων όντων μοιάζουν με συμβολοσειρές με αλβάβητο τεσσάρων γραμμάτων (νουκλεοτιδίων: A, T, C, G). Το βιβλίο The Selfish Gene του R. Dawkins, Oxford University Press, 2006 (30 th Anniversary Edition) είναι μια εξαιρετικά ενδιαφέρουσα εισαγωγή στη θεωρία της εξέλιξης. Κυκλοφορεί στα ελληνικά με τον τίτλο Το Εγωιστικό Γονίδιο, εκδόσεις Κάτοπτρο,

29 Βιβλιογραφία συνέχεια To μοντέλο ILP για την αποσαφήνιση εννοιών λέξεων περιγράφεται στο άρθρο των Β. Παναγιωτοπούλου, Η. Βαρλάμη, Γ. Τσατσαρώνη, Ι. Ανδρουτσόπουλου, «Word Sense Disambiguation as an ILP Problem» (ΣΕΤΝ 2012). Βλ. 29