Θεωρία Λήψης Αποφάσεων Ενότητα 6: Αλγόριθμοι Τοπικής Αναζήτησης Μπεληγιάννης Γρηγόριος Σχολή Οργάνωσης και Διοίκησης Επιχειρήσεων Τμήμα Διοίκησης Επιχειρήσεων Αγροτικών Προϊόντων & Τροφίμων (Δ.Ε.Α.Π.Τ.)
Αλγόριθμοι Τοπικής Αναζήτησης Υποενότητα 1
Σκοποί 1 ης υποενότητας Να μάθουν οι φοιτητές τι είναι η τοπική αναζήτηση και ποια είναι τα βασικά χαρακτηριστικά της Να γνωρίσουν οι φοιτητές τους βασικούς αλγορίθμους τοπικής αναζήτησης και πως αυτοί λειτουργούν ώστε να μας οδηγήσουν στην επίλυση προβλημάτων αναζήτησης και εξερεύνησης 3
Περιεχόμενα 1 ης υποενότητας Τοπική αναζήτηση Αναρρίχηση λόφων Προσομοιωμένη ανόπτηση Τοπική ακτινική αναζήτηση Γενετικοί αλγόριθμοι 4
Τοπική αναζήτηση (1/2) Αλγόριθμος τοπικής αναζήτησης Λειτουργεί χρησιμοποιώντας μόνο μια τρέχουσα κατάσταση (αντί για πολλές διαδρομές) και γενικά μετακινείται μόνο σε γειτονικές της καταστάσεις Προβλήματα βελτιστοποίησης Σκοπός είναι να βρεθεί η καλύτερη κατάσταση σύμφωνα με μία αντικειμενική συνάρτηση 5
Τοπική αναζήτηση (2/2) Τοπίο χώρου καταστάσεων ως προς τις τιμές της αντικειμενικής συνάρτησης Καθολικό μέγιστο Τοπικό μέγιστο Επίπεδο τοπικό μέγιστο Ώμος Τρέχουσα κατάσταση 6
Αναρρίχηση λόφων (hill climbing) Μετακινείται συνεχώς στην καλύτερη γειτονική κατάσταση. Συνήθως διατύπωση με πλήρεις καταστάσεις Τρέχουσα τιμή h=17 18 12 14 13 13 12 14 14 14 16 13 15 12 14 12 16 14 12 18 13 15 12 14 14 15 14 14 13 16 13 16 14 17 15 14 16 16 17 16 18 15 15 18 14 15 15 14 16 14 14 13 17 12 14 12 18 Τοπικό ελάχιστο με h=1 7
Παράδειγμα με 4 βασίλισσες (1/3) Σε κάθε στήλη θα υπάρχει μία μόνο βασίλισσα Ξεκινάμε με όλες τις βασίλισσες στην κάτω γραμμή Παράδειγμα 4 βασιλισσών 8
Παράδειγμα με 4 βασίλισσες (2/3) Σε κάθε βήμα μπορούμε να μετακινήσουμε μια βασίλισσα σε μια άλλη θέση στη στήλη της, άρα οι δυνατές κινήσεις είναι 4x3=12 Χρησιμοποιούμε ως ευρετική συνάρτηση το πόσες απειλές υπάρχουν κάθε φορά (όλες οι απειλές είναι διπλές, εμείς όμως τις μετράμε ως μία απειλή κάθε φορά) 9
Παράδειγμα με 4 βασίλισσες (3/3) 1 2 3 4 Στο συγκεκριμένο παράδειγμα ήμασταν τυχεροί, μιας και όλες οι επιλογές μας βγήκαν σωστές 10
Προβλήματα της μεθόδου αναρρίχησης λόφων (1/2) Προβλήματα Τοπικά μέγιστα Κορυφογραμμές Οροπέδια 11
Προβλήματα της μεθόδου αναρρίχησης λόφων (2/2) Αντιμετώπιση Πλάγιες κινήσεις (για οροπέδια) Στοχαστική αναρρίχηση λόφων Επιλέγει τυχαία κάποια από τις «καλές» διαθέσιμες κινήσεις Αναρρίχηση λόφων με την πρώτη επιλογή Παράγει διαδοχικές καταστάσεις τυχαία, μέχρι να παραχθεί κάποια που να είναι καλύτερη από την τρέχουσα κατάσταση Τυχαίες επανεκκινήσεις (πλήρης αλγόριθμος) 12
Προσομοιωμένη ανόπτηση (Simulated annealing) Προ επιλέγει τυχαία μια κίνηση Αν αυτή βελτιώνει τα πράγματα, γίνεται αποδεκτή Αν τα χειροτερεύει, γίνεται αποδεκτή με πιθανότητα P=e ΔΕ/Τ ΔΕ<0, η χειροτέρευση Τ>0, «θερμοκρασία» Η θερμοκρασία μειώνεται με την πάροδο του χρόνου (τι σημαίνει αυτό;) 13
Τοπική ακτινική αναζήτηση (local beam search) (1/2) Επιλέγονται k τυχαίες αρχικές καταστάσεις Εκτελούνται k αναζητήσεις παράλληλα Σε κάθε βήμα επιλέγονται τα k καλύτερα παιδιά (καταστάσεις) από όλα τα παιδιά του προηγούμενου βήματος Προσοχή Διαφέρει από την εκτέλεση k τυχαίων επανεκκινήσεων παράλληλα 14
Κίνδυνος Τοπική ακτινική αναζήτηση (local beam search) (2/2) Συγκέντρωση όλων των αναζητήσεων γύρω από την ίδια περιοχή του χώρου καταστάσεων Αντιμετώπιση Στοχαστική επιλογή των k παιδιών (καταστάσεων) 15
Γενετικοί αλγόριθμοι (1/4) Οι διάδοχες καταστάσεις παράγονται με το συνδυασμό δύο γονικών καταστάσεων, και όχι με την τροποποίηση μιας μεμονωμένης κατάστασης Αρχικός πληθυσμός Στοχαστική επιλογή γονέων για αναπαραγωγή με βάση την απόδοσή τους 16
Γενετικοί αλγόριθμοι (2/4) Τελεστές αναπαραγωγής Διασταύρωση Μετάλλαξη Συνάρτηση αποτίμησης απόδοσης Χρησιμοποιείται μια ευρετική συνάρτηση 17
Γενετικοί αλγόριθμοι (3/4) 32748553 25 31,25% 24752411 24748553 32741553 24752411 23 28,75% 32748553 32752411 24652411 32515124 20 25% 24752411 24752124 32515124 24443213 12 15% 32515124 32515411 24443293 Αρχικός πληθυσμός Αποτίμηση μέσω της αντικειμενικής συνάρτησης Επιλογή Διασταύρωση Μετάλλαξη 18
Γενετικοί αλγόριθμοι (4/4) 1 ο άτομο 2 ο άτομο Αποτέλεσμα Διασταύρωσης + = 19
Τέλος Υποενότητας 1
Ασκήσεις Μεθόδων Αναζήτησης και Εξερεύνησης Υποενότητα 2
Σκοποί 2 ης υποενότητας Να μάθουν οι φοιτητές να επιλύουν ασκήσεις σχετικές με αλγορίθμους πληροφορημένης και απληροφόρητης αναζήτησης Να μάθουν οι φοιτητές να επιλύουν ασκήσεις σχετικές με αλγορίθμους τοπικής αναζήτησης 22
Περιεχόμενα 2 ης υποενότητας Άσκηση 4.2: Αλγόριθμοι πληροφορημένης και απληροφόρητης αναζήτησης Άσκηση 4.3: Αλγόριθμοι πληροφορημένης και απληροφόρητης αναζήτησης Άσκηση 4.11: Αλγόριθμοι τοπικής αναζήτησης 23
Άσκηση 4.2 (1/4) Ο ευρετικός αλγόριθμος διαδρομής είναι μια αναζήτηση πρώτα στο καλύτερο όπου η αντικειμενική συνάρτηση ισούται με f(n)=(2 w) g(n)+w h(n) Για ποιες τιμές του w είναι ο αλγόριθμος εγγυημένα βέλτιστος; Θεωρείστε ότι η h(n) είναι παραδεκτός ευρετικός μηχανισμός 24
Άσκηση 4.2 (2/4) Τι είδους αναζήτηση κάνει όταν: w=0; w=1; w=2; 25
Άσκηση 4.2 (3/4) Για w=0 f(n)=2g(n) Στην περίπτωση αυτή η αναζήτηση γίνεται αναζήτηση πραγματικού κόστους ο παράγοντας 2 δεν επηρεάζει τη διάταξη των κόμβων Για w=1 f(n)=g(n)+h(n) Αναζήτηση A* Για w=2 f(n)=2h(n) Άπληστη αναζήτηση πρώτα στο καλύτερο ο παράγοντας 2 δεν επηρεάζει τη διάταξη των κόμβων 26
Άσκηση 4.2 (4/4) Η συνάρτηση μπορεί να γραφεί ως: f(n)=(2 w){g(n)+[w/(2 w)] h(n)} η οποία συμπεριφέρεται σαν την A* με ευρετική συνάρτηση [w/(2 w)] h(n) Για 0 <w <2, η συνάρτηση [w/(2 w)] h(n) είναι πάντα θετική και επομένως αν η h(n) είναι παραδεκτή τότε και η συνάρτηση [w/(2 w)] h(n) είναι παραδεκτή 27
Άσκηση 4.3 (1/4) Αποδείξτε την παρακάτω έκφραση: Η αναζήτηση πρώτα σε πλάτος μπορεί να χαρακτηριστεί ως ειδική περίπτωση της αναζήτησης πραγματικού κόστους Όταν όλα τα κόστη είναι ίσα, η g(n) είναι ανάλογη του depth(n) Άρα, η αναζήτηση πραγματικού κόστους είναι γενίκευση της αναζήτησης πρώτα σε πλάτος 28
Άσκηση 4.3 (2/4) Αποδείξτε την παρακάτω έκφραση: Η αναζήτηση πρώτα σε πλάτος, η αναζήτηση πρώτα σε βάθος και η αναζήτηση πραγματικού κόστους μπορούν να χαρακτηριστούν ως ειδικές περιπτώσεις της αναζήτησης πρώτα στο καλύτερο Ο αλγόριθμος αναζήτησης κατά πλάτος είναι η αναζήτηση πρώτα στο καλύτερο με f(n)=depth(n) 29
Άσκηση 4.3 (3/4) Ο αλγόριθμος αναζήτησης κατά βάθος είναι η αναζήτηση πρώτα στο καλύτερο με f(n)=depth(n) Ο αλγόριθμος αναζήτησης πραγματικού κόστους είναι η αναζήτηση πρώτα στο καλύτερο με f(n)=g(n) 30
Άσκηση 4.3 (4/4) Αποδείξτε την παρακάτω έκφραση: Η αναζήτηση σταθερού κόστους είναι ειδική περίπτωση της αναζήτησης Α* Ο αλγόριθμος αναζήτησης σταθερού κόστους είναι η αναζήτηση Α* με h(n)=0 31
Άσκηση 4.11 (1/4) Δώστε το όνομα του αλγορίθμου που προκύπτει από την παρακάτω ειδική περίπτωση: Τοπική ακτινική αναζήτηση με k=1 Αναρρίχηση λόφων (hill climbing) 32
Άσκηση 4.11 (2/4) Δώστε το όνομα του αλγορίθμου που προκύπτει από την παρακάτω ειδική περίπτωση: Τοπική ακτινική αναζήτηση με μια αρχική κατάσταση και χωρίς όριο στο πλήθος των καταστάσεων που διατηρούνται (δηλαδή διατηρούνται όλες οι καταστάσεις που έχουν ανακαλυφθεί) Είναι η αναζήτηση πρώτα κατά πλάτος με τη διαφορά ότι οι κόμβοι κάθε επιπέδου δημιουργούνται όλοι με τη μία 33
Άσκηση 4.11 (3/4) Δώστε το όνομα του αλγορίθμου που προκύπτει από την παρακάτω ειδική περίπτωση: Προσομοιωμένη ανόπτηση με T=0 πάντοτε, και παραλείποντας τον έλεγχο τερματισμού, δηλαδή τον τερματισμό όταν Τ=0 Αναρρίχηση λόφων, όπου επιλέγεται πάντα η πρώτη κίνηση που βελτιώνει Κάθε κίνηση που χειροτερεύει, απορρίπτεται με πιθανότητα 1 34
Άσκηση 4.11 (4/4) Δώστε το όνομα του αλγορίθμου που προκύπτει από την παρακάτω ειδική περίπτωση: Γενετικός Αλγόριθμος με μέγεθος πληθυσμού Ν=1 Αν ο πληθυσμός ισούται με 1, τότε τα δύο άτομα που επιλέγονται για διασταύρωση θα είναι το ίδιο άτομο και άρα η διασταύρωση θα παράγει το ίδιο άτομο. Θα εφαρμόζεται επομένως μόνο μετάλλαξη και άρα ο αλγόριθμος θα εκτελεί ένα τυχαίο περίπατο στο χώρο αναζήτησης 35
Τέλος Υποενότητας 2
Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στo πλαίσιo του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα στο Πανεπιστήμιο Πατρών» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους. 37
Σημειώματα
Σημείωμα Ιστορικού Εκδόσεων Έργου Το παρόν έργο αποτελεί την έκδοση 1.0. Έχουν προηγηθεί οι κάτωθι εκδόσεις: 39
Σημείωμα Αναφοράς Copyright Πανεπιστήμιο Πατρών, Γρηγόριος Μπεληγιάννης. «Θεωρία Λήψης Αποφάσεων. Αλγόριθμοι Τοπικής Αναζήτησης». Έκδοση: 1.0. Πάτρα 2015. Διαθέσιμο από τη δικτυακή διεύθυνση: https://eclass.upatras.gr/modules/document/document.php?course=deapt1 12. 40
Σημείωμα Αδειοδότησης Το παρόν υλικό διατίθεται με τους όρους της άδειας χρήσης Creative Commons Αναφορά, Μη Εμπορική Χρήση Παρόμοια Διανομή 4.0 [1] ή μεταγενέστερη, Διεθνής Έκδοση. Εξαιρούνται τα αυτοτελή έργα τρίτων π.χ. φωτογραφίες, διαγράμματα κ.λ.π., τα οποία εμπεριέχονται σε αυτό και τα οποία αναφέρονται μαζί με τους όρους χρήσης τους στο «Σημείωμα Χρήσης Έργων Τρίτων». [1] http://creativecommons.org/licenses/by nc sa/4.0/ Ως Μη Εμπορική ορίζεται η χρήση: που δεν περιλαμβάνει άμεσο ή έμμεσο οικονομικό όφελος από την χρήση του έργου, για το διανομέα του έργου και αδειοδόχο που δεν περιλαμβάνει οικονομική συναλλαγή ως προϋπόθεση για τη χρήση ή πρόσβαση στο έργο που δεν προσπορίζει στο διανομέα του έργου και αδειοδόχο έμμεσο οικονομικό όφελος (π.χ. διαφημίσεις) από την προβολή του έργου σε διαδικτυακό τόπο Ο δικαιούχος μπορεί να παρέχει στον αδειοδόχο ξεχωριστή άδεια να χρησιμοποιεί το έργο για εμπορική χρήση, εφόσον αυτό του ζητηθεί. 41