Τεχνητή Νοημοσύνη (ΥΠ23) 6 ο εξάμηνο Τμήμα Πληροφορικής και Τηλεματικής Χαροκόπειο Πανεπιστήμιο Ουρανία Χατζή raniah@hua.gr 1
Προβλήματα Βελτιστοποίησης Περιγραφή προβλήματος με αρχική κατάσταση, τελική κατάσταση (στόχοι), τελεστές μετάβασης Η λύση ως ακολουθία τελεστών μετάβασης που αν εφαρμοστούν στην αρχική κατάσταση προκύπτει η τελική. Προβλήματα βελτιστοποίησης (optimization): η εύρεση οποιασδήποτε λύσης δεν είναι δύσκολη, αλλά μας ενδιαφέρει η βέλτιστη λύση. Π.χ. TSP, σχεδίαση VLSI κυκλωμάτων, DB query optimization, logistics etc Συνάρτηση κέρδους / κόστους 2
Αλγόριθμοι Επίλυσης Το μέγεθος του προβλήματος συχνά είναι απαγορευτικό για χρήση κλασικών αλγορίθμων αναζήτησης. Χρήση πιθανοκρατικών αλγορίθμων Δεν εγγυώνται ότι θα βρουν την καλύτερη λύση Είναι ικανοί να επιστρέψουν μια αρκετά καλή λύση σε εύλογο χρονικό διάστημα Γενετικοί αλγόριθμοι (genetic algorithms): αναζήτηση στον χώρο των λύσεων με στόχο την εύρεση αποδεκτών λύσεων, σύμφωνα με κάποιο κριτήριο. 3
Εισαγωγή Γενετικών Αλγόριθμων Προσομοίωση διαδικασίας εξέλιξης ( survival of the fittest ) Darwin, 1859 Friedberg, 1958 Αυτόματη παραγωγή σύνθετων προγραμμάτων FORTRAN με συνδυασμό μικρότερων προγραμμάτων (γενετικός προγραμματισμός, genetic programming) Τα προγράμματα που προέκυπταν τις περισσότερες φορές δεν ήταν εκτελέσιμα. Holland, 1975 Αναπαράσταση λειτουργιών με σειρές από bits, κάθε σειρά bits αναπαριστά έγκυρη λειτουργία 4
Απλοποιημένη Γενετική Τα χαρακτηριστικά ενός οργανισμού προκύπτουν από το γενετικό του υλικό (DNA). To DNA οργανώνεται σε γονίδια (genes), τα οποία οργανώνονται σε χρωμοσώματα (chromosomes). Τα γονίδια είναι υπεύθυνα για την κληρονόμηση χαρακτηριστικών από τους προγόνους στους απογόνους. Τo DNA είναι μια ακολουθία νουκλεοτιδίων (A, T, G, C), η σειρά των οποίων περιέχει την γενετική πληροφορία (όπως το αλφάβητο σχηματίζει λέξεις) Με τη μετάφραση του DNA παράγονται πρωτεΐνες, οι οποίες ελέγχουν έναν οργανισμό Το DNA διπλασιάζεται πριν την διαίρεση ενός κυττάρου. Στον άνθρωπο: 23 ζεύγη χρωμοσωμάτων 5
Διαφοροποιήσεις Μεταλλάξεις (mutations): Τυχαίες μεταλλάξεις συμβαίνουν συνεχώς στα γονίδια ενός οργανισμού (λάθη στην αντιγραφή, ακτινοβολία, ιοί, κτλ) Συνήθως οδηγούν στην απενεργοποίηση ή τη μη ορθή λειτουργία του γονιδίου Κάποιες από αυτές μπορεί να οδηγήσουν σε αλλαγή των χαρακτηριστικών Ενίοτε μπορεί να δώσουν ανταγωνιστικό πλεονέκτημα στον οργανισμό Επανασυνδυασμός μέσω αναπαραγωγής (recombination) Οι απόγονοι διγονεϊκής αναπαραγωγής έχουν γενετικό υλικό και από τους δύο γονείς, επομένως ο συνδυασμός είναι μοναδικός. Ορισμένοι επανασυνδυασμοί δίνουν ανταγωνιστικό πλεονέκτημα στον απόγονο. 6
Φυσική Επιλογή Ο ισχυρότερος μηχανισμός εξέλιξης: Οι οργανισμοί που δεν μπορούν να επιβιώσουν στο περιβάλλον τους πεθαίνουν Οι υπόλοιποι αποκτούν απογόνους μέσω της αναπαραγωγής Οι απόγονοι παρουσιάζουν διαφοροποιήσεις, και υπερισχύουν προς αναπαραγωγή αυτοί που έχουν τα καλύτερα χαρακτηριστικά σε σχέση με το περιβάλλον τους Η φυσική επιλογή εξαρτάται άμεσα από το περιβάλλον και τον ρυθμό εξέλιξής του 7
Αναλογία Γενετικών Αλγόριθμων Δημιουργείται αρχικά με τυχαίο τρόπο ένα σύνολο Π από Ν υποψήφιες λύσεις Ως επί το πλείστον μη αποδεκτές (μη έγκυρες, μη βέλτιστες) Οι λύσεις βαθμολογούνται από μία συνάρτηση καταλληλότητας (fitness function) Αντιστοίχιση κάθε υποψήφιας λύσης σε έναν αριθμό που δηλώνει την εγγύτητά της σε κάποια αποδεκτή λύση Σχματίζονται Ν/2 ζευγάρια γονέων (όχι απαραίτητα μοναδικών), ενώ δίνεται προτεραιότητα στις καταλληλότερες λύσεις Κάθε ζευγάρι αναπαράγεται (mates) δίνοντας δύο νέες λύσεις (απόγονοι, offsprings) Ο νέος πληθυσμός αποτελείται από το σύνολο των απογόνων Σε παραλλαγές του αλγόριθμου η ανανέωση του πληθυσμού μπορεί να μην είναι πλήρης Η διαδικασία επαναλαμβάνεται με συνθήκη τερματισμού την σύγκλιση ή την εύρεση τέλειας λύσης 8
Συστατικά Γενετικού Αλγόριθμου Μηχανισμός για τη δημιουργία αρχικού πληθυσμού πιθανών λύσεων (τυχαία δημιουργία) Τρόπος αναπαράστασης υποψήφιων λύσεων Συνάρτηση καταλληλότητας για την αξιολόγηση υποψήφιων λύσεων Μηχανισμός επιλογής γονέων Σύνολο γενετικών τελεστών για τη διαδικασία αναπαραγωγής 9
Αναπαράσταση υποψήφιων λύσεων Κάθε υποψήφια λύση αναπαρίσταται με μια συμβολοσειρά (string) ενός πεπερασμένου αλφάβητου Συχνότερα δυαδικές συμβολοσειρές (bit-strings) Στα περισσότερα προβλήματα οι λύσεις περιγράφονται από μεταβλητές διαφόρων τύπων δεδομένων επομένως η διαδικασία της κωδικοποίησης περιλαμβάνει την μετατροπή των τιμών αυτών στις αντίστοιχες δυαδικές Παράδειγμα: μια λύση περιγράφεται με δύο μεταβλητές μια boolean με τιμή 1 και μια short integer με τιμή 73 (01001001). Η κωδικοποίηση απαιτεί 9 bits και το παραγόμενο bit-string είναι το 101001001. Η συμβολοσειρά αναφέρεται ως χρωμόσωμα και τα επιμέρους τμήματα που κωδικοποιούν κάποιο χαρακτηριστικό (μεταβλητή), ονομάζονται γονίδια 10
Συνάρτηση Καταλληλότητας Κριτήριο για την αξιολόγηση των χρωμοσωμάτων - λύσεων Δέχεται ως είσοδο ένα χρωμόσωμα και επιστρέφει έναν αριθμό (συνήθως στο [0,1]) που υποδηλώνει το πόσο κατάλληλο είναι Ο τρόπος υλοποίησης εξαρτάται από το εκάστοτε πρόβλημα Η ιδανική συνάρτηση καταλληλότητας πρέπει να είναι συνεχής και μονότονη Σε κάθε περίπτωση δεν πρέπει να έχει πολλά τοπικά μέγιστα ή ένα απομονωμένο ολικό μέγιστο Χρήση προσεγγιστικών συναρτήσεων για βελτίωση της απόδοσης 11
Μηχανισμός επιλογής γονέων Απόδοση πιθανότητας επιλογής προς αναπαραγωγή στα μέλη του πληθυσμού χρωμοσωμάτων. Χρωμοσώματα με υψηλή τιμή της συνάρτησης καταλληλότητας πρέπει να έχουν μεγαλύτερη πιθανότητα επιλογής, ενδέχεται να επιλεγούν προς αναπαραγωγή περισσότερες της μιας φορές Χρωμοσώματα με χαμηλή τιμή ενδέχεται να μην επιλεγούν καθόλου Δεξαμενή ζευγαρώματος (mating pool): Μέγεθος ίσο ή μικρότερο με τον αρχικό πληθυσμό Αντιγραφή των χρωμοσωμάτων στη δεξαμενή με βάση την πιθανότητα επιλογής (τιμή καταλληλότητας) Τα μέλη της δεξαμενής δημιουργούν ζευγάρια με τυχαίο τρόπο. 12
Επιλογή Ρουλέττας (roulette wheel selection) 1. Παράγεται το άθροισμα S όλων των τιμών αξιολόγησης των υποψήφιων λύσεων 2. Επιλέγεται ένας τυχαίος αριθμός n, από το 0 μέχρι το S, χρησιμοποιώντας συνάρτηση ομοιόμορφης κατανομής για τη δημιουργία τυχαίων αριθμών 3. Επαναληπτικά εξετάζεται κάθε υποψήφια λύση και η τιμή της προστίθεται σε έναν καταχωρητή Κ 4. Αν η τιμή του Κ γίνει μεγαλύτερη ή ίση του n, η λύση επιλέγεται και ο Κ μηδενίζεται. Στην αντίθετη περίπτωση εκτελείται πάλι το βήμα 3 5. Αν δεν έχει επιλεγεί ικανοποιητικός αριθμός υποψήφιων λύσεων εκτελείται το βήμα 2, αλλιώς ο αλγόριθμος τερματίζει Οι υποψήφιες λύσεις με μεγαλύτερη τιμή καταλληλότητας έχουν μεγαλύτερη πιθανότητα να αυξήσουν την τιμή του καταχωρητή Κ ώστε να υπερβεί την τιμή n και συνεπώς να επιλεγούν. Κάποιες υποψήφιες λύσεις μπορεί να επιλεγούν περισσότερες από μία φορές 13
Επιλογή αναλογικής καταλληλότητας Fitness proportionate selection Η πιθανότητα επιλογής ενός χρωμοσώματος υπολογίζεται από τη σχέση Η πιθανότητα να επιλεγεί ένα χρωμόσωμα είναι ευθέως ανάλογη της καταλληλότητάς του και αντιστρόφως ανάλογη της καταλληλότητας των υπολοίπων χρωμοσωμάτων. 14
Αναπαραγωγή Τελεστές που αντιστοιχούν στις διαδικασίες βιολογικής εξέλιξης Διασταύρωση (crossover) Παράγει δύο απόγονους από δύο ακολουθίες-γονείς, αντιγράφοντας επιλεγμένα bit από κάθε γονέα διατηρώντας την σειρά των bits. Μάσκα διασταύρωσης (crossover mask) για την επιλογή του bit από γονέα Μετάλλαξη (mutation) Αλλοιώνει ένα χρωμόσωμα του νέου πληθυσμού, μεταβάλλοντας την τιμή κάποιου bit 15
Παραδείγματα γενετικών τελεστών 16
Σύγκλιση Σύγκλιση (convergence): η επικράτηση ενός χρωμοσώματος ή μικρών παραλλαγών του σε μεγάλο ποσοστό στον πληθυσμό Πρόωρη σύγκλιση (τοπικά μέγιστα) Αργή σύγκλιση (μικρές κλίσεις συνάρτησης καταλληλότητας) Λύση: fitness remapping 17
Ανανέωση του πληθυσμού Χάσμα γενεών: το ποσοστό των χρωμοσωμάτων της κάθε γενιάς που ανανεώθηκε, προς το σύνολο όλων των χρωμοσωμάτων Συνήθως ισούται με 100% Η μέθοδος μερικής ανανέωσης (μικρότερο ποσοστό του πληθυσμού ή μόνο δύο άτομα) προσεγγίζει περισσότερο την πραγματικότητα Μέθοδοι: Επιλογή των χρωμοσωμάτων προς αναπαραγωγή μέ πιθανότητα ανάλογη της καταλληλότητας, και τυχαία επιλογή των χρωμοσωμάτων που θα αποχωρήσουν Τυχαία επιλογή των χρωμοσωμάτων προς αναπαραγωγή, και επιλογή των χρωμοσωμάτων που θα αποχωρήσουν μέ πιθανότητα αντίστροφη της καταλληλότητας Επιλογή των χρωμοσωμάτων προς αναπαραγωγή μέ πιθανότητα ανάλογη της καταλληλότητας, και επιλογή των χρωμοσωμάτων που θα αποχωρήσουν μέ πιθανότητα αντίστροφη της καταλληλότητας 18
Γενικός Γενετικός Αλγόριθμος 19
Γενικός Γενετικός Αλγόριθμος Περιγραφή Σε κάθε επανάληψη παράγεται μια νέα γενιά χρωμοσωμάτων Πs που προκύπτει μέσω δεδομένης διαδικασίας από τον αρχικό πληθυσμό Π. Αρχικός και τελικός πληθυσμός έχουν μέγεθος N, ποσοστό r ανανεώνεται σε κάθε επανάληψη Πρώτα επιλέγεται ένας συγκεκριμένος αριθμός χρωμοσωμάτων για να συμπεριληφθεί απευθείας στην επόμενη γενιά Στη συνέχεια παράγονται επιπλέον μέλη μέσω διασταύρωσης Η επιλογή των μελών που θα συμπεριληφθούν απευθείας και αυτών που θα αναπαραχθούν γίνεται πιθανοκρατικά Επιλέγεται τυχαία ένα ποσοστό m στο οποίο θα συμβούν τυχαίες μεταλλάξεις 20
Γενικός Γενετικός Αλγόριθμος 21
Παράδειγμα Έστω πληθυσμός που αποτελείται από 4 χρωμοσώματα Το αποτέλεσμα της διαδικασίας επιλογής είναι {Α,Β,Β,Γ} και τα τυχαία τα ζευγάρια είναι τα (Β,Α) και (Β,Γ) Ως τελεστής αναπαραγωγής του πρώτου ζευγαριού επιλέγεται η διασταύρωση ενός σημείου με μάσκα 111100000000 ενώ για το δεύτερο ο ίδιος τελεστής με μάσκα 111111111000 22
Cookie Making Example Συνταγή για μπισκότα, διαφοροποίηση στη ποσότητα αλευριού και ζάχαρης Χρωμόσωμα: 2 θέσεις (κιλά αλευριού, κιλά ζάχαρης) (5,1) Η συνάρτηση καταλληλότητας δίνει βαθμό σε κάθε φουρνιά από μπισκότα με βάση τη γεύση τους και μπορεί να αναπαρασταθεί σαν διδιάστατος πίνακας (bump mountain) sugar flour 23
Επίλυση προβλημάτων με γενετικούς αλγόριθμους Εύρεση μεγίστου σε συνάρτηση μιας μεταβλητής f(x) = x sin(10πx)+1.0, στο διάστημα [-1,2] Η αντιμετώπιση του προβλήματος αυτού αναλυτικά (π.χ. με μηδενισμό πρώτης παραγώγου κτλ.) είναι δύσκολη. Το πρόβλημα μπορεί να αντιμετωπιστεί με γενετικούς αλγόριθμους Χρήση δυαδικής αναπαράστασης 24
Επίλυση προβλημάτων με γενετικούς αλγόριθμους Εύρεση μεγίστου σε συνάρτηση μιας μεταβλητής Επιθυμητή ακρίβεια 6 δεκαδικά ψηφία, 10 6 συνδυασμοί Για το διάστημα [-1,2] 3 ψηφία 2 21 <3*10 6 <2 22, άρα χρειάζονται 22 δυαδικά ψηφία Η συνάρτηση καταλληλότητας είναι η ίδια η συνάρτηση f(x) εφαρμοζόμενη στον πραγματικό αριθμό που αντιστοιχεί στο κάθε χρωμόσωμα Βρίσκεται ότι η συνάρτηση παρουσιάζει μέγιστο για x=1.85 25
Επίλυση προβλημάτων με γενετικούς αλγόριθμους To πρόβλημα του πλανόδιου πωλητή Αναπαράσταση με διανύσματα ακέραιων αριθμών μήκους ίσου με το πλήθος των πόλεων, η κάθε τιμή σε κάθε θέση αναπαριστά την πόλη που θα επισκεφθεί ο πωλητής Δημιουργία αρχικού πληθυσμού με τυχαίο τρόπο Συνάρτηση καταλληλότητας: πρόσθεση επιμέρους τιμών κόστους για μετακίνηση μεταξύ γειτονικών πόλεων Κατά την αναπαραγωγή μπορεί να προκύψουν μη έγκυρα χρωμοσώματα Έλεγχος απογόνων Τροποποιημένες τεχνικές μετάλλαξης και διασταύρωσης 26
Άλλες Εφαρμογές Επεξεργασία εικόνας Αναγνώριση προτύπων, ακμές, επιφάνειες, αντικείμενα Συνδυαστική βελτιστοποίηση Κατανομή πόρων σε δραστηριότητες, μεγιστοποίηση οφέλους ή ελαχιστοποίηση κόστους Πλανόδιος πωλητής, αποθήκευση κιβωτίων, σχεδίαση VLSI, καταμερισμός εργασιών, ωρολόγιο πρόγραμμα Σχεδίαση Μηχανική μάθηση 27
Ενδεικτική Βιβλιογραφία Κεφάλαιο 7 του βιβλίου «Τεχνητή Νοημοσύνη», Ι. Βλαχάβας, Π. Κεφαλάς, Ν. Βασιλειάδης, Φ. Κόκκορας και Η. Σακελλαρίου. http://www.boxcar2d.com/ http://suhep.phy.syr.edu/courses/mirror/biomorph/ http://www.rennard.org/alife/english/gavgb.html 28