4 η ΕΝΟΤΗΤΑ ΜΕΤΑΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ ΕΠΙΛΥΣΗΣ ΠΡΟΒΛΗΜΑΤΩΝ ΕΝΟΣ ΚΡΙΤΗΡΙΟΥ

Transcript

1 ΣΧΟΛΗ ΠΟΛΙΤΙΚΩΝ ΜΗΧΑΝΙΚΩΝ ΕΜΠ ΕΙΣΑΓΩΓΗ ΣΤΗN ΒΕΛΤΙΣΤΟΠΟΙΗΣΗ ΣΥΣΤΗΜΑΤΩΝ 4 η ΕΝΟΤΗΤΑ ΜΕΤΑΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ ΕΠΙΛΥΣΗΣ ΠΡΟΒΛΗΜΑΤΩΝ ΕΝΟΣ ΚΡΙΤΗΡΙΟΥ Μ. Καρλαύτης Ν. Λαγαρός

2 Άδεια Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες Χρήσης Creative Commons. για εκπαιδευτικό υλικό, όπως εικόνες, που υπόκειται σε άδεια χρήσης άλλου τύπου, αυτή πρέπει να αναφέρεται ρητώς.

3 ΜΕΤΑΕΥΡΕΣΤΙΚΕΣ ΜΕΘΟΔΟΙ Ο μεγάλος αριθμός προβλημάτων σχεδιασμού που περιλαμβάνουν περιορισμούς οδήγησε τους ερευνητές σε αναζήτηση τεχνικών διαχείρισης των περιορισμών, ώστε να μην αλλοιώνεται η λειτουργία των μεταυρεστικών μεθόδων οι οποίες αφορούν σε προβλήματα χωρίς περιορισμούς. Οι τεχνικές αυτές είναι : Τεχνικές που βασίζονται στη διατήρηση του εφικτού των λύσεων. Τεχνικές που βασίζονται σε συναρτήσεις ποινής. Τεχνικές που διαχωρίζουν τις εφικτές από τις μη-εφικτές λύσεις. 123

4 ΕΠΙΛΥΣΗ ΠΡΟΒΛΗΜΑΤΩΝ ΜΙΑΣ ΑΝΤΙΚΕΙΜΕΝΙΚΗΣ ΣΥΝΑΡΤΗΣΗΣ ΜΕ ΜΕΤΑΕΥΡΙΣΤΙΚΟΥΣ ΑΛΓΟΡΙΘΜΟΥΣ ΕΠΙΛΥΣΗΣ Fuzzy Logic EP Soft-computing methods GA Neural Networks Evolutionary Algorithms ES 124

5 Δαρβίνειες μέθοδοι Διαφορές των μεθόδων αυτών σε σχέση με τις μεθόδους Μαθηματικού Προγραμματισμού: Δεν απαιτείται ανάλυση ευαισθησίας Χρησιμοποιούν τυχηματικού τύπου τελεστές μετάλλαξης επιλογής ανασυνδυασμού Χρησιμοποιούν ένα πληθυσμό πιθανών λύσεων του προβλήματος αντί του ενός σχεδιασμού που οι μέθοδοι Μαθηματικού Προγραμματισμού χρησιμοποιούν Εύκολη διαχείριση συνεχών, διακριτών ή μικτού τύπου μεταβλητών σχεδιασμού 125

6 Γενετικοί Αλγόριθμοι (GAs) Τα κύρια βήματα της μεθόδου Step 0 Εκκίνηση: Τυχηματική γέννηση του αρχικού πληθυσμού. Step 1 Φάση ανάλυσης: Επίλυση Step 2 Αποτίμηση: Στο βήμα αυτό υπολογίζεται η συνάρτηση αποτίμησης για κάθε μέλος του πληθυσμού και καθορίζεται το καλύτερο μέλος. Step 3 Επιλογή: Ο τελεστής Επιλογής στον τρέχοντα πληθυσμό ώστε να δημιουργήσει έναν ενδιάμεσο. Step 4 Γένεση: Οι τελεστές διασταύρωσης και μετάλλαξης επιδρούν στον ενδιάμεσο πληθυσμό για να δημιουργήσουν τελικά την επόμενη γενιά. Step 5 Φάση ανάλυσης: Επίλυση Step 6 Αποτίμηση: Στο βήμα αυτό υπολογίζεται η συνάρτηση αποτίμησης για κάθε μέλος του πληθυσμού και καθορίζεται το καλύτερο μέλος. Step 7 Έλεγχος σύγκλισης: Αν το κριτήριο τερματισμού ικανοποιείται τότε η διαδικασία τερματίζεται, διαφορετικά η διαδικασία επιστρέφει στο step

7 GAs: Οι βασικοί τελεστές Τελεστής Επιλογής Κατά καιρούς έχουν προταθεί διάφοροι τελεστές επιλογής, γενικά μπορούμε να τους διακρίνουμε σε τρεις ομάδες: Αναλογική Επιλογή: Η περισσότερο αντιπροσωπευτική τεχνική αναλογικής επιλογής είναι η επιλογή γονέων με τον Τροχό της Ρουλέτας (Roulette Wheel Parent Selection). Κάθε μέλος του πληθυσμού αντιστοιχίζεται σε μία φέτα του τροχού της ρουλέτας επιφάνειας ανάλογης της ποιότητα του μέλους. Επιλογή με βαθμολόγηση: Τα μέλη του πληθυσμού ταξινομούνται με βάση την ποιότητά τους και λαμβάνουν έναν αύξοντα αριθμό. Το πλήθος των αντιγράφων με τα οποία κάθε μέλος θα αντιπροσωπεύεται στον ενδιάμεσο πληθυσμό εξαρτάται άμεσα από τον αύξοντα αριθμό ταξινόμησης. Επιλογή με τουρνουά: Για την παραγωγή κάθε μέλους του ενδιάμεσου πληθυσμού επιλέγεται μια τυχαία ομάδα μελών του τρέχοντα πληθυσμού εκ των οποίων κερδίζει ο καλύτερος. 127

8 GAs: Οι βασικοί τελεστές Τελεστής Διασταύρωσης Ο τελεστής διασταύρωσης επιδρά σε ζεύγη μελών του ενδιάμεσου πληθυσμού των οποίων η επιλογή έχει γίνει με τυχαίο τρόπο με πιθανότητα p c. Στην περίπτωση του τελεστή διασταύρωσης ενός σημείου αρχικά επιλέγεται το σημείο διασταύρωσης με τυχαίο τρόπο: 128

9 GAs: Οι βασικοί τελεστές Τελεστής Μετάλλαξης Ο τελεστής αυτός επιδρά σε ορισμένα δυαδικά ψηφία του πληθυσμού με μικρή πιθανότητα p m. Ο τελεστής αυτός μεταλλάσσει δυαδικά ψηφία τυχαίων θέσεων του πληθυσμού που έχει παραχθεί μετά την διασταύρωση, προσομοιώνοντας με αυτό τον τρόπο τις τυχαίες μεταλλάξεις των βιολογικών χρωμοσωμάτων από τις επιδράσεις του περιβάλλοντος. 129

10 GAs Διαχείριση των περιορισμών Μέθοδοι που βασίζονται σε συναρτήσεις ποινής Η φιλοσοφία των τεχνικών αυτών είναι η μετατροπή του προβλήματος βελτιστοποίησης σε ένα πρόβλημα χωρίς περιορισμούς χρησιμοποιώντας μια τροποποιημένη αντικειμενική συνάρτηση η οποία θα περιέχει πληροφορίες σχετικά με το μέγεθος της παραβίασης των περιορισμών. F (s) = F(s), F(s) + penalty(s), if s F otherwise F (s) penalty(s) ποινολογημένη αντικειμενική συνάρτηση είναι η συνάρτηση ποινής η οποία λαμβάνει την τιμή μηδέν στην περίπτωση που οι περιορισμοί δεν παραβιάζονται, ενώ λαμβάνει κάποια θετική τιμή σε αντίθετη περίπτωση 130

11 GAs Διαχείριση των περιορισμών Στατικές Ποινές Αποτελεί μία ιδιαίτερα απλή τεχνική, η ιδέα της οποία βασίζεται στην αντικατάσταση της αντικειμενικής συνάρτησης ενός σχεδιασμού με την ακόλουθη συνάρτηση F (s) F(s), = F(s) + p viol(s), Δυναμικές Ποινές if s F otherwise Σε αντίθεση με την προηγούμενη τεχνική οι τιμές των παραμέτρων δεν είναι σταθερές αλλά αλλάζουν δυναμικά. Η τροποποιημένη αντικειμενική συνάρτηση αποτίμησης κάθε μέλους του πληθυσμού για την γενιά g υπολογίζεται από την ακόλουθη σχέση F (s) = F(s) + (c g) α m j= 1 viol viol( s) = β j (s) t j= 1 f j( s) 131

12 GAs Διαχείριση των περιορισμών Προσαρμοστικές Ποινές Για κάθε γενιά g και για κάθε συνάρτηση περιορισμού j υπολογίζεται η παράμετρος q j (g). Η ποινολογημένη συνάρτηση είναι η ακόλουθη: F (s, g) = F(s) + F feas (g) F all (g) Μέθοδος διαχωριζόμενου πληθυσμού Ο αλγόριθμος ξεκινάει με την τυχαία γένεση δύο πληθυσμών ίδιου μεγέθους. Ο υπολογισμός των μελών του πρώτου γίνονται με την p h στατική παράμετρο ποινολόγησης ενώ του δεύτερου με την p l. Oι δύο ανεξάρτητοι πληθυσμοί ταξινομούνται σε δύο λίστες. Η επιλογή των γονέων για την επόμενη γενιά επιτυγχάνεται επιλέγοντας εναλλακτικά την καλύτερη λύση από τις δύο λίστες. Ο πληθυσμός των γονέων γεννά τους απογόνους. Ο πληθυσμός των γονέων υπολογίζεται χρησιμοποιώντας την παράμετρο ποινολόγισης p h ενώ ο πληθυσμός των απογόνων την παράμετρο p l. m j=1 viol j(s) q j(g) k 132

13 Στρατηγικές Εξέλιξης (ESs) Γενετικοί Τελεστές Τεχνικά Χαρακτηριστικά Πληθυσμός Λύσεων Μηδενικής Τάξης Τυχηματική Έρευνα Κωδικοποίηση Πραγματική 133

14 Στρατηγικές Εξέλιξης (ESs) Κωδικοποίηση: Πραγματική a y, s, F k k k k Καταλληλότητα Σχεδιασμού Διάνυσμα σχεδιασμού Διάνυσμα Ενδογενών Παραμέτρων Στρατηγικής 134

15 Στρατηγικές Εξέλιξης (ESs) Πλήθος γονέων: μ Τελ. Ανασυνδιασμού (ρ) (g) Τελ. Μετάλλαξης μ+λ σχεδιασμοί Τελεστής Επιλογής Πλήθος απογόνων: λ (g+1) μ γονείς μ, ρ, λ: εξωγενείς παράμετροι στρατηγικής 135

16 Στρατηγικές Εξέλιξης (ESs) Ανασυνδιασμός (ES) == Διασταύρωση (GA) Διακριτός Ανασυνδιασμός Ενδιάμεσος Ανασυνδιασμός r 1 a k m k m 1 136

17 Στρατηγικές Εξέλιξης (ESs) Τελεστής επιλογής «+» Τελεστής επιλογής «,» μ (g+1) = best_of(μ (g) +λ (g) ) μ (g+1) = best_of(λ (g) ) 137

18 Στρατηγικές Εξέλιξης (ESs) άτομο a ys,, F Μέγεθος: n (μεταβλητές σχεδιασμού) g B p g B o Πληθυσμός γονέων Πληθυσμός απογόνων Τελεστής επιλογής: «+» ή «,» (μ/ρ+λ)-α-es (μ/ρ,λ)-α-es 138

19 Στρατηγικές Εξέλιξης (ESs) Τελεστής ανασυνδυασμού Τελεστής μετάλλαξης Τελεστής επιλογής 139

20 Στρατηγικές Εξέλιξης (ESs) Μετάλλαξη (Προσαρμογή) Ενδογενείς παράμετροι στρατηγικής s 1, 2,, n Ανεξάρτητοι μεταξύ τους s 0N0 0,1 N10,1 N20,1 Nn 0,1 1, 2,, n e e e e Παράμετροι μάθησης 0 c 2n 2 c n 140

21 Στρατηγικές Εξέλιξης (ESs) Μετάλλαξη Διάνυσμα μεταβλητών σχεδιασμού y : yz Διάνυσμα μετάλλαξης z : N 0,1, N 0,1,, N 0, n n 1, 2, n Ενδογενείς παράμετροι Στρατηγικής 141

22 Στρατηγικές Εξέλιξης με δύο μέλη Η μέθοδος των στρατηγικών εξέλιξης με δύο μέλη βασίζεται στη διαδικασία εξέλιξης των ειδών στη φύση και αποτελεί την πρώτη εκδοχή των στρατηγικών εξέλιξης. Οι δύο αρχές της Μετάλλαξης (Μεταλλαγής) και της Επιλογής, που πρώτος ο Δαρβίνος το 1859 αναγνώρισε ως τις πλέον σημαντικές για την εξέλιξη των ειδών, χρησιμοποιούνται στο μοντέλο του Rechenberg. βήμα 1: (Μετάλλαξη) Στρατηγικές Εξέλιξης (ESs) s = s + (g) N (g) E z (g) βήμα 2: (Επιλογή) s (g+ 1) E (g) (g) (g) (g) (g) s N, οταν F( s N ) F( se ), g j( s N ) 0, h j( s N ) = = (g) se, διαφορετικά 0 142

23 Στρατηγικές Εξέλιξης (ESs) Στρατηγικές Εξέλιξης με πολλά μέλη-διακριτός σχεδιασμός Η τεχνική των στρατηγικών εξέλιξης με δύο μέλη είναι αξιόπιστη μέθοδος βελτιστοποίησης αλλά περιορισμένων δυνατοτήτων έτσι παρουσιάστηκε η γενίκευση αυτής. βήμα 1: (Ανασυνδυασμός) s~ i s s s s s α,i bj,i = α,i m,i m,i or s or s or s or s b,i bj,i b,i bj,i randomly randomly randomly randomly 143

24 Στρατηγικές Εξέλιξης (ESs) Στρατηγικές Εξέλιξης με πολλά μέλη-διακριτός σχεδιασμός βήμα 2: (Μετάλλαξη) s = s + (g) N (g) E z (g) z (g) i = ( κ + 1) δsi τυχαίως επιλεγέντα μέλη ( < 0 n - τα υπόλοιπα μέλη n) όπου δs i είναι η διαφορά μεταξύ δύο γειτονικών τιμών του συνόλου διακριτών τιμών R d και κ είναι ένας ακέραιος τυχαίος αριθμός που ακολουθεί την κατανομή Poisson. 144

25 Στρατηγικές Εξέλιξης (ESs) Στρατηγικές Εξέλιξης με πολλά μέλη-διακριτός σχεδιασμός βήμα 3: (Επιλογή) Υπάρχουν δύο βασικά σχήματα επιλογής στην περίπτωση των ES με πολλά μέλη: (μ+λ)-es: Βάση αυτού του σχήματος επιλέγονται τα καλύτερα μ μέλη από τον προσωρινό πληθυσμό (μ+λ) για να αποτελέσουν τους γονείς της επόμενης γενιάς. (μ,λ)-es: Οι μ γονείς της τρέχουσας γενιάς γεννούν λ απογόνους (μ<λ) η επιλογή των γονέων της επόμενης γενιάς γίνεται μόνο από τον πληθυσμό των απογόνων. 145

26 Στρατηγικές Εξέλιξης (ESs) Συνοπτικά τα κύρια βήματα της μεθόδου Step 1 Εκκίνηση: Επιλογή ή τυχαία γέννηση των διανυσμάτων της αρχικής γενιάς s i, (i = 1,2,...,μ). Step 2 Φάση ανάλυσης: Επίλυση K(s i )u i =f (i=1,2,...,μ). Step 3 Έλεγχος περιορισμ.: Όλοι οι γονείς πρέπει να είναι εφικτοί'. Step 4 Γέννεση απογόνων: Γέννηση της γενιάς των απογόνων s j, (j=1,2,...,λ) μέσω των τελεστών ανασυνδυασμού και μετάλλαξης. Step 5 Φάση ανάλυσης: Επίλυση K(s j )u j =f (j=1,2,...,λ). Step 6 Έλεγχος περιορισμ.: Αν ικανοποιείται ο έλεγχος η διαδικασία συνεχίζει, διαφορετικά το διάνυσμα s j τροποποιείται και η διαδικασία επιστρέφει στο step 4. Step 7 Επιλογή: Επιλογή των γονέων της νέα γενιά μέσω των σχημάτων επιλογής (μ+λ) ή (μ,λ). Step 8 Έλεγχος σύγκλισης: Αν ικανοποιείται τότε η διαδικασία τερματίζεται, διαφορετικά η επιστρέφει στο step

27 Contemporary ESs (C-ESs) Στην νέα αυτή εκδοχή των στρατηγικών εξέλιξης χρησιμοποιείται μία παράμετρος η οποία ονομάζεται μέγιστη διάρκεια ζωής. Αν θ = 1 η νέα τεχνική ταυτίζεται με την (μ,λ)ess τεχνική Αν θ = ταυτίζεται με την (μ+λ)ess τεχνική Ο αριθμός των γονέων που λαμβάνουν μέρος στην αναπαραγωγή ενός απογόνου είναι ελεύθερος (είναι δυνατό να είναι 1, 2 ή και όλοι οι γονείς του τρέχοντος πληθυσμού). Επιτρέπονται πεπερασμένου πλήθους κύκλοι αναπαραγωγής για κάθε μέλος του πληθυσμού. Εκτός των τρόπων ανασυνδυασμού που αναφέρθηκαν για την περίπτωση των πολυμελών στρατηγικών εξέλιξης χρησιμοποιούνται και άλλοι, συμπεριλαμβανομένου και του τελεστή διασταύρωσης των γενετικών αλγορίθμων. 147

28 Adaptive ESs (A-ESs) Η μέθοδος βασίζεται στην χρησιμοποίηση χαλαρών περιορισμών όπου καθώς η διαδικασία αναζήτησης προσεγγίζει την περιοχή του καθολικού βέλτιστου οι περιορισμοί σκληραίνουν. Στο σχήμα αναπροσαρμογής υιοθετείται ένας έλεγχος ονομαστικής σύγκλισης για την αναπροσαρμογή ή όχι του επιπέδου παραβίασης των περιορισμών. Ονομαστική σύγκλιση θεωρείται ότι έχει επιτευχθεί όταν η μέση τιμή των αντικειμενικών συναρτήσεων του πληθυσμού είναι σχετικά κοντά στην βέλτιστη μέχρι τώρα λύση. F (g) F (g) F (g) best ε ad Στην περίπτωση ικανοποίησης το επίπεδο παραβίασης των περιορισμών γίνεται πιο σκληρό. 148

29 Στρατηγικές Εξέλιξης (ESs) Κριτήρια τερματισμού Μέγιστος αριθμός γενιών g Μέγιστος υπολογιστικός χρόνος Σύγκλιση στο χώρο της αντικειμενικής συνάρτησης Σύγκλιση στο χώρο του διανύσματος σχεδιασμού Σύγκλιση στο χώρο των παραμέτρων στρατηγικής 149

30 Δαρβίνειες μέθοδοι Γενετικοί Αλγόριθμοι vs Στρατηγικές Εξέλιξης Μεταβλητές σχεδιασμού: GAs - Χρησιμοποιούν κωδικοποίηση των παραμέτρων σχεδιασμού σε δυαδικές αλυσίδες σταθερού μήκους ESs - Λειτουργούν με τις πραγματικές τιμές των παραμέτρων σχεδιασμού Διαχείριση των περιορισμών GAs - Μετατρέπουν το πρόβλημα με περιορισμούς σε ένα αντίστοιχο χωρίς περιορισμούς ESs - Υιοθετούν την μέθοδο της θανατικής καταδίκης απορρίπτοντας κάθε μη εφικτό σχεδιασμό 150

31 Δαρβίνειες μέθοδοι Γενετικοί Αλγόριθμοι vs Στρατηγικές Εξέλιξης Βασικοί τελεστές Επιλογής: GAs - Ίδια πιθανότητα επιλογής σε όλα τα μέλη του πληθυσμού ESs - Ελιτιστικού τύπου τελεστή επιλογή Ανασυνδυασμός/ Διασταύρωση: GAs - Πραγματοποιείται μεταξύ τμημάτων των δυαδικών αλυσίδων ESs - Πραγματοποιείται με συνδυασμό μεταξύ των παραμέτρων σχεδιασμού των μελών που ανασυνδυάζονται Μετάλλαξη: GAs - Πραγματοποιείται με αλλαγή ορισμένων δυαδικών ψηφίων της αλυσίδας ESs - Πραγματοποιείται με τυχαίες τροποποιήσεις σε ορισμένες μεταβλητές σχεδιασμού του μέλους που μεταλλάσσεται 151

32 Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στα Πλαίσια του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοιχτά Ακαδημαϊκά Μαθήματα Ε.Μ.Π.» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση.