Τεχνολογία Συστημάτων Υδατικών Πόρων

Εθνικό Μετσόβιο Πολυτεχνείο Τομέας Υδατικών Πόρων και Περιβάλλοντος Τεχνολογία Συστημάτων Υδατικών Πόρων Βελτιστοποίηση:Προχωρημένες Μέθοδοι Χρήστος Μακρόπουλος, Επίκουρος Καθηγητής ΕΜΠ Σχολή Πολιτικών Μηχανικών

Άδεια Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες χρήσης Creative Commons. Για εκπαιδευτικό υλικό, όπως εικόνες, που υπόκειται σε άδεια χρήσης άλλου τύπου, αυτή πρέπει να αναφέρεται ρητώς.

Βελτιστοποίηση Προχωρημένες Μέθοδοι

Προβλήματα με την «κλασική» βελτιστοποίηση Η αντικειμενική συνάρτηση σπανίως είναι συνεχής και παραγωγίσιμη και ακόμα πιο σπάνια αποδεικνύονται οι συνθήκες Kuhn-Tucker... Πολλά ακρότατα (τοπικά) σημαίνει δυσκολία στις μεθόδους τύπου hillclimbing... Ακόμα χειρότερα: για τα περισσότερα προβλήματα δε μπορούμε να γράψουμε κάν την αντικειμενική γιατί προκύπτει από προσομοίωση... Εικόνα 1: Παράδειγμα κλασσικής βελτιστοποίησης - αντικειμενική συνάρτηση με πολλά ακρότατα 4

Προχωρημένες Μέθοδοι Βελτιστοποίησης Γενετικοί αλγόριθμοι (Genetic Algorithms) Εξελικτικός προγραμματισμός (Evolutionary Programming) Προσομοιωμένη Ανόπτηση (Simulated Annealing) Εικόνα 2: Γενετικοί αλγόριθμοι και εξελικτικός προγραμματισμός 5

Γενετικοί αλγόριθμοι: Τι είναι; Αλγόριθμοι επίλυσης προβλημάτων που βασίζονται (είναι εμπνευσμένοι) από τις αρχές της Βιολογικής Εξέλιξης (Δαρβίνος). Εικόνα 3: Παράδειγμα βιολογικής εξέλιξης 6

Γενετικοί Αλγόριθμοι Θεωρία της εξέλιξης (C. Darwin, 1858) Εξέλιξη Διαδικασία που οδηγεί στην αύξηση της ικανότητας ενός πληθυσμού να επιβιώνει σε ένα δεδομένο περιβάλλον (Εξελικτική προσαρμογή) Η ικανότητα αυτή περνά στις επόμενες γενιές με την αναπαραγωγή: από τα άτομα που την είχαν και άρα επέζησαν για να αναπαραχθούν! «φυσική επιλογή» Εμείς αντί για άτομα έχουμε λύσεις Εικόνα 4: C. Darwin (Κάρολος Δαρβίνος) 7

Ο βασικός εξελικτικός κύκλος Εικόνα 5: Πληθυσμιακή βελτιστοποίηση 8

Γενετικοί αλγόριθμοι: Βασικά Χαρακτηριστικά Κάνουν αναζήτηση σε πολλά σημεία ταυτόχρονα και όχι μόνο σε ένα Χρησιμοποιούν μόνο * την αντικειμενική συνάρτηση και καμία επιπρόσθετη πληροφορία Χρησιμοποιούν πιθανοτικούς κανόνες αναζήτησης νέων λύσεων και όχι ντετερμινιστικούς 9

Πλεονεκτήματα Μπορούν να επιλύουν δύσκολα προβλήματα γρήγορα και αξιόπιστα. Μπορούν εύκολα να συνδεθούν με υπάρχοντα μοντέλα και συστήματα Είναι εύκολα επεκτάσιμοι και εξελίξιμοι. Μπορούν να συνδυαστούν (σε υβριδικές μορφές) με άλλες μεθόδους. Εφαρμόζονται σε πολύ περισσότερα πεδία από κάθε άλλη μέθοδο. Έχουν από τη φύση τους το στοιχείο του παραλληλισμού και άρα προσφέρεται για παράλληλη υλοποίηση. 10

Γενετικοί Αλγόριθμοι: Ορολογία Δανεισμένη από το χώρο της Γενετικής. Αναφέρονται σε άτομα μέσα σε ένα πληθυσμό. Πολύ συχνά αυτά τα άτομα καλούνται επίσης χρωμοσώματα. Τα χρωμοσώματα αποτελούνται από διάφορα στοιχεία που ονομάζονται γονίδια. Κάθε γονίδιο επηρεάζει την κληρονομικότητα ενός ή περισσότερων χαρακτηριστικών (είναι δηλαδή συνδεδεμένη με μια παράμετρο της λύσης) 11

Γενετικοί αλγόριθμοι: Πώς λειτουργούν; Δημιουργούν έναν πληθυσμό κωδικοποιημένων πιθανών λύσεων Υπολογίζουν την αντικειμενική συνάρτηση για κάθε άτομο (λύση) του δημιουργούμενου πληθυσμού (fitness evaluation - επίδοση) Εξελίσσουν τον πληθυσμό εφαρμόζοντας γενετικές διαδικασίες που επηρεάζονται από την επίδοση: Διαδικασίες επιλογής, Διαδικασίες αναπαραγωγής (διασταύρωση), Διαδικασίες μετάλλαξης. Δημιουργούν νέο πληθυσμό που αντικαθιστά τον προηγούμενο με βάση την επίδοση. Επαναλαμβάνουν τη διαδικασία μέχρι να «βρουν λύση». 12

...Γενετικοί αλγόριθμοι: Πώς λειτουργούν; Ένας Γ.Α. αποτελείται από: i. Γενετική αναπαράσταση ii. Τρόπο δημιουργίας ενός αρχικού πληθυσμού iii. Αντικειμενική συνάρτηση αξιολόγησης iv. Γενετικούς τελεστές v. Τιμές για τις διάφορες παραμέτρους 13

Γενετική Αναπαράσταση: (δυαδική) κωδικοποίηση (11, 6, 9) 1011 0110 1001 Στο δυαδικό κάθε αριθμός είναι μια αύξουσα δύναμη του 2 ξεκινώντας από το 2 0 π.χ. 100101 = [(1) 2 5 ] + [(0) 2 4 ] + [(0) 2 3 ] + [(1) 2 2 ] + [(0) 2 1 ] + [(1) 2 0 ] = 37 1000=? 10001=? 14

Γενετικοί Τελεστές Επιλογή: επιλέγει με κάποιο τρόπο τα «καταλληλότερα» μέλη του πληθυσμού και τα χρησιμοποιεί για: Διασταύρωση: συνδυάζει τα στοιχεία δύο χρωμοσωμάτων γονέων για να δημιουργήσει δύο νέους απογόνους ανταλλάσσοντας αντίστοιχα κομμάτια από τους γονείς. Μετάλλαξη: αλλάζει αυθαίρετα ένα ή περισσότερα γονίδια ενός συγκεκριμένου χρωμοσώματος. 15

Γενετικοί Τελεστές Διασταύρωση 1 0 0 1 1 1 1 0 1 0 0 1 0 0 1 0 1 0 1 1 0 0 1 0 1 0 1 1 1 1 1 0 Μετάλλαξη Σημείο διασταύρωσης 1 0 0 1 1 1 1 0 1 0 0 1 1 0 1 0 Ψηφίο μετάλλαξης 16

Επιλογή «γονεών»: Μηχανισμός ρουλέτας Pr( x i ) f j ( xi ) f ( x j ) Εικόνα 6: Επιλογή με τον μηχανισμό ρουλέτας 17

Διάγραμμα ροής Εικόνα 7: Διάγραμμα ροής εφαρμογής γενετικών αλγορίθμων 18

Κάθε νέος πληθυσμός αποτελεί μια γενιά Η κάθε γενιά είναι κατά μέσο όρο καλύτερη από τη προηγούμενη (και τουλάχιστον το ίδιο καλή) Εικόνα 8: Σχηματική απεικόνιση των νέων πληθυσμών με την διασταύρωση και την μετάλλαξη 19

Το θεώρημα των σχημάτων (Holland, 1975) Σχήμα (Schema) = Ακολουθία που περιλαμβάνει 0, 1 και * ( don t care ) Π.χ. το σχήμα 1 * * 0 παριστάνει το σύνολο των δυαδικών Ακολουθιών (χρωμοσωμάτων): 1 1 1 0 1 1 0 0 1 0 1 0 1 0 0 0 Μια δυαδική ακολουθία μήκους L είναι εκπρόσωπος καθενός από τα 2 L διαφορετικά σχήματα με τα οποία ταιριάζει. Το θεώρημα αποδεικνύει ότι σχήματα μικρού μήκους με απόδοση άνω του μέσου όρου αυξάνουν εκθετικά μετά την εφαρμογή γενετικών τελεστών, σε επόμενες γενιές. 20

Παράδειγμα: Εύρεση μεγίστου της F(x)=x 2 όπου x είναι ακέραιος στο διάστημα [1, 31]. Σχήμα 1: Γραφική απεικόνιση συνάρτησης F(x)=x 2 21

Παράδειγμα: Η κωδικοποίηση Θέλουμε να αναπαραστήσουμε αριθμούς μέχρι το 31, οπότε θα χρησιμοποιήσουμε χρωμοσώματα των 5 γονιδίων στο δυαδικό. (32=?) 22

Παράδειγμα: Η αρχικοποίηση Δημιουργία αρχικού πληθυσμού (έστω μεγέθους 4) με τυχαίο τρόπο: Α 1 = 0 1 1 0 1 = 13 10 Α 2 = 1 1 0 0 0 = 24 10 Α 3 = 0 1 0 0 0 = 8 10 Α 4 = 1 0 0 1 1 = 19 10 23

Παράδειγμα: Η αξιολόγηση F(Α 1 )= 13 2 = 169 F(Α 2 )= 24 2 = 576 F(Α 3 ) = 8 2 = 64 F(Α 4 )= 19 2 =361 Συνολική Απόδοση: 1170 Μέση απόδοση: 293 24

Παράδειγμα: Η επιλογή Ρουλέτα με βάρη: κάθε μέλος του πληθυσμού έχει πιθανότητα επιλογής ίση με τη σχετική του απόδοση στον τρέχοντα πληθυσμό. P(A 1 ) = 0.14 P(A 2 ) = 0.49 P(A 3 ) = 0.06 P(A 4 ) = 0.31 A2 A1 A3 A4 Σχήμα 2: Πίτα με τη σχετική απόδοση κάθε μέλους του πληθυσμού του παραδείγματος 25

Παράδειγμα: Η αναπαραγωγή Ο προσωρινός πληθυσμός μετά την εφαρμογή της ρουλέτας: Α 1 = 0 1 1 0 1 Α 2 = 1 1 0 0 0 Α 3 = 1 1 0 0 0 Α 4 = 1 0 0 1 1 Με αρχικό: Α1 = 0 1 1 0 1 Α2 = 1 1 0 0 0 Α3 = 0 1 0 0 0 Α4 = 1 0 0 1 1 26

Παράδειγμα: Η διασταύρωση Επιλογή με τυχαίο τρόπο των ατόμων που θα διασταυρώσουν το γενετικό υλικό τους: Έστω ότι διασταυρώνονται το Α 1 με το Α 2 με σημείο διασταύρωσης το 4 και το Α 3 με το Α 4 με σημείο διασταύρωσης το 2: Α 1 = 0 1 1 0 1 Α 2 = 1 1 0 0 0 Α 3 = 1 1 0 0 0 Α 4 = 1 0 0 1 1 Α 1 = 0 1 1 0 0 Α 2 = 1 1 0 0 1 Α 3 = 1 1 0 1 1 Α 4 = 1 0 0 0 0 27

Παράδειγμα: Η μετάλλαξη Με τυχαίο τρόπο επιλέγονται γονίδια των οποίων η τιμή αντιστρέφεται: Α 1 = 0 1 1 0 0 Α 2 = 1 1 0 0 1 Α 3 = 1 1 0 1 1 Α 4 = 1 0 0 0 0 Α 1 = 0 1 1 0 0 Α 2 = 1 1 0 0 1 Α 3 = 1 1 0 1 1 Α 4 = 1 0 0 1 0 28

Παράδειγμα: Ο νέος πληθυσμός Α 1 = 0 1 1 0 0 = 12 10 =>F(12)=144 Α 2 = 1 1 0 0 1 = 25 10 =>F(25)=625 Α 3 = 1 1 0 1 1 = 27 10 =>F(27)=729 Α 4 = 1 0 0 1 0 = 18 10 =>F(18)=324 Συνολική Απόδοση: 1822 (από 1170) Μέση απόδοση:455.5 (από 293) Προσέξτε ότι ο αλγόριθμος δεν γνωρίζει τη μορφή του χώρου των λύσεων 29

Παράδειγμα: μέγιστο της συνάρτησης peak z = f(x, y) = 3*(1-x)^2*exp(-(x^2) - (y+1)^2) - 10*(x/5 - x^3 - y^5)*exp(-x^2-y^2) - 1/3*exp(-(x+1)^2 - y^2). Εικόνα 9: Τρισδιάστατο σχέδιο της επιφάνειας της συνάρτησης peak Εικόνα 10: Κάτοψη του σχεδίου της επιφάνειας της συνάρτησης peak 30

Παράδειγμα επίλυσης Αρχικός πληθυσμός 5η γενιά 10η γενιά Εικόνα 11: Κατόψεις του σχεδίου της επιφάνειας της συνάρτησης peak με τον αρχικό πληθυσμό και τον πληθυσμό μετά την 5η και την 10η γενιά 31

πληθ-γενιές πληθ-γενιές Σχήμα 3: Παράδειγμα εξέλιξης λύσεων ΓΑ για πρόβλημα διαχείρισης μησημειακής ρύπανσης 32

Εικόνα 12: Αντιστοιχία βελτιστοποίησης με την πραγματικότητα 33

Επίδοση Εγκλωβισμός σε τοπικά ακρότατα; Διασταύρωση: χρήση της υπάρχουσας πληροφορίας Μετάλλαξη: αναζήτηση νέας πληροφορίας P(mutation) 0 όσο εξελίσσεται η βελτιστοποίηση Σχήμα 4: Απόδοση μεταξύ των γενεών 34

Επαναλήψεις (γενιές) Η κάθε επανάληψη μεταφέρει στην επόμενη γενιά τις καλύτερες λύσεις από την προηγούμενη γενιά. Όσο πιο υψηλό fitness (ουσιαστικά μεγαλύτερη τιμή στην αντικειμενική συνάρτηση) τόσο μεγαλύτερη η πιθανότητα να συμπεριληφθεί στον πληθυσμό της επόμενης γενιάς. Οι γενετικοί αλγόριθμοι περιλαμβάνουν πολλές επαναλήψεις των διαδικασιών που αναφέρθηκαν. Κάθε επανάληψη (ή γενιά) είναι καλύτερη από την προηγούμενη (σαν μέσος όρος). Η απόλυτα καλύτερη λύση κάθε γενιάς συνήθως μεταφέρεται αυτούσια στην επόμενη γενιά (ελιτισμός). Ο ΓΑ τελειώνει όταν οι επαναλήψεις δεν επιτυγχάνουν βελτίωση των λύσεων. Προσοχή: δεν υπάρχει καμία σιγουριά ότι η τελική λύση που βρήκε ο ΓΑ είναι η βέλτιστη. 35

Παράδειγμα: Υδατικοί Πόροι Κατανομή νερού σε 3 χρήστες Μέγιστη ποσότητα νερού σε κάθε χρήστη να μην υπερβαίνει το 5 Το συνολικό διαθέσιμο νερό είναι = 6 Εικόνα 13: Σχηματική απεικόνιση παραδείγματος κατανομής νερού σε 3 χρήστες 36

Διαδικασία επίλυσης Δημιουργούμε (τυχαία) ένα πληθυσμό εφικτών λύσεων Μια πιθανή λύση μπορεί να είναι η [3,1,2] που καθορίζει κατανομή x1=3, x2=1, and x3=2. Μια άλλη λύση μπορεί να είναι η [1,0,1] Οι δύο αυτές λύσεις μπορούν να συνδυαστούν και να δώσουν 2 «απογόνους». 37

Διαδικασία επίλυσης Τα γονίδια των απογόνων καθορίζονται από την διασταύρωση και τη μετάλλαξη Ας υποθέσουμε ότι το σημείο διασταύρωσης καθορίζεται τυχαία και είναι μετά το πρώτο στοιχείο? 38

Διαδικασία επίλυσης: διασταύρωση Ένας άλλος τρόπος (ομοιόμορφης) διασταύρωσης είναι να προσδιορίσουμε για κάθε ζεύγος γονιδίων αν θα διασταυρωθούν ή όχι. Μπορούμε για παράδειγμα να θέσουμε τη πιθανότητα διασταύρωσης σε 0.30. Άρα κάθε ζεύγος γονιδίων έχει 30% πιθανότητα να διασταυρωθεί. Για παράδειγμα θα μπορούσε να καταλήξει μόνο το μεσαίο από τα ζεύγη των λύσεων 312 και 101 να διασταυρωθεί: 302 and 111. 39

Διαδικασία επίλυσης: μετάλλαξη Η μετάλλαξη καθορίζεται σε κάθε γονίδιο και συνεπάγεται την αλλαγή της τιμής του γονιδίου (με κάποιο προκαθορισμένο τρόπο εκτός αν είναι δυαδικό οπότε απλά το 0 γίνεται 1 και αντίστροφα). Πχ, ας αποφασίσουμε ότι μετάλλαξη σημαίνει -1 (εκτός αν είναι μη εφικτό οπότε το γονίδιο γίνεται το μέγιστο) πχ το 0 γίνεται 5, ενώ το 2 γίνεται 1). Ας υποθέσουμε ότι μεταλλάσουμε το μεσαίο ψηφίο του 112 και άρα έχουμε 102. Η διαδικασία μας έδωσε από τα 312 και 101 301 και 102. Πρέπει να υπολογίσουμε το όφελος για τις νέες λύσεις (301 16.5 & 102 19.0) 40

Διαδικασία επίλυσης: επιλογή νέου πληθυσμού Το άθροισμα των δύο οφελών είναι 35.5. Ορίζουμε ως πιθανότητα επιλογής της λύσης 301 το 16.5/35.5= 0.47 και της λύσης 102 το 19/35.5=0.53 Πρακτικά επιλέγουμε ένα τυχαίο αριθμό από μια ομοιόμορφη κατανομή [0 1] Αν ο αριθμός αυτός είναι μεταξύ 0 to 0.47 τότε επιλέγουμε το 301. Αν είναι μεγαλύτερος επιλέγουμε το 102. Και η διαδικασία συνεχίζεται για μια ακόμα γενιά. 41

Διάγραμμα ροής Εικόνα 14: Διάγραμμα ροής με την επιλογή νέου πληθυσμού 42

Γενετικός Προγραμματισμός (Genetic Programming - GP) Εξέλιξη μιας συνάρτησης για την επίλυση ενός προβλήματος Δομικά στοιχεία: Πρωτογενείς συναρτήσεις και δεδομένα εισόδου/εξόδου (εκπαιδευτικά δεδομένα) Αντικειμενική Συνάρτηση: σφάλμα εξόδου σε σύνολο εκπαιδευτικών δεδομένων Τελεστές: Επιλογή (κλωνοποίηση), διασταύρωση, μετάλλαξη Παράδειγμα: EPR (Giustolici and Savic, 2006) 43

Παράδειγμα Γενετικού Προγραμματισμού διασταύρωση πχ. Κατασκευή συναρτήσεων για την επεξήγηση δεδομένων (προσαρμογή - data fitting) Ποιά η αντικειμενική συνάρτηση εδω; Εικόνα 15: Σχηματική απεικόνιση παραδείγματος μετάλλαξη 44

Άσκηση Φτιάξτε το διάγραμμα ροής για ένα ΓΑ ο οποίος υπολογίζει τις παραμέτρους aij, ενός μοντέλου ποιότητας νερού το οποίο συσχετίζει εισροές ρύπων (Wi) ως μάζα, με συγκεντρώσεις Cj, και ροή Qj, για κάθε θέση j. Cj = Σi Wi aij / Qj Ποια θα μπορούσε να είναι η αντικειμενική συνάρτηση; (προσοχή οι ΓΑ λύνουν προβλήματα μεγιστοποίησης) Ποια η μορφή ενός ατόμου του πληθυσμού που θα δημιουργήσετε; 45

Εξελικτικός προγραμματισμός: Άλλες μέθοδοι Ant Colony Optimisation Αναλογία με τον τρόπο επιλογής του συντομότερου δρόμου από αποικίες μυρμηγκιών Particle Swarm Optimisation Αναλογία με τον τρόπο aναζήτησης τροφής από σμήνος πουλιών 50

Ολικοί ή τοπικοί αλγόριθμοι; (1/2) Μέθοδοι ολικής αναζήτησης Γενική περιγραφή: Εξελικτικές, κατά κανόνα, τεχνικές, που χρησιμοποιούν συνδυασμούς προσδιοριστικών και στοχαστικών κανόνων αναζήτησης. Πλεονέκτημα: Ευελιξία διερεύνησης μη κυρτών χώρων, μη χρήση παραγώγων, δυνατότητα απεγκλωβισμού από τοπικά ακρότατα. Μειονέκτημα: Αργή σύγκλιση, ασάφεια ορισμού των αλγοριθμικών παραμέτρων, μη εγγυημένη εύρεση του ολικού ακροτάτου 51

Ολικοί ή τοπικοί αλγόριθμοι; (1/2) Μέθοδοι τοπικής αναζήτησης Γενική περιγραφή: Προσδιοριστικές τεχνικές βήμα προς βήμα αναζήτησης, στην κατεύθυνση βελτίωσης της τιμής της συνάρτησης. Πλεονέκτημα: Γρήγορος και εγγυημένος εντοπισμός του τοπικού ακροτάτου, στην περιοχή έλξης του οποίου βρίσκεται το σημείο εκκίνησης του αλγορίθμου. Μειονέκτημα: Εγκλωβισμός σε τοπικά ακρότατα, κακή συμπεριφορά σε μη κυρτές επιφάνειες απόκρισης. 52

Υβριδικά Σχήματα Διάφοροι συνδυασμοί: Διαμόρφωση στοχαστικών εξελικτικών σχημάτων, που για τη γέννηση νέων λύσεων χρησιμοποιούν υπολογιστικές διαδικασίες των μεθόδων τοπικής αναζήτησης, για αύξηση της ταχύτητας σύγκλισης. Χρησιμοποιούν το τελικό πληθυσμό λύσεων ως σημείο εκκίνησης για τοπική αναζήτηση 53

Παραδείγματα Υβριδικών Αλγορίθμων (1/2) Γενετικοί αλγόριθμοι με πραγματική κωδικοποίηση: Χρησιμοποιούν πραγματικές και όχι κωδικοποιημένες μεταβλητές ελέγχου (συμβολοσειρές), με κατάλληλη προσαρμογή των τελεστών διασταύρωσης και μετάλλαξης. Υβριδικοί εξελικτικοί αλγόριθμοι: Για την επιτάχυνση της διαδικασίας αναζήτησης εφαρμόζουν, αντί του τελεστή διασταύρωσης, πρότυπα των μεθόδων άμεσης αναζήτησης (πχ. προς το τέλος της αναζήτησης) 54

Παραδείγματα Υβριδικών Αλγορίθμων (2/2) Εξελικτικοί αλγόριθμοι με έλεγχο διασποράς: Επέμβαση στη διαδικασία επιλογής, που ευνοεί την επιβίωση απομακρυσμένων λύσεων (προς όφελος της διατήρησης μεγαλύτερης διασποράς στον πληθυσμό, και συνεπώς πιο εκτενούς διερεύνησης του εφικτού χώρου), σε σχέση με λύσεις που συσσωρεύονται γύρω από τοπικά ακρότατα. Εξελικτικοί αλγόριθμοι με ανόπτηση: Ως σχήμα εξέλιξης, χρησιμοποιείται οι γενετικοί τελεστές με τα στοιχεία τους (πχ. πιθανότητα μετάλλαξης) να εξαρτώνται από την τρέχουσα «θερμοκρασία». 55

«Βέλτιστη» μέθοδος βελτιστοποίησης; (1/2) Η «ολικά βέλτιστη» μέθοδος βελτιστοποίησης θα πρέπει να συνδυάζει τα δύο ακόλουθα θεμελιώδη χαρακτηριστικά επίδοσης (Duan et al., 1992): αποτελεσματικότητα (effectiveness), δηλαδή υψηλή αξιοπιστία εντοπισμού (ή προσέγγισης) του ολικού ακροτάτου της συνάρτησης αποδοτικότητα (efficiency), δηλαδή υψηλή ταχύτητα σύγκλισης (εγγυημένος εντοπισμός του ολικού ακροτάτου, με εύλογο πλήθος δοκιμών). 56

«Βέλτιστη» μέθοδος βελτιστοποίησης; (2/2) Τα χαρακτηριστικά αυτά είναι αντικρουόμενα (π.χ. η εξονυχιστική αναζήτηση σε πλέγμα πυκνής διακριτοποίησης προσεγγίζει το ολικό βέλτιστο με ακρίβεια, αλλά και απαιτεί ανέφικτα υψηλό υπολογιστικό φόρτο, ενώ οι γρήγορες τεχνικές άμεσης αναζήτησης (hill climbing) εγκλωβίζονται εύκολα σε τοπικά ακρότατα). Η επίδοση ενός αλγορίθμου ελέγχεται μόνο πειραματικά. Τα εξελικτικά υβριδικά σχήματα βελτιστοποίησης υπερτερούν, στις περισσότερες κατηγορίες προβλημάτων βελτιστοποίησης της πράξης. 57

ΠΑΡΑΡΤΗΜΑ (1/3) Εικόνα 1: Παράδειγμα κλασσικής βελτιστοποίησης - αντικειμενική συνάρτηση με πολλά ακρότατα, "Υλικό με μη προσδιορισμένη προέλευση. Σε περίπτωση που είστε ο κάτοχος του κύριου δικαιώματος επικοινωνήστε μαζί μας." Εικόνα 2: Γενετικοί αλγόριθμοι και εξελικτικός προγραμματισμός, "Υλικό με μη προσδιορισμένη προέλευση. Σε περίπτωση που είστε ο κάτοχος του κύριου δικαιώματος επικοινωνήστε μαζί μας." Εικόνα 4: C. Darwin (Κάρολος Δαρβίνος), "Υλικό με μη προσδιορισμένη προέλευση. Σε περίπτωση που είστε ο κάτοχος του κύριου δικαιώματος επικοινωνήστε μαζί μας." Εικόνα 5: Πληθυσμιακή βελτιστοποίηση, από Dilvan de Abreu Moreira s Thesis: "Agents: A Distributed Client/Server System for Leaf Cell Generation (1995) " ( http://java.icmc.sc.usp.br/dilvan/thesis.phd/ ), CC: BY-NC-SA 58

ΠΑΡΑΡΤΗΜΑ (2/3) Εικόνα 6: Επιλογή με τον μηχανισμό ρουλέτας, "Υλικό με μη προσδιορισμένη προέλευση. Σε περίπτωση που είστε ο κάτοχος του κύριου δικαιώματος επικοινωνήστε μαζί μας." Εικόνα 7: Διάγραμμα ροής εφαρμογής γενετικών αλγορίθμων, "Υλικό με μη προσδιορισμένη προέλευση. Σε περίπτωση που είστε ο κάτοχος του κύριου δικαιώματος επικοινωνήστε μαζί μας." Εικόνα 8: Σχηματική απεικόνιση των νέων πληθυσμών με την διασταύρωση και την μετάλλαξη, "Υλικό με μη προσδιορισμένη προέλευση. Σε περίπτωση που είστε ο κάτοχος του κύριου δικαιώματος επικοινωνήστε μαζί μας." Εικόνα 9: Τρισδιάστατο σχέδιο της επιφάνειας της συνάρτησης peak, από http://mirlab.org/jang/courses/cs4601/randsrch.htm, CC: BY-NC- SA 59

ΠΑΡΑΡΤΗΜΑ (3/3) Εικόνα 10: Κάτοψη του σχεδίου της επιφάνειας της συνάρτησης peak, από http://mirlab.org/jang/courses/cs4601/randsrch.htm, CC: BY-NC- SA Εικόνα 11: Κατόψεις του σχεδίου της επιφάνειας της συνάρτησης peak με τον αρχικό πληθυσμό και τον πληθυσμό μετά την 5η και την 10η γενιά, από http://mirlab.org/jang/courses/cs4601/ga.htm, CC: BY-NC- SA Σχήμα 4: Απόδοση μεταξύ των γενεών, από http://mirlab.org/jang/courses/cs4601/ga.htm, CC: BY-NC-SA Σχήμα 5: Διάγραμμα με τα τοπικά ολικά ακρότατα της συνάρτησης κόστους f(x), "Υλικό με μη προσδιορισμένη προέλευση. Σε περίπτωση που είστε ο κάτοχος του κύριου δικαιώματος επικοινωνήστε μαζί μας." 60

Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στα πλαίσια του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα Ε.Μ.Π.» έχει χρηματοδοτήσει μόνο τη αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους.