ΣΤΟΧΑΣΤΙΚΕΣ ΜΕΘΟΔΟΙ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ ΒΕΛΤΙΣΤΟΣΣΧΕΔΙΑΣΜΟΣΚΑΤΑΣΚΕΥΩΝ Σχολή Πολιτικών Μηχανικών Τομέας Δομοστατικής Εργαστήριο Στατικής & Αντισεισμικών Ερευνών Βέλτιστος Σχεδιασμός Κατασκευών 1of 75
ΣΤΟΧΑΣΤΙΚΕΣ ΜΕΘΟΔΟΙ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ ΣΥΓΚΡΙΣΗ ΧΑΡΑΚΤΗΡΙΣΤΙΚΩΝ ΑΝΑΛΥΤΙΚΕΣ ΜΕΘΟΔΟΙ ΣΤΟΧΑΣΤΙΚΕΣ ΜΕΘΟΔΟΙ ΑΙΤΙΟΚΡΑΤΙΚΗ ΑΝΤΙΜΕΤΩΠΙΣΗ ΕΞΑΣΦΑΛΙΖΕΤΑΙ Η ΕΥΡΕΣΗ ΤΗΣ ΒΕΛΤΙΣΤΗΣ ΛΥΣΗΣ (εφόσον πληρούνται τα κριτήρια) ΣΤΟΧΑΣΤΙΚΗ ΑΝΤΙΜΕΤΩΠΙΣΗ ΠΙΘΑΝΗ Η ΕΥΡΕΣΗ ΤΗΣ ΒΕΛΤΙΣΤΗΣ ΛΥΣΗΣ (εξέλιξη ακολουθιών τυχαίων γεγονότων) Μέθοδος Γραμμικού Προγραμματισμού Μέθοδος 2 ου -βάθμιου Προγραμματισμού Μέθοδος Κυρτού Προγραμματισμού Μέθοδος Μεταβαλλόμενων Ασυμπτώτων Γενετικοί Αλγορίθμοι Προσομοιωμένη Ανόπτηση Εξελικτικές Στρατηγικές Συνεξελικτικές Στρατηγικές Βέλτιστος Σχεδιασμός Κατασκευών 2of 75
ΣΤΟΧΑΣΤΙΚΕΣ ΜΕΘΟΔΟΙ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ ΠΡΟΣΟΜΟΙΩΜΕΝΗ ΑΝΟΠΤΗΣΗ ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ ΣΥΝΕΞΕΛΙΚΤΙΚΕΣ ΜΕΘΟΔΟΙ ΕΞΕΛΙΚΤΙΚΕΣ ΣΤΡΑΤΗΓΙΚΕΣ Βέλτιστος Σχεδιασμός Κατασκευών 3of 75
ΠΡΟΣΟΜΟΙΩΜΕΝΗ ΑΝΟΠΤΗΣΗ Ηαρχικήιδέα, προέρχεταιαπότοχώροτηςστατιστικής μηχανικής και παρουσιάζεται για πρώτη φορά από τους Metropolis et al*. Επέκταση των μεθόδων έρευνας απληστίας (greedy algorithms) και της μεθόδου αναζήτησης με απαγορευμένες κινήσεις (tabu search). Η απόφαση μετακίνησης από την παρούσα λύση σε γειτονική λύση υπόκειται σε τυχαιότητα. * Metropolis, N., Rosenbluth, A.W., Rosenbluth, M.N., Teller, A.H., Teller, E., (1953) Equations of State Calculations by Fast Computing Machines, Journal of Chemical Physics, 21, 1087-1092. Βέλτιστος Σχεδιασμός Κατασκευών 4of 75
ΠΡΟΣΟΜΟΙΩΜΕΝΗ ΑΝΟΠΤΗΣΗ Τα βήματα της μεθόδου συνοψίζονται ως: Βήμα 1: Επιλογή αρχικής λύσης (x o ). Υπολογισμός f(x o ). Βήμα 2: Καθορισμός παραμέτρων.(αρχική και Τελική Θερμοκρασία (T init, T final ), ρυθμός μείωσης (r), διάρκεια εποχής (L)). Βήμα 3: Ορισμός περιοχής γειτονικών λύσεων. Το μέγεθος της περιοχής των γειτονικών λύσεων συνήθως μεταβάλλεται κατά τη διαδικασία για επιτάχυνση της σύγκλισης. Βήμα 4: Επιλογή κατά τυχαίο τρόπο μίας γειτονικής λύσης (x k+1 ). Υπολογισμός της f(x k+1 ). Βήμα 5: Αποδοχή ή μη της x k x k+1. Σε περίπτωση αποδοχής x k x k+1 και συνέχεια στο Βήμα 6. Σε περίπτωση μη αποδοχής, επιστροφή στο Βήμα 4. Βήμα 6: Έλεγχος κριτηρίων σύγκλισης. Σε περίπτωση σύγκλισης, τερματισμός διαδικασίας. Σε αντίθετη περίπτωση, k=k+1 μεταβολή της θερμοκρασίας (στο τέλος κάθε εποχής) και επιστροφή στο Βήμα 3. Βέλτιστος Σχεδιασμός Κατασκευών 5of 75
ΑΠΟΔΟΧΗ ΜΕΤΑΚΙΝΗΣΗΣ Η πιθανότητα αποδοχής μετακίνησης από τη λύση x k-1 x k δίδεται ως: Pr Pr 1 Δ f < 0 x x = ( ) f f f exp Δf Δ = x x T Δf 0 K ( ) ( ) ( ) k 1 k k k 1 1 Δ f > 0 x x = ( ) f f f exp Δf Δ = x x T Δf 0 K ( ) ΠΡΟΒΛΗΜΑ ΕΛΑΧΙΣΤΟΠΟΙΗΣΗΣ ΠΡΟΒΛΗΜΑ ΜΕΓΙΣΤΟΠΟΙΗΣΗΣ ( ) ( ) k 1 k k k 1 Βέλτιστος Σχεδιασμός Κατασκευών 6of 75
ΕΠΙΔΡΑΣΗ ΘΕΡΜΟΚΡΑΣΙΑΣ Τ Κ Pr (x k-1 --> x k ) if Δf > 0 1.000 0.900 0.800 0.700 Pr (x k-1 --> x k ) 0.600 0.500 0.400 0.300 0.200 0.100 0.000 0.7 0.9 0 0.1 0.2 0.3 0.4 Δf 0.5 0.6 0.7 0.8 0.9 1 0.1 0.3 0.5 T Βέλτιστος Σχεδιασμός Κατασκευών 7of 75
ΜΕΤΑΒΟΛΗ ΘΕΡΜΟΚΡΑΣΙΑΣ ΔΙΑΔΙΚΑΣΙΑ ΨΥΞΗΣ T r T r T T T = = ( ) = + 1 0 K K init init r < 1 Κ εποχές (διάρκεια εποχής L βήματα) K Βέλτιστος Σχεδιασμός Κατασκευών 8of 75
ΜΕΤΑΒΟΛΗ ΘΕΡΜΟΚΡΑΣΙΑΣ (συν.) Εξέλιξη Θερμοκρασίας 1.1 1.0 0.9 0.8 r = 0.8 r= 0.6 r =0.4 0.7 Τ/Τinit 0.6 0.5 0.4 0.3 0.2 0.1 0.0 1 2 3 4 5 6 7 8 9 10 Εποχή (K) Βέλτιστος Σχεδιασμός Κατασκευών 9of 75
ΓΕΙΤΟΝΙΑ ΛΥΣΕΩΝ Η υποψήφιαλύσηx k επιλέγεται από τις γειτονικές λύσεις κατά «τυχαίο» τρόπο. Η πιθανότητα επιλογής μίας λύσης δίδεται συνήθως από τη σχέση: Pr = 1 N N Ν Ν το πλήθος των γειτονικών λύσεων Βέλτιστος Σχεδιασμός Κατασκευών 10 of 75
ΓΕΙΤΟΝΙΑ ΛΥΣΕΩΝ - ΔΙΑΚΡΙΤΕΣ ΜΕΤΑΒΛΗΤΕΣ Οι γειτονικές λύσεις σε προβλήματα με διακριτές μεταβλητές ορίζονται συνήθως ως: x k-1 Γειτονικές λύσεις Λοιπές λύσεις Πλήθος μεταβλητών σχεδιασμού Ν DV = 2 Πλήθος γειτόνων ( f (N DV )) N N = N DV N 2 DV Βέλτιστος Σχεδιασμός Κατασκευών 11 of 75
ΓΕΙΤΟΝΙΑ ΛΥΣΕΩΝ-ΔΙΑΚΡΙΤΕΣ ΜΕΤΑΒΛΗΤΕΣ (συν.) NDV NN NDV NN 1 2 9 4608 2 8 10 10240 3 24 11 22528 4 64 12 49152 5 160 13 106496 6 384 14 229376 7 896 15 491520 8 2048 16 1048576 To πλήθος των γειτόνων αυξάνεται κατά εκθετικό τρόπο όσο αυξάνει το πλήθος των μεταβλητών σχεδιασμού!! Βέλτιστος Σχεδιασμός Κατασκευών 12 of 75
ΓΕΙΤΟΝΙΑ ΛΥΣΕΩΝ - ΣΥΝΕΧΕΙΣ ΜΕΤΑΒΛΗΤΕΣ Οι γειτονικές λύσεις σε προβλήματα με συνεχείς μεταβλητές ορίζονται ως οι λύσεις εντός ενός υπερ-πρίσματος Ν DV διαστάσεων (D i ). Η κίνηση στο χώρο των λύσεων πραγματοποιείται με τη μεταβολή της τιμής μίας εκ των μεταβλητών σχεδιασμού. D 3 x k 1 ( 0.5) xk,1 = xk 1,1 + z1 D 1 xk j 1 xk, j= xk 1, j j = 1,...,3 D 1 x k+1 x k+2 x k-1 x k x x k k+ 1 k+ 2 ( 0.5) xk+ 1,2 = xk,2 + z2 D 2 xk+ 1 j 2 xk+ 1, j = xk, j j = 1,...,3 ( 0.5) xk+ 2,3 = xk+ 1,3 + z3 D 3 x j 3 xk+ 2, j = xk+ 1, j j = 1,...,3 D 2 Πλήθος μεταβλητών σχεδιασμού Ν DV = 3 Βέλτιστος Σχεδιασμός Κατασκευών 13 of 75
ΓΕΙΤΟΝΙΑ ΛΥΣΕΩΝ-ΣΥΝΕΧΕΙΣ ΜΕΤΑΒΛΗΤΕΣ (συν.) Οι διαστάσεις D i του υπερ-πρίσματος δίδονται συνήθως ως συνάρτηση της θερμοκρασίας και του πλήθους των επιτυχήμενων κινήσεων σε μία διεύθυνση (N success ) προς το πλήθος των κινήσεων στη διεύθυνση αυτή (N). Η επικαιροποίηση του μεγέθους της γειτονίας πραγματοποιείται στο τέλος κάθε υπο-εποχής M i. Το σύνολο των υπο-εποχών καθορίζουν την εποχή για την οποία η θερμοκρασία παραμένει σταθερή. N D D ( T ) + Epoch = M LS E success. i im, 1 im, K K i Ni i=1,n S-E L = N Ηδιάρκειακάθευπό-εποχής είναι συνάρτηση του πλήθους των μεταβλητών σχεδιασμού. Συνήθως L S-E =(15~25)*N DV. S E Βέλτιστος Σχεδιασμός Κατασκευών 14 of 75
ΤΕΡΜΑΤΙΣΜΟΣ ΔΙΑΔΙΚΑΣΙΑΣ Η ΔΙΑΔΙΚΑΣΙΑ ΤΕΡΜΑΤΙΖΕΤΑΙ ΟΤΑΝ Η Θερμοκρασία καταστεί μικρότερη μίας θερμοκρασίας κατωφλίου T K+ 1 T final Ηδιαδικασίαδενβελτιώνειτηβέλτιστητιμήγιαένα πλήθος εποχών. Η σχετική βελτίωση της τιμής της βέλτιστης λύσης είναι μικρότερη από συγκεκριμένες τιμές κατωφλίου (απόλυτηκαισχετικήδιαφορά). Βέλτιστος Σχεδιασμός Κατασκευών 15 of 75
ΤΕΡΜΑΤΙΣΜΟΣ ΔΙΑΔΙΚΑΣΙΑΣ (συνέχεια) ΤΟ ΠΛΗΘΟΣ ΤΩΝ ΕΠΙΤΥΧΗΜΕΝΩΝ ΒΗΜΑΤΩΝ K K L ( T ) ln final = int + 2 ln ( rt init ) ΤΟ ΠΛΗΘΟΣ ΤΩΝ ΛΥΣΕΩΝ ΠΟΥ ΕΞΕΤΑΖΟΝΤΑΙ ΕΙΝΑΙ ΣΥΝΑΡΤΗΣΗ: Της μορφής της συνάρτησης. Της επιλογής των βασικών παραμέτρων του αλγορίθμου Της τυχαιότητας! Βέλτιστος Σχεδιασμός Κατασκευών 16 of 75
ΔΙΑΔΙΚΑΣΙΑ ΑΛΓΟΡΙΘΜΟΥ (ΕΛΑΧΙΣΤΟΠΟΙΗΣΗ) Β Ορισμός Τ init L, r και x o. Υπολογισμός f(x o ). Κ=0 και k=1. Επιλογή x k (γειτονία x k-1 ). Υπολογισμός f(x k ). Δf = f(x k )-f(x k-1 ) x k-1 x k & f(x k-1 ) f(x k ) ΝΑΙ ΝΑΙ Αν Δf <0 Α z z = Pr ( x x ) k 1 random[0,1] k ΟΧΙ ( x x ) Pr k 1 k ΟΧΙ Βέλτιστος Σχεδιασμός Κατασκευών 17 of 75
ΔΙΑΔΙΚΑΣΙΑ ΑΛΓΟΡΙΘΜΟΥ (ΕΛΑΧΙΣΤΟΠΟΙΗΣΗ) Α k<l ΝΑΙ k=k+1 OXI K=K+1 T K =r*t K-1 B x k και f(x k ) T K T final ΝΑΙ k=1 ΤΕΛΟΣ Βέλτιστος Σχεδιασμός Κατασκευών 18 of 75
ΠΑΡΑΔΕΙΓΜΑΤΑ ΕΦΑΡΜΟΓΗΣ Πηγαίος Κώδικας από William L. Goffe* Goffe W.L., Ferrier G.D., and Rogers J., (1994), Global Optimization of Statistical Functions with Simulated Annealing, Journal of Econometrics, Vol. 60, no. 1/2, pp. 65-100. Ο πηγαίος κώδικας σε FORTRAN βρίσκεται στο http://emlab.berkeley.edu/software/abstracts/goffe895.html Βέλτιστος Σχεδιασμός Κατασκευών 19 of 75
ΜΕΤΑΒΛΗΤΕΣ ΑΛΓΟΡΙΘΜΟΥ Όπως ορίζεται στον πηγαίο κώδικα Τ init =5 & r = 0.5 & N DV =N=2 Σύγκλιση εφόσον για 4 εποχές δεν έχει σημειωθεί βελτίωση στην τιμή της καλύτερης τιμής κατά 10-6. Διάρκεια Υπό-εποχής L S-E =N s *N = 20*2 = 40 Διάρκεια Eποχής L=N T *N s *N = 5*20*2 = 200 D o,1 =D o,2 =D o =1.0 Βέλτιστος Σχεδιασμός Κατασκευών 20 of 75
ΜΕΤΑΒΛΗΤΕΣ ΑΛΓΟΡΙΘΜΟΥ (συν) Στο τέλος κάθε Υπο-εποχής ratesuc 0.6 A= 1+ Ci 0.4 DiL, A rate 0.6 S E suc> 0.4 ratesuc DiL, 1 D, 0.4 0.6 1 S E il rate S E suc B C + = = + i 0.4 DiL, S E 0.4 < rate N suc success, i B ratesuc = L S E C i Συντελεστής Κλιμάκωσης C i = 2.0, i=1,n (Scaling Factor) Βέλτιστος Σχεδιασμός Κατασκευών 21 of 75
ΠΑΡΑΔΕΙΓΜΑ ΕΦΑΡΜΟΓΗΣ ΣΥΝΑΡΤΗΣΗ JUDGE ΗσυνάρτησηJUDGE δίδεται ως: 20 ( ) ( 2, ) i i i f x y = x + y a + y b c i= 1 2 Όπου a i, b i και c i A1 0.286 B1 0.645 C1 4.284 A2 0.973 B2 0.585 C2 4.149 A3 0.384 B3 0.31 C3 3.877 A4 0.276 B4 0.058 C4 0.533 A5 0.973 B5 0.455 C5 2.211 A6 0.543 B6 0.779 C6 2.389 A7 0.957 B7 0.259 C7 2.145 A8 0.948 B8 0.202 C8 3.231 A9 0.543 B9 0.028 C9 1.998 A10 0.797 B10 0.099 C10 1.379 A11 0.936 B11 0.142 C11 2.106 A12 0.889 B12 0.296 C12 1.428 A13 0.006 B13 0.175 C13 1.011 A14 0.828 B14 0.18 C14 2.179 A15 0.399 B15 0.842 C15 2.858 A16 0.617 B16 0.039 C16 1.388 A17 0.939 B17 0.103 C17 1.651 A18 0.784 B18 0.62 C18 1.593 A19 0.072 B19 0.158 C19 1.046 A20 0.889 B20 0.704 C20 2.152 Βέλτιστος Σχεδιασμός Κατασκευών 22 of 75
ΠΑΡΑΔΕΙΓΜΑΤΑ ΕΦΑΡΜΟΓΗΣ ΣΥΝΑΡΤΗΣΗ JUDGE JUDGE FUNCTION 0-20 20-40 40-60 60-80 80-100 100-120 120-140 140-160 160-180 180-200 200-220 220-240 240-260 260-280 280-300 -2.5-1.8 300-320 320-340 340-360 -1.1-0.4 360-380 380-400 400-420 X 0.3 1 1.7 2.4 S1 S11 S21 S31 S41 S51 S61 S71 Y S81 S91 S101 420-440 440-460 460-480 480-500 500-520 520-540 Βέλτιστος Σχεδιασμός Κατασκευών 23 of 75
ΑΠΟΤΕΛΕΣΜΑΤΑ ΤΙΜΗ ΑΝΤΙΚΕΙΜΕΝΙΚΗΣ ΣΥΝΑΡΤΗΣΗΣ ΟΛΑ ΤΑ ΕΞΕΤΑΖΟΜΕΝΑ ΣΗΜΕΙΑ Objective Value - All points 1000 100 Objective 10 1 0 1000 2000 3000 4000 5000 6000 Steps Βέλτιστος Σχεδιασμός Κατασκευών 24 of 75
ΑΠΟΤΕΛΕΣΜΑΤΑ ΤΙΜΗ ΑΝΤΙΚΕΙΜΕΝΙΚΗΣ ΣΥΝΑΡΤΗΣΗΣ ΟΛΑΤΑΑΠΟΔΕΚΤΑΣΗΜΕΙΑ Objective Value - Accepted Points 40 30 Objective 20 10 0 0 1000 2000 3000 4000 5000 6000 Steps Βέλτιστος Σχεδιασμός Κατασκευών 25 of 75
ΑΠΟΤΕΛΕΣΜΑΤΑ ΕΞΕΛΙΞΗ ΘΕΡΜΟΚΡΑΣΙΑΣ Evolution of T (K) 1.E+01 1.E+00 T (K) (logarithmic scale) 1.E-01 1.E-02 1.E-03 1.E-04 1.E-05 1.E-06 1.E-07 1.E-08 0 5 10 15 20 25 30 Epoch Βέλτιστος Σχεδιασμός Κατασκευών 26 of 75
ΑΠΟΤΕΛΕΣΜΑΤΑ ΒΕΛΤΙΣΤΗ ΤΙΜΗ ΑΝΤΙΚΕΙΜΕΝΙΚΗΣ ΣΤΟ ΤΕΛΟΣ ΚΑΘΕ ΕΠΟΧΗΣ 17.000 Evolution of Optimum Objective Value at the end of each Epoch 16.900 16.800 16.700 Objective 16.600 16.500 16.400 16.300 16.200 16.100 16.000 0 5 10 15 20 25 30 Epoch Βέλτιστος Σχεδιασμός Κατασκευών 27 of 75
ΑΠΟΤΕΛΕΣΜΑΤΑ ΧΡΟΝΙΚΗ ΕΞΕΛΙΞΗ ΤΗΣ ΘΕΣΗΣ ΤΩΝ ΛΥΣΕΩΝ (ΑΠΟΔΕΚΤΕΣ & ΒΕΛΤΙΣΤΕΣ ΛΥΣΕΙΣ) 2 Points in space 1.3 Optimal Points in space 1.5 1.2 Y 1 0.5 0-0.5-1 Y 1.1 1 0.9 0.8-1.5 0.7-2 0 1 2 3 4 X Αποδεκτές Λύσεις 0.6 0.5 1 1.5 2 X Βέλτιστες λύσεις Βέλτιστος Σχεδιασμός Κατασκευών 28 of 75
ΕΡΓΑΣΙΑ Βασιζόμενοι στο συγκεκριμένο πηγαίο κώδικα, να εξετάσετε την ευρωστία της μεθόδου για τις παρακάτω συνάρτησεις (χωρισμός σε 3 ομάδες εργασίας): A. Γενικευμένη Συνάρτηση του Rosenbrock n 1 ( ) ( 2 ) 2 x = 100 i+ 1 i + ( i 1) i= 1 { } x ( ) a x a i 1,..., n min f( ) = f 1,1,...,1 = 0 i f x x x Για n=2, α=100, x 1,o =5.0, y 1,o =10.0 Βέλτιστος Σχεδιασμός Κατασκευών 29 of 75
ΕΡΓΑΣΙΑ (συν.) B. Γενικευμένη Συνάρτηση του Schwefel n ( ) i sin i i { 1,..., } ( x) ( ) f = x x a x a i n i= 1 ( ) { } min f( x) = f 420.9687,..., 420.9687 = 12569.5 n= 30 Για n=2, α=500, x 1,o =20.0, y 1,o =-40.0 Βέλτιστος Σχεδιασμός Κατασκευών 30 of 75
ΕΡΓΑΣΙΑ (συν.) Γ. ΓενικευμένηΣυνάρτησητουAckley n 1 n 2 1 f ( x) = 20 exp 0.2 xi exp cos( 2 xi) 20 e n π + + i= 1 n i= 1 a x a i 1,..., n min f( ) = f 0,...,0 = 0 i { } x ( ) Για n=2, α=100, x 1,o =30.0, y 1,o =-10.0 Βέλτιστος Σχεδιασμός Κατασκευών 31 of 75
ΖΗΤΟΥΜΕΝΑ Να εξετάσετε την ευαισθησία του αλγορίθμου για: Διαφορετικά ζεύγη τιμών Τ,r Διαφορετικά σημεία εκκίνησης (μακρύτερα ή πλησιέστερα της θέσης της βέλτιστης τιμής) Διαφορετικα ζεύγη τιμών για τις παραμέτρους Ν S και Ν Τ όπως ορίζονται στον πηγαίο κώδικα Να διαμορφώσετε τον κώδικα ώστε η διαδικασία να τερματίζεται όταν η θερμοκράσια πέσει χαμηλότερα μίας τιμής κατωφλίου. Βέλτιστος Σχεδιασμός Κατασκευών 32 of 75
ΣΤΟΧΑΣΤΙΚΕΣ ΜΕΘΟΔΟΙ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ ΠΡΟΣΟΜΟΙΩΜΕΝΗ ΑΝΟΠΤΗΣΗ ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ ΣΥΝΕΞΕΛΙΚΤΙΚΕΣ ΜΕΘΟΔΟΙ ΕΞΕΛΙΚΤΙΚΕΣ ΣΤΡΑΤΗΓΙΚΕΣ Βέλτιστος Σχεδιασμός Κατασκευών 33 of 75
ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ - ΕΙΣΑΓΩΓΗ ΟΓ.Α. σε αντίθεση με άλλες μεθόδους βελτιστοποίησης, εξελίσσει ένα πλήθος πιθανών λύσεων (πληθυσμός λύσεων). Μέσω των τελεστών της μεθόδου ο πληθυσμός της τρέχουσας γενεάς χρησιμοποιείται για τη δημιουργία των ατόμων της επόμενης γενεάς. Στην κλασσική μορφή του Γ.Α. κάθε μ.σ., απεικονίζεται ως πεπερασμένη ακολουθία 0 και 1 (γονίδιο). Το σύνολο των γονιδίων αποτελεί ένα χρωμόσωμα. Κάθε χρωμόσωμα απεικονίζει μία πιθανή λύση μέσα στο χώρο σχεδιασμού του προβλήματος Βέλτιστος Σχεδιασμός Κατασκευών 34 of 75
ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ ΕΙΣΑΓΩΓΗ (συν.) 1001...01010 1001...01110 1011...01010 f ( 1001...01010) xi g( 1001...01110) yj h( 1011...01010) zk x i yi ε, yi, yi + ε Συνεχης Μεταβλητη z, z, z, k 1 k k+ 1 Μεταβλητη Φυσικων Αριθμων Διακριτή Μεταβλητή ε βήμα Τελεστές σε επίπεδο γονιδίων και απεικονίσεις Βέλτιστος Σχεδιασμός Κατασκευών 35 of 75
ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ ΑΠΕΙΚΟΝΙΣΗ ΛΥΣΗΣ 1001.01010 1001.01110 1001.01110 Χρωμόσωμα Ζ z k Χώρος Σχεδιασμού y j Υ x i Χ Βέλτιστος Σχεδιασμός Κατασκευών 36 of 75
ΔΙΑΔΙΚΑΣΙΑ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ Τα βήματα της μεθόδου συνοψίζονται ως: Βήμα 1: Καθορισμός παραμέτρων. (Μέγεθος πληθυσμού, Παράμετροι για επιλογή, διασταύρωση και μετάλλαξη. Κριτήρια σύγκλισης). Βήμα 2: Επιλογή αρχικού πληθυσμού. Βήμα 3: Υπολογισμός f(x o ). Έλεγχος σύγκλισης. Σε περίπτωση σύγκλισης Βήμα 9. Βήμα 4: Υπολογισμός της πιθανότητας επιλογής. Βήμα 5: Επιλογή βάσει της πιθανότητας επιλογής για τον πληθυσμό των γονέων. Βήμα 6: Σε περίπτωση διασταύρωσης Γ Τ και εφαρμογή του τελεστή μετάλλαξης κατά τη διαδιακασία αντιγραφής. Αντιθέτως Γ T. Βήμα 7: Εφόσον το πλήθος των τέκνων < πλήθους των γονέων επιστροφή στο Βήμα 3. Βήμα 8: Ορισμός τέκνων ως γονείς και επιστροφή στο Βήμα 3. Βήμα 9: Τερματισμός της διαδικασίας. Βέλτιστος Σχεδιασμός Κατασκευών 37 of 75
ΒΑΣΙΚΟΙ ΤΕΛΕΣΤΕΣ ΤΩΝ Γ.Α. ΤΕΛΕΣΤΗΣ ΕΠΙΛΟΓΗΣ ΤΕΛΕΣΤΗΣ ΔΙΑΣΤΑΥΡΩΣΗΣ ΤΕΛΕΣΤΗΣ ΜΕΤΑΛΛΑΞΗΣ Βέλτιστος Σχεδιασμός Κατασκευών 38 of 75
ΤΕΛΕΣΤΗΣ ΕΠΙΛΟΓΗΣ P i = N P f max j= 1 P Roulette Wheel Μέθοδος Κατανομής Ρουλέττας i ( x ) f i ( j ) = N P j= 1 x max N P j= 1 Pop Fitness f1 2.1 f2 1.4 f3 0.7 f4 2.3 f5 2.6 f6 1.2 f7 1.3 f8 1.5 f f P j ( x ) i ( x j ) = 1 f7, 1.3, 10% f6, 1.2, 9% f5, 2.6, 20% f8, 1.5, 11% Fitness f1, 2.1, 16% f4, 2.3, 18% f2, 1.4, 11% f3, 0.7, 5% Βέλτιστος Σχεδιασμός Κατασκευών 39 of 75
ΤΕΛΕΣΤΗΣ ΕΠΙΛΟΓΗΣ Ranking Scheme Μέθοδος Σχετικής Θέσης P i = N max ( Np + 1 i) P ( Np + 1 j) j= 1 P i = 2 N + 1 p f7 8% Fitness - Ranking Scheme f8 14% f1 17% f2 11% f6 6% Pop Fitness Rank Np+1-Rank f1 2.1 3 6 f2 1.4 5 4 f3 0.7 8 1 f4 2.3 2 7 f5 2.6 1 8 f6 1.2 7 2 f7 1.3 6 3 f8 1.5 4 5 f5 22% f4 19% f3 3% Βέλτιστος Σχεδιασμός Κατασκευών 40 of 75
ΤΕΛΕΣΤΗΣ ΕΠΙΛΟΓΗΣ Tournament Selection - Μέθοδος Επιλογής με αγώνα Aπό k επιλεγμένα άτομα κατά τυχαίο τρόπο τα n πιο εύρωστα επιλέγονται για διασταύρωση. Tο μέγεθος των μεταβλητών k και n ελέγχει την πιθανότητα επιλογής των πιο εύρωστων ατόμων. NP k max 1 n { Pi} = P N = P 1 1 j= 1 Np j Η πιθανότητα επιλογής των k-n λιγότερο εύρωστων ατόμων είναι ίση με το μηδέν. Βέλτιστος Σχεδιασμός Κατασκευών 41 of 75
ΤΕΛΕΣΤΗΣ ΕΠΙΛΟΓΗΣ Breading Selection Επιλογή «Εκτροφής» Μόνον σε k από τα Ν άτομα ορίζεται μη μηδενική πιθανότητα επιλογής. max { P} i = 1 k Η πιθανότητα επιλογής των Ν-k λιγότερο εύρωστων ατόμων είναι ίση με το μηδέν. Βέλτιστος Σχεδιασμός Κατασκευών 42 of 75
ΤΕΛΕΣΤΗΣ ΕΠΙΛΟΓΗΣ Red Queen Επιλογή «Κόκκινης Βασίλισσας» Το περισσότερο εύρωστο άτομο επιλέγεται πάντα ως ένας εκ των 2 γονέων (Βασίλισσα). Ο άλλος γονέας επιλέγεται κατά τυχαίο τρόπο από τον πληθυσμό (με ή χωρίς τη συμμετοχή της Βασίλλισας). { } max P = 1 i 1 1 = i = N 1 N { P} { P} i Βέλτιστος Σχεδιασμός Κατασκευών 43 of 75
ΣΥΓΚΡΙΣΗ ΤΕΛΕΣΤΩΝ ΕΠΙΛΟΓΗΣ Η πιθανότητα επιλογής είναι συνάρτηση και της απόλυτης απόδοσης (RW) Η πιθανότητα επιλογής είναι ανεξάρτητη της απόλυτης απόδοσης και εξαρτάται μόνον από τη σχετική θέση του ατόμου στον πληθυσμό (RS + TS +BS + RQ) Γιατοσύνολοτωνατόμωνστονπληθυσμό ορίζεται μία πιθανότητα επιλογής (RW + RS + RQ) Για N-k άτομα η πιθανότητα επιλογής είναι ίση με το μηδέν (BS) Για k-n άτομα η πιθανότητα επιλογής είναι ίση με το μηδέν (TS) Βέλτιστος Σχεδιασμός Κατασκευών 44 of 75
ΤΕΛΕΣΤΗΣ ΔΙΑΣΤΑΥΡΩΣΗΣ (Crossover) Η διαδικασία ανάμιξης του γενετικού υλικού k γονέων για την παραγωγή l ατόμων που θα αποτελέσουν και τα άτομα της επόμενης γενεάς. Μέθοδοι Διασταύρωσης: Διασταύρωση Μονού Σημείου, Single Point Crossover (SPC) Διασταύρωση Διπλού Σημείου, Double Point Crossover (DPC) Διασταύρωση Μονού Σημείου ανά μεταβλητή σχεδιασμού Single Point Crossover per Variable (SPCV) Διασταύρωση Πολλαπλού Σημείου, Multi Point Crossover (MPC) Διασταύρωση με χρήση μάσκας, Uniform Crossover (UC) Βέλτιστος Σχεδιασμός Κατασκευών 45 of 75
Διασταύρωση Μονού Σημείου Βέλτιστος Σχεδιασμός Κατασκευών 46 of 75
Διασταύρωση Διπλού Σημείου Βέλτιστος Σχεδιασμός Κατασκευών 47 of 75
Διασταύρωση Μονού Σημείου ανά μεταβλητή σχεδιασμού 1 1 1 0 1 0 0 1 1 1 0 0 1 1 1 0 1 0 0 0 1 1 0 0 1 0 1 0 1 1 0 0 1 1 0 1 1 0 1 0 1 1 0 1 1 1 0 1 ΓΟΝΕΙΣ ΤΕΚΝΑ Βέλτιστος Σχεδιασμός Κατασκευών 48 of 75
Διασταύρωση Πολλαπλού Σημείου 1 1 1 0 1 0 0 1 1 1 0 0 1 1 1 0 1 1 0 1 1 1 0 1 1 0 1 0 1 1 0 0 1 1 0 1 1 0 1 0 1 0 0 0 1 1 0 0 ΓΟΝΕΙΣ ΤΕΚΝΑ Βέλτιστος Σχεδιασμός Κατασκευών 49 of 75
Διασταύρωση με χρήση Μάσκας ΓΟΝΕΙΣ Μάσκα 1 1 1 0 1 0 0 1 1 1 0 0 1 0 1 0 1 1 0 0 1 1 0 1 0 1 1 0 1 0 0 1 1 0 0 0 1 0 1 0 1 0 0 0 1 1 0 0 1 1 1 0 1 1 0 1 1 1 0 1 ΓΟΝΕΙΣ Βέλτιστος Σχεδιασμός Κατασκευών 50 of 75
ΤΕΛΕΣΤΗΣ ΔΙΑΣΤΑΥΡΩΣΗΣ Στις προηγούμενες διαφάνειες ορίζεται ότι το πλήθος των τέκνων ισούνται με το πλήθος των γονέων. Παραλλαγές επό του θέματος: Πλήθος τέκνων < Πλήθος των Γονέων» Με επιλογή του περισσότερο εύρωστου τέκνου (ή τέκνων) για την επόμενη γενεά.» Κατά τυχαίο τρόπο. Πλήθος τέκνων > Πλήθος των Γονέων» Με επιλογή στο τέλος της διαδικασίας των Ν πιο εύρωστων τέκνων.» Με επιλογή των Ν Γ περισσότερο εύρωστων τέκνων.» Κατά τυχαίο τρόπο. Βέλτιστος Σχεδιασμός Κατασκευών 51 of 75
ΤΕΛΕΣΤΗΣ ΜΕΤΑΛΛΑΞΗΣ Η διαδικασία εισαγωγής κατά τυχαίο τρόπο λαθών στην αντιγραφή του γενετικού υλικού κατά τη φάση της διασταύρωσης 1 1 1 0 1 0 0 1 1 1 0 0 1 1 1 0 0 1 0 1 1 1 0 1 1 0 1 0 1 1 0 0 1 1 0 1 1 0 1 0 1 0 0 0 1 1 0 0 ΓΟΝΕΙΣ ΤΕΚΝΑ Βέλτιστος Σχεδιασμός Κατασκευών 52 of 75
ΕΛΙΤΙΣΜΟΣ Η διαδικασία με την οποία πλήθος L γονέων (με την υψηλότερη ευρωστία) περνούν αυτούσιοι στην επόμενη γενεά. Εξασφαλίζεται ότι η γενετική πληροφορία του περισσότερο εύρωστου άτομου (ή ατόμων ελίτ) δεν θα χαθεί κατά τη διάρκεια της βελτιστοποίησης. Βέλτιστος Σχεδιασμός Κατασκευών 53 of 75
ΚΡΙΤΗΡΙΑ ΣΥΓΚΛΙΣΗΣ ΓΟΝΟΤΥΠΙΚΑ Ομοιογένεια του πληθυσμού ΦΑΙΝΟΤΥΠΙΚΑ Διασπορά των τιμών της αντικειμενικής συνάρτησης ΜΙΚΤΑ Συνδυασμός των άνω ΠΛΗΘΟΣ ΓΕΝΕΩΝ Ν gen <=N g,l Βέλτιστος Σχεδιασμός Κατασκευών 54 of 75
ΔΙΑΔΙΚΑΣΙΑ ΑΛΓΟΡΙΘΜΟΥ Ορισμός, Ν, P cr, P m Δημιουργία Αρχικού Πληθυσμού Υπολογισμός f(x i ) Υπολογισμός Ευρωστίας F(x i ) Α Τελικός Πληθυσμός ΝΑΙ Σύγκλιση ΟΧΙ ΤΕΛΟΣ Β Βέλτιστος Σχεδιασμός Κατασκευών 55 of 75
ΔΙΑΔΙΚΑΣΙΑ ΑΛΓΟΡΙΘΜΟΥ (συν) Β Υπολόγισμος Πιθανότητας Επιλογής P cr z ΟΧΙ ΝΑΙ Γ Τ ΟΧΙ Επιλογή Γονέων Διασταύρωση Μετάλλαξη Ν Τ <Ν Γ Ελιτισμός ΝΑΙ L Γ Τ Α Ν Τ =Ν Γ Επ. Γενεά Βέλτιστος Σχεδιασμός Κατασκευών 56 of 75
ΠΑΡΑΔΕΙΓΜΑΤΑ ΕΦΑΡΜΟΓΗΣ Πηγαίος Κώδικας από Carroll D.L. Carroll, D. L., "Chemical Laser Modeling with Genetic Algorithms, AIAA J., Vol. 34, 2, 1996, pp.338-346. Ο πηγαίος κώδικας σε FORTRAN βρίσκεται στο http://cuaerospace.com/carroll/ga.html Βέλτιστος Σχεδιασμός Κατασκευών 57 of 75
Goldberg and Richardson function n ( ) ( ( ) ) Nvalley f x1,, xn = sin 5 π xi + 0.5 exp 4 ln ( 2) i= 1 2 xi 3 0.64 2 Goldberg, D. E., and Richardson, J., "Genetic Algorithms with Sharing for Multimodal Function Optimization," Genetic Algorithms and their Applications: Proceedings of the Second International Conference on Genetic Algorithms, 1987, pp. 41-49. Βέλτιστος Σχεδιασμός Κατασκευών 58 of 75
Αρχείο ga.inp (Βασική Ανάλυση) irestrt=0, microga=0, npopsiz= 50, nparam= 2, pmutate=0.02d0, maxgen=200, idum=-1000, pcross=0.6d0, itourny=1, ielite=1, icreep=0, pcreep=0.04d0, iunifrm=0, iniche=0, nchild=2, iskip= 0, iend= 0, nowrite=1, kountmx=5, parmin= 2*0.0d0, parmax= 2*1.0d0, nposibl=2*32768, nichflg=2*0, Βέλτιστος Σχεδιασμός Κατασκευών 59 of 75
Αποτελέσματα Βασικής Ανάλυσης Evolution of Maximum and Average Fitness - Normal-1 1.20E+00 1.00E+00 8.00E-01 Fitness 6.00E-01 4.00E-01 Avg.Fitness Best Fitness 2.00E-01 0.00E+00 0.00E+00 2.00E+03 4.00E+03 6.00E+03 8.00E+03 1.00E+04 1.20E+04 Function Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 60 of 75
Αποτελέσματα Ανάλυσης για P cr Evolution of Average Fitness 1.00E+00 9.00E-01 8.00E-01 7.00E-01 Fitness 6.00E-01 5.00E-01 4.00E-01 3.00E-01 Average Pcr=60% Average Pcr=70% Average Pcr=80% 2.00E-01 1.00E-01 0.00E+00 0.00E+00 2.00E+03 4.00E+03 6.00E+03 8.00E+03 1.00E+04 1.20E+04 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 61 of 75
Αποτελέσματα Ανάλυσης για P cr (συνέχεια) Evolution of Max Fitness 1.20E+00 1.00E+00 8.00E-01 Fitness 6.00E-01 Max Pcr=60% Max Pcr=70% Max Pcr=80% 4.00E-01 2.00E-01 0.00E+00 0.0E+00 2.0E+02 4.0E+02 6.0E+02 8.0E+02 1.0E+03 1.2E+03 1.4E+03 1.6E+03 1.8E+03 2.0E+03 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 62 of 75
Αποτελέσματα Ανάλυσης για P m Evolution of Average Fitness 1.20E+00 1.00E+00 Fitness 8.00E-01 6.00E-01 4.00E-01 Average Pm=2% Average Pm=1% Average Pm=3% Average Pm=4% Average Pm=5% Average Pm=6% 2.00E-01 0.00E+00 0.00E+00 2.00E+03 4.00E+03 6.00E+03 8.00E+03 1.00E+04 1.20E+04 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 63 of 75
Αποτελέσματα Ανάλυσης για P m (συνέχεια) Evolution of Average Fitness 1.10 1.00 0.90 Fitness 0.80 0.70 0.60 0.50 0.40 Max Pm=2% Max Pm=1% Max Pm=3% Max Pm=4% Max Pm=5% Max Pm=6% 0.30 0.20 0 200 400 600 800 1000 1200 1400 1600 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 64 of 75
Αποτελέσματα Ανάλυσης για N popsize Evolution of Average Fitness 1.20 1.00 0.80 Fitness 0.60 0.40 Average Npop = 50 Average Npop = 25 Average Npop = 100 0.20 0.00 0 5000 10000 15000 20000 25000 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 65 of 75
Αποτελέσματα Ανάλυσης για N popsize (συνέχεια) Evolution of Max Fitness 1.10 1.00 0.90 0.80 Fitness 0.70 0.60 Max Npop = 50 Max Npop = 25 Max Npop = 100 0.50 0.40 0.30 0.20 0 200 400 600 800 1000 1200 1400 1600 1800 2000 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 66 of 75
Αποτελέσματα Ανάλυσης για Seed Number Evolution of Average Fitness 1.0 0.9 0.8 0.7 Fitness 0.6 0.5 0.4 0.3 0.2 Average Idum = -1000 Average Idum = -2000 Average Idum = -3000 Average Idum = -4000 0.1 0.0 0.0 2000.0 4000.0 6000.0 8000.0 10000.0 12000.0 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 67 of 75
Αποτελέσματα Ανάλυσης για Seed Number (συνέχεια) Evolution of Max Fitness 1.1 1.0 0.9 0.8 Fitness 0.7 0.6 0.5 0.4 0.3 Max Idum = -2000 Max Idum = -3000 Max Idum = -1000 Max Idum = -4000 0.2 0.0 100.0 200.0 300.0 400.0 500.0 600.0 700.0 800.0 900.0 1000.0 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 68 of 75
Αποτελέσματα Ανάλυσης για Ελιτισμό Evolution of Average Fitness 1.0 0.9 0.8 0.7 Fitness 0.6 0.5 0.4 0.3 Average Elitism Average No Elitism 0.2 0.1 0.0 0.0 2000.0 4000.0 6000.0 8000.0 10000.0 12000.0 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 69 of 75
Αποτελέσματα Ανάλυσης για Ελιτισμό (συνέχεια) Evolution of Max Fitness 1.1 1.0 0.9 0.8 Fitness 0.7 0.6 Max Elitism Max No Elitism 0.5 0.4 0.3 0.2 0.0 200.0 400.0 600.0 800.0 1000.0 1200.0 1400.0 1600.0 1800.0 2000.0 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 70 of 75
Αποτελέσματα Ανάλυσης για Όρια Χώρου Σχεδιασμού 1.0 Evolution of Average Fitness 0.9 0.8 0.7 0.6 Fitness 0.5 0.4 0.3 Average Narrow Range Average Wide Range 0.2 0.1 0.0 0 2000 4000 6000 8000 10000 12000 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 71 of 75
Αποτελέσματα Ανάλυσης για Όρια Χώρου Σχεδιασμού 1.2 Evolution of Max Fitness 1.0 0.8 Fitness 0.6 Max Narrow Range Max Wide Range 0.4 0.2 0.0 0 200 400 600 800 1000 1200 1400 1600 1800 2000 Evaluations Βέλτιστος Σχεδιασμός Κατασκευών 72 of 75
Βιβλιογραφία Goldberg, D.E., (1989) Genetic Algorithms in Search, Optimization and Machine Learning, Addison-Wesley, Reading, MA, U.S.A. Holland, J.H., (1975) Adaptation in Natural and Artificial Systems The University of Michigan Press, Ann Arbor, MI. Davis, L., (1991) Handbook of Genetic Algorithms, Van Nostrand Reinhold, New York, USA De Jong, K.A., Spears, W.M., (1992) A Formal Analysis of the Role of Multi-point Crossover in Genetic Algorithms, Annals of Mathematics and AI Journal, 5(1):1-26. Βέλτιστος Σχεδιασμός Κατασκευών 73 of 75
Βιβλιογραφία Grefenstette, J.J., (1992) Deception Considered Harmful, In Foundations of Genetic Algorithms 2, L. Darrell Whitley, (eds), 75-92. San Mateo, CA: Morgan Kaufmann. Koumousis, V.K., Georgiou, P.G., (1994) Genetic Algorithms in Discrete Optimization of Steel Truss Roofs, Journal of Computing in Civil Engineering, 8(3):309-325. Greenwell, R.N., Angus, J.E., Finck, M., (1995) Optimal mutation probability for Genetic Algorithms, Mathematical Computational Modeling, 21(8):1-11. Erbatur, F., Hasançebi, O., Tütüncü, I., Kõlõç, H., (2000) Optimal design of planar and space structures with genetic algorithms Computers & Structures, 75:209-224. Βέλτιστος Σχεδιασμός Κατασκευών 74 of 75
Βιβλιογραφία Nanakorn, P., Meesomklin, K., (2001) An adaptive penalty function in genetic algorithms for structural design optimization, Computers & Structures, 79(29-30):2527-2539. Hong, T.P., Wang, H.S., Lin, W.Y., Lee, W.Y., (2002) Evolution of Appropriate Crossover and Mutation Operators in a Genetic Process, Applied Intelligence, 16:7-17. Kwon, Y.D., Kwon, S.B., Jin, S.B., Kim, J.Y., (2003) Convergence enhanced genetic algorithm with successive zooming method for solving continuous optimization problems, Computers & Structures, 81:1715-1725 Βέλτιστος Σχεδιασμός Κατασκευών 75 of 75