KΕΦΑΛΑΙΟ 5 Υπολογιστικές Μέθοδοι Βελτιστοποίησης Χωρίς Περιορισµούς 5.1 ΕΙΣΑΓΩΓΗ Ζητούνται οι τιµές των µεταβλητών απόφασης που ελαχιστοποιούν την αντικειµενική συνάρτηση min f(x) x R n x Στα περισσότερα πρακτικά προβλήµατα η αντικειµενική συνάρτηση έχει πολύπλοκη µορφή γεγονός που καθιστά προβληµατική την εφαρµογή των αναλυτικών µεθόδων που ήδη αναπτύχθηκαν. Στο παρόν Κεφάλαιο 5 η παρουσίαση υπολογιστικών µεθόδων θα περιοριστεί στο πρόβληµα χωρίς περιορισµούς, αν και είναι αληθές ότι σπάνια στην πράξη οι µεταβλητές απόφασης είναι αδέσµευτες. Όµως η περίπτωση χωρίς περιορισµούς είναι σηµαντική για τους εξής λόγους: (1) στην περιοχή του ακρότατου πολλά προβλήµατα µπορεί να αντιµετωπιστούν χωρίς περιορισµούς, () πολλά προβλήµατα µε περιορισµούς µετασχηµατίζονται σε άλλα χωρίς περιορισµούς, (3) η κατανόηση των υπολογιστικών µεθόδων χωρίς περιορισµούς είναι απαραίτητη για τη γενίκευση τους σε προβλήµατα µε περιορισµούς. Οι υπολογιστικές τεχνικές βελτιστοποίησης χωρίς περιορισµούς µπορεί να καταταγούν σε δύο κατηγορίες: µέθοδοι άµεσης αναζήτησης και µέθοδοι καθόδου. Οι µέθοδοι άµεσης αναζήτησης απαιτούν µόνο τον υπολογισµό της αντικειµενικής συνάρτησης και δε χρησιµοποιούν τις µερικές παραγώγους της για τον εντοπισµό του ακρότατου. Γι αυτό συχνά ονοµάζονται και µέθοδοι χωρίς κλίση (κατεύθυνση) και είναι λιγότερο αποτελεσµατικές. Οι µέθοδοι καθόδου (ή µέθοδοι κλίσης) απαιτούν υπολογισµό της συνάρτησης αλλά και των παραγώγων της (πρώτης και πιθανώς ανώτερης τάξης). Επειδή χρησιµοποιούν περισσότερες πληροφορίες εντοπίζουν ταχύτερα τα ακρότατα. Όλες οι υπολογιστικές τεχνικές είναι από τη φύση τους επαναληπτικές, δηλαδή εκκινούν από µια αρχική λύση (σηµείο) και διαδοχικά προχωρούν προς το σηµείο ακρότατου µε δοκιµές. Οι διαφορές ανάµεσα στις διάφορες µεθόδους
έγκεινται στο πως επιλέγουν σε ποια κατεύθυνση θα συνεχίσει η έρευνα και πόσο θα είναι το βήµα σε αυτή την κατεύθυνση. 5. ΕΠΑΝΑΛΗΠΤΙΚΕΣ ΜΕΘΟ ΟΙ ΓΙΑ ΣΥΝΑΡΤΗΣΕΙΣ ΜΙΑΣ ΜΕΤΑΒΛΗΤΗΣ Η γενική ιδέα είναι το νέο σηµείο ελέγχου για ακρότατο να προκύπτει από την επαναληπτική σχέση x k+1 = x k + α k (x k ) ώστε f(x k+1 ) < f(x k ), όπου α k είναι το βήµα. Ορισµένες ειδικές περιπτώσεις είναι: 5..1 Ανοικτή αναζήτηση Παράδειγµα 5.1 x/ x Ζητείται να µεγιστοποιηθεί η συνάρτηση f(x) = - x + 3 x > χωρίς περιορισµούς αρχίζοντας τις επαναλήψεις από το σηµείο x 0 = -1 Η συνάρτηση απεικονίζεται στο Σχήµα 5.1 και είναι φανερό ότι δεν είναι παραγωγίσιµη στο σηµείο του ακροτάτου. Εποµένως το ακρότατο δεν µπορεί να εντοπιστεί µε αναλυτική διαδικασία και πρέπει να χρησιµοποιηθούν αριθµητικές µέθοδοι. Σταθερό βήµα s = 0.4 x k+1 = x k + 0.4 k 0 1 1 3 4 5 6 7 8 x k -1-1.4-0.6-0. 0. 0.6 1 1.4 1.8. f(x k ) -0.5-0.7-0.3-0.1 0.1 0.3 0.5 0.7 0.9 0.8 Η κατεύθυνση αναζήτησης προσδιορίζεται για k = 1 προς µεγαλύτερες τιµές του x. Η συνάρτηση διαρκώς βελτιώνεται (αυξάνει) µέχρι το k = 8. Εντοπίζεται η θέση του µεγίστου στο διάστηµα (1.8,.) όπου απαιτείται λεπτοµερέστερη έρευνα µε µικρότερο βήµα. Επιταχυνόµενο βήµα s 0 = 0. x k+1 = x k + s k s k+1 = s k k 0 1 3 4 5 s k 0. 0.4 0.8 1.6 3. 6.4 x k -1-0.8-0.4 0.4.0 5. f(x k ) -0.5-0.4-0. 0. 1.0 -. Η συνάρτηση διαρκώς βελτιώνεται (αυξάνει) µέχρι το k = 4. Εντοπίζεται η θέση του µεγίστου στο διάστηµα (.0, 5.) όπου απαιτείται λεπτοµερέστερη έρευνα.
3 1. 0.8 0.4 0-1 0 1 3 4-0.4-0.8 Σχήµα 5.1. Μεγιστοποίηση µη παραγωγίσιµης συνάρτησης 5.. Εξαντλητική αναζήτηση Παράδειγµα 5. Ζητείται να µεγιστοποιηθεί η συνάρτηση f(x) = x (1.5 x) χωρίς περιορισµούς στο διάστηµα [0,1] µε ακρίβεια ενός δεκαδικού για το διάστηµα. s = (1 0)/10 = 0.1 k 0 1 3 4 5 6 7 8 9 x k 0 0.1 0. 0.3 0.4 0.5 0.6 0.7 0.8 0.9 f(x k ) 0 0.14 0.6 0.36 0.44 0.50 0.54 0.56 0.56 0.54 Εντοπίζεται η θέση του µεγίστου στο διάστηµα (0.6, 0.9) όπου απαιτείται λεπτοµερέστερη έρευνα. 5..3 Αναζήτηση µε διαίρεση του διαστήµατος Η τεχνική αυτή βασίζεται στον υπολογισµό των τιµών της συνάρτησης στα άκρα του διαστήµατος ορισµού και σε δύο ενδιάµεσα σηµεία. Ανάλογα µε τις τιµές αυτές επιλέγεται ένα µικρότερο διάστηµα στο οποίο τεκµηριωµένα υπάρχει το ακρότατο της συνάρτησης. Στο διάγραµµα απεικονίζονται οι τιµές της f(x) στα ακραία σηµεία x 1 και x 3 και στο ενδιάµεσο σηµείο x. Προκειµένου το ελάχιστο της f(x) να είναι στο διάστηµα [x 1, x 3 ], πρέπει να ισχύει για τις τιµές της συνάρτησης f(x): f 1 > f και f 3 > f. Εξετάζεται τώρα ένα ακόµη ενδιάµεσο σηµείο x 4 και υπάρχουν δύο περιπτώσεις: α) f 4α > f οπότε το ελάχιστο κείται στο διάστηµα [x 1, x 4 ] (Σχήµα 5. αριστερά) και β) f 4β < f οπότε το ελάχιστο κείται στο διάστηµα [x, x 3 ] (Σχήµα 5. δεξιά) Σε κάθε περίπτωση εντοπίζεται ένα µικρότερο διάστηµα που περιέχει το σηµείο που ελαχιστοποιεί τη συνάρτηση και συνεχίζεται η διαδικασία.
Ανάλογα µε τον τρόπο επιλογής των ενδιάµεσων σηµείων x και x 4, παρουσιάζονται οι εξής δύο µέθοδοι: 1) µέθοδος διχοτόµησης του διαστήµατος ) µέθοδος της χρυσής τοµής Για µεγιστοποίηση της συνάρτησης f(x) τα ανωτέρω προσαρµόζονται αντίστοιχα. f 1 f f 3 f 4α f 1 f f 3 f 4β X 1 X X 4 X 3 X 1 X X 4 X 3 Σχήµα 5.. Αναζήτηση µε διαίρεση του διαστήµατος 5..3.1 Μέθοδος διχοτόµησης του διαστήµατος Παράδειγµα 5.3α Ζητείται να µεγιστοποιηθεί η συνάρτηση f(x) = x (1.5 x) χωρίς περιορισµούς στο διάστηµα [0, 1] µε έλεγχο των σηµείων s/ ± δ (µέσο διαστήµατος ± δ), όπου δ = 0.0005. Στα ακραία σηµεία οι τιµές της f(x) είναι: f(0) = 0, f(1) = 0.5. k = 1 s/ = (1-0)/ = 0.5 x 1- = 0.5-0.0005 = 0.4995 f = 0.49975 x 1+ = 0.5 + 0.0005 = 0.5005 f = 0.5005 η αναζήτηση συνεχίζεται στο διάστηµα [0.4995, 1] k = s/ = 0.4995 +(1-0.4995)/ = 0.74975 x - = 0.74975-0.0005 = 0.7495 f = 0.564994 x + = 0.74975 + 0.0005 = 0.7505 f = 0.564999 η αναζήτηση συνεχίζεται στο διάστηµα [0.7495, 1] k = 3 s/ = 0.7495 +(1-0.7495)/ = 0.87465 x - = 0.87465-0.0005 = 0.87415 f = 0.54709984
x + = 0.87465 + 0.0005 = 0.87515 f = 0.546843734 η αναζήτηση συνεχίζεται στο διάστηµα [0.7495, 0.87515] 5 k = 4 s/ = 0.7495 +(0.87515-0.7495)/ = 0.811875 x - = 0.811875-0.0005 = 0.8116875 f = 0.55869465 x + = 0.811875 + 0.0005 = 0.816875 f = 0.55857077 η αναζήτηση συνεχίζεται στο διάστηµα [0.7495, 0.816875] k = 5 s/ = 0.7495 +(0.8116875-0.7495)/ = 0.78046875 x - = 0.78046875-0.0005 = 0.77996875 f = 0.561601874 x + = 0.78046875 + 0.0005 = 0.78096875 f = 0.561540937 η αναζήτηση συνεχίζεται στο διάστηµα [0.7495, 0.77996875] εδοµένου ότι το απόλυτο µέγιστο για τη συνάρτηση υπολογίζεται αναλυτικά ότι είναι στο σηµείο x = 0.75 και έχει τιµή f * = 0.565, η διαδικασία προχωρά στη σωστή κατεύθυνση και για k = 10 εντοπίζει το ακρότατο µε ακρίβεια τέταρτου δεκαδικού ψηφίου (x = 0.7504111, f * = 0.5649994). 5..3. Μέθοδος της χρυσής τοµής Όπως φαίνεται στο Σχήµα 5. το νέο διάστηµα αναζήτησης θα είναι είτε το [x 1, x 4 ] µήκους a+c είτε το [x, x 3 ] µήκους b. Η µέθοδος της χρυσής τοµής απαιτεί τα διαστήµατα αυτά να είναι ίσα, ώστε η ταχύτητα σύγκλισης να παραµένει ίδια ανεξάρτητα από το διάστηµα που θα επιλεγεί. εδοµένου ότι a = x x 1, b = x 3 x και c = x 4 x η συνθήκη a+c = b ισοδυναµεί µε x x 1 + x 4 x = x 3 x ή x 4 = x 1 x + x 3 (5.1) Με τον τύπο αυτόν υπολογίζεται το σηµείο x 4. Για το σηµείο x η µέθοδος απαιτεί το διάστηµα ελέγχου της συνάρτησης να µικραίνει µε την ίδια σταθερή αναλογία σε κάθε επανάληψη. Εάν το διάστηµα αυτό είναι το [x 1, x 4 ] πρέπει ο λόγος των αποστάσεων του x από τα x 1 και x 4 και από τα x 1 και x 3 να είναι σταθερός, δηλαδή c / a = a / b (5.) Εάν το διάστηµα είναι το [x, x 3 ] πρέπει ο λόγος των αποστάσεων του x 4 από τα x και x 3 και από τα x 1 και x 3 να είναι σταθερός, δηλαδή c / (b - c) = a / b (5.3) Έστω φ = b / a, τότε αντικαθιστώντας c = a / φ στην (5.3): (a / φ) / (b (a / φ)) = 1/ φ a / φ = 1/φ (b - (a / φ)) 1 = (φ - 1/φ) φ - φ - 1 = 0 (5.4) Η θετική λύση της (5.4) είναι η «χρυσή αναλογία» φ = 1 + 5 1/ / = 1.618 Το x υπολογίζεται από τη φ = b / a = (x 3 - x )/ (x x 1 ) φ (x x 1 ) = (x 3 - x ) (1+φ) x = x 3 + φ x 1
x = φ/(1+φ) x 1 + 1/(1+φ) x 3 (5.5) και το x 4 αντικαθιστώντας τη (5.5) στη (5.1) x 4 = x 1 x + x 3 = x 1 φ/(1+φ) x 1-1/(1+φ) x 3 + x 3 x 4 = 1/(1+φ) x 1 + φ/(1+φ) x 3 (5.6) Εάν ε είναι η παράµετρος ανοχής, ως συνθήκη τερµατισµού του αλγορίθµου συνιστάται η εξής: x 4 - x 1 < ε ( x + x 3 ) Παράδειγµα 5.3β Ζητείται να µεγιστοποιηθεί η συνάρτηση f(x) = x (1.5 x) χωρίς περιορισµούς στο διάστηµα [0, 1] µε τη µέθοδο της χρυσής τοµής και παράµετρο ανοχής ε = 0.001. Στα ακραία σηµεία οι τιµές της f(x) είναι: f(0) = 0, f(1) = 0.5. k = 1 x = 0.38197 f = 0.4705 x 4 = 0.61803 f = 0.54508 η αναζήτηση συνεχίζεται στο διάστηµα [0.38197, 1] k = x = 0.61803 f = 0.54508 x 4 = 0.76393 f = 0.5631 η αναζήτηση συνεχίζεται στο διάστηµα [0.61803, 1] k = 3 x = 0.76393 f = 0.5631 x 4 = 0.85410 f = 0.55166 η αναζήτηση συνεχίζεται στο διάστηµα [0.61803, 0.85410] k = 4 x = 0.7080 f = 0.56075 x 4 = 0.76393 f = 0.5631 η αναζήτηση συνεχίζεται στο διάστηµα [0.7080, 0.85410] Έλεγχος συνθήκης τερµατισµού: x 4 - x 1 < ε ( x + x 3 ) 0.76393-0.61803 = 0.09017 > 0.001 (0.708+0.8541) = 0.00156 Συνεπώς η διαδικασία συνεχίζεται όπως φαίνεται στον πίνακα. k=1 k= k=3 k=4 k=5 k=1 k=13 k=14 x 1 0 0.38197 0.61803 0.61803 0.708 0.74767 0.74767 0.74886 x 3 1 1 1 0.8541 0.8541 0.757 0.75078 0.75078 x 0.38197 0.61803 0.76393 0.708 0.76393 0.74959 0.74886 0.74959 x 4 0.61803 0.76393 0.8541 0.76393 0.79837 0.75078 0.74959 0.75004 συνθ - - - - - - - OK f(x 1 ) 0 0.4705 0.54508 0.54508 0.56075 0.5649 0.5649 0.565 f(x 3 ) 0.5 0.5 0.5 0.55166 0.55166 0.5649 0.565 0.565 f(x ) 0.4705 0.54508 0.5631 0.56075 0.5631 0.565 0.565 0.565 f(x 4 ) 0,54508 0,5631 0,55166 0,5631 0,56016 0,565 0,565 0,565
7 Έλεγχος συνθήκης τερµατισµού στη 14 η επανάληψη: x 4 - x 1 < ε ( x + x 3 ) 0.75004-0.74886 = 0.00073 < 0.001(0.74959+0.75078) = 0.0015 Συνεπώς η διαδικασία τερµατίζεται. 5..4 Αναζήτηση µε τετραγωνική παρεµβολή Η συνάρτηση f(x) που απαιτείται να ελαχιστοποιηθεί προσεγγίζεται µε µια τετραγωνική συνάρτηση (παραβολή) της µορφής h(x) = a + b x + c x για την οποία είναι γνωστό ότι 1) η αναγκαία συνθήκη για ελάχιστο είναι d h b = b + cx = 0 x * = και c d h ) η ικανή συνθήκη για ελάχιστο είναι = c > 0 Για τον υπολογισµό των σταθερών a, b, και c χρειάζεται να υπολογιστεί η συνάρτηση σε τρία σηµεία. Έστω Α, Β, και C τα σηµεία στα οποία η f(x) παίρνει τις τιµές f A, f B, και f C. Αντικαθιστώντας στην h(x): f A = a + b A + c A f B = a + b B + c B f C = a + b C + c C Η επίλυση αυτού του συστήµατος δίνει: f ABC(C B) + f BCA(C A) + fcab(b A) a = (A B)(B C)(C A) f + + A (B C ) f B(C A ) fc (A - B ) b = (A B)(B C)(C A) fa (B C) + f B(C A) + fc(a - B) c = (A B)(B C)(C A) Το ελάχιστο της h(x) προκύπτει (εφόσον c > 0) στη θέση * b 1 f + + A (B C ) f B(C A ) fc(a - B ) x = = c f A (B C) + f B(C A) + fc(a - B) Για να εφαρµοστεί η µέθοδος τα σηµεία Α, Β, και C λαµβάνονται σαν 0, t, και t αντίστοιχα όπου t είναι το προεπιλεγµένο βήµα δοκιµών. Συνήθως το Α λαµβάνεται καταρχήν ίσο µε 0. Οι τιµές της συνάρτησης f(x) πρέπει να είναι f A > f B και f C > f B ώστε το ελάχιστο της h(x) να είναι στο διάστηµα [Α, C].
Παράδειγµα 5.4 Ζητείται να ελαχιστοποιηθεί η συνάρτηση min f(x) = x 5-5x 3-0x + 5, µε αναζήτηση µε τετραγωνική παρεµβολή χρησιµοποιώντας βήµα δοκιµών t = 0.5 και Α = 0 Επανάληψη 1 f A = f(0) = 5 f B = f(t) = f(0.5) = -5.59375 < f Α ΟΚ f C = f(t) = f(1) = -19.0 < f B δεν ικανοποιεί Θέτουµε f A = f(0) = 5 f B = f(t) = f(1) = -19.0 < f Α ΟΚ f C = f(4t) = f() = -43.0< f B δεν ικανοποιεί Θέτουµε f A = f(0) = 5 f B = f(4t) = f() = -43.0 < f Α ΟΚ f C = f(8t) = f(4) = 69 > f B ΟΚ Η τετραγωνική προσέγγιση της f(x) έχει ελάχιστο στο σηµείο 5( 4 ) + ( 43)(4 0 ) + 69(0 - ) 1 * x = = 1.1333 5( 4) + ( 43)(4 0) + 69(0 - ) Οι τιµές των συντελεστών υπολογίζονται σαν a = 5, b = -04, c = 90 >0 ενώ h(x * ) = h(1.1333) = -116.5. Η τιµή της συνάρτησης f(x * ) = f(1.1333) = -3.07 Έλεγχος (h(x * ) - f(x * ))/ f(x * ) = (-116.5- (-3.07))/(-3.07) = 4.04 η προσέγγιση δεν είναι αρκετά ακριβής. Επανάληψη Επειδή x * < Β λαµβάνουµε Α = x * = 1.1333 Θέτουµε f A = f(1.1333) = -3.07 f B = f(4t) = f() = -43.0 < f Α ΟΚ f C = f(8t) = f(4) = 69 > f B ΟΚ * 1 (-3.07)( 4 ) + ( 43)(4 1.1333 ) + 69(1.1333 - x = (-3.07)( 4) + ( 43)(4 1.1333) + 69(1.1333 - ) Οι τιµές των συντελεστών υπολογίζονται σαν a = 88, b = -417, c = 15.3 >0 ενώ h(x * ) = h(1.658) = -59.7. Η τιµή της συνάρτησης f(x * ) = f(1.658) = -38.37 ) = 1.658
Έλεγχος (h(x * ) - f(x * ))/ f(x * ) = (-59.7- (-38.37))/(-38.37) = 0.556 η προσέγγιση δεν είναι αρκετά ακριβής. 9 Επανάληψη 3 Επειδή x * < Β λαµβάνουµε Α = x * = 1.658 Θέτουµε f A = f(1.658) = -38.37 f B = f(4t) = f() = -43.0 < f Α ΟΚ f C = f(8t) = f(4) = 69 > f B ΟΚ * 1 (-38.37)( 4 ) + ( 43)(4 1.658 ) + 69(1.658 - ) x = = 1.874 (-38.37)( 4) ( 43)(4 1.658) 69(1.658 - ) + + Οι τιµές των συντελεστών υπολογίζονται σαν a = 484, b = -561, c = 149.7 >0 ενώ h(x * ) = h(1.874) = -41.5. Η τιµή της συνάρτησης f(x * ) = f(1.874) = -4.3 Έλεγχος (h(x * ) - f(x * ))/ f(x * ) = (-41.5- (-4.3))/(-4.3) = 0.01891 η προσέγγιση θεωρείται αρκετά ακριβής. 5..5 Αναζήτηση µε τη µέθοδο Newton Η θεωρητική βάση των µεθόδων Newton προκύπτει από την ανάπτυξη της συνάρτησης σε σειρά Taylor διατηρώντας τους όρους µέχρι δεύτερης τάξης: f(x k+1 ) = f(x k ) + d f x k (x k+1 - x k ) + ½ d f x k (x k+1 - x k ) + στην περιοχή του στάσιµου σηµείου (πιθανό ακρότατο) f(x k+1 ) f(x k ) d f x k (x k+1 - x k ) + ½ x k+1 = x k - d f x k / d f d f x k x k (x k+1 - x k ) = 0 x k+1 = x k - d f x k 1 d f x k + ½ d f x k d f x k (x k+1 - x k ) = 0 Είναι προφανές ότι για την εφαρµογή της µεθόδου αναζήτησης Newton απαιτούνται οι παράγωγοι πρώτης και δεύτερης τάξης της συνάρτησης, πράγµα που περιορίζει τη χρήση της όταν ο υπολογισµός των παραγώγων αυτών είναι δύσκολος. Ένα άλλο πρόβληµα είναι ότι µπορεί να παρατηρηθεί συνεχής εναλλαγή µεταξύ δύο τιµών µε αποτέλεσµα τη µη σύγκλιση ή την πολύ αργή σύγκλιση. Αυτό µπορεί να θεραπευτεί µε την εφαρµογή ενός συντελεστή βήµατος.
Παράδειγµα 5.5 Ζητείται να µεγιστοποιηθεί η συνάρτηση f(x) = x (1.5 x) χωρίς περιορισµούς στο διάστηµα [0, 1] µε τη µέθοδο αναζήτησης Newton. f'(x) = -x + 1.5 f''(x) = - Η µέθοδος Newton γράφεται x k+1 = x k - (- x k + 1.5)/(-) = x k - x k + 1.5 x k+1 = 1.5 - x k. Για x 0 = 0 x 1 = 1.5 x = 0 Η συνάρτηση παλινδροµεί για οποιαδήποτε αρχική τιµή x 0 = χ, µεταξύ των τιµών χ και 1.5 - χ. Αν χρησιµοποιηθεί βήµα α: x k+1 = x k α (- x k + 1.5)/(-) = x k α x k + 1.5α x k+1 = 1.5α + (1 - α) x k. Για x 0 = 0, α = 0.8 x 1 = 1. x = 0.48 x 3 = 0.91 x 4 = 0.658 Η µέθοδος ταχύτατα εντοπίζει το σηµείο µεγίστου x = 0.75 µε την επιθυµητή ακρίβεια. Παράδειγµα 5.6 Ζητείται να προσδιοριστούν τα ακρότατα της συνάρτησης του Παραδείγµατος 5.4 f(x) = x 5 5 x 3 0x + 5 µε τη µέθοδο αναζήτησης Newton. f'(x) = 5x 4 15 x 0 έχει τις πραγµατικές λύσεις x = και x = - f''(x) = 0x 3 30 x για x = f''(x) > 0 τοπικό ελάχιστο f() = -43 για x = - f''(x) < 0 τοπικό µέγιστο f(-) = 53 60 40 0 0-4 -3 - -1 0 1 3 4-0 -40 Σχήµα 5.3. Γράφηµα της συνάρτησης του Παραδείγµατος 5.6 Η µέθοδος Newton γράφεται x k+1 = x k (5x k 4 15 x k 0)/(0x k 3 30 x k ) k 0 1 3 4 5 100 00 x k -5 -.68-1.8 -.6-1.85 -. -1.95-1.96 x k+1 -.68-1.8 -.6-1.85 -. -1.86 -.06 -.04 f(x k ) -395 17.03 51.64 48.97 51.93 50.4 5.88 5.93-60
k 0 1 3 4 5 100 00 x k 7 3.6.09 1.9.09 1.93.05.04 x k+1 3.6.09 1.9.09 1.93.09 1.96 1.97 f(x k ) 14957 314.84-4.57-4.73-4.59-4.74-4.88-4.93 Η επαναληπτική µέθοδος Newton που αναπτύχθηκε παραπάνω αποτελεί εφαρµογή σε προβλήµατα βελτιστοποίησης της µεθόδου Newton-Raphson για τον προσδιορισµό των λύσεων της εξίσωσης f(x) = 0. Πράγµατι, αυτό είναι απαραίτητο όταν εφαρµόζεται η αναγκαία συνθήκη για ακρότατο, δηλαδή η πρώτη παράγωγος της συνάρτησης να µηδενίζεται. Ιδιαίτερα όταν η µορφή της πρώτης παραγώγου είναι περίπλοκη, η αναλυτική λύση της εξίσωσης f (x) = h(x) = 0 ενδέχεται να µην είναι εύκολη ή δυνατή. Εάν η τιµή x k+1 είναι λύση, τότε h(x k+1 ) = 0 οπότε, διατηρώντας µόνο τον πρώτο όρο στην ανάπτυξη κατά Taylor: 0 = h(x k ) + d h x k (x k+1 - x k ) x k+1 = x k - h(x k ) / d h x k x k+1 = x k - 1 h d x k 11 h(x k ) Ο τύπος αυτός είναι ίδιος µε τον τύπο για τη µέθοδο αναζήτησης Newton (µε µόνη διαφορά τον συντελεστή ). Μεγάλη σηµασία για την επιτυχία της επαναληπτικής µεθόδου Newton-Raphson έχει η εκτίµηση της αρχικής τιµής. Αν είναι εκτός µιας συγκεκριµένης περιοχής από τη λύση της εξίσωσης, η µέθοδος ενδεχοµένως να αποτύχει. Επίσης πολύ κοντά σε ένα στάσιµο σηµείο η πρώτη παράγωγος της h(x) είναι περίπου µηδέν και η επόµενη τιµή δοκιµής θα πλησιάζει το άπειρο. Τέλος µπορεί να παρατηρηθεί συνεχής εναλλαγή µεταξύ δύο τιµών µε αποτέλεσµα τη µη σύγκλιση ή την πολύ αργή σύγκλιση. Συνιστάται η γραφική απεικόνιση τόσο της f(x) όσο και της h(x) για την επιλογή του κατάλληλου αρχικού σηµείου. Παράδειγµα 5.7 (Ossenbruggen) - ικτύωµα ελάχιστου βάρους Θεωρείστε το δικτύωµα της Εικόνας. Προσδιορίστε τη γωνία α και τα εµβαδά των διατοµών των στοιχείων 1,, και 3 ώστε το δικτύωµα να έχει ελάχιστο βάρος. Υποθέστε ότι τα στοιχεία σε θλίψη (1 και ) έχουν ίδια διατοµή και µήκος. Η κρίσιµη επιτρεπόµενη θλιπτική ή εφελκυστική τάση για τα στοιχεία του δικτυώµατος είναι 0 ksi. (α) ιαµορφώστε το µαθηµατικό πρόβληµα. (β) Χρησιµοποιείστε γραφική µέθοδο για να βρείτε τη βέλτιστη λύση. (γ) Χρησιµοποιείστε την επαναληπτική µέθοδο Newton για να βρείτε τη βέλτιστη λύση.
P=10 kips C 1 A α 3 B 10 ft 10 ft Σχήµα 5.4. ικτύωµα του Παραδείγµατος 5.7 Επίλυση Ως µεταβλητές απόφασης ορίζονται οι ως A 1 = εµβαδόν διατοµής στοιχείων 1 και (in ) A 3 = εµβαδόν διατοµής στοιχείου 3 (in ) Αντιδράσεις. Οι αντιδράσεις στα σηµεία στήριξης Α και Β προσδιορίζονται µε την εξίσωση στατικής ισορροπίας για όλο το δικτύωµα. F = 0 Η Α = 0 x Fy = 0 - V Α + V Β 10 = 0 V A = 5 kips A M = 0 0 V Β 10. 10 = 0 V Β = 5 kips υνάµεις και τάσεις στοιχείων. Χρησιµοποιώντας τη µέθοδο των κόµβων υπολογίζουµε τις δυνάµεις σε κάθε στοιχείο. Για τον κόµβο C γράφουµε (προσοχή στα πρόσηµα): x F = 0 AC sin a + CB sin a 10 = 0 AC = 5/sin a (θλίψη) Fy = 0 AC cos a + CB cos a = 0 CB = AC = 5/sin a (θλίψη) Για τον κόµβο Β γράφουµε (προσοχή στα πρόσηµα): F = 0 ΑΒ - CB cos a = 0 AB = 5cos a /sin a (εφελκυσµός) x Περιορισµοί. Οι τάσεις των στοιχείων αυτών είναι: σ CB = σ ΑC = 5/ sin a A 1 0 ή A 1 1 /4sin a σ AB = 5cos a /sin a A 3 0 ή A 3 cos a /4sin a
Το βάρος κάθε στοιχείου είναι ίσο µε το ειδικό βάρος του χάλυβα επί τον όγκο του στοιχείου. Άρα ελάχιστο βάρος ισοδυναµεί µε ελάχιστο όγκο. Ο συνολικός όγκος του δικτυώµατος είναι το άθροισµα των όγκων των στοιχείων που το αποτελούν, δηλαδή z = (V ΑΒ + V ΑC + V ΒC ) όπου V = όγκος κάθε στοιχείου = µήκος του στοιχείου επί το εµβαδόν της διατοµής του. z = (0 Α 3 +. 10/ cos a Α 1 ) ή z = 0 ( Α 3 + Α 1 /cos a ) Μαθηµατικό υπόδειγµα. Η κατάστρωση του προβλήµατος έχει ολοκληρωθεί. Συνοψίζοντας έχουµε: min z = 0 ( Α 3 + Α 1 /cos a ) κάτω από τους περιορισµούς A 1 1 /4sin a A 3 cos a /4sin a A 1, A 3 0 (β) Για ελάχιστο βάρος και οι δύο περιορισµοί πρέπει να είναι ενεργοί. Αντικαθιστώντας στην αντικειµενική συνάρτηση έχουµε: min z = 0 cos a /4sin a + 0 /(4sin a cos a) = 5/sin a (cos a + 1/cos a) Εφαρµόζοντας την αναγκαία συνθήκη έχουµε: dz/dα = - 5cos a /sin a (cos a + 1/cos a) + 5/sin a (- sin a + sin a/cos a) = 0 dz/dα = - cos a (cos a + 1/cos a) + (-sin a + sin a /cos a) = 0 dz/dα = - cos a - 1 + (-sin a + tan a) = 0 tan a - sin a = 1 + cos a Η γραφική επίλυση αυτής της εξίσωσης δίνει a 55, οπότε A 1 = A = 0.31 in, A 3 = 0.35 in 13 35 30 5 0 15 tan α - sin α 10 5 1+ cos α 0 0 0 40 60 80 100 Σχήµα 5.5. Γραφική επίλυση εξίσωσης του Παραδείγµατος 5.7
(γ) Για να εφαρµοστεί η επαναληπτική µέθοδος Newton γράφουµε: dz/dα = h(α) = - cos a - 1 + (-sin a + tan a) = - cos a - sin a - 1 + tan a = - + tan a h (α) = tana d(tana)/dα = tana (1/cos a) α k+1 = α k - - + tan αk tan αk /cos αk k 0 1 α k (rad) 0.9599 0.955368457 0.95531665 α k+1 0.955368457 0.95531665 0.955316618 h(α k ) 0.039337 0.00044 5.64E-08 Ο πίνακας δείχνει ότι πολύ γρήγορα η µέθοδος εντόπισε τη λύση σαν α = 0.95531665 rad = 54.736 Η αναλυτική λύση βρίσκεται εύκολα από την h(α) = 0 = - + tan a tan a = a = tan -1 () 1/ = 54.73561 Επειδή h (α) = tana /cos a > 0 για (0 α π/) το σηµείο αυτό είναι τοπικό ελάχιστο. Η επιλογή του αρχικού σηµείου είναι σηµαντική, όπως φαίνεται στο παρακάτω παράδειγµα: k 0 1 3 4 5 6 7 8 9 α k (rad) 0.618 3.6188 4.9406 5.0389 5.1560 5.63 5.3177 5.376 5.379 5.379 α k+1-3.357-1.31-0.0983-0.117-0.106-0.055-0.010-0.000 0.0000 0.0000 h(α k ) -1.98-1.736 16.5350 6.7194.488 0.6616 0.0889 0.00 1.48E- 06 5.56E- 13 Η µέθοδος συγκλίνει γρήγορα στη λύση α = 5.379 rad = 305.661 η οποία όµως είναι εκτός του διαστήµατος [0, 90 ]. Το γράφηµα της συνάρτησης z(a) = 5/sin a (cos a + 1/cos a) δείχνει ότι έχει πολλά σηµεία τοπικού ακρότατου (για το γράφηµα η συνάρτηση δεν υπολογίζεται σε τιµές της α, όπου γίνεται άπειρη, π.χ. α = κ π/, κ = 0, 1,, ). Αν το αρχικό σηµείο επιλεγεί κοντά σε κάποιο από αυτά, τότε η µέθοδος θα συγκλίνει σε αυτό το ακρότατο. 00 150 100 50 0 0-50 50 100 150 00 50 300 350 400 450-100 -150-00 Σχήµα 5.6. Γράφηµα της συνάρτησης του Παραδείγµατος 5.8
5..6 Αναζήτηση µε τη µέθοδο της τέµνουσας Η µέθοδος της τέµνουσας χρησιµοποιεί το πρόσηµο και το µέγεθος της παραγώγου της συνάρτησης για να µικραίνει το διάστηµα αναζήτησης σε κάθε επανάληψη. Έστω δύο σηµεία a και b για τα οποία ισχύει f (a).f (b) < 0, δηλαδή η παράγωγος της συνάρτησης αλλάζει πρόσηµο από το a στο b, άρα µηδενίζεται σε κάποιο σηµείο x * στο εσωτερικό του διαστήµατος (a, b) (Σχήµα 5.8). 15 Σχήµα 5.7. Η µέθοδος της τέµνουσας Προκειµένου να προσδιοριστεί το σηµείο x * η παράγωγος f (x) προσεγγίζεται µε την τέµνουσα ως ευθεία γραµµή f (x) = m x + p, όπου f (a) = m a + p και f (b) = m b + p. f' (a) - f'(b) Από τις συνθήκες αυτές προκύπτει m = και a - b (a) - f' (b) p = f (a) - f' a. a - b f' (a) (a - b) Το σηµείο όπου η f (x) µηδενίζεται είναι το x new = - p/m = a -. f'(a) - f'(b)
Στη συνέχεια ελέγχεται η τιµή της f (x new ) και η αναζήτηση συνεχίζεται στο διάστηµα (a, x new ) ή στο διάστηµα (x new, b) εξασφαλίζοντας ότι η παράγωγος της συνάρτησης αλλάζει πρόσηµο από το δεξιό στο αριστερό άκρο του διαστήµατος. Παράδειγµα 5.8 Ζητείται να προσδιοριστούν τα ακρότατα της συνάρτησης f(x) = 1/9 x 3 /3 x στο διάστηµα (1.5, 6) µε τη µέθοδο της τέµνουσας. Υπολογίζονται οι τιµές της παραγώγου f'(x) = 1/3 x 4/3 x στα άκρα του διαστήµατος: f (1.5) = -1.5 και f (6) = 4. Επειδή f (a).f (b) < 0 (η παράγωγος από αρνητική γίνεται θετική, άρα υπάρχει τοπικό ελάχιστο στο διάστηµα (1.5, 6)), υπολογίζεται το σηµείο f' (a) (a - b) x new = a - = 1.5 - (-1.5) (1.5-6)/(-1.5-4) =.5714 f'(a) - f'(b) µε f (x new ) = -1.45. Συνεπώς η αναζήτηση συνεχίζεται στο διάστηµα (.5714, 6), όπως φαίνεται στον πίνακα, και εντοπίζεται το ελάχιστο στο σηµείο x = 4. k=1 k= k=3 k=4 k=5 k=6 k=7 k=8 k=9 a 1.5.5714 3.3750 3.7674 3.9194 3.978 3.9909 3.9970 3.9990 b 6 6 6 6 6 6 6 6 6 f'(a) -1.5-1.45-0.7031-0.90-0.1054-0.0361-0.011-0.0041-0.0014 f'(b) 4 4 4 4 4 4 4 4 4 x new.5714 3.3750 3.7674 3.9194 3.978 3.9909 3.9970 3.9990 3.9997 f'(x new ) -1.45-0.7031-0.90-0.1054-0.0361-0.011-0.0041-0.0014-0.0005 k=10 k=11 k=1 a 3.9997 3.9999 4.0000 b 6 6 6 f'(a) -0.0005-0.000-5E-05 f'(b) 4 4 4 x new 3.9999 4.0000 4.0000 f'(x new ) -0.000-0.0001 0.0000
5.3 ΕΠΑΝΑΛΗΠΤΙΚΕΣ ΜΕΘΟ ΟΙ ΓΙΑ ΣΥΝΑΡΤΗΣΕΙΣ ΠΟΛΛΩΝ ΜΕΤΑΒΛΗΤΩΝ 5.3.1 Επαναληπτικές µέθοδοι καθόδου Η γενική ιδέα είναι το νέο σηµείο ελέγχου για ακρότατο να προκύπτει από την επαναληπτική σχέση x k+1 = x k + α k d k ώστε f(x k+1 ) < f(x k ) όπου α k είναι το βήµα και d k είναι η κατεύθυνση αναζήτησης που επιλέγεται µε έναν συνδυασµό των τιµών της συνάρτησης f(x k ) και των πρώτων και δεύτερων παραγώγων της f(x k ), f(x k ). Γράφοντας d k = - D k f(x k ), όπου D k είναι ένας θετικά ορισµένος πίνακας (n,n), διακρίνονται οι εξής περιπτώσεις: (α) D k = Ι nn d k = - f(x k ) µέθοδος επικλινέστερης καθόδου (µέθοδος κλίσης) Όπως αποδείχθηκε στο Κεφάλαιο, η κατεύθυνση στην οποία µια συνάρτηση έχει τη µεγαλύτερη µεταβολή της είναι η κατεύθυνση του διανύσµατος κλίσης. Η µέθοδος είναι απλή στην εφαρµογή της, επειδή απαιτεί τον υπολογισµό µόνο των πρώτων παραγώγων. Όµως, έχει προβλήµατα σε στενές κοιλάδες της συνάρτησης, αν υπερεκτιµηθεί το βήµα µπορεί να πηγαίνει µπρος-πίσω συνεχώς και να συγκλίνει πολύ αργά. (β) D k = f(x k ) -1 d k = - f(x k ) -1 f(x k ) µέθοδος Newton Είναι η γενίκευση της µεθόδου µιας µεταβλητής 3..5 για την περίπτωση πολλών µεταβλητών. Για ελαχιστοποίηση κυρτής συνάρτησης ( f(x k ) > 0), όταν βρεθεί κοντά στο ακρότατο εστιάζει ταχύτατα. Πράγµατι από την ανάπτυξη σε σειρά Taylor f(x k+1 ) = f(x k ) + f(x k ) T (x k+1 - x k ) + ½ (x k+1 - x k ) T f(x k ) (x k+1 - x k ) + όταν f(x k+1 ) f(x k ) f(x k ) T + ½ (x k+1 - x k ) T f(x k ) = 0 x k+1 = x k - [ f(x k )] -1 f(x k ) (γ) D k = D 0 = f(x 0 ) -1 d k = - f(x 0 ) -1 f(x k ) τροποποιηµένη µέθοδος Newton Είναι υπολογιστικά απλούστερη από την (β) γιατί ο πίνακας Hess υπολογίζεται µόνο µια φορά στο αρχικό σηµείο (ή κάποιο άλλο σηµείο). 17 (δ) οτιδήποτε συνδυασµός των (α) και (β) υβριδικές µέθοδοι Κανόνες επιλογής βήµατος (α) α k = α > 0 k σταθερό βήµα Μπορεί να είναι µεγάλο ή µικρό χωρίς να µπορεί να γίνει διόρθωση
m k (β) α k = s β β [0, 1] κανόνας διχοτόµησης Το βήµα s µειώνεται σε κάθε επανάληψη κατά τον παράγοντα µείωσης β. Ο εκθέτης m k µπορεί να καθορίζεται κάθε φορά σαν ο µικρότερος ακέραιος ώστε m 0: f(x k ) - f(x k + s β m d k ) > 0. (γ) α k = arg { min f(x k + α d k ) } κανόνας ελαχιστοποίησης α > 0 Ίσως είναι δυνατό να επιλυθεί αυτό το νέο πρόβληµα ελαχιστοποίησης µιας µεταβλητής, οπότε η επιλογή του βήµατος είναι βέλτιστη. Ο αλγόριθµος για τη µέθοδο κλίσης συνοψίζεται ως εξής: 1) εκκίνηση στο σηµείο x 0 k = 0 ) εύρεση της κατεύθυνσης αναζήτησης d k 3) εύρεση του βήµατος ώστε η τιµή f(x k + α k d k ) να είναι ελάχιστο ή απλά να βελτιώνει την αντικειµενική συνάρτηση α k * 4) εύρεση του x k+1 = x k + α k * d k 5) έλεγχος αν x k+1 - x k < ε, όπου ε είναι το επιθυµητό όριο ακρίβειας 6) επιστροφή στο Βήµα αν παραβιάζεται το επιθυµητό όριο ακρίβειας. Παράδειγµα 5.9 min f (x 1, x ) = x 1 - x + x 1 + x 1 x + x χωρίς περιορισµούς αρχίζοντας από το σηµείο x 1 = x = 0 Χρησιµοποιείται η µέθοδος επικλινέστερης καθόδου και ο κανόνας ελαχιστοποίησης για την επιλογή βήµατος x k+1 = x k +α k d k = x k - α k f(x k ) f = [1 + 4 x 1 + x -1 + x 1 + x ] T Επανάληψη 1 d 1 = - f(x 1 ) = [-1 1] T x = x 1 + α 1 d 1 = [ α 1 α 1 ] T f(x ) = f(x 1 + α 1 d 1 ) = α 1 - α 1 + α 1 - α 1 α 1 + α 1 = - α 1 + α 1 f = - + α 1 = 0 α 1 = 1 x = [0 + 1 (-1) 0 +1 1] T = [-1 1] T x 1 α 1 Επανάληψη d = - f(x ) = - [1 + 4 (-1) +.1-1 + (-1) +. 1] T = [1 1] T x 3 = x + α d = [-1 + α 1 1 + α 1 ] T = [-1 + α 1 + α ] T f(x 3 ) = f(x + α d ) = (-1 + α ) (1 + α ) + (-1 + α ) + (-1 + α ) (1 + α ) + (1 + α ) = 5 α - α - 1
f = 10 α - = 0 α = 0. x 3 = [-1 + 0. (1) 1 +0. 1] T = [-0.8 1.] T x α Επανάληψη 3 d 3 = - f(x 3 ) = - [1 + 4 (-0.8) + 1. -1 + (-0.8) + 1.] = [-0. 0.] T x 4 = x 3 + α 3 d 3 = [-0.8 + α 3 (-0.) 1. + α 3 0.] T = [-0.8 0. α 3 1. + 0. α 3 ] T f(x 4 ) = f(x 3 + α 3 d 3 ) = (-0.8 0. α 3 ) (1. + 0. α 3 ) + (-0.8 0. α 3 ) + (-0.8 0. α 3 ) (1. + 0. α 3 ) + (1. + 0. α 3 ) = 0.04 α 3-0.08 α 3 1.0 f = 0.08 α 3-0.08 = 0 α 3 = 1 x 4 = [-0.8 + 1 (-0.) 1. + 1 0.] T = [-1 1.4] T α 3 Συνεχίζοντας τις επαναλήψεις µέχρι x k+1 x k και f(x k ) 0 (Σχήµα προκύπτει x * = [-1 1.5] T 19 1.6 1.4 1. 1 0.8 0.6 0.4 0. 0-1. -1-0.8-0.6-0.4-0. 0 Σχήµα 5.8. Απεικόνιση των επαναλήψεων του Παραδείγµατος 5.9 Παράδειγµα 5.10 (Bertsekas) Μεγιστοποίηση των εσόδων µιας επιχείρησης Θεωρούµε το πρόβληµα εύρεσης της βέλτιστης τιµής πώλησης µιας µονάδας y και του δαπάνης για διαφήµιση z µιας επιχείρησης που επιθυµεί να µεγιστοποιήσει τα έσοδά της Ε. ίδονται οι εξής σχέσεις: Ε = yx [z +g (x)] x = g 1 (y,z) = a 1 + a y +a 3 z +a 4 yz + a 5 z g (x) = e 1 + e x όπου Ε έσοδα x αριθµός των µονάδων που θα πωληθούν
y τιµή πώλησης µονάδας z δαπάνη διαφήµισης g 1 (y,z) προβλεπόµενος αριθµός των µονάδων που θα πωληθούν όταν η τιµή πώλησης µονάδας είναι y και η δαπάνη διαφήµισης είναι z g (x) κόστος παραγωγής x µονάδων Άρα τα έσοδα µπορεί να εκφραστούν σαν ένα πολυώνυµο τρίτου βαθµού δύο µεταβλητών y και z. Υποθέτουµε ότι οι παράµετροι έχουν τις ακόλουθες τιµές: a 1 = 50,000 a = -5,000 a 3 = 40 a 4 = -1 a 5 = -0.00 e 1 = 100,000 e = Να βρεθούν οι τιµές των y και z που ελαχιστοποιούν τη συνάρτηση Ε (ή ισοδύναµα να µεγιστοποιήσουν τα έσοδα Ε της επιχείρησης) χρησιµοποιώντας τη µέθοδο της επικλινέστερης καθόδου και τη µέθοδο Newton χωρίς περιορισµούς. Να δοκιµαστούν τουλάχιστον δύο σηµεία εκκίνησης και διάφορες τεχνικές επιλογής του βήµατος. Αντικαθιστώντας τις τιµές των παραµέτρων προκύπτει η συνάρτηση των εσόδων Ε(y, z) = -81 z + 60,000 y 5,000 y +4 yz + 0.004 z y z 0.00 y z 00,000 Το γράφηµα της συνάρτησης δίδεται µε διαφορετικές κλίµακες στους άξονες y, z. Πρόκειται για πολύ δύσκολη περίπτωση, διότι η συνάρτηση µοιάζει µε µια πολύ στενή λωρίδα κατά µήκος του άξονα z. Η µέγιστη τιµή είναι f * = 796,000 στο σηµείο y * = 10.559 και z * = 7,330.9. Ο πίνακας Hessian στο ακρότατο σηµείο είναι f(x * 4661.8 8.4 ) = x k+1 = x k - α k D k f(x k ) 8.4 0.034 Μέθοδος επικλινέστερης Μέθοδος επικλινέστερης Mέθοδος Newton Τροποποιηµένη µέθοδος Newton καθόδου µε σταθερά καθόδου µε κλίµακα κλίµακα δευτέρας παραγώγου 4 4,000 4 4,000 4 4,000 4 4,000 16 5,365 10.88 8,875-5 96 10.88 8,875 10.78 5,886 9.90 7,49 1.49 1,19 10.78 6,747 11.09 7,343 10.5 7,34 -.16 1,407 10.58 7,303 1.97 1,354 10.559 7,331 10.55 7,333 10.558 7,330.9-0 15,000-0 15,000-0 15,000-0 15,000 3 14,99 6 14,988.86 15,009 6 14,988-11 -39,578 6 8,437 0.69 16,995 6 8,437 10.1 8,435.6 15,315 10.6 8,435 1. 16,576 10.65 7,144 10.56 7,315 10.55 7,33
Στην εφαρµογή της µεθόδου επικλινέστερης καθόδου προσαρµόζεται το διάνυσµα κλίσης µε διαφορετικές κλίµακες στους άξονες y, z. Χρησιµοποιούνται δύο πίνακες προσαρµογής που επιχειρούν να προσεγγίσουν τον πίνακα Hess µε έναν διαγώνιο πίνακα 0.0001 0 (1) Σταθεροί παράγοντες κλίµακας D k =. () Χρήση δεύτερων παραγώγων D k = f 1 ( ) y 0 0 35 0 f 1 ( ) z Η προσαρµογή της κλίµακας των αξόνων είναι αποτελεσµατική όταν τα ιδιοδιανύσµατα του πίνακα Hess είναι σχεδόν παράλληλα µε τους άξονες (ο πίνακας είναι σχεδόν διαγώνιος). Παρατηρούµε ότι µερικές από τις µεθόδους αποκλίνουν και δεν είναι δυνατόν να εντοπίσουν το ακρότατο σηµείο. 5.3. Επαναληπτική µέθοδος στην κατεύθυνση των αξόνων Στη µέθοδο αυτή αναζήτηση γίνεται εναλλάξ στην κατεύθυνση των αξόνων, δηλαδή χρησιµοποιείται η επαναληπτική σχέση x k+1 = x k +α k d k ώστε f(x k+1 ) < f(x k ) όπου α k είναι το βήµα και d k είναι η κατεύθυνση αναζήτησης που επιλέγεται να είναι το µοναδιαίο διάνυσµα κατά µήκος του k-στου άξονα, ή d k = [0 0 0 1..0] Τ. Το βήµα προσδιορίζεται µε τον κανόνα της ελαχιστοποίησης. Παράδειγµα 5.11 Να ελαχιστοποιηθεί η συνάρτηση του Παραδείγµατος 5.9 min f (x 1, x ) = x 1 - x + x 1 + x 1 x + x χωρίς περιορισµούς αρχίζοντας από το σηµείο x 1 = x = 0 Χρησιµοποιείται η µέθοδος της αναζήτησης στην κατεύθυνση των αξόνων και ο κανόνας ελαχιστοποίησης για την επιλογή βήµατος. Επανάληψη 1 d 1 = [1 0] T x = x 1 + α 1 d 1 = [α 1 0] T f(x ) = f(x 1 + α 1 d 1 ) = α 1-0 + α 1 + α 1 0 + 0 = α 1 + α 1 = α 1 + α 1 f = 1 + 4 α 1 = 0 α 1 = -0.5 x = [-0.5 0] T x 1 α 1 Επανάληψη d = [0 1] T x 3 = x + α d = [-0.5+0 0+α ] T = [-0.5 α ] T f(x 3 )= f(x + α d ) = -0.5 - α + (-0.5) + (-0.5) α + α = -1.5 α +α + c f α = -1.5 + α = 0 α = 0.75 x 3 = [-0.5 0.75] T x. 1
Επανάληψη 3 d 3 = [1 0] T x 4 = x 3 + α 3 d 3 = [ -0.5+α 3 0.75] T f(x 4 )=f(x 3 + α 3 d 3 )= (-0.5+α 3 ) 0.75 + (-0.5+α 3 ) + (-0.5+α 3 ) 0.75 + 0.75 = -0.5 + α 3 0.75 + (0.5 +α 3-0.5 α 3 ) - 0.5 0.75 + 1.5 α 3 + 0.75 = α 3 + 1.5 α 3 + c f α 3 = 1.5 + 4 α 3 = 0 α 3 = -0.375 x 4 = [-0.65 0.75] T x 3 Επανάληψη 4 d 4 = [0 1] T x 5 = x 4 + α 4 d 4 = [ -0.65 0.75 +α 4 ] T f(x 5 ) = f(x 4 + α 4 d 4 ) = (-0.65) 0.75 - α 4 + (-0.65) + (-0.65) (0.75 + α 4 ) + (0.75 + α 4 ) = -0.75 α 4 +α 4 + c f α 4 = -0.75 + α 4 = 0 α 4 = 0.375 x 5 = [-0.65 1.15] T x 4 Επανάληψη 5 d 5 = [1 0] T x 6 = x 5 + α 5 d 5 = [ -0.65+α 5 1.15] T f(x 6 ) = f(x 5 + α 5 d 5 ) = (-0.65+α 5 ) 1.15 + (-0.65+α 5 ) + (-0.65+α 5 ) 1.15 + 1.15 = -0.65 + α 5 1.15 + (0.65 +α 5-0.65 α 5 ) - 1.5 1.15 +.5 α 5 + 1.15 = α 5 + 0.75 α 5 + c f α 5 = 0.75 + 4 α 5 = 0 α 5 = -0.1875 x 6 = [-0.815 1.15] T x 5 Επανάληψη 6 d 6 = [0 1] T x 7 = x 6 + α 6 d 6 = [ -0.815 1.15 + α 6 ] T f(x 7 ) = f(x 6 + α 6 d 6 ) = (-0.815) 1.15 - α 6 + (-0.815) + (-0.815) (1.15+α 6 ) + (1.15+α 6 ) = -3.75 α 6 +α 6 + c f α 6 = -3.75 + α 6 = 0 α 6 = 0.1875 x 7 = [-0.815 1.315] T x 6 Επανάληψη 7 d 7 = [1 0] T x 8 = x 7 + α 7 d 7 = [ -0.815+α 7 1.315] T f(x 8 ) = f(x 7 + α 7 d 7 ) = (-0.815+α 7 ) 1.315 + (-0.815+α 7 ) + (-0.815+α 7 ) 1.315 + 1.315 = -0.815 + α 7 1.315 + (0.815 +α 7-0.815 α 7 ) - 1.65 1.315 +.65 α 7 + 1.315 = α 7 + 0.375 α 7 + c f α 7 = 0.375 + 4 α 7 = 0 α 7 = -0.09375 x 8 = [-0.9065 1.315] T x 6 Επανάληψη 8 d 8 = [0 1] T x 9 = x 8 + α 8 d 8 = [ -0.9065 1.315 + α 8 ] T f(x 9 ) = f(x 8 + α 8 d 8 ) = (-0.9065) 1.315 - α 8 + (-0.9065) + (-0.9065) (1.315 + α 8 ) + (1.315 + α 8 ) = -0.1875 α 8 +α 8 + c f α 8 = -0.1875 + α 8 = 0 α 8 = 0.09375 x 9 = [-0.9065 1.4065] T x 8
Επανάληψη 9 d 9 = [1 0] T x 10 = x 9 + α 9 d 9 = [ -0.9065+α 9 1.4065] T f(x 10 ) = f(x 9 + α 9 d 9 ) = (-0.9065+α 9 ) 1.4065 + (-0.9065+α 9 ) + (-0.9065+α 9 ) 1.4065 + 1.4065 = -0.9065 + α 9 1.4065 + (0.9065 +α 9-0.9065 α 9 ) - 1.815 1.4065 +.815 α 9 + 1.4065 = α 9 + 0.1875 α 9 + c f α 9 = 0.1875 + 4 α 9 = 0 α 7 = -0.046875 x 8 = [-0.95315 1.4065] T x 6 Επανάληψη 10 d 10 = [0 1] T x 11 = x 10 + α 10 d 10 = [ -0.95315 1.4065 + α 10 ] T f(x 11 ) = f(x 10 + α 10 d 10 ) = (-0.95315) 1.4065 - α 10 + (-0.95315) + (-0.95315) (1.4065 + α 10 ) + (1.4065 + α 10 ) = -0.09375 α 10 +α 10 + c f α 10 = -0.09375 + α 10 = 0 α 10 = 0.04688 x 11 = [-0.95315 1.45315] T x 10 Η διαδικασία συγκλίνει στη βέλτιστη λύση x * = [-1 1.5] T, όπου η τιµή της συνάρτησης είναι f(x * ) = -1.5. 3 ΠΡΟΒΛΗΜΑΤΑ ΓΙΑ ΕΞΑΣΚΗΣΗ 5.1 Ζητείται να µεγιστοποιηθεί η συνάρτηση f(x) = x (1.5 x) χωρίς περιορισµούς αρχίζοντας τις επαναλήψεις µε επιταχυνόµενο βήµα από το σηµείο x 0 = 0, s 0 = 0.05 µε s k+1 = s k και x k+1 = x 0 + s k k 0 1 1 3 4 5 6 s k 0.05-0.05 0.1 0. 0.4 0.8 1.6 x k 0-0.05 0.05 0.1 0. 0.4 0.8 1.6 f(x k ) 0-0.0775 0.075 0.14 0.6 0.44 0.56 -.16 Η κατεύθυνση αναζήτησης προσδιορίζεται για k = 1 προς µεγαλύτερες τιµές του x. H συνάρτηση διαρκώς βελτιώνεται (αυξάνει) µέχρι το k = 6. Εντοπίζεται η θέση του µεγίστου στο διάστηµα (0.8, 1.6) όπου απαιτείται λεπτοµερέστερη έρευνα. 5. (Ossenbruggen) Μέγιστη παροχή σε αγωγό κυκλικής διατοµής Η παροχή της ροής µε ελεύθερη επιφάνεια σε αγωγό υπολογίζεται µε τον τύπο του Manning Q = (1.49/n) A R /3 S 0 1/ όπου Q είναι η παροχή σε ft 3 /sec, n είναι ο συντελεστής τραχύτητας, A είναι το εµβαδόν της βρεχόµενης διατοµής σε ft, R είναι η υδραυλική ακτίνα ίση µε A/P σε ft, P είναι η βρεχόµενη περίµετρος σε ft, και S 0 είναι η κλίση του αγωγού.
Θεωρείστε έναν αγωγό κυκλικής διατοµής από σκυρόδεµα (n = 0.013) µε κλίση 0.0001. (α) ιαµορφώστε το µαθηµατικό πρόβληµα. (β) Χρησιµοποιείστε την επαναληπτική µέθοδο Newton για να βρείτε τη βέλτιστη λύση. α r Επίλυση P = π r + α r A = ½ π r + π r α/π + ½ r cos α r sin α = ½ π r + r α + ½ r sin α max Q = (1.49/n) A 5/3 P -/3 S 0 1/ max Q = (1.49/n) S 0 1/ (½ π r + r α + ½ r sin α) 5/3 (π r + α r) -/3 κάτω από 0 α π/ (β) Αναγκαία συνθήκη ακροτάτου dq/dα = (1.49/n) S 0 1/ 5/3 (½ π r + r α + ½ r sin α) /3 (r + r cos α) (π r + α r) -/3 + (1.49/n) S 0 1/ (½ π r + r α + ½ r sin α) 5/3 (-/3) (π r + α r) -5/3 ( r) Με απλοποίηση η παράγωγος γράφεται (σηµειώστε ότι οι τιµές των n, S 0, και r δεν επηρεάζουν): dq/dα = 0 (1.49/n) S 0 1/ r 5/3 (½ π r + r α + ½ r sin α) /3 (1+ cos α) (π r + α r) -/3 + (1.49/n) S 0 1/ (½ π r + r α + ½ r sin α) 5/3 (-/3) (π r + α r) -5/3 ( r) = r 5/3 (1+ cos α) + (½ π r + r α + ½ r sin α) (-/3) (π r + α r) -1 ( r) = 5 (1+ cos α) + (½ π + α + ½ sin α) (-4) (π + α) -1 = 5 (π + α) (1+ cos α) + (π + α + sin α) (-) = 5 (π + α) +5 (π + α) cos α (π + α) - sin α = 3 (π + α) +5 (π + α) cos α - sin α
5 dq/dα = h(α) = (π + α) (3+ 5 cos α) - sin α = 0 h (α) = (3+ 5 cos α) +(π + α) (-10 sin α) - 4 cos α = 6+ 6 cos α +(π + α) (-10 sin α) α k+1 = α k - (π + αk ) (3 + 4 cos αk ) - sin α 6 + cosα + (π + α )(-10sinα ) k k k 0 1 α k (rad) 1.1000 1.0678 1.0683 α k+1 0.03-0.0004 0.0000 h(α k ) 1.0678 1.0683 1.0683 Ο πίνακας δείχνει ότι πολύ γρήγορα η µέθοδος εντόπισε τη λύση σαν α = 1.0683 rad = 61.1 για την οποία αντιστοιχεί παροχή Q = 7.19 ft 3 /sec. Η δεύτερη παράγωγος h (α) = -41.77 < 0, άρα το σηµείο είναι τοπικό µέγιστο. Η επιλογή του αρχικού σηµείου είναι σηµαντική, όπως φαίνεται στα παρακάτω παραδείγµατα: k 0 1 3 4 α k (rad) 0.5 1.3564 0.9408 1.0664 1.0683 α k+1-0.8564 0.4155-0.156-0.0018 0.0000 h(α k ) 1.3564 0.9408 1.0664 1.0683 1.0683 k 0 1 3 4 5 α k (rad) 0.4 1.7330.408.0366.0079.0071 α k+1-1.3330-0.5078 0.04 0.087 0.0008 0.0000 h(α k ) 1.7330.408.0366.0079.0071.0071 Με αλλαγή του αρχικού σηµείου από 0.5 σε 0.4 η µέθοδος συγκλίνει στη λύση α =.0071 rad = 114.99 που δεν είναι αποδεκτή γιατί είναι εκτός του διαστήµατος [0, 90 ]. Η γραφική απεικόνιση της συνάρτησης είναι µια καλή πρακτική για την επιλογή του αρχικού σηµείου. k k.5 Q/(1.49/n)So 1/ r 8/3 1.5 1 0.5 0 0 0 40 60 80 100 α
5.3 Να µεγιστοποιηθεί η f (x 1, x ) = 4 x 1 + 6 x - x 1 - x 1 x x χωρίς περιορισµούς αρχίζοντας από το σηµείο x 1 = x = 1. Χρησιµοποιείστε τη µέθοδο της επικλινέστερης καθόδου και το κανόνα ελαχιστοποίησης για την επιλογή βήµατος Επίλυση Η διαδικασία δίνει διαδοχικά k 1 3 4 5 6 f(x k ) (-, 0) (0, 1) (-0.5,0) (0, 0.5) (-0.15, 0) (0, 0.065) α k 0.5 0.5 0.5 0.5 0.5 0.5 x 1k 0.5 0.5 0.375 0.375 0.34375 0.34375 x k 1 1.5 1.5 1.315 1.315 1.315 Το ακριβές µέγιστο είναι x * = (0.3333, 1.3333). 5.4 Επιλύστε τα παρακάτω δύο προβλήµατα µε την υπολογιστική µέθοδο Newton. Χρησιµοποιείστε τον κανόνα ελαχιστοποίησης για την επιλογή βήµατος. (α) min f(x 1, x, x 3 ) = x 1 + x + x 3 + x 1 - x - x 3 χωρίς περιορισµούς αρχίζοντας από το σηµείο x 1 = x = x 3 = 0 (β) min f(x 1, x, x 3 ) = f(x 1,x,x 3 ) = x 1 + x 6 x 1 - e x 3 + x 3 χωρίς περιορισµούς, αρχίζοντας από το σηµείο x 1 = x =, x 3 = 0.