Εφαρμοσμένη Βελτιστοποίηση Ενότητα 3: Αναλυτικές μέθοδοι βελτιστοποίησης για συναρτήσεις μιας μεταβλητής Καθηγητής Αντώνιος Αλεξανδρίδης Πολυτεχνική Σχολή Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών
Σημείωμα Αδειοδότησης Το παρόν υλικό διατίθεται με τους όρους της άδειας χρήσης Creative Commons Αναφορά, Μη Εμπορική Χρήση Παρόμοια Διανομή 4.0 [1] ή μεταγενέστερη, Διεθνής Έκδοση. Εξαιρούνται τα αυτοτελή έργα τρίτων π.χ. φωτογραφίες, διαγράμματα κ.λ.π., τα οποία εμπεριέχονται σε αυτό και τα οποία αναφέρονται μαζί με τους όρους χρήσης τους στο «Σημείωμα Χρήσης Έργων Τρίτων». [1] http://creativecommons.org/licenses/by-nc-sa/4.0/ Ως Μη Εμπορική ορίζεται η χρήση: που δεν περιλαμβάνει άμεσο ή έμμεσο οικονομικό όφελος από την χρήση του έργου, για το διανομέα του έργου και αδειοδόχο που δεν περιλαμβάνει οικονομική συναλλαγή ως προϋπόθεση για τη χρήση ή πρόσβαση στο έργο που δεν προσπορίζει στο διανομέα του έργου και αδειοδόχο έμμεσο οικονομικό όφελος (π.χ. διαφημίσεις) από την προβολή του έργου σε διαδικτυακό τόπο Ο δικαιούχος μπορεί να παρέχει στον αδειοδόχο ξεχωριστή άδεια να χρησιμοποιεί το έργο για εμπορική χρήση, εφόσον αυτό του ζητηθεί. 2
Διατήρηση Σημειωμάτων Οποιαδήποτε αναπαραγωγή ή διασκευή του υλικού θα πρέπει να συμπεριλαμβάνει: το Σημείωμα Αναφοράς το Σημείωμα Αδειοδότησης τη δήλωση Διατήρησης Σημειωμάτων το Σημείωμα Χρήσης Έργων Τρίτων (εφόσον υπάρχει) μαζί με τους συνοδευόμενους υπερσυνδέσμους. 3
Άδειες Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες χρήσης creative commons. Για εκπαιδευτικό υλικό, όπως εικόνες, που υπόκεινται σε άλλου τύπου άδειες χρήσης, η άδεια χρήσης αναφέρεται ρητώς. 4
Σκοποί ενότητας Σκοπός της ενότητας αυτής είναι η ανάπτυξη αναλυτικών μεθόδων βελτιστοποίησης για συναρτήσεις μιας μεταβλητής. 5
Περιεχόμενα ενότητας Εισαγωγή Ακρότατα συνάρτησης μιας μεταβλητής Αναγκαίες συνθήκες για την ύπαρξη τοπικού ελαχίστου Ικανές συνθήκες για την ύπαρξη τοπικού ελαχίστου Τοπικά ακρότατα στα οριακά σημεία Τοπικά ακρότατα στα σημεία ασυνέχειας 6
Εισαγωγή Στην περίπτωση κατά την οποία η συνάρτηση βελτιστοποίησης περιέχει μια μόνο ανεξάρτητη μεταβλητή, τα βέλτιστα σημεία θα είναι κάποια από τα ακρότατα της καμπύλης της συνάρτησης. Εξετάζεται το γενικό πρόβλημα του ορισμού των αναγκαίων και ικανών συνθηκών για την εύρεση των ακροτάτων συναρτήσεων μιας μεταβλητής. Οι μέθοδοι που αναπτύσσονται οδηγούν σε αναλυτικές λύσεις, δηλαδή ακριβείς μαθηματικές εκφράσεις από τις οποίες ορίζονται τα τοπικά ή ολικά μέγιστα και ελάχιστα τέτοιων συναρτήσεων. Οι συναρτήσεις που εξετάζονται θεωρούνται συνεχείς ή κατά τμήματα συνεχείς και με συνεχείς παραγώγους. 7
Εισαγωγή Οι λύσεις που προκύπτουν για τα εσωτερικά σημεία του διαστήματος που παίρνει τιμές η ανεξάρτητη μεταβλητή συμπληρώνονται από επιπλέον λύσεις στα όρια του διαστήματος αυτού ή στα σημεία ασυνέχειας αν υπάρχουν. 8
Ακρότατα συναρτήσεων μιας μεταβλητής Έστω μια συνεχής συνάρτηση f(x) που ορίζεται σε κάποιο διάστημα [x 0,x f ] όπως φαίνεται στην Εικόνα 3.1. Τότε η συνάρτηση f(x) μπορεί να έχει κάποια τοπικά ακρότατα: x * =x max για το μέγιστο ή x * =x min για το ελάχιστο σύμφωνα με τους παρακάτω ορισμούς. Το σημείο x * =x max είναι τοπικό μέγιστο της συνάρτησης f(x) αν και μόνο αν υπάρχει κάποιος θετικός αριθμός ε τέτοιος ώστε για κάθε Δx <ε να ισχύει f x f x 0 όπου x x x Το σημείο x * =x min είναι τοπικό ελάχιστο της συνάρτησης f(x) αν και μόνο αν υπάρχει κάποιος θετικός αριθμός ε τέτοιος ώστε για κάθε Δx <ε να ισχύει f x f x 0 όπου x x x 9
Ακρότατα συναρτήσεων μιας μεταβλητής Αν το ε και συνεπακόλουθα το Δx μπορούν να θεωρηθούν αρκετά μεγάλα έτσι ώστε το x να μπορεί να πάρει οποιαδήποτε τιμή μέσα στο διάστημα [x 0,x f ] που ταυτοχρονα ικανοποιεί τις προηγούμενες ανισότητες, τότε το x * είναι αντίστοιχα ολικό μέγιστο ή ολικό ελάχιστο της συνάρτησης f(x) στο διάστημα [x 0,x f ]. Σημαντική ιδιότητα: Το μέγιστο (τοπικό ή ολικό) μιας συνάρτησης f(x) ταυτίζεται με το ελάχιστο της αντίθετης συνάρτησης f(x). Εικόνα 3.1 Έτσι, χωρίς περιορισμό της γενικότητας, θα εξεταστούν στη συνέχεια οι ικανές και αναγκαίες συνθήκες για την ύπαρξη ελαχίστου σε συναρτήσεις μιας μεταβλητής. 10
Αναγκαίες συνθήκες για την ύπαρξη τοπικού ελαχίστου Κάνοντας κανείς χρήση του αναπτύγματος Taylor με πεπερασμένο ανάπτυγμα μέχρι παράγωγο δεύτερης τάξεως, μπορεί να αποδείξει δια της ατόπου απαγωγής ότι για να είναι το x * τοπικό ελάχιστον πρέπει να ισχύει ότι f x 0 και αυτή η σχέση αποτελεί την 1 η αναγκαία συνθήκη για την ύπαρξη τοπικού ελαχίστου. Η συνθήκη αυτή δεν είναι η μόνη μιας και κάνοντας χρήση του αναπτύγματος Taylor με πεπερασμένο ανάπτυγμα μέχρι παράγωγο τρίτης τάξεως αποδεικνύεται ότι πρέπει να ισχύει 0 f x που αποτελεί την 2 η αναγκαία συνθήκη για την ύπαρξη ελαχίστου. 11
Ικανές συνθήκες για την ύπαρξη τοπικού ελαχίστου Με ανάλογο τρόπο μπορούμε να ορίσουμε τις ικανές συνθήκες για την ύπαρξη τοπικού ελαχίστου σε συναρτήσεις μιας μεταβλητής 1 η ικανή συνθήκη: 2 η ικανή συνθήκη: f f x 0 x 0 0 Στην περίπτωση κατά την οποία f x με ανάλογο τρόπου απόδεικνύεται ότι πρέπει επίσης να ισχύει f x 0. Διαφορετικά αν είναι f x τότε έχουμε ένα σημείο καμπής στο σημείο x. 0 0 iv Για την περίπτωση όπου f x f x f x και f x 0 iv το x είναι τοπικό ελάχιστο. Αν όμως τυχόν ισχύει f x 0 τότε πρέπει να ερευνήσουμε τις υψηλότερου βαθμού παραγώγους. 12
Ικανές συνθήκες για την ύπαρξη τοπικού ελαχίστου Τότε, η πρώτη μη μηδενική παράγωγος πρέπει να είναι άρτιας τάξης παράγωγος η οποία πρέπει να είναι θετική για να έχουμε ελάχιστο (αντίστοιχα αρνητική για μέγιστο). Οι συνθήκες αυτές ισχύουν για τιμές του x στο διάστημα όπου η f(x) είναι συνεχής και έχει συνεχείς παραγώγους. Έτσι, οι ικανές συνθήκες μπορούν να διατυπωθούν ως όπου (2k 1) f x f x... f x 0 f (2 k ) k 1 x 0, ακέραιος. f x (2 k ) (2k 1) Στην περίπτωση όπου ισχύει 0 και f x 0 τότε το σημείο x είναι σημείο καμπής της συνάρτησης. 13
Ικανές συνθήκες για την ύπαρξη τοπικού ελαχίστου Πίνακας 3.1.. Ο πίνακας 3.1 συνοψίζει τις περιπτώσεις των ακροτάτων και των σημείων καμπής μιας συνάρτησης. 14
Τοπικά ακρότατα στα οριακά σημεία Η συνάρτηση βελτιστοποίησης συνήθως δεν ισχύει για οποιαδήποτε τιμή της ανεξάρτητης μεταβλητής από - ως +. Η πιο κοινή περίπτωση περιορισμού δίνεται με τη μορφή ανισοτήτων που ορίζουν την περιοχή μέσα στην οποία η μεταβλητή x παίρνει τιμές x b όπου b Γενικότερα η μεταβλητή x μπορεί να περιορίζεται ώστε να ικανοποιεί κάποιες ανισοτικές σχέσεις της μορφής g1 x 0,..., gm x 0 Πρέπει να ληφθεί πρόνοια ώστε όλοι οι περιορισμοί να ισχύουν. Αν κάποιοι από τους περιορισμούς καθίστανται ανενεργοί από κάποιους άλλους, τότε οι επιπλέον περιορισμοί παραλείπονται. 15
Τοπικά ακρότατα στα οριακά σημεία Για συναρτήσεις μιας μεταβλητής ισοτικοί περιορισμοί της μορφής. g1 x 0,..., gm x 0 δεν έχουν νόημα. Τους ανισοτικούς περιορισμούς μπορούμε να τους θέσουμε στη μορφή 1 1 Για μια συνάρτηση f(x) που ορίζεται στο διάστημα x b, το οριακό σημείο α (κάτω όριο) είναι τοπικό ελάχιστο αν η παράγωγος f (α) είναι θετική. Αντίστοιχα, το οριακό σημείο b (άνω όριο) είναι τοπικό ελάχιστο αν η παράγωγος f (b) είναι αρνητική. Προφανώς το αντίθετο συμβαίνει στην περίπτωση των τοπικών μεγίστων στα οριακά σημεία. g x x 0, g x x b 0 16
Τοπικά ακρότατα στα οριακά σημεία Η προηγούμενη πρόταση παρουσιάζει μια θεμελιώδη αδυναμία. Διερευνά τα τοπικά ελάχιστα (ή μέγιστα) στα οριακά σημεία λαμβάνοντας υπόψη τη σειρά b. Στην περίπτωση που οι ανισοτικοί περιορισμοί είναι της μορφής g1 x 0,..., gm x 0, τότε η σειρά αυτή δεν είναι πάντα προφανής. Έτσι, καταλήγουμε στην ακόλουθη σχέση που ορίζει αν το οριακό σημείο x είναι τοπικό ελάχιστο της συνάρτησης f sign f x sign g x όπου sign σημαίνει πρόσημο. Σημειώνεται ότι η έρευνα για ακρότατα στα οριακά σημεία γίνεται ανεξάρτητα από το αν υπάρχουν ή όχι ακρότατα στο εσωτερικό διάστημα όπου ορίζεται η συνεχής συνάρτηση f. 17
Τοπικά ακρότατα στα σημεία ασυνέχειας Μια ειδική περίπτωση όπου πρέπει να διερευνηθεί είναι η ύπαρξη τοπικών ακροτάτων στα σημεία ασυνέχειας. Οι αναλυτικές μέθοδοι που αναπτύχθηκαν ισχύουν μόνο για συνεχείς συναρτήσεις που έχουν συνεχείς παραγώγους. Για να παρακάμψουμε αυτό το πρόβλημα θεωρούμε τα σημεία ασυνέχειας σαν οριακά σημεία της συνάρτησης και ελέγχουμε αν αποτελούν ακρότατα σύμφωνα με τις μεθόδους που παρουσιάστηκαν νωρίτερα. Έτσι, χωρίζουμε το διάστημα μέσα στο οποίο παίρνει τιμές η συνάρτηση σε επιμέρους διαδοχικά διαστήματα με όρια τα σημεία ασυνέχειας που μπορεί να είναι είτε σημεία ασυνέχειας της καμπύλης είτε σημεία ασυνέχειας της βάθμωσης. 18
Τοπικά ακρότατα στα σημεία ασυνέχειας I. Σημεία ασυνέχειας βάθμωσης Έστω κάποιο σημείο στο οποίο έχουμε ασυνέχεια βάθμωσης. Στο σημείο αυτό θέτουμε ένα τεχνητό ότι στη συνάρτηση μας. Έτσι αυτή θα περιγράφεται από την f 1 αριστερά του x=α και από την f 2 δεξιά του x=α σύμφωνα με τη σχέση f x f1 x, x f2 x, x Τότε για να είναι πράγματι τοπικό ελάχιστο το σημείο x=α θα πρέπει να είναι σαν οριακό σημείο τοπικό ελάχιστο και για την f 1 (x) και για την f 2 (x). Ο έλεγχος του και στις δυο περιπτώσεις θα γίνει σύμφωνα με τη συνθήκη προσήμου. 19
II. Τοπικά ακρότατα στα σημεία Σημεία ασυνέχειας καμπύλης ασυνέχειας Στην εικόνα 3.2 απεικονίζονται διάφορες περιπτώσεις ασυνέχειας καμπύλης. Ασφαλώς και σε αυτή την περίπτωση χωρίζουμε το διάστημα σε περιοχές δεξιά και αριστερά του σημείου ασυνέχειας x 0. Ελέγχουμε αν το σημείο x 0 αποτελεί ελάχιστο τόσο για το διάστημα x x 0 όσο και για το διάστημα x x0 χρησιμοποιώντας τη συνθήκη προσήμου. Αν προκύψει ότι f x 0 και f x είναι τοπικά ελάχιστα τότε το x 0 0. είναι τοπικό ελάχιστο και μάλιστα στη μικρότερη από τις δυο τιμές μεταξύ των f x 0 και f x 0. Αν αντίθετα προκύψει ότι μόνο ένα είναι τοπικό ελάχιστο τότε το x 0 είναι πράγματι τοπικό ελάχιστο της f μόνο αν η τιμή της f σε αυτό το σημείο είναι η μικρότερη συγκρινόμενη προς την τιμή της f στο μη ευρεθέν τοπικό ελάχιστο οριακό σημείο. 20
Τοπικά ακρότατα στα σημεία ασυνέχειας Εικόνα 3.2.... 21
Τέλος Ενότητας
Σημείωμα Χρήσης Έργων Τρίτων Όλα τα σχήματα, οι εικόνες και τα γραφήματα που παρουσιάστηκαν σε αυτήν την ενότητα προέρχονται από τις πανεπιστημιακές σημειώσεις με τίτλο «Εφαρμοσμένη Βελτιστοποίηση», Αντώνης Θ. Αλεξανδρίδης, εκδόσεις Πανεπιστημίου Πατρών. 23
Σημείωμα Ιστορικού Εκδόσεων Έργου Το παρόν έργο αποτελεί την έκδοση 1.0. 24
Σημείωμα Αναφοράς Copyright Πανεπιστήμιο Πατρών, Αντώνιος Αλεξανδρίδης. «Εφαρμοσμένη Βελτιστοποίηση. Ενότητα 3». Έκδοση: 1.0. Πάτρα 2015. από τη δικτυακή διεύθυνση: https://eclass.upatras.gr/courses/ee888. 25
Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στo πλαίσιo του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα στο Πανεπιστήμιο Αθηνών» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους. 26