Εφαρμοσμένη Βελτιστοποίηση

Transcript

1 Εφαρμοσμένη Βελτιστοποίηση Ενότητα 4: Αναλυτικές μέθοδοι βελτιστοποίησης για συναρτήσεις πολλών μεταβλητών Καθηγητής Αντώνιος Αλεξανδρίδης Πολυτεχνική Σχολή Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών

2 Σημείωμα Αδειοδότησης Το παρόν υλικό διατίθεται με τους όρους της άδειας χρήσης Creative Commons Αναφορά, Μη Εμπορική Χρήση Παρόμοια Διανομή 4.0 [1] ή μεταγενέστερη, Διεθνής Έκδοση. Εξαιρούνται τα αυτοτελή έργα τρίτων π.χ. φωτογραφίες, διαγράμματα κ.λ.π., τα οποία εμπεριέχονται σε αυτό και τα οποία αναφέρονται μαζί με τους όρους χρήσης τους στο «Σημείωμα Χρήσης Έργων Τρίτων». [1] Ως Μη Εμπορική ορίζεται η χρήση: που δεν περιλαμβάνει άμεσο ή έμμεσο οικονομικό όφελος από την χρήση του έργου, για το διανομέα του έργου και αδειοδόχο που δεν περιλαμβάνει οικονομική συναλλαγή ως προϋπόθεση για τη χρήση ή πρόσβαση στο έργο που δεν προσπορίζει στο διανομέα του έργου και αδειοδόχο έμμεσο οικονομικό όφελος (π.χ. διαφημίσεις) από την προβολή του έργου σε διαδικτυακό τόπο Ο δικαιούχος μπορεί να παρέχει στον αδειοδόχο ξεχωριστή άδεια να χρησιμοποιεί το έργο για εμπορική χρήση, εφόσον αυτό του ζητηθεί. 2

3 Διατήρηση Σημειωμάτων Οποιαδήποτε αναπαραγωγή ή διασκευή του υλικού θα πρέπει να συμπεριλαμβάνει: το Σημείωμα Αναφοράς το Σημείωμα Αδειοδότησης τη δήλωση Διατήρησης Σημειωμάτων το Σημείωμα Χρήσης Έργων Τρίτων (εφόσον υπάρχει) μαζί με τους συνοδευόμενους υπερσυνδέσμους. 3

4 Άδειες Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες χρήσης creative commons. Για εκπαιδευτικό υλικό, όπως εικόνες, που υπόκεινται σε άλλου τύπου άδειες χρήσης, η άδεια χρήσης αναφέρεται ρητώς. 4

5 Σκοποί ενότητας Σκοπός της ενότητας αυτής είναι η επέκταση των αναλυτικών μεθόδων βελτιστοποίησης που αναπτύχθηκαν στην προηγούμενη ενότητα για συναρτήσεις πολλών μεταβλητών αλλά και η ανάπτυξη επιπλέον μεθόδων. 5

6 Περιεχόμενα ενότητας Εισαγωγή Ελάχιστα συναρτήσεων πολλών μεταβλητών Τοπικά ελάχιστα και κυρτότητα Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ισοτικούς περιορισμούς Παράγοντες Lagrange Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ανισοτικούς περιορισμούς Γραμμικός προγραμματισμός και γεωμετρική λύση 6

7 Εισαγωγή Οι αναλυτικές μέθοδοι που αναπτύχθηκαν στην προηγούμενη ενότητα επεκτείνονται για τις περιπτώσεις βελτιστοποίησης συναρτήσεων δυο ή περισσοτέρων μεταβλητών. Εκτός από την περίπτωση εύρεσης ακροτάτων συνάρτησης χωρίς περιοριστικές συνθήκες, εξετάζονται διεξοδικά και οι περιπτώσεις βελτιστοποίησης υπό ισοτικούς ή/και ανισοτικούς περιορισμούς. Επιπλέον, οι μέθοδοι των παραγόντων Lagrange που χρησιμοποιούνται ευρύτατα για την επίλυση τέτοιου είδους προβλημάτων επεξηγούνται και αναλύονται διεξοδικά και δίνονται οι αναγκαίες και ικανές συνθήκες που πρέπει να ικανοποιούνται. Τέλος αναλύεται η μέθοδος του γραμμικού προγραμματισμού που αφορά την εύρεση ακροτάτων για γραμμικές συναρτήσεις βελτιστοποίησης που υπόκεινται σε γραμμικούς ανισοτικούς περιορισμούς. 7

8 Ελάχιστα συναρτήσεων πολλών μεταβλητών Η συνεχής συνάρτηση n-ανεξάρτητων μεταβλητών f x f x,..., 1 xn έχει κάποιο τοπικό ελάχιστο x * =x min όταν ισχύει ο ορισμός που δόθηκε στην Ενότητα 3, όπου όμως το x δεν είναι βαθμωτό μέγεθος αλλά διάνυσμα n-διαστάσεων. Πιο συγκεκριμένα, έστω ότι x ( x1, x2,..., x n ) είναι τοπικό ελάχιστο της συνάρτησης f. Όπως έχει δειχθεί στην Ενότητα 2, η συνάρτηση n-μεταβλητών f στη γειτονιά του x * προς όλες τις διευθύνσεις Δx θα ορίζεται από την ισοδύναμη συνάρτηση μιας μεταβλητής * * * * g t f x tx f ( x tx, x tx,..., x tx ) όπου το ελάχιστο προσεγγίζεται καθώς t 0. Οι αναγκαίες και ικανές συνθήκες για την ύπαρξη τοπικού ελαχίστου για τη συνάρτηση μιας μεταβλητής είναι οι ακόλουθες n n 8

9 Ελάχιστα συναρτήσεων πολλών μεταβλητών 1 η αναγκαία και ικανή συνθήκη T gt g0 0 και επειδή g0 f xx έχουμε ισοδύναt0 μα T f x x 0. Επειδή η τελευταία σχέση πρέπει να ισχύει προς όλες τις διευθύνσεις (για κάθε Δx) στην περιοχή γύρω από το ελάχιστο της f, τελικά η συνθήκη γίνεται 2 η αναγκαία συνθήκη f x 0 g t g T 2 0 0και επειδή g 0 x f x x και η σχέση t0 πρέπει να ισχύει προς όλες τις διευθύνσεις (για κάθε Δx) στην περιοχή γύρω από το ελάχιστο της f, τελικά η συνθήκη γίνεται 2 f x 0 δηλαδή η Hessian μήτρα πρέπει να είναι θετικά ημιορισμένη. 9

10 Ελάχιστα συναρτήσεων πολλών μεταβλητών 2 η ικανή συνθήκη g t g 0 0 και με αντίστοιχο τρόπο καταλήγουμε στη t0 συνθήκη πως η Hessian μήτρα πρέπει να είναι θετικά ορισμένη 2 f x 0 Αντίστοιχα, για την ύπαρξη τοπικού μεγίστου η 1 η ικανή και αναγκαία συνθήκη είναι f x 0, με 2 η αναγκαία συνθήκη η Hessian μήτρα 2 f x να είναι αρνητικά ημιορισμένη και 2 η ικανή συνθήκη η Hessian μήτρα να είναι αρνητικά ορισμένη. Στην περίπτωση όπου η Hessian μήτρα δεν είναι ούτε θετικά ούτε αρνητικά ορισμένη, τότε το σημείο που ορίζει η f x 0 είναι 2 σαγματικό σημείο της συνάρτηση f. Στην περίπτωση όπου f x 0 πρέπει να εξεταστούν οι βαθμώσεις ανώτερης τάξης και να ισχύει (2 ) ότι k f x 0 (k=ακέραιος) για να έχουμε τοπικό ελάχιστο. 10

11 Θετικά και αρνητικά (ημι-)ορισμένες μήτρες Θετικά ορισμένη είναι η τετραγωνική μήτρα P nxn διαστάσεων για την οποία ισχύουν οι παρακάτω ισοδύναμες προτάσεις: T α) Ικανοποιεί τη σχέση v Pv 0 για κάθε ν. β) Όλες οι ιδιοτιμές της Ρ είναι θετικές. γ) Όλες οι ορίζουσες D i ixi διαστάσεων όπου i=1,2,,n που προκύπτουν με πρώτο στοιχείο στοιχείο το p 11 της P είναι θετικές, δηλαδή D i >0 όπου D i p p 11 1i i1 p p ii και P p p 11 1i n1 p p nn 11

12 Θετικά και αρνητικά (ημι-)ορισμένες μήτρες Θετικά ημιορισμένη είναι η P εκείνη για την οποία ισχύουν: T α) v Pv 0, β) έχει ιδιοτιμές μη αρνητικές και γ) έχει ορίζουσες D 0 Αρνητικά ορισμένη είναι η τετραγωνική μήτρα P nxn διαστάσεων για την οποία ισχύουν οι παρακάτω ισοδύναμες προτάσεις: T α) Ικανοποιεί τη σχέση v Pv 0 για κάθε ν. β) Όλες οι ιδιοτιμές της Ρ είναι αρνητικές. γ) Οι ορίζουσες D i ixi διαστάσεων όπου i=1,2,,n που προκύπτουν με πρώτο στοιχείο στοιχείο το p 11 της P είναι Di Di 0 0 για όλα τα περιττά i=1,3,5, για όλα τα άρτια i=2,4,6, i 12

13 Θετικά και αρνητικά (ημι-)ορισμένες μήτρες Αντίστοιχα, αρνητικά ημιορισμένη είναι η P εκείνη για την οποία ισχύουν: T α) v Pv 0, β) έχει ιδιοτιμές μη θετικές και γ) έχει ορίζουσες D i για τις οποίες ισχύουν οι προηγούμενες ανισότητες μαζί με τις ισότητες. 13

14 Τοπικά ελάχιστα και κυρτότητα Για την εύρεση τοπικών ελαχίστων διαπιστώσαμε την 1 η και 2 η αναγκαία και ικανή συνθήκη. Η 1 η συνθήκη ορίζει τα πιθανά σημεία για την ύπαρξη τοπικού ελαχίστου ενώ η 2 η συνθήκη εξασφαλίζει αν πράγματι τα σημεία είναι ελάχιστα. Η δεύτερη αυτή συνθήκη ουσιαστικά εξασφαλίζει ότι η συνάρτηση μας είναι κυρτή στην περιοχή του πιθανού ελαχίστου. Η ισοδυναμία μεταξύ κυρτότητας και 2 ης συνθήκης δίνεται με την παρακάτω πρόταση: Μια συνάρτηση f είναι κυρτή σε ένα πεδίο αν και μόνο αν η μήτρα Hessian 2 f x είναι θετικά ορισμένη στο S. 14

15 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ισοτικούς περιορισμούς Το πρόβλημα βελτιστοποίησης στην περίπτωση αυτή ορίζεται ως: Ζητείται το ελάχιστο της συνάρτησης πολλών μεταβλητών f(x), όπου x [ x1 x2... x ] T n που ταυτόχρονα ικανοποιεί την περιοριστική συνθήκη g x 0, όπου g x [ g x1, g x2,..., g x ] T m με m n Στα προηγούμενα εξετάσαμε την ύπαρξη τοπικού ελαχίστου χωρίς περιοριστικές συνθήκες. Βασικό αποτέλεσμα ήταν ότι τα υποψήφια τοπικά ελάχιστα της συνάρτησης f(x) πρέπει να ικανοποιούν τη συνθήκη T f x x για κάθε Δx. 0 0 Η επιπρόσθετη συνθήκη g x περιορίζει κατά m τους n βαθμούς ελευθερίας της f(x) καθώς αναζητούμε το ελάχιστο. Πρέπει να ισχύει m n ώστε η ελαχιστοποίηση να έχει νόημα. 15

16 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ισοτικούς περιορισμούς Η απλούστερη αντιμετώπιση ενός προβλήματος βελτιστοποίησης που υπόκειται σε ισοτικούς περιορισμούς μπορεί να γίνει με τη μέθοδο της απαλειφής. Λύνουμε δηλαδή τις m περιοριστικές συν-θήκες ως προς οποιεσδήποτε m από τις n ανεξάρτητες μεταβλητές τις οποίες στη συνέχεια απαλείφουμε από τη συνάρτηση βελτιστο-ποίησης f(x). Έτσι η f(x) γίνεται συνάρτηση (n-m) μεταβλητών. Στη νέα τροποποιημένη f εφαρμόζουμε τις μεθόδους ελαχιστοποίησης μέσω των συνθηκών που αναπτύχθηκαν στην αρχή της ενότητας για την εύρεση ελαχίστων που ικανοποιούν και τις περιοριστικές συνθήκες ισότητας. Βασικό μειονέκτημα αυτής της μεθόδου είναι η απαίτηση για τη λύση του συστήματος των περιοριστικών συνθηκών, πράγμα γενικά δύσκολο. 16

17 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ισοτικούς περιορισμούς Μια διαφορετική προσέγγιση να χρησιμοποιήσουμε το γεγονός πως πρέπει να ψάξουμε σε εκείνες μόνο τις διευθύνσεις που μας επιτρέπει η συνθήκη g(x)=0, δηλαδή ο ισοτικός περιορισμός ορίζει τα κατάλληλα Δx. 0 Προφανώς εξακολουθεί να ισχύει η συνθήκη T f x x για κατάλληλα όμως Δx. Θεωρώντας την παραπάνω σχέση διανυσματικά, πρέπει να ισχύει f x x Άρα πρέπει να ψάξουμε κατάλληλα Δx και να κινηθούμε σε αυτά βρίσκοντας το σημείο που η βάθμωση της συνάρτησης f(x) είναι ορθογώνια. 17

18 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ισοτικούς περιορισμούς Στο σημείο x αλλά και στο x+δx πρέπει οι ισοτικοί περιορισμοί να ικανοποιούνται. Πρέπει δηλαδή να ισχύει g i (x)=0 και g i (x+δx)=0 για κάθε i=1,2,,m. Επειδή όμως η διαφορά g i (x+δx)-g i (x) ορίζει το διαφορικό της συνάρτησης g i έπεται ότι το dg i =0 ή ισοδύναμα T i 0 g x x για κάθε i=1,2,,m Η τελευταία συνθήκη μας ορίζει ότι τα κατάλληλα Δx είναι ορθογώνια επίσης στις βαθμώσεις των g i (x), δηλαδή gi x x Συμπερασματικά, για την εύρεση τοπικού ελαχίστου υπό ισοτικούς περιορισμούς σαν πρώτη συνθήκη πρέπει να ισχύει f x x x T ( x) { x : x εφαπτόμενο προς οποιοδήποτε v g ( x)} i 18

19 Παράγοντες Lagrange Η προηγούμενη διανυσματική-γεωμετρική προσέγγιση του προβλήματος της ελαχιστοποίησης συνάρτησης υπό συνθήκες μας οδήγησε στη διατύπωση κάποιων αναγκαίων συνθηκών ορθογωνιότητας. Ωστόσο ο χειρισμός αυτών των συνθηκών είναι δύσκολος και γι αυτό αναπτύσσεται μια πιο μαθηματική διατύπωση των αναγκαίων συνθηκών. Ανακαλώντας ότι πρέπει να ισχύει f x x και g, i x x αμέσως προκύπτει ότι η βάθμωση της f(x) οφείλει να είναι συγγραμική προς το γραμμικό συνδυασμό όλων των βαθμώσεων των g i (x). Άρα θα υπάρχει πάντα ένα σύνολο πραγματικών αριθμών λ 1,,λ m που θα ικανοποιούν την εξίσωση T T T T f ( x) 1 g1( x) 2 g2( x)... m gm( x) 0 g x όπου 0 19

20 Παράγοντες Lagrange η οποία ισοδύναμα γράφεται ως όπου [ ] T m T T f ( x) g( x) 0, g( x) 0 και g1 g1 T x1 x n g1( x) g x T gm g m gm( x) x1 xn Τα στοιχεία λ 1,,λ m του διανύσματος λ ονομάζονται παράγοντες Lagrange. Η σχέση στην αρχή της διαφάνειας αποτελεί την 1 η αναγκαία και ικανή συνθήκη ώστε η f(x) να έχει (πιθανά) τοπικά ελάχιστα υπό περιορισμούς ισότητας. 20

21 Παράγοντες Lagrange Η πρώτη αναγκαία και ικανή συνθήκη οδηγεί στο συμπέρασμα ότι τα πιθανά ελάχιστα της f είναι τα ίδια με αυτά της συνάρτησης T L( x, ) f ( x) g( x), όπου g( x) 0 Η συνάρτηση L(x,λ) ονομάζεται Lagrangian συνάρτηση. Ψάχνοντας για τα ελάχιστα της L ως προς όλες τις μεταβλητές της x και λ παίρνουμε L ( x x, ) 0, L ( x, ) 0 με τις τελευταίες δύο ισότητες να αποτελούν ισοδύναμη έκφραση της 1 ης αναγκαίας και ικανής συνθήκης. 21

22 Παράγοντες Lagrange Είναι προφανές ότι αν τα σημεία x που ορίζονται από την 1 η συνθήκη είναι ελάχιστα της Lx (, ) τότε θα ισχύει η 2 η αναγκαία συνθήκη 2 Lx (, ) x 0 Αντίστοιχα αν ισχύει 2 Lx (, ) x 0 τότε τα x είναι ελάχιστα της Lagrangian συνάρτησης και έτσι η τελευταία ανισότητα αποτελεί την 2 η ικανή συνθήκη για τοπικό ελάχιστο της L. Επειδή όμως η f υπό τον περιορισμό ότι g=0 είναι μια συνάρτηση με n-m ανεξάρτητες μεταβλητές ενώ η L είναι μια συνάρτηση με περισσότερες μεταβλητές δεν υπάρχει πλήρης αντιστοιχία μεταξύ f και L. 22

23 Παράγοντες Lagrange Η ικανή συνθήκη χειρίζεται τις n μεταβλητές x σαν ανεξάρτητες μεταβλητές, ενώ στην πραγματικότητα μόνο n-m είναι ανεξάρτητες. Έτσι, είναι δυνατόν να δίνει κάποιο σαγματικό σημείο για την L στις n διαστάσεις το οποίο όμως στις n-m διαστάσεις της f να είναι ελάχιστο, και η σαγματικότητα να έρχεται από τις υπόλοιπες διαστάσεις οι οποίες λόγω του περιορισμού g=0 δεν μας ενδιαφέρουν. Γι αυτό το λόγο η 2 η ικανή συνθήκη για την διαπίστωση των τοπικών ελαχίστων της f είναι η ακόλουθη 2 f ( x nm ) 0 2 όπου οι m μεταβλητές ικανοποιούν την g(x)=0. Ο τελεστής nm. αντιστοιχεί σε πίνακα (n-m)x(n-m) διαστάσεων των πραγματικών ανεξάρτητων μεταβλητών. 23

24 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ανισοτικούς περιορισμούς Στην περίπτωση αυτή το πρόβλημα ορίζεται ως η ελαχιστοποίηση της συνάρτησης πολλών μεταβλητών f(x) που ταυτόχρονα ικανοποιεί την περιοριστική συνθήκη gx ( ) 0. Σε σχέση με την περίπτωση του ισοτικού περιορισμού, ο ανισοτικός περιορισμός αποτελεί μια πολύ ασθενέστερη συνθήκη που μόνον ορίζει τον υποχώρο μέσα στον οποίο πρέπει να αναζητηθεί η λύση. Έτσι δεν χρειάζεται τώρα να ισχύει m n. Το πρόβλημα μπορεί να απλοποιηθεί πάρα πολύ διακρίνοντας τις εξής περιπτώσεις: (α) Τα τοπικά ελάχιστα της f(x) χωρίς περιορισμούς, αν υπάρχουν εξετάζονται ως προς το αν ικανοποιούν τον ανισοτικό περιορισμό gx ( ) 0. 24

25 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ανισοτικούς περιορισμούς (β) Εξετάζεται η συνάρτηση f(x) για τοπικά ελάχιστα σε κάποια ή σε όλα από όρια του υποχώρου που ορίζει η gx ( ) 0, δηλαδή στις περιοχές που ισχύει g k (x)=0 όπου g k (x) αποτελεί οποιοδήποτε υποσύνολο k στοιχείων του g(x), δηλαδή k g ( x) g( x) όπου g( x) [ g ( x) g ( x)... g ( x)] T 1 2 για κάθε k :1 k {min( m, n)}. Τότε λέμε ότι k από τους m ανισοτικούς περιορισμούς είναι ενεργοί. Οι υπόλοιποι m-k περιορισμοί θα πρέπει τότε να ικανοποιούνται ως ανισότητες. Αν το συμπλήρωμα του g ως προς το g k το ονομάσουμε g m-k θα πρέπει να ισχύει g mk ( x) 0 m 25

26 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ανισοτικούς περιορισμούς Η λύση του προβλήματος στην περίπτωση (α) δεν παρουσιάζει καμία ιδιαιτερότητα και βρίσκεται από τις γνωστές συνθήκες f( x) 0 2 που ικανοποιούν f( x) 0 και gx ( ) 0. Στην περίπτωση (β), αν κάποιο x είναι ελάχιστο της f τότε θα πρέπει για οποιοδήποτε επιτρεπτό x+δx στην περιοχή γύρω από το x να ισχύουν οι σχέσεις f ( x x) f ( x) 0 και για κάθε i=1,2,...,k Σύμφωνα δε με τις σχέσεις των διαφορικών των συναρτήσεων f και k πρέπει να ικανοποιούν τις σχέσεις g i T k T k df ( x, x) f ( x) x 0 και dg ( x, x) g ( x) x 0 για κάθε i=1,2,...,k, όπου κατάλληλο. k k g ( x x) g ( x) 0 i k g i i i είναι στοιχείο του συνόλου g k για Δx i 26

27 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ανισοτικούς περιορισμούς Παράγοντες Lagrange Οι τελευταίες ανισότητες διαφορικών ορίζουν μια γεωμετρική k σχέση μεταξύ των διανυσμάτων f και g i. Συγκεκριμένα, αφού η T f ( x T k ) x 0 ορίζει ένα γινόμενο και η gi ( x) x 0 k γινόμενα των βαθμώσεων με το ίδιο διάνυσμα επιτρεπτών μετατοπίσεων Δx, αυτά θα ικανοποιούνται τότε και μόνο τότε όταν η βάθμωση της f είναι γεωμετρικά αντίρροπη κάποιου γραμμικού k συνδυασμού όλων των βαθμώσεων των. Θα ισχύει δηλαδή sign k f ( x ) sign g ( x ) k i1 i i για λ 1,, λ k >0 Η παραπάνω σχέση σε συνδυασμό με το γεγονός ότι οι k περιοριστικές συνθήκες είναι ενεργές, δηλαδή βρισκόμαστε πάνω στο όριο όριο μηδέν γι αυτές, οδηγεί στην πρόταση. g i 27

28 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ανισοτικούς περιορισμούς k Η f(x) έχει τοπικό ελάχιστο όταν g ( x) είναι ενεργές αν και μόνο αν υπάρχει ένα σύνολο πραγματικών αριθμών λ 1, λ 2,, λ k που ικανοποιούν τη συνθήκη T k T k f ( x ) ( ) 0 όπου i 1 i g x i g k ( x) 0 η οποία ισοδύναμα γράφεται T T k k f ( x) g ( x) 0 όπου g ( x) 0 είναι το διάνυσμα των παρα- όπου το διάνυσμα γόντων Lagrange. [ ] T m mk Η τελευταία σχέση μαζί με την g ( x) 0 αποτελούν την αναγκαία και ικανή συνθήκη που πρέπει να ικανοποιείται ώστε να υπάρχει ελάχιστο στην περίπτωση αυτή. 28

29 Ελαχιστοποίηση συναρτήσεων που υπόκεινται σε ανισοτικούς περιορισμούς Όταν το πρόβλημα βελτιστοποίησης είναι πιο σύνθετο και περιέχει σαν περιοριστικές συνθήκες τόσο ισοτικές όσο και ανισοτικές σχέσεις είναι φανερό ότι αντιμετωπίζεται με συνδυασμό των μεθόδων που αναπτύχθηκαν για κάθε περίπτωση χωριστά. Στο σημείο αυτό επισημαίνεται ότι σε όλες τις μεθόδους που αναπτύχθηκαν έως εδώ στην Ενότητα 4 χρειαζόταν να υπολογιστούν οι μερικές παράγωγοι της f και της g και στη συνέχεια να λυθούν κάποιες εξισώσεις που περιείχαν αυτές τις παραγώγους ως προς τις μεταβλητές. Οι μεταβλητές όμως εμφανίζονται στις παραγώγους τότε και μόνο τότε όταν οι παραγωγιζόμενες συναρτήσεις είμαι μη γραμμικές. Έτσι, για να υπάρχει λύση θα πρέπει τουλάχιστον κάποια από τις f και g να είναι μη γραμμική. 29

30 Γραμμικός προγραμματισμός Το πρόβλημα του γραμμικού προγραμματισμού στη γενική του μορφή συνίσταται στην εύρεση του μεγίστου μιας γραμμικής, ως προς τους αγνώστους, συνάρτησης η οποία υπόκειται σε συνθήκες γραμμικών και πάλι ανισοτήτων. Έτσι το πρόβλημα εκφράζεται σαν όταν max f x, x,..., x c x c x... c x 1 2 n n n x x... x b n n 1 x x... x b n n 2 x x... x b m1 1 m2 2 mn n m και x, x2 0,, x n 30

31 Γραμμικός προγραμματισμός Υπό συνοπτική μορφή το πρόβλημα μπορεί να εκφρασθεί σαν T max f x c x όταν Ax b και x 0 όπου A ( ij ) είναι μια mxn γνωστή μήτρα, c [ c1 c2... c ] T n και b [ b1b 2... b ] T m είναι διανύσματα γνωστών συντελεστών ενώ το x [ x1 x2... x ] T n είναι το διάνυσμα αγνώστων μεταβλητών που πρέπει να ορισθεί. Προφανώς η ελαχιστοποίηση μιας συνάρτησης f ισοδυναμεί με τη μεγιστοποίηση της f, ενώ ανισότητες της μορφής μπορούν να μετατραπούν στη μορφή μετά από πολλαπλασιασμό με

32 Γραμμικός προγραμματισμός Η λύση του προβλήματος γραμμικού προγραμματισμού θα πρέπει να καταλήγει σε ένα διάνυσμα x που πληροί τις ανισότητες της μορφής Ax b. Η λύση αυτή θα είναι επιτρεπτή (ή εφικτή) όταν ταυτόχρονα πληροί τις συνθήκες μη αρνητικότητας x 0. Για να υπάρχει λοιπόν επιτρεπτή λύση πρέπει bi 0 (i=1,2,,m). Τότε οι ανισοτικές συνθήκες των περιορισμών μαζί με τις συνθήκες μη αρνητικότητας ορίζουν μια κλειστή και κυρτή στο χώρο των n διαστάσεων. Η βέλτιστη λύση πρέπει να βρεθεί γεωμετρικά με μετακίνηση του υπερεπιπέδου που ορίζει η f παράλληλα προς τον εαυτό του μέχρις ότου να λάβει την μέγιστη τιμή του και ταυτόχρονα να διατηρηθεί ένα τουλάχιστον κοινό σημείο με τον χώρο μέσα στον οποίο οφείλουν να βρίσκονται οι επιτρεπτές λύσεις. 32

33 Εικόνα 4.1 Γραμμικός προγραμματισμός: γεωμετρική ερμηνεία Ζητείται να βρεθεί το μέγιστο της f(x 1,x 2 )=3x 1 +4x 2, υπό τους περιορισμούς 5x 1 +2x 2 7 και 2x 1 +3x 2 8 για x 1 0 και x 2 0. Η βέλτιστη λύση ( x1, x2) πρέπει να βρίσκεται μέσα στη γραμμοσκιασμένη γραμμή που προκύπτει από τις 4 ανισότητες της εκφώνησης και ορίζει το χώρο των επιτρεπτών λύσεων. Σχεδιάζοντας τις γραμμές της μορφής f=3x 1 +4x 2 =z, για διάφορες τιμές του z, γίνεται σαφές ότι η f(x 1,x 2 ) παίρνει τη μέγιστη τιμή της όταν τμήσει την περιοχή των επιτρεπτών λύσεων στην κορυφή C=(5/11,26/11). Τότε η μέγιστη τιμή της f γίνεται z * =119/11. 33

34 Γραμμικός προγραμματισμός: γεωμετρική ερμηνεία Εικόνα

35 Γραμμικός προγραμματισμός Είναι προφανές ότι είναι πολύ δύσκολο να επεκτείνουμε την παραπάνω γραφική-γεωμετρική διαδικασία σε ένα πρόβλημα που περιέχει από δυο μεταβλητές. Για παράδειγμα σε ένα πρόβλημα τριών μεταβλητών η περιοχή των επιτρεπτών λύσεων βρίσκεται στο χώρο των τριών διαστάσεων και περιορίζεται από επίπεδα. Στη γενική περίπτωση n μεταβλητών η περιοχή των επιτρεπτών λύσεων σχηματίζει ένα πολύεδρο που ορίζεται μεταξύ υπερεπιπέδων. Για να ξεφύγουμε από τη γεωμετρική λύση, που είναι αδύνατο να εφαρμοστεί για προβλήματα με περισσότερες από τρεις μεταβλητές που δεν μπορούν να παρασταθούν γραφικά, έχει αναπτυχθεί ένας μαθηματικός αλγόριθμος που ονομάζεται μέθοδος Simplex. 35

36 Τέλος Ενότητας

37 Σημείωμα Χρήσης Έργων Τρίτων Όλα τα σχήματα, οι εικόνες και τα γραφήματα που παρουσιάστηκαν σε αυτήν την ενότητα προέρχονται από τις πανεπιστημιακές σημειώσεις με τίτλο «Εφαρμοσμένη Βελτιστοποίηση», Αντώνης Θ. Αλεξανδρίδης, εκδόσεις Πανεπιστημίου Πατρών. 37

38 Σημείωμα Ιστορικού Εκδόσεων Έργου Το παρόν έργο αποτελεί την έκδοση

39 Σημείωμα Αναφοράς Copyright Πανεπιστήμιο Πατρών, Αντώνιος Αλεξανδρίδης. «Εφαρμοσμένη Βελτιστοποίηση. Ενότητα 4». Έκδοση: 1.0. Πάτρα Διαθέσιμο από τη δικτυακή διεύθυνση: 39

40 Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στo πλαίσιo του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα στο Πανεπιστήμιο Αθηνών» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους. 40