Εισαγωγή στο Λογισμό των Μεταβολών : Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις & Ισοτικοί Περιορισμοί

Transcript

1 Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις & Ισοτικοί Περιορισμοί Τι θα γίνει όμως αν μας ζητηθεί να ελαχιστοποιήσουμε ως προς το R την f ( ) = Q + S Q = Q = S = με ταυτόχρονη ικανοποίηση της g( ) = c b = c = b = 3 Δηλαδή, αν στο πρόβλημα της βελτιστοποίησης μιάς συνάρτησης f () συμπεριληφθούν και n ισοτικοί περιορισμοί της μορφής g i ()= i=,,n τότε το μαθηματικό πρόβλημα βελτιστοποίησης γίνεται: min f ( ) gn ( ) Προφανως ο αριθμός των περιορισμών πρέπει να είμαι μικρότερος από αυτόν της διάστασης του προβηματος ( n < d ) γιατί αλλοιώς το πρόβλημα υπερπεριορίζεται, επειδή ο δυνατός χώρος (feasible space), δηλ. o χώρος που ικανοποιεί την G()=, εκφυλίζεται σε ένα ή και κανένα σημείο. Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 7 st g g! ( ) ( ). G = =

2 Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις & Ισοτικοί Περιορισμοί Αντιµετωπίζουµε το πρόβληµα : min st ως εξής: gn ( ) Εισάγουµε διάνυσµα πολλαπλασιαστών Lagrange λ = [ λ διαστάσεως λ! λ n ] n, ίδιας δηλαδή µε του G(), του διανύσµατος ισοτικών περιορισµών. Σχηµατίζουµε τη συνάρτηση! f ( ) = f ( ) + λ G( ) = f ( ) + λg( ) + " λngn( ) Έστω ότι ελαχιστοποιήσουµε την!f δηλαδή βρούµε Έστω * που ικανοποιεί τους ισοτικούς περιορισµούς, δηλαδή : G() = G(*) τότε λ R n ισχύει: ( ) ( ) ( ). G = = f g g! " " " = arg min d f f > f! = + λ = f ( ) λ G( ) f ( ) λ G( ) f f f f G G! = + + = =! f! f > Αν το * ελαχιστοποιεί την f, τότε ελαχιστοποιεί και την f για αυτά τα που ανήκουν στο σύνολο των σημείων όπου ισχύει G() = G(*). Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 8

3 Αν το * ελαχιστοποιεί την! d f ( ) τότε f =.. Το αντίστροφο ισχύει µόνο αν η! f ( ) είναι κυρτή, κάτι που εξαρτάται και από το λ! n. n Επίσης, για να ισχύει η εξίσωση ισοτικών περιορισµών, πρέπει G =!. Αυτές οι d+n εξισώσεις οδηγούν στην λύση (, λ ) των d+n αγνώστων. Επιστροφή στο παράδειγµα: ελαχιστοποίηση της f ( ) = ( ) Q + S όπου Q = Q = και S = g( ) = c b = c = b = 3 Σχηµατίζουµε την!f ( ) = f ( ) + λ Τ g( ) = και µε Q + S + λ ( c b) µερική παραγώγιση λαµβάνουµε τις: d εξισώσεις:! f ( ) = Q + S + c λ = = Q S + c λ n εξισώσεις:! λ f Οπότε Εισαγωγή στο Λογισμό των Μεταβολών : Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις & Ισοτικοί Περιορισμοί = 3 = c b =! " = Q S c c c ( c Q S + b) c Q ( S + c λ ) b = λ = ( c c ) ( c Q S + b) Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 9

4 Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις & Ισοτικοί Περιορισμοί Οι ισοϋψείς είναι μορφής ελλειπτικής. Ο ισοτικός περιορισμός είναι η κατα κόρυφη γραμμή... Το κρίσιμο σημείο * είναι το σημειο επαφής. Γενικά, για να εξασφαλιστεί η ελαχιστοποίση η! f ( ) πρέπει να είναι κυρτή για λ = λ Πως ελέγχεται όμως αυτό? Γενικά, το βασικό εργαλείο είναι η χρήση παραγώγων ης Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ τάξης (Hessian). Όμως

5 Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις & Ισοτικοί Περιορισμοί Ανάλυση Κυρτότητας ( Convexity Analysis) σε ειδικές περιπτώσεις: Αν ο ισοτικός περιορισμός είναι γραμμικός, δηλαδή : G( ) = C e= τότε η παραγώγιση της! f ( ) ως προς οδηγεί στην G! f ( ) = f ( ) + λ ( ) = f ( ) + λ C Αν λοιπόν η f () είναι «αυστηρά κυρτή» τότε : { }! f + υ! f = f + υ + λ C + υ e f + λ C e = = f + υ f + λ C υ f υ+ λ C υ =!( ) = f + λ C υ = f υ Ισότητα µόνο όταν υ = Επειδή η f () είναι «αυστηρά κυρτή», η ανισότητα ισχύει σαν ισότητα μόνο όταν υ = : αυστηρά κυρτή Η γενικώτερη ανάλυση με χρήση Hessian είναι πέραν αυτού του μαθήματος.. Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ

6 Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις Τετραγωνικός Προγραμματισμός Έστω το πρόβληµα ελαχιστοποίησης: Είναι η f () αυστηρά κυρτή? min Q + S s.t. G = C b = Q = Q > R d d C R n d, n < d, rank C = n f ( +υ) f ( ) = +υ Q +υ + S ( +υ) Q + S = Qυ + S υ + υ Qυ = f ( ) υ + υ Qυ f ( ) υ = f ( ) + λ Τ G( ) f () : Αυστηρά Κυρτή Άρα, συµφωνα µε προηγ. σελ. και η!f αυστηρά κυρτή. Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ

7 Βελτιστοποίηση σε Πεπερασμένες Διαστάσεις Τετραγωνικός Προγραμματισμός Εποµένως, τα ακρότατα θα ελαχιστοποιούν την f(). Έτσι, σύµφωνα µε τα προηγούµενα, αναζητούµε τη λύση, λ των! f ( ) = R d Q + S + c λ = = Q S + c λ = Q S c ( c c ) ( c Q S + b)! λ f ( ) = G( ) R n c b = c Q ( S + c λ ) b = λ = ( c c ) ( c Q S + b) Η η εξίσωση έχει νόηµα γιατί Q >, άρα µη-ιδιόµορφος. Η η εξίσωση έχει νόηµα γιατί Q > Q - > και C: full rank, rank(c) = n C Q - C >, άρα η λύση λ * έχει νόηµα. Εποµένως η λύση = Q S c c c ( c Q S + b) ελαχιστοποιεί την f ( ) = Q + S Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 3

8 Βελτιστοποίηση σε Άπειρες Διαστάσεις Μέχρι τώρα εξετάσαµε το πρόβληµα της βελτιστοποίησης για R d. Επεκτείνουµε τώρα τη βελτιστοποίηση για C [t,t f ], δηλαδή το χώρο των συναρτήσεων που ορίζονται στο [t, t f ] και έχουν συνεχή παράγωγο («λείες») και εποµένως έχουν η παράγωγο. Οµιλώντας µαθηµατικά «πολύ χαλαρά» : η βελτιστοποίηση σε χώρο πεπερασµένων διαστάσεων (δηλ. R d ) αφορά το καθορισµό του διανύσµατος * (δηλ. των d συντεταγµένων του), που βελτιστοποιεί µία συνάρτηση. η βελτιστοποίηση σε χώρο «απείρων» διαστάσεων αφορά το καθορισµό της (πιθανώς πολυµεταβλητής µε d συντεταγµένες) συνάρτησης * (t) σε όλα τα («άπειρα» δηλαδή) σηµεία του [t, t f ] που συνιστούν το πεδίο ορισµού της, ετσι ωστε να βελτιστοποιεί ένα συναρτησιακό. Ένα συναρτησιακό F() είναι µία απεικόνιση που αντιστοιχεί ένα πραγµατικό αριθµό σε κάθε συνάρτηση (που ανήκει σε κάποιο συγκεκριµένη κατηγορία συναρτήσεων). «Xαλαρά» οµιλώντας, το συναρτησιακό είναι µία «συνάρτηση συναρτήσεων»... Στα πλαίσια αυτού του µαθήµατος τα προς εξέταση συναρτησιακά θα είναι της t f µορφής = f t, t F t,! t dt Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 4

9 Το πρώτο πρόβλημα που επιλύθηκε στο πλαίσιο του Λογισμού των Μεταβολών Ελαχιστοποίηση της αεροδυναμικής αντίστασης ενός σώματος εκ περιστροφης με μηδενική γωνία πρόσπτωσης σε υπερηχητική ροή. Αεροδυναμική Αντίσταση q : πίεση r=r(x): ακτίνα του σώματος σε κάθε σημείο x r()=α : μέγιστη ακτίνα του σώματος x : αξονική απόσταση από σημείο μέγιστης ακτίνας dr/dx=-tanθ C p = C p (θ): συντελεστής πίεσης l: μηκός σώματος D = πq C p θ Να ευρεθεί η συνάρτηση ( που dx x) x [,l ] ελαχιστοποιεί την αεροδυναμική αντίσταση D. dr x=l x= r dr Ετέθη ως πρόβλημα και λύθηκε το 686 από τον Isaac Newton του οποίου το αεροδυναμικό μοντέλο είναι καλό στις υπερηχητικές ταχύτητες και οχι στις υποηχητικές. Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 5

10 Βελτιστοποίηση σε Άπειρες Διαστάσεις Θα αντιµετωπίσουµε προβλήµατα βελτιστοποίησης της µορφής f min =,,, f! t C t t t F f t t t dt Υπογραµµίζεται ότι : αποτέλεσµα αυτής της βελτιστοποίησης είναι µία συνάρτηση * C [t,t f ] που ελαχιστοποιεί το παραπάνω συναρτησιακό (ολοκλήρωµα) F(). t ( f ) ( ) ( tf ) Οι χρόνοι έναρξης (t ) και περάτωσης (t f ), µπορεί αν είναι ελεύθεροι ή καθορισµένοι Οι οριακές συνθήκες µπορούν, να είναι ακόµη πιο γενικές, π.χ. της µορφής φ[(t ), t ]=, φ[(t f ), t f ]=. Στη βελτιστοποίηση πεπερασµένων διαστάσεων η πάραγωγος έπαιξε σηµαντικό ρόλο. Στη βελτιστοποίηση «απείρων» διαστάσεων... είναι καθορισµένο st.. µία από τις t είναι καθορισµένο t, είναι καθορισµένα Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 6

11 Ολική Μεταβολή Συναρτησιακού = ( t) + ( t) Έστω συναρτησιακό F dt Kάθε συνάρτηση (t) αντιστοιχεί σε μία πραγματική τιμή του συναρτησιακού. Θεωρούμε την συνάρτηση (t)+δ(t) όπου δ(t) είναι μία «μικρή» συνάρτηση, δηλαδή δ << H νορμα συναρτησεων έχει σκοπό την αποτίμηση του μεγέθους των π.χ. θα μπορούσαμε στην (t)+δ(t) παραπάνω περίπτωση να υιοθετήσουμε νόρμες (t) τη μορφής δ = max δ t t [,] δ = δ ( t) dt δ(t) όπου δ ( t) είναι μιά (συνήθης) νόρμα του διανύσματος δ ( t) την χρονική στιγμή t. t i = t f = Προφανώς F( + δ ) = { ( t) + δ ( t) + ( t) + δ ( t) } dt. Οπότε η ολική μεταβολή (increment) του συναρτησιακού F γράφεται ΔF(,δ ) = F( + δ ) F( ) = ( t) + δ ( t ) { + ( t) + δ ( t) } dt ( t) + ( t) και μετά από πράξεις ΔF(,δ ) = { ( t) + δ ( t) } dt + δ ( t) dt Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 7 dt

12 Πρώτη Μεταβολή & Μεταβολή Gateuax Συναρτησιακού Η ολική μεταβολή ΔF(,δ ) = ( t) + είναι ειδική μορφή της γενικής μορφής όπου = δ F(,δ ) + g,δ ΔF,δ { δ ( t) } dt + δ ( t) dt δ δf(,δ), η πρώτη μεταβολή (varia on) του F επί της συναρτησεως, είναι γραμμική ως προς το δ. Αν lim g(,δ ) = τότε το F είναι διαφορίσιμο επί της συναρτησεως. δ Από την ολική μεταβολή του παραδείγματος διαπιστώνουμε ότι η πρώτη μεταβολή είναι δ F,δ δ t και ότι το F είναι διαφορίσιμο. = ( t) + Μπορούμε να θεωρήσουμε μεταβολές δ στη κατηγορία δ t όπου υ(t) μία βασική συνάρτηση και ε<< ένας «συντελεστής ενίσχυσης». υ(t) ε= ε=.5 ε=.5 Ετσι, μπορούμε να Θεωρήσουμε την μεταβολή Gateuax (Gateuax varia3on) του συναρτησιακού F() στο (t) ως προς την «κατεύθυνση» υ(t) C [t,t f ] : + ευ δ ( υ)! ε ε = ε υ( t) F ; lim F F Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 8

13 Βελτιστοποίηση σε Άπειρες Διαστάσεις Δεδοµένου του ορισµου: F( ; ) lim F F t + ευ f δ υ! και F( ) = ε ε f t, t t αν η προς ολοκλήρωση συνάρτηση f ( t,,! ) έχει συνεχείς µερικές d d παραγώγους ως προς!, σε όλο το πεδίο ορισµού της!!! τότε: =,! t dt Τ Τ = Τ Τ Παράδειγµα: Εστώ το συναρτησιακό τότε οπότε t f! F = t + dt f f f ( t,,! ) = t +! ( t,,! ) = t ( t,,! ) =!! t Ισοτικοί Περιορισμοί Kostas J. Kyriakopoulos - Σ.Α.Ε. ΙΙ 9