ΥΠΕΥΘΥΝΟΣ ΚΑΘΗΓΗΤΗΣ Α. Ντούνης ΔΙΔΑΣΚΩΝ ΑΚΑΔ. ΥΠΟΤΡΟΦΟΣ Χ. Τσιρώνης ΕΙΣΑΓΩΓΗ ΣΤΗ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗ ΣΥΣΤΗΜΑΤΩΝ - Μέγιστη κάθοδος - Μέθοδος Newton - MATLAB s optimtool
ΕΠΙΣΚΟΠΗΣΗ ΑΛΓΟΡΙΘΜΩΝ Αλγόριθμοι για προβλήματα χωρίς περιορισμούς: Μέθοδοι αναζήτησης (ομοιόμορφη, χρυσή τομή, ). Μέθοδοι αναζήτησης με παραγώγους (διχοτόμηση, ). Μέθοδοι κλίσης (μέγιστη κάθοδος, Newton, ). Τροποποιημένες μέθοδοι κλίσης (συζυγείς κλίσεις, ). Κλίση χωρίς παραγώγους (συντεταγμένη κάθοδος, ). Αλγόριθμοι για προβλήματα με περιορισμούς: Μέθοδοι εφικτών κατευθύνσεων (κλίση προβολή). Μέθοδοι φραγής (παράμετροι φραγμού). Μέθοδοι ποινής (penalty functionals). 2
Η ΜΕΓΙΣΤΗ ΚΑΘΟΔΟΣ Εφαρμογή αναδρομικών τύπων: X [k+1] X k = λ [k] D [k] f X [k+1] f X k = λ [k] D [k] f X k Επιλογή κατεύθυνσης: D = f. Μετακίνηση κάθετη στη διεύθυνση της τρέχουσας λύσης. X [k] minf κατά μήκος της κλίσης. Επιλογή βήματος: minf στο τμήμα G γ = Χ k γ f Χ k. Μικρά βήματα Αργή σύγκλιση της μεθόδου. Τεθλασμένη γραμμή κατά πλάτος των ισοϋψών της f. 3
ΠΑΡΑΔΕΙΓΜΑ ΠΡΩΤΟ Να ελαχιστοποιηθεί η συνάρτηση f(x) = 3 x 1/3 με τη μέθοδο της μέγιστης καθόδου. Απαιτούμενος υπολογισμός: 1 η παράγωγος της f. f x = 3 1 3 x 2/3 x x Εφαρμογή μεθόδου μεγίστης καθόδου: x k+1 = x k γ k f x k = x x 1/3 x k+1 = x k γ k x k x k 1/3 = 1 γ k x k 1/3 x k Έλεγχος αριθμητικής σύγκλισης της μεθόδου: - Πρέπει να ισχύει 1 γ k x 1/3 k < 1 x k < 8Τγ k3 με γ k > 0. - Περιορισμοί για την επιλογή των παραμέτρων γ k, x 0. 4
ΜΕΘΟΔΟΣ NEWTON Επιλογή D: D = 2 f 1 f. Προϋπόθεση: 2 f 0. Αναβάθμιση μέγιστης καθόδου: Χρήση παράγωγων 2 ης τάξης. Επιλογή λ: Παρόμοια με πριν Ελαχιστοποίηση της προσέγγισης 2 ης τάξης (ανάπτυξη Taylor στο Χ [κ] ). Εναλλακτική λύση: Ισοδύναμο σύστημα εξισώσεων. Πολλαπλασιασμός κατά μέλη με τον Εσσιανό πίνακα: Α k = 2 f Χ k, Β k = Α k Χ [k] λ [k] f Χ k Α k Χ [k+1] = Β [k] Αν 2 f 0 Levenberg Marquardt ( 2 f 2 f + μι). 5
ΠΑΡΑΔΕΙΓΜΑ ΔΕΥΤΕΡΟ Να ελαχιστοποιήσετε την συνάρτηση f(x) = x 4 1 με χρήση της μεθόδου Newton. Απαιτούμενοι υπολογισμοί: 1 η και 2η παράγωγος της f. f x = 4x 3, 2 f x = 12x 2 Εφαρμογή μεθόδου Newton: x k+1 = x k γ k 2 f x k 1 f x k x k+1 = x k γ k 12x k 2 1 4x k 3 = 1 γ k 3 Έλεγχος αριθμητικής σύγκλισης της μεθόδου: - Πρέπει να ισχύει 1 γ k /3 < 1 0 < γ k < 6. - Περιορισμοί για την επιλογή της παραμέτρου γ k. x k 6
ΛΟΓΙΣΜΙΚΟ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ Teacher s choice: MATLAB s optimization toolbox. Αριθμητική επίλυση προβλημάτων ελαχιστοποίησης. 19 μέθοδοι για τοπική και ολική βελτιστοποίηση. Γραφικό περιβάλλον (input tabs, method setup, plots, ). 7
ΕΥΡΕΤΗΡΙΟ ΜΕΘΟΔΩΝ optimtool fminbnd fmincon fminimax fminsearch fminunc fseminf fsolve fzero lsqnonlin Optimization toolbox in MATLAB Single-variable nonlinear minimization with bounds Constrained nonlinear minimization Minimax optimization Unconstrained nonlinear minimization Unconstrained nonlinear minimization Semi-infinite minimization Nonlinear equation solving Single-variable nonlinear equation solving Nonlinear least squares 8
ΒΑΣΙΚΕΣ ΡΥΘΜΙΣΕΙΣ Επιλογή μεθόδου ελαχιστοποίησης (βλ. ευρετήριο) Εισαγωγή στοιχείων προβλήματος (f, f, f, X 0, ) Ρυθμίσεις αλγορίθμου (τερματισμός, ακρίβεια, ). 9
ΕΡΩΤΗΣΕΙΣ - ΣΥΖΗΤΗΣΗ Μέγιστη κάθοδος Μέθοδος Newton MATLAB s optimtool 10