Κατηγορίες προβλημάτων (σε μια διάσταση) Εισαγωγικές έννοιες Δ. Γ. Παπαγεωργίου Τμήμα Μηχανικών Επιστήμης Υλικών Πανεπιστήμιο Ιωαννίνων dpapageo@cc.uoi.gr http://pc164.materials.uoi.gr/dpapageo Το πρόβλημα Να βρεθεί το ελάχιστο της συνάρτησης. Γράφουμε: min Ελαχιστοποίηση χωρίς περιορισμούς : Ελαχιστοποίηση με περιορισμούς Επιπλέον, πρέπει να ικανοποιούνται οι περιορισμοί: 0, 1 ισοτικοί περιορισμοί 0, 1 ανισοτικοί περιορισμοί Πχ. min, 10 Ελαχιστοποίηση με όρια στις μεταβλητές, Πχ. min, 0,1 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 2 Προβλήματα εύρεσης μεγίστου Συμβολισμοί Προβλήματα εύρεσης μεγίστου: max μπορούν να αναχθούν σε προβλήματα ελαχιστοποίησης max min,, Πλήθος μεταβλητών (παραμέτρων) της συνάρτησης. Ονομάζεται και διάσταση του προβλήματος. Διάνυσμα του Ν διάστατου χώρου με στοιχεία,, Αναπαριστάται και ως πίνακας στήλη: Η συνάρτηση της οποίας αναζητoύμε Ονομάζεται και αντικειμενική συνάρτηση. Το διάνυσμα πρώτων παραγώγων της συνάρτησης. Συμβολίζεται και με Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 3 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 4
Συμβολισμοί Ο πίνακας των δευτέρων παραγώγων της συνάρτησης. Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 5 Λέγεται και Εσσιανός πίνακας (Hessian). Τα στοιχεία του είναι: Αν η είναι δύο φορές συνεχώς παραγωγίσιμη, τότε τα στοιχεία του είναι συμμετρικά: Συμβολισμοί Το σημείο στο οποίο η αντικειμενική συνάρτηση έχει Ονομάζεται και ελαχιστοποιητής της. Η τιμή της συνάρτησης στο Ο πίνακας των δευτέρων παραγώγων στο Μικρά έντονα γράμματα συμβολίζουν διανύσματα θέσεων. Κεφαλαία έντονα γράμματα συμβολίζουν πίνακες Ο εκθέτης T δηλώνει τον ανάστροφο πίνακα (οι γραμμές γίνονται στήλες): 1 2 3 4 Ο εκθέτης 1 δηλώνει τον αντίστροφο: 1 3 2 4 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 6 1 0 0 0 1 0 0 0 1 Τι είναι ελάχιστο Τι είναι ελάχιστο Για μονοδιάστατη συνάρτηση Tοπικό ελάχιστο Σημείο με την ιδιότητα, τέτοιο ώστε για οσοδήποτε μικρό Iσχυρό τοπικό ελάχιστο: Σημείο με την ιδιότητα, τέτοιο ώστε για οσοδήποτε μικρό Ισχυρό τοπικό ελάχιστο Τοπικά ελάχιστα Ολικό ελάχιστο: Σημείο με την ιδιότητα, Καθολικά ελάχιστα Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 7 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 8
Αναγκαίες και ικανές συνθήκες Για μονοδιάστατη συνάρτηση (υπενθύμιση) Αναγκαίες συνθήκες: Πρώτης τάξης: 0 Δεύτερης τάξης: 0 Ικανές συνθήκες: Πρώτης τάξης: 0 Δεύτερης τάξης: 0 Αναγκαίες και ικανές συνθήκες Για πολυδιάστατη συνάρτηση Αναγκαίες συνθήκες: Πρώτης τάξης: 0 Δεύτερης τάξης: 0 Ικανές συνθήκες: Πρώτης τάξης: 0 Δεύτερης τάξης: 0 0 Η συνθήκη δεύτερης τάξης στην ανωτέρω μορφή δεν μπορεί να ελεγθεί υπολογιστικά. Διατυπώνεται με ισοδύναμο τρόπο ώστε ο έλεγχός της να είναι υπολογιστικά εφικτός: Ικανή συνθήκη δεύτερης τάξης: Όλες οι ιδιοτιμές του πίνακα είναι θετικές. Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 9 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 10 Υπενθύμιση: Πράξεις μεταξύ πινάκων και διανυσμάτων Αν έχουμε: Πολλαπλασιασμός διανυσμάτων αριθμός πίνακας Πολλαπλασιασμός πίνακα με διάνυσμα διάνυσμα στήλη διάνυσμα γραμμή Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 11 Υπενθύμιση: Πράξεις μεταξύ πινάκων και διανυσμάτων Ανάστροφοι αθροισμάτων Για συμμετρικό πίνακα 2 2 Ανάστροφοι γινομένων Πρώτες παράγωγοι Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 12
Ιδιοτιμές πίνακα Θεωρήστε ένα πίνακα με γραμμές και στήλες. Πρόβλημα ιδιοτιμών Να βρεθεί αριθμός και διάνυσμα που να ικανοποιεί την εξίσωση: Στάσιμα σημεία Τα σημεία της συνάρτησης που ικανοποιούν τη συνθήκη πρώτης τάξης 0 ονομάζονται στάσιμα σημεία. Τύποι στάσιμων σημείων Ελάχιστο: Όλες οι ιδιοτιμές του πίνακα είναι θετικές Ο αριθμός λέγεται ιδιοτιμή του πίνακα. Το διάνυσμα λέγεται ιδιοδιάνυσμα του πίνακα. Ένας πίνακας έχει ιδιοτιμές και ιδιοδιανύσματα Μέγιστο: Όλες οι ιδιοτιμές του πίνακα είναι αρνητικές Ο πίνακας λέγεται: Θετικά ορισμένος όταν όλες οι ιδιοτιμές είναι θετικές. Αρνητικά ορισμένος όταν όλες οι ιδιοτιμές είναι αρνητικές. Σαγματικό σημείο: Κάποιες ιδιοτιμές του πίνακα είναι θετικές και κάποιες αρνητικές. Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 13 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 14 Παράδειγμα εύρεσης ελαχίστου (αναλυτικά) #1 Παράδειγμα εύρεσης ελαχίστου (αναλυτικά) #1 Μονοδιάστατη συνάρτηση (υπενθύμιση) Θεωρήστε τη συνάρτηση Να βρεθεί το ελάχιστο και η τιμή της συνάρτησης στο ελάχιστο Η πρώτη παράγωγος είναι: Βρίσκουμε το σημείο που μηδενίζεται η πρώτη παράγωγος: 0 0 1 0 10 1 Παρατήρηση: πρέπει να λύσουμε μια μη γραμμική εξίσωση. Η δεύτερη παράγωγος είναι: 2 Η δεύτερη παράγωγος στο ελάχιστο είναι: 1 1 2 1 0 Συνεπώς στο σημείο 1 έχουμε Η τιμή της συνάρτησης στο ελάχιστο είναι: 1 1 0.37 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 15 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 16
Διδιάστατη συνάρτηση Βρείτε το ελάχιστο της συνάρτησης Rosenbrock:, 100 1, 100 1 Οι πρώτες παράγωγοι είναι: 400 2 1 200 Πρέπει να βρούμε το σημείο, που μηδενίζονται οι πρώτες παράγωγοι: 0 0 Πρέπει να λύσουμε ένα μη γραμμικό σύστημα 2 εξισώσεων με 2 αγνώστους. (2) 0 Αντικαθιστώ στην (1) 2 1 0 1 Αντικαθιστώ το 1 στην (2) 200 1 0 1 400 2 1 0 200 0 (1) (2) Για 1,1 έχουμε στάσιμο σημείο. Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 17 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 18 Υπολογίζουμε τον πίνακα των δευτέρων παραγώγων:, Βρήκαμε τις πρώτες παραγώγους: 400 2 1 200 Τα στοιχεία του πίνακα είναι: 400 3 2 200 400 400 Στο σημείο 1,1 ο πίνακας είναι: 802 400 1,1 400 200 Πρέπει να εξετάσουμε τις ιδιοτιμές του πίνακα για να διαπιστώσουμε αν έχουμε Βρίσκουμε τις ιδιοτιμές του πίνακα των δευτέρων παραγώγων: 0 0 802 400 400 200 λ 1 0 0 1 0 802 400 400 200 0 802 400 0 400 200 0 Ομογενές γραμμικό σύστημα 2 εξισώσεων με 2 αγνώστους Για να έχει λύση πρέπει η ορίζουσα των συντελεστών να είναι ίση με μηδέν 802 400 400 200 0 802 200 160000 0 1002 400 0 0.3994 1001.6 Οι ιδιοτιμές είναι θετικές, οπότε το σημείο 1,1 είναι Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 19 Υπολογιστικές Μέθοδοι Πολύπλοκων Συστημάτων Εισαγωγικές έννοιες 20