ΑΛΓΟΡΙΘΜΙΚΕΣ ΜΕΘΟΔΟΙ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ

Transcript

1 ΑΛΓΟΡΙΘΜΙΚΕΣ ΜΕΘΟΔΟΙ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ ΚΟΥΛΙΝΑΣ ΓΕΩΡΓΙΟΣ Δρ. Μηχανικός Παραγωγής & Διοίκησης ΔΠΘ

2 ΑΛΓΟΡΙΘΜΙΚΕΣ ΜΕΘΟΔΟΙ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗΣ o ΔΙΑΛΕΞΕΙΣ ΜΑΘΗΜΑΤΟΣ ΔΕΥΤΕΡΑ (Εργ. Υπ. Μαθ. Τμ. ΜΠΔ) oτρόπος εξέτασης: 1. Ομαδική εργασία Ομάδες 2-3 ατόμων ΕΠΙΚΟΙΝΩΝΙΑ oγραφειο 305 ΚΤΙΡΙΟ Ι, ΠΡΟΚΑΤ ΔΕΥΤΕΡΑ & oτηλεφωνο: o gkoulina@pme.duth.gr

3 ΠΡΟΤΕΙΝΟΜΕΝΑ ΣΥΓΓΡΑΜΑΤΑ Μαρινάκης, Ι., Μαρινάκη Μ., Ματσατσίνης Ν., Ζοπουνίδης Κ. (2011), Μεθευρετικοι Και Εξελικτικοι Αλγοριθμοι Σε Προβληματα Διοικητικης Επιστημης, Εκδόσεις Κλειδάριθμος, Αθήνα Ταραντίλης Χ.Δ., Κυρανούδης Χ.Θ., Ιωάννου Γ., (2004), Διοίκηση Διανομών - Υπηρεσιών Στις Ελληνικές Επιχειρήσεις, Εκδόσεις Ι. Σιδέρης, Αθήνα

4 ΕΦΑΡΜΟΓΕΣ ΑΛΓΟΡΙΘΜΙΚΩΝ ΜΕΘΟΔΩΝ Μεταξύ άλλων, σημαντικά προβλήματα που αντιμετωπίζουν οι αλγόριθμοι εντοπίζονται σε εφαρμογές όπως: Χρονοπρογραμματισμός Έργων Δρομολόγηση Στόλου Οχημάτων Χωροθέτηση Εγκαταστάσεων Επιλογή Χαρτοφυλακίου

5 ΠΡΟΣΕΓΓΙΣΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ APPROXIMATION ALGORITHMS Οι κλασικές μέθοδοι ακέραιου και γραμμικού προγραμματισμού δεν μπορούν να χρησιμοποιηθούν για επίλυση ρεαλιστικών προβλημάτων καθώς αυτά απαιτούν εξαιρετικά μεγάλο αριθμό πράξεων για την εύρεση βέλτιστης λύσης Τέτοιου είδους προβλήματα αντιμετωπίζονται με «Προσεγγιστικούς Αλγορίθμους»

6 ΠΡΟΣΕΓΓΙΣΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ APPROXIMATION ALGORITHMS Αποτελεσματική επίλυση = βελτιωμένη τιμή αντικειμενικής συνάρτησης + αποδεκτός χρόνος

7 ΠΡΟΣΕΓΓΙΣΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ APPROXIMATION ALGORITHMS Οι προσεγγιστικοί αλγόριθμοι προσπαθούν να βρούν το Ολικό Βέλτιστο Ή Μια λύση πολύ κοντά στη βέλτιστη Τοπικό Βέλτιστο Σε αποδεκτό υπολογιστικό χρόνο

8 ΠΡΟΣΕΓΓΙΣΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ APPROXIMATION ALGORITHMS Ευρετικοί Αλγόριθμοι: Κλασικοί Ευρετικοί (Απλοί Ευρετικοί) Μεταευρετικοί («Ευφυείς» Αλγόριθμοι)

9 ΚΛΑΣΙΚΟΙ ΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ CLASSIC HEURISTIC ALGORITHMS Ευρετικοί Κατασκευαστικοί Αλγόριθμοι Ευρετικοί Επαναληπτικής Βελτίωσης

10 ΚΑΤΑΣΚΕΥΑΣΤΙΚΟΙ ΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ CONSTRUCTIVE HEURISTIC ALGORITHMS Πλεονεκτικοί Κατασκευαστικοί Στοχαστικοί Κατασκευαστικοί

11 ΕΥΡΕΤΙΚΟΙ ΕΠΑΝΑΛΗΠΤΙΚΗΣ ΒΕΛΤΙΩΣΗΣ ITERATIVE IMPROVEMENT HEURISTIC ALGORITHMS Αλγόριθμος Μέγιστης Κατάβασης (Steepest Descent Algorithm) Αποδοχή της συνολικά καλύτερης γειτονικής λύσης Αλγόριθμος Κατάβασης (Descent Algorithm) Αποδοχή της πρώτης καλύτερης γειτονικής λύσης

12 ΕΥΡΕΤΙΚΟΙ ΕΠΑΝΑΛΗΠΤΙΚΗΣ ΒΕΛΤΙΩΣΗΣ ITERATIVE IMPROVEMENT HEURISTIC ALGORITHMS Οι Αλγόριθμοι Επαναληπτικής Βελτίωσης αποτελούν αλγορίθμους Τοπικής Έρευνας (Local Search)

13 ΜΕΤΑΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ METAHEURISTIC ALGORITHMS Ευφυείς διαδικασίες επαναληπτικής βελτίωσης που χρησιμοποιούν απλές κινήσεις στο χώρο των λύσεων Σκοπός: να είναι όσο το δυνατό περισσότερο ανεξάρτητοι από το πρόβλημα που αντιμετωπίζουν κάθε φορά Οδηγούν την έρευνα σε λύσεις πέρα από αυτές που παράχθηκαν από απλούς αλγορίθμους τοπικής αναζήτησης

14 ΜΕΤΑΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ METAHEURISTIC ALGORITHMS Εντατικοποίηση της ερευνας στο χώρο των λύσεων (Intensification) Εστιασμένη αναζήτηση σε μικρές περιοχές με υψηλής ποιότητας λύσεις για να βρεθεί το τοπικά βέλτιστο σημείο Διαφοροποίηση της ερευνας στο χώρο των λύσεων (Diversification) Απεγκλωβισμός από τοπικά βέλτιστα και μετακίνηση σε άλλες περιοχές

15 ΕΝΤΑΤΙΚΟΠΟΙΗΣΗ ΔΙΑΦΟΡΟΠΟΙΗΣΗ INTENSIFICATION - DIVERSIFICATION Οι δύο «τακτικές» αναζήτησης στο χώρο των λύσεων Συμπληρωματική λειτουργία Σε δεδομένη φάση της επίλυσης προτείνεται η χρήση της μιας έναντι τη άλλης Βασική επιδίωξη: Η ισορροπία τους

16 ΕΝΤΑΤΙΚΟΠΟΙΗΣΗ ΔΙΑΦΟΡΟΠΟΙΗΣΗ ΣΤΟ ΧΩΡΟ ΤΩΝ ΛΥΣΕΩΝ INTENSIFICATION - DIVERSIFICATION Z(x) Τοπικό Ελάχιστο (Local minimum) Ολικό Ελάχιστο (Global minimum) x

17 ΚΑΤΑΣΚΕΥΑΣΤΙΚΟΙ ΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ CONSTRUCTIVE HEURISTIC ALGORITHMS Γιατί χρησιμοποιήούμε κατασκευαστικούς ευρετικούς αλγορίθμους? 1. Προσεγγιστική αντιμετώπιση προβλημάτων που δεν επιλύονται βέλτιστα σε αποδεκτό χρόνο 2. Πλήρης κατανόηση της φύσης του προβλήματος που εξετάζεται καθώς οποιαδήποτε κίνηση στο χώρο των λύσεων ορίζεται με ακρίβεια

18 ΚΑΤΑΣΚΕΥΑΣΤΙΚΟΙ ΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ CONSTRUCTIVE HEURISTIC ALGORITHMS Ο κατασκευστικός ευρετικός δημιουργεί μια λύση σταδιακά Η λύση περιλαμβάνει στοιχεία του προβλήματος «τοποθετημένα» με τέτοιο τρόπο ώστε να τηρούνται οι περιορισμοί του Η επιλογή στοιχείου που θα προστεθεί στη «μερική» λύση (partial solution) γίνεται με βάση κριτήριο σχετικό με την αντικειμενική συνάρτηση & τους περιορισμούς του προβλήματος

19 ΚΑΤΑΣΚΕΥΑΣΤΙΚΟΙ ΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ CONSTRUCTIVE HEURISTIC ALGORITHMS Στόχος του κατασκευαστικού ευρετικού : Η σταδιακή κατασκευή λύσης με πρόσθεση σε κάθε επανάληψη του στοιχείου που θα προκαλέσει το ελάχιστο κόστος ή μέγιστο όφελος Σύμφωνα με κριτήριο που συνδέεται με την αντικειμενική συνάρτηση του προβλήματος Υπό την προϋπόθεση ότι τηρούνται οι περιορισμοί του προβλήματος

20 Το Πρόβλημα Του Περιοδεύοντος Πωλητή (Travelling Salesman Problem - TSP)

21 ΚΑΤΑΣΚΕΥΑΣΤΙΚΟΙ ΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ NEAREST NEIGHBOR ALGORITHM Step 1: Set a node as start. Set as current Step 2: Find out the shortest edge connecting current node and an unvisited node N Step 3: Mark N as visited Step 4: Set node N as current Step 5: If all the nodes are visited, then terminate Step 6: Else, Go to Step 2

22 ΤΟ ΠΡΟΒΛΗΜΑ ΤΟΥ ΠΕΡΙΟΔΕΥΟΝΤΟΣ ΠΩΛΗΤΗ (TRAVELLING SALESMAN PROBLEM TSP) Θέτει το ερώτημα: Με δεδομένη μια λίστα πόλεων A-B-C-D-E-F-G-H και το κόστος μετάβασης ανά ζευγάρι πόλεων, ποιά είναι η διαδρομή μοναδικών επισκέψεων σε κάθε πόλη με το ελάχιστο κόστος και τελικά επιστροφή στην αφετηρία; oνα θεωρηθεί ως κόμβος αρχής ο κόμβος Α oνα πραγματοποιηθεί επίλυση του προβλήματος με χρήση ενός άπληστου κατασκευαστικού αλγορίθμου (greedy constructive algorithm)

23 ΤΟ ΠΡΟΒΛΗΜΑ ΤΟΥ ΠΕΡΙΟΔΕΥΟΝΤΟΣ ΠΩΛΗΤΗ (TRAVELLING SALESMAN PROBLEM - TSP) A B C D E F G H A B C D E F G H -

24 ΤΟ ΠΡΟΒΛΗΜΑ ΤΟΥ ΠΕΡΙΟΔΕΥΟΝΤΟΣ ΠΩΛΗΤΗ (TRAVELLING SALESMAN PROBLEM - TSP) A B C D E F G H A B C D E F G H

25 ΤΟ ΠΡΟΒΛΗΜΑ ΤΟΥ ΠΕΡΙΟΔΕΥΟΝΤΟΣ ΠΩΛΗΤΗ (TRAVELLING SALESMAN PROBLEM - TSP) B C D E H G F

26 ΤΟ ΠΡΟΒΛΗΜΑ ΤΟΥ ΠΕΡΙΟΔΕΥΟΝΤΟΣ ΠΩΛΗΤΗ (TRAVELLING SALESMAN PROBLEM - TSP) B C D E H G F

27 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 1 ΛΥΣΗ: A- A B C D E F G H A B C D E F G H

28 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 1 B C D Z= E H G F

29 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 2 ΛΥΣΗ: A-E A B C D E F G H A B C D E F G H

30 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 2 B C D Αντικειμενική Συνάρτηση Z= E H G F

31 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 3 ΛΥΣΗ: A-E-C A B C D E F G H A B C D E F G H

32 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 3 B C D Z= E H G F

33 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 4 ΛΥΣΗ: A-E-C-F A B C D E F G H A B C D E F G H

34 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 4 B C D Z= E G 176 F

35 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 5 ΛΥΣΗ: A-E-C-F-H A B C D E F G H A B C D E F G H

36 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 5 Z= B C E G 176 F

37 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 6 ΛΥΣΗ: A-E-C-F-H-D A B C D E F G H A B C D E F G H

38 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 6 B C D 176 Z= E F

39 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 7 ΛΥΣΗ: A-E-C-F-H-D-G A B C D E F G H A B C D E F G H

40 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 7 Z= B C D E 176 F

41 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 8 ΛΥΣΗ: A-E-C-F-H-D-G-B-A A B C D E F G H A B C D E F G H

42 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM LOOP 8 Z= B C D E 176 F

43 A CONSTRUCTIVE HEURISTIC ALGORITHM FOR TSP NEAREST NEIGHBOR ALGORITHM Άρα η αντικειμενική συνάρτηση z = = 1367 μονάδες

44 ΤΟ ΠΡΟΒΛΗΜΑ ΤΟΥ ΠΕΡΙΟΔΕΥΟΝΤΟΣ ΠΩΛΗΤΗ (TRAVELLING SALESMAN PROBLEM - TSP) Με δεδομένη μια λίστα πόλεων και κόστους μετάβασης για κάθε ζεύγος πόλεων, ποιά είναι η διαδρομή αλληλουχία μοναδικών επισκέψεων σε κάθε πόλη με το ελάχιστο κόστος και τελικά επιστροφή στην αφετηρία? oνα θεωρηθεί ως «Αρχή» ο κόμβος Α oνα πραγματοποιηθεί επίλυση του προβλήματος με χρήση ενός στοχαστικού άπληστου κατασκευαστικού αλγορίθμου (stochastic greedy constructive algorithm)

45 ΣΤΟΧΑΣΤΙΚΟΙ ΚΑΤΑΣΚΕΥΑΣΤΙΚΟΙ ΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM Step 1: Set a node as start. Set as current Step 2: Find at random, an edge connecting current node and an unvisited node N Step 3: Mark N as visited Step 4: Set node N as current Step 5: If all the nodes are visited, then terminate Step 6: Else, Go to Step 2

46 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 1 «ΜΕΡΙΚΗ»ΛΥΣΗ: A- A B C D E F G H A B C D E F G H

47 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM- LOOP 2 Οι 7 υποψήφιες λύσεις τοποθετούνται στο διάστημα [0,1] καταλαμβάνοντας ίσα επιμέρους διαστήματα ΓΕΝΝΗΤΡΙΑ ΤΥΧΑΙΩΝ ΑΡΙΘΜΩΝ ΣΥΝΑΡΤΗΣΗ RAND() LOOP 1 7 τμηματα B C D E F G H Άρα επιλέγεται η E

48 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 1 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E Z=132 A B C D E F G H A B C D E F G H

49 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM- LOOP 2 Οι 6 υποψήφιες λύσεις τοποθετούνται στο διάστημα [0,1] καταλαμβάνοντας ίσα επιμέρους διαστήματα ΓΕΝΝΗΤΡΙΑ ΤΥΧΑΙΩΝ ΑΡΙΘΜΩΝ ΣΥΝΑΡΤΗΣΗ RAND() LOOP 2 6 τμηματα B C D F G H Άρα επιλέγεται η C

50 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 2 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E-C Z= A B C D E F G H A B C D E F G H

51 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM- LOOP 3 Οι 5 υποψήφιες λύσεις τοποθετούνται στο διάστημα [0,1] καταλαμβάνοντας ίσα επιμέρους διαστήματα ΓΕΝΝΗΤΡΙΑ ΤΥΧΑΙΩΝ ΑΡΙΘΜΩΝ ΣΥΝΑΡΤΗΣΗ RAND() LOOP 3 5 τμηματα B D F G H Άρα επιλέγεται η F

52 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 3 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E-C-F Z= A B C D E F G H A B C D E F G H

53 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM- LOOP 4 Οι 4 υποψήφιες λύσεις τοποθετούνται στο διάστημα [0,1] καταλαμβάνοντας ίσα επιμέρους διαστήματα ΓΕΝΝΗΤΡΙΑ ΤΥΧΑΙΩΝ ΑΡΙΘΜΩΝ ΣΥΝΑΡΤΗΣΗ RAND() LOOP 4 4 τμηματα B D G H Άρα επιλέγεται η D

54 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 5 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E-C-F-D Z= A B C D E F G H A B C D E F G H

55 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM- LOOP 5 Οι 3 υποψήφιες λύσεις τοποθετούνται στο διάστημα [0,1] καταλαμβάνοντας ίσα επιμέρους διαστήματα ΓΕΝΝΗΤΡΙΑ ΤΥΧΑΙΩΝ ΑΡΙΘΜΩΝ ΣΥΝΑΡΤΗΣΗ RAND() LOOP 5 3 τμηματα B G H Άρα επιλέγεται η B

56 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 5 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E-C-F-D-B Z= A B C D E F G H A B C D E F G H

57 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM- LOOP 6 Οι 2 υποψήφιες λύσεις τοποθετούνται στο διάστημα [0,1] καταλαμβάνοντας ίσα επιμέρους διαστήματα ΓΕΝΝΗΤΡΙΑ ΤΥΧΑΙΩΝ ΑΡΙΘΜΩΝ ΣΥΝΑΡΤΗΣΗ RAND() LOOP 5 2 τμηματα G H Άρα επιλέγεται η H

58 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 6 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E-C-F-D-B-H Z= A B C D E F G H A B C D E F G H

59 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM- LOOP 7 Οι 1 υποψήφιες λύσεις τοποθετούνται στο διάστημα [0,1] καταλαμβάνοντας ίσα επιμέρους διαστήματα ΓΕΝΝΗΤΡΙΑ ΤΥΧΑΙΩΝ ΑΡΙΘΜΩΝ ΣΥΝΑΡΤΗΣΗ RAND() LOOP 5 1 τμηματα G 0 1 Άρα επιλέγεται η G

60 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 7 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E-C-F-D-B-H-G Z= A B C D E F G H A B C D E F G H

61 STOCHASTIC GREEDY CONSTRUCTIVE ALGORITHM LOOP 8 «ΜΕΡΙΚΗ»ΛΥΣΗ: A-E-C-F-D-B-H-G-A Z= = 1423 μονάδες Επιστροφή στην Α A B C D E F G H A B C D E F G H

62 NEAREST NEIGHBOR VS STOCHASTIC GREEDY Ποιός αλγόριθμος αποδείχθηκε περισσότερο αποδοτικός?

63 Ερωτήσεις?