M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 1 Aλγόριθµοι Γραµµικού Προγραµµατισµού και Θεωρία Παιγνίων Σηµείωση Το ΕΑΠ είναι υπεύθυνο για την επιµέλεια έκδοσης και την ανάπτυξη των κειµένων σύµφωνα µε τη Μεθοδολογία της εξ Αποστάσεως Εκπαίδευσης. Για την επιστηµονική αρτιότητα και πληρότητα των συγγραµ- µάτων την αποκλειστική ευθύνη φέρουν οι συγγραφείς, κριτικοί αναγνώστες και ακαδηµαϊκοί υπεύθυνοι που ανέλαβαν το έργο αυτό.
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 2
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 3 ΕΛΛΗΝΙΚΟ ΑΝΟΙΚΤΟ ΠΑΝΕΠΙΣΤΗΜΙΟ Σχολή Θετικών Επιστηµών και Τεχνολογίας Πρόγραµµα Σπουδών ΠΛHPOΦOPIKH Θεµατική Ενότητα ΓPAMMIKOΣ ΠPOΓPAMMATIΣMOΣ KAI MONTEΛOΠOIHΣH Τόµος Γ' Aλγοριθµοι Γραµµικού Προγραµµατισµού και Θεωρία Παίγνιων XAPAΛAMΠOΣ MΠOTΣAPHΣ Kαθηγητής Tµήµατος Mαθηµατικών Πανεπιστηµίου Πατρών ΠATPA 2001
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 4 ΕΛΛΗΝΙΚΟ ΑΝΟΙΚΤΟ ΠΑΝΕΠΙΣΤΗΜΙΟ Σχολή Θετικών Επιστηµών και Τεχνολογίας Πρόγραµµα Σπουδών ΠΛHPOΦOPIKH Θεµατική Ενότητα ΓPAMMIKOΣ ΠPOΓPAMMATIΣMOΣ KAI MONTEΛOΠOIHΣH Τόµος Γ' Aλγόριθµοι Γραµµικού Προγραµµατισµού και Θεωρία Παίγνιων Συγγραφή XAPAΛAMΠOΣ MΠOTΣAPHΣ Kαθηγητής Tµήµατος Mαθηµατικών Πανεπιστηµίου Πατρών Κριτική Ανάγνωση IΩANNHΣ ΓIANNIKOΣ Eπίκουρος Kαθηγητής Tµήµατος ιοίκησης Eπιχειρήσεων Πανεπιστηµίου Πατρών Ακαδηµαϊκός Υπεύθυνος για την επιστηµονική επιµέλεια του τόµου ΣΩKPATHΣ KATΣIKAΣ Καθηγητής Tµήµατος Mηχανικών Πληροφοριακών και Eπικοινωνιακών Συστηµάτων Πανεπιστηµίου Aιγαίου Επιµέλεια στη µέθοδο της εκπαίδευσης από απόσταση ΠETPOΣ ΓANOΣ Γλωσσική Επιµέλεια ΣTEΦANOΣ ΛOYNTZHΣ Τεχνική Επιµέλεια EΣΠI EK OTIKH E.Π.E. Καλλιτεχνική Επιµέλεια TYPORAMA Σελιδοποίηση HMHTPA ZOYΠA Συντονισµός ανάπτυξης εκπαιδευτικού υλικού και γενική επιµέλεια των εκδόσεων ΟΜΑ Α ΕΚΤΕΛΕΣΗΣ ΕΡΓΟΥ ΕΑΠ / 2001 ISBN: 960 538 215 6 Kωδικός Έκδοσης: ΠΛH 32/3 Copyright 2001 για την Ελλάδα και όλο τον κόσµο ΕΛΛΗΝΙΚΟ ΑΝΟΙΚΤΟ ΠΑΝΕΠΙΣΤΗΜΙΟ Οδός Παπαφλέσσα & Υψηλάντη, 26222 Πάτρα Τηλ: (0610) 314094, 314206 Φαξ: (0610) 317244 Σύµφωνα µε το Ν. 2121/1993, απαγορεύεται η συνολική ή αποσπασµατική αναδηµοσίευση του βιβλίου αυτού ή η αναπαραγωγή του µε οποιοδήποτε µέσο χωρίς την άδεια του εκδότη.
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 5 ÂÚÈÂ fiìâó Πρόλογος... 7 Aπαιτούµενο µαθηµατικό υπόβαθρο... 9 Συµβολισµοί... 10 K º π 1 B ÛÈÎÔ ÏÁfiÚÈıÌÔÈ Ù appleô simplex Σκοπός, Προσδοκώµενα Aποτελέσµατα, Έννοιες κλειδιά, Εισαγωγικές Παρατηρήσεις... 11 1.1 H αναθεωρηµένη µέθοδος simplex... 13 1.1.1 Tο αναθεωρηµένο ταµπλό simplex... 13 1.1.2 H πολλαπλασιαστική µορφή του αντιστρόφου της βάσης... 23 1.1.3 LU παραγοντοποίηση της βάσης... 28 1.2 H δυϊκή µέθοδος simplex... 41 1.3 O πρωτεύον δυϊκός αλγοριθµος simplex... 53 1.4 O αλγόριθµος των φραγµένων µεταβλητών... 65 Σύνοψη... 74 Bιβλιογραφία... 74 K º π 2 ÁÎÏÈÛË Î È appleôïôáèûùèî appleôï appleïôîfiùëù ÙË ÌÂıfi Ô simplex Σκοπός, Προσδοκώµενα Aποτελέσµατα, Έννοιες κλειδιά, Εισαγωγικές Παρατηρήσεις... 77 2.1 Kανόνες αντικύκλωσης και θεωρήµατα σύγκλισης... 79 2.2 Yπολογιστική πολυπλοκότητα της µεθόδου simplex... 88 2.3 Kανόνες οδήγησης για την εισερχόµενη µεταβλητή... 94 2.3.1 O κανόνας της µερικής αποτίµησης... 95 2.3.2 O κανόνας της πιο απότοµης ακµής... 96 2.4 H µέθοδος των ελλειψοειδών... 98
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 6 6 A OPI MOI PAMMIKOY PO PAMMATI MOY KAI EøPIA AI NIøN Σύνοψη... 109 Bιβλιογραφία... 109 K º π 3 M ıô ÔÈ ÂÛˆÙÂÚÈÎÔ ÛËÌÂ Ô Σκοπός, Προσδοκώµενα Aποτελέσµατα, Έννοιες κλειδιά, Εισαγωγικές Παρατηρήσεις... 111 3.1 O αλγόριθµος του Karmarkar... 113 3.2 O πρωτεύον δυϊκός αλγόριθµος εσωτερικού σηµείου... 127 Σύνοψη... 130 Bιβλιογραφία... 131 K º π 4 KÒ ÈΠÁÚ ÌÌÈÎÔ appleúôáú ÌÌ ÙÈÛÌÔ 133 K º π 5 ÁÓÈ appleèó ÎˆÓ Σκοπός, Προσδοκώµενα Aποτελέσµατα, Έννοιες κλειδιά, Εισαγωγικές Παρατηρήσεις... 139 5.1 ιαµόρφωση και χαρακτηριστικά των παιγνίων πινάκων... 142 5.2 Iδιότητες των βέλτιστων στρατηγικών... 149 5.3 Tεχνικές επίλυσης παιγνίων... 160 5.3.1 Eπιλυση παιγνίων µε τη µέθοδο simplex... 161 5.3.2 Γραφική επίλυση παιγνίων... 164 5.3.3 H τεχνική της δεσπόζουσας στρατηγικής... 167 Σύνοψη... 169 Bιβλιογραφία... 169 Aπαντήσεις των Aσκήσεων Aυτοαξιολόγησης... 171 Eλληνοαγγλικό ευρετηριο όρων... 217
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 7 ÚfiÏÔÁÔ Το βιβλίο αυτό πραγµατεύεται προχωρηµένου επιπέδου θέµατα γραµµικού προγραµµατισµού και απευθύνεται σε όσους θέλουν να εµβαθύνουν και να διευρύνουν τις γνώσεις τους στο αντικείµενο του γραµµικού προγραµµατισµού, ασχολούµενοι ίσως στη συνέχεια και ερευνητικά µε αυτό. Στην πεντηκονταετή σχεδόν ιστορία του γραµµικού προγραµµατισµού, η µέθοδος simplex κατείχε και σε µεγάλο βαθµό ακόµα κατέχει δεσπόζουσα θέση. Το πρώτο στάδιο στην εξέλιξη της µεθόδου simplex ήταν το ταµπλό, το οποίο ασκούσε στους ασχολούµενους µε το γραµµικό προγραµµατισµό µια παράξενη γοητεία, καθώς κατόρθωνε να βρίσκει τη λύση ενός προβλήµατος µε απλές πράξεις γραµµών και στηλών σε έναν πίνακα. Σήµερα, το ταµπλό simplex χρησιµοποιείται για διδακτικούς µόνο σκοπούς και για να λύνει µικρής διάστασης προβλήµατα στο χαρτί. Οι σύγχρονοι εµπορικοί κώδικες γραµµικού προγραµµατισµού ενσωµατώνουν παραλλαγές της βασικής µεθόδου simplex, οι οποίες είναι υπολογιστικά ταχύτερες. Αυτοί οι αλγόριθµοι τύπου simplex αποτελούν το αντικείµενο του πρώτου κεφαλαίου του βιβλίου. Ειδικότερα, στο κεφάλαιο αυτό παρουσιάζουµε την αναθεωρηµένη µέθοδο simplex στις τρεις µορφές της (αναθεωρηµένο ταµπλό, πολλαπλασιαστική µορφή του αντιστρόφου της βάσης και παραγοντοποίηση LU της βάσης), τη δυϊκή µέθοδο simplex, τον πρωτεύοντα δυϊκό αλγόριθµο simplex και τον αλγόριθµο των φραγµένων µεταβλητών. Στο δεύτερο κεφάλαιο του βιβλίου εξετάζουµε τη σύγκλιση και την υπολογιστική πολυπλοκότητα της µεθόδου simplex. Στο δεύτερο αυτό κεφάλαιο αποδεικνύουµε ότι, µε την εφαρµογή του κατάλληλου κανόνα για την αποτροπή του φαινοµένου της κύκλωσης, η µέθοδος simplex πάντοτε τερµατίζει. Έτσι, το επόµενο που έχουµε να δούµε στο δεύτερο κεφάλαιο είναι πόσο δύσκολα η µέθοδος simplex βρίσκει τη βέλτιστη λύση ενός προβλήµατος γραµµικού προγραµµατισµού, δηλαδή ποια είναι η υπολογιστική της πολυπλοκότητα. Για πολλά χρόνια µετά την ανακάλυψη της µεθόδου simplex, δεν ήταν γνωστό αν ο γραµµικός προγραµµατισµός ανήκει στην επιθυµητή κατηγορία των προβληµάτων που λύνονται σε πολυωνυµικό χρόνο. Πέρασαν πάνω από είκοσι χρόνια πριν οι ερευνητές διαπιστώσουν ότι, ακόµα και αν ο γραµµικός προγραµµατισµός έχει πολυωνυµική πολυπλοκότητα, η µέθοδος simplex δεν είναι αυτή που δίνει το πολυωνυµικό φράγµα, αφού ο αριθµός των επαναλήψεων που χρειάζεται η µέθοδος simplex για να βρει τη βέλτιστη λύση αυξάνει, στη χειρότερη περίπτωση, εκθετικά µε τη διάσταση του προβλήµατος. Μόνο προς το τέλος της δεκαετίας του 1970 αποδείχθηκε ότι ένα πρόβληµα γραµµικού προγραµµατισµού µπορεί να λυθεί σε χρόνο πολυωνυµικό. Ο αλγόριθµος των ελλειψοειδών, ο πρώτος ιστορικά αλγόριθµος γραµµικού προγραµµατισµού µε πολυωνυµική πολυπλοκότητα, ολοκληρώνει το δεύτερο κεφάλαιο του βιβλίου.
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 8 8 A OPI MOI PAMMIKOY PO PAMMATI MOY KAI EøPIA AI NIøN Στο τρίτο κεφάλαιο του βιβλίου παρουσιάζουµε τις γενικές αρχές και το θεωρητικό πλαίσιο των αλγορίθµων εσωτερικού σηµείου, οι οποίοι αποτελούν την πιο σύγχρονη και εντυπωσιακή εξέλιξη στον τοµέα του γραµµικού προγραµµατισµού και άνοιξαν νέους και συναρπαστικούς δρόµους έρευνας. Αντίθετα µε τη µέθοδο simplex, στην οποία η κίνηση γίνεται κατά µήκος των ακµών του εφικτού συνόλου ενός προβλήµατος γραµ- µικού προγραµµατισµού, οι αλγόριθµοι εσωτερικού σηµείου υιοθετούν µια εντελώς διαφορετική προσέγγιση, αφού πλησιάζουν τη βέλτιστη κορυφή από σηµεία στο εσωτερικό του εφικτού συνόλου. Οι αλγόριθµοι εσωτερικού σηµείου, όχι µόνο έχουν πολυωνυµική πολυπλοκότητα, αλλά φαίνεται να υπερέχουν σε υπολογιστική αποτελεσµατικότητα ακόµα και των καλύτερων άλγορίθµων τύπου simplex. To τέταρτο κεφάλαιο του βιβλίου επικεντρώνεται στο λογισµικό, το οποίο έχει αναπτυχθεί για την επίλυση προβληµάτων γραµµικού προγραµµατισµού. Το κεφάλαιο αυτό είναι στην ουσία ένας κατάλογος µε τους πιο αξιόπιστους και ευρύτερα χρησιµοποιού- µενους κώδικες, κατάλογος ο οποίος περιλαµβάνει τα χαρακτηριστικά τους, τις πλατφόρµες στις οποίες τρέχουν και τις διευθύνσεις εκείνες στις οποίες οι ενδιαφερόµενοι µπορούν να απευθυνθούν. Στο πέµπτο και τελευταίο κεφάλαιο του βιβλίου αναπτύσσουµε τη θεωρία παιγνίων, η οποία αποτελεί µια από τις πιο πρακτικές και εκλεπτυσµένες εφαρµογές του γραµµικού προγραµµατισµού και, ειδικότερα, της θεωρίας δυϊσµού. Σκοπός της θεωρίας παιγνίων είναι η ρύθµιση του ανταγωνισµού µεταξύ δύο ή περισσοτέρων παικτών, καθένας από τους οποίους επιδιώκει να επιτύχει το καλύτερο δυνατό, σε σχέση µε τον αντίπαλό του, αποτέλεσµα. Ειδικότερα, στο πέµπτο κεφάλαιο εξετάζουµε τα χαρακτηριστικά των προβληµάτων ανταγωνισµού, αποδεικνύουµε τις ιδιότητες των βέλτιστων στρατηγικών και το θεµελιώδες θεώρηµα της θεωρίας παιγνίων το θεώρηµα minimax και παρουσιάζουµε τις τεχνικές για την επίλυση παιγνίων. Η παρουσίαση των γνωστικών αντικειµένων, τα οποία πραγµατεύεται το βιβλίο αυτό, απαιτεί και έγινε µε µαθηµατική αυστηρότητα. Στόχος µας, όµως, δεν ήταν η αυστηρή µαθηµατική τεκµηρίωση και οι αποδείξεις. Έτσι, προσπαθήσαµε όχι µόνο να αποδείξουµε, αλλά κυρίως να εξηγήσουµε χρησιµοποιώντας απλή γλώσσα και πληθώρα παραδειγµάτων. εν είναι απαραίτητο, αν δεν το επιθυµείτε, να παρακολουθήσετε όλες τις µαθηµατικές αποδείξεις. Εκείνο που έχει σηµασία είναι να προσπαθήσετε να κατανοήσετε τις γενικές τουλάχιστον αρχές των αλγορίθµων και των σύγχρονων τάσεων που φαίνεται να επικρατούν στον τοµέα του γραµµικού προγραµµατισµού. Χαράλαµπος Ε. Μπότσαρης Καθηγητής Επιχειρησιακής Έρευνας Πανεπιστήµιο Πατρών
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 9 apple ÈÙÔ ÌÂÓÔ Ì ıëì ÙÈÎfi applefi ıúô Η ύλη του βιβλίου αυτού απαιτεί την πολύ καλή γνώση της µεθόδου simplex και της θεωρίας δυϊσµού του γραµµικού προγραµµατισµού. Τα γνωστικά αυτά αντικείµενα µπορεί κανείς να τα βρει σε όλα τα κλασικά συγγράµµατα γραµµικού προγραµµατισµού, αλλά και στο σύγγραµµα του Μπότσαρη (2000), το οποίο έχει εκδοθεί από το Ελληνικό Ανοικτό Πανεπιστήµιο. Η βαθύτερη κατανόηση της ύλης του βιβλίου προϋποθέτει, επίσης, προχωρηµένες γνώσεις γραµµικής άλγεβρας και πραγµατικής ανάλυσης. Για τα δύο αυτά γνωστικά αντικείµενα προτείνουµε τα βιβλία των Marlow (1978), Noble και Daniel (1977), Strang (1995) και Φλυτζάνη (1998). Τα βιβλία των Strang, και Noble και Daniel θεωρούνται από τα κλασικά της γραµµικής άλγεβρας και των εφαρµογών της, ενώ στο βιβλίο του Marlow καλύπτονται τα µαθηµατικά της γενικότερης θεωρίας βελτιστοποίησης. Μπότσαρης, Χ. (2000), «Επιχειρησιακή Έρευνα (Τόµος Ι): Αρχές του Γραµµικού Προγραµµατισµού», Εκδόσεις Ελληνικό Ανοικτό Πανεπιστήµιο, Πάτρα. Strang, G. (1995), «Γραµµική Άλγεβρα και Εφαρµογές» (απόδοση στα ελληνικά: Π. Παµφίλος), Πανεπιστηµιακές Εκδόσεις Κρήτης, Ηράκλειο. Φλυτζάνης, Η. (1998), «Μαθηµατικός Λογισµός µε Εφαρµογές», Εκδόσεις Οικονο- µικό Πανεπιστήµιο Αθηνών, Αθήνα. Marlow, W. H. (1978), "Mathematics for Operations Research", Wiley, New York. Noble, Β. & Daniel, J. (1977), "Applied Linear Algebra", Prentice Hall, New Jersey.
M OT APH II/ ÂÏÈ. 12-09-06 10:32 ÂÏ 10 Ì ÔÏÈÛÌÔ n To σύνολο των διανυσµατων στηλών µε n συνιστώσες x 1,, x 2,,x n, όπου x i (i = 1,, n) πραγµατικοί αριθµοί. m n Το σύνολο των πινάκων µε m γραµµές και n στήλες. xœ n Ένα διάνυσµα στήλη ή σηµείο του n. x i ή (x) i AŒ m n a ij ή (A) ij A = [α 1 α j α n ] Η i οστή συνιστώσα του xœ n (i = 1,, n). Ένας m n πίνακας µε m γραµµές και n στήλες. Το στοιχείο που ανήκει στη διασταύρωση της i οστής γραµµής µε τη j οστή στήλη του πίνακα AŒ m n (i = 1,, m) (j = 1,, n). Ένας πίνακας µε στήλες τα διανύσµατα α j (j = 1,, n). A t Ο ανάστροφος του πίνακα A. x t y Tο εσωτερικό γινόµενο x t y= x 1 y 1 + + x n y n (x, yœ n ). x 2 = A 1 I m n  x i i = 1 2 Η Ευκλείδεια νόρµα (το µήκος) ενός διανύσµατος xœ n. Ο αντίστροφος ενός τετραγωνικού πίνακα Α, όταν υπάρχει. Ο m m ταυτοτικός πίνακας. 0 Το µηδενικό διάνυσµα. e είναι e k Το διάνυσµα [1 1 1] t του οποίου όλες οι συνιστώσες ίσες µε τη µονάδα. Το διάνυσµα [0 1 0] t του οποίου όλες οι συνιστώσες είναι ίσες µε το µηδέν, εκτός από την k οστή, η οποία είναι ίση µε τη µονάδα. A «B Η τοµή δύο συνόλων Α και Β. A à B Το σύνολο Α είναι γνήσιο υποσύνολο του Β. n!= 1.2.3 (n 1) n To παραγοντικό του φυσικού αριθµού n, όπου 0! = 1. Ê n ˆ n! Á = Ëm m!( n - m)! Οι συνδυασµοί των n αντικειµένων ανά m.