Προσεγγιστικοί Αλγόριθμοι βασισμένοι σε Γραμμικό Προγραμματισμό

Transcript

1 Προσεγγιστικοί Αλγόριθμοι βασισμένοι σε Γραμμικό Προγραμματισμό ημήτρης Φωτάκης Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών Εθνικό Μετσόβιο Πολυτεχνείο

2 Αντιμετώπιση NP- υσκολίας Αν P NP, όχι αλγόριθμος που για όλαταστιγμιότυπα NP-δύσκολου προβλήματος υπολογίζει βέλτιστη λύση σε πολυωνυμικό χρόνο. Ευρετικές τεχνικές: συχνά γρήγορα βέλτιστη λύση αλλά και δύσκολα στιγμιότυπα (αργά ή / και όχι βέλτιστη λύση). Τοπική αναζήτηση. Simulated annealing. Γενετικοί αλγόριθμοι. Branch-and-Bound, Branch-and-Cut. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 2

3 Αντιμετώπιση NP- υσκολίας «Εύκολες» περιπτώσεις. Ανάλυση μέσης περίπτωσης / πιθανοτική ανάλυση. Γρήγοροι σε στιγμιότυπα που εμφανίζονται συχνότερα (αργοί μόνο για στιγμιότυπα με μικρή πιθανότητα). ιαφορά από ευρετικές τεχνικές: θεωρητική ανάλυση. Γνωρίζουμε πιθανότητα και πότε καλή / κακή απόδοση. Αλγόριθμοι προσέγγισης [Johnson, Sahni and Gonzalez,, 70 s] Αλγόριθμοι πολυωνυμικού χρόνου (χ.π.). Όχι (πάντα) βέλτιστη λύση. Ανάλυσηχειρότερηςπερίπτωσηςωςπροςποιότηταλύσης. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 3

4 Προσεγγιστικοί Αλγόριθμοι Απόδοση χειρότερης περίπτωσης γνωστών ευρετικών αλγόριθμων (αρχικά κυρίως άπληστων). Σχεδιασμός poly-time αλγόριθμων που συμπεριφέρονται αποδεδειγμένα καλά για κάθε στιγμιότυπο. Λόγος προσέγγισης Αλγόριθμου Α για πρόβλημα Π: Προβλήματος Π: Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 4

5 Κάλυμμα Συνόλου (Set Cover) Σύνολο στοιχείων Μη-κενά υποσύνολα του Κόστος υποσυνόλων: Ζητούμενο: κάλυμμα του S με ελάχιστο κόστος. Ελάχιστου κόστους συλλογή υποσυνόλων f = μέγιστο πλήθος συνόλων όπου ανήκει κάποιο στοιχείο. ΝΡ-δύσκολο πρόβλημα. Απληστία: καλύτερος προσεγγιστικός αλγόριθμος. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 5

6 Παράδειγμα f = μέγιστος βαθμός στοιχείου του S(= 4). S = {1, 2, 3, 4, 5, 6, 7, 8 } X 1 = {1, 2, 3}, X 2 = {2, 3, 4, 8}, X 3 = {3, 4, 5} X 4 = {4, 5, 6}, X 5 = {2, 3, 5, 6, 7}, X 6 = {1, 4, 7, 8} Βέλτιστη λύση: X 5, X 6 Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 6

7 Άπληστος Αλγόριθμος Σύνολο U ακάλυπτων στοιχείων (αρχικά U = S). Επιλογή υποσυνόλου που ελαχιστοποιεί κόστος ανά ακάλυπτο στοιχείο που καλύπτει: Ενημέρωση U και συνέχεια ενόσω U δεν είναι κενό. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 7

8 Αντιπαράδειγμα εν πλησιάζει τη βέλτιστη λύση! Βέλτιστη λύση έχει κόστος 1+ε. Κόστος άπληστου αλγόριθμου: Παράδειγμα: χειρότερη περίπτωση άπληστου αλγόριθμου. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 8

9 Ανάλυση Έστω OPT κόστος βέλτιστης λύσης. Αρχή i-οστής επανάλ.: ακάλυπτα στοιχεία (κάθε προηγούμενη επανάληψη καλύπτει 1 στοιχείο). Βέλτιστη καλύπτει στοιχεία με μέσο κόστος Άπληστη επιλογή έχει κόστος / στοιχείο Αθροίζοντας για n επαναλήψεις, κόστος άπληστου αλγ. Λόγος προσέγγισης Αποδεικνύεται ότι δεν υπάρχει αλγόριθμος πολυωνυμικού χρόνου με καλύτερο λόγο προσέγγισης (εκτός αν NP (quasi)p). Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 9

10 Γενική Προσέγγιση ιατυπώνουμε το πρόβλημα ως Ακέραιο Γραμμικό Πρόγραμμα (IP). Set Cover IP: «Χαλαρώνουμε» το IP σε Γραμμικό Πρόγραμμα (LP). Set Cover LP: Integrality gap: Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 10

11 Γενική Προσέγγιση Χρησιμοποιούμε τη βέλτιστη λύση του LP ή/και ιδιότητες της για να κατασκευάσουμε (σε πολυωνυμικό χρόνο) εφικτή λύση για το IP και να αναλύσουμε το λόγο προσέγγισης. «Στρογγυλοποίηση» βέλτιστης λύσης LP: (deterministic και) randomized rounding. υϊκότητα και χρέωση κόστους σε dual variables: dual fitting. υϊκότητα και complementary slackness: primal-dual. Ανάλυση (προβλήματα ελαχιστοποίησης): Άνω φράγμα στο κόστος εφικτής λύσης. Κάτω φράγμα στο κόστος βέλτιστης λύσης: βέλτιστη λύση LP ή εφικτή λύση για το δυϊκό. Λόγος προσέγγισης integrality gap. Μέθοδος δίνει (συχνά καλύτερο) άνω φράγμα στο λόγο προσέγγισης για κάθε συγκεκριμένο instance. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 11

12 Set Cover: Στρογγυλοποίηση Έστω x βέλτιστη λύση LP με κόστος OPT Επιλέγουμε κάθε σύνολο j με x j 1/f Ηλύσημαςείναιεφικτή: στοιχείο i, αντίστοιχος περιορισμός έχει #μετ/τών f Αφού άθροισμα 1, τουλάχιστον μία μετ/τή έχει τιμή 1/f Κάτω φράγμα: Κόστος βέλτιστης (ακέραιης) λύσης OPT Άνω φράγμα: Στρογγυλοποίηση αυξάνει τιμές μετ/των κατά παράγοντα f Κόστος εφικτής λύσης f OPT Λόγος προσέγγισης f Λόγος προσέγγισης 2 για vertex cover. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 12

13 Set Cover: Randomized Rounding Έστω x βέλτιστη λύση LP με κόστος OPT Επιλέγουμε κάθε σύνολο j ανεξάρτητα, με πιθανότητα x j Επαναλαμβάνουμε cln(n) φορές, σταθερά c 2 Ηλύσημαςείναιεφικτή (με μεγάλη πιθανότητα): στοιχείο i, πιθανότητα να μην καλυφθεί το i 1/n c Πιθανότητα να υπάρχει στοιχείο ακάλυπτο 1/n c 1 Κάτω φράγμα: Κόστος βέλτιστης (ακέραιης) λύσης OPT Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 13

14 Set Cover: Randomized Rounding Έστω x βέλτιστη λύση LP με κόστος OPT Επιλέγουμε κάθε σύνολο j ανεξάρτητα, με πιθανότητα x j Επαναλαμβάνουμε cln(n) φορές, σταθερά c 2 Άνω φράγμα (στο αναμενόμενο κόστος μιας εφικτής λύσης): Αναμενόμενο κόστος «λύσης» (μπορεί μη εφικτή) c ln(n) OPT Αναμενόμενο κόστος εφικτής λύσης c ln(n) OPT / Pr[λύση εφικτή] Λόγος προσέγγισης 2c ln(n) Μετατροπή του αλγόριθμου σε ντετερμινιστικό (derandomization) με την μέθοδο των conditional probabilities. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 14

15 Βασική Ιδέα (ελαχιστοποίηση) Ξεκινάμε από κάτω φράγμα στο κόστος βέλτιστης λύσης. Γενικά, κάτω φράγμα εκφράζεται σαν συνάρτηση κάποιων παραμέτρων του στιγμιότυπου εισόδου. LP-based αλγόριθμοι: κάτω φράγμα προκύπτει από βέλτιστη λύση στο LP relaxation ή εφικτή λύση στο δυϊκό. (Πολυωνυμικός) αλγόριθμος: εφικτή λύση με κόστος μιας συνάρτησης των παραμέτρων στο κάτω φράγμα. Για LP-based αλγόριθμους: Στρογγυλοποίηση βέλτιστης (κλασματικής) λύσης LP relaxation σε ακέραια λύση. «Μετάφραση» (μέσω complementary slackness) μιας εφικτής λύσης στο δυϊκό σε εφικτή ακέραια λύση για το πρωτεύον. Σύγκριση κάτω και άνω φράγματος δίνει (άνω φράγμα στο) λόγο προσέγγισης. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 15

16 MAX-CUT Μη κατευθυνόμενο γράφημα G(V, E, w) με m ακμές, κάθε ακμή {u, v} έχει βάρος w uv 0. Τομή: διαμέριση κορυφών (S, V \ S) με S V. Σύνολο ακμών που αφαίρεσή τους δημιουργεί τουλ. 2 συνεκτικές συνιστώσες. Βάρος τομής Πρόβλημα: υπολογισμός μιας τομής μέγιστου βάρους. NP-complete, αλγόριθμος με λόγο προσέγγισης [Goemans, Williamson, 94], randomized rounding σε SDP. NP-complete η προσέγγισή του με λόγο > 16/17! Θεωρία Υπολογισμού (Άνοιξη 2012)

17 MAX-CUT Άνω φράγμα στη βέλτιστη λύση: συνολικό βάρος ακμών W. (Απλός) αλγόριθμος: κάθε κορυφή u εντάσσεται στο S ανεξάρτητα με πιθανότητα 1/2 (διαφορετικά στο V \ S). Χ βάρος ακμών στην τομή (S, V \ S) (τυχαία μεταβλητή). Ακμή {u, v} «διασχίζει» τομή (S, V \ S) με πιθανότητα 1/2. Αναμενόμενο βάρος ακμών στην τομή (S, V \ S): Ε[Χ] = W/2 (γραμμικότητα μέσης τιμής). Λόγος προσέγγισης 1/2. Μετατροπή σε ντετερμινιστικό με conditional probabilities. Ποιος είναι ο αντίστοιχος ντετερμινιστικός αλγόριθμος; Γενίκευση για MAX-k-CUT, λόγος προσέγγισης 1 1/k. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 17

18 MAX-SAT και MAX-k-SAT ΜΑΧ-k-SAT: Λογικές μεταβλητές p 1,, p n Όροι C 1,, C m με βάρη w 1,, w m Κάθε όρος είναι μια διάζευξη k μετ/τών ή αρνήσεών τους. Στόχος: αποτίμηση μεταβλητών που ικανοποιεί όρους με μέγιστο συνολικό βάρος. MAX-SAT (χωρίς περιορισμό στο #literals κάθε όρου): Κάθε όρος είναι μια διάζευξη μιας ή περισσότερων μετ/τών ή αρνήσεών τους. MAX-SAT και MAX-k-SAT, k 2, είναι NP-complete προβλήματα. MAX-3-SAT έχει λόγο προσέγγισης 7/8 (εκτός αν P = NP)! MAX-k-SAT έχει λόγο προσέγγισης 1 2 k MAX-SAT έχει λόγο προσέγγισης 3/4 Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 18

19 MAX-SAT και MAX-k-SAT: (Απλοϊκό) Randomized Rounding μεταβλητή p i τίθεται στο 1 ανεξάρτητα, με πιθανότητα 1/2 (Κάθε) λύση είναι εφικτή. Άνω φράγμα για βέλτιστη λύση: συνολικό βάρος W των όρων. Κάτω φράγμα στο βάρος της λύσης μας: Έστω p, 0 < p < 1, τ.ω. όρο C j, Pr[C j satisfied] p Λόγω γραμμικότητας μέσης τιμής, συνολικό βάρος λύσης p W MAX-k-SAT: όρο C j, Pr[C j satisfied] = 1 2 k Λόγος προσέγγισης 1 2 k MAX-SAT: όρο C j, Pr[C j satisfied] 1/2, αφού C j 1 Λόγος προσέγγισης 1/2 Derandomization με μέθοδο conditional probabilities. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 19

20 MAX-SAT: Randomized Rounding Χρειαζόμαστε καλύτερο άνω φράγμα στη βέλτιστη λύση! ιατύπωση ως IP και «χαλάρωση» σε LP. Έστω (x, z) βέλτιστη λύση LP με βάρος μεταβλητή p i τίθεται στο 1 ανεξάρτητα, με πιθανότητα x i Άνω φράγμα για βέλτιστη λύση: OPT Κάτω φράγμα στο βάρος της λύσης μας: Έστω p, 0 < p < 1, τ.ω. όρο C j, C j = k j, Pr[C j satisfied] p z j Λόγω γραμμικότητας μέσης τιμής, συνολικό βάρος λύσης p OPT Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 20

21 MAX-SAT: Randomized Rounding μεταβλητή p i τίθεται στο 1 ανεξάρτητα, με πιθανότητα x i Έστω p, 0 < p < 1, τ.ω. όρο C j, C j = k j, Pr[C j satisfied] p z j Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 21

22 MAX-SAT: Randomized Rounding μεταβλητή p i τίθεται στο 1 ανεξάρτητα, με πιθανότητα x i Έστω p, 0 < p < 1, τ.ω. όρο C j, C j = k j, Pr[C j satisfied] p z j Πιο προσεκτική ανάλυση: Κάτω φράγμα στο βάρος της λύσης μας: (1 1/e) OPT Λόγος προσέγγισης 1 1/e Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 22

23 MAX-SAT: Συνδυασμένο Randomized Rounding «Απλοϊκό» rand. rounding: LP-based rand. rounding: Συμπληρωματική συμπεριφορά: «απλοϊκό» καλύτερο για μεγάλους όρους, LP-based καλύτερο για μικρούς όρους! Επιστρέφουμε την καλύτερη από τις λύσεις των δύο αλγόριθμων. Έστω W 1 και W 2 αναμενόμενο βάρος από «απλοϊκό» και LP-based. Αναμενόμενο βάρος λύσης: Ε[max(W 1, W 2 )] E[(W 1 +W 2 )/2] Κάθε όρος C j συνεισφέρει στο E[(W 1 +W 2 )/2] βάρος τουλάχιστον: Από γραμμικότητα μέσης τιμής, αναμενόμενο βάρος λύσης 3OPT/4 Λόγος προσέγγισης 3/4 Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 23

24 MAX-SAT: Συνδυασμένο Randomized Rounding Γραφική απόδειξη ότι Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 24

25 Set Cover: Άπληστος Αλγόριθμος Σύνολο U ακάλυπτων στοιχείων (αρχικά U = S). Επιλογή υποσυνόλου που ελαχιστοποιεί κόστος ανά ακάλυπτο στοιχείο που καλύπτει: Ενημέρωση U και συνέχεια ενόσω U δεν είναι κενό. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 25

26 Set Cover: Dual Fitting Set Cover LP και το δυϊκό του. «Οικονομική» ερμηνεία του δυϊκού: Κάθε στοιχείο i «πληρώνει» y i για να καλυφθεί. Μεγιστοποίηση πληρωμών, υπό την προϋπόθεση ότι κανένα σύνολο δεν πληρώνεται περισσότερο από όσο κοστίζει. Ισχυρή δυϊκότητα: κόστος λύσης = άθροισμα πληρωμών. Επιμερίζουμε κόστος άπληστου αλγόριθμου στα στοιχεία: στοιχείο i, z i = κόστος κάλυψης i από άπληστο αλγόριθμο. Aν επιλογή X j κάλυψε n j στοιχεία, μεταξύ αυτών και το i, z i = w j / n j Κόστος άπληστου αλγόριθμου = άθροισμα των z i Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 26

27 Set Cover: Dual Fitting Επιμερίζουμε κόστος άπληστου αλγόριθμου στα στοιχεία: στοιχείο i, z i = κόστος κάλυψης i από άπληστο αλγόριθμο. Aν επιλογή X j κάλυψε n j στοιχεία, μεταξύ αυτών και το i, z i = w j / n j Κόστος άπληστου αλγόριθμου = άθροισμα των z i Θδο y i = z i / H n είναι εφικτή λύση για το δυϊκό. Αφού OPT άθροισμα των y i, λόγος προσέγγισης H n Έστω αυθαίρετο σύνολο X j, X j = k j. Αριθμούμε στοιχεία Χ j = {1, 2,..., k j } με τη σειρά που καλύπτονται. λ(i) = #ακάλυπτα στοιχεία του X j όταν καλύπτεται το i k j i + 1. Άπληστο κριτήριο: i X j, z i w j / λ(i) w j / (k j i+1) Συνεπώς: Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 27

28 Set Cover: Dual Rounding Set Cover LP και το δυϊκό του. Βέλτιστη λύση y στο δυϊκό με «κέρδος» OPT. tight δυϊκό περιορισμό j, επιλέγουμε το σύνολο X j στο cover. Εφικτή λύση: στοιχείο i ακάλυπτο: κανένας περιορισμός με y i δεν είναι tight! Άτοπο: αυξάνουμε (λίγο) το y i, χωρίς παραβίασης περιορισμών, και βελτιώνουμε «κέρδος» δυϊκής λύσης. Κάτω φράγμα για βέλτιστη λύση: OPT = άθροισμα των y i Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 28

29 Set Cover: Dual Rounding Βέλτιστη λύση y στο δυϊκό με «κέρδος» OPT. tight δυϊκό περιορισμό j, επιλέγουμε το σύνολο X j στο cover. Κάτω φράγμα για βέλτιστη λύση: OPT = άθροισμα των y i Άνω φράγμα στο κόστος της λύσης μας: Λόγος προσέγγισης f Άσκηση: νδο για κάθε στιγμιότυπο, κόστος dual rounding κόστος deterministic rounding. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 29

30 Set Cover: Primal-Dual Set Cover LP και το δυϊκό του. Αντί βέλτιστης dual λύσης, μια (κατάλληλη) εφικτή λύση που «πληρώνει» για το primal κόστος (βλ. complementary slackness). Συνθήκες πρωτεύοντος (α-χαλαρωμένες): Επιλογή μόνο α-tight συνόλων. Συνθήκες δυϊκού (β-χαλαρωμένες): Κάθε στοιχείο που «πληρώνει», καλύπτεται το πολύ β φορές. Κάθε τέτοιο ζεύγος (x, y) δίνει λόγο προσέγγισης αβ. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 30

31 Set Cover: Primal-Dual Συνθήκες πρωτεύοντος: Επιλογή μόνο tight συνόλων. Συνθήκες δυϊκού (f-χαλαρωμένες): Κάθε στοιχείο καλύπτεται το πολύ f φορές. Κάθε τέτοιο ζεύγος (x, y) δίνει λόγο προσέγγισης f Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 31

32 Set Cover: Primal-Dual Εφικτή λύση: Συνθήκη τερματισμού: δεν υπάρχουν ακάλυπτα στοιχεία. Κάτω φράγμα για βέλτιστη λύση: άθροισμα των y i Άνω φράγμα στο κόστος της λύσης μας: Λόγος προσέγγισης f Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 32

33 Set Cover: Primal-Dual Λόγος προσέγγισης = f Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 33

34 Χωροθέτηση Υπηρεσιών (Facility Location) Μετρικός χώρος (μη αρνητικές συμμετρικές αποστάσεις d(i, j) που ικανοποιούν την τριγωνική ανισότητα). Θέσεις υπηρεσιών F με κόστος εγκατάστασης f i, i F. Θέσεις πελατών D, και αποστάσεις d(j, i), j D, i F. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 34

35 Χωροθέτηση Υπηρεσιών (Facility Location) Θέσεις εγκατάστασης υπηρεσιών F * F με ελάχιστο κόστος εγκατάστασης + κόστος εξυπηρέτησης Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 35

36 Εφαρμογές Έχει μελετηθεί εκτενώς (π.χ. [Mirchandani, Francis, 90]): Χωροθέτηση υπηρεσιών κοινής ωφέλειας: σχολεία, νοσοκομεία, κλπ. Εταιρικός σχεδιασμός: χωροθέτηση εργοστασίων, αποθηκών, καταστημάτων, κλπ. Πρόσφατο ενδιαφέρον (π.χ. [Shmoys, 00], [Guha, 00]): Σχεδιασμός δικτύων: χωροθέτηση ενεργών συσκευών. Ομαδοποίηση δεδομένων: k-ενδιάμεσων (k-median). Μεγάλα και δυναμικά μεταβαλλόμενα στιγμιότυπα. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 36

37 Προσεγγισιμότητα Λόγος προσέγγισης (πολυων. χρ.) [Guha, Khuller, SODA 98]. Πολυωνυμικός αλγόριθμος με λόγο προσέγγισης 1.52 [Mahdian, Ye, Zhang, APPROX 02]. Πολυωνυμικός αλγόριθμος με λόγο προσέγγισης 1.5 [Byrka, APPROX 07]. Πολυωνυμικός αλγόριθμος με λόγο προσέγγισης [Li, ICALP 12]. Τεχνικές: τοπική αναζήτηση, primal-dual, στρογγυλοποίηση λύσεων ΓΠ, και συνδυασμοί τους. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 37

38 Linear Programming Relaxation ιατυπώνουμε αντίστοιχο IP και LP relaxation: ιατυπώνουμε δυϊκό του LP relaxation: Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 38

39 Ερμηνεία υϊκού α j : τι πληρώνει ηαπαίτησηj για να «ικανοποιηθεί». d ij : κόστος σύνδεσης σε facility i. β ij : συνεισφορά στο κόστος του facility i. Για κάθε facility i, συνολική συνεισφορά δεν ξεπερνά κόστος f i. Primal complementary slackness συνθήκες: Αν απαίτηση j συνδέεται σε facility i, τότε j συνεισφέρει στο κόστος f i Αν facility i ανοίγει, τότε η συνολική συνεισφορά είναι ίση με κόστος f i Dual complementary slackness συνθήκες: Απαίτηση j δεν συνεισφέρει σε facility που δεν χρησιμοποιεί (πλήρως) Όποιος πληρώνει εξυπηρετείται Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 39

40 Rounding Βέλτιστες λύσεις (x, y) και (α, β) για primal και dual. Κάτω φράγμα στο κόστος βέλτιστης λύσης: κόστος OPT της (x, y). απαίτ. j, N(j) = { i F: x ij > 0 } (γειτονικά facilities του j). Ενόσω υπάρχουν απαιτήσεις που δεν εξυπηρετούνται: Έστω j απαίτηση που δεν εξυπηρετείται με ελάχιστο α j. Άνοιξε φθηνότερη facility i N(j), και εξυπηρέτησε από αυτή κάθε μη εξυπηρετούμενη απαίτηση k με N(k) N(j). Αλγόριθμος παράγει εφικτή λύση. Συνολικό κόστος για άνοιγμα facilities Απαίτ. j ανοίγει facility i με ελάχιστο κόστος στο N(j): Αν απαιτ. j και j ανοίγουν facilities i και i, N(j) N(j ) =. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 40

41 Rounding Συνολικό κόστος εξυπηρέτησης Απαίτηση j ανοίγει facility i. Κόστος σύνδεσης j d ij α j d ij α j : x ij > 0, και primal complementary slackness. Μη εξυπηρετούμενη απαίτ. k με N(k) N(j), που συνδέεται στο i. Facility q N(k) N(j). Κόστος σύνδεσης k: Επιλογή ελάχιστου α j. Λόγος προσέγγισης 4. i q j d ij a j Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 41 k

42 Randomized Rounding Μέσο κόστος σύνδεσης απαίτησης j: Ενόσω υπάρχουν απαιτήσεις που δεν εξυπηρετούνται: Έστω j απαίτηση που δεν εξυπηρετείται με ελάχιστο α j +D j. Άνοιξε facility i N(j) με πιθανότητα x ij, και εξυπηρέτησε από αυτή κάθε μη εξυπηρετούμενη απαίτηση k με N(k) N(j). Αναμενόμενο κόστος για άνοιγμα facilities Αναμεν. κόστος εξυπηρέτησης Απαίτηση j ανοίγει facility. Αναμενόμενο κόστος σύνδεσης j = D j Μη εξυπηρετούμενη απαίτ. k με N(k) N(j) : Facility q N(k) N(j). Αναμενόμενο κόστος σύνδεσης k: Λόγος προσέγγισης 3. Γιατί δεν ανοίγουμε κάθε facility ανεξάρτητα με πιθανότητα y i ; Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 42

43 Primal-Dual Έστω μια εφικτή λύση (α, β) για dual. Κάτω φράγμα στο κόστος βέλτιστης λύσης: άθροισμα των α j. απαίτ. j, N(j) = { i F: α j d ij } (γειτονικά facilities του j). fac. i, N(i) = { j D: α j d ij } (γειτονικές απαιτήσεις του i). Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 43

44 S: μη εξυπηρετούμενες απαιτήσεις Τ: προσωρινά ανοικτές facilities Primal-Dual N j i β ij N i u j β ij d ij diu d ij qj j a j ik i t qj q d pj p ik k d iv v

45 Primal-Dual S: μη εξυπηρετούμενες απαιτήσεις Τ: προσωρινά ανοικτές facilities O: facilities που ανοίγει ο αλγόριθμος C(i): σύνολο απαιτήσεων που συνεισφέρουν σε κόστος fac i Τα σύνολα C(i), i O, είναι ξένα μεταξύ τους! Χρόνος εκτέλεσης Ο(mlogm). Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 45

46 Primal-Dual: «Μείωση» ΤσεΟ Στο τέλος του αλγόριθμου: j = 1,, n+1, α j = 2, facility 1 στο Τ. j = n+2,, 2n, α j = 3, facilities 2,, n στο T. Κόστος για facilities στο Τ = n(n+1)+n 1. Αλλά OPT = 5n 1. Τελικά μόνο μία facility στο O. Συνολικό κόστος αλγόριθμου 5n.

47 Primal-Dual: Παράδειγμα Στο τέλος του αλγόριθμου: α 1 = 1+ε, β 11 = β 12 = ε. j 2, α j = 1+nε/(n-1), β j1 = β j2 = nε/(n-1). OPT = άθροισμα των α j = n + (n+1)ε. Αλγόριθμος μπορεί να ανοίξει facility 1, με κόστος 3n 2+ε. Λόγος προσέγγισης > 3 δ, δ > 0. n c 1 c 2 f 1 ε f 2 n ε c 3 Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 47 c n

48 Primal-Dual: Ανάλυση Συνολικό κόστος για facilities i O και σύνδεση των απαιτήσεων σε κάθε C(i) στο αντίστοιχο facility i: Τα σύνολα C(i), i O, είναι ξένα μεταξύ τους. Θα δείξουμε ακόμη ότι: Άρα: Λόγος προσέγγισης = 3. Facility κόστος «πληρώνεται» 1-1 με OPT! Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 48

49 Primal-Dual: Ανάλυση απαίτηση k Z, υπάρχει facility i O: d(o, k) = d ik 3α k Αύξηση α k σταματά όταν k γείτονας προσωρινά ανοικτού fac. q Τ. Συνεπώς: d kq α k Αφού k Z, υπάρχει facility i O και απαίτηση j: β ij > 0 και β qj > 0. Συνεπώς: d ij α j και d qj α j Κόστος σύνδεσης k: Μένει να δείξουμε ότι α j α k : t q = χρονική στιγμή που q προστέθηκε στο Τ. Αύξηση α k σταματά όχι αργότερα από t q : t q α k j d ij a j i q Επειδή β qj > 0, t q = α j Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 49 k

50 Μη-Προσεγγισιμότητα Προβλήματα στο ΝΡ που η προσέγγιση τους είναι ΝΡ-δύσκολη! Πλανοδιος Πωλητής χωρίς τριγωνική ανισότητα, μέγιστη κλίκα / σύνολο ανεξαρτησίας, χρωματικός αριθμός, Πρόβλημα Πλανόδιου Πωλητή χωρίς Τριγωνική Ανισότητα (ΠΠΠ): n σημεία και συμμετρικές αποστάσεις (αλλά όχι metric). Ζητούμενο: περιοδεία ελάχιστου συνολικού μήκους. Για κάθε γ, γ-προσέγγιση ΠΠΠ είναι ΝΡ-δύσκολη [Sahni και Gonzalez, 1976]. Κάθε γ-προσεγγιστικός αλγόριθμος για ΠΠΠ λύνει πρόβλημα κύκλου Hamilton! Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 50

51 Απόδειξη Γράφημα G(V, E): υπάρχει κύκλος Hamilton στο G; Αναγωγή σε γ-προσέγγιση ΠΠΠ (για οποιοδήποτε γ > 1): Κορυφές σημεία. Αποστάσεις: Κύκλος Hamilton στο G περιοδεία μήκους V Όχι κύκλος Hamilton στο G περιοδεία μήκους γ V + V 1 > γ V γ-προσεγγιστικός αλγόριθμος για ΠΠΠ: Κύκλος Hamilton στο G περιοδεία μήκους γ V Αποφασίζει (σωστά) αν υπάρχει κύκλος Hamilton στο G. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 51

52 Επισκόπηση Περιοχής Σχήματα προσέγγισης: λόγος (1+ε), για κάθε ε > 0. Σακίδιο, δρομολόγηση εργασιών, γεωμετρικά προβλήματα, υναμικός προγραμματισμός και διακριτοποίηση. Σταθερός λόγος προσέγγισης. MAX-SNP-δυσκολία: ΝΡ-δύσκολο να υπάρξει σχήμα PCP Θεώρημα: NP = PCP(log n, 1). Προβλήματα σε μετρικούς χώρους: ΠΠΠ-ΤΑ, facility location, δέντρο Steiner, Προβλήματα σε γραφήματα: κάλυμμα κορυφών, μέγιστη τομή, feedback vertex set, Προβλήματα ικανοποιησιμότητας: Max-k-SAT. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 52

53 Επισκόπηση Περιοχής Τεχνικές για σταθερό λόγο προσέγγισης: Τοπική αναζήτηση μέθοδος απληστίας. Primal-dual μέθοδος. Dual-fitting μέθοδος. Relaxation του Ακέραιο Προγράμματος σε Γραμμικό Πρόγραμμα, επίλυση, και τυχαίο στρογγύλεμα μη-ακέραιων λύσεων. Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 53

54 Επισκόπηση Περιοχής Λογαριθμικός λόγος προσέγγισης. Ελάχιστο κάλυμμα συνόλων Άπληστος αλγόριθμος (dual-fitting) καλύτερος δυνατός. Αραιότερη τομή, γραμμικές διατάξεις, Εμβάπτιση μετρικών χώρων σε απλούστερους χώρους όπου προβλήματα λύνονται ευκολότερα. Πολυωνυμικός λόγος προσέγγισης. Μέγιστη κλίκα / σύνολο ανεξαρτησίας, χρωματισμός γραφημάτων, PCP Θεώρημα: για κάθε ε > 0, προσέγγιση μέγιστης κλίκας σε λόγο V 1 ε είναι ΝΡ-δύσκολο πρόβλημα! Θεωρία Υπολογισμού (Άνοιξη 2012) Προσεγγιστικοί Αλγόριθμοι 54