Πανεπιστήμιο Πειραιώς Τμήμα Πληροφορικής Πρόγραμμα Μεταπτυχιακών Σπουδών «Πληροφορική»

Transcript

1 Πανεπισήμιο Πειραιώς Τμήμα Πληροφορικής Πρόγραμμα Μεαπυχιακών Σπουδών «Πληροφορική» Μεαπυχιακή Διαριβή Τίλος Διαριβής Αλγόριθμοι Αποικίας Μυρμηγκιών Ονομαεπώνυμο Φοιηή Φρανζέσκος Νομικός Παρώνυμο Γεώργιος Αριθμός Μηρώου ΜΠΠΛ/ 749 Επιβλέπων Άγγελος Πικράκης Ημερομηνία Παράδοσης Νοέμβριος 22

2 Τριμελής Εξεασική Επιροπή Ευάγγελος Φούνας Καθηγηης Γεώργιος Τσιχρινζής Καθηγηής Άγγελος Πικράκης Λέκορας Αλγόριθμοι Αποικίας Μυρμηγκιών 2

3 Αλγόριθμοι Αποικίας Μυρμηγκίων Περίληψη. Το Κεφάλαιο, παρουσιάζει μία περίληψη ης βελισοποίησης αποικίας μυρμηγκιών (ACO) - μία μεαευρισική εμπνευσμένη από η συμπεριφορά πραγμαικών μυρμηγκιών, μία μέθοδος επίλυσης δύσκολων προβλημάων συνδυασικής βελισοποίησης Το Κεφάλαιο 2, παρουσιάζει ένα ρόπο να εκείνουμε ον ACO σε συνεχή χωρία χωρίς να χρειασεί να κάνουμε καμία κρίσημη αλλαγή ση δομή ου. Δηλώνουμε όι ο ACO επεκείνεαι σε συνεχή χωρία από ον ACO R. Το Κεφάλαιο 3, παρουσιάζει σην ενόηα 3. έναν αλγόριθμο εμπνευσμένο απο α μυρμηγκια για βελισοποίηση σε συνεχείς χώρους αναζήησης που βασίζεαι ση παραγωγή υχαίων διανυσμάων με πολυμεαβληή Γκαουσιαννή συνάρηση πυκνόηας πιθανόηας. Ονομάζεαι MACACO και συγκρίνεαι με ο Συνεχές Σύσημα Μυρμηγκιακής Αποικίας (CACS) και η Βελισοποίηση Αποικίας Μυρμηγκιών σον R n (ACO R ). Σην ενόηα 3.2 περιγράφεαι ένα σύσημα συνάθροισης φερομόνης (APS), ο οποίο είναι μία επέκαση ου ACO για συνεχή χωρία, χρησιμοποιώνας η συλλογική συμπεριφορά ων αόμων που επικοινωνούν χρησιμοποιώνας φερομόνες συνάθροισης. Το APS δοκιμάσηκε σε αρκεές συναρήσεις ελέγχου. Τα αποελέσμαα δείχνουν όι ο APS μπορεί να λύσει προβλήμαα βελισοποιήσης πραγμαικών παραμέρων αρκεά καλά. Το Κεφάλαιο 4, παρουσιάζει σην ενόηα 4. κάποιες ιδιόηες σύγκλισης για μία κλάση από αλγορίθμους βελισοποίησης αποικίας μυρμηγκίων. Αποδεικνύεαι επίσης, όι μεά ην εύρεση μίας βέλισης λύσης, χρειάζεαι ένας πεπερασμένος αριθμός από επαναλήψεις για να αυξηθούν α ίχνη φερομόνης που σχείζοναι με ην εύρεση βέλισης λύσης περισσοερο από κάθε άλλο ίχνος φερομόνης Σ ην ενόηα 4.2 παρουσιάζεαι μία ανάλυση σύγκλισης ου ACO σε παραπλανηικά προβλήμαα.και αποδεικνύεαι όι ο ACO μπορεί να επιύχει σύγκλιση προσβασιμόηας αλλά όχι ασυμπωική σύγκλιση για μία κλάση από πρώης άξης παραπλανηικά προβλήμαα (FODS) χωρίς να υποθέσουμε μία ελάχιση φερομόνη σε κάθε επανάληψη. Abstract. Chater resents a summary of the ant colony otimization (ACO) a metaheuretic insired from the behavior of real ants, a method of solving difficult roblems of combinatorial otimization. Chater 2 analyzes a way to exand ACO in continuous domains without having to do any critical change to its structure. We denote that ACO is extended to continuous domains from ACO R. Chater 3 demonstrates in section 3. an algorithm insired from the ants for otimization in continuous search saces based on the roduction of random vectors with multivariable Gaussian robability density function. It is called MACACO and is comared with the Continuous Ant Colony System (CACS) and the Ant Colony Otimization on R n (ACO R ). In section 3.2 is described an aggregation heromone system (APS), that is an exansion of ACO for continuous domains, using the collective behavior of the individuals that communicate utilizing aggregation heromones. APS is tested on several test functions. Results indicate that APS could solve efficiently real arameter otimization roblems. Chater 4 resents in section 4. some convergence roerties for a class of ant colony otimization algorithms. Furthermore, it is roved that after an otimal solution has been found, it demanded a finite number of iterations to grow higher the heromone trails that are associated with the search of the otimum solution more than any other heromone trail. In section 4.2 is resented a convergence analysis of ACO to decetive roblems and it is established that ACO can achieve reachability convergence but not asymtotic convergence for a class of first order decetive roblems (FODS) without the assumtion of a imum heromone at each iteration of the algorithm. Αλγόριθμοι Αποικίας Μυρμηγκιών 3

4 ΠΕΡΙΕΧΟΜΕΝΑ Κεφάλαιο Βελισοποίηση Αποικίας Μυρμηγκιών. Από η Βιολογία σους Αλγορίθμους 7.. Μυρμήγκια 7..2 Αλγόριθμοι 8.2 Η Μεαευρισική ης Βελισοποίησης Αποικίας Μυρμηγκιών Παράδειγμα: Το Πρόβλημα ου Περιοδεύονα Πωληή 2.3 Κύριες Παραλλαγές ου ACO 3.3. Το Σύσημα Μυρμηγκιών (AS) MAX-MIN Σύσημα Μυρμηγκιών Σύσημα Αποικίας Μυρμηγκιών 5 Κεφάλαιο 2 O ACO για Συνεχή Χωρία 2. Ο Αλγόριθμος Δομή Αρχείου, αρχικοποίηση, και ενημέρωση Πιθανοθεωρηική καασκευή λύσης Τοποθέηση ου ACO Ο ACO και Άλλοι Swarm-Based Αλγόριθμοι Ο ACO και οι Εξελικικοί Αλγόριθμοι Πειραμαική Ρύθμιση και Αποελέσμαα 23 Κεφάλαιο 3 Δίαφοροι ύποι αλγορίθμων για συνεχή προβλήμαα 3. Πολυμεαβληή Βελισοποίηση Αποικίας Μυρμηγκιων σε Συνεχείς Χώρους Αναζήησης Εισαγωγή 25 Αλγόριθμοι Αποικίας Μυρμηγκιών 4

5 3..2. Σύσημα Μυρμηγκιών (AS) και Βελισοποίηση Αποικίας Μυρμηγκιών (ACO) 26 Βελισοποίηση Αποικίας Μυρμηγκιών (ACO) 26 Προσαρμόζονας ον αλγόριθμο ACO για να ανιμεωπίσει Συνεχείς Χώρους Αναζήησης 27 Αλγόριθμος CACS 28 Ο αλγόριθμος ACO R MACACO : Πολυμεαβληός αλγόριθμος Αποκίας Μυρμηγκίων για συνεχή βελισοποίηση Αποίμηση Απόδοσης 3 Πειραμαικά Αποελέσμαα Σχόλια Βελισοποίηση Αποικίας Μυρμηγκιών για Συνεχή Χωρία με Μεαφορά Συνάθροισης Φερομονών Εισαγωγή Το Σύσημα Συνάθροισης Φερομόνης 36 Μία Σύνομη Περίληψη ου ACO 36 Το Βασικό Μονέλο ου Συσήμαος Συνάθροισης Φερομόνης 36 Τεχνική Δειγμαοληψίας Πειραμαική Μελέη 38 Πειραμαική Μεθοδολογία 38 Αποελέσμαα Συμπεράσμαα 4 Κεφάλαιο 4 Μια Εισαγωγή Ση Σύγκλιση Των Αλγορίθμων ACO 4. Μία Σύνομη Απόδειξη Σύγκλισης για μία Κλάση από Αλγορίθμους Βελισοποίησης Αποικίας μυρμηγκίων Εισαγωγή Το Πρόβλημα Και Ο Αλγόριθμος 42 Αλγόριθμοι Αποικίας Μυρμηγκιών 5

6 4..3 Απόδειξη Σύγκλισης Σχόλια ACO Αλγόριθμοι Και Σύγκλιση Συμπέρασμα Σύγκλιση Βελισοποίησης Αποικίας μυρμηγκιών σε Πρώης-Τάξης Παραπλανηικά Συσήμαα (first-order decetive system) Εισαγωγή Βελισοποίηση Αποικίας μυρμηγκιών και Παραπλανηικά Προβλήμαα Ανάλυση Σύγκλισης ου ACO σο FODS 55 Το πρόβλημα n-bit παγίδας 55 Ασυμπωική Σύγκλιση ου ACO σε ένα πρόβλημα n-bit παγίδας 56 Σύγκλιση προσβασιμόηας σου ACO σε ένα πρόβλημα n-bit παγίδας Πειραμαικά Αποελέσμαα Συμπεράσμαα 6 Αναφορές 62 Αλγόριθμοι Αποικίας Μυρμηγκιών 6

7 Κεφάλαιο Βελισοποίηση Αποικίας Μυρμηγκιών Αυό ο κεφάλαιο παρουσιάζει μία περίληψη ης βελισοποίησης αποικίας μυρμηγκιών (ACO) - μία μεα-ευρισική εμπνευσμένη από η συμπεριφορά πραγμαικών μυρμηγκιών. Η Βελισοποίηση Αποικίας Μυρμηγκιών (ACO) προάθηκε από ον Dorigo και συναδέλφους [Dorigo και άλλοι, 99 ] ως μία μέθοδος επίλυσης δύσκολων προβλημάων συνδυασικής βελισοποίησης. Οι ACO αλγόριθμοι μπορούν να θεωρηθούν μέρος ης νοημοσύνης σμηνών, ο ερευνηικό πεδίο που μελεάει αλγορίθμους εμπνευσμένους από η παραήρηση ης συμπεριφοράς ων σμηνών. Οι αλγόριθμοι νοημοσύνης σμηνών επινοήθηκαν από απλά χαρακηρισικά που συνεργάζοναι διαμέσου αυό-οργάνωσης, χωρίς καμία μορφή κενρικού ελέγχου πάνω από α μέλη ου σμήνους.μία λεπομερής περίληψη ων αρχών αυό-οργάνωσης προωθούμενη από αυούς ους αλγορίθμους, όπως επίσης και προβλήμαα από η βιολογία, μπορούν να βρεθούν σο [Camazine και άλλοι, 23]. Πολλοί αλγόριθμοί νοημοσύνης σμηνών έχουν προαθεί ση βιβλιογραφία. Για μία περίληψη σο ομέα ης νοημοσύνης σμηνών, παραπέμπουμε σο [Bonabeau και άλλοι, 999].. Από η Βιολογία σους Αλγορίθμους Η βελισοποίηση αποικίας μυρμηγκιών εμπνεύσθηκε από η παραήρηση ης συμπεριφοράς πραγμαικών μυρμηγκιών. Σε αυό ο μήμα, παρουσιάζουμε ένα αριθμό από παραηρήσεις που προεκυψαν απο πειράμαα με πραγμαικά μυρμήγκια, και δείχνουμε πώς αυές οι παραηρήσεις ενέπνευσαν η δημιουργεία ου μεα-ευρισικού ACO... Μυρμήγκια Ένας από ους πρώους ερευνηές που εξέασε η κοινωνική συμπεριφορά ων ενόμων ήαν ο Γάλλος ενομολόγος Pierre-Paul Grassé. Σις δεκαείες ου 4 και 5 ου 2ου αιώνα, παραηρούσε η συμπεριφορά ων ερμιών - συγκεκριμένα, α είδη Bellicositermes natalensis και Cubitermes. Ανακάλυψε [Grassé, 946] όι αυά α ένομα είναι ικανά να ανιδρούν σε αυό που εκείνος ονόμασε «εκφρασικό ερέθισμα», σήμαα που ενεργοποιούν μια γενεικά κωδικοποιημένη ανίδραση. Παραήρησε [Grassé, 959] όι α αποελέσμαα αυών ων ανιδράσεων μπορούν να δράσουν ως νέα ερεθίσμαα και για α ένομα που α παρήγαγαν αλλά και για α άλλα ένομα σην αποικία. Ο Grassé χρησιμοποίησε ον όρο σιγμεργία (stigmergy) [Grassé, 959] για να περιγράψει αυό ον ιδιαίερο ύπο έμμεσης επικοινωνίας σην οποία "οι εργάες διεγείροναι από ην απόδοση που πέυχαν". Τα δύο κύρια χαρακηρισικά ης σιγμεργίας που η διαφοροποιούν από ις άλλες έννοιες ης επικοινωνίας είναι: η φυσική, μη συμβολική φύση ης πληροφορίας που αφήνεαι από α επικοινωνούνα μυρμήγκια και ανισοιχεί σε μία ροποποίηση ων καασάσεων ου φυσικού περιβάλλονος που επισκεπόναι α μυρμήγκια και η οπική φύση ης αφημένης πληροφορίας, η οποία μπορεί να προσεγγισεί μόνο από εκείνα α ένομα που επισκέποναι ο χώρο που αφέθηκε (ή ης άμεσης γειονιάς ου). Παραδείγμαα ης σιγμεργίας μπορούν να παραηρηθούν σις αποικίες ων μυρμηγκιών. Σε πολλά είδη μυρμηγκιών, α μυρμήγκια πηγαίνουν κι έρχοναι από μία πηγή ροφής αποθέονας σο έδαφος μία ουσία που ονομάζεαι φερομόνη. Άλλα μυρμήγκια είναι ικανά να μυρίσουν αυή η φερομόνη, και η παρουσία ης επιδράει σην επιλογή ου μονοπαιούδηλαδή, είνουν να ακολουθήσουν ισχυρές συγκενρώσεις φερομόνης. Η φερομόνη που εναποέθηκε σο έδαφος σχημαίζει ένα ίχνος φερομόνης, και επιρέπει σα μυρμήγκια να βρίσκουν καλές πηγές ροφής που έχουν προηγουμένως αναγνωρισεί από άλλα μυρμήγκια. Αλγόριθμοι Αποικίας Μυρμηγκιών 7

8 Ορισμένοι ερευνηές ανακάλυψαν πειραμαικά αυή ην εναπόθεση φερομόνης και η ακόλουθούμενη συμπεριφορά για να η καανοήσουν καλύερα και να είναι ικανοί να ην ποσοικοποιούν. Ο Deneubourg και άλλοι [Deneubourg και άλλοι, 99] έκαναν ένα πείραμα επονομαζόμενο "πείραμα δυαδικής γέφυρας". Χρησιμοποίησαν μυρμήγκια Lineithema humile (γνωσά και ως Αργενίνικα μυρμήγκια). Η φωλιά ων μυρμηγκιών ήαν συνδεδεμένη με μία πηγή ροφής από δύο γέφυρες ίσου μήκους. Τα μυρμήγκια μπορούσαν ελεύθερα να επιλέξουν ποιά διαδρομή να χρησιμοποιήσουν όαν ψάχνουν για φαγηό και ο φέρνουν πίσω ση φωλιά. Η συμπεριφορά ους παραηρήθηκε για μία χρονική περίοδο. Σε αυό ο πείραμα, αρχικά δεν υπάρχει φερομόνη σις δύο γέφυρες. Τα μυρμήγκια ξεκινούν να εξερευνούν ο περιβάλλον ης φωλιάς και ελικά διασχίζουν μία από ις γέφυρες και φάνουν η πηγή ης ροφής. Όαν περπαούν από η πηγή ης ροφής προς α πίσω, α μυρμήγκια εναποθέουν φερομόνη ση γέφυρα που χρησιμοποιούν. Αρχικά, κάθε μυρμήγκι επιλέγει υχαία κάθε μία από ις γέφυρες. Παρόλα αυά, εξαιίας υχαίων διακυμάνσεων, μεά από μερικό χρόνο θα υπάρχει περισσόερη φερομόνη αποθηκευμένη σε μία από ις δύο γέφυρες παρά σην άλλη. Επειδή α μυρμήγκια είνουν να ακολουθούν ο ισχυρόερο ίχνος φερομόνης, η γέφυρα που έχει περισσόερη φερομόνη θα ελκύει περισσόερα μυρμήγκια. Αυό διαδοχικά κάνει ο ίχνος φερομόνης να μεγαλώνει ισχυρόερα, μέχρι η αποικία ων μυρμηγκιών να συγκλίνει άμεσα ση χρήση ης ίδιας γέφυρας. Σε επίπεδο αποικίας αυή η συμπεριφορά, βασισμένη σην αυοκαάλυση, δηλαδη, σην προώθηση θεικής ανάδρασης, μπορεί να χρησιμοποιηθεί από α μυρμήγκια σην εύρεση ου συνομόερου μονοπαιού μεαξύ μία πηγής ροφής και ης φωλιάς ους. Αυό περιγράφηκε σε ένα άλλο πείραμα που διεξήχθη από ον Goss και άλλους [Goss και άλλοι, 989], σο οποίο οι δύο γέφυρες δεν ήαν ιδίου μήκους: η μία ήαν σημανικά μακρύερη από ην άλλη. Σε αυή η περίπωση επειδη οι δυο κλαδοι μοιάζουν α μυρμήγκια διαλέγουν υχαια εναν παρ ολο που οι σοχασικές διακυμάνσεις σην αρχική επιλογή ης γέφυρας μπορει να ευνοούν ον ενα απο ους δύο κλάδους. Ενας δεύερος μηχανισμός παιζει σημανικό ρόλο: α μυρμήγκια που επέλεξαν καά ύχη η συνομόερη γέφυρα ήαν επίσης α πρώα που έφασαν ση ροφη και όαν επέσρεφαν ση φωλιά επέλεξαν η συνομόερη γέφυρα με μεγαλύερη πιθανόηα αφού αύη είχε ένα ισχυρόερο ίχνος φερομόνης. Συνεπώς, α μυρμήγκια-χάρις σο μηχανισμό ακολουθώ και αποθηκεύω φερομόνη-γρήγορα σύγκλιναν ση χρήση ης συνομόερης γέφυρας. Σο επόμενο μήμα εξηγούμε πώς αυά α αποελέσμαα και ευρήμαα χρησιμοποιήθηκαν για να αναπυχθουν οι αλγορίθμοι βελισοποίησης...2 Αλγόριθμοι Παρακινούμενοι από α ενδιαφέρονα αποελέσμαα ων πειραμάων που περιγράφοναι σο προηγούμενο μήμα, ο Goss και άλλοι [Goss και άλλοι, 989] ανέπυξαν ένα μονέλο για να εξηγήσουν η συμπεριφορά που παραηρήθηκε σο πείραμα ης δυαδικής γέφυρας.ας υποθέσουμε όι μεά από t χρονικές μονάδες από ην αρχή ου πειράμαος, μυρμήγκια χρησιμοποίησαν η πρώη γέφυρα και m 2 ην δεύερη, η πιθανόηα να επιλέξει ο (m+)- οσό μυρμήγκι η πρώη γέφυρα μπορεί να δοθεί από: h (m + ) (m + ) = (.) h h (m + ) + (m2 + ) όπου οι παράμεροι και h χρειάσηκαν για να ρυθμίσουμε ο μονέλο σα πειραμαικά δεδομένα. Η πιθανόηα ο (m+)-οσό μυρμήγκι να επιλέξει η δεύερη γέφυρα είναι 2(m+ ) = (m+ ) Οι προσομοιώσεις ου Monte Carlo, που έρεξαν για να δοκιμάσουν πώς ο μονέλο αναποκρίνεαι σα πραγμαικά δεδομένα [Pasteels και άλλοι, 987], έδειξαν πολύ καλή προσαρμογή για 2 και h 2. Αυό ο βασικό μονέλο, που εξηγεί η συμπεριφορά ων πραγμαικών μυρμηγκιών, μπορεί να χρησιμοποιήθει ως μία έμπνευση για η σχεδίαση εχνηών μυρμηγκιών που λύνουν προβλήμαα βελισοποίησης με ένα παρόμοιο ρόπο. Σο παραπάνω περιγραφόμενο παράδειγμα συμπεριφοράς μυρμηγκιών σην αναζήηση ροφής, η σιγμεργιακή (stigmergic) Αλγόριθμοι Αποικίας Μυρμηγκιών 8 m

9 επικοινωνία συμβαίνει μέσω ης φερομόνης που α μυρμήγκια εναποθέουν σο έδαφος. Αναλογικά, σα εχνηά μυρμήγκια ο επίπεδο φερομονης μπορει να προσομοιωθεί από καάλληλες μεαβληές φερομόνης που συνδέοναι με ις καασάσεις προβλήμαος ενώ καασκευάζουν λύσεις σο πρόβλημα βελισοποίησης. Επιπλέον, σύμφωνα με ο μονέλο σιγμεργίκης επικοινωνίας, α εχνηά μυρμήγκια θα μπορούσαν να έχουν μόνο οπική πρόσβαση σε αυές ης μεαβληές φερομόνης. Επομένως, α κύρια χαρακηρισικά σιγμεργίας που αναφέροναι σα προηγούμενα μήμαα μπορούν να επεκαθούν σε εχνηούς ανιπροσώπους από: ανισοχίζονας μεαβληές καασάσεων σα διάφορα προβλήμαα καασάσεων και δίνονας σους ανιπροσώπους μόνο οπική πρόσβαση σε αυές ις μεαβληές Μία άλλη σημανική όψη ης συμπεριφοράς αναζήησης ροφής ων πραγμαικών μυρμηγκιών που ενδέχεαι να χρησιμοποιηθεί από α εχνηά μυρμήγκια είναι η σύζευξη μεαξύ ου μηχανισμού αυοκαάλυσης και ου έμμεσου υπολογισμούε ων λύσεων. Με ον έμμεσο υπολογισμό λύσης, εννοούμε ο γεγονός όι συνομόερα μονοπάια (που ανισοιχούν σε λύσεις χαμηλόερου κόσους ση περίπωση εχνηών μυρμηγκιών) ολοκληρώνοναι νωρίερα από α μακρύερα, και συνεπώς λαμβάνουν ενίσχυση φερομόνης γρηγορόερα. Έμμεσος υπολογισμός λύσης συνδεμένος με αυοκαάλυση μπορεί να είναι πολύ αποελεσμαικός: όσο πιο συνομόερο ο μονοπάι, πιο συνομα αποθηκεύεαι η φερομόνη, και περισσόερα μυρμήγκια χρησιμοποιούν ο συνομόερο μονοπάι. Εάν χρησιμοποιηθεί καάλληλα, μπορεί να είναι ένας ισχυρός μηχανισμός σε βασισμένους σο πληθυσμό αλγορίθμους βελισοποίησης (π.χ., σε εξελικικούς αλγορίθμους [Holland, 975 Fogel, 995] Η αυοκαάλυση υλοποιήθηκε από ον μηχανισμό επιλογής/αναπαραγωγής). Η σιγμεργία μαζί με ον έμμεσο υπολογισμό λύσης και ην αυοκααλυική συμπεριφορά, έδωσαν ανάπυξη σον ACO. Η βασική ιδέα ου ACΟ ακολουθεί απο πολύ κονά ην βιολογική έμπνευση. Επομένως, υπάρχουν πολλές ομοιόηες μεαξύ πραγμαικών και εχνηών μυρμηγκιών. Και οι πραγμαικές και οι εχνηές αποικίες μυρμηγκιών συγκροήθηκαν από πληθυσμο αομων που δουλεύουν μαζί για να επιύχουν ένα συγκεκριμένο σκοπό. Μία αποικία είναι ένας πληθυσμός από απλούς, ανεξάρηους, ασύγχρονους ανιπροσώπους που συνεργάζοναι για να βρουν μία καλή λύση σο πρόβλημα. Ση περίπωση ων πραγμαικών μυρμηγκιών, ο πρόβλημα είναι να βρούνε ο φαγηό, ενώ ση περίπωση ων εχνηών μυρμηγκιών, είναι να βρούνε μία καλή λύση σε ένα δοσμένο πρόβλημα βελισοποίησης. Ένα μόνο μυρμήγκι (είε ένα πραγμαικό είε ένα εχνηό μυρμήγκι) είναι ικανό να βρει μία λύση σο πρόβλημα ου, αλλά μόνο η συνεργασία μεαξύ πολλών αόμων μέσω ης σιγμεργίας α καθισά ικανά να βρούνε καλές λύσεις. Ση περίπωση ων πραγμαικών μυρμηγκιών, εναποθέουν και ανιδρούν σε μία χημική ουσία επονομαζόμενη φερομόνη. Τα πραγμαικά μυρμήγκια, απλά ην εναποθέουν σο έδαφος καθώς περπαάνε. Τα εχνηά μυρμήγκια ζούνε σε ένα εχνηό κόσμο, γι'αυό ο λόγο ροποποιούν μόνο αριθμηικές ιμές (ονομάσηκαν αναλογικά εχνηές φερομόνες) συνδεόμενες με ις διαφορεικές καασάσεις ων προβλημάων. Μία ακολουθία από ιμές φερομόνης συνδεδεμένη με ις καασάσεις ων προβλημάων ονομάζεαι εχνηό ίχνος φερομόνης. Σον ACO, α εχνηά ίχνη φερομόνης είναι οι μοναδικές έννοιες επικοινωνίας μεαξύ ων μυρμηγκιών. Ένας μηχανισμός ανάλογος με ην εξάμιση ης φυσικής φερομόνης σις πραγμαικές αποικίες μυρμηγκιών επιρέπει σα εχνηά μυρμήγκια να ξεχνούν η περασμένη ισορία και να εσιάζουν σε νέες ερευνηικές καευθύνσεις. Όπως α πραγμαικά μυρμήγκια, α εχνηά μυρμήγκια μπορούν να δημιουργήσουν ις λύσεις ους διαδοχικά μεακινούμενα από η μία καάσαση προβλήμαος σην άλλη. Τα πραγμαικά μυρμήγκια απλά περπαούν, επιλέγονας ην καεύθυνση βασισμένη σε οπικές συγκενρώσεις φερομόνης και ην ακική σοχασικών αποφάσεων. Τα εχνηά μυρμήγκια επίσης δημιουργούν λύσεις βήμα προς βήμα, κινούμενα μέσω διαθέσιμων καασάσεων ων προβλημάων και παιρνονας σοχασικές αποφάσεις σε κάθε βήμα. Υπάρχουν παρόλα αυά σημανικές διαφορές μεαξύ πραγμαικών και εχνηών μυρμηγκιών: Τα εχνηά μυρμήγκια ζούνε σε ένα διακριό κόσμο - κινούναι διαδοχικά διαμέσου ενός πεπερασμένου συνόλου από ις καασάσεις ου προβλήμαος. Αλγόριθμοι Αποικίας Μυρμηγκιών 9

10 Η ενημέρωση φερομόνης (δηλαδή η φερομόνη που αποθηκεύεαι και εξαμίζεαι) δεν ολοκληρώνεαι με ον ίδιο ακριβώς ρόπο σα εχνηά και σα πραγμαικά μυρμήγκια. Μερικές φορές η αναβάθμιση φερομόνης γίνεαι μόνο από μερικά από α εχνηά μυρμήγκια, και συχνά μόνο αφού μια λύση έχει καασκευασεί. Μερικές υλοποιήσεις εχνηών μυρμηγκιών χρησιμοποιούν συμπληρωμαικούς μηχανισμούς που δεν υπάρχουν ση περίπωση ων πραγμαικών μυρμηγκιών. Για παράδειγμα έχουν όραση, δυναόηα οπικής αναζήησης, ανισροφή θέσης, κ..λ..2 Η Μεαευρισική ης Βελισοποίησης Αποικίας Μυρμηγκιών. Η βελισοποίηση αποικίας μυρμηγκιων (ACO) υποποιήθηκε μέσα σε μία μεαευρισική συνδυασικής βελισοποίησης από ον Dorigo και άλλους [Dorigo και Di Caro, 999 Dorigo και άλλοι, 999 Dorigo και Stützle, 24] και από όε χρησιμοποιήθηκε για να κααπιασεί με συνδυασικά προβλήμαα βελισοποίησης. Δοθένος ενός προβλήμαος συνδυασικής βελισοποίησης (COP), ο πρώο βήμα για ην εφαρμογή ου ACO ση λύση ου αποελείαι από ον ορισμό ενός ικανοποιηικού μονέλου. Αυό όε χρησιμοποιείαι για να ορισεί η κενρική συνισώσα ου ACO: ο μονέλο φερομόνης. Πρώα, μία μεαβληή σιγμιαιας απόφασης X = υ (δηλαδή η μεαβληή i i X i με μία ιμή εκχωρημένη από ο πεδίο ης D ), ονομάζεαι συνισώσα λύσης και δηλώνεαι με c. Το i σύνολο όλων ων δυναών συνισωσών δηλώνεαι με C. Μία παράμερος ίχνους φερομόνης T i συνδέεαι όε με κάθε συνισώσα c i. Το σύνολο όλων ων παραμέρων ίχνους φερομόνης δηλώνεαι με Τ. Η ιμή ης παραμέρου ίχνους φερομόνης T i δηλώνεαι με i (και ονομάζεαι ιμή φερομόνης. Οι ιμές ης φερομόνης είναι γενικά μία συνάρηση ου αλγορίθμου επανάληψης t : = (t) i i. ). Αυή η ιμή φερομόνης χρησιμοποιείαι και ενημερώνεαι από ον ACO αλγόριθμο καά η διάρκεια ης έρευνας. Αυο επιρέπει η μονελοποίηση ης καανομής πιθανόηας για ις διαφορες συνισώσες ης λύσης. Σον ACO, α εχνηά μυρμήγκια καασκευάζουν μία λύση σε ένα πρόβλημα συνδυασικής βελισοποίησης διερχόμενα ον επονομαζόμενο καασκευασικό γράφο, G(V,E) c. Ο πλήρως συνδεδεμένος καασκευασικός γράφος αποελείαι από ένα σύνολο από κορυφές V και ένα σύνολο από ακμές E. Το σύνολο ων συνισωσών C ενδέχεαι να συνδέεαι είε με ο σύνολο ων κορυφών V ου γράφου G C, είε με ο σύνολο ων ακμών E. Τα μυρμήγκια κινούναι από κορυφή σε κορυφή καά μήκος ων ακμών ου γράφου, καασκευάζονας αυξηικά μία μερική λύση. Επιπλέον, α μυρμήγκια αποθηκεύουν μία προκαθορισμένη ποσόηα φερομόνης σις συνισώσες, που είναι, είε οι κορυφές είε οι ακμές που διέρχοναι. Η ποσόηα Δ T ης αποθηκευμένης φερομόνης μπορεί να εξαράαι από η ποιόηα ης λύσης που βρέθηκε. Διαδοχικά μυρμήγκια εκμεαλλεύοναι η πληροφορία φερομόνης ως οδηγό για περισσόερο αποδοικες περιοχες σο χώρο αναζήησης. Η ACO μεαευρισική δείχνεαι σον Αλγόριθμο. Αποελείαι από ένα βήμα αρχικοποίησης και ένα βρόχο πάνω από ρείς αλγοριθμικές συνισώσες. Μία μόνο επανάληψη ου βρόχου αποελείαι από καασκευασικές λύσεις όλων ων μυρμήγκιων, ην (προαιρεική) βελίωση ους με η χρήση ενός αλγορίθμου οπικής αναζήησης, και μία ενημέρωση ων φερομονών. Ακολούθως, εξηγούμε αυές ις ρείς αλγοριθμικές συνισώσες πιο λεπομερώς. Αλγόριθμος Μεαευρισική βελισοποίησης αποικίας μυρμηγκιών Ανέθεσε παραμέρους, αρχικοποίησε ίχνη φερομόνης while συνθήκες ερμαισμού δεν ικανοποιούναι do Καασκεύασε Μυρμηγκικές Λύσεις Εφάρμοσε Τοπική Αναζήηση {προαιρεικό} Ενημέρωσε Φερομόνες end while Αλγόριθμοι Αποικίας Μυρμηγκιών i υ i

11 Καασκεύασε Μυρμηγκικές Λύσεις: Ένα σύνολο από m εχνηά μυρμήγκια καασκευάζουν λύσεις από α σοιχεία ενός πεπερασμένου συνόλου από διαθέσιμες συνισώσες λύσεων C = {c }, i =,..., n, =,..., D. Μία καασκευή λύσης ξεκινάει από μία κενή μερική λύση s =. i i Τόε, σε κάθε καασκευασικό βήμα, η ρέχουσα μερική λύση s επεκείνεαι προσθέονας μία εφική συνισώσα λύσης από ο σύνολο ων εφικών περιοχών N(s ) C. Η διαδικασία καασκευής λύσεων μπορεί να θεωρηθεί ως ένα μονοπάι ου καασκευασικού γράφου G C = (V,E). Τα επιρεπόμενα μονοπάια σο GC είναι επι ου παρονος έμμεσα ορισμένα από ένα μηχανισμό καασκευής λύσης που ορίζει ο σύνολο N(s ) ως προς μία μερική λύση s. Η επιλογή μίας συνισώσας λύσης από ο N(s ) γίνεαι πιθανοθεωρηικά σε κάθε καασκευασικό βήμα. Οι ακριβείς κανόνες για ην πιθανοθεωρηική επιλογή ων συνισωσών ης λύσης ποικίλει ανάμεσα σε διαφορεικές παραλλαγές ου ACO. Ο καλύερα γνωσός κανόνας είναι εκείνος ου Συσήμαος Μυρμηγκιων (AS) [Dorigo και άλλοι, 996]: a b i η(c i ) (c s) i =, c a i N(s) (.2) η(c ) β il cil N(s ) il όπου i είναι η ιμή ης φερομόνης που συνδέεαι με η συνισώσα c i, και η () είναι μία συνάρηση που αναθέει σε κάθε καασκευασικό βήμα μία ευρισική ιμή σε κάθε εφική συνισώσα λύσης c N(s ). Οι ιμές που δίνοναι από αυή η συνάρηση ονομάζεαιόμενη i ευρισική πληροφορία. Επιπλέον, α α και β είναι θεικές παράμεροι, ων οποίων οι ιμές καθορίζουν η σχεική σημασία ης φερομόνης ένανι ης ευρισικής πληροφορίας. Η Εξίσωση.2 είναι μία γενίκευση ης Εξίσωσης. που παρουσιάζεαι σο μήμα.: Η υποποίηση ου ACO ακολουθεί από κονά ην βιολογική έμπνευση. Εφάρμοσε Τοπική Αναζήηση: Μόλις οι λύσεις έχουν καασκευασεί, και πριν ην ενημέρωση ων φερομονών, συχνά ενδέχεαι να απαιούναι μερικές προαιρεικές ενέργειες. Αυές συχνά ονομάζοναι κακές ενέργειες (daemon actions), και μπορούν να χρησιμοποιηθούν για να υλοποιήσουν προβλήμαα συγκεκριμένων ενεργειών, που δεν μπορούν να πραγμαοποιηθούν από ξεχωρισά μυρμήγκια. Οι πιο χρησιμοποιημένες κακές ενέργειες αποελούναι από ην εφαρμογή οπικής αναζήησης σις καασκευασμένες λύσεις: οι οπικά βελισοποιημένες λύσεις όε χρησιμοποιούναι για να επιλεχεί ποιές φερομόνες θα ενημερωθούν. Ενημέρωσε Φερομόνες: Ο σόχος ης ενημέρωσης φερομόνης είναι να αυξηθούν οι ιμές φερομόνης που ανισοιχούν σις καλές και υποσχόμενες λύσεις, και να μειώσουμε αυές που ανισοιχούν σις κακές. Συνήθως, αυό επιυγχάνεαι (i) μειώνονας όλες ις ιμές ης φερομόνης διαμέσου ης εξάμισης φερομόνης, και (ii) με ην αύξηση ων επιπέδων φερομόνης που ανισοιχούν σο επιλεγμένο σύνολο από καλές λύσεις S ud : όπου ( ρ) +ρ F(s) (.3) i i s S ud ci s S είναι ο σύνολο ων λύσεων που χρησιμοποιήθηκαν για ην ενημέρωση, ρ (,] ud + είναι μία παράμερος που ονομάζεαι ρυθμός εξάμισης, και F:S είναι μία συνάρηση έοια ώσε f(s) < f(s') F(s) F(s'), s s' S. Η F( ) ονομάζεαι συνάρηση προσαρμογής. Η εξάμιση φερομόνης χρειάζεαι για να αποφύγουμε μία πάρα πολύ γρήγορη σύγκλιση ου αλγορίθμου. Υλοποιεί μία χρήσιμη μορφή λησμονιάς, ευνοώνας ην εξερεύνηση νέων περιοχών σον χώρο αναζήησης. Διαφορεικοί ACO αλγόριθμοι, όπως για παράδειγμα ο Σύσημα Αποικίας Μυρμηγκιών (ACS) [Dorigo και Gambardella, 997] ή ο Σύσημα Μυρμηγκιών ΜΑΧ-ΜΙΝ (MMAS) [Stützle και Hoos, 2] διαφέρουν σον ρόπο που ενημερώνουν η φερομόνη. Επικαιροποιήσεις ου κανόνα ενημέρωσης που παρουσιάζοναι σην Εξίσωση.3 λαμβάνοναι από ις διάφορες προδιαγραφές ου, που σε πολλές περιπώσεις είναι ένα υποσύνολο ου S ud S iter {sbs}, όπου Siter είναι ο σύνολο από ις λύσεις που καασκευάσηκαν σην ρέχουσα επανάληψη, και είναι η καλύερη μέχρι ώρα λύση, που είναι, η καλύερη λύση που βρέθηκε s bs Αλγόριθμοι Αποικίας Μυρμηγκιών

12 από η πρώη αλγοριθμική επανάληψη. Ένα πολύ γνωσό παράδειγμα είναι ο AS-κανόνας ενημέρωσης, που είναι, ο κανόνας ενημέρωσης ου Συσήμαος Μυρμηγκιών [Dorigo και άλλοι, 996], όπου: S S (.4) ud iter Ένα παράδειγμα κανόνα ενημέρωσης φερομόνης που χρησιμοποιήθηκε συχνόερα σην πράξη είναι ο IB-κανόνας ενημέρωσης (όπου IB σημαίνει καλύερη-επανάληψη): S argmaxf( s). (.5) ud s Siter Ο IB κανόνας εισάγει μία ισχυρόερη μεροληψία σε σχέση με ις καλές λύσεις που βρέθηκαν με ον AS-κανόνα ενημέρωσης. Αν και αυό αυξάνει η αχύηα με ην οποία βρίσκοναι οι καλές λύσεις, επίσης αυξάνει ην πιθανόηα πρόωρης σύγκλισης. Μία ακόμα ισχυρόερη μεροληψία εισάγεαι από ον BS-κανόνα ενημέρωσης, όπου ο BS αναφέρεαι ση χρήση ης καλύερης λύσης s. Σε αυή η περίπωση, ο S προκαθορίζεαι σο {s }. Ση πράξη, οι ACO bs ud αλγόριθμοι που χρησιμοποιούν παραλλαγές από ους IB ή BS-κανόνες ενημέρωσης και που επιπρόσθεα περιέχουν μηχανισμούς αποφυγής πρόωρης σύγκλισης, επιυγχάνουν καλύερα αποελέσμαα από εκείνους που χρησιμοποιούν ον AS-κανόνα ενημέρωσης. sb.2. Παράδειγμα: Το Πρόβλημα ου Περιοδεύονα Πωληή Ένας από ους καλύερους ρόπους να επεξηγήσουμε πώς λειουργεί o ACO μεαευρισικός, είναι μέσω ης εφαρμογής ου σο πρόβλημα ου περιοδεύονα πωληή (TSP). Το πρόβλημα TSP αποελείαι από ένα σύνολο από οποθεσίες (πόλεις) και έναν περιοδεύονα πωληή που πρέπει να επισκεφεί όλες ις οποθεσίες μία και μόνο φορά. Οι αποσάσεις μεαξύ ων οποθεσιών δίνοναι και ο σοχος είναι να βρεθεί μία Χαμιλονιανή διαδρομή με ο ελάχισο μήκος. Το πρόβλημα έχει αποδειχεί όι είναι NP hard [Lawler και άλλοι, 985]. Η εφαρμογή ου ACO σο TSP εφαρμόζεαι ακριβώς. Οι κινήσεις μεαξύ ων οποθεσιών γίνοναι οι συνισώσες ων λύσεων-δηλαδή, η κίνηση από η πόλη i ση πόλη γίνεαι μία συνισώσα λύσης ci ci. Ο καασκευασικός γράφος G C = (V,E) ορίζεαι ανισοιχίζονας ο σύνολο ων οποθεσιών με ο σύνολο V ων κορυφών ου γράφου. Επειδή μπορουμε να κινηθούμε από η μία πόλη σην άλλη, ο καασκευασικός γράφος είναι πλήρως συνεκικός και ο αριθμός ων κορυφών είναι ίσος με ον αριθμό ων οποθεσιών που ορίζοναι από ο πρόβλημα. Επιπροσθέως, α μήκη ων ακμών μεαξύ ων κορυφών είναι ανάλογα με ις αποσάσεις μεαξύ ων οποθεσιών που αναπαρισώναι από ις κορυφές. Η φερομόνη ανισοιχεί με ο σύνολο E ων ακμών ου γράφου. Ένα παράδειγμα ου προκύπονα καασκευασικού γράφου παρουσιάζεαι σην εικόνα.α. G C Τα μυρμήγκια καασκευάζουν ις λύσεις ως ακολούθως. Κάθε μυρμήγκι ξεκινάει από μία υχαία επιλεγμένη οποθεσία (κορυφή ου γράφου G C ). Τόε, σε κάθε καασκευασικό βήμα κινείαι καα μήκος ων ακμών ου γράφου. Κάθε μυρμήγκι κραάει σην μνήμη ου ο μονοπάι διαμέσου ου γράφου, και σε διαδοχικά βήμαα επιλέγει απο ις ακμές που δεν οδηγούν σις κορυφές που ήδη επισκέφθηκε. Ένα μυρμήγκι έχει καασκευάσει μία λύση μόλις έχει επισκεφθεί όλες ις κορυφές ου γράφου. Σε κάθε καασκευασικό βήμα ένα μυρμήγκι επιλέγει πιθανοθεωρηικά ην ακμή που θα επιλέξει μεαξύ ων διαθέσιμων (εκείνων που οδηγούν σις μη επισκεφθείσες κορυφές). Ο ακριβής κανόνας εξαράαι από ην υλοποίηση, ένα παράδειγμα είναι η Εξίσωση.2. Μόλις όλα α μυρμήγκια έχουν ελειώσει η διαδρομή ους, η φερομόνη σις ακμές ενημερώνεαι σύμφωνα με ις πιθανές υλοποιήσεις ης Εξίσωσης.3. Ο ACO έδειξε όι εκελείαι σχεδόν καλά σο TSP [Stützle και Dorigo, 999]. Αξίζει να σημειωθεί όι είναι επίσης πιθανό να ανισοιχιθεί ο σύνολο ων συνισωσών ης λύσης ου TSP (ή κάθε άλλου προβλήμαος συνδυασικής βελισοποίησης) με ο σύνολο ων κορυφών V παρά με ο σύνολο ων ακμών E ου καασκευασικού γράφου G C. Για ο TSP, αυό θα σήμαινε ανισοιχιση ων κινήσεων μεαξύ ων οποθεσιών με ο σύνολο V ων κορυφών ου καασκευασικού γράφου, και ων οποθεσιών με ο σύνολο E ων ακμών. Το ανίσοιχο παράδειγμα καασκευασικού γράφου για ένα TSP 4 πόλεων παρουσιάζεαι σην εικόνα.β. Όαν χρησιμοποιείαι αυή η προσέγγιση, η διαδικασία καασκευής ης λύσης ων μυρμηγκιών θα πρέπει επίσης να ροποποιηθεί καάλληλα: α μυρμήγκια θα πρεπει να Αλγόριθμοι Αποικίας Μυρμηγκιών 2

13 κινηθούν από η μία κορυφή σην άλλη ου καασκευασικού γράφου επιλέγονας με αυό ο ρόπο ις συνδέσεις μεαξύ ων πόλεων. Εικόνα.: Παράδειγμα καασκευασικών γράφων για ένα TSP εσσάρων πόλεων. α) όαν οι συνισώσες συνδέοναι με ις ακμές ους γράφου, β) όαν οι συνισώσες συνδέοναι με ις κορυφές ους γράφου. Είναι σημανικό να σημειωθεί όι και οι δύο ρόποι ορισμού ου καασκευασικού γράφου είναι σωσοί και οι δύο μπορούν να χρησιμοποιηθούν ση πράξη. Αναλογα με ο πρόβλημα, ο ένας ενδέχεαι να είναι πιο αποελεσμαικός από ον άλλο. Για παράδειγμα, σο Πρόβλημα Προγραμμαισμού Πανεπισημιακών Μαθημάων (UTCP) ο δεύερος δείχνει καλύερα προσαρμοσμένος [Socha Και άλλοι, 22]..3 Κύριες Παραλλαγές ου ACO Αρκεές παραλλαγές ου ACO προάθηκαν ση βιβλιογραφία. Παρουσιάζουμε α κύρια χαρακηρισικά ων πιο επιυχημένων μαζί με μερικές από ις εφαρμογές ους. Παρακάω παρουσιάζουμε ο Σύσημα Μυρμηγκιών (ant system)-η πρώη υλοποίηση ενός ACO αλγορίθμου- και ση συνέχεια ο Σύσημα Μυρμηγκιών MAX-MIN και ο Σύσημα Αποικίας Μυρμηγκιών. Για να επεξηγήσουμε καθαρά ις διαφορές μεαξύ αυών, χρησιμοποιούμε ο πρόβλημα ου περιοδεύονα πωληή, όπως περιγράφεαι σο Τμήμα Το Σύσημα Μυρμηγκιών (AS) Το Σύσημα Μυρμηγκιών (AS) ήαν ο πρώος ACO αλγόριθμος που προάθηκε ση βιβλιογραφία [Dorigo και άλλοι, 99 Dorigo και άλλοι, 996]. Το κύριο χαρακηρισικό ου είναι όι οι ιμές ης φερομόνης ενημερώνοναι από όλα α μυρμήγκια που ολοκλήρωσαν η διαδρομή. Η ενημέρωση φερομόνης, για ην ακμή που συνδέει ις πόλεις i αι, πραγμαοποιήθηκε ως εξής: i m i ( ) i i = ρ + Δ (.6) κ όπου ρ είναι ο ρυθμός εξάμισης, m είναι ο αριθμός ων μυρμηγκιών, και Δ i είναι η ποσόηα φερομόνης ανά μονάδα μήκους σην ακμή (i, ) από ο κ-οσό μυρμήγκι: Q ε ά ν ομυρμ ή γκι κ χρησιμοπο ί ησε ην ακμ ή (i,) σηδιαδρομ ή ου, Δ L i = (.7) αλλιώ ς, όπου Q είναι μία σαθερά, και L είναι ο μήκος ης διαδρομής ου κ-οσού μυρμηγκιού. Όαν καασκευάζουν ις λύσεις, α μυρμήγκια σον AS διασχίζουν ένα καασκευασικό γράφο και παίρνουν πιθανοθεωρηικές αποφάσεις σε κάθε κορυφή. Η πιθανόηα μεάβασης ου -οσού μυρμηγκιού που κινείαι από η πόλη i ση πόλη δίνεαι από: i Αλγόριθμοι Αποικίας Μυρμηγκιών 3

14 a β i i εάν επιρεπό μενο a, β il il i = (.8) l επιρεπόμενο αλλιώ ς, η όπου ο επιρεπόμενο είναι η λίσα με ις πόλεις που δεν έχει επισκεφεί ο κ-οσό μυρμήγκι, και α και β είναι παράμεροι που ελέγχουν η σχεική σημασία ης φερομόνης ένανι ης ευρισικής πληροφορίας που δινεαι από: όπου d i η i είναι ο μήκος ης ακμής (i, ). η i =, (.9) d i Αρκεές υλοποιήσεις ου αλγορίθμου AS έχουν εφαρμοσεί σε διάφορα συνδυασικά προβλήμαα βελισοποίησης. Η πρώη και πιο γνωσή είναι η εφαρμογή σο TSP [Dorigo και άλλοι, 99]. Παρόλα αυά, ο AS χρησιμοποιήθηκε επίσης επιυχώς για ην ανιμεώπιση και άλλων συνδυασικών προβλημάων. Ο AS-QAP [Maniezzo και άλλοι, 994 Maniezzo και Colorni, 999] αλγόριθμος χρησιμοποιήθηκε για ην ανιμεώπιση ου προβλημάος ανάθεσης εραγώνων (QAP), o AS-VRP [Bullheimer και άλλοι, 998, 999] για α προβλήμαα δρομολογησης οχημάων (VRP) MAX-MIN Σύσημα Μυρμηγκιών Το MAX-MIN Σύσημα Μυρμηγκιών (MMAS) είναι μία βελίωση πάνω ση αρχική ιδέα ου Συσήμαος Μυρμηγκιών. Ο MMAS προάθηκε από ους Stützle και Hoos [Stützle και Hoos, 2] και εισάγει ις ακόλουθες δύο αλλαγές: μόνο ο καλύερο μυρμήγκι μπορεί να ενημερώσει α ίχνη φερομόνης, και οι ελάχισες και οι μέγισες ιμές ης φερομόνης είναι περιορισμένες. Η εξίσωση.6 παίρνει από ώρα ην ακόλουθη νέα μορφή: best ( ρ) +Δ, (.) όπου best Δ i Δ i i i είναι ο κανόνας ενημέρωσης φερομόνης ορισμένος από: best i = Q L best εάν ο καλύερομυρμήγκι χρησιμοποίησε ην ακμή(i,) σηδιαδρομή ου, (.) αλλιώς Το L best είναι ο μήκος ης διαδρομής ου καλύερου μυρμηγκιού. Αυό ενδέχεαι να είναι (υπόκειαι σην απόφαση ου σχεδιασή ου αλγόριθμου) είε η καλύερη διαδρομή που βρέθηκε ση ρέχουσα επανάληψη-καλύερη-επανάληψη, L -είε η καλύερη λύση που βρέθηκε από ην αρχή ου αλγορίθμου-καλύερη μέχρι ώρα, ib L bs -ή ένας συνδυασμός ων δύο. Για α όρια ης ελάχισης και μέγισης επιρεπόμενης ιμής φερομόνης, ανίσοιχα και max, οι Stützle και Hoos προείνουν όι πρέπει να επιλεχούν εμπειρικά, αναλογα με ο πρόβλημα. Η μέγιση ιμή μπορεί να υπολογισεί αναλυικά υπό ον όρο όι ο μήκος ης διαδρομής ου max βέλισου μυρμηγκιού είναι γνωσό. Ση περίπωση ου TSP, ο max =, ρ L (.2) max δίνεαι από: όπου L είναι ο μήκος ης βέλισης διαδρομής. Η ελάχιση ιμή φερομόνης πρέπει να επιλεγεί με προσοχή καθώς έχει μία κάπως ισχυρόερη επίδραση σην απόδοση ου αλγορίθμου.παρουσιάζουν μία αναλυική προσέγγιση για ην εύρεση αυής ης ιμής βασισμένη ση πιθανόηα που ένα μυρμήγκι καασκευάζει η καλύερη διαδρομή μέχρι ώρα. Αυό best Αλγόριθμοι Αποικίας Μυρμηγκιών 4

15 γίνεαι ως εξής. Πρώα, υποθέουμε όι σε κάθε καασκευασικό βήμα ένα μυρμήγκι έχει ένα σαθερό αριθμό από διαθέσιμες επιλογές. Συνεπώς, η πιθανόηα ένα μυρμήγκι να παρει η σωσή απόφαση (δηλαδή, ην απόφαση που ανήκει σην ακολουθία αποφάσεων που οδηγούν σην καασκευή ης καλύερης λύσης που έχει βρεθεί μέχρι ώρα) σε κάθε από α n βήμαα δίνεαι από ο = n. Ο αναλυικός ύπος που προείνουν για ην εύρεση ου είναι: dec best max ( dec ) =. (.3) dec Για περισσόερες λεπομέρειες σο πώς να επιλεχούν α max και, αναφερόμασε σους [Stützle και Hoos, 2]. Είναι σημανικό να αναφέρουμε εδώ όι έχει δειχθεί [Socha και άλλοι, 22] οι για κάποια προβλήμαα η επιλογή μίας καάλληλης ιμής ου είναι πιο εύκολο να δοθεί πειραμαικά παρά αναλυικά. Η διαδικασία ης ενημέρωσης φερομόνης σον MMAS αποφασίζεαι από ην επαλήθευση όι οι ιμές ης φερομόνης είναι μέσα σα απαιούμενα όρια: max εά ν i >max, i = (.4) εν ά i <. Το MMAS παρέχει μίας σημανική βελίωση σην απόδοση ου Συσήμαος Μυρμηγκιών. Ενώ οι πρώες υλοποιήσεις επικενρώθηκαν σο TSP [Stützle και Hoos, 2], αργόερα εφαρμόσηκε σε πολλά άλλα προβλήμαα συνδυασικής βελισοποίησης όπως είναι ο προβλημα αναθεσης εραγώνων QAP [Stützle και Hoos, 998] ή ο πρόβλημα προγράμμαος ων πανεπισημιακών μαθημάων (UTCP) [Socha και άλλοι, 22]..3.3 Σύσημα Αποικίας Μυρμηγκιών Μία άλλη βελίωση πάνω σο πρωόυπο Σύσημα Μυρμηγκιών (AS) είναι ο Σύσημα Αποικίας Μυρμηγκιών (ACS ) εισηγμένο από ους Gambardella και Dorigo [Gambardella και Dorigo, 996 Dorigo και Gambardella, 997]. Η πιο ενδιαφέρουσα συνεισφορά ου ACS είναι η εισαγωγή μίας οπικής ενημέρωσης φερομόνης επιπλέον σην ενημέρωση φερομόνης που πραγμαοποιήθηκε σο έλος ης καασκευασικής διαδικασίας (εδώ ονομάζεαι αδρανής (offline) ενημέρωση φερομόνης). Η οπική ενημέρωση φερομόνης πραγμαοποιείαι από όλα α μυρμήγκια μεά από κάθε καασκευασικό βήμα. Κάθε μυρμήγκι ην εφαρμόζει μόνο σην ελευαία ακμή που διέσχισε: = ( ϕ) +ϕ (.5) i i, όπου ϕ (,] είναι ο συνελεσής μείωσης φερομόνης, και είναι η αρχική ιμή ης φερομόνης. Ο βασικός σόχος ης οπικής ενημέρωσης είναι να διαφοροποιεί ην αναζήηση που πραγμαοποιήθηκε από διαδοχικά μυρμήγκια καά η διάρκεια μίας επανάληψης. Ση πραγμαικόηα, μειώνονας η συγκένρωση φερομόνης σις ακμές που περάσηκαν καά η διάρκεια μία επανάληψης ενθαρρύνει α επόμενα μυρμήγκια να επιλέξουν αλλες ακμές και γι'αυό ο λόγο να παράγουν διαφορεικές λύσεις. Αυό ον κάνει λιγόερο καάλληλο διόι αρκεά μυρμήγκια παράγουν ίδιες λύσεις καά η διάρκεια μιας επανάληψης. Η αδρανής (offline) ενημέρωση φερομόνης, όμοια με ο MMAS, εφαρμόζεαι σο έλος κάθε επανάληψης από ένα μόνο μυρμήγκι (εκείνο που βρήκε η καλύερη λύση σην επανάληψη). Παρ όλα αυά, ο ύπος ενημέρωσης είναι λίγο διαφορεικός: ( ρ) i +ρ Δi εάνηακμή(i,) ανήκεισοtbest i (.6) i αλλιώ ς, και ση περίπωση ου TSP, Δ i =. L best Μία άλλη σημανική διαφορά μεαξύ ου AS και ου ACS είναι σον κανόνα απόφασης που χρησιμοποιείαι από α μυρμήγκια καά η διάρκεια ης καασκευασικής διαδικασίας. Τα μυρμήγκια σον ACS χρησιμοποιούν ον επονομαζόμενο ψευδουχαίο αναλογικό κανόνα: η πιθανόηα για ένα μυρμήγκι να κινηθεί από η πόλη i ση πόλη εξαράαι από μία υχαία Αλγόριθμοι Αποικίας Μυρμηγκιών 5

16 μεαβληή q ομοιόμορφα καανεμημένη πάνω σο [,], και μία παράμερο.αν q q, όε = arg max { η }, αλλιώς χρησιμοποιειαι η Εξίσωση (.8). β l N(s ) il il q Ο ACS αναπύχθηκε αρχικά για ο πρόβλημα ου περιοδεύονα πωληή [Gambardena και Dorigo, 996 Dorigo και Gambardella, 997], αλλά χρησιμοποιήθηκε αργόερα για ην ανιμεώπιση ποικίλων συνδυασικών προβλημάων, περιλαμβάνονας η δρομολόγηση οχήμαος [Bianchi και άλλοι, 24] και ο πρόβλημα προγράμμαος ων πανεπισημιακών μαθημάων (UTCP) [Socha και άλλοι, 23]. Αλγόριθμοι Αποικίας Μυρμηγκιών 6

17 Κεφάλαιο 2 O ACO για Συνεχή Χωρία Η συνδυασική βελισοποίηση-όπως και ο όνομα υποδηλώνει ασχολείαι με ην εύρεση βέλισων συνδυασμών ή μεαθέσεων σις διαθέσιμες συνισώσες ων προβλημάων. Γι' αυό ο λόγο, απαιείαι ο πρόβλημα να είναι διαμερισμένο σε ένα πεπερασμένο σύνολο από συνισώσες, και ο αλγόριθμος συνδυασικής βελισοποίησης προσπαθεί να βρει ο βέλισο συνδυασμό ή μεάθεση. Πολλά προβλήμαα ου πραγμαικού κόσμου μπορουν να εκφράσουν ως προβλήμαα συνδυασική βελισοποίησης (COPs) με ακριβή ρόπο. Υπάρχει ομως μία σημανική ομάδα προβλήμαων α οποία δεν είναι σ αυή η περίπωση: η ομαδα ων προβλημάων βελισοποίησης που απαιούν επιλογή ιμών για συνεχείς μεαβληές. Τέοια προβλήμαα μπορούν να ανιμεωπισούν με έναν αλγόριθμο συνδυασικής βελισοποίησης μόνο οαν α συνεχή πεδία ιμών ων επιρεπόμενων ιμών μεαραπούν σε πεπερασμένα σύνολα. Αυό δεν είναι πάνα βολικό, ειδικά όαν ο αρχικό δυναό πεδίο είναι ευρύ, και η ανάλυση που απαιείαι είναι πολύ μεγάλη. Σε αυές ις περιπώσεις, οι αλγόριθμοι που μπορούν να χειρισούν συνεχείς μεαβληές συνήθως εκελούναι καλύερα. Αυό ο κεφάλαιο παρουσιάζει ένα ρόπο για να εφαρμοσεί αποελεσμαικά ο ACO - ένας αλγόριθμος αρχικά ανεπυγμένος για να ανιμεωπίσει α COPs σε συνεχή προβλήμαα βελισοποίησης. Από ην αρχη ου ACO ως εργαλείο συνδυασικής βελισοποίησης, οι ερευνηές προσπάθησαν να ον χρησιμοποιήσουν επίσης για ην ανιμεώπιση συνεχών προβλημάων. Παρόλα αυά, η εφαρμογή ου μεαευρισικού μηχανισμού ου ACO σε συνεχή χωρία δεν ήαν προφανής. Οι διαφορεικές μέθοδοι που προάθηκαν συχνά παρέκλιναν από η αρχική υποποίηση ου ACO. Εδώ παρουσιάζεαι ένας ρόπος να εκείνουμε ον ACO σε συνεχή χωρία χωρίς να χρειασεί να κάνουμε καμία κρίσιμη αλλαγή ση δομή ου. Για να ο δηλωσουμε αυό, δηλώνουμε όι ο ACO επεκάθηκε σε συνεχή χωρία από ον ACO. Σοχος ειναι η παρουσίαση ης βασικής ιδέας ης εφαρμογής ου ACO σε συνεχή χωρία όπως επίσης μία υλοποίηση ου που εκελείαι καλά σε προβλήμαα δοκιμασίας επιδόσεων. Για να έχουμε μία καλη ανίληψη ης απόδοσης ου ACO, ον συγκρίνουμε όχι μόνο με άλλες σχεικες με μυρμηγκια μεθόδους, αλλά επίσης και με άλλες μεαευρισικές που χρησιμοποιήθηκαν για συνεχή βελισοποίηση. 2. Ο Αλγόριθμος Η κυρια ιδέα σο ρόπο με ον οποίο δουλεύει ο ACO είναι η αυξηική καασκευή ων λύσεων βασισμένη σην μεροληπική πιθανοθεωρηική επιλογή ων συνισωσών ων λύσεων. Σον ACO που εφαρμόσηκε σε προβλήμαα συνδυασικής βελισοποίησης, ο σύνολο ων διαθέσιμων συνισωσών λύσης ορίσηκε από η υποποίηση ου προβλήμαος. Σε κάθε καασκευασικό βήμα, α μυρμήγκια κάνουν μία πιθανοθεωρηική επιλογή ης συνισώσας λύσης από ο σύνολο Ν(s ) ων διαθέσιμων συνισωσών σύμφωνα με ην εξίσωση.2. Οι c i πιθανόηες που συνδέοναι με α σοιχεία ου συνόλου Ν(s ) κάνουν μία διακριή καανομή πιθανόηας (Εικόνα 2.a) απ όπου ένα μυρμήγκι δειγμαίζει για να επιλέξει μία συνισώσα που θα προσεθεί σην ρέχουσα μερική λύση s. Η θεμελιώδης ιδέα που διέπει ον ACO είναι η αλλαγή από η χρήση διακριής καανομής πιθανόηας ση χρήση μίας συνεχούς, που είναι, μία συνάρηση πυκνόηας πιθανόηας (PDF) (Εικόνα 2.b). Σον ACO, ανί να επιλέξουμε μία συνισώσα c N(s ) σύμφωνα με ην Εξίσωση.2, ένα μυρμήγκι δειγμαίζει απο μία συνάρηση πυκνόηας πιθανόηας i Αλγόριθμοι Αποικίας Μυρμηγκιών 7

18 Εικόνα 2.: (a) Διακριή καανομή πιθανόηας P(c s ) ενός πεπερασμένου συνόλου {c i,..., c i} N(s ) P(x s c )με πιθανό εύρος d i διαθέσιμων συνισωσών. (b) Συνεχή συνάρηση πυκνόηας πιθανόηας x [x,x ]. Ο y άξονας και σις δύο γραφικές παρασάσεις δείχνει max η πιθανόηα.. Η ACO μεαευρισική βρίσκει προσεγγισικές λύσεις σε ένα πρόβλημα βελισοποίησης επαναλαμβάνονας α ακόλουθα δύο βήμαα:. Οι υποψήφιες λύσεις καασκευάσηκαν με ένα πιθανοθεωρηικό ρόπο χρησιμοποιώνας μία καανομή πιθανόηας πάνω σο χώρο αναζήησης 2. Οι υποψήφιες λύσεις χρησιμοποιουναι για η ροποποίηση ης καανομής πιθανόηας με ένα ρόπο που μεροληπει ση μελλονική δειγμαοληψία ένανι ων υψηλής ποιόηας λύσεων. Οι ACO αλγόριθμοι για προβλήμαα συνδυασικής βελισοποίησης κάνουν χρήση ενός μονέλου φερομόνης για να καασκευάσουν πιθανοθεωρηικά λύσεις. Ένα μονέλο φερομόνης είναι ένα σύνολο από ις ονομαζόμενες παραμέρους ίχνους φερομόνης. Οι αριθμηικές ιμές αυών ων παραμέρων ιχνών φερομόνης (που είναι, οι ιμές ης φερομόνης) ανανακλούν ην εμπειρία αναζήησης ου αλγορίθμου. Χρησιμοποιούναι για να προκααλάβουν η καασκευή ης λύσης ση διάρκεια ου χρόνου ένανι ων χωρίων ου χώρου αναζήησης που περιέχουν υψηλής ποιόηας λύσεις. Σα ACO συνδυασικά προβλήμαα, οι ιμές ης φερομόνης συνδέθηκαν με ένα πεπερασμένο σύνολο από διακριές ιμές που σχείζοναι με ις αποφάσεις που κάνουν α μυρμήγκια. Αυό επιρέπει να αναπαρισώναι οι ιμές ης φερομόνης ση μορφή ου πίνακα φερομόνης. Αυό δεν είναι δυναό ση συνεχή περίπωση, αφού ο αριθμός ων δυναών ιμών δεν είναι πεπερασμένος. Γι'αυό ο λόγο, ο ACO χρησιμοποιεί ένα αρχείο λύσης ως ρόπο περιγραφής ης καανομής φερομόνης πάνω σο χώρο αναζήησης. Το αρχείο λυσης περιέχει ένα αριθμό από πλήρεις λύσεις σο πρόβλημα. Ενώ ο μονέλο φερομόνης σε συνδυασική βελισοποίηση μπορεί να ιδωθεί ως μία έμμεση (imlicit) μνήμη ου ισορικού αναζήησης, ένα αρχείο λύσης είναι μία άμμεση μνήμη. Η βασική ροή ου ACO αλγορίθμου είναι ως εξής. Ως πρώο βήμα, ο αρχείο λύσης παίρνει αρχικές ιμές. Τόε, σε κάθε επανάληψη, ένας αριθμός από λύσεις καασκευάζεαι πιθανοθεωρηικά από α μυρμήγκια. Αυές οι λύσεις ενδέχεαι να βελιωθούν από ένα μηχανισμό βελίωσης (για παράδειγμα, οπική αναζήηση). Τελικά, ο αρχείο λύσης ενημερώνεαι με ις παραγόμενες λύσεις. Ακολούθως περιγράφουμε ις συνισώσες ου ACO με λεπομέρειες. 2.. Δομή Αρχείου, αρχικοποίηση, και ενημέρωση Ο ACO κραάει ισορικό ης διαδικασίας αναζήησης αποθηκεύονας λύσεις σε ένα αρχείο λύσης Τ διάσασης Τ =. Δοθένος ενός n-διάσαου συνεχούς προβλήμαος βελισοποίησης και λύσεων, ο ACO αποθηκεύει σο T ις ιμές ων λύσεων ων n μεαβληών και η ιμή ων ανικειμενικών συναρήσεων. Η ιμή ης i-οσής μεαβληής ης -οσής λύσης ακολούθως i δηλώνεαι ως. Η εικόνα 2.2 δείχνει η δομή ου αρχείου λύσης. s Αλγόριθμοι Αποικίας Μυρμηγκιών 8

19 Εικόνα 2.2: Η δομή ου αρχείου λύσης. Οι λύσεις σο αρχείο αξινομήθηκαν σύμφωνα με η ποιόηα ους (δηλαδή, η ιμή ης ανικειμενικής συνάρησης f(s)), γι'αυό ο λόγο η θέση μίας λύσης σο αρχείο πάνα ανισοιχεί ση άξη ης. Πριν από ο ξεκίνημα ου αλγορίθμου, ο αρχείο αρχικοποιείαι με υχαίες λύσεις. Σε κάθε αλγοριθμική επανάληψη, πρώα, ένα σύνολο από m λύσεις παράγεαι από α μυρμήγκια και προσίθεαι σε εκείνες ου T. Από αυό ο σύνολο ων +m λύσεων, οι m χειρόερες αφαιρούναι. Οι υπόλοιπες λύσεις αξινομούναι σύμφωνα με η ποιόηα ους (δηλαδή, η ιμή ης ανικειμενικής συνάρησης) και αξινομήθηκαν σο νέο T. Με αυό ο ρόπο, η διαδικασία αναζήησης ειναι προκαειλήμενη ένανι ων καλύερων λύσεων που βρέθηκαν καά η διάρκεια ης αναζήησης. Οι λύσεις σο αρχείο πάνα διαηρούναι αξινομημένες ως προς ην ποιόηα ους (δηλαδή, ις ιμές ης ανικειμενικής συνάρησης), έσι ώσε η καλύερη λύση να είναι ση κορυφή Πιθανοθεωρηική καασκευή λύσης Η καασκευή ων νέων λύσεων από α μυρμήγκια πραγμαοποιείαι με έναν αυξηικό ρόπο, μεαβληή προς μεαβληή. Πρώα, ένα μυρμήγκι επιλέγει πιθανοθεωρηικά μία από ις λύσεις σο αρχείο. Η πιθανόηα επιλογής ης λύσης δίνεαι από: ω =, (2.) ωr όπου ω r= είναι ο βάρος συνδεμένο με η λύση. Το βάρος ενδέχεαι να υπολογίσηκε χρησιμοποιώνας διάφορους ύπους ανάλογα με ο πρόβλημα που ανιμεωπίζουμε. Ση συνέχεια εδώ χρησιμοποιούμε ην Γκαουσιαννή συνάρηση g(μ, σ)=g(, q): 2 ( ) 2 2 2q ω= e, (2.2) q 2π όπου q είναι μία παράμερος ου αλγορίθμου και είναι ο μεγεθος ου αρχείου. Ο μέσος ης Γκαουσιαννής συνάρησης ορίσηκε σε, έσι ώσε η καλύερη λύση να έχει ο μεγαλύερο βάρος. Η επιλογή ης Γκαουσσιανής συνάρησης παρακινήθηκε από ην ευελιξία ης και α μη γραμμικόηα ης. Χάρη ση μη γραμμικόηα ης, επιρέπει έναν ευέλικο έλεγχο πάνω σα βάρη. Είναι δυναό να δώσουμε μεγαλύερη πιθανόηα σε μερικές ηγεικές λύσεις, μειώνονας σημανικά η πιθανόηα ων υπολοίπων. Τα μυρμήγκια ανιμεωπίζουν κάθε μεαβληή i=,...,n ου προβλήμαος ξεχωρισά. Παίρνει η ιμή s i ης μεαβληής i ης επιλεγμένης οσής λύσης και δειγμαίζει ση γειονία ης. Αυό γίνεαι χρησιμοποιώνας μία συνάρηση πυκνόηας πιθανόηας (PDF). Ξανά, όπως ση περίπωση επιλογής βαρών, πολλές διαφορεικές συναρήσεις ενδέχεαι να χρησιμοποιηθούν. Μία PDF P(x) πρέπει παρόλα αυά να ικανοποιεί η συνθήκη: P(x)dx = (2.3) Αλγόριθμοι Αποικίας Μυρμηγκιών 9

20 Εδώ, όπως και σε αλλες παρουσιάσεις ου ACO [Socha και Dorigo, 28], χρησιμοποιειαι ως PDF η Γκαουσσιανή συνάρηση: 2 (x μ) 2 2σ P(x) = g(x, μ, σ ) = e. (2.4) σ 2 π Η συνάρηση έχει δύο παραμέρους που πρέπει να ορισούν: μ, και σ. Όαν λαμβάνουμε i υπόψη η μεαβληή i ης λύσης, ανισοιχίζουμε μ. Ακόμη, ανισοιχίζουμε ο σ: i i sr s σ ξ. (2.5) r= που είναι η μέση απόσαση μεαξύ ης i οσής μεαβληής ης λύσης s και ων i οσών μεαβληών ων άλλων λύσεων σο αρχείο, πολλαπλασιασμένο με μία παράμερο ξ. Η παράμερος ξ έχει μία επίδραση όμοια με εκείνη ους ρυθμού εξάμισης φερομόνης σον ACO. Όσο μεγαλύερη είναι η ιμή ου ξ, όσο μικρόερη είναι η αχύηα σύγκλισης ου αλγορίθμου. Ενώ ο ρυθμός εξάμισης ης φερομόνης σον ACO επιδρά ση μακροχρόνια μνήμη -δηλαδή οι χειρόερες λύσεις ξεχνιούναι γρηγορόερα-ο ξ σον ACO επιδρά σο ρόπο όπου χρησιμοποιείαι η μακροχρόνια μνήμη - δηλαδή, οι νέες λύσεις θεωρήθηκαν πιο κονά σε γνωσές καλές λύσεις. Όλη αυή η διαδικασία επαναλαμβάνεαι για κάθε διάσαση i=,...,n με η σειρά ου κάθε ενός από α m μυρμήγκια. s 2.2 Τοποθέηση ου ACO Ο ACO είναι μέρος μίας σχεικά μεγάλης οικογένειας από αλγορίθμους για συνεχή βελισοποίηση. Σε αυό ο μήμα, δίνουμε μία σύνομη περίληψη και συζηάμε, πώς ο ACO μπορεί να οποθεηθεί σε σχέση με ους άλλους. Για συνεχή προβλήμαα βελισοποίησης, ένα πλήθος από μεθόδους έχει προαθεί ση βιβλιογραφία. Αυές περιέχουν μερικές σχεικές με μυρμηγια μεθόδους [Βilchev και Parmee, 995 Monmarche και άλλοι, 2 Dréo και Siarry, 22], καθώς και μερικές πιο γενικες εμπνευσμένες απο η μέθοδο ων σμηνών όπως η Βελισοποίηση Σμήνους Σωμαιδίων [Kennedy και Eberhart, 995]. Υπάρχουν επίσης πολλές άλλες μεαευρισικές που αναπύχθηκαν αρχικά για συνδυασική βελισοποίηση και αργόερα υιοθεήθηκαν ση συνεχή περίπωση. Επιπλέον, υπάρχουν και άλλες μέθοδοι που-όμοια με ον ACO-αμμεσα χρησιμοποιούν κάποια έννοια εκίμησης καανομής πιθανόηας. Πολλοι από αυούς ους αλγορίθμους αναπαράχθηκαν από η γενική κλάση ων Εξελικικών Αλγορίθμων (EAs). Τα παραδείγμαα περιλαμβάνουν Εξελικικές Σραηγικές (ES) [Schwefel, 98 Ostermeier και άλλοι, 994 Hansen και Ostermeier, 2], Επαναληπικό Αλγόριθμο Εκίμησης Πυκνόηας (IDEA) [Bosman και Thierens, 2], ή ο Μικό Αλγόριθμο Μπαεσιανής Βελισοποίησης (MBOA) [Ocenase και Schwarz, 22]. Μερικές από αυές, όμοια με ον ACO, χρησιμοποιήθηκαν αρχικά για συνδυασική βελισοποίηση, και μόνο αργόερα υιοθεήθηκαν για να ανιμεωπίζουν συνεχή χωρία. Επισης με όλους ους αλγόριθμους που αναφέρθηκαν μέχρι ώρα, υπάρχουν και πολλοί αλγόριθμοι για συνεχή βελισοποίηση βασισμένοι ση κλίση. Είναι γρήγοροι, αλλά έχουν κάποιες αναγκαίες προϋποθέσεις. Είναι ικανοί να βρουν γρήγορα ένα οπικό ελάχισο, αλλά απαιούν η συνάρηση βελιωσης να είναι συνεχής και διαφορίσιμη. Παραδείγμαα έοιων αλγορίθμων περιλαμβανουν η μεθόδου ου Newton [Ralston και Rabinowitz, 978], ή ον αλγόριθμος οπισθοδιάδοσης [Rumelhart και άλλοι, 986] που χρησιμοποιήθηκαν για ην εκπαίδευση εχνηών νευρωνικών δικύων. Η χρησιμόηα ων βασισμένων ση κλίση αλγορίθμων είναι περιορισμένη εξαιίας ων αναγκαίων προϋποθέσεων που αναφέρθηκαν παραπάνω. Ο ACO καθώς και όλοι οι άλλοι αλγόριθμοι για συνεχή βελισοποίηση που αναφέρθηκαν, δεν έχουν έοιους περιορισμούς, πράγμα ο οποίο ους κάνει πιο γενικούς. Αλγόριθμοι Αποικίας Μυρμηγκιών 2

21 Τελευαίες, αλλά όχι λιγόερο σημανικες, υπάρχουν άμεσες μέθοδοι αναζήησης, όπως είναι η μέθοδος simlex, [Nelder και Mead, 965], ή η μέθοδος ου Powell [Powell, 964]. Είναι γρήγορες και αποελεσμαικές σις περισσόερες περιπώσεις, αλλά επιρέπουν να βρουν μόνο ο κονινόερο οπικό βέλισο. Είναι παρόλα αυά ενδιαφέρουσες ως μια μέθοδος συμπληρωμαική σον ACO ή άλλες μεαευρισικές. Δηλαδή, ενδέχεαι να χρησιμοποιήθηκαν ως ρουίνες οπικής αναζήησης για ις μεαευρισικές Ο ACO και Άλλοι Swarm-Based Αλγόριθμοι Ο κύριος ύπος ων βασισμένων σε σμηνη αλγορίθμων που θα να αναφερουμε σε αυό ο μήμα, είναι οι σχεικοι με μυρμηγκια αλγόριθμοι. Ένας αλγόριθμος βασισμένος σα σμηνη που δεν είναι σχεισμένος με μυρμηγκια θα αναφερθεί σο έλος ους μήμαος. Υπήρξαν προηγούμενες προσπάθειες εφαρμογής σχεικών με μυρμηγκια αλγορίθμων σε συνεχή χωρία. Κάποιες προσπάθειες, ήαν περισσόερο επιυχείς από κάποιες άλλες, αλλά καμία από αυές δεν ήαν μία επέκαση ου ACO σε ένα συνεχές χωρίο. Ανιθέως, ήαν νέοι αλγόριθμοι που επίσης άνλησαν ην αρχική ους έμπνευση από η συμπεριφορά ων μυρμηγκιών. Σις παρακαω παραγράφους, παρουσιάζουμε σύνομα αυούς ους αλγορίθμους και δείχνουμε πώς διαφέρουν από ον ACO. Μία από ις πρώες προσπάθειες να εφαρμοσεί ένας σχεισμένος με μυρμηγκια αλγόριθμος σε συνεχή προβλήμαα βελισοποίησης ήαν ο Συνεχής ΑCO (CACO) [Bilchev και Parmee, 995]. Σον CACO ο μυρμήγκι αρχίζει από ένα σημείο, που ονομάσηκε φωλιά, οποθεημένο κάπου σο χώρο αναζήησης. Οι καλές λύσεις που βρέθηκαν αποθηκεύθηκαν ως ένα σύνολο από διανύσμαα, προερχόμενα απο η φωλιά. Τα μυρμήγκια σε κάθε επανάληψη ου αλγορίθμου επιλέγουν πιθανοθεωρηικά ένα από α διανύσμαα. Τόε συνεχίζουν ην αναζήηση από ο ελικό σημείο ου επιλεγμένου διανύσμαος κάνονας κάποιες υχαίες κινήσεις από εκεί. Τα διανύσμαα ενημερώνοναι με α καλύερα αποελέσμαα που βρέθηκαν. Αν και οι συγγραφείς ου CACO ισχυρίζοναι όι άνλησαν έμπνευση από η πρωόυπη υποποίηση ου ACO, υπάρχουν σημανικές διαφορές. Εκείνοι εισάγουν ην έννοια ης φωλιάς, η οποία δεν υπάρχει σον μεαευρισικό ACO. Επίσης, ο CACO δεν εκελεί μία αυξηική καασκευή λύσεων, που είναι ένα από α κύρια χαρακηρισικά ου ACO μεαευρισικού. O CACO ως εκ ούου δεν πληρει ις προϋποθέσεις για να είναι μία επέκαση ου ACO. Μία άλλη βασισμένη σα μυρμηγκια προσέγγιση ση συνεχή βελισοποίηση είναι ο αλγόριθμος API [Monmarché και άλλοι, 2]. Ο API δεν ισχυρίζεαι όι είναι βασισμένος σον ACO μεαευρισικό. Τα μυρμήγκια εκελούν ην αναζήηση ους ανεξάρηα αλλά ξεκινώνας από ην ίδια φωλιά (η φωλιά μεακινείαι περιοδικα). Τα μυρμήγκια χρησιμοποιούν μόνο παράλληλο ρέξιμο, ένα είδος σραηγικής σραολόγησης. Είναι ο μόνος γνωσός αλγόριθμος μεαξύ ων σχεικών με μυρμηγκια αλγορίθμων που εκδόθηκαν μέχρι ώρα και επιρέπουν ην ανιμεώπιση διακριών και συνεχών προβλημάων βελισοποίησης. Η ρίη βασισμένη σα μυρμηγκια προσέγγιση σε συνεχή βελισοποίηση είναι η Συνεχως Αλληλεπιδρούσα Αποικία Μυρμηγκιων (CIAC) [Dréo και Siarry, 22]. Ο CIAC χρησιμοποιεί δύο είδη επικοινωνίας μεαξύ ων μυρμηγκιών: σιγμεργική πληροφορία (σημεία φερομόνης που οποθεήθηκαν σο χώρο αναζήησης) και άμεση επικοινωνία μεαξύ ων μυρμηγκιών. Τα μυρμήγκια κινούναι μέσω ου χώρου αναζήησης ελκυόμενα από η φερομόνη που είναι απλωμένη σε διάφορα σημεία, και καευθύνοναι από κάποια άμεση πληροφορία μεαξύ ων μυρμηγκιών. Αν και επίσης ο CIAC ισχυρίζεαι όι ανλεί ην πρωόυπη ου έμπνευση από ον ACO, οι διαφορές είναι πολλές: υπάρχει μία απευθείας επικοινωνία μεαξύ ων μυρμηγκιών και μη αυξηική καασκευή ων λύσεων. Όπως και ο CACO, εσι και ο CIAC δεν πισοποιείαι ως μία επέκαση ου ACO. Τελικά, όπως αναφέρθηκε σην αρχή ου μήμαος, υπάρχει ένας γνωσός βασισμένος σα σμηνη αλγόριθμος για συνεχή βελισοποίηση που δεν είναι σχεισμένος με α μυρμηγκια. Ονομάζεαι Βελισοποίηση Σωμαιδίου Σμήνους (PSO) [Kennedy και Eberhart, 995]. Ο PSO δουλεύει με ένα πληθυσμό από σωμαίδια. Αυά α σωμαίδια κινούναι σο χώρο αναζήησης με μία συγκεκριμένη αχύηα. Η ιμή και η καεύθυνση ου διανύσμαος αχύηας αλλάζουν σύμφωνα με ους προσελκυές ου χώρου αναζήησης. Κάθε σωμαίδιο ανιδρά σε δύο Αλγόριθμοι Αποικίας Μυρμηγκιών 2