Differential Evolution (Storn & Price 1995) Μπορεί να θεωρηθεί ως παραλλαγή των ΓΑ. Εφαρμόζεται μόνο σε προβλήματα συνεχών παραμέτρων και όχι

Σχετικά έγγραφα
Τυπικά θέματα εξετάσεων. ΠΡΟΣΟΧΗ: Οι ερωτήσεις που παρατίθενται ΔΕΝ καλύπτουν την πλήρη ύλη του μαθήματος και παρέχονται απλά ενδεικτικά

ΑΤΕΙ ΣΕΡΡΩΝ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ ΚΑΙ ΕΠΙΚΟΙΝΩΝΙΩΝ ΠΤΥΧΙΑΚΗ ΕΡΓΑΣΙΑ:

Οι Εξελικτικοί Αλγόριθμοι (ΕΑ) είναι καθολικοί στοχαστικοί αλγόριθμοι βελτιστοποίησης, εμπνευσμένοι από τις βασικές αρχές της φυσικής εξέλιξης.

Εθνικό Μετσόβιο Πολυτεχνείο Τομέας Υδατικών Πόρων και Περιβάλλοντος. Διαχείριση Υδατικών Πόρων

Κεφάλαιο 7. Γενετικοί Αλγόριθµοι. Τεχνητή Νοηµοσύνη - Β' Έκδοση Ι. Βλαχάβας, Π. Κεφαλάς, Ν. Βασιλειάδης, Φ. Κόκκορας, Η.

Τεχνητή Νοημοσύνη (ΥΠ23) 6 ο εξάμηνο Τμήμα Πληροφορικής και Τηλεματικής Χαροκόπειο Πανεπιστήμιο Ουρανία Χατζή

Γενετικοί Αλγόριθμοι (ΓΑ) Genetic Algorithms (GAs) Είναι το πιο αντιπροσωπευτικό και δημοφιλές είδος Εξελικτικού Αλγόριθμου Χρησιμοποιούνται κυρίως

Μία μέθοδος προσομοίωσης ψηφιακών κυκλωμάτων Εξελικτικής Υπολογιστικής

4 η ΕΝΟΤΗΤΑ ΜΕΤΑΕΥΡΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ ΕΠΙΛΥΣΗΣ ΠΡΟΒΛΗΜΑΤΩΝ ΕΝΟΣ ΚΡΙΤΗΡΙΟΥ

Τεχνολογία Συστημάτων Υδατικών Πόρων

Πανεπιστήμιο Πειραιώς Τμήμα Πληροφορικής

Γενετικοί Αλγόριθμοι. Εισαγωγή

Οι τεχνικές της σύγχρονης επιστήμης μιμούνται και τις δύο αυτές μηχανές :

Νευρωνικά ίκτυα και Εξελικτικός. Σηµερινό Μάθηµα. επανάληψη Γενετικών Αλγορίθµων 1 η εργασία Επανάληψη νευρωνικών δικτύων Ασκήσεις εφαρµογές

ΕΡΩΤΗΜΑΤΑ σε ΓΕΝΕΤΙΚΟΥΣ

ΤΜΗΜΑ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ

Ε ανάληψη. Α ληροφόρητη αναζήτηση

Συστήματα Επιχειρηματικής Ευφυίας

Υπολογιστική Νοηµοσύνη

Εθνικό Μετσόβιο Πολυτεχνείο Τομέας Υδατικών Πόρων και Περιβάλλοντος. Διαχείριση Υδατικών Πόρων

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

Εθνικό Μετσόβιο Πολυτεχνείο Τομέας Υδατικών Πόρων και Περιβάλλοντος. Τεχνολογία Συστημάτων Υδατικών Πόρων

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

Θεµελίωση Γενετικών Αλγορίθµων

Τεχνητή Νοημοσύνη. 5η διάλεξη ( ) Ίων Ανδρουτσόπουλος.

Βασίλειος Μαχαιράς Πολιτικός Μηχανικός Ph.D.

Μη Συµβολικές Μέθοδοι

ΣΧΕΔΙΑΣΗ ΕΠΙΠΕΔΩΝ ΣΤΟΙΧΕΙΟΚΕΡΑΙΩΝ ΜΕ ΧΡΗΣΗ ΕΞΕΛΙΚΤΙΚΩΝ ΑΛΓΟΡΙΘΜΩΝ

Ποσοτικές Μέθοδοι στη Διοίκηση Επιχειρήσεων ΙΙ Σύνολο- Περιεχόμενο Μαθήματος

Μοντέλο Perceptron πολλών στρωμάτων Multi Layer Perceptron (MLP)

Υφαλμύρινση Παράκτιων Υδροφορέων - προσδιορισμός και αντιμετώπιση του φαινομένου με συνδυασμό μοντέλων προσομοίωσης και μεθόδων βελτιστοποίησης

ΕΞΕΛΙΚΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ: θεωρητικό Πλαίσιο

Γενετικές Μέθοδοι Βελτιστοποίησης Ερωτηµάτων σε Βάσεις εδοµένων

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

Γενετικοί αλγόριθµοι - ΓΑ Genetic algorithms - GA

ΣΧΕΔΙΑΣΜΟΣ ΚΙΝΗΣΗΣ ΚΑΙ ΧΡΟΝΟΠΡΟΓΡΑΜΜΑΤΙΣΜΟΣ ΕΡΓΑΣΙΩΝ ΣΕ ΒΙΟΜΗΧΑΝΙΚΑ ΠΕΡΙΒΑΛΛΟΝΤΑ

Αναγνώριση Προτύπων Ι

Γενετικός Προγραμματισμός

Το μοντέλο Perceptron

ΔΙΑΧΕΙΡΙΣΗ ΥΔΑΤΙΚΩΝ ΠΟΡΩΝ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ ΓΙΑ ΤΟ ΜΕΤΑΠΥΧΙΑΚΟ ΠΡΟΓΡΑΜΜΑ Ε. Τ. Υ.

Ασκήσεις Φροντιστηρίου «Υπολογιστική Νοημοσύνη Ι» 5 o Φροντιστήριο

ΤΙΤΛΟΣ ΑΝΑΦΟΡΑΣ: ΕΦΑΡΜΟΓΗ ΚΑΙ ΑΠΟΤΕΛΕΣΜΑΤΑ ΣΕ ΕΠΙΛΕΓΜΕΝΕΣ ΠΕΡΙΤΠΩΣΕΙΣ

Συστήματα Επιχειρηματικής Ευφυίας. Οι αλγόριθμοι Hill Climbing, Simulated Annealing, Great Deluge, VNS, Tabu Search

ΓΛΩΣΣΙΚΗ ΤΕΧΝΟΛΟΓΙΑ. Μάθημα 2 ο : Βασικές έννοιες. Γεώργιος Πετάσης. Ακαδημαϊκό Έτος:

ΠΕΡΙΓΡΑΜΜΑ ΜΑΘΗΜΑΤΟΣ

Τεχνητή Νοημοσύνη. TMHMA ΠΛΗΡΟΦΟΡΙΚΗΣ & ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ. Εξάμηνο 5ο Οικονόμου Παναγιώτης & Ελπινίκη Παπαγεωργίου. Νευρωνικά Δίκτυα.

Λελούδας Παναγιώτης. Επιβλέπων Καθηγητής: Σπυρίδων Λυκοθανάσης. Τμήμα Μηχανικών Η/Υ και Πληροφορικής. Πανεπιστήμιο Πατρών

ΕΘΝΙΚΟ ΜΕΤΣΟΒΙΟ ΠΟΛΥΤΕΧΝΕΙΟ ΣΧΟΛΗ ΜΗΧΑΝΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΤΟΜΕΑΣ ΡΕΥΣΤΩΝ ΕΡΓΑΣΤΗΡΙΟ ΘΕΡΜΙΚΩΝ ΣΤΡΟΒΙΛΟΜΗΧΑΝΩΝ

Τεχνητά Νευρωνικά Δίκτυα. Τσιριγώτης Γεώργιος Τμήμα Μηχανικών Πληροφορικής ΤΕΙ Ανατολικής Μακεδονίας & Θράκης

Εισαγωγή στους Γενετικούς Αλγορίθμους

Το Πολυεπίπεδο Perceptron. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

Άδειες Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες χρήσης Creative Commons. Για εκπαιδευτικό υλικό, όπως εικόνες, που υπόκειται σε άλλου τύ

Δρ. Βασίλειος Γ. Καμπουρλάζος Δρ. Ανέστης Γ. Χατζημιχαηλίδης

Η Μηχανική Μάθηση στο Σχολείο: Μια Προσέγγιση για την Εισαγωγή της Ενισχυτικής Μάθησης στην Τάξη

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

ΚΕΦΑΛΑΙΟ Μηχανική Μάθηση

οµηµένος Εξελικτικός Αλγόριθµος

Ειδικά θέματα Αλγορίθμων και Δομών Δεδομένων (ΠΛΕ073) Απαντήσεις 1 ου Σετ Ασκήσεων

Θεωρία Πληροφορίας. Διάλεξη 4: Διακριτή πηγή πληροφορίας χωρίς μνήμη. Δρ. Μιχάλης Παρασκευάς Επίκουρος Καθηγητής

Εισαγωγικά για την αναγνώριση έκφρασης προσώπου (Facial Expression Recognition)

Βελτίωση Φυτών. Βελτίωση Σταυρογονιμοποιούμενων φυτών. Είδη ποικιλιών

PROJECT ΣΤΟ ΜΑΘΗΜΑ "ΕΙΣΑΓΩΓΗ ΣΤΙΣ ΕΥΡΕΤΙΚΕΣ ΜΕΘΟΔΟΥΣ"

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕΔΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ

Τηλεπικοινωνιακά Συστήματα ΙΙ

ΑΣΚΗΣΗ 10 ΣΧΕΔΙΑΣΗ ΑΚΟΛΟΥΘΙΑΚΩΝ ΚΥΚΛΩΜΑΤΩΝ

Μελέτη εξελικτικών αλγορίθμων εκπαίδευσης για Ασαφή Γνωστικά Δίκτυα ΚΑΡΝΑΒΑΣ ΔΗΜΗΤΡΙΟΣ Α.Μ 104

Υπολογιστική Νοημοσύνη

Εισαγωγή στην υδροπληροφορική και βελτιστοποίηση συστημάτων υδατικών πόρων

Περιεχόμενα ΜΤ Τυχαίας Προσπέλασης Θεωρία Υπολογισμού Ενότητα 23: Μηχανές Turing Τυχαίας Προσπέλασης Επ. Καθ. Π. Κατσαρός Τμήμα Πληροφορικής Επ. Καθ.

Δομές Δεδομένων και Αλγόριθμοι. Λουκάς Γεωργιάδης

Διπλωµατική Εργασία του φοιτητή του Τµήµατος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών της Πολυτεχνικής Σχολής του Πανεπιστηµίου Πατρών

ΕΠΙΛΥΣΗ ΤΟΥ ΠΡΟΒΛΗΜΑΤΟΣ ΧΩΡΟΘΕΤΗΣΗΣ ΕΓΚΑΤΑΣΤΑΣΕΩΝ ΚΑΙ ΔΡΟΜΟΛΟΓΗΣΗΣ ΟΧΗΜΑΤΩΝ ΜΕ ΤΗ ΧΡΗΣΗ ΜΙΜΗΤΙΚΩΝ ΑΛΓΟΡΙΘΜΩΝ

Συνδυαστικά Κυκλώματα

Εισαγωγή στους Νευρώνες. Κυριακίδης Ιωάννης 2013

Τυχαία μεταβλητή (τ.μ.)

PROJECT ΣΤΟ ΜΑΘΗΜΑ ΕΙΣΑΓΩΓΗ ΣΤΙΣ ΕΥΡΕΤΙΚΕΣ ΜΕΘΟ ΟΥΣ

ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ

Εισαγωγή στην υδροπληροφορική και βελτιστοποίηση συστημάτων υδατικών πόρων

Διερεύνηση μεθόδων αναζήτησης ολικού βελτίστου σε προβλήματα υδατικών πόρων

ΚΕΦΑΛΑΙΟ 10 ΥΠΟΠΡΟΓΡΑΜΜΑΤΑ

Σέργιος Θεοδωρίδης Κωνσταντίνος Κουτρούμπας. Version 2

Δυναμικός Κατακερματισμός. Βάσεις Δεδομένων Ευαγγελία Πιτουρά 1

i=1 f i = F i SF [0, f 1 ), [f 1, f 1 + f 2 ), [f 1 + f 2, f 1 + f 2 + f 3 ),..., [f 1 + f f P 1, 1) i 1

ΕΞΕΤΑΖΟΜΕΝΟ ΜΑΘΗΜΑ : ΑΝΑΠΤΥΞΗ ΕΦΑΡΜΟΓΩΝ ΣΕ ΠΡΟΓΡΑΜΜΑΤΙΣΤΙΚΟ ΠΕΡΙΒΑΛΛΟΝ ΤΑΞΗ : Γ ΛΥΚΕΙΟΥ ΣΠΟΥΔΕΣ ΟΙΚΟΝΟΜΙΑΣ & ΠΛΗΡΟΦΟΡΙΚΗΣ

Αριθμητική Ανάλυση και Εφαρμογές

4.3. Γραµµικοί ταξινοµητές

ΕΥΦΥΗΣ ΕΛΕΓΧΟΣ. Ενότητα #8: Βελτιστοποίηση Συστημάτων Ασαφούς Λογικής. Αναστάσιος Ντούνης Τμήμα Μηχανικών Αυτοματισμού Τ.Ε.

Κεφάλαιο 2.3: Προγραμματισμός. Επιστήμη ΗΥ Κεφ. 2.3 Καραμαούνας Πολύκαρπος

ΑΝΤΑΓΩΝΙΣΤΙΚΗ ΜΑΘΗΣΗ ΔΙΚΤΥA LVQ και SOM. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

Σ ΤΑΤ Ι Σ Τ Ι Κ Η ΤΜΗΜΑ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ

Εισαγωγή στα Τεχνητά Νευρωνικά Δίκτυα. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

ΑΝΑΠΤΥΞΗ ΕΦΑΡΜΟΓΩΝ ΣΕ ΠΡΟΓΡΑΜΜΑΤΙΣΤΙΚΟ ΠΕΡΙΒΑΛΛΟΝ ΜΑΡΙΑ Σ. ΖΙΩΓΑ ΚΑΘΗΓΗΤΡΙΑ ΠΛΗΡΟΦΟΡΙΚΗΣ ΕΙΣΑΓΩΓΗ ΣΤΟΝ ΠΡΟΓΡΑΜΜΑΤΙΣΜΟ

ΥΠΟΛΟΓΙΣΤΙΚΗ ΝΟΗΜΟΣΥΝΗ ΙΙ

ΓΕΝΕΤΙΚΗ ΒΕΛΤΙΩΣΗ. 3η ΙΑΛΕΞΗ ΠΑΡΑΛΛΑΚΤΙΚΟΤΗΤΑ ΚΑΙ ΓΕΝΕΤΙΚΟΣ ΑΝΑΣΥΝ ΥΑΣΜΟΣ

Γενικά Στοιχεία Ηλεκτρονικού Υπολογιστή

Φυσικοί πληθυσμοί: Επιλογή καθαρών σειρών Μαζική επιλογή

Πληθυσμιακή και Εξελικτική Γενετική

FORTRAN και Αντικειμενοστραφής Προγραμματισμός

Transcript:

Σπύρος Καζαρλής

Differential Evolution (Storn & Price 1995) Μπορεί να θεωρηθεί ως παραλλαγή των ΓΑ. Εφαρμόζεται μόνο σε προβλήματα συνεχών παραμέτρων και όχι συνδυαστικά. Χρησιμοποιεί πληθυσμό λύσεων που δεν είναι κωδικοποιημένες Ο αρχικός πληθυσμός παράγεται με ομοιόμορφη τυχαία κατανομή. Κάθε γονέας αξιολογείται με βάση την συνάρτηση ποιότητας. Υπάρχει βρόχος επανάληψης για όλους τους απογόνους. Δεν παράγεται γενιά απογόνων αλλά ο κάθε απόγονος αντικαθιστά ένα γονέα υπό προϋποθέσεις (Steady State Reproduction) Για κάθε γονέα x i, i=1..n, δημιουργείται μία νέα λύση v i, ως εξής : v i = x r1 +Α(x r2 -x r3 ) όπου τα x r1, x r2, x r3 είναι 3 διαφορετικές λύσεις-γονείς του πληθυσμού και διαφορετικές από το x i, και Α είναι ένας παράγοντας ενίσχυσης της διαφοράς των x r2 και x r3 που προστίθεται στο x r1.

Κατόπιν παράγεται μία ακόμα λύση η u i ως εξής: u i (j) = v i (j), x i (j), αν k j k+l διαφορετικά Που σημαίνει πρακτικά ότι για τον σχηματισμό του u i, λαμβάνονται ορισμένες μεταβλητές από το αρχικό x i, και ορισμένες από το v i, προσομοιάζοντας το Crossover 2 σημείων. Υπολογίζεται η ποιότητα του u i, F(u i ). Αν είναι καλύτερη από την ποιότητα της αρχικής λύσης x i, F(x i ), τότε το νέο u i αντικαθιστά το παλιό x i. Διαφορετικά το x i παραμένει στον πληθυσμό. Με άλλα λόγια παράγεται μία νέα λύση με διαδικασία παρόμοια με την μετάλλαξη των πραγματικών διανυσμάτων, όπου όμως το εύρος της μετάλλαξης σχετίζεται με την διασπορά του πληθυσμού (Μεγάλη διασπορά Μεγάλη μετάλλαξη). Εν συνεχεία γίνεται Ανασυνδυασμός με την αρχική λύση και η καλύτερη επιβιώνει (Hill Climbing).

Παραγωγή του ανύσματος v Ανασυνδυασμός και Παραγωγή του ανύσματος u

Μία δεύτερη παραλλαγή της ΔΕ παράγει το άνυσμα v ως εξής v i = x r1 + λ(x best -x i ) + Α(x r2 -x r3 ) όπου λ ένας ακόμα παράγοντας. Η παραλλαγή αυτή ενισχύει την ταχύτητα σύγκλισης, καθώς οδηγεί τις λύσεις πιο κοντά στην κάθε φορά βέλτιστη λύση. Αυτό ισχύει όμως για ομαλούς χώρους λύσεων, γιατί στους πιο δύσκολους χώρους η ταχύτητα σύγκλισης οδηγεί σε τοπικά ελάχιστα. Απλή μέθοδος, καλή απόδοση, γρήγορη σύγκλιση αλλά σε εύκολα σχετικά προβλήματα συνεχών παραμέτρων

GBML Genetics Based Machine Learning (Holland & Reitman 1978) Περιγράφει μία οικογένεια μεθόδων που συνδυάζουν εξελικτικές μεθόδους μαζί με άλλες τεχνικές μηχανικής μάθησης. Περιλαμβάνει τα : Evolving Ensembles, Evolving Neural Networks, Learning Classifier Systems, και Genetic Fuzzy Systems. Evolving Ensembles (επίσης ονομάζονται Multiple Classifier Systems ή Committee machines) χρησιμοποιούν έναν αριθμό από ταξινομητές (predictors/classifiers) που προέρχονται από διαφορετικές μεθόδους και συνδυάζονται ώστε να δίνουν την καλύτερη απόδοση, και χρησιμοποιούν εξελικτικές μεθόδους σε κάποιο στάδιο. Evolving Neural Networks (EANN): είναι μέθοδοι που συνδυάζουν Νευρωνικά Δίκτυα και Εξελικτικές Μεθόδους, είτε για εκπαίδευση, είτε για έυρεση της καλύτερης αρχιτεκτονικής. Genetic Fuzzy Systems: είναι συνδυασμοί των Fuzzy Systems και των Γενετικών Αλγορίθμων π.χ. για τον καθορισμό των βέλτιστων fuzzy sets ή του βέλτιστου σχήματος των συναρτήσεων συμμετοχής.

LCS: Συστήματα Εκμάθησης Κανόνων και Κατηγοριοποίησης. Αποτελούν Συστήματα Τεχνητής Ευφυίας που βασίζονται σε σύνολα κανόνων (if-then rules) τα οποία εκπαιδεύονται μέσω Γενετικών Αλγορίθμων ή γενικά Εξελικτικών Τεχνικών. Τα LCSs συστήματα έχουν την ικανότητα αξιολόγησης και εξέλιξης της γνώσης υπό την μορφή απλών κανόνων με την βοήθεια μεθόδων γενετικής εξέλιξης. Έχουν την ικανότητα εύρεσης λογικών κανόνων που περιγράφουν σύνθετα ή και ευφυή συστήματα. Τα LCS αποτελούν διεπιστημονικές μεθόδους που κείνται στις παρυφές ανάμεσα στην Υπολογιστική Νοημοσύνη και την Τεχνητή Ευφυία. Μπορούν να προσομοιώσουν συμπεριφορές και συναρτήσεις εισόδουεξόδου, μέσα από μία διαδικασία εκπαίδευσης όπου ένας ΓΑ κατασκευάζει το σέτ κανόνων που προσομοιώνει την επιθυμητή συμπεριφορά εισόδου-εξόδου.

Ένα Learning Classifier System (LCS ή CS) αποτελείται από : 1. Σύστημα Κανόνων και Μηνυμάτων (Rule & Message System) 2. Σύστημα Καταμερισμού Βαθμών (Credit Apportionment System) 3. Γενετικό Αλγόριθμο (Genetic Algorithm) Σύστημα Κανόνων και Μηνυμάτων: Αποτελείται από μία «αποθήκη» κανόνων που ονομάζονται rules ή classifiers. Οι κανόνες αυτοί είναι της μορφής: Εάν <Συνθήκη> τότε <Ενέργεια> If <Condition> then <Action> Το σύνολο των κανόνων της «αποθήκης» (classifier store) περιγράφει την επιθυμητή συμπεριφορά του CS, και παράγεται με Γενετική Εξέλιξη. Οι κανόνες λειτουργούν ως εξής : αν επαληθευτεί η συνθήκη (condition match) τότε πραγματοποιείται η <Ενέργεια>.

Η <συνθήκη> (condition) των κανόνων που χρησιμοποιούν τα CS είναι σταθερού μήκους και είναι κωδικοποιημένη με το αλφάβητο {0, 1, #} όπου το σύμβολο # είναι σύμβολο «μπαλαντέρ» (don t care symbol ή wildcard symbol) και ταιριάζει και με το 0 αλλά και με το 1. Η <Ενέργεια> (action), που αναφέρεται αλλιώς και ως <Μήνυμα> (message), είναι επίσης σταθερού μήκους και ενεργοποιείται από τον κανόνα όταν ικανοποιηθεί η συνθήκη και έχει επίσης την μορφή δυαδικής συμβολοσειράς {0,1} n. Παράδειγμα κανόνα με συνθήκη 4 bits και ενέργεια 4 bits: 1 0 # # : 0 1 0 1 Αυτός ο κανόνας (Rule ή Classifier) διεγείρεται από τις εισόδους 1000, 1001, 1010, 1011 και όταν διεγερθεί παράγει το μήνυμα εξόδου ή ενέργεια (0101) που μπορεί να διεγείρει κάποιον άλλο κανόνα μέσα στο CS ή να οδηγηθεί στην έξοδο του συστήματος και με κάποια αποκωδικοποίηση να αποτελέσει την απόκριση του CS προς το περιβάλλον.

Πληροφορία 1 101 Detectors Λίστα Μηνυμάτων 0 000 1 111 Αποθήκη με Classifiers 10# : 111 00# : 000 Γενετικός Αλγόριθμος Effectors 1 1 1 Ενέργεια Οι πληροφορίες εισέρχονται στο CS μέσω των Detectors. Αυτοί διεγείρουν τους κανόνες που παράγουν μηνύματα στην Λίστα Μηνυμάτων, που είναι πεπερασμένη. Τα μηνύματα αυτά μπορεί να διεγείρουν άλλους κανόνες κ.ο.κ. Τελικά κάποιοι κανόνες παράγουν την απόκριση του συστήματος, μέσω των effectors. Οι κανόνες εξελίσσονται γενετικά.

Οι κανόνες αυτού του είδους αν και φαίνεται ότι έχουν περιορισμένη χρησιμότητα, ωστόσο έχει αποδειχτεί ότι μπορούν να περιγράψουν τη γνώση με «πλήρη» τρόπο αλλά και «περιεκτικό». Ένας κανόνας ή ένα μικρό σύνολο κανόνων μπορούν να περιγράψουν σύνθετες έννοιες ή γνώσεις. Κανόνες χρησιμοποιούνται και στις παραδοσιακές μεθόδους Τεχνητής Εφυίας (ΑΙ). Η διαφορά όμως έγκειται στο ότι τα CS ενεργοποιούν πολλούς κανόνες παράλληλα, ενώ τα παραδοσιακά ΑΙ συστήματα ενεργοποιούν τους κανόνες σειριακά. Όταν ένα μήνυμα (message) ενεργοποιήσει πολλούς κανόνες ταυτόχρονα, τότε οι κανόνες συναγωνίζονται μεταξύ τους για το ποιος θα «απαντήσει» (με ενέργεια-action) στο μήνυμα, με βάση την «δύναμη» (Strength) του κάθε κανόνα. Η σχετική δύναμη του κάθε κανόνα καθορίζεται δυναμικά μέσω ενός αλγόριθμου εκμάθησης ο οποίος εφαρμόζει μία «οικονομία» ανταγωνιστικού είδους στους κανόνες, που προκρίνει τους καλύτερους.

Έστω το ακόλουθο σύνολο κανόνων : 1. 0 1 # # : 0 0 0 0 2. 0 0 # 0 : 1 1 0 0 3. 1 1 # # : 1 0 0 0 4. # # 0 0 : 0 0 0 1 Στον χρόνο 0 εμφανίζεται το μήνυμα «0111» από το περιβάλλον. Το μήνυμα αυτό ενεργοποιεί τον κανόνα 1 που παράγει το μήνυμα 0000 Το μήνυμα αυτό ενεργοποιεί τους κανόνες 2 και 4 που παράγουν τα μηνύματα 1100 και 0001 αντίστοιχα. Το μήνυμα «0001» δεν ενεργοποιεί κανένα κανόνα. Το 1100 ενεργοποιεί τους κανόνες 3 και 4 που παράγουν τα μηνύματα 1000 και 0001 αντίστοιχα. Το μήνυμα «0001» δεν ενεργοποιεί κανένα κανόνα. Το 1000 ενεργοποιεί τον κανόνα 4 που εκπέμπει και πάλι το 0001 που δεν ταιριάζει με κανένα κανόνα, και η διαδικασία σταματά.

Σύστημα Καταμερισμού Βαθμών (Credit Apportionment System) Κάθε κανόνας έχει ένα βαθμό «δύναμης» (Strength) ο οποίος καθορίζει ποιος κανόνας θα ενεργοποιηθεί και ποιος όχι όταν ένα μήνυμα ταιριάξει με πολλούς κανόνες. Η επιλογή των κανόνων χρειάζεται καθώς η Λίστα Μηνυμάτων είναι πεπερασμένη. Για τον δυναμικό καθορισμό των βαθμών δύναμης, ανάλογα με την σημαντικότητα και την χρησιμότητα του κάθε κανόνα, χρησιμοποιείται ένας αλγόριθμος που ονομάζεται Bucket Brigade Algorithm. Ο αλγόριθμος αυτός εφαρμόζει ένα είδος «οικονομίας της πληροφορίας», όπου το δικαίωμα να διακινείς πληροφορία αγοράζεται και πουλιέται από τους κανόνες (classifiers). Αποτελείται από δύο συστατικά: 1. Τις «Δημοπρασίες» (Auction), όπου οι κανόνες που ταίριαξαν με μηνύματα συναγωνίζονται για το ποιος θα ενεργοποιηθεί. 2. Την «Πληρωμή Επιταγών» (Clearinghouse), όπου ο κανόνας που ενεργοποιείται αποδίδει βαθμούς σε αυτούς που τον ενεργοποίησαν

Όταν η συνθήκη ενός κανόνα ταιριάξει με ένα μήνυμα, τότε ο κανόνας δεν ενεργοποιείται αλλά γίνεται υποψήφιος, και συμμετέχει στην «δημοπρασία» ενεργοποίησης. Αυτό γίνεται με την «προσφορά» (bid) από κάθε κανόνα ενός ποσού βαθμών που είναι ανάλογο της δύναμης του κάθε κανόνα. Έτσι οι κανόνες που έχουν συγκεντρώσει σταδιακά μεγάλη δύναμη (οι πιο σημαντικοί κανόνες) έχουν μεγαλύτερη πιθανότητα να ενεργοποιηθούν από τους άλλους. Όταν ένας κανόνας επιλεγεί για ενεργοποίηση, τότε πρέπει να «πληρώσει» και όλους τους κανόνες που τον ενεργοποίησαν. Έτσι αποδίδει το ποσό «προσφοράς» (bid) σε αυτούς που παρήγαγαν τα μηνύματα που τον ενεργοποίησαν. Η «προσφορά» μοιράζεται σε όλους αυτούς, γεγονός που έχει το ίδιο αποτέλεσμα με το fitness sharing, δηλαδή δημιουργεί και διατηρεί υποπληθυσμούς κανόνων, που όλοι μαζί δημιουργούν την επιθυμητή συμπεριφορά.

Συνήθως οι «προσφορές» υπολογίζονται με βάση ένα συντελεστή C bid, επί την δύναμη του κάθε κανόνα (π.χ. C bid =0.1, S=200, bid=20). Όταν επιλεγεί ένας κανόνας τότε μοιράζει την προσφορά του ως πληρωμές P (payment) στους κανόνες που τον ενεργοποίησαν. Για να μην αυξάνει υπέρμετρα η «δύναμη» των κανόνων εφαρμόζονται σε αυτούς και φόροι T (tax), που είναι σχετικά μικρού μεγέθους. Επίσης ο κανόνας μπορεί να δεχτεί πληρωμές R (rewards) από τους κανόνες που θα ενεργοποιήσει. Έτσι η δύναμη του κάθε κανόνα i υπολογίζεται ως εξής : S i (t+1) = S i (t) P i (t) T i (t) + R i (t) Παράδειγμα λειτουργίας του Αλγόριθμου Bucket Brigade. Βασιζόμενοι στο προηγούμενο παράδειγμα, έχουμε 4 κανόνες των 4 bit, με αρχική δύναμη 200 και για τους τέσσερις κανόνες. Αρχικά παράγεται το μήνυμα 0111 από το περιβάλλον (detectors).

t=0 t=1 t=2 α/α Κανόνες Δύν. Μην. Ταιρ. προσφ. Δύν. Μην. Ταιρ. προσφ. Δύν. Μην. Ταιρ. προσφ. 1 01##:0000 200 Περ. 20 180 0000 220 2 00#0:1100 200 200 1 20 180 1100 3 11##:1000 200 200 200 2 20 4 ##00:0001 200 200 1 20 180 0001 2 18 Περιβάλλ. 0111 20 20 Το μήνυμα 0111 ενεργοποιεί τον κανόνα 1 που προσφέρει 20 μονάδες που θα δοθούν στο «περιβάλλον». Ο κανόνας 1 παράγει το μήνυμα 0000, με το οποίο ταιριάζουν οι κανόνες 2 και 4 που προσφέρουν από 20. Αυτά δίνον-ται στον 1 που τους ενεργοποίησε. Παράγονται τα μηνύματα 1100 και 0001. Το 1100 ταιριάζει με τους 3 και 4 που προσφέρουν 20 και 18 αντίστοιχα.

t=3 t=4 t=5 α/α Κανόνες Δύν. Μην. Ταιρ. προσφ. Δύν. Μην. Ταιρ. προσφ. Δύν. Αμοιβή 1 01##:0000 220 220 220 2 00#0:1100 218 218 218 3 11##:1000 180 1000 196 196 περιβάλλοντος 4 ##00:0001 162 0001 3 16 146 0001 196 50 Περιβάλλ. 20 20 20 Οι 3 και 4 παράγουν τα μηνύματα 1000 και 0001. Το 1000 ενεργοποιεί τον κανόνα 4 που προσφέρει 16 βαθμούς. Ενεργοποιείται παράγοντας το μήνυμα 0001 και δίνοντας τους 16 βαθμούς στον 3. Το μήνυμα 0001 δεν ταιριάζει με κανένα κανόνα. Τέλος η ανταμοιβή του περιβάλλοντος (50) δίνεται στον τελευταίο ενεργό κανόνα (τον κανόνα 4).

Ο Αλγόριθμος Bucket Brigade καθορίζει επιτυχώς τις «δυνάμεις» των κανόνων, αλλά δεν παράγει νέους κανόνες. Για το λόγο αυτό χρησιμοποιείται ένας ΓΑ ο οποίος έχει τη δυνατότητα να εξελίξει τους κανόνες σε ένα βέλτιστο σύνολο. Ο ΓΑ εργάζεται παράλληλα με τον Bucket Brigade. Κάθε T κύκλους κανόνων και μηνυμάτων, εκτελείται ο ΓΑ. Εκλαμβάνει τους κανόνες ως το τρέχοντα πληθυσμό. Επιλέγει γονείς με βάση την «δύναμη» του κάθε κανόνα, όπως καθορίστηκε από τον Bucket Brigade. Μέσω Διασταύρωσης (Crossover) και Μετάλλαξης (Mutation) παράγεται ο απόγονος. Στη μετάλλαξη λαμβάνεται υπ όψιν το μικτό αλφάβητο {0,1,#} για τη «συνθήκη» και {0,1} για την «ενέργεια» Στα CS χρησιμοποιείται Αναπαραγωγή Σταθερής Κατάστασης ή Αντικατάσταση μέρους του πληθυσμού κατά ένα μικρό ποσοστό. Όταν παραχθεί η νέα γενιά ο ΓΑ σταματά και αναλαμβάνει και πάλι ο Bucket Brigade να καθορίσει τις «δυνάμεις» των κανόνων. Μπορεί να θεωρηθεί ότι ο B.B. Είναι η συνάρτηση ποιότητας του ΓΑ.

Στόχος : Εκμάθηση της συνάρτησης εισόδου εξόδου ενός δυαδικού πολυπλέκτη 4 σε 1. Χρήση απλοποιημένου CS με Λίστα Μηνυμάτων χωρητικότητας 1. Η είσοδος διεγείρει κάποιους κανόνες, επιλέγεται αυτός με τη μεγαλύτερη «δύναμη» και η ενέργειά του εξάγεται ως έξοδος, ενώ λαμβάνει αμοιβή. Το CS κατέληξε σε 8 κανόνες που φαίνονται παρακάτω: Ε ί σ ο δ ο ς Address A0 A1 Data D0 D1 D2 D3 Πολυπλέκτης Εξοδος Κανόνες 00 0### : 0 00 1### : 1 01 #0## : 0 01 #1## : 1 10 ##0# : 0 10 ##1# : 1 11 ###0 : 0 11 ###1 : 1 Περιγραφή 0 Address/0 Signal 0 Address/1 Signal 1 Address/0 Signal 1 Address/1 Signal 2 Address/0 Signal 2 Address/1 Signal 3 Address/0 Signal 3 Address/1 Signal

Τα CS μοιάζουν αρκετά ως προς την δομή και τις δυνατότητες με τα Τεχνητά Νευρωνικά Δίκτυα (ΤΝΔ). Τα ΤΝΔ έχουν επίσης την ικανότητα να εκπαιδεύονται ώστε να προσομοιώνουν μία συγκεκριμένη συνάρτηση εισόδου εξόδου. Ο παρακάτω πίνακας εμφανίζει τις αντιστοιχίες των επιμέρους εννοιών: Classifier Systems Κανόνες «Δυνάμεις» Κανόνων Detectors Effectors Ενδιάμεσοι Κανόνες Ταίριασμα Κανόνων Bucket Brigade + Γενετικός Αλγόρ. Τεχνητά Νευρωνικά Δίκτυα Νευρώνες Βάρη Συνάψεων Νευρόνια Εισόδου Νευρόνια Εξόδου Κρυμμένα Νευρόνια Σιγμοειδής Συνάρτηση Νευρονίου Εκπαίδευση (Back Propagation)

Οι ΓΑ που συντηρούν και εξελίσσουν ένα πληθυσμό από λύσεις, μπορούν εύκολα να κωδικοποιηθούν ώστε να εκτελούνται σε Η/Υ που φιλοξενούν πολλούς παράλληλους επεξεργαστές. Έτσι κάθε επεξεργαστής μπορεί να αναλάβει ένα άτομο ή ένα υπο-πληθυσμό ατόμων για αξιολόγηση και εξέλιξη. Με τον όρο όμως Παράλληλοι ΓΑ (ΠΓΑ-PGA) δεν εννοούμε απλά και μόνο την εκτέλεση ενός απλού ΓΑ σε μία παράλληλη μηχανή για να επιταχυνθεί η εκτέλεσή του (που είναι καθαρά ένα θέμα πρακτικής υλοποίησης) αλλά και την παράλληλη εξέλιξη ενός αριθμού πληθυσμών με ένα ΓΑ ανά πληθυσμό που αναζητούν λύση στο ίδιο πρόβλημα, εξομοιώνοντας την παράλληλη εξέλιξη των πληθυσμών που συμβαίνει και στην φύση. Οι ΠΓΑ χρονολογούνται από το 1976, που ο Bethke δημοσιεύει την εργασία του που μελετά την πιθανότητα υλοποίησης ΠΓΑ. Έκτοτε, οι ΠΓΑ αποτέλεσαν ένα μεγάλο κλάδο έρευνας των εξελικτικών αλγορίθμων με πολύ σημαντικές εφαρμογές.

Ο Π.Γ.Α. γεννήθηκαν από την αναγκαιότητα υπερπήδησης κάποιων μειονεκτημάτων των απλών Γ.Α. και ενίσχυσης της ικανότητάς τους στην αντιμετώπιση δύσκολων προβλημάτων. Το μειονέκτημα των ΓΑ ως στοχαστικών αλγορίθμων είναι η αβεβαιότητα για την εύρεση της βέλτιστης λύσης η καλύτερα η υπόπιθανότητα εύρεση της βέλτιστης λύσης. Η πιθανότητα αυτή μικραίνει όσο αυξάνει το μέγεθος του χώρου λύσεων και η πολυπλοκότητα της προς βελτιστοποίησης συνάρτησης. Από το γεγονός αυτό πηγάζει η αναγκαιότητα πραγματοποίησης περισσοτέρων του ενός πειραμάτων Γ.Α. σε κάθε πρόβλημα ώστε να αυξάνονται οι πιθανότητες κάποιος από τους πληθυσμούς να βρει την περιοχή της βέλτιστης λύσης και να συγκλίνει σε αυτή. Από την άλλη όμως οι Γ.Α. αποτελούν σχετικά χρονοβόρους αλγόριθμους, λόγω των επαναλήψεων που απαιτούνται για την σύγκλιση, οπότε η σειριακή εκτέλεση πολλών πειραμάτων θα απαιτούσε πραγματικά πολύ χρόνο.

Οι ΠΓΑ προχώρησαν όμως ένα βήμα πιο πέρα μοντελοποιώντας με μεγαλύτερη ακρίβεια τους παράλληλα εξελισσόμενους πληθυσμούς που παρατηρούνται στη φύση. Αν θεωρήσουμε δύο πόλεις με πληθυσμούς ανθρώπων που εξελίσσονται παράλληλα θα παρατηρήσουμε ότι ο πληθυσμοί αυτοί δεν είναι απομονωμένοι ο ένας απ τον άλλον αλλά υπάρχουν αρκετές αλληλεπιδράσεις μεταξύ τους λόγω της ύπαρξης επικοινωνίας και συγκοινωνίας μεταξύ των πόλεων. Έτσι συντελείται ανταλλαγή πληροφορίας μεταξύ των υποπληθυσμών είτε με απλή επικοινωνία είτε και με μετανάστευση τμημάτων του πληθυσμού από την μία πόλη στην άλλη. Μοντελοποιώντας αυτή την αλληλεπίδραση οι ΠΓΑ υιοθέτησαν διαδικασίες επικοινωνίας μεταξύ των πληθυσμών καθώς και μετανάστευσης, δηλαδή μεταφοράς λύσεων από τον ένα πληθυσμό στον άλλο. Αυτή η ανταλλαγή πληροφορίας μεταξύ των πληθυσμών αποδεικνύεται θετική για την εξέλιξη των επιμέρους πληθυσμών και συμβάλλει στην καλύτερη απόδοση του γενικού σχήματος του ΠΓΑ.

Πολλά μοντέλα ΠΓΑ έχουν προταθεί στην βιβλιογραφία προτείνοντας μία ποικιλία μοντέλων πληθυσμών αλλά και τρόπων επικοινωνίας και ανταλλαγής πληροφορίας μεταξύ τους. Τα προταθέντα μοντέλα μπορούν να χωριστούν σε τέσσερις κατηγορίες : 1. Μοντέλο χαμηλής ανάλυσης ΠΓΑ (coarse-grained PGA) ή Μοντέλο μετανάστευσης (Migration Model) 2. Μοντέλο υψηλής ανάλυσης Π.Γ.Α. (fine-grained PGA) 3. Υβριδικά μοντέλα Π.Γ.Α. 4. Μοντέλα Παράλληλων Εξελισσόμενων Πληθυσμών με Διαφορετικές Εξελικτικές Συμπεριφορές (PGA with Different Evolution Behavior) Μοντέλο χαμηλής ανάλυσης ΠΓΑ (coarse-grained PGA) ή Μοντέλο μετανάστευσης (Migration Model) Σύμφωνα με το Μοντέλο αυτό υπάρχει ένας σχετικά μικρός αριθμός ανεξάρτητων υπο-πληθυσμών, με ένα ΓΑ για κάθε υπο-πληθυσμό που τον εξελίσσει.

Περιοδικά ορισμένες από τις καλύτερες λύσεις των υπο-πληθυσμών αντιγράφονται (μεταναστεύουν) στους υπόλοιπους πληθυσμούς είτε τυχαία είτε με κριτήρια γειτνίασης. Μετανάστευση Πληθυσμός 1 Πληθυσμός 2 Μετανάστευση Μετανάστευση Μετανάστευση Πληθυσμός 3 Πληθυσμός 4

Μοντέλο υψηλής ανάλυσης Π.Γ.Α. (fine-grained PGA) Σύμφωνα με αυτό το μοντέλο υπάρχει ένας μεγάλος αριθμός μικρών υποπληθυσμών (των λίγων ή και του ενός ατόμου). Οι γενετικοί μηχανισμοί (Επιλογή για Αναπαραγωγή, Γενετικοί Τελεστές, Αντικατάσταση Γενεάς) εφαρμόζονται πάνω σε υποπληθυσμούς που γειτνιάζουν χωρικά. Οι γειτονιές αυτές όμως αλληλοεπικαλύπτονται ώστε να υπάρχει τρόπος διάδοσης των καλών λύσεων σε άλλους υποπληθυσμούς του παράλληλου συστήματος. Pop 1 Pop 2 Pop 3 Pop 4 Pop 5 Pop 6 Pop 7 Pop 8 Pop 9 Pop 10 Pop 11 Pop 12

Υβριδικά μοντέλα Π.Γ.Α. Σε αυτή την κατηγορία ανήκουν υλοποιήσεις που εφαρμόζουν συνδυασμούς των χαρακτηριστικών των δύο πρώτων μοντέλων. Μοντέλο Παράλληλων Εξελισσόμενων Πληθυσμών με Διαφορετικές Εξελικτικές Συμπεριφορές. Διατηρείται ένας αριθμός από παράλληλα εξελισσόμενους πληθυσμούς που εξελίσσονται μέσω Γ.Α. με διαφορετικές εξελικτικές συμπεριφορές, δηλαδή με διαφορετικές μεθόδους επιλογής, διαφορετικούς τελεστές, γενετικούς μηχανισμούς και παραμέτρους που συνθέτουν ένα διαφορετικό στυλ ψαξίματος για κάθε ΓΑ. Έτσι επιλύεται και το πρόβλημα της επιλογής των κατάλληλων παραμέτρων του ΓΑ για κάθε πρόβλημα. Οι ΠΓΑ έχουν εφαρμοστεί σε όλες σχεδόν τις περιοχές εφαρμογών των απλών ΓΑ όπως η βελτιστοποίηση συναρτήσεων, προβλήματα σχεδίασης, προβλήματα κοπής και συσκευασίας, προβλήματα ωρολόγιου προγράμματος, προβλήματα Τεχνητών Νευρωνικών Δικτύων, Προγραμματισμού Γραμμής Παραγωγής, σε Συστήματα Εκμάθησης Κανόνων κλπ.