Διπλωµατική Εργασία του φοιτητή του Τµήµατος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών της Πολυτεχνικής Σχολής του Πανεπιστηµίου Πατρών

Transcript

1 ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ ΤΟΜΕΑΣ: Ηλεκτρονικής και Υπολογιστών ΕΡΓΑΣΤΗΡΙΟ: Συστηµάτων Υπολογιστών Διπλωµατική Εργασία του φοιτητή του Τµήµατος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών της Πολυτεχνικής Σχολής του Πανεπιστηµίου Πατρών Σκρεπετού Δηµητρίου του Αντωνίου Αριθµός Μητρώου: Θέµα «Σχεδιασµός και υλοποίηση πολυκριτηριακής υβριδικής µεθόδου ταξινόµησης βιολογικών δεδοµένων µε χρήση εξελικτικών αλγορίθµων και νευρωνικών δικτύων.» Επιβλέπων Αθανάσιος Τσακαλίδης Αριθµός Διπλωµατικής Εργασίας: Πάτρα, Ιούνιος

2 ΠΙΣΤΟΠΟΙΗΣΗ Πιστοποιείται ότι η Διπλωµατική Εργασία µε θέµα «Σχεδιασµός και υλοποίηση πολυκριτηριακής υβριδικής µεθόδου ταξινόµησης βιολογικών δεδοµένων µε χρήση εξελικτικών αλγορίθµων και νευρωνικών δικτύων.» Του φοιτητή του Τµήµατος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Σκρεπετού Δηµητρίου του Αντωνίου Αριθµός Μητρώου: Παρουσιάστηκε δηµόσια και εξετάστηκε στο Τµήµα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών στις 13/06/2014 Ο Επιβλέπων Καθηγητής Αθανάσιος Τσακαλίδης Ο Διευθυντής του Τοµέα Καθηγητής Ευθύµιος Χούσος 2

3 Αριθµός Διπλωµατικής Εργασίας: Θέµα: «Σχεδιασµός και υλοποίηση πολυκριτηριακής υβριδικής µεθόδου ταξινόµησης βιολογικών δεδοµένων µε χρήση εξελικτικών αλγορίθµων και νευρωνικών δικτύων.» Φοιτητής: Σκρεπετός Δηµήτριος του Αντωνίου Επιβλέπων: Αθανάσιος Τσακαλίδης Περίληψη Δύσκολα προβλήµατα ταξινόµησης από τον χώρο της Βιοπληροφορικής όπως η πρόβλεψη των microrna γονιδιών και οι πρόβλεψη των πρωτεϊνικών αλληλεπιδράσεων (Protein- Protein Interactions) απαιτούν ισχυρούς ταξινοµητές οι οποίοι θα πρέπει να έχουν καλή ακρίβεια ταξινόµησης, να χειρίζονται ελλιπείς τιµές, να είναι ερµηνεύσιµοι, και να µην πάσχουν από το πρόβληµα ανισορροπίας κλάσεων. Ένας ευρέως χρησιµοποιούµενος ταξινοµητής είναι τα νευρωνικά δίκτυα, τα οποία ωστόσο χρειάζονται προσδιορισµό της αρχιτεκτονικής τους και των λοιπών παραµέτρων τους, ενώ και οι αλγόριθµοι εκµάθησής τους συνήθως συγκλίνουν σε τοπικά ελάχιστα. Για τους λόγους αυτούς, προτείνεται µία πολυκριτηριακή εξελικτική µέθοδος η οποία βασίζεται στους εξελικτικούς αλγορίθµους ώστε να βελτιστοποιήσει πολλά από τα προαναφερθέντα κριτήρια απόδοσης των νευρωνικών δικτύων, να βρει επίσης την βέλτιση αρχιτεκτονική καθώς και ένα ολικό ελάχιστο για τα συναπτικά τους βάρη. Στην συνέχεια, από τον πληθυσµό που προκύπτει χρησιµοποιούµε το σύνολό του ώστε να επιτύχουµε την ταξινόµηση. 3

4 Ευχαριστίες Επιθυμώ να ευχαριστήσω τον επιβλέποντά καθηγητή μου κ. Αθανάσιο Τσακαλίδη που μου έδωσε την ευκαιρία να ασχοληθώ με την διπλωματική αυτή, τον μεταδιδακτορικό ερευνητή κ. Κωνσταντίνο Θεοφιλάτο η υποστήριξη του οποίου ήταν καθοριστική στην εκπόνηση της διπλωματικής αυτής, καθώς και την Καθηγήτρια Εφαρμογών κ. Σεφερίνα Μαρουδή για την εποπτεία της διπλωματικής. Επιθυμώ επίσης να ευχαριστήσω την οικογένειά μου για την ψυχολογική υποστήριξη που μου παρείχε. 4

5 1. Πίνακας Περιεχομένων 2. Εισαγωγή Μέθοδοι Συνδυασμού Εξελικτικών Αλγορίθμων και Νευρωνικών Δικτύων a. Εισαγωγή b. Τεχνικές Βελτιστοποίησης μόνο των συναπτικών βαρών i. Εισαγωγή ii. Αναπαράσταση Χρωμοσώματος και Γενετικοί Τελεστές iii. Σύγκριση Εξελικτικών Τεχνικών και Τεχνικών Βαθμωτής Μείωσης του Λάθους iv. Υβριδική Εκπαίδευση c. Τεχνικές Βελτιστοποίησης της Αρχιτεκτονικής i. Αναπαράσταση Χρωμοσώματος ii. Το Σχήμα Άμεσης Κωδίκοποιησης (Direct Encoding Scheme) iii. Το Σχήμα Έμμεσης Κωδικοποίησης iv. Παραμετρική Αναπαράσταση v. Αναπαράσταση Βασισμένη σε Κανόνες Ανάπτυξης d. Η Εξέλιξη της Συνάρτησης Μεταφοράς e. Ταυτόχρονη Εξέλιξη Αρχιτεκτονικής και Συναπτικών Βαρών f. Η Εξέλιξη των Κανόνων Μάθησης g. Η Εξέλιξη των Παραμέτρων των Αλγορίθμων Εκπαίδευσης h. Η Εξέλιξη των Κανόνων Εκπαίδευσης i. Άλλου Είδους Συνδυασμοί Ανάμεσα σε Νευρωνικά Δίκτυα και Εξελικτικούς Αλγορίθμους i. Εξέλιξη των Χαρακτηριστικών ii. Νευρωνικά Δίκτυα σαν Συναρτήσεις Απόδοσης iii. Εξέλιξη Συνόλων (Ensembles) Νευρωνικών Δικτύων iv. Άλλα Σημεία Συνεργασίας Εξελικτικών Αλγορίθμων και Νευρωνικών Δικτύων 24 j. Συμπεράσματα k. Βιβλιογραφία Ο Αλγόριθμος MODdEA (Multiobjective Evolutionary Algorithm That Diversifies Population by Its Density) a. Εισαγωγή b. Πολυκριτηριακά Προβλήματα Βελτιστοποίησης c. Εξελικτικοί Αλγόριθμοι Πολυκριτηριακής Βελτιστοποίησης d. Περιγραφή του MODdEA i. Βασικά Χαρακτηριστικά του MODdEA ii. Ο τελεστής της επιλογής SDPD (Spatial Density Based Population Diversification, SDPD) iii. Ποικιλόμορφη Μετάλλαξη (Diversified Mutation) iv. Εκτεταμένη Αριθμητική Διασταύρωση v. Κύριος Βρόχος vi. Πολυπλοκότητα του MODdEA vii. Πλεονεκτήματα και Μειονεκτήμα του MODdEA e. Βιβλιογραφία Περιγραφή Αλγορίθμου MVEMENN (Missing Values Evolutionary Multiobjective Ensemble Neural Networks) a. Εισαγωγή b. Αρχικοποιήσεις και Αναπαράσταση Χρωμοσώματος c. Ο Εξελικτικός Αλγόριθμος

6 i. Τελεστής Επιλογής ii. Τελεστής Μετάλλαξης iii. Τελεστής Διασταύρωσης iv. Στοιχεία που εισάγονται στο BSP v. Εκπαίδευση του Πληθυσμού- Τοπική αναζήτηση κατωφλίου vi. Υπολογισμός της πολυκριτηριακής αντικειμενικής συνάρτησης vii. Κύριος βρόχος του εξελικτικού αλγορίθμου d. Το Ensemble Σύστημα Περιγραφή Βιολογικών Δεδομένων a. Pre- mirnas i. Περιγραφή MicroRNA ii. Υπολογιστικές Μέθοδοι Ταυτοποίησης των mirna iii. Σύνολο δεδομένων των micro- RNA iv. Χαρακτηριστικά των micro- RNA b. Πρόβλεψη Πρωτεϊνικών Αλληλεπιδράσεων i. Πρωτεϊνικές Αλληλεπιδράσεις ii. Υπολογιστικές Μέθοδοι Ταξινόμησης Πρωτεϊνικών Αλληλεπιδράσεων iii. Σύνολο Δεδομένων Πρωτεϊνικών Αλληλεπιδράσεων iv. Χαρακτηριστικά περιγραφής των PPIS c. Βιβλιογραφία Αποτελέσματα Πειραμάτων a. Παράμετροι του Αλγορίθμου b. microrna i. Χωρίς χρησιμοποίηση του αλγορίθμου οπισθοδιάδοσης του σφάλματος ii. Χρησιμοποίηση του αλγορίθμου οπισθοδιάδοσης του σφάλματος μόνο στην αρχικοποίηση του πληθυσμού και στο τέλος του αλγορίθμου iii. Χρησιμοποίηση του αλγορίθμου οπισθοδιάδοσης του σφάλματος στην αρχικοποίηση του πληθυσμού, στον πληθυσμό που προκύπτει από την διασταύρωση σε κάθε γενιά, καθώς και στον τελικό πληθυσμό iv. Συγκεντρωτικά αποτελέσματα v. Αποτελέσματα άλλων μεθόδων vi. Σχολιασμός αποτελεσμάτων και σύγκριση αποτελεσμάτων με άλλες μεθόδους 76 vii. Συμμετοχή των Εισόδων c. PPI i. Χωρίς χρησιμοποίηση του αλγορίθμου οπισθοδιάδοσης του σφάλματος ii. Χρησιμοποίηση του αλγορίθμου οπισθοδιάδοσης του σφάλματος μόνο στην αρχικοποίηση του πληθυσμού και στον τελικό πληθυσμό iii. Χρησιμοποίηση του αλγορίθμου οπισθοδιάδοσης του σφάλματος στην αρχικοποίηση του πληθυσμού, στον πληθυσμό που προκύπτει από την διασταύρωση σε κάθε γενιά, καθώς και στον τελικό πληθυσμό iv. Συγκεντρωτικά Αποτελέσματα v. Αποτελέσματα άλλων μεθόδων vi. Σχολιασμός αποτελεσμάτων και σύγκριση με άλλες μεθόδους vii. Συμμετοχή των εισόδων d. Σχολιασμός Αποτελεσμάτων e. Βιβλιογραφία Επίλογος και Μελλοντικές Προεκτάσεις Κώδικας a. Εισαγωγή b. BackProp.m

7 c. BSPInsert.m d. BSPPopulationInsert.m e. BuildInputsOutput.m f. ChromosomeToNeuralNet g. Crossover h. MVEMENN i. FastNonDominatedSorting.m j. GetPositions.m k. Initialization.m l. MakeLimitations.m m. MODdEAFirstLoop.m n. MODdEASecondLoop.m o. Mutation.m p. NeuralNetTest.m q. Plotting r. PopulationFitnessEval s. Prediction.m t. Preprocessing u. UpdateSelection.m

8 2. Εισαγωγή Τα Τεχνητά Νευρωνικά Δίκτυα έχουν αναδειχθεί ως ένας από τους καλύτερους ταξινομητές που έχει να επιδείξει η επιστημονική περιοχή της Αναγνώρισης Προτύπων, όπως έχει προκύψει από την ευρεία και επιτυχημένη εφαρμογή τους τις τελευταίες δεκαετίες. Παρά το γεγονός αυτό, τα Τεχνητά Νευρωνικά Δίκτυα παρουσιάζουν αρκετά μειονεκτήματα. Συγκεκριμένα, οι αλγόριθμοι μάθησής τους βασίζονται συνήθως στην αρνητική παράγωγο και αυτό τα οδηγεί να παγιδεύονται σε ένα τοπικό ελάχιστο της συνάρτησης σφάλματος, δεν πετυχαίνουν τόσο καλή γενίκευση όσο θα θέλαμε, χρειάζεται να οριστεί εκ των προτέρων η αρχιτεκτονική τους, η συνάρτηση μεταφοράς των κόμβων τους και οι υπόλοιπες παράμετροι τους, οι κανόνες μάθησης και εκπαίδευσης ενώ ένα άλλο πρόβλημά τους αφορά την αδυναμία ερμήνευσης του τρόπου που λειτουργούν όταν το μέγεθος τους είναι αρκετά μεγάλο. Κάποιες άλλες αδυναμίες τους, τις οποίες μοιράζονται και με άλλους ταξινομητές, είναι ότι δεν έχουν βέλτιση λύση αντιμετώπισης του προβλήματος των ελλιπών τιμών, δεν μπορούν να ξεχωρίσουν ποια χαρακτηριστικά των προτύπων είναι τα πιο σημαντικά και δεν υπάρχει αποδοτική αντιμετώπιση του προβλήματος της ανισορροπίας των κλάσεων. Για την επίλυση των προβλημάτων αυτών μπορούμε να χρησιμοποιήσουμε τους εξελικτικούς αλγορίθμους έτσι ώστε να βελτιστοποιήσουμε και τα συναπτικά βάρη του νευρωνικού δικτύου, και τις υπόλοιπες παραμέτρους που προαναφέραμε δηλαδή την αρχιτεκτονική, τις συναρτήσεις μεταφοράς κτλπ. Οι εξελικτικοί αλγόριθμοι μπορούν να αναλάβουν με επιτυχία την αποστολή εύρεσης των βέλτιστων τιμών για τις παραμέτρους αυτές, διότι έχουν τα πολύ σημαντικά πλεονεκτήματα της εύρεσης του ολικού ελαχίστου της αντικειμενικής συνάρτησης, την μη αναγκαιότητα αυτής να είναι συνεχής και παραγωγίσιμη, καθώς και ότι λειτουργούν με ένα πληθυσμό λύσεων και όχι μόνο με μία. Ο πληθυσμός αυτός στην συνέχεια μπορεί να χρησιμοποιηθεί στο σύνολό του για να κάνουμε την διαδικασία της ταξινόμησης, έτσι ώστε να επιτύχουμε καλύτερα αποτελέσματα. Για να βελτιώσουμε όχι μόνο την ακρίβεια των νευρωνικών πρέπει να χρησιμοποιήσουμε και άλλα κριτήρια μέτρησης της απόδοσης που να έχουν σχέση με τον αριθμό των χαρακτηριστικών της εισόδου που χρησιμοποιεί το κάθε νευρωνικό δίκτυο, δηλαδή την πολυπλοκότητά του, τον αριθμό χαρακτηστικών του προβλήματος που χρησιμοποιεί, το πόσο καλά διαχωρίζει τις κλάσεις και το πόσο ισότιμα αντιμετωπίζει τα θετικά και τα αρνητικά παραδείγματα (το οποίο αφορά την ανισορροπία των κλάσεων). Ο σκοπός αυτός επιτυγχάνεται με την χρησιμοποίηση πολυκριτηριακών αλγορίθμων, οι οποίοι προσπαθούν να βελτιστοποιήσουν όχι μόνο ένα κριτήριο αλλά πολλά διαφορετικά και ίσως αντικρουόμενα μεταξύ τους ταυτόχρονα. Καθώς οι περιοχές των εξελικτικών αλγορίθμων και της πολυκριτηριακής βελτιστοποίησης τέμνονται σε πολύ μεγάλο βαθμό, μπορούμε να συνδυάσουμε και τα δύο για να υπερβούμε τις αδυναμίες των νευρωνικών δικτύων που περιγράψαμε στην πρώτη παράγραφο. Επομένως, ο αλγόριθμος που σχεδιάστηκε στην παρούσα διπλωματική βασίστηκε στον συνδυασμό πολυκριτηριακών εξελικτικών αλγορίθμων με νευρωνικά δίκτυα για την εύρεση των βέλτιστων συναπτικών βαρών των νευρωνικών δικτύων, της αρχιτεκτονικής τους, και των λοιπών παραμέτρων τους. Επίσης τα νευρωνικά δίκτυα αυτά βελτιστοποιούνται με βάση όλα τα 8

9 κριτήρια που θεωρούνται απαραίτητα για τις απαιτήσεις που θέτουμε, δηλαδή να έχουν καλή ακρίβεια, μικρή πολυπλοκότητα, να χρησιμοποιούν τα πιο σημαντικά χαρακτηριστικά και να αντιμετωπίζουν ισότιμα την θετική και την αρνητική κλάση. Τέλος, ο προκύπτον πληθυσμός των νευρωνικών δικτύων χρησιμοποιείται ως ταξινομητής συνόλου (ensemble classifier). Έτσι, η μικρή πολυπλοκότητα των νευρωνικών δικτύων μαζί με την εύρεση ολικού βέλτιστου από τον εξελικτικό αλγόριθμο και την λειτουργία του ensemble ταξινομητή υπόσχονται μεγάλη ικανότητα γενίκευσης. Επισημαίνεται ότι είναι αν όχι η πρώτη, μία από τις πρώτες τεχνικές που συνδυάστηκαν πολυκριτηριακοί εξελικτικοί αλγόριθμοι με νευρωνικά δίκτυα. Η μέτρηση της απόδοσης του προγράμματος που υλοποιεί τον αλγόριθμο που σχεδιάστηκε έγινε σε δύο προβλήματα ταξινόμησης από την επιστημονική περιοχή της Βιοπληροφορικής: την ταξινόμηση microrna γονιδιών και την πρόβλεψη πρωτεϊνικών αλληλεπιδράσεων (Protein- Protein- Interaction (PPI)). Τα δύο προβλήματα αυτά παρουσιάζουν μεταξύ άλλων ελλιπείς τιμές, ανισορροπία κλάσεων, ενώ επίσης θέλουμε να έχουμε καλή απόδοση ταξινόμησης, καθώς και να αποκτήσουμε ένα ερμηνεύσιμο μοντέλο το οποίο θα χρησιμοποιήσουν επιστήμονες του χώρου της Βιολογίας για να καταλάβουν πώς λειτουργούν οι βιολογικοί μηχανισμοί των προβλημάτων αυτών. Η διπλωματική ξεκινάει με ένα κεφάλαιο παρουσίασης των κυριότερων μέχρι σήμερα κατηγοριών συνδυασμού νευρωνικών δικτύων και εξελικτικών αλγορίθμων. Στην συνέχεια, στο τέταρτο κεφάλαιο, γίνεται ανάλυση του προβλήματος της πολυκριτηριακής βελτιστοποίησης καθώς και του αλγορίθμου MODdEA ο οποίος ανήκει στην κατηγορία των πολυκριτηριακών εξελικτικών αλγορίθμων. Στο πέμπτο κεφάλαιο γίνεται ανάλυση του αλγορίθμου MVEMENN που σχεδιάστηκε στα πλαίσια της διπλωματικής, ενώ στο έκτο κεφάλαιο επιχειρείται μία εισαγωγή στα δύο βιολογικά προβλήματα ταξινόμησης (microrna και PPI) και στις υπολογιστικές μεθόδους που έχουν χρησιμοποιηθεί πάνω σε αυτά μέχρι στιγμής. Στο έβδομο κεφάλαιο βρίσκονται τα αποτελέσματα των πειραμάτων που έγιναν χρησιμοποιώντας το πρόγραμμα που υλοποιεί τον αλγόριθμο πάνω στα προαναφερθέντα βιολογικά δεδομένα, το όγδοο κεφάλαιο αφορά τον επίλογο και τις μελλοντικές προεκτάσεις, ενώ το ένατο κεφάλαιο περιλαμβάνει τον κώδικα του προγράμματος που αναπτύχθηκε. 9

10 3. Μέθοδοι Συνδυασμού Εξελικτικών Αλγορίθμων και Νευρωνικών Δικτύων a. Εισαγωγή Τα Τεχνητά Νευρωνικά Δίκτυα (Artificial Neural Networks, ANNs) έχουν αναδειχθεί ως ένα πολύ ισχυρό εργαλείο για την ταξινόμηση προτύπων [1], [2]. Η εκπαίδευση των πολυεπίπεδων νευρωνικών δικτύων συνήθως γίνεται με επαναληπτικούς αλγορίθμους οι οποίοι βασίζονται στην επαναπροσαρμογή των συναπτικών βαρών στην κατεύθυνση της αρνητικής παραγώγου του σφάλματος και οι οποίοι παρουσιάζουν σημαντικά μειονεκτήματα, με κυριότερο από αυτά την εύρεση τοπικού και όχι ολικού βέλτιστου [3], [4], [5]. Ακόμα ένα πρόβλημα στην εκπαίδευση των νευρωνικών δικτύων προκαλείται από την ύπαρξη ελλιπών τιμών (missing values) στα δεδομένα του προβλήματος. Αυτό σημαίνει ότι ένα ή περισσότερα πρότυπα δεν διαθέτουν τιμές σε όλα τα χαρακτηριστικά, αλλά μόνο σε ορισμένα από αυτά. Προφανώς, η απόδοση του νευρωνικού δικτύου σε τέτοιες περιπτώσεις θα είναι ίση ή μικρότερη από την αντίστοιχη περίπτωση όπου θα είχαμε τιμές σε όλα τα χαρακτηριστικά [6], [7]. Ένα ακόμα πολύ σημαντικό στοιχείο που πρέπει να καθοριστεί σε ένα πολυεπίπεδο νευρωνικό δίκτυο εμπρόσθιας τροφοδότησης πριν αρχίσει η εκπαίδευσή του με κάποιον από τους αλγορίθμους της κατηγορίας των επαναληπτικών αλγορίθμων που βασίζονται στην κατεύθυνση της αρνητικής παραγώγου του λάθους, είναι η τοπολογία του, δηλαδή ο αριθμός των επιπέδων που θα έχει, καθώς και το ποιες συνάψεις υπάρχουν μεταξύ των κόμβων ενός επιπέδου και αυτών του επόμενου [8], [9], [10]. Η επιλογή της τοπολογίας ενός νευρωνικού δικτύου για ένα δεδομένο πρόβλημα παίζει καθοριστικό ρόλο στην απόδοσή του εξαιτίας της στενής σχέσης μεταξύ της τοπολογίας του νευρωνικού δικτύου και της πληροφορίας που αυτό μπορεί να επεξεργαστεί. Ένα υπερβολικό μικρό νευρωνικό δίκτυο δεν μπορεί να μάθει καλά ένα πρόβλημα, ενώ ένα υπερβολικά μεγάλο οδηγεί σε υπερ- προσαρμογή (over- fitting) και χαμηλή ικανότητα γενίκευσης. Για την επιλογή της τοπολογίας έχουν προταθεί πολλές τεχνικές ωστόσο οι τεχνικές αυτές ανακαλύπτουν μόνο μικρά νευρωνικά δίκτυα και τείνουν να σταματήσουν σε τοπικά ελάχιστα. Τέλος, ο κανόνας μάθησης των νευρωνικών δικτύων καθορίζεται από τον άνθρωπο και μπορεί να μην είναι ο βέλτιστος για μία δεδομένη αρχιτεκτονική και ένα δεδομένο πρόβλημα [11], [12]. Η έρευνα έχει δείξει ότι οι εξελικτικοί αλγόριθμοι μπορούν να αντιμετωπίσουν με επιτυχία το πρόβλημα των τοπικών ελαχίστων, μπορούν να βελτιστοποιούν ταυτοχρόνως την τοπολογία και τα συναπτικά βάρη, να αντιμετωπίσουν το πρόβλημα των ελλιπών τιμών στην εκπαίδευση, αλλά και στην πρόβλεψη, καθώς και την εύρεση του κατάλληλου κανόνα μάθησης [13], [14], [15]. Επομένως, για την εύρεση της τοπολογίας καθώς και των τιμών των συνάψεων του νευρωνικού δικτύου, έχουν προταθεί συνδυασμοί των εξελικτικών αλγορίθμων με τα νευρωνικά δίκτυα [16]. Παρακάτω, αναλύονται τα επιμέρους προβλήματα των νευρωνικών δικτύων που αναφέρθηκαν παραπάνω και προτείνονται τρόποι για την αντιμετώπισή τους. 10

11 b. Τεχνικές Βελτιστοποίησης μόνο των συναπτικών βαρών i. Εισαγωγή Η εκπαίδευση των συναπτικών βαρών σε ένα νευρωνικό δίκτυο συνήθως μοντελοποιείται ως μία συνάρτηση σφάλματος, όπως το μέσο τετραγωνικό λάθος, δηλαδή τη μέση τιμή του τετραγώνου της διαφοράς της τιμής της εξόδου που επιθυμούμε και της τιμής που δίνει το νευρωνικό δίκτυο, με το προσαρμόζουμε επαναληπτική τα συναπτικά βάρη. Πολλοί αλγόριθμοι μάθησης όπως ο αλγόριθμος οπισθοδιάδοσης του σφάλματος (Back- Propagation) και άλλοι, στηρίζονται στην βαθμωτή μείωση του λάθους μέσω μετακίνησης στην κατεύθυνση της αρνητικής παραγώγου. Υπάρχουν ορισμένες επιτυχημένες εφαρμογές του Back- Propagation σε διάφορες περιοχές, αλλά ο Back- Propagation έχει μειονεκτήματα λόγω του ότι βασίζεται στην μετακίνηση στην κατεύθυνση της αρνητικής παραγώγου για να αναπροσαρμόσει τα συναπτικά βάρη. Συχνά παγιδεύεται σε ένα τοπικό ελάχιστο της συνάρτησης σφάλματος και δεν μπορεί να βρει το ολικό ελάχιστο εάν η συνάρτηση σφάλματος είναι με πολλές κορυφές (mutlimodal) ή και μη παραγωγίσιμη. Επίσης, ένα άλλο μειονέκτημα αυτής της οικογένειας αλγορίθμων είναι το γεγονός ότι είναι πολύ ευαίσθητοι στις αρχικές τιμές των συνάψεων που επιλέγονται, διότι αν είναι κοντά σε ένα τοπικό ελάχιστο, τότε ο αλγόριθμος μπορεί να παγιδευτεί σε αυτό [3], [4], [5], [17], 18]. Ένα τρόπος να αντιμετωπίσουμε το πρόβλημα της βασισμένης σε βαθμωτή κάθοδο μάθησης είναι να χρησιμοποιήσουμε εξελικτικούς αλγορίθμους σε συνδυασμό με νευρωνικά δίκτυα, δηλαδή να μοντελοποιήσουμε την διαδικασία της μάθησης ως την εξέλιξη των συναπτικών βαρών σε ένα περιβάλλον καθοριζόμενο από την αρχιτεκτονική και το πρόβλημα ταξινόμησης. Οι εξελικτικοί αλγόριθμοι μπορούν να χρησιμοποιηθούν αποδοτικά για να βρουν ένα σχεδόν βέλτιστο σύνολο συναπτικών βαρών το οποίο να είναι ολικό και όχι τοπικό, χωρίς να χρησιμοποιήσουν την πληροφορία των παραγώγων. Η καταλληλότητα (fitness) ενός νευρωνικού δικτύου μπορεί να οριστεί ανάλογα με τις απαιτήσεις που υπάρχουν. Δύο σημαντικοί παράγοντες οι οποίοι εμφανίζονται συχνά στην συνάρτηση καταλληλότητας είναι το λάθος μεταξύ της επιθυμητής εξόδου και της εξόδου του νευρωνικού δικτύου καθώς και η πολυπλοκότητα του νευρωνικού δικτύου. Σε αντίθεση με τους αλγορίθμους που χρησιμοποιούν πληροφορία των παραγώγων, η αντικειμενική συνάρτηση δεν χρειάζεται να είναι παραγωγίσιμη, ούτε καν συνεχής, καθώς δεν απαιτείται κάτι τέτοιο από τους εξελικτικούς αλγορίθμους. Καθώς οι εξελικτικοί αλγόριθμοι είναι πολύ καλοί στο να αντιμετωπίζουν προβλήματα με μεγάλους, σύνθετους, μη παραγωγίσιμους, και με πολλά τοπικά μέγιστα (multimodal) χώρους έχουν χρησιμοποιηθεί πολύ, τόσο σε ερευνητικό όσο και σε πρακτικό επίπεδο για την εξέλιξη των συνδετικών βαρών [17], [19], [20]. Στις τεχνικές αυτές η τοπολογία του νευρωνικού δικτύου θεωρείται δεδομένη εκ των προτέρων και ο εξελικτικός αλγόριθμος χρησιμοποιείται μόνο για την εξέλιξη των συναπτικών βαρών του νευρωνικού δικτύου. Η εξελικτική προσέγγιση αποτελείται από δύο φάσεις: Η πρώτη είναι αναπαράσταση των συναπτικών βαρών στο χρωμόσωμα και η δεύτερη είναι η επιλογή του εξελικτικού αλγορίθμου, δηλαδή η επιλογή των κατάλληλων γενετικών τελεστών. Διαφορετικές αναπαραστάσεις και διαφορετικοί γενετικοί τελεστές μπορούν να οδηγήσουν σε πολύ διαφορετική απόδοση. Ως αντικειμενική 11

12 συνάρτηση θεωρείται το σφάλμα εξόδου του νευρωνικού δικτύου. Ο αλγόριθμος ολοκληρώνεται όταν το σφάλμα πέσει κάτω από μία τιμή που έχουμε εμείς θέσει ή όταν ο πληθυσμός έχει συγκλίνει [16]. Ένας τυπικός κύκλος εξέλιξης των συναπτικών βαρών είναι ο εξής: 1. Αποκωδικοποίηση κάθε γόνοτυπου στην τρέχουσα γενιά και κατασκευή νευρωνικού δικτύου με αυτά τα συνδετικά βάρη. 2. Αξιολόγηση κάθε νευρωνικού δικτύου που δημιουργείται από την εξέλιξη των βαρών υπολογίζοντας το μέσο τετραγωνικό σφάλμα του. Την αντικειμενική συνάρτηση για τον εξελικτικό αλγόριθμο την αποτελεί το σφάλμα εξόδου αντιστρόφως ανάλογο. Για την αποφυγή των πλεοναζουσών τιμών (redundant values) εφαρμόζεται η μέθοδος της ποινής (penalty method). 3. Επιλογή γονεών για αναπαραγωγή βασισμένη στην αντικειμενική συνάρτηση. 4. Εφαρμογή τελεστών στους γονείς έτσι ώστε να δημιουργηθεί η νέα γενιά απογόνων. ii. Αναπαράσταση Χρωμοσώματος και Γενετικοί Τελεστές Το χρωμόσωμα περιλαμβάνει όλες τις τιμές των συνάψεων του νευρωνικού δικτύου. Οι τιμές αυτές μπορούν να αναπαρασταθούν είτε ως δυαδικοί αριθμοί ενός πλήθους bits (δυαδική συμβολοσειρά), είτε ως πραγματικοί αριθμοί. Στα πλεονεκτήμα της δυαδικής αναπαράστασης συγκαταλέγονται η απλότητα και η ικανοποιητική ικανότητα γενίκευσης. Είναι αρκετά εύκολο να εφαρμοστούν οι συνήθεις γενετικοί τελεστές, λόγω της δυαδικής συμβολοσειράς [14], [21]. Για την κωδικοποίηση σε δυαδική συμβολοσειρά, μπορούν να χρησιμοποιηθούν μέθοδοι όπως ο κώδικας Gray, κτλπ. Προφανώς, όσο περισσότερα bits έχουμε τόσο καλύτερη ακρίβεια αναπαράστασης διαθέτουμε, αλλά τόσο περισσότερο αυξάνεται το μήκος της δυαδικής συμβολοσειράς κάτι που σημαίνει ότι το πρόβλημα γίνεται περισσότερο δύσκολο για τον αλγόριθμο, καθώς και ότι η διαδικασία επιβραδύνεται. Με λιγότερα bits έχουμε μικρότερη ακρίβεια, αλλά πιο εύκολο πρόβλημα για τον αλγόριθμο και πιο γρήγορο. Για την ειδική περίπτωση όπου θέλουμε να έχουμε ακέραιες τιμές συνάψεων, έχει προταθεί μία μέθοδος [22] βασισμένη στην Διαφορική Εξέλιξη (Differential Evolution) [23], η οποία παρουσιάζει πολύ καλά αποτελέσματα. Στην αναπαράσταση με πραγματικούς αριθμούς, οι τιμές των συνάψεων δεν κωδικοποιούνται, αλλά αναπαριστώνται ως ένα διάνυσμα πραγματικών αριθμών [24]. Αυτό έχει το μειονέκτημα ότι δεν μπορούν να χρησιμοποιηθούν οι κλασικοί γενετικοί τελεστές, διότι αυτοί λειτουργούν πάνω σε δυαδικές συμβολοσειρές. Συνήθως για τέτοια αναπαράσταση χρησιμοποιούνται μέθοδοι Εξελικτικού Προγραμματισμού ή Εξελικτικών Στρατηγικών, διότι η φιλοσοφία τους επιτρέπει να λειτουργούν καλά σε συνεχή πεδία τιμών. Αυτές οι τεχνικές βασίζονται κυρίως στην μετάλλαξη παρά στην διασταύρωση στην οποία βασίζονται οι γενετικοί αλγόριθμοι. Οι βασικοί τελεστές μετάλλαξης είναι η Guassian μετάλλαξη [25], [26], [27] και η Gauchy μετάλλαξη [28], η οποία υπερτερεί λόγω ταχύτερης σύγκλισης. Το κύριο πρόβλημα κατά την εξέλιξη των βαρών είναι το συνδυαστικό πρόβλημα (permutation problem) [29]. Το συνδυαστικό πρόβλημα αφορά την μη μονοδιάσταση απεικόνιση του γονοτύπου (αναπαράσταση του νευρωνικού 12

13 δικτύου) και του φαινότυπου (του νευρωνικού δικτύου). Αυτό συμβαίνει διότι σε δύο ίδια νευρωνικά δίκτυα μπορεί να αντιστοιχούν πολλές αναπαραστάσεις, κάτι το οποίο καθιστά την εφαρμογή του τελεστή διασταύρωσης μη αποδοτική διότι περιορίζει τον χώρο αναζήτησης και κατ επέκταση τον χώρο των λύσεων. Figure 3-1 Δύο ίδια νευρωνικά δίκτυα που έχουν διαφορετικές αναπαραστάσεις iii. Σύγκριση Εξελικτικών Τεχνικών και Τεχνικών Βαθμωτής Μείωσης του Λάθους Η εκπαίδευση με εξελικτικές τεχνικές παρουσιάζει σαφή πλεονεκτήματα έναντι αυτής με τεχνικές βαθμωτής μείωσης του λάθους. Αυτό συμβαίνει επειδή μπορεί να χειριστεί ένα πρόβλημα αναζήτησης ολικού βέλτιστου σε ένα τεράστιο, πολύπλοκο, και μη διαφοροποιήσιμο χώρο. Δεν εξαρτώνται από την πληροφορία των παραγώγων της αντικειμενικής συνάρτησης και επομένως είναι εξαιρετικά καλοί όταν η πληροφορία αυτή δεν είναι διαθέσιμη ή η απόκτησή της είναι χρονοβόρα. Επίσης, οι εξελικτικές τεχνικές μπορούν να ενσωματώσουν στην αντικειμενική συνάρτηση πληροφορία σχετική με την πολυπλοκότητα και την γενίκευση του δικτύου. Σε αντίθεση με τις εξελικτικές τεχνικές, οι τεχνικές μείωσης του λάθους δεν μπορούν να συμπεριλάβουν τέτοιους όρους καθώς δεν είναι διαφοροποιήσιμοι. Αν και οι εξελικτικές τεχνικές γενικά είναι αργές, είναι λιγότερο ευαίσθητες στις αρχικές τιμές των συνάψεων και για τον λόγο αυτό βρίσκουν λύσεις κοντά στο ολικό ελάχιστο και όχι κοντά στο τοπικό ελάχιστο της γειτονιάς των αρχικών τιμών, όπως γίνεται με τις τεχνικές βαθμωτής μείωσης τους λάθους. iv. Υβριδική Εκπαίδευση Η υβριδική εκπαίδευση έχει ως στόχο να συνδυάσει τις εξελικτικές τεχνικές που βρίσκουν λύσεις κοντά στο ολικό ελάχιστο, αλλά δυσκολεύονται να βρουν τοπικά ελάχιστα καθώς δεν χρησιμοποιούν άλλη πληροφορία πέρα της αντικειμενικής συνάρτησης και τις τεχνικές βαθμωτής μείωσης του λάθους οι οποίς βρίκουν πολύ καλά τοπικά ελάχιστα στην γειτονιά της αρχικής τιμής. Αυτό γίνεται ως εξής: Αρχικά, ο εξελικτικός αλγόριθμος αναλαμβάνει να εντοπίσει κάποιες λύσεις οι οποίες θα είναι κοντά στο ολικό ελάχιστο και στη συνέχεια οι τεχνικές βαθμωτής μείωσης του λάθους ξεκινώντας από αυτές τις λύσεις αναλαμβάνουν να βρουν το τοπικό ελάχιστο της γειτονιάς αυτής, το οποίο πιθανώς να είναι και το ολικό ελάχιστο του προβλήματος. Η υβριδική εκπαίδευση έχει χρησιμοποιηθεί επιτυχώς σε πολλές εφαρμογές [30], [31], [32], [33]. 13

14 Figure 3-2 Μία απεικόνιση της υβριδικής μεθόδου, όπου οι εξελικτικές τεχνικές χρησιμοποιούνται για να βρουν καλά αρχικά βάρη, ώστε ο αλγόριθμος τοπικής αναζήτησης να βρει το ολικό ελάχιστο εύκολα. Στο [34], χρησιμοποιήθηκαν γενετικοί αλγόριθμοι για αναζήτηση κοντινών βέλτιστων αρχικών συνδετικών βαρών και στην συνέχεια χρησιμοποιήθηκε back- propagation για την αναζήτηση τοπικού βέλτιστου. Τα αποτελέσματα έδειξαν ότι η υβριδική προσέγγιση είναι πολύ πιο αποτελεσματική από την προσέγγιση που χρησιμοποιεί μόνο μία από τις δύο μεθόδους. Παρόμοια δουλειά έγινε σε ανταγωνιστικά νευρωνικά δίκτυα και σε δίκτυα Kohonen με μεγάλη επιτυχία [35]. c. Τεχνικές Βελτιστοποίησης της Αρχιτεκτονικής Ως αρχιτεκτονική ενός νευρωνικού δικτύου ορίζεται η τοπολογία του και η συνάρτηση μεταφοράς κάθε κόμβου του. Όπως έχει ήδη αναφερθεί, η αρχιτεκτονική του νευρωνικού δικτύου παίζει πολύ σημαντικό ρόλο στις ικανότητες επεξεργασίας πληροφορίας που αυτό μπορεί να επιδείξει. Ένα μικρό νευρωνικό δίκτυο με γραμμικές συναρτήσεις μεταφοράς μπορεί να μην είναι σε θέση να μάθει το πρόβλημα, ενώ ένα μεγάλο με μη- γραμμικές συναρτήσεις μεταφοράς μπορεί να υπερ- προσαρμοστεί στο σύνολο δεδομένων εκπαίδευσης και να έχει χαμηλές ικανότητες γενίκευσης [8], [9], [10], [16]. Οι τεχνικές βελτιστοποίησης της αρχιτεκτονικής μπορούν να θεωρηθούν ως αναζήτηση στον χώρο όλων των δυνατών αρχιτεκτονικών, με κάθε σημείο του χώρου να αντιπροσωπεύει μία αρχιτεκτονική. Ως αντικειμενική συνάρτηση χρησιμοποιούνται μετρικές όπως λάθος εκπαίδευσης, πολυπλοκότητα κτλπ, και έτσι σχηματίζεται μία επιφάνεια. Ορισμένες ιδιότητες της επιφάνειας αυτής την κάνουν ιδανική για εφαρμογή εξελικτικών μεθόδων [36]. Συγκεκριμένα, η επιφάνεια είναι άπειρη (μπορούμε να έχουμε άπειρους κόμβους και άπειρο συνδυασμό συνδέσεων συνάψεων), μη διαφορίσιμη (επειδή οι αλλαγές σε κόμβους και συνάψεις είναι διακριτές) και έχει θόρυβο (επειδή η αντιστοίχιση αρχιτεκτονικής και απόδοσης δεν είναι άμεση). Όπως και στην προηγούμενη ομάδα τεχνικών, έτσι και εδώ πρέπει να καθορίσουμε το σχήμα κωδικοποίησης και να καθορίσουμε τους γενετικούς τελεστές. i. Αναπαράσταση Χρωμοσώματος Η κωδικοποίηση εξαρτάται από το πόση λεπτομέρεια που αφορά την αρχιτεκτονική είναι επιθυμητό να συμπεριληφθεί στο χρωμόσωμα. Η επιλογή να κωδικοποιηθούν μόνο τα στοιχεία της αρχιτεκτονικής είναι η άμεση 14

15 κωδικοποίηση (direct encoding) [37]. Από την άλλη, η επιλογή να κωδικοποιηθούν οι κανόνες δημιουργίας της αρχιτεκτονικής αναφέρεται σαν έμμεση κωδικοποίηση (indirect encoding) [38]. Μετά την επιλογή σχήματος κωδικοποίησης μπορεί να χρησιμοποιηθεί ο αλγόριθμος εξέλιξης αρχιτεκτονικών: 1. Αποκωδικοποίηση κάθε γονότυπου στην τρέχουσα γενιά στην αντίστοιχη αρχιτεκτονική. Αν χρησιμοποιείται η έμμεση κωδικοποίηση τότε τα επιπλέον στοιχεία της αρχιτεκτονικής καθορίζονται από αρχικούς κανόνες ανάπτυξης ή από την διαδικασία της εκπαίδευσης. 2. Εκπαίδευση κάθε νευρωνικού δικτύου με αποκωδικοποιημένη αρχιτεκτονική από ένα προκαθορισμένο κανόνα εκπαίδευσης χρησιμοποιώντας τυχαία αρχικά συνδετικά βάρη. 3. Υπολογισμός της απόδοσης (fitness) κάθε ατόμου (κωδικοποιημένη αρχιτεκτονική) βάση των αποτελεσμάτων της εκπαίδευσης καθώς και άλλων κριτηρίων απόδοσης όπως πολυπλοκότητα αρχιτεκτονικής. 4. Επιλογή γονέων από τον πληθυσμό βάση απόδοσης. 5. Εφαρμογή τελεστών αναζήτησης στους γονείς και δημιουργία απογόνων οι οποίοι σχηματίζουν την νέα γενιά. Figure 3-3 Διαφοροποιήσεις εξέλιξης της αρχιτεκτονικής ενός νευρωνικού δικτύου σε σχέση με τον τρόπο κωδικοποίησής του ii. Το Σχήμα Άμεσης Κωδίκοποιησης (Direct Encoding Scheme) Στο σχήμα άμεσης κωδικοποίησης υπάρχουν δύο διαθέσιμες τεχνικές. Η πρώτη διαχωρίζει την εξέλιξη των συνδετικών βαρών από την εξέλιξη της αρχιτεκτονικής, ενώ η δεύτερη εξελίσσει ταυτοχρόνως τόσο την αρχιτεκτονική, όσο και τα συνδετικά βάρη. Εδώ εξετάζουμε την πρώτη τεχνική. Σύμφωνα με την πρώτη προσέγγιση, και με δεδομένο ότι ένα δίκτυο αποτελεί στην ουσία ένα κατευθυνόμενο γράφο, μπορεί να γίνει η αρχιτεκτονική αναπαράσταση του δικτύου από έναν πίνακα γειτνίασης (adjacent matrix). Για παράδειγμα ένας τετραγωνικός πίνακας N N C = (c!" )!! μπορεί να αναπαραστήσει την αρχιτεκτονική ενός νευρωνικού δικτύου με N κόμβους, όπου το c!" δείχνει εάν υπάρχει σύνδεση από τον κόμβο i στον κόμβο j. Αυτό μπορεί να γίνει, θέτοντας c!" = 1 για την παρουσία σύνδεσης και c!" = 0 για την απουσία σύνδεσης. Η δεύτερη τεχνική, χρησιμοποιεί το βάρος της σύνδεσης για να κάνει ταυτόχρονη εξέλιξη βαρών και αρχιτεκτονικής. 15

16 Ο κάθε πίνακας απεικονίζει με σχέση 1 1 την αρχιτεκτονική του νευρωνικού δικτύου. Για την δημιουργία δυαδικής συμβολοσειράς θα πρέπει να συνενωθούν όλες οι στήλες ή οι γραμμές του πίνακα σε μία συμβολοσειρά. Τυχόν περιορισμοί σε αρχιτεκτονικές υπό αναζήτηση μπορούν να εφαρμοστούν με περιορισμούς στους πίνακες. Για παράδειγμα, πίνακας αρχιτεκτονικής αναπαράστασης ενός εμπρόσθιας διάδοσης νευρωνικού δικτύου θα πρέπει να είναι τριγωνικός με όχι μηδενικό το πάνω μισό του πίνακα. Για ανατροφοδοτούμενα νευρωνικά δίκτυα (recurrent neural networks), δεν υπάρχει αντίστοιχος περιορισμός. Οι παρακάτω εικόνες οπτικοποιούν την πληροφορία αυτή. Figure 3-4 Άμεση κωδικοποίηση ενός νευρωνικού δικτύου εμπρόσθιας διάδοσης. Αρχιτεκτονική, πίνακας σύνδεσης και δυαδική αναπαράσταση από αριστερά προς τα δεξιά. Παρατηρούμε πως μόνο στο πάνω μισό υπάρχουν 1. Figure 3-5 Άμεση κωδικοποίηση ενός αναδρομικού (recurrent) νευρωνικού δικτύου. Αρχιτεκτονική, πίνακας σύνδεσης και δυαδική αναπαράσταση από αριστερά προς τα δεξιά. iii. Το Σχήμα Έμμεσης Κωδικοποίησης Για την μείωση του μήκους αναπαράστασης του γονοτύπου, πολλοί ερευνητές χρησιμοποίησαν την έμμεση κωδικοποίηση για την αρχιτεκτονική ενός Νευρωνικού Δικτύου. Οι λεπτομέρειες κάθε σύνδεσης είναι καθορισμένες από προηγούμενη εμπειρία ή από κάποιους κανόνεςκαι στην ουσία εξελίσσονται μόνο βασικά σημεία της αρχιτεκτονικής όπως το πλήθος των κρυφών επιπέδων ή ο αριθμός των κόμβων στο κρυφό επίπεδο [39], [40], [41]. Με την έμμεση κωδικοποίηση επιτυγχάνουμε συμπαγής αναπαράσταση της αρχιτεκτονικής, από την άλλη όμως το αποτέλεσμα της εξέλιξης είναι νευρωνικά δίκτυα με όχι καλή δυνατότητα γενίκευσης. Ακόμα, υπάρχει η πεποίθηση πως η έμμεση κωδικοποίηση είναι πιο κοντά στην αναπαράσταση του φυσικού νοητικού συστήματος επειδή είναι αδύνατο τα χρωμοσώματα να έχουν πληροφορία σχετικά με όλη την αρχιτεκτονική του βιολογικού νευρικού συστήματος. iv. Παραμετρική Αναπαράσταση Οι αρχιτεκτονικές των νευρωνικών δικτύων μπορούν να καθοριστούν από ένα σύνολο παραμέτρων όπως ο αριθμός των κρυφών επιπέδων, ο αριθμός των κρυφών κόμβων σε κάθε επίδο, ο αριθμός των συνδέσεων μεταξύ δύο επιπέδων κτλπ. Αυτές οι παράμετροι μπορούν να κωδικοποιηθούν με διάφορους 16

17 τρόπους σε ένα χρωμόσωμα. Ο Harp et al. [38] χρησιμοποίησαν ένα γενικό περίγραμμα (blueprint) για την αναπαράσταση μίας αρχιτεκτονικής σύμφωνα με το οποίο η κωδικοποίηση ενός νευρωνικού δικτύο αποτελείται από τμήματα ( zone ), τα οποία χωρίζονται σε δύο ομάδες παραμέτρων. Η μία ομάδα αφορά χαρακτηριστικά της ίδιας της ζώνης (π.χ. αριθμός κόμβων) και η άλλη ομάδα περιγράφει χαρακτηριστικά σύνδεσης της ζώνης με άλλες (π.χ. αριθμός συνδέσεων). Δεν γίνεται αυστηρός καθορισμός των συνδέσεων, π.χ. ποιος κόμβος συνδέεται με ποιον. Οι λεπτομέρειες καθορίζονται από κανόνες δημιουργίας (developemental rules) του νευρωνικού δικτύου, αφού η αρχιτεκτονική του έχει εξελιχθεί. Το βασικό σημείο της προσέγγισης αυτής είναι το γεγονός ότι μαζί με την αρχιτεκτονική του νευρωνικού δικτύου εξελίσσονται και οι κανόνες μάθησης. Αν και η παραμετρική αναπαράσταση μπορεί να μειώσει το μέγεθος της δυαδικής συμβολοσειράς που περιγράφει την αρχιτεκτονική του νευρωνικού δικτύου, οι εξελικτικοί αλγόριθμοι μπορούν να ερευνήσουν μόνο ένα μικρό υποσύνολο του συνολικού δυνατού χώρου. Για παράδειγμα, αν κωδικοποιήσουμε μόνο τον αριθμό των κρυφών κόμβων του κρυφού επιπέδου, θεωρούμε ότι έχουμε ένα εμπρόσθιας διάδοσης νευρωνικό δίκτυο με ένα μόνο κρυφό επίπεδο. Επίσης, πρέπει να θεωρήσουμε ότι δύο γειτονικά επίπεδα είναι επίσης πλήρως συνδεδμένα. Γενικά, η παραμετρική αναπαράσταση είναι κατάλληλη όταν ξέρουμε τι είδους αρχιτεκτονικές θέλουμε να βρούμε. Figure 3-6 Αναπαράσταση νευρωνικού δικτύου με τη μέθοδο της παραμετρικής αναπαράστασης v. Αναπαράσταση Βασισμένη σε Κανόνες Ανάπτυξης Μία πολύ διαφορετική αναπαράσταση έμμεσης κωδικοποίησης από την παραμετρική είναι να κωδικοποιηθούν κανόνες ανάπτυξης (developmental rules) στα χρωμοσώματα, οι οποίες χρησιμοποιούνται για να κατασκευαστούν οι αρχιτεκτονικές [40]. Η μετακίνηση από την απευθείας βελτιστοποίηση των αρχιτεκτονικών στην βελτιστοποίηση των κανόνων έχει ορισμένα θετικά σημεία στην εξέλιξη των αρχιτεκτονικών, όπως πιο συμπαγή αναπαράσταση του γενοτύπου. Η καταστροφική χρήση της διασταύρωσης μπορεί να έχει λιγότερο 17

18 άσχημα αποτελέσματα καθώς η αναπαράσταση βασισμένη σε κανόνες ανάπτυξης είναι σε θέση να διατηρήσει τα πιο υποσχόμενα κατασκευαστικά πρότυπα αρχιτεκτονικής [40]. Ωστόσο, η μέθοδος αυτή έχει και προβλήματα [42]. Έχουν αναφερθεί αρκετά καλά αποτελέσματα με κάποια προβλήματα κωδικοποίησης/ αποκωδικοποίησης. Όμως η μέθοδος αυτή έχει κάποια προβλήματα δεδομένου ότι θα πρέπει να προηγηθούν κάποια βήματα που αφορούν την παραγωγή των κανόνων. Πρόσφατη δουλειά από τους Siddiqi και Lucas [43] απέδειξε ότι το σχήμα άμεσης κωδικοποίησης μπορεί να είναι το λιγότερο όσο καλό και η μέθοδος εξέλιξης κανόνων παραγωγής. Επίσης στα αρνητικά της μεθόδου συγκαταλέγεται το γεγονός ότι διαχωρίζει την εξέλιξη της αρχιτεκτονικής από αυτή των βαρών. d. Η Εξέλιξη της Συνάρτησης Μεταφοράς Η συνάρτηση μεταφοράς κάθε κόμβου της αρχιτεκτονικής μέχρι τώρα θεωρούνταν ως δεδομένη και προκαθορισμένη από ειδικούς. Ωστόσο, η συνάρτηση μεταφοράς είναι ένα πολύ σημαντικό μέρος της αρχιτεκτονικής των νευρωνικών δικτύων και επηρεάζει καθοριστικά την απόδοσή τους [44], [45], [46]. Συνήθως η συνάρτηση μεταφοράς θεωρείται ότι είναι η ίδια για όλους τους κόμβους του νευρωνικού δικτύου, ή τουλάχιστον για αυτούς του ίδιου επιπέδου. Οι Stork et al. [47] ήταν από τους πρώτους που εφάρμοσαν εξελικτικούς αλγορίθμους στην εξέλιξη τόσο των τοπολογικών χαρακτηριστικών όσο και των συναρτήσεων μεταφοράς των κόμβων, αν και εξέτασαν μόνο μικρά νευρωνικά δίκτυα με επτά κόμβους. Η συνάρτηση μεταφοράς καθοριζόταν στον γονότυπο και ήταν πολύ πιο πολύπλοκη από την σιγμοειδή επειδή προσπαθούσε να μοντελοποιήσει αυτήν του βιολογικού νευρώνα. Οι White και Ligomenides [48] ανέπτυξαν μία απλούστερη προσέγγιση για την εξέλιξη τόσο των τοπολογικών δομών όσο και των συναρτήσεων μεταφοράς των κόμβων. Σύμφωνα με την προσέγγιση αυτή, στον αρχικό πληθυσμό κάθε νευρωνικό δίκτυο είχε 80 κόμβους με συγμοειδή συνάρτηση μεταφοράς και 20 με γκαουσιανή. Η εξέλιξη χρησιμοποιούνταν για να αποφασίσει την κατάλληλη αναλογία μεταξύ των δύο αυτών συναρτήσεων μεταφοράς. Η σιγμοειδή και η γκαουσιανή συνάρτηση μεταφοράς, καθώς και οι παράμετροί τους δεν εξελίσσονταν. Οι Liu και Yao [49] χρησιμοποίησαν εξελικτικό προγραμματισμό για να εξελίξουν νευρωνικά δίκτυα τα οποία είχαν κόμβους με συναρτήσεις μεταφοράς σιγμοειδή ή γκαουσιανή. Αντί να καθορίσουν τον αριθμό των κόμβων και να προσπαθήσουν να βρουν την κατάλληλη αναλογία μεταξύ των κόμβων που χρησιμοποιούν τις συναρτήσεις αυτές, ο αλγόριθμός τους λειτουργεί προσθέτοντας ή αφαιρώντας έναν κόμβο (είτε με σιγμοειδή είτε με γκαουσιανή συνάρτηση μεταφοράς). Ο τύπος του κόμβου προς προσθήκη ή διαγραφή επιλέγεται τυχαία. Παρατηρήθηκε καλή απόδοση για ορισμένα πρότυπα προβλήματα [49]. e. Ταυτόχρονη Εξέλιξη Αρχιτεκτονικής και Συναπτικών Βαρών Οι παραπάνω εξελικτικές τεχνικές εξελίσσουν μόνο την αρχιτεκτονική, χωρίς να εξελίσουν τα συναπτικά βάρη. Αυτά υπολογίζονται μετά την εύρεση 18

19 της βέλτιστης αρχιτεκτονικής. Στην πραγματικότητα χρησιμοποιούνται τυχαία συναπτικά βάρη κατά την αξιολόγηση, κάτι το οποίο έχει σαν αποτέλεσμα η κρίσιμη διαδικασία υπολογισμού της καταλληλότητας (fitness) των νευρωνικών δικτύων να εμπεριέχει θόρυβο (noisy fitness evaluation), δηλαδή να μην είναι ακριβής [50]. Αυτό συμβαίνει διότι ο φαινότυπος (δηλαδή το νευρωνικό δίκτυο μαζί με τα συναπτικά του βάρη) χρησιμοποιήθηκε για να προσεγγιστεί ο γενότυπος (το νευρωνικό δίκτυο χωρίς τα βάρη. Μία μέθοδος για την αντιμετώπιση του προβλήματος αυτού είναι να εξελίσσονται ταυτόχρονα με την αρχιτεκτονική και τα συναπτικά βάρη. Σε αυτήν την περίπτωση κάθε άτομο του πληθυσμού περιέχει πληροφορία και για την αρχιτεκτονική και για τα συναπτικά βάρη. Έτσι έχουμε αντιστοίχιση φαινοτύπου και γονοτύπου και συνεπώς η εκτιμώμενη καταλληλότητα είναι σωστή και δεν περιέχει θόρυβο. Αναφορικά με τους τελεστές εξέλιξης χρησιμοποιείται κυρίως ο τελεστής μετάλλαξης ενώ αποφεύγεται η χρήση του τελεστή διασταύρωσης. Οι Yao και Liu [50], [51] έχουν αναπτύξει ένα σύστημα με την ονομασία EPNet βασισμένο σε εξελικτικό προγραμματισμό το οποίο εξελίσσει ταυτόχρονα αρχιτεκτονική και συναπτικά βάρη. Το σύστημα αυτό δεν χρησιμοποιεί καθόλου τελεστή διασταύρωσης, ενώ στηρίζεται στην εφαρμογή ενός πλήθους από τελεστές μετάλλαξης. Στην παρακάτω εικόνα φαίνεται η βασική δομή του ΕPNet. Figure 3-7 Διάγραμμα ροής του EPNet Το EPNet χρησιμοποιεί επιλογή βάση κατάταξης που σχηματίζεται από το λάθος της αρχικής εκπαίδευσης. Η εξέλιξη υλοποιείται από πέντε τελεστές μετάλλαξης. υβριδική εκπαίδευση. διαγραφή κόμβου. διαγραφή σύνδεσης. προσθήκη σύνδεσης. προσθήκη κόμβου. Ο μόνος τελεστής που μεταβάλλει συναπτικά βάρη είναι ο τελεστής υβριδικής εκπαίδευσης. Βασίζεται σ ένα τροποποιημένο back propagation αλγόριθμο, μεταβλητό ρυθμό μάθησης και έναν ευρετικό αλγόριθμο 19

20 προσομοιωμένης ανόπτησης. (simulated annealing). Οι άλλοι τελεστές χρησιμοποιούνται για να προσθέτουν ή να αφαιρούν κρυφούς κόμβους από το δίκτυο. To EPNet έχει δοκιμαστεί σε διάφορα προβλήματα νευρωνικών δικτύων με μεγάλη επιτυχία προβλήματα όπως parity problems, πρόβλεψης καρκίνου του μαστού (breast cancer prediction problem), πρόβλεψης καρδιακής νόσου (heart disease prediction problem), πρόβλεψης του διαβήτη (the diabetes prediction problem) κτλπ. f. Η Εξέλιξη των Κανόνων Μάθησης Ένας αλγόριθμος μάθησης νευρωνικών δικτύων μπορεί να έχει διαφορετική απόδοση καθώς εφαρμόζεται σε διαφορετικές αρχιτεκτονικές. Η σχεδίαση των αλγορίθμων μάθησης, ιδίως οι κανόνες μάθησης που χρησιμοποιούνται για την προσαρμογή των συναπτικών βαρών, εξαρτάται πολύ από την αρχιτεκτονική προς εξέταση. Διάφορες παραλλαγές του Hebbian κανόνα μάθησης έχουν προταθεί για να αντιμετωπιστούν οι διάφορες αρχιτεκτονικές. Ωστόσο, η σχεδίαση ενός βέλτιστου κανόνα μάθησης είναι πολύ δύσκολη όταν υπάρχει ελάχιστη πληροφορία για την αρχιτεκτονική του νευρωνικού δικτύου, κάτι το οποίο ισχύει στην πράξη. Αυτό που επιθυμούμε είναι ένας αυτόματος και συστηματικός τρόπος προσαρμογής του κανόνα μάθησης σε μία αρχιτεκτονική και σε ένα πρόβλημα ταξινόμησης. Η σχεδίαση του κανόνα μάθησης από τον άνθρωπο παίρνει ως δεδομένο κάποιες υποθέσεις, οι οποίες ωστόσο μπορεί να μην ισχύουν στην πράξη. Για παράδειγμα, ο ευρέως αποδεκτός Hebbian κανόνας μάθησης έχει αποδειχτεί κατώτερος από έναν νέο κανόνα που προτάθηκε από του Artola et al. [52] σε πολλές περιπτώσεις [53]. O νέος αυτός κανόνας μπορεί να μάθει περισσότερα πρότυπα από ότι ο Hebbian κανόνας και μπορεί να μάθει όχι μόνο τους κανόνες, αλλά και τις εξαιρέσεις. Είναι ωστόσο δύσκολο να πούμε εάν ο κανόνας αυτός είναι βέλτιστος για όλα τα νευρωνικά δίκτυα. Στην πραγματικότητα, αυτό που χρειαζόμαστε από ένα νευρωνικό δίκτυο είναι η δυνατότητά του να προσαρμόζει τον κανόνα μάθησής του με βάση την αρχιτεκτονική και το πρόβλημα ταξινόμησης, και όχι να τον θέτει ο άνθρωπος. Καθώς η εξέλιξη είναι από τις πιο δεδομένες μεθόδους για προσαρμογή, η εξέλιξη των συναπτικών βαρών έχει εισαχθεί στα νευρωνικά δίκτυα ώστε αυτά να μάθουν τους κανόνες μάθησης. Η σχέση μεταξύ της εκπαίδευσης και της εξέλιξης είναι εξαιρετικά πολύπλοκη. Διάφορα μοντέλα έχουν προταθεί, όμως τα περισσότερα περιγράφουν τον τρόπο με τον οποίο οι αλγόριθμοι μάθησης κατευθύνουν την εξέλιξη. Οι μελέτες για την εξέλιξη αλγορίθμων μάθησης είναι σε πολύ πρώιμο στάδιο και ασχολούνται κυρίως με την βελτιστοποίησή τους, με την μοντελοποίηση της σχέσης τους με εξελικτικούς αλγορίθμους και τέλος με τον τρόπο που θα υλοποιείται μια τέτοια προσαρμογή δυναμικά. Μία τυπική προσέγγιση μίας διαδικασίας εξέλιξης κανόνων μάθησης είναι η εξής: 1. Αποκωδικοποίηση κάθε ατόμου του πληθυσμού της τρέχουσας γενιάς σε κανόνα μάθησης. 2. Κατασκευή ενός συνόλου νευρωνικών δικτύων με τυχαία αρχιτεκτονική και συναπτικά βάρη και εκπαίδευση με τη χρήση του αποκωδικοποιημένου αλγορίθμου εκπαίδευσης. 3. Υπολογισμός της καταλληλότητας κάθε ατόμου σύμφωνα με ένα μέσο όρο αποτελέσματος από την εκπαίδευση. 20

21 4. Επιλογή γονέων από την τρέχουσα γενεά βάση της απόδοσής του. 5. Εφαρμογή τελεστών αναζήτησης στους γονείς και δημιουργία απογόνων οι οποίοι σχηματίζουν την νέα γενιά. Κατά παρόμοιο τρόπο με την αξιολόγηση της αρχιτεκτονικής παρουσιάζονται σφάλματα κατά την αξιολόγηση της εξέλιξης των καόνων λόγω της χρήσης του φαινοτύπου και όχι του γονοτύπου. Για την αντιμετώπιση του μπορεί να χρησιμοποιηθεί στη συνάρτηση αξιολόγησης ένας μέσος όρος από την αξιολόγηση από νευρωνικά δίκτυα με τυχαία βάρη. g. Η Εξέλιξη των Παραμέτρων των Αλγορίθμων Εκπαίδευσης Η πρώτη χρονολογικά προσπάθεια εξέλιξης κανόνων εκπαίδευσης αφορούσε παραμέτρους (όπως ρυθμός μάθησης και momentum) του αλγορίθμου back propagation. Ο Harp et al. [38] κωδικοποίησε τις παραμέτρους του αλγορίθμου μαζί με την αρχιτεκτονική του Νευρωνικού ικτύου και τις εξέλισσε μαζί. Άλλοι ερευνητές εξέλισσαν τις παραμέτρους αλλά είχαν την αρχιτεκτονική του Νευρωνικού ικτύου προκαθορισμένη. Σε γενικές γραμμές έχουν εντοπιστεί βέλτιστες επιλογές momentum και ρυθμού εκμάθησης για τον back propagation πράγμα που κάνει μη αναγκαία την εξέλιξή τους. h. Η Εξέλιξη των Κανόνων Εκπαίδευσης Η εξέλιξη των παραμέτρων του αλγόριθμου εκπαίδευσης επηρεάζει πολύ λίγο το πραγματικά σημαντικό κομμάτι της εκπαιδευτικής διαδικασίας: τον αλγόριθμο εκπαίδευσης και την μεταβολή των συναπτικών βαρών [70]. Αντίθετα, η διαδικασία της εξέλιξης αρχιτεκτονικής και βαρών μεταβάλλει ουσιαστικά δύο από τις στατικές παραμέτρους ενός Νευρωνικού ικτύου : τα βάρη και την αρχιτεκτονική. Το πρόβλημα που προκύπτει είναι το πώς να κωδικοποιηθεί η δυναμική συμπεριφορά ενός κανόνα εκπαίδευσης. Φυσικά δεν γίνεται λόγος για το ενδεχόμενο να βρεθεί ένας γενικός κανόνας κωδικοποίησης γιατί τότε θα ήταν αδύνατο να γίνει αναζήτηση σε τόσο μεγάλο αριθμητικό εύρος. ύο βασικές παραδοχές θα πρέπει να γίνουν σε σχέση με την εκπαίδευση των κανόνων εκπαίδευσης: Πρώτον, η ενημέρωση των βαρών εξαρτάται μόνο από τοπική πληροφορία δηλαδή από το άθροισμα των βαρών και bias του νευρώνα μια δεδομένη στιγμή. Το άθροισμα αυτό μπορεί να θεωρηθεί και ως μεταβλητή. Δεύτερον ο κανόνας εκπαίδευσης είναι ο ίδιος για όλες τις συνδέσεις Ο κανόνας εκπαίδευσης μπορεί τότε να δοθεί σαν το συνολικό άθροισμα των γινομένων των μεταβλητών που αντιπροσωπεύουν ας πούμε την εσωτερική κατάσταση του νευρώνα επί κάποιες παραμέτρους. Οι παράμετροι αυτοί είναι στην ουσία αυτοί που θα προσπαθήσουμε να βελτιστοποιηθούν. Ο μαθηματικός τύπος απεικονίζει τη σχέση αυτή:!!! Δw t =!!!!!,!!,,!!!!(θ!!,!!,,!!!!!!! x!! (t 1)) (2.1) όπου είναι η μεταβολή του βάρους οι μεταβλητές του νευρώνα και οι πραγματικοί παράμετροι που θα πρέπει να εξελιχθούν. Όπως έχουμε όμως πει είναι πρακτικά αδύνατο να αναζητηθεί βέλτιστο σε ένα τόσο μεγάλο πεδίο τόσων παραμέτρων. Αυτό που γίνεται είναι να εξελιχθεί ένα υποσύνολο λαμβάνοντας υπόψη μόνο μερικές μεταβλητές. Συνοπτικά, 21

22 δεδομένης της αναπαράστασης ενός κανόνας εξέλιξης με τον προηγούμενο τύπο υπάρχουν κάποιοι επιπλέον παράμετροι που θα πρέπει να καθοριστούν:. καθορισμός του υποσυνόλου των μεταβλητών που θα συμμετέχουν στην εξέλιξη. αναπαράσταση των πραγματικών παραμέτρων της εξίσωσης σε χρωμόσωμα. ο Εξελικτικός Αλγόριθμος που θα χρησιμοποιηθεί για την εξέλιξη. Μια καλή πρόταση έχει δοθεί από τον Chalmes [54] ο οποίος χρησιμοποιεί μόνο τέσσερις μεταβλητές και κωδικοποιεί τις παραμέτρους σε δυαδική μορφή χρησιμοποιώντας εκθετική αναπαράσταση. Η αρχιτεκτονική είναι καθορισμένη γιατί χρησιμοποιεί μόνο ένα κρυφό επίπεδο. Μετά από 1000 περίπου γενιές αρχίζοντας από τυχαίο πληθυσμό η εξέλιξη αποκάλυψε το γνωστό κανόνα δέλτα και κάποιες παραλλαγές του.. Ο Bengio et al [55], [56] παρουσίασε προσέγγιση λίγο διαφορετική από του Chalmes με προσομοιωμένη ανόπτηση αντί για κάποιο Εξελικτικό Αλγόριθμο. i. Άλλου Είδους Συνδυασμοί Ανάμεσα σε Νευρωνικά Δίκτυα και Εξελικτικούς Αλγορίθμους i. Εξέλιξη των Χαρακτηριστικών Για πολλά πρακτικά προβλήματα, τα πιθανά χαρακτηριστικά σε ένα νευρωνικό δίκτυο μπορεί να είναι υπερβολικά πολλά. Ίσως να υπάρχει κάποιος πλεονασμός όσον αφορά την πληροφορία που δίνουν τα χαρακτηριστικά αυτά. Ένας μεγάλος αριθμός χαρακτηριστικών σε ένα νευρωνικό δίκτυο αυξάνει το απαιτούμενο μέγεθός του και απαιτεί περισσότερα δεδομένα εκπαίδευσης, καθώς και περισσότερο χρόνο εκπαίδευσης, έτσι ώστε να αποκτήσει μία ικανοποιητική δυνατότητα γενίκευσης. Η προεπεξεργασία των δεδομένων συχνά απαιτείται για να μειωθεί ο αριθμός των εισόδων σε ένα νευρωνικό δίκτυο. Διάφορες τεχνικές μείωσης της διαστατικότητας (dimension reduction techniques) με δύο βασικές κατηγορίες αλγορίθμων: την επιλογή χαρακτηριστικών (feature selection) και την εξαγωγή χαρακτηριστικών (feature extraction), έχουν προταθεί για τον σκοπό αυτό. Το πρόβλημα εύρεσης ενός σχεδόν βέλτιστου υποσυνόλου εισόδων σε ένα νευρωνικό δίκτυο μπορεί να θεωρηθεί ως ένα πρόβλημα αναζήτησης. Με δεδομένο ένα μεγάλο σύνολο πιθανών εισόδων, θέλουμε να βρούμε ένα σχεδόν βέλιστο υποσύνολο με τον ελάχιστο αριθμό εισόδων, αλλά η απόδοση του νευρωνικού δικτύου χρησιμοποιώντας αυτό το υποσύνολο να μην είναι χειρότερη από ότι αν το νευρωνικό δίκτυο χρησιμοποιούσε όλο το σύνολο των εισόδων. Οι εξελικτικοί αλγόριθμοι έχουν προταθεί για μία αποδοτική αναζήτηση του σχεδόν βέλτιστου υποσυνόλου των εισόδων [57], [58], [59]. Πολύ καλά αποτελέσματα έχουν παραχθεί με τις μεθόδους αυτές. Στην εξέλιξη των εισόδων κάθε άτομο του πληθυσμού αναπαριστά ένα υποσύνολο όλων των δυνατών εισόδων. Αυτό μπορεί να υλοποιηθεί χρησιμοποιώντας ένα δυαδικό χρωμόσωμα του οποίου το μήκος θα είναι ίσο με τον συνολικό αριθμό των εισόδων, και κάθε bit στο χρωμόσωμα αντιστοιχεί σε μία είσοδο. Το «1» σημαίνει παρουσία της αντίστοιχης εισόδου, ενώ το «0» σημαίνει απουσία αυτής. Η καταλληλότητα ενός ατόμου υπολογίζεται εκπαιδεύοντας το νευρωνικό δίκτυο με αυτές τις εισόδους και υπολογίζοντας την καταλληλότητά 22

23 του. Η αρχιτεκτονική του νευρωνικού δικτύου συνήθως είναι προκαθορισμένη. Τέτοιος όμως υπολογισμός της καταλληλότητας είναι πολύ θορυβώδης. Η εξέλιξη των εισόδων μπορεί να χρησιμοποιηθεί όχι μόνο για να παράσχει ένα τρόπο περιγραφής σημαντικών εισόδων από όλες τις πιθανές εισόδους, αλλά μπορεί επίσης να χρησιμοποιηθεί για την ανακάλυψη νέων παραδειγμάτων εκπαίδευσης. Ο Zhang και ο Veenker [60] περιγράφουν μία ενεργητική μέθοδο εκπαίδευσης όπου ένας αλγόριθμος μάθησης βασισμένος σε εξελικτικούς αλγορίθμους μπορεί να επιλέξει μόνος του παραδείγματα εκπαίδευσης. Ο Cho και ο Cha [61] πρότειναν έναν άλλο αλγόριθμο για εξέλιξη συνόλων εκπαίδευσης, προσθέτοντας εικονικά παραδείγματα. ii. Νευρωνικά Δίκτυα σαν Συναρτήσεις Απόδοσης Οι εξελικτικοί αλγόριθμοι χρησιμοποιούνται με επιτυχία στη βελτιστοποίηση των παραμέτρων διάφορων συστημάτων ελέγχου. Είναι όμως χρονικά και οικονομικά ασύμφορο να τρέχει κάθε τόσο το σύστημα για να μπορεί να αξιολογηθεί από την συνάρτηση αξιολόγησης του εξελικτικού αλγορίθμου. Έτσι χρησιμοποιούνται Νευρωνικά ίκτυα που μοντελοποιούν το σύστημα και στις εισόδους τους τοποθετούνται οι παράμετροι του συστήματος ελέγχου. Την προσεγγιστική έξοδο του Νευρωνικού ικτύου την αξιολογεί ο εξελικτικός αλγόριθμος για να κάνει την επιλογή για την επόμενη γενιά από το πλήθος των παραμέτρων του συστήματος. Εδώ βλέπουμε ότι είναι οι Εξελικτικοί Αλγόριθμοι που χρησιμοποιούν τα Νευρωνικά ίκτυα για να πετύχουν το στόχο που είναι η βελτιστοποίηση ενός συστήματος. iii. Εξέλιξη Συνόλων (Ensembles) Νευρωνικών Δικτύων Η μάθηση συχνά μοντελοποιείται ως ένα πρόβλημα βελτιστοποίησης στο πεδίο της Μηχανικής Μάθησης. Ωστόσο, η μάθηση είναι διαφορετική από την βελτιστοποίηση διότι θέλουμε να μάθουμε ένα σύστημα με την μέγιστη γενίκευση, κάτι το οποίο είναι διαφορετικό από την ελαχιστοποίηση μίας συνάρτησης λάθους σε ένα σύνολο παραδειγμάτων εκπαίδευσης. Το νευρωνικό δίκτυο με το ελάχιστο σφάλμα σε ένα σύνολο παραδειγμάτων εκπαίδευσης μπορεί να μην έχει την καλύτερη γενίκευση εκτός αν υπάρχει μία αντιστοιχία ανάμεσα στην γενίκευση και στο σφάλμα του συνόλου παραδειγμάτων εκπαίδευσης. Δυστυχώς η μέτρηση της γενίκευσης είναι σχεδόν αδύνατη πρακτικά [62], αν και έχουν προταθεί μέθδοι και κριτήρια όπως το minimum description length (MDL) [63], Akaike information criteria (AIC) [64], και minimum message length (MML) [65]. Στην πράξη τα κριτήρια αυτά συνήθως χρησιμοποιούνται για να ορίσουμε καλύτερες συναρτήσεις σφάλματος ελπίζοντας ότι ελαχιστοποιώντας τις συναρτήσεις αυτές θα μεγιστοποιήσουμε την γενίκευση. Αν και αυτές οι συναρτήσεις συνήθως οδηγούν σε καλύτερη γενίκευση, δεν υπάρχει κάποια εγγύηση ότι θα γίνει αυτό. Καθώς οι εξελικτικοί αλγόριθμοι χρησιμοποιούνται για να ελαχιστοποιήσουν μία συνάρτηση σφάλματος έρχονται αντιμέτωποι με το πρόβλημα που περιγράψαμε παραπάνω. Επομένως, το νευρωνικό δίκτυο ενός πληθυσμού το οποίο έχει την μέγιστη απόδοση μπορεί να μην έχει και την μέγιστη ικανότητα γενίκευσης. Άλλα άτομα του πληθυσμού μπορεί να περιέχουν χρήσιμη πληροφορία, η οποία θα μας βοηθήσει να βελτιώσουμε την ικανότητα γενίκευσης του συστήματος. Έτσι, είναι καλό να χρησιμοποιήσουμε όλο τον πληθυσμό αντί για ένα μόνο άτομο. Ο πληθυσμός πάντα περιέχει 23