Νευρωνικά ίκτυα και Εξελικτικός

Νευρωνικά ίκτυα και Εξελικτικός Προγραµµατισµός Σηµερινό Μάθηµα Μη επιβλεπόµενη Μάθηση Ανταγωνιστική Μάθηση Αλγόριθµος Leader-follower clusterng Αυτοοργανούµενοι χάρτες Kohonen Ανταγωνισµός Συνεργασία Προσαρµογή ίκτυα Hopfeld Ελαχιστοποίηση ενέργειας Συµµετρία 1

Μάθηση χωρίς επίβλεψη (Unsupervsed learnng) Μη επιγεγραµµένα (unlabelled) δεδοµένα Οµαδοποίηση (clusterng) Όµοιες είσοδοι πρέπει να ανήκουν στην ίδια οµάδα. Οι οµάδες προσδιορίζονται από το δίκτυο βάσει συσχετίσεων των δεδοµένων εισόδου. Αυτοοργάνωση Ανταγωνιστική Μάθηση Είναι µορφή µη επιβλέψιµης εκπαίδευση δικτύων όπου οι µονάδες εξόδου θεωρούνται να είναι σε ανταγωνισµό για πρότυπα εισόδου. Κατά τη διάρκεια της εκπαίδευσης, η µονάδα εξόδου που εµφανίζει την πιο υψηλή ενεργοποίηση σε δεδοµένο πρότυπο εισόδου θεωρείται νικητής και µετακινείται πιο κοντά στο πρότυπο εισόδου, ενώ οι υπόλοιποι νευρώνες παραµένουν αµετάλαχτοι. 2

Αυτοοργάνωση: βιολογικά πρότυπα Τοπικότητα λειτουργιών Γεωµετρική διάταξη νευρώνων Υπολογιστικοί χάρτες Ανταγωνιστική Μάθηση Αυτήηστρατηγικήονοµάζεται επίσης «wnnertake-all» λόγω του ότι µονοονευρώνας-νικητής αναπροσαρµόζεται. Οι µονάδες εξόδου ενδέχεται να έχουν και ανατρεπτικές συνδέσεις ώστε ο νευρώνας-νικητής µπορεί να ανατρέψει άλλους ανάλογα µετο επίπεδο ενεργοποίησης του 3

Ανταγωνιστική Μάθηση Τα βάρη των νευρώνων και τα πρότυπα εισαγωγής τυπικά κανονικοποιούνται. Με κανονικοποιηµένα διανύσµατα η συνάρτηση ενεργοποιήσης της -στης µονάδας, µπορούν να υπολογιστούν ως το εσωτερικό γινόµενο του διανύσµατος βαρών και συγκεκριµένου πρότυπου εισόδου. Ανταγωνιστική Μάθηση Το εσωτερικό γινόµενο είναι το συνηµίτονο της µεταξύ τους γωνίας Ονευρώναµετηµεγαλύτερη ενεργοποίηση θεωρείται ότι µοιάζει περισσότερο µε την είσοδο που προκάλεσε τη διέγερση. Τα βάρη επανακανονικοποιούνται 4

Ανταγωνιστική Μάθηση Αν τα βάρη και τα πρότυπα δεν είναι κανονικοποιηµένα, τότε ως συνάρτηση ενεργοποίησης χρησιµοποιείται η Ευκλίδεια απόσταση: Ο κανόνας µάθησης τότε γίνεται: Αλγόριθµος Βασικής Ανταγωνιστικής Μάθησης 1. Κανονικοποίησε όλα τα πρότυπα 2. Διάλεξε τυχάια πρότυπο x (n 2a. Βρες το νευρώνα νικητή ( [ w Τ n = argmax x j ] 2.b. Άλλαξε το νευρώνα νικητή (n w = w + η x 2c. Κανονικοποίησε το νευρώνα νικητή w w = w 3. Πήγαινε στο βήμα 2 μέχρι να μην υπάρξει αλλαγή σε Κ βήματα 5

Αλγόριθµος Leader-follower clusterng 1. Κανονικοποίησε όλα τα πρότυπα 2. Διάλεξε τυχάια πρότυπο x (n 2a. Βρες το νευρώνα νικητή Τ ( n = argmax[ wj x ] 2.b. Αν x (n j -w <θάλλαξε το νευρώνα νικητή (n w = w + η x Αλλιώς πρόσθεσε νέο νευρώνα (n w new = x 2c. Κανονικοποίησε τους νευρώνες 3. Πήγαινε στο βήμα 2 μέχρι να μην υπάρξει αλλαγή σε Κ βήματα Απλή ανταγωνιστική µάθηση Οµαδοποίηση: Σύγκλιση στα κέντρα βάρους 6

ιανυσµατικός κβαντισµός (vector quantzaton - VQ) M κατηγορίες διανυσµάτων (codebook) Εύρεση συνόλου πρωτότυπων διανυσµάτων (prototype vectors) Οαλγόριθµος k-µέσων (k-means) Σταθερός (προκαθορισµένος) αριθµός οµάδων Σηµειακή οµαδοποίηση (pont clusterng) Παραµετρική οµαδοποίηση Εύρεση συµπαγών οµάδων (νεφών) Κάθε οµάδα αντιπροσωπεύεται από ένα σηµείο. Άκαµπτη οµαδοποίηση (hard clusterng) Αντιστοίχιση καθενός προτύπου σε µια οµάδα 7

Οαλγόριθµος k-µέσων Σε κάθε βήµα : Ταξινόµηση καθενός προτύπου στην οµάδα Ω k µετη µικρότερη απόσταση d ( x, wk ) = mn d( x, w j ) Υπολογισµός των νέων κέντρων των οµάδων j w ( t+ 1) 1 j = ( t) N j x Ω x ( t ) j ιανυσµατικός κβαντισµός: Μη επιβλεπόµενη µάθηση Απλή ανταγωνιστική µάθηση Νευρωνική (σειριακή) διατύπωση του αλγορίθµου k- µέσων Αριθµός εξόδων = αριθµός οµάδων Ενηµέρωση βαρών του νικητή µόνο 8

Αυτοοργανούµενοι χάρτες Kohonen Οι αυτοοργανούµενοι χάρτες Kohonen (Self-Organzng Maps SOMs) παράγουν µια αντιστοιχία από τον πολυδιάστατο χώρο σε ένα δίκτυο νευρώνων Το κύριο χαρακτηριστικό των SOM είναι ότι διατηρούν την τοπολογία, οπότε γειτονικοί νευρώνες αντιστοιχούν σε παρόµοια πρότυπα Οι SOM οργανώνονται ως µονοδιάστατα ή διδιάστατα δίκτυα Αυτοοργανούµενοι χάρτες Kohonen Αντίθετα µεταmlp δίκτυα που εκπαιδεύονται µετοναλγόριθµο back-propagaton, οι SOM έχουν νευροβιολογική βάση: Στον εγκέφαλο των θυλαστικών τα οπτικά, ακουστικά και αφής ερεθίσµατα χαρτογραφούνται σε επίπεδα κυττάρων Η τοπολογία διατηρείται: αν αγγίξουµε µέρη του σώµατος που βρίσκονται κοντά, θα ενεργοποιηθούν οµάδες κυττάρων που βρίσκονται επίσης κοντά 9

Αυτοοργανούµενοι χάρτες Kohonen Οι Kohonen SOM είναι αποτέλεσµα της συνεργίας τριών βασικών διαδικασιών Ανταγωνισµός Συνεργασία Ανταµοιβή ίκτυο SOM Φάση ανταγωνισµού Νικητής: ελάχιστη ευκλείδεια απόσταση mn d = x j w j Φάση συνεργασίας Καθορισµός τοπολογικής γειτονιάς Φάση ανταµοιβής Προσαρµογή βαρών νικήτριας γειτονιάς 10

Ανταγωνισµός Σε κάθε νευρώνα του SOM αποδίδεται ένα διανυσµατικό βάρος διαστάσεων Ν ίδιας µετο δειγµατοχώρο Κάθε πρότυπο εισόδου συγκρίνεται µε το βάρος κάθε νευρώνα και ο νευρώνας µε το πλησιέστερο διανυσµατικό βάρος ανακηρύσσεται νικητής Ανταγωνισµός 11

Συνεργασία Η ενεργοποίηση του νευρώνα-νικητή διαχέεται στους νευρώνες της γειτονιάς του Αυτό επιτρέπει η τοπολογία κοντινών νευρώνων να γίνει ευαίσθητη σε παρόµοια πρότυπα Η απόσταση από το νικητή στην τοπολογία του δικτύου ορίζεται ως συνάρτηση του πλήθους των συνδέσεων µετονικητή Το µέγεθος της γειτονιάς είναι αρχικά µεγάλο αλλά συρρικνώνεται µετοχρόνοκαθώςµεγάλη γειτονιά σηµαίνει διατήρηση της τοπολογίας ενώ µικρότερη επιτρέπει εξειδίκευση των νευρώνων Συνεργασία 12

Ανταµοιβή Κατά την εκπαίδευση, ονικητήςκαιοι γείτονες του προσαρµόζουν τα βάρη τους να µοιάσουν πιο πολύ στο πρότυπο εισαγωγής Ο κανόνας προσαρµογής είναι παρόµοιος αυτού της ανταγωνιστικής µάθησης Οι νευρώνες που βρίσκονται πιο κοντά στο νικητή προσαρµόζονται περισσότερο από τους πιο µακρινούς Το µέγεθος προσαρµογής ελέγχεται από το συντελεστή µάθησης που εξασθενεί µετο χρόνο για να εξασφαλίσει σύγκλιση του SOM ίκτυο SOM Φάση ανταµοιβής ( t+ 1) ( t) w ( ), ( ) j = w j + η t h t x j w : νικητής νευρώνας ( x) ( t) j, j 0 η ( t) 1 Συντελεστής µάθησης φθίνων µε τοχρόνο (εκθετική µείωση) 13

Προσαρµογή Αλγόριθµος εκπαίδευσης SOM 1. Αρχικοποίησε τα βάρη µε µικρές τυχαίες τιµές 2. Επανέλαβε ωσότου υπάρξει σύγκλιση 2a. Επέλεξε πρότυπο εισόδου x (n (). Επέλεξε τη µονάδα που µοιάζει στο x (n (). Προσάρµοσε τα βάρη του νικητκή w και των γειτόνων του w k 2b. Μείωσε τον τελεστή µάθησης η(t) 2c. Μείωσε τη γειτονιά σ(t) 14

Αλγόριθµος εκπαίδευσης SOM ορισµοί Κανόνας µείωσης του τελεστή µάθησης Κανόνας µείωσης γειτονιάς Συνάρτηση kernel ορισµού της γειτονιάς όπου d k είναι η απόσταση στο δίκτυο µεταξύ w και w k 15

ίκτυο Hopfeld Μονοστρωµατική (sngle-layer) Επαναληπτική (recurrent) αρχιτεκτονική w j =w j,,j=1,,n w =0, =1,,N 16

ίκτυα Hopfeld Ένα δίκτυο Hopfeld είναι ένα δίκτυο µονάδων που προσαρµόζουν ένα νευρώνα τη φορά, χρησιµοποιώντας τον ασύγχρονο κανόνα: «επέλεξε τυχαία µία µονάδα Αν Σw j s j θ, ενεργοποίησε τη Αλλιώς απενεργοποίησε τη» Θεωρείται ότι ισχύει συµµετρία w j = w j ίκτυα Hopfeld Ο Hopfeld όρισε την ενέργεια ως: E = 1 2 ss jwj + j όπου s ητιµή ενεργοποίησης του κόµβου. s θ 17

ίκτυα Hopfeld s :µεταβολή από 0 σε 1 Αν αρχικά το s είναι 0 και Σw j s j θ Τότε το s γίνεται 1 Η µεταβολή στην ενέργεια γίνεται ίκτυα Hopfeld s :µεταβολή από 1 σε 0 Αν αρχικά το s είναι 1 και Σw j s j < θ Τότε το s γίνεται 0 Η µεταβολή στην ενέργεια γίνεται 18

ίκτυα Hopfeld ελαχιστοποίηση ενέργειας Σε κάθε προσαρµογή έχουµε E 0 Ηδυναµική του δικτύου είναι τέτοια που τείνει σε ελαχιστοποίηση της ενέργειας εν εγγυάται σφαιρική ελαχιστοποίηση ίκτυα Hopfeld Συµµετρία Ησυνθήκησυµµετρίας w j = w j είναι κρίσιµη για να ισχύει E 0 Χωρίςτησυµµετρία δεν µπορεί ο όρος ½ Σ j (w j +w j )s j -θ να γίνει Σ j w j s j -θ και ο κανόνας προσαρµογής δεν εγγυάται ελαχιστοποίηση ενέργειας Στα περισσότερα προβλήµατα οπτικής, οι περιορισµοί µπορούν να αποδοθούν µε συµµετρικά βάρη 19

ίκτυα Hopfeld Ο ασύγχρονος κανόνας προσαρµογής είναι κρίσιµος. Θεωρήστε το πιο κάτω flp-flop µε σταθερή είσοδο 1, w 12 =w 21 =1 και θ 1 =θ 2 =0.5 Α Β Ένα σύγχρονο δίκτυο θα ταλαντευόνταν µεταξύ των καταστάσεων (0,1) και (1,0) ηθαέµενε στις (0,0) ή (1,1) χωρίς εγγύηση εξισορρόπησης ίκτυα Hopfeld Α Εδώλόγωτης: E = 1 2 Β ss jwj + j s θ E(0,0) = 0 E(0,1) = E(1,0) = 0.5 E(1,1) = 0 Καιτοδίκτυοθασυγκλίνειστο ελάχιστο (0,0) ή (1,1) 20