Προσαρμοστικό Σύστημα Νευρο-ασαφούς Συμπερασμού ANFIS (Adaptive Network based Fuzzy Inference System)

Transcript

1 ΔΗΜΟΚΡΙΤΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΡΑΚΗΣ Πολυτεχνική Σχολή Τμήμα Πολιτικών Μηχανικών DEMOCRITUS UNIVERSITY OF THRACE SCHOOL OF ENGINEERING Department of Civil Engineering Προσαρμοστικό Σύστημα Νευρο-ασαφούς Συμπερασμού ANFIS (Adaptive Network based Fuzzy Inference System)

2 FIS (Fuzzy Inference System) ΑΣΑΦΕΣ ΣΥΣΤΗΜΑ ΕΞΑΓΩΓΗΣ ΣΥΜΠΕΡΑΣΜΑΤΩΝ ΑΣΑΦΗΣ ΣΥΜΠΕΡΑΣΜΟΣ Σύνολο ασαφών κανόνων. Προσομοίωση της γνώσης με τον ανθρώπινο τρόπο σκέψης Τύπος Mamdani Τύπος Takagi-Sugeno-Kang (TSK) i) Υπόθεση (IF) ii) Συμπέρασμα (THEN) Μετατροπή χαρακτηριστικών εισόδου σε συναρτήσεις συμμετοχής Δημιουργία κανόνων βάσει των συναρτήσεων συμμετοχής Καθορισμός ασαφούς συνεπαγωγής και εκτέλεση ασαφών κανόνων Μετατροπή ασαφοποιημένου αποτελέσματος σε σαφή (crisp) έξοδο

3 Γενική Αρχιτεκτονική Ασαφούς Συστήματος Είσοδος Έξοδος Ασαφοποίηση Σύστημα ασαφούς συλλογιστικής Αποασαφοποίηση Τύπος Sugeno

4 ANFIS- Συνδυασμός ασαφών και νευρωνικών συστημάτων ANFIS Υβριδικό Νεύρο-ασαφές Σύστημα Ασαφές Σύστημα Εξαγωγής Συμπερασμάτων(ΑΣΕΣ) Fuzzy Inference System (FIS) Τεχνητό Νευρωνικό Δίκτυο (ΤΝΔ) Artificial Neural Network (ANN) Ασαφές σύστημα τύπου Sugeno σχεδιασμένο με αρχιτεκτονική νευρωνικού δικτύου 5 επιπέδων Σύνολο κανόνων IF-THEN με δυνατότητα εκμάθησης που εφαρμόζονται σε μη γραμμικές συναρτήσεις Ασαφής συμπερασμός δεδομένων εισόδου-εξόδου ενός συστήματος που η δομή του δεν είναι καλά γνωστή ή είναι άγνωστη Οι συναρτήσεις συμμετοχής και οι κανόνες δημιουργούνται/βελτιώνονται με βάση τα δεδομένα από το νεύρο-ασαφές σύστημα και όχι από τον χρήστη Αυτόματη ρύθμιση των τιμών των παραμέτρων (εύρεση βέλτιστων παραμετρικών τιμών) ώστε να μπορούν να εντοπιστούν από το σύστημα οι αρχικές δοθείσες τιμές (δεδομένα)

5 Αρχιτεκτονική πεντα-επίπεδης λειτουργίας υβριδικού νεύρο-ασαφούς συστήματος (ANFIS) x 1 x 2 1 ο Επίπεδο: Προσαρμοστικοί κόμβοι. Κάθε κόμβος i έχει μια συνάρτηση κόμβου : O 1 i i x ( ) που αντιστοιχεί στο βαθμό συμμετοχής της Α i, δηλαδή ο βαθμός που η τιμή της μεταβλητής εισόδου ικανοποιεί την Α i όπου Α i = λεκτική μεταβλητή (π.χ. υψηλός, μέτριος, χαμηλός) x i = η τιμή (crisp) της μεταβλητής εισόδου

6 Αρχιτεκτονική πεντα-επίπεδης λειτουργίας υβριδικού νεύρο-ασαφούς συστήματος (ANFIS). x 1 x 2 2 ο Επίπεδο: Σταθεροί κόμβοι. Αντιπροσωπεύει έναν κανόνα του οποίου η Έξοδος είναι το γινόμενο των εισερχόμενων συναρτήσεων συμμετοχής. Εξετάζεται κατά πόσο οι μεταβλητές εισόδου ταυτόχρονα ικανοποιούν τον κανόνα και λαμβάνεται η τομή των συναρτήσεων συμμετοχής. 2 O W (x ) (x ) i i 1i 2i

7 x 1 x 2 3 ο Επίπεδο: Σταθεροί κόμβοι Ν. Υπολογίζεται ο λόγος του βαθμού ενεργοποίησης (W i ) κάθε κανόνα προς το άθροισμα των βαθμών ενεργοποίησης όλων των κανόνων (κανονικοποίηση) Π.χ για δύο κανόνες W O W i 1,2 3 1 i 1 W1 W2 Η ασάφεια εμπεριέχεται στα βάρη W i

8 x 1 x 2 4 ο Επίπεδο: Προσαρμοστικοί κόμβοι με μία συνάρτηση κόμβου. Ο κανονικοποιημένος βαθμός ενεργοποίησης W πολλαπλασιάζεται με μια i συνάρτηση Ζ i προκαθορισμένη από το ANFIS με βάση τις παραμέτρους. O w Z 4 i i i Ο χρήστης μπορεί να επιλέξει η Ζ i να είναι γραμμική ή ένα σημείο. Η ασάφεια δεν υφίσταται πια σε αυτό το επίπεδο.

9 x 1 x 2 5 ο Επίπεδο: Ένας σταθερός κόμβος Σ. Συνολική Έξοδος = ολικό άθροισμα όλων των εισερχόμενων συναρτήσεων O w Z w Z iwi 5 i i i i i i i

10 ΠΕΡΙΟΡΙΣΜΟΙ ΤΟΥ ANFIS Δίνει τη δυνατότητα για μία μόνο έξοδο που λαμβάνεται με τη μέθοδο αποσαφοποίησης σταθμισμένου μέσου Επιλέγοντας την υβριδική μέθοδο, το ANFIS εφαρμόζεται μόνο σε μοντέλα Task-Sugeno-Kang (TSK) Κάθε κανόνας αντιστοιχεί σε διαφορετική συνάρτηση Εφαρμόζεται μόνο στην περιοχή μελέτης για την οποία έχει εκπαιδευτεί

11 Παράδειγμα Εφαρμογής του ANFIS Καμπύλη Στάθμης (H) Παροχής (Q) Η συσχέτιση παραμέτρων Στάθμης - Παροχής ποταμού συμβάλλει στον προσδιορισμό της Απορροής. Πραγματοποιείται μέσω διαγράμματος Στάθμης Παροχής σε μια διατομή ενός υδατορρέματος Q a H b ( ή έ ) Καμπύλη στάθμης -παροχής ό a, b έ ί : log Q log a b log H

12 ΣΤΑΘΜΗ (m) ΠΑΡΟΧΗ (m 3 /s) ΣΤΑΘΜΗ (m) ΠΑΡΟΧΗ (m 3 /s) ΣΤΑΘΜΗ (m) ΠΑΡΟΧΗ (m 3 /s) Πίνακας 1. Πρωτογενή δεδομένα υδρομετρικού σταθμού (από Τσακίρη)

13 line του Matlab Πληκτρολογούμε anfisedit στο command anfisedit και εμφανίζεται το παράθυρο Anfis Editor από το οποίο γίνονται όλες οι ενέργειες για τη δημιουργία του μοντέλου ANFIS

14 ) Επιλογή FILE: γίνεται η φόρτωση/αποθήκευση του ασαφούς συστήματος (Sugeno) 2) Επιλογή Load Data:φορτώνονται τα δεδομένα εκπαίδευσης, ελέγχου και μοντέλου FIS από το δίσκο ή από το workspace ή demo δεδομένα και εμφανίζονται στην περιοχή σχεδίασης 3) Περιοχή σχεδίασης και προβολής δεδομένων 4) Επιλογή Clear Data/Clear Plot: διαγράφονται τα εισερχόμενα δεδομένα από τη μνήμη και από την περιοχή σχεδίασης αντίστοιχα 5) Επιλογή Generate FIS: δημιουργείται το σύστημα Sugeno βάσει των χαρακτηριστικών που έχουμε δώσει

15 ) Επιλογή Train Now: γίνεται η εκπαίδευση του FIS αφού πρώτα προσδιοριστεί η μέθοδος βελτιστοποίησης, το αποδεκτό σφάλμα και το πλήθος επαναλήψεων 7) Επιλογή Test Now: γίνεται έλεγχος των αποτελεσμάτων που έχουμε φορτώσει προηγουμένως 8) Επιλογή Structure: απεικονίζεται γραφικά η δομή των σχέσεων μεταξύ των δεδομένων εισόδου - εξόδου του μοντέλου που έχει δημιουργηθεί 9) Στο παράθυρο ANFIS Info αναγράφονται πληροφορίες σχετικά με το πλήθος των μεταβλητών εισόδου-εξόδου και των λεκτικών μεταβλητών 10) Επιλογή View: Προβολή του μοντέλου με άλλο γραφικό περιβάλλον 11) Επιλογή Edit: Εντολή UNDO και προβολή των χαρακτηριστικών του FIS που έχει δημιουργήσει το ANFIS, των συναρτήσεων συμμετοχής και των κανόνων

16 Πλαίσιο Load data Training/Checking worksp Load Data εισαγωγή μεταβλητής THR Αρχικά δημιουργούμε 2 νέες μεταβλητές πατώντας στο εικονίδιο new variable στο workspace του Matlab και τις δίνουμε όνομα. Πατώντας πάνω σε μια μεταβλητή εμφανίζεται το παράθυρο Variable Editor. Αντιγράφουμε τα 2/3 των δεδομένων και τα επικολλούμε στο Variable Editor της QΗtraining (Ο) για να χρησιμοποιηθούν για την εκπαίδευση του ANFIS. Κάνουμε το ίδιο με το υπόλοιπο 1/3 των δεδομένων και τα επικολλούμε στο Variable Editor της QHchecking (+) για τον έλεγχο προσαρμογής του μοντέλου.

17 Πλαίσιο Load data Training/Checking worksp Load Data εισαγωγή μεταβλητής THR Πατώντας Load Data εισάγουμε τα δεδομένα γράφοντας το όνομα της μεταβλητής (π.χ. QΗtraining και QHchecking) και εμφανίζονται τα δεδομένα στην περιοχή σχεδίασης

18 : Πλαίσιο Generate FIS => επιλογή Grid partition => επιλογή Generate FIS Στο παράθυρο που εμφανίζεται επιλέγουμε τον αριθμό των λεκτικών μεταβλητών (π.χ. 7), το είδος των ασαφών συνόλων (π.χ. τραπεζοειδή) και τον τύπο της Εξόδου (γραμμικός) Ο αριθμός των λεκτικών μεταβλητών είναι σημαντικός. Απορρέει από την εμπειρία του χρήστη και καθορίζει των αριθμό των κανόνων

19 Παρατηρούμε: τις ιδιότητες του Ασαφούς συστήματος τύπου Sugeno που δημιουργήθηκε (FIS Properties) τους κανόνες που έχουν δημιουργηθεί (Rules)

20 Καθώς επίσης και πληροφορίες σχετικά με τις Συναρτήσεις συμμετοχής/ Λεκτικές μεταβλητές (Membership Functions) όπως το όνομα, τον τύπο (τριγωνικές, τραπεζοειδείς), το εύρος και τις τιμές των ορίων

21 Πλαίσιο Anfis Info => Structure 1 ο Επίπεδο: Μεταβλητή Εισόδου (Στάθμη) 2 ο Επίπεδο: Ασαφή Σύνολα (βαθμίδες γλωσσικών μεταβλητών) 3 ο Επίπεδο: Κανόνες του συστήματος (ορίζονται από το ANFIS) 4 ο Επίπεδο: Σχηματισμός ασαφών συνόλων Εξόδου 5 ο Επίπεδο: Έξοδος (crisp) Παροχή

22 Πλαίσιο Train FIS=> επιλογή υβριδικής μεθόδου=> ανοχής σφάλματος => αριθμού επαναλήψεων=> επιλογή Train Now

23 Πλαίσιο Test FIS =>Checking Data => Test Now Ελέγχεται αν προσαρμόζεται όντως ικανοποιητικά το μοντέλο στα δεδομένα όπως προσδίδει το μικρό σφάλμα

24 => View => Rules Παράθυρο Anfis Editor 7 λεκτικές μεταβλητές 4 λεκτικές μεταβλητές O τέταρτος κανόνας που είναι ενεργός έχει τον μεγαλύτερο βαθμό συμμετοχής Μετακινώντας τις κόκκινες κάθετες γραμμές της εισόδου σε τιμές ίσες με τις δοθείσες παρατηρούμε αν η Έξοδος λαμβάνει τις προκαθορισμένες τιμές. Αν συμβαίνει αυτό το σύστημα έχει εκπαιδευτεί σωστά.

25 => View => Surface Παράθυρο Anfis Editor Από τη φύση του προβλήματος αναμένουμε η καμπύλη να είναι ΑΥΞΟΥΣΑ σε όλο το μήκος της και ΟΧΙ ΦΘΙΝΟΥΣΑ έστω κατά τμήματα υπερεκπαίδευση 7 λεκτικές μεταβλητές 4 λεκτικές μεταβλητές Η απεικόνιση της καμπύλης Στάθμης-Παροχής δείχνει ότι για τα συγκεκριμένα δεδομένα η γραμμικότητα διατηρείται σε όλο το μήκος της καμπύλης με λιγότερες λεκτικές μεταβλητές

26 Ajith Abraham. Neuro Fuzzy Systems: State-of-the-art Modeling Techniques, Ch. Tzimopoulos, B. Papadopoulos. Fuzzy logic with application in engineering, Thessaloniki, G. Refanidis. Neural networks, Thessaloniki,2011. Jyh-Shing Roger Jang. ANFIS: Adaptive-Network-Based Fuzzy Inference System, IEEE Trans. Systems, Man, Cybernetics May/June, K. Guney, N. Sarikaya. Comparison Of Mamdani and Sugeno Fuzzy Inference System Models for resonant frequency calculation of rectangular microstrip antennas, Turkey, Piero P. Bonissone. Adaptive Neural Fuzzy Inference Systems (ANFIS): Analysis and Application, S.Papadakis, P. Adamidis. Fuzzy systems, Thessaloniki,

27

28 Δεδομένα εκπαίδευσης (training data): Εισαγωγή δεδομένων εισόδων-εξόδου. Δημιουργία μεταβλητής THR στο workspace και επικόλληση των δεδομένων ΜΕΛΙΚΗ ΗΜΑΘΙΑΣ Μέση Ελάχιστη T 0 C Μέση Ελάχιστη Σχετική Υγρασία (%) Μέσος Υετός Ολικός (mm) ΣΕΠΤΕΜΒΡΙΟΣ ' ΟΚΤΩΒΡΙΟΣ ' ΝΟΕΜΒΡΙΟΣ ' ΔΕΚΕΜΒΡΙΟΣ ' ΙΑΝΟΥΑΡΙΟΣ ' ΦΕΒΡΟΥΑΡΙΟΣ ' ΜΑΡΤΙΟΣ ' ΑΠΡΙΛΙΟΣ ' ΜΑΙΟΣ ' ΙΟΥΝΙΟΣ ' ΙΟΥΛΙΟΣ ' ΑΥΓΟΥΣΤΟΣ ' Πίνακας 1. Μέσες μηνιαίες τιμές της ελάχιστης Θερμοκρασίας Τ 0, της ελάχιστης Σχετικής υγρασίας (%) και του ολικού Υετού (mm) της περιοχής Μελική Ημαθίας. Πηγή:Οργανισμό Ελληνικών Γεωργικών Ασφαλίσεων

29 Πλαίσιο Load data Training/Checking worksp Load Data εισαγωγή μεταβλητής THR επιλογή Grid partition => επιλογή Generate FIS : Πλαίσιο Generate FIS =>

30 Από το Edit του Anfis Editor παρατηρούμε: τις ιδιότητες του Ασαφούς συστήματος τύπου Sugeno που δημιουργήθηκε (FIS Properties) τις Συναρτήσεις συμμετοχής/ Λεκτικές μεταβλητές (Membership Functions) τους κανόνες που έχουν δημιουργηθεί (Rules)

31 Πλαίσιο Anfis Info => Structure 1 ο Επίπεδο: Μεταβλητές Εισόδου (Θερμοκρασία Τ ο Σχετική Υγρασία %) 2 ο Επίπεδο: Ασαφή Σύνολα (βαθμίδες γλωσσικών μεταβλητών) 3 ο Επίπεδο: Κανόνες του συστήματος (ορίζονται από το ANFIS) 4 ο Επίπεδο: Σχηματισμός ασαφών συνόλων Εξόδου 5 ο Επίπεδο: Έξοδος (crisp) Υετός (βροχόπτωση)

32 Πλαίσιο Train FIS=> επιλογή υβριδικής μεθόδου=> ανοχής σφάλματος => αριθμού επαναλήψεων=> επιλογή Train Now Πλαίσιο Test FIS =>Training Data => Test Now Ελέγχεται αν προσαρμόζεται όντως ικανοποιητικά το μοντέλο στα δεδομένα όπως προσδίδει το μικρό σφάλμα

33 Rules Παράθυρο Anfis Editor => View => O πέμπτος κανόνας που είναι ενεργός έχει τον μεγαλύτερο βαθμό συμμετοχής Μετακινώντας τις κόκκινες κάθετες γραμμές της εισόδου σε τιμές ίσες με τις δοθείσες παρατηρούμε αν η Έξοδος λαμβάνει τις προκαθορισμένες τιμές. Αν συμβαίνει αυτό το σύστημα έχει εκπαιδευτεί σωστά.

34 Σταθερή Σχετική Υγρασία+ Αύξηση Θερμοκρασίας= Αρχική μείωση της Βροχόπτωσης αλλά μετά από μια τιμή της Τ ο η Βροχόπτωση αυξάνεται διαρκώς Σταθερή Σχετική Υγρασία+ Μείωση Θερμοκρασίας= Αρχική αύξηση της Βροχόπτωσης αλλά κάτω από μια τιμή της Τ ο δεν υπάρχει Βροχόπτωση Σταθερή Θερμοκρασία + Αύξηση Σχετικής Υγρασίας= Αύξηση Βροχόπτωσης Σταθερή Θερμοκρασία + Μείωση Σχετικής Υγρασίας= Αυξομειώσεις Βροχόπτωσης

35 ΠΑΡΑΡΤΗΜΑ ANN (Artificial Neural Network) ΤΕΧΝΗΤΑ ΝΕΥΡΟΝΙΚΑ ΔΙΚΤΥΑ Προσιδιάζουν τη λειτουργία ενός βιολογικού νευρωνικού δικτύου (π.χ. ανθρώπινος εγκέφαλος) με σκοπό να εκτελούν από μόνα τους διεργασίες (π.χ. αναγνώριση εικόνων) αφού πρώτα εκπαιδευτούν κατάλληλα Επίλυση πολύπλοκων μη γραμμικών προβλημάτων Γενίκευση συμπερασμάτων (αποφάσεων) μετά από κατάλληλη εκπαίδευση Επίπεδο Εισόδου (Input Layer) ΒΑΣΙΚΗ ΔΟΜΗ Επίπεδο/α Επεξεργασίας στοιχείων (Hidden Layers) Επίπεδο Εξόδου (Output Layer)

36 x 1 x w 2 w 1 + f(.) θ y Νευρώνας: Δομική μονάδα (McCulloch and Pitts ) x n w n -1 Βασική Δομή Νευρωνικών Δικτύων