Προσομοίωση Νευρωνικού Δικτύου στο MATLAB. Κυριακίδης Ιωάννης 2013

Transcript

1 Προσομοίωση Νευρωνικού Δικτύου στο MATLAB Κυριακίδης Ιωάννης 2013

2 Εισαγωγή Ένα νευρωνικό δίκτυο αποτελεί μια πολύπλοκη δομή, όπου τα βασικά σημεία που περιλαμβάνει είναι τα εξής: Πίνακες με τα βάρη των συνδέσεων Πίνακες με τα bias Συναρτήσεις μεταφοράς Διάνυσμα εισόδου Αρχιτεκτονική του δικτύου

3 Αρχιτεκτονική του Δικτύου Όταν αναφερόμαστε την Αρχιτεκτονική του δικτύου εννοούμε: Τον αριθμό των επιπέδων του δικτύου Τον αριθμό των νευρώνων ανά επίπεδο Τρόπο σύνδεσης των νευρώνων (πλήρη ή μη πλήρης σύνδεση)

4 Δομές δεδομένων Η προσομοίωση ενός νευρωνικού δικτύου στον υπολογιστή είναι μια πολύπλοκη διαδικασίας. Επειδή θα πρέπει να κρατάμε και να διαχειριζόμαστε πολλαπλά δεδομένα (όπως αυτά που είδαμε σε προηγούμενη διαφάνεια). Στο Matlab τα δεδομένα αυτά έχουν οργανωθεί με την βοήθεια των δομών δεδομένων. Έτσι υπάρχουν κάποιες ιδιότητες με τις οποίες μπορούμε να έχουμε εύκολη πρόσβαση στα δεδομένα του νευρωνικού δικτύου.

5 Το Neural Network Toolbox Το Matlab διαθέτει το Neural Network Toolbox, το οποίο είναι μια βιβλιοθήκη. Παρέχει συναρτήσεις και εφαρμογές για τη μοντελοποίηση πολύπλοκων μη-γραμμικών συστημάτων. Το Neural Network Toolbox υποστηρίζει: Μάθηση με επίβλεψη (Supervised Learning) Μάθηση χωρίς επίβλεψη (Unsupervised Learning)

6 Το Neural Network Toolbox υποστηρίζει Μάθηση με επίβλεψη (Supervised Learning) Feedforward networks Radial basis networks Dynamic networks Μάθηση χωρίς επίβλεψη (Unsupervised Learning) Self-Organizing Maps Competitive layers

7 Περισσότερες πληροφορίες Περισσότερες πληροφορίες σχετικά με το Neural Network Toolbox του Matlab μπορείτε να βρείτε: Στην ιστοσελίδα του Toolbox: Στον οδηγό χρήσης του Toolbox, τον οποίο μπορείτε να βρείτε στο eclass στον φάκελο Appendix, με όνομα User's Guide for Neural Network Toolbox.pdf

8 Ιδιότητες της δομής Με το Matlab μπορούμε να αρχικοποιήσουμε μια δομή δεδομένων ανάλογα το νευρωνικό δίκτυο που θέλουμε να υλοποιήσουμε. Τη δομή αυτή εξ ορισμού την ονομάζουμε net Στις σημειώσεις του εργαστηρίου μπορείτε να δείτε τις σημαντικότερες ιδιότητες της δομής αυτής. net.numinputs net.layers{i}.size net.biases{i}.learnfcn Ο αριθμός των διανυσμάτων εισόδου Ο αριθμός των νευρώνων στο i επίπεδο Η μέθοδος με την οποία γίνεται η εκπαίδευση των biases στο i επίπεδο του δικτύου.

9 Προσομοίωση δικτύου Χρησιμοποιώντας τις δομές θα αρχικοποιήσουμε ένα πολύ απλό δίκτυο (feedforward) που θα αποτελείται από ένα και μόνο νευρώνα. Ο νευρώνας θα χρησιμοποιεί την γραμμική συνάρτηση μεταφοράς. Υποθέτουμε ότι το δίκτυο θα έχει ως είσοδο ένα διάνυσμα με δύο χαρακτηριστικές τιμές.

10 Η είσοδος του δικτύου Για την προσομοίωση του νευρωνικού δικτύου θα χρησιμοποιήσουμε 4 πρότυπα εκπαίδευσης, όπου το κάθε ένα από αυτά έχει 2 χαρακτηριστικές τιμές. Τα πρότυπα αυτά τα ομαδοποιούμε σε ένα διάνυσμα με όνομα P, το οποίο είναι το παρακάτω: P = [ ; ]; Ποια είναι τα 4 πρότυπα εκπαίδευσης; 2 Πρότυπο1= Πρότυπο2= Πρότυπο3= Πρότυπο4=

11 Αρχικοποίηση δικτύου Για να αρχικοποιήσουμε ένα δίκτυο (feedforward) που θα χρησιμοποιεί την γραμμική συνάρτηση μεταφοράς θα γράψουμε την εντολή: Όπου: net = newlin(f, S); F = Είναι ένας πίνακας 2 στηλών. Σε κάθε γραμμή του πίνακα θα πρέπει να υπάρχει η ελάχιστη και η μέγιστη τιμή για κάθε χαρακτηριστική τιμή του διανύσματος εισόδου. S = Είναι ο αριθμός των νευρώνων στο επίπεδο εξόδου.

12 Αρχικοποίηση δικτύου Στη δική μας περίπτωση το S έχει τιμή: Για να υπολογίσουμε το F θα χρησιμοποιήσουμε την συνάρτηση minmax του Matlab, ως εξής: F = minmax(p); Τι τιμές περιμένουμε να έχει ο πίνακας F; F =

13 Ορισμός ιδιοτήτων Για να ορίσουμε τον πίνακα των βαρών θα χρησιμοποιήσουμε την παρακάτω εντολή: Όπου: net.iw{1,1} = [ ]; IW θεωρούμε ότι είναι τα Input Weights, τα οποία συνδέουν το πρώτο επίπεδο με την είσοδο του διανύσματος. Επίσης ορίζουμε τη τιμή bias του νευρώνα: net.b{1} = 0.5;

14 Προσομοίωση Δικτύου Για την προσομοίωση του δικτύου που έχουμε αρχικοποιήσει, θα χρησιμοποιήσουμε την παρακάτω συνάρτηση: a = sim(net, P) Όπου θα μας δώσει το παρακάτω αποτέλεσμα: a = Είναι τα αποτέλεσμα αναμενόμενα;

15 Κώδικας παραδείγματος P = [ ; ]; F = minmax(p); net = newlin(f, 1); net.iw{1,1} = [ ]; net.b{1} = 0.5; a = sim(net,p) Αποτέλεσμα: a =

16 Απορίες - Ερωτήσεις ;

17 Ασκήσεις για το σπίτι Οι ασκήσεις είναι ατομικές!!! 1. Συμπιέστε όλα τα αρχεία m-file σε ένα αρχείο με όνομα: lab03_ομx_yyyy (όπου X ο αριθμός ομάδας εργαστηρίου και YYYY το ΑΜ σας) 2. Υποβάλετε το αρχείο στην αντίστοιχη άσκηση στο eclass

18 Δεν θα έχετε