Οπτική αναγνώριση εικόνας ηλεκτρονικών. εξαρτημάτων με νευρωνικά δίκτυα

Transcript

1 Τεχνολογικό Εκπαιδευτικό Ίδρυμα Καβάλας Σχολή Τεχνολογικών Εφαρμογών Τμήμα Ηλεκτρολογίας Οπτική αναγνώριση εικόνας ηλεκτρονικών εξαρτημάτων με νευρωνικά δίκτυα πτυχιακή εργασία του Διονυσίου Λευκαδίτη Σεπτέμβριος ι r γ τ λ r τ ι r Εισηγητής: Τσιριγώτης Γεώργιος

2 Πίνακας περιεχομένων 1 Εισαγωγή Θεωρητικό υπόβαθρο και βιβλιογραφική έρευνα Επεξεργασία και ανάλυση ψηφιακής εικόνας Τεχνικές κατηγοριοποίησης αντικειμένου Εξαγωγή χαρακτηριστικών γνωρισμάτων για τους νευρικούς κατηγοριοποιητές Διάνυσμα χαρακτηριστικών γνωρισμάτων Περιγραφείς περιφέρειας (regional descriptors) Χαρακτηριστικά γνωρίσματα ιστογραμμάτων (Histogram Features) Ανάλυση και διαχείριση δεδομένων Ανάλυση συσχέτισης (correlation analysis) Μηχανές διανυσμάτων υποστήριξης Τεχνητά Νευρωνικά Δίκτυα Ο Τεχνητός Νευρώνας Αρχιτεκτονικές Νευρωνικών Δικτύων Νευρωνικά Δίκτυα Εμπρόσθιας Ροής Perceptron ενός επιπέδου (Single-Layer Perceptron, SLP) Perceptron με πολλαπλά επίπεδα (Multi-Layer Perceptron, MLP) Εκπαίδευση με αλγόριθμο ανάστροφης μετάδοσης (Back-propagation Algorithm) Δίκτυα Συναρτήσεων Ακτινικής Βάσης (Radial Basis Function Network, RBFN) Εφαρμογές νευρωνικών δικτύων στην οπτική αναγνώριση μοτίβων Απόκτηση και ανάλυση εικόνας Εισαγωγή Τα αντικείμενα προς ταξινόμηση και η προετοιμασία τους Απόκτηση εικόνας Επιτραπέζιος σαρωτής Ψηφιακή φωτογραφική μηχανή με φακό macro Στερεοσκοπικό μικροσκόπιο εξοπλισμένο με ψηφιακό αισθητήρα εικόνας Επιτραπέζιο σύστημα φωτογράφησης ακριβείας με ψηφιακό αισθητήρα εικόνας και αυτόνομο σύστημα ελέγχου Προετοιμασία σκηνής και φωτισμός

3 3.5 Επεξεργασία εικόνας Ανάπτυξη του λογισμικού Ο αλγόριθμος επεξεργασίας εικόνας και εξαγωγής χαρακτηριστικών γνωρισμάτων Εξαγωγή χαρακτηριστικών γνωρισμάτων Διερεύνηση δεδομένων και κατηγοριοποίηση Επεξεργασία και διερεύνηση δεδομένων Ανάλυση συσχέτισης Μηχανές διανυσμάτων υποστήριξης Σχεδιασμός, εκπαίδευση και επαλήθευση κατηγοριοποιητών Εκπαίδευση κατηγοριοποιητών με πλήρες διάνυσμα εισόδου Εκπαίδευση κατηγοριοποιητών με διάνυσμα εισόδου βελτιστοποιημένο με ανάλυση συσχέτισης Εκπαίδευση κατηγοριοποιητών με διάνυσμα εισόδου βελτιστοποιημένο με μηχανές διανυσμάτων υποστήριξης Εκπαίδευση κατηγοριοποιητών με διάνυσμα εισόδου 5 στοιχείων και γενικά σχόλια Συμπεράσματα και περαιτέρω ανάπτυξη του συστήματος Ο σκοπός της εργασίας Περίληψη των πειραματικών διεργασιών και συμπεράσματα Περαιτέρω ανάπτυξη του συστήματος...69 Αναφορές Παράρτημα

4 1 Εισαγωγή Η μελέτη αυτή πραγματοποιήθηκε στα πλαίσια εκπόνησης της πτυχιακής εργασίας για το τμήμα Ηλεκτρολογίας του Ανώτατου Τεχνολογικού Ιδρύματος Καβάλας. Το εργαστήριο που έλαβαν χώρα οι πειραματικές διεργασίες καθώς και ο εξοπλισμός που χρησιμοποιήθηκε ήταν μια ευγενής παραχώρηση του Ινστιτούτου Αλιευτικής Έρευνας στη Νέα Πέραμο Καβάλας. Ο σκοπός αυτής της πτυχιακής εργασίας είναι ο σχεδιασμός και η ανάπτυξη ενός ολοκληρωμένου συστήματος αυτοματοποιημένης αναγνώρισης και ταξινόμησης έξι τύπων ηλεκτρονικών εξαρτημάτων. Η μεθοδολογία που ακολουθήθηκε εκμεταλλεύεται τις οπτικές διαφορές στο σχήμα των εξαρτημάτων ανάλογα με τον τύπο τους. Το σύστημα που αναπτύχθηκε διεξάγει έξυπνη οπτική αναγνώριση ηλεκτρονικών εξαρτημάτων χρησιμοποιώντας νευρωνικά δίκτυα ως κατηγοριοποιητές χρησιμοποιώντας χαρακτηριστικά γνωρίσματα της μορφολογίας του περιγράμματός τους. Η διαδικασία ανάπτυξης του συστήματος αυτού βασίστηκε στο μοντέλο συστημάτων μηχανικής όρασης που προτάθηκε από τους Awcock και Thomas [1995]. Σε αυτή την εργασία περιγράφονται αναλυτικά όλες οι πειραματικές διεργασίες για τον σχεδιασμό και την ανάπτυξη του. Στο δεύτερο κεφάλαιο παρουσιάζεται σε μερική έκταση το θεωρητικό υπόβαθρο που χρειάζεται για να πραγματοποιηθούν οι επιμέρους διεργασίες, ενώ παρέχεται και μια βιβλιογραφική έρευνα παρομοίων συστημάτων. Το τρίτο κεφάλαιο ασχολείται με τον καθορισμό της σκηνής και του φωτισμού και περιλαμβάνει μια μελέτη όλων των πιθανών συσκευών απόκτησης εικόνας που ήταν διαθέσιμες για χρήση. Μετά την απόκτηση των εικόνων καλύπτεται αναλυτικά η επεξεργασία τους μέσω λογισμικού και η εξαγωγή των χαρακτηριστικών γνωρισμάτων που χρειάζονται για την μετάφραση των εξαρτημάτων σε δεδομένα κατανοητά από τους κατηγοριοποιητές. Στο τέταρτο κεφάλαιο υπάρχει μια εκτενής αναφορά στη χρήση των μεθοδολογιών επεξεργασίας και βελτιστοποίησης του διανύσματος χαρακτηριστικών γνωρισμάτων. Το κεφάλαιο τελειώνει με τον καθορισμό, την εκπαίδευση του κατηγοριοποιητή του συστήματος και παραθέτει τα αντίστοιχα αποτελέσματα. Το τελευταίο κεφάλαιο ανακεφαλαιώνει τις διαδικασίες ανάπτυξης του συστήματος και συγκεντρώνει τα κύρια συμπεράσματα. Τέλος, προτείνονται τρόποι περαιτέρω βελτίωσης του συστήματος και μετατροπής του από πρότυπο σε λειτουργικό προϊόν. 4

5 2 Θεωρητικό υπόβαθρο και βιβλιογραφική έρευνα 2.1 Επεξεργασία και ανάλυση ψηφιακής εικόνας Η ψηφιακή εικόνα είναι μια αναπαράσταση μιας εικόνας από αριθμούς. Ανάλογα με το αν είναι σταθερής ανάλυσης, μπορεί να είναι διανυσματικού τύπου (vector) ή τύπου κοκκιδοπλαισίου (raster). Συνήθως όμως, η ορολογία ψηφιακή εικόνα αναφέρεται σε εικόνες κοκκιδοπλαισίου. Αυτές οι εικόνες αποτελούνται από ορισμένο αριθμό εικονοκυττάρων (pixels) τοποθετημένων σε ένα δισδιάστατο πίνακα. Στην πιο συχνή μορφή τους, περιέχουν μια ή τρεις τιμές φωτεινότητας. Η μια τιμή αντιστοιχεί σε ασπρόμαυρες εικόνες, ενώ οι τρεις για το κόκκινο, πράσινο και μπλε χρώμα των έγχρωμων εικόνων (RGB). Η επεξεργασία εικόνας είναι μια ειδική μορφή επεξεργασίας σήματος όπου το σήμα εισόδου είναι το δισδιάστατο σήμα τις εικόνας. Ο σκοπός της είναι κυρίως για να βελτιώσει την ποιότητα της εικόνας (Enhancement), για να αποβάλει ελαττώματα (Restoration), και για τον εντοπισμό αντικειμένων. Όλα αυτά γίνονται για να εξαχθούν χρήσιμες πληροφορίες που υπάρχουν μέσα στις εικόνες. Εικόνες, πλέον, υπάρχουν σχεδόν σε όλες τις επιστήμες με εφαρμογές στην ιατρική διαγνωστική, στην αστρονομία, τηλεπισκόπιση, βιολογία, ποιοτικό έλεγχο, παρακολούθηση, και πολλές άλλες. Μερικές από τις διεργασίες που μπορούν να πραγματοποιηθούν σε ψηφιακές εικόνες είναι: Οι διεργασίες σημείου (point operations), όπου η επεξεργασία βασίζεται στην αλλαγή όλης της εικόνας ως συνάρτηση της φωτεινότητας ή του χρώματος του κάθε εικονοκυττάρου. Για παράδειγμα οι μεταλλαγές του ιστογράμματος (histogram tranformations). Οι τοπικές διεργασίες (local operations), όπου η επεξεργασία της τιμής ενός εικονοκυττάρου είναι συνάρτηση των τιμών των γειτονικών του εικονοκυττάρων. Παραδείγματα είναι τα διάφορα φίλτρα, όπως για το θόλωμα και την όξυνση της εικόνας. Οι γενικές διεργασίες (global operations), όπου η επεξεργασία της τιμής του κάθε εικονοκυττάρου είναι συνάρτηση των τιμών όλων των εικονοκυττάρων. Παραδείγματα είναι οι μετασχηματισμοί Fourier και Laplace, που χρησιμοποιούνται και την εξαγωγή 5

6 χαρακτηριστικών γνωρισμάτων αντικειμένων και την εξομάλυνση της εικόνας αντίστοιχα. Σε αυτήν την εργασία, χρησιμοποιούνται κάποιες από αυτές της διεργασίες για να προετοιμάσουν τις εικόνες ώστε να γίνει δυνατή και αξιόπιστη η εξαγωγή χαρακτηριστικών γνωρισμάτων. Πιο αναλυτικά, η εικόνα πρέπει να φιλτραριστεί ώστε να απαλειφθεί τυχόν θόρυβος και ύστερα να κατατμηθεί κατάλληλα ώστε να διαχωριστεί το προσκήνιο που περιέχει τα αντικείμενα προς επεξεργασία από το φόντο που είναι άνευ σημασίας. Οι συγκεκριμένες τεχνικές που χρησιμοποιήθηκαν σε αυτή την εργασία αναφέρονται στο κεφάλαιο Τεχνικές κατηγοριοποίησης αντικειμένου Η κατηγοριοποίηση αντικειμένων (object classification) εμπεριέχεται στην κατηγορία αναγνώρισης σχεδίων (pattern recognition) και υπονοεί τη χρήση πολλών διαφορετικών τεχνικών για την απόκτηση δεδομένων. Ένα σύστημα κατηγοριοποίησης αντικειμένων που χρησιμοποιεί τις ψηφιακές εικόνες γενικά απαιτεί μια μονάδα εξαγωγής χαρακτηριστικών γνωρισμάτων (feature extraction) και μια μονάδα κατηγοριοποιητή (classifier). Η εξαγωγή χαρακτηριστικών γνωρισμάτων περιλαμβάνει την ανίχνευση, την εξαγωγή και καθώς επίσης την εκμετάλλευση σημαντικών και χρήσιμων δεδομένων από την επεξεργασία και την ανάλυση της εικόνας. Αυτά τα δεδομένα αντιπροσωπεύουν τις διακριτικές ιδιότητες των αντικειμένων προς μελέτη. Αφ' ετέρου, η μονάδα κατηγοριοποιητή αποφασίζει εάν το στοιχείο που παρέχεται ανήκει σε μια ορισμένη προκαθορισμένη συστάδα δεδομένων (data cluster). Ο LeCun [1995] εξηγεί τη μεθοδολογία των συστημάτων αναγνώρισης σχεδίων και εστιάζει στα τεχνητά νευρωνικά δίκτυα ως έναν από τους κύριους τύπους επιτυχών κατηγοριοποιητών. 2.3 Εξαγωγή χαρακτηριστικών γνωρισμάτων για τους νευρικούς κατη γοριοποιη τές Δεδομένου ότι τα νευρικά δίκτυα μπορούν να εκτελέσουν ουσιαστικά αυθαίρετες μη γραμμικές λειτουργικές χαρτογραφήσεις μεταξύ των συνόλων μεταβλητών, ένα ενιαίο νευρικό δίκτυο θα μπορούσε, σε γενικές γραμμές, να χρησιμοποιηθεί για να αντιστοιχίσει ακατέργαστα δεδομένα εισόδου 6

7 άμεσα στις αναμενόμενες τελικές τιμές. Στην πράξη, μια τέτοια προσέγγιση θα δώσει γενικά κακά αποτελέσματα επειδή θα ήταν υπολογιστικά απαιτητικό. Για τις περισσότερες εφαρμογές είναι απαραίτητο να μετασχηματιστούν τα στοιχεία σε κάποια νέα μορφή πριν την εκπαίδευση ενός νευρικού δικτύου. Η φύση των νευρικών δικτύων δηλώνει ότι θα δίνονταν ικανοποιητικά αποτελέσματα ασχέτως των δεδομένων εισόδου. Παρ' όλα αυτά σε πρακτικές εφαρμογές η επιλογή της μεθόδου προεπεξεργασίας (pre-processing) των δεδομένων θα είναι ένας από τους σημαντικότερους παράγοντες στον καθορισμό της απόδοσης του τελικού συστήματος [Bishop 1995, p 6]. Ένα νευρωνικό δίκτυο πρέπει να καλύψει ή να αντιπροσωπεύσει κάθε μέρος του χώρου εισόδου (input space) του προκειμένου να αποκτηθεί η γνώση για το πώς εκείνο το μέρος του χώρου πρέπει να αντιστοιχηθεί. Η κάλυψη του χώρου εισόδου χρειάζεται πόρους, και, στη γενικότερη περίπτωση, το ποσό πόρων που απαιτούνται είναι ανάλογο προς τον υπερόγκο (hypervolume) του χώρου εισόδου. Αυτό συσχετίζεται με την κατάρα της διαστατικότητας (curse of dimensionality), ένας όρος από τον Bellman [1961] που αναφέρεται στην εκθετική αύξηση του ποσού δεδομένων ως συνάρτηση της διαστατικότητας. Επομένως, στις περισσότερες περιπτώσεις, η σύνθετη προεπεξεργασία μπορεί να εμπεριέχει τη μείωση της διαστατικότητας των δεδομένων εισόδου. Το γεγονός ότι η μείωση διαστατικότητας των δεδομένων μπορεί να οδηγήσει σε βελτιωμένη απόδοση ενός συστήματος, μπορεί να ηχεί κάπως παράδοξο, δεδομένου ότι δεν αυξάνει το περιεχόμενο των πληροφοριών των δεδομένων. Εντούτοις, απλοποιεί το πεδίο της αναγνώρισης με τη απόρριψη άσχετων στοιχείων προσφέροντας έτσι μια βελτίωση στην απόδοση του συστήματος. Στα πλαίσια της ανάλυσης εικόνας (image analysis) και της όρασης υπολογιστών (computer vision), στις περισσότερες περιπτώσεις κάθε εικονοκύτταρο (pixel) μιας εικόνας εισόδου αντιστοιχεί σε μια ξεχωριστή διάσταση στο σύνολο δεδομένων εισόδου [Egmont-Petersen et al ]. Οι ψηφιακές εικόνες αποτελούνται από τις εκατοντάδες χιλιάδες ή ακόμα και εκατομμύρια εικονοκύτταρα. Κάθε διάσταση των δεδομένων εισόδου πρέπει να αντιστοιχηθεί σε έναν διαφορετικό νευρώνα εισαγωγής του νευρωνικού δικτύου κατηγοριοποίησης. Επομένως, θα ήταν παράλογο να προσπαθήσει κανείς να σχεδιάσει ένα ρεαλιστικό σύστημα κατηγοριοποίησης αντικειμένων χωρίς κάποιο είδος μονάδας εξαγωγής χαρακτηριστικών γνωρισμάτων για να εκτελέσει τη μείωση διαστατικότητας στα δεδομένα εισόδου. 7

8 2.3.1 Διάνυσμα χαρακτηριστικών γνωρισμάτων Σε αυτήν την εργασία, η τεχνική που προτείνεται για να μειώσει τη διαστατικότητα των δεδομένων είναι να αναπτυχθεί ένα διάνυσμα χαρακτηριστικών γνωρισμάτων (feature vector) που προσπαθεί να περιγράψει τη μορφή και κάποιες περιορισμένες πληροφορίες χρώματος των εικόνων των αντικειμένων από ένα σύνολο μετρήσεων (χαρακτηριστικά γνωρίσματα) [Lefkaditis et al. 2006]. Αυτό επιτυγχάνεται με την χρήση μεθόδων που αναπτύσσονται στην ανάλυση εικόνας και την όραση υπολογιστών. Αυτή η εργασία εξετάζει την ενσωμάτωση χαρακτηριστικών γνωρισμάτων που προκύπτουν από περιγραφείς περιφέρειας,. Τα χαρακτηριστικά γνωρίσματα που προέρχονται από αυτή την κατηγορία είναι καθιερωμένα στον τομέα επεξεργασίας εικόνας και παρέχουν χαρακτηριστικά γνωρίσματα υψηλής περιγραφικής δύναμης. Ακόμα κι αν δεν προσφέρουν τοπικές περιγραφές των ιδιαιτέρων χαρακτηριστικών των αντικειμένων, αναμένεται να δώσουν στο σύστημα μια ισχυρή διακριτική ικανότητα. Τα χαρακτηριστικά γνωρίσματα που παράγονται από την ανωτέρω κατηγορία πρέπει να εξεταστούν λεπτομερώς για την αξιοπιστία των δεδομένων τους, την ικανότητα διάκρισης αντικειμένων και τη μεταξύ τους συμβατότητα πριν από το συνυπολογισμό τους στο τελικό διάνυσμα χαρακτηριστικών γνωρισμάτων, βλέπε κεφάλαιο Περιγράφεις περιφέρειας (regional descriptors) Οι περιγραφείς περιφέρειας είναι βασισμένοι κυρίως σε αδιάστατα χαρακτηριστικά γνωρίσματα (scalar features) και σε μετρήσεις που προέρχονται από την περιοχή της εικόνας μέσα στα όρια ενός αντικειμένου. Προσπαθούν να δώσουν μια περιγραφή της μορφής του αντικειμένου βασισμένη σε γεωμετρικά στοιχεία. Θετικά χαρακτηριστικά τέτοιων περιγραφέων είναι ότι μπορούν να είναι αμετάβλητα ως προς τη θέση, την κλίση και την κλίμακα του αντικειμένου μέσα στην εικόνα. Αυτά είναι πολύ σημαντικά δεδομένου ότι τα αντικείμενα, στην πραγματικότητα, δεν μπορούν να τοποθετηθούν ακριβώς με την ίδια θέση και γωνία στο οπτικό πεδίο της συσκευής απόκτησης εικόνας. Οι περιγραφείς περιφέρειας μπορούν να υπολογιστούν με αξιοπιστία όταν τελειώσει η προεπεξεργασία των εικόνων. Απλά παραδείγματα τέτοιων χαρακτηριστικών γνωρισμάτων είναι: Η μέγιστη διάμετρος του Feret (Maximum Feret s diameter). Αυτή ορίζεται ως η μέγιστη πιθανή απόσταση μεταξύ οποιονδήποτε δύο σημείων κατά μήκος της περιφέρειας του 8

9 αντικειμένου [Kaye et al. 1987] το μήκος περιμέτρου (p) μπορεί να υπολογιστεί ως ο αριθμός των εικονοκυττάρων που βρίσκονται στην περιφέρεια ενός αντικειμένου. ο τομέας της μορφής (α) μπορεί να υπολογιστεί ως το άθροισμα των εικονοκυττάρων μέσα στα όρια ενός αντικειμένου μείον το άθροισμα των εικονοκυττάρων οποιωνδήποτε τρυπών μέσα στο αντικείμενο. Τα ανωτέρω τρία χαρακτηριστικά γνωρίσματα είναι εγγενώς αμετάβλητα ως προς τη θέση και την κλίση. Η αμεταβλητότητα της κλίμακας, εν τούτοις, μπορεί να επιτευχθεί με την έκφραση των απαριθμήσεων εικονοκυττάρων σε βαθμονομημένες μονάδες, όπως τα τετραγωνικά χιλιοστόμετρα, χρησιμοποιώντας στοιχεία από την οπτική ρύθμιση του συστήματος απόκτησης εικόνας, ώστε να είναι άμεσα συγκρίσιμες οι πραγματικές διαστάσεις των αντικειμένων. Κυκλικότητα (Circularity) ένας παράγοντας μορφής βασισμένος στον προβαλλόμενο εμβαδόν του αντικειμένου και την ολική περίμετρο της προβολής σύμφωνα με: Circularity = 4πΑ P2 όπου Α είναι το εμβαδόν και Ρ είναι η περίμετρος του αντικείμενου [Bouwman et al. 2004]. (1) Εκκεντρικότητα αυτή μπορεί να υπολογιστεί ως αναλογία της απόστασης μεταξύ των εστιών (df) προς το μήκος του μέγα άξονα (α) της ελάχιστης εμπεριέχουσας έλλειψης (minimal bounding ellipse, MBE) του αντικειμένου (η μικρότερη πιθανή έλλειψη που μπορεί πλήρως να περιέχει το αντικείμενο) [Gonzalez et al. 2004]: Eccentricity =. (2) α Ευρύτητα αυτή είναι το ποσοστό των εικονοκυττάρων του αντικειμένου προς το εμβαδόν του ελάχιστου εμπεριέχοντος ορθογώνιου (minimal bounding rectangle, MBR, το μικρότερο πιθανό ορθογώνιο που μπορεί πλήρως να περιέχει το αντικείμενο, προσανατολισμένο με τους άξονες του αντικειμένου) [Gonzalez et al. 2004]: 9

10 A Extent= A 5 (3) Λ MBR Οι τρεις τελευταίοι περιγραφείς είναι αδιάστατοι δεδομένου ότι είναι αμετάβλητοι προς το πραγματικό μέγεθος των αντικειμένων μέσα στην εικόνα. Αυτό επιτυγχάνεται από το γεγονός ότι οι μονάδες των παραγόντων τους απαλείφονται και επομένως γίνονται αδιάστατοι. Πολλοί άλλοι κλιμακωτοί περιγραφείς μπορούν επίσης να επινοηθούν, και οι συγκεκριμένοι περιφερειακοί περιγραφείς που χρησιμοποιούνται σε αυτήν την έρευνα συζητούνται λεπτομερώς στο κεφάλαιο Χαρακτηριστικά γνωρίσματα ιστογραμμάτων (Histogram Features) Μια σημαντική προσέγγιση για την περιγραφή μιας περιοχής μέσα σε μια εικόνα είναι να ποσολογηθεί το περιεχόμενο της υφής της. Η εξερεύνηση των στατιστικών ιδιοτήτων των ιστογραμμάτων έντασης της εικόνας είναι μια συχνά χρησιμοποιημένη προσέγγιση για αυτό το σκοπό [Gonzalez et al. 2004, p.464]. Οι στατιστικές ροπές (statistical moments) είναι μια έγκυρη μέθοδος για την περιγραφή της μορφής των διανομών, όπως τα ιστόγραμμα εικόνας [Bartlein 2008]. Εκφράζονται γενικά ως: L 1 μ n = Σ ( Zi-m )η Ρ ( Zi), (4) i=0 όπου το n είναι ο αριθμός ροπής, το i είναι το επίπεδο έντασης εικονοκυττάρου, zt είναι η ένταση ενός εικονοκυττάρου, το p(z) είναι το ιστόγραμμα της περιοχής, το L είναι ο αριθμός πιθανών επιπέδων έντασης και L-1 m = Σ ZiP(Z,) i=0 (5) είναι η μέση ένταση εικονοκυττάρου [Gonzalez et al. 2004, p.155]. 10

11 Συνεπώς, η πρώτη στατιστική ροπή είναι η μέση αξία του ιστογράμματος, η δεύτερη ροπή είναι η διακύμανση σ2 που μπορεί να κανονικοποιηθεί για να δώσει την επιλεγείσα διακύμανση s2 [Zar 1984, p.29]: L -1 2 = Σ ( z - m )2p ( Zi): i = 0 L-1 Σ ( y,- y )) 2 i=0 s N -1 (7) Όπου Υ είναι ο μέσος όρος, s είναι η τυπική απόκλιση και Ν είναι ο αριθμός των δεδομένων. Η τρίτη ροπή μετρά την Εκτροπή (Skewness) μιας διανομής. Είναι μηδέν για τα συμμετρικά ιστογράμματα, θετική για τα ιστόγραμμα που εκτρέπονται προς τα δεξιά και αρνητική για τα ιστογράμματα που εκτρέπονται προς τα αριστερά [Gonzalez et al. 2004, p.466]: L-1 μ 3=Σ (Zi-m )3 p(zi). (8) i=0 Εφαρμόζοντας την ίδια κανονικοποίηση όπως για τη διαφορά, ο τύπος για τις πρακτικές εφαρμογές λαμβάνεται [NIST/SEMATECH 2007]: L -1 Σ ( υ,- ϋ) 3 i = 0 s = (N -1) s3 (9) Κατά τον ίδιοι τρόπο μπορεί βρεθεί η Κύρτωση (Kurtosis), που είναι η τέταρτη στατιστική ροπή του ιστογράμματος της εικόνας. Αυτή αντιπροσωπεύει το πόσο πεπλατυσμένο είναι το ιστόγραμμα. Γίνεται μηδέν εάν το ιστόγραμμα είναι Γκαουσσιανό, θετική αν είναι πιο οξυμένο και αρνητική αν είναι πιο αμβλύ [NIST/SEMATECH 2007]: 11

12 L -1 4 Σ ( y,-?> 4 i = 0 (N -1 >/ (10) Τα παραπάνω χαρακτηριστικά γνωρίσματα εξετάζονται για να συμπεριληφθούν στο διάνυσμα εισόδου αυτής της μελέτης. Παρ' όλα αυτά, υπάρχουν και άλλοι περιγραφείς βασισμένοι στις στατιστικές ροπές που θα μπορούσαν να εξεταστούν. 2.4 Ανάλυση και διαχείριση δεδομένων Η εξαγωγή του διανύσματος χαρακτηριστικών γνωρισμάτων παράγει ένα πολυδιάστατο όγκο δεδομένων. Αν αναλογιστούμε τον αριθμό των εικόνων που χρειάζονται για την εκπαίδευση και την επαλήθευση του συστήματος, ένας τεράστιος όγκος δεδομένων δημιουργείται και χρειάζεται προσεκτική διαχείριση. Η αποτελεσματική διαχείριση των δεδομένων θα βελτιστοποιήσει την ανάπτυξη και την απόδοση του τελικού συστήματος. Αναμένεται ότι λιγότερα χαρακτηριστικά γνωρίσματα που είναι ικανά να περιγράψουν επαρκώς το αντικείμενα προς αναγνώριση θα έχουν μικρότερες υπολογιστικές απαιτήσεις κατά την διάρκεια της εκπαίδευσης και επαλήθευσης του κατηγοριοποιητή. Αυτό οδηγεί σ' ένα απλούστερο κατηγοριοποιητή και σε μια καλύτερη ολική απόδοση του συστήματος. Παρ' όλα αυτά, ο μικρότερος αριθμός χαρακτηριστικών γνωρισμάτων μπορεί επίσης να αποβεί σε τραχύτερη κατηγοριοποίηση, οπότε η εύρεση μιας ισορροπίας μεταξύ των δυο είναι θεμιτή. Τα χαρακτηριστικά γνωρίσματα θα πρέπει να παρέχουν σημαντικές και μοναδικές πληροφορίες σχετικά με το αντικείμενο, επομένως περιγραφείς που παρέχουν παρόμοιες πληροφορίες πρέπει να αποκλειστούν από το διάνυσμα χαρακτηριστικών γνωρισμάτων. Αυτό μπορεί να πραγματοποιηθεί με την ανάλυση συσχέτισης (correlation analysis) Ανάλυση συσχέτισης (correlation analysis) Στην στατιστική, η συσχέτιση δείχνει το επίπεδο γραμμικής σχέσης μεταξύ δύο μεταβλητών [Field 2005, p.107]. Δυο τυχαίες μεταβλητές μπορεί να συσχετίζονται με τρεις τρόπους: 12

13 Μπορεί να συσχετίζονται θετικά, δηλαδή μια αύξηση στη μια μεταβλητή θα επιφέρει αύξηση και στην άλλη μπορεί να συσχετίζονται αρνητικά, δηλαδή μια αύξηση στη μια μεταβλητή θα επιφέρει μείωση στην άλλη ή μπορεί να μην συσχετίζονται, οπότε μια αλλαγή στην μια μεταβλητή να μην επιρρεάσει την άλλη με κανέναν τρόπο. Ένας τρόπος για να εξεταστεί η σχέση δυο μεταβλητών είναι να διερευνηθεί το αν παρουσιάζουν συνδιακύμανση (covariance). Η συνδιακύμανση για δυο τυχαίες μεταβλητές Χ και Υ, κάθε μια με μέγεθος δείγματος Ν, ορίζεται ως [Weisstein 2008]: cov(x,y) = (X-μ χ)(y-μ γ), (11) Όπου, μχ και μγ είναι τα αντίστοιχοι μέσοι όροι. Μπορεί να αναδιαμορφωθεί σε: N cov (X,Y ) = Σ i =1 (y -y) N-1 (12) όπου Xi είναι οι τιμές του X, x είναι ο μέσος όρος των X τιμών, y είναι οι τιμές του Y και y είναι ο μέσος όρος των τιμών του Y. Οι μονάδες τις συνδιακύμανσης είναι το γινόμενο των μονάδων που εμπλέκονται στον υπολογισμό. Αυτή είναι μια προβληματική κατάσταση αφού η συνδιακύμανση δυο μεταβλητών δεν είναι μια καθιερωμένη φόρμα ώστε να μπορεί να συγκριθεί με άλλο ζεύγος μεταβλητών. Για να λυθεί αυτό το πρόβλημα, θα πρέπει να καθιερωθεί ένας συντελεστής συνδιακύμανσης. Έχουν προταθεί διάφοροι συντελεστές που ποσοτικοποιούν την φορά και την ένταση της συνδιακύμανσης. Ο πιο ευρέως διαδεδομένος είναι ο συντελεστής του Pearson [Zar 1984, p.307]: C0Vxy S x S y = Σ ( x - y (y - y) ( N -1 ) S x S y (13) 13

14 Όπου, Sx και Sy είναι οι τυπικές αποκλίσεις των Χ και Υ Αυτός ο τύπος παράγει τιμές στο εύρος -1 με 1. Η τιμή 1 σημαίνει οτι μια τέλεια γραμμική σχέση υπάρχει μεταξύ των μεταβλητών, το -1 δείχνει μια τέλεια αντίστροφη σχέση και το μηδέν επισημαίνει οτι δεν υπάρχει καμία σχέση [Field 2005, p.111]. Γενικά, μια θετική ή αρνητική συνδιακύμανση κάτω του 0,3 θεωρείται ασθενής, τιμές μεταξύ 0,3 και 0,6 είναι μεσαίες και πάνω από 0,6 θεωρούνται δυνατές. Παρ' όλα αυτά, το επίπεδο της συνδιακύμανσης εξαρτάται από την εφαρμογή [Anderson & Finn 1996, p.149]. Όταν περισσότερες από δυο μεταβλητές εξετάζονται και οι συνδιακυμάνσεις τους υπολογίζονται, είναι σύνηθες να τοποθετηθούν τα αποτελέσματα σε ένα πίνακα τον πίνακα συνδιακυμάνσεων (correlation matrix). Αυτός ο πίνακας διευκολύνει τον ερευνητή στον εντοπισμό δυνατών ή ασθενών συνδιακυμάνσεων μεταξύ μεταβλητών [Anderson & Finn 1996, p.161]. Σε αυτή την εργασία, η ανάλυση συνδιακύμανσης αποτελεί ένα εργαλείο για τη διαλογή των χαρακτηριστικών γνωρισμάτων (feature selection). Με τη βοήθεια του πίνακα συνδιακυμάνσεων χαρακτηριστικά γνωρίσματα που παρουσιάζουν υψηλή ομοιότητα με κάποια άλλα αφαιρούνται από το διάνυσμα χαρακτηριστικών γνωρισμάτων Μηχανές διανυσμάτων υποστήριξης Οι μηχανές διανυσμάτων υποστήριξης (Support Vector Machines, SVMs) είναι ένα σύνολο εποπτευμένων μεθόδων εκμάθησης που χρησιμοποιούνται για την κατηγοριοποίηση (classification) και την οπισθοδρόμηση (regression). Εξετάζοντας τα δεδομένα εισόδου ως δύο σύνολα διανυσμάτων σε ένα διάστημα ν διαστάσεων, ένα SVM θα κατασκευάσει ένα υπερεπίπεδο που θα χωρίζει εκείνο το διάστημα που μεγιστοποιεί το περιθώριο μεταξύ των δύο συνόλων δεδομένων. Για να υπολογιστεί το περιθώριο, δύο παράλληλα υπερεπίπεδα κατασκευάζονται, ένα σε κάθε πλευρά υπερεπιπέδου διαχωρισμού, τα οποία «ωθούνται» προς τα δύο σύνολα δεδομένων. Διαισθητικά, καλός διαχωρισμός επιτυγχάνεται από υπερεπίπεδα που έχουν τη μεγαλύτερη απόσταση από τα γειτονικά δεδομένα και των δύο κατηγοριών, γενικά όσο μεγαλύτερο το περιθώριο τόσο χαμηλότερο το λάθος γενίκευσης του 14

15 κατηγοριοποιητή. Εικόνα 1: Το υπερεπίπεδο μεγίστου περιθωρίου και τα περιθώρια σε ένα SVM εκπαιδευμένο για δυο κλάσεις. Τα διανύσματα που ορίζονται από τα γειτονικά δείγματα λέγονται Διανύσματα Υποστήριξης. Τα SVM είναι μόνο άμεσα εφαρμόσιμα για προβλήματα με δύο κατηγορίες. Επομένως, αλγόριθμοι που ανάγουν πολλαπλών κλάσεων προβλήματα σε πολλά δυαδικά προβλήματα πρέπει να εφαρμοστούν. Κάθε ένα από τα επιμέρους προβλήματα παράγει έναν δυαδικό κατηγοριοποιητή, ο οποίος έχει μια συνάρτηση εξόδου που δίνει τις σχετικά μεγάλες τιμές για τα παραδείγματα από τη θετική κατηγορία και τις σχετικά μικρές τιμές για τα παραδείγματα που ανήκουν στην αρνητική κατηγορία. Ο δυαδικός κατηγοριοποιητής με την υψηλότερη τιμή της συνάρτησης εξόδου ορίζει την κατηγορία. Σε αυτήν την εργασία, τα SVM χρησιμοποιούνται ως μια εναλλακτική μέθοδος για την επιλογή των πιο κατάλληλων χαρακτηριστικών γνωρισμάτων. Τα χαρακτηριστικά γνωρίσματα θέτονται κατά σειρά ικανότητας από το τετράγωνο του βάρους που ορίζεται από το SVM. 2.5 Τεχνητά ΝευρωνικάΔίκτυα Ένα τεχνητό νευρωνικό δίκτυο (Artificial Neural Network, ANN) ή ευρέως γνωστό ως νευρωνικό 15

16 δίκτυο (Neural Network, NN) είναι μια διασυνδεδεμένη ομάδα τεχνητών νευρώνων που χρησιμοποιεί ένα μαθηματικό ή υπολογιστικό πρότυπο για την επεξεργασία πληροφοριών και σχεδιάζεται σύμφωνα με τον τρόπο με τον οποίο λειτουργεί ένας βιολογικός εγκέφαλος. Αποτελούνται από στοιχεία που λειτουργούν όπως πολύ απλά εγκεφαλικά κύτταρα ή νευρώνες, που διασυνδέονται μέσω συνάψεων με τρόπο παρόμοιο με την οργάνωση του εγκεφάλου [Haykin 1998, pp.1-2]. Τα συστήματα που εφαρμόζονται στη πράξη δε, δίνουν έμφαση στην επίτευξη υψηλότερης πιθανής απόδοσης παρά στην ομοιότητα με το βιολογικό νευρωνικό ιστό. Στις περισσότερες περιπτώσεις το ANN είναι ένα προσαρμοζόμενο σύστημα που αλλάζει τη δομή του βασισμένη στις εξωτερικές ή εσωτερικές πληροφορίες που διατρέχουν το δίκτυο [Haykin 1998, p.2]. Υπάρχουν πολλά διαφορετικά πρότυπα νευρωνικών δικτύων, ανάλογα με την εσωτερική τους αρχιτεκτονική, τη λειτουργία των στοιχείων που τα αποτελούν και του τρόπου με τον οποίο εκπαιδεύονται [Hush et al. 1992]. Εκτός από τη χρήση τους ως ταξινομητές (classifiers) σε εφαρμογές αναγνώρισης μοτίβων (pattern-recognition), τα νευρωνικά δίκτυα μπορούν να εφαρμοστούν και στην ανάλυση παλινδρόμησης (regression analysis), και στην επεξεργασία δεδομένων (data processing). Σε μια εργασία που παρουσιάστηκε από τους Bottou et al. [1994], διάφοροι ταξινομητές συγκρίνονται στη χειρόγραφη αναγνώριση χαρακτήρων. Μεταξύ αυτών των ταξινομητών υπήρχαν πολλές αρχιτεκτονικές εμπρόσθιας ροής πολλαπλών επιπέδων (multi-layer feed-forward) ή συνελικτικών νευρωνικών δικτύων (convolutional neural networks). Η καλύτερη απόδοση παρουσίασε ένα ποσοστό λάθους 0.7% έναντι 0.2% των ανθρώπων. Αυτό απέδειξε ότι τα νευρωνικά δίκτυα μπορούν να συντονιστούν ώστε ν αποδώσουν σχεδόν όσο το ανθρώπινο οπτικό σύστημα, αλλά ακόμα ταχύτερα, σε συγκεκριμένες εφαρμογές. Μία δημοσίευση πάνω σε παρόμοιο θέμα από τους LeCun et al. [1995] καταλήγει στο συμπέρασμα ότι τα νευρωνικά δίκτυα, ακόμα κι αν εκπαιδεύονται πιο αργά, λειτουργούν γρηγορότερα και έχουν πολύ χαμηλότερες απαιτήσεις μνήμης από άλλους ταξινομητές. Παρόλο που άλλοι ισχυροί ταξινομητές έχουν προταθεί πιο πρόσφατα [Baesens et al. 2003, Meyer et al. 2003], τα νευρωνικά δίκτυα εξακολουθούν ν αποτελούν έναν από τους πιο ευρέως χρησιμοποιούμενους ταξινομητές για εφαρμογές βασισμένες στην όραση [Egmont-Petersen et al. 2002] λόγω της υψηλής επίδοσης τους. Για τους παραπάνω λόγους, επομένως, έχουν επιλεγεί για την παρούσα εργασία. 16

17 Η υπολογιστική δύναμη ενός νευρωνικού δικτύου επιτυγχάνεται από τη μαζικά παράλληλη διανεμημένη δομή της για τις εφαρμογές σε hardware ή για τη σειριακή προσομοίωση της παράλληλης δομής τους όταν εφαρμόζονται από λογισμικό. Η δυνατότητά τους στη μάθηση και στη γενίκευση είναι πιθανώς το ελκυστικότερο χαρακτηριστικό τους σε σχέση με άλλες ανταγωνιστικές μεθόδους. Η γενίκευση αναφέρεται στη δυνατότητα του νευρωνικού δικτύου να παράγει τα λογικά διανύσματα εξόδου όταν του παρουσιάζονται διανύσματα εισόδου που δεν του είχαν προβληθεί κατά τη διάρκεια της εκπαίδευσης [Haykin 1998, pp.2-4]. Τα νευρωνικά δίκτυα έχουν έναν αριθμό από συγκεκριμένες ιδιότητες που τα καθιστούν ανεκτίμητα στις εφαρμογές αναγνώρισης σχεδίων τα οποία δε μπορούν να επιτευχθούν εύκολα διαφορετικά [Windsor 1993]. Σύμφωνα με τον Haykin [1998, pp.1-2] οι σημαντικότερες ιδιότητες αυτών είναι: 1. Η μη γραμμικότητα. Πρόκειται για ιδιαιτέρως σημαντική ιδιότητα ειδικά εάν ο ελλοχεύων φυσικός μηχανισμός που είναι υπεύθυνος για την παραγωγή του διανύσματος εισόδου (π.χ. εικόνα αντικειμένου) είναι εγγενώς μη γραμμικός. 2. Η αντιστοίχηση εισαγωγής-εξαγωγής. Το δίκτυο μπορεί να παρουσιαστεί με ένα διάνυσμα εισαγωγής και, μέσω της εκπαίδευσης, τα συναπτικά βάρη τροποποιούνται για να ελαχιστοποιήσουν τη διαφορά μεταξύ της επιθυμητής απάντησης και της πραγματικής απάντησης του δικτύου. 3. Η προσαρμοστικότητα. Τα νευρωνικά δίκτυα έχουν μια ενσωματωμένη ικανότητα η οποία ρυθμίζει τα συναπτικά βάρη τους σύμφωνα με τις αλλαγές του περιβάλλοντα χώρου. Στην ουσία, μπορούν να επανεκπαιδευθούν για να αντιμετωπίζουν τις αλλαγές στις συνθήκες λειτουργίας. Αυτό είναι εμφανέστερο στα νευρωνικά δίκτυα που διευκολύνουν την εν λειτουργία (on-line) εκπαίδευση. 4. Δίνουν απαντήσεις βασισμένες σε αποδείξεις. Στα πλαίσια της αναγνώρισης μοτίβων, τα νευρωνικά δίκτυα μπορούν να σχεδιαστούν ώστε να παρέχουν τις πληροφορίες όχι μόνο για το επιλεγμένο σχέδιο, αλλά και να παρουσιάσουν ένα μέτρο εμπιστοσύνης στην απόφαση που λαμβάνεται. 17

18 5. Λαμβάνουν πληροφορίες βασισμένες στα συμφραζόμενα. Η γνώση αντιπροσωπεύεται από την ίδια την κατάσταση των δομών και της ενεργοποίησης του δικτύου, λόγω του οτι κάθε νευρώνας επηρεάζεται από τη σφαιρική δραστηριότητα όλων των άλλων νευρώνων μέσα στο δίκτυο. 6. Η ομοιομορφία ανάλυσης και σχεδιασμού. Οι νευρώνες αντιπροσωπεύουν ένα κοινό συστατικό σε όλα τα νευρωνικά δίκτυα. Αυτό το γεγονός καθιστά πιθανό τη ανάπτυξη θεωριών και αλγορίθμων εκμάθησης για διαφορετικές εφαρμογές των νευρωνικών δικτύων Ο Τεχνητός Νευρώνας Ένας τεχνητός νευρώνας είναι μια οντότητα ενός βιολογικού νευρώνα και η βασική μονάδα σε ένα τεχνητό νευρωνικό δίκτυο. Το πρώτο μοντέλο τεχνητού νευρώνα παρουσιάστηκε στο κλασικό άρθρο από τους McCulloch και Pitts [1943]. Ο τεχνητός νευρώνας λαμβάνει μια ή περισσότερες εισόδους (αντιπροσωπεύοντας έναν ή περισσότερους δενδρίτες) και τις αθροίζει ώστε να παραγάγει μια έξοδο (σύναψη). Οι είσοδοι εφαρμόζονται στο νευρώνα, κάθε μία από τις οποίες μπορεί να προέλθει από ένα ερέθισμα έξω από το δίκτυο ή από την έξοδο ενός άλλου νευρώνα. Συνήθως τα αθροίσματα κάθε κόμβου είναι σταθμισμένα, και το άθροισμα περνά μέσω μιας μη γραμμικής συνάρτησης γνωστής ως συνάρτηση ενεργοποίησης ή λειτουργίας. Το σχήμα 9 παρουσιάζει ένα χαρακτηριστικό πρότυπο. Εικόνα 2: Το βασικό πρότυπο του τεχνητού νευρώνα και των λειτουργιών ενεργοποίησής του. 18

19 Η συνολική διέγερση, ή το εσωτερικό επίπεδο ενεργοποίησης, Α, του τεχνητού νευρώνα καθορίζεται από τον υπολογισμό του σταθμισμένου αθροίσματος των εισόδων: A = T Σ 1jwj \j= (14) Όπου Τ είναι η συνάρτηση ενεργοποίησής, ij είναι το σήμα εισόδου και Wj είναι ο παράγοντας βάρους. Η κανονική (συνηθισμένη) μορφή των συναρτήσεων μεταφοράς είναι οι σιγμοειδείς, αλλά άλλες μη γραμμικές συναρτήσεις, κλαδικές γραμμικές συναρτήσεις, ή βηματικές συναρτήσεις μπορούν επίσης να χρησιμοποιηθούν [Howlett 1994, p.11]. Η σιγμοειδής (σχήματος S) συνάρτηση μπορεί να εκφραστεί μαθηματικά ως: T = ι_ (1 + e A > (15) όπου Α η συνολική διέγερση. Η σιγμοειδής συνάρτηση μεταφοράς είναι σχήματος S που επιβάλει μια συμπίεση των τιμών της εξόδου Τ, ώστε το εύρος της να είναι μεταξύ 0 και 1, άσχετα με την τιμή της ενεργοποίησης [Howlett 1994, p.12]. Η υπερβολική εφαπτομένη είναι παρόμοιου σχήματος με την σιγμοειδή καμπύλη, αλλά έχει μια διπολική έξοδο που είναι χρήσιμη σε κάποιες εφαρμογές, ενώ η έξοδος της σιγμοειδούς είναι μονοπολική [Thimm et al. 1997]. Η υπερβολική εφαπτομένη έχει τη μορφή: T = tanh (A ). (16) Όπου Α είναι η ολική ενεργοποίηση. Οι νευρώνες μπορούν να οργανωθούν σε σύνθετες τοπολογίες που παρουσιάζουν μαζικό παραλληλισμό. Αυτές οι διασυνδεδεμένες τοπολογίες νευρώνων είναι τα νευρωνικά δίκτυα και απαντώνται σε πολλές αρχιτεκτονικές. Το υποκεφάλαιο ασχολείται με μερικές από αυτές τις αρχιτεκτονικές στο πλαίσιο των εφαρμογών ταξινόμησης. 19

20 2.5.2 Αρχιτεκτονικές Νευρωνικών Δικτύων Μια από τις πιο πολυαναφερθείσες ταξονομίες νευρωνικών δικτύων προέρχεται από ένα διδακτικό άρθρο του Lippman [1987]. Οι Hush και Horne [1993] δημοσίευσαν μια επιθεώρηση του τομέα, που όμως δεν ταξινομεί τα νευρικά δίκτυα ταξονομικά. Ο Howlett [1994, p.14] πρότεινε κατηγοριοποίηση των νευρικών δικτύων για τις εφαρμογές ταξινόμησης, στις οποίες τα πρότυπα δικτύων ταξινομούνται από τον αλγόριθμο τοπολογίας και εκμάθησης. Μια ανανεωμένη ταξονομία που εστιάζει στη χρήση των νευρωνικών δικτύων στην επεξεργασία εικόνας έχει αναφερθεί από τους Egmont-Petersen [2002]. Στον πίνακα 1 παρουσιάζεται μια ταξονομία νευρωνικών δικτύων που εκτελούν την αναγνώριση αντικειμένου βασισμένη στα δεδομένα εικόνας. Πρόκειται για μια δισδιάστατη (2-D) ταξονομία βασισμένη και στη ροή δεδομένων [Howlett 1994, p.14] και στη φύση του διανύσματος εισόδου [Egmont-Petersen et al. 2002]. Περισσότερες νευρωνικές τοπολογίες δικτύων έχουν χρησιμοποιηθεί στις εφαρμογές που παρέχουν τα διανύσματα δεδομένων εικονοκυττάρων στον ταξινομητή παρά διανύσματα χαρακτηριστικών γνωρισμάτων. Αυτό οφείλεται στο γεγονός ότι τα διανύσματα εισόδου χαρακτηριστικών γνωρισμάτων πραγματοποιούν μερική επεξεργασία των δεδομένων επειδή είναι προσεκτικά σχεδιασμένα να είναι ανεκτικά ή αμετάβλητα σε διάφορους παράγοντες που μπορούν να διαστρεβλώσουν τα δεδομένα μιας εικόνας όπως η θέση, η κλίμακα, η κλίση, η προοπτική, οι συνθήκες φωτισμού και ο θόρυβος μεταξύ άλλων pgmont-petersen et al. 2002]. Επομένως, προσεγγίσεις βασισμένες σε εικονοκύτταρα πρέπει να ενσωματώνουν περιπλοκότερα δίκτυα προκειμένου να δουλεύουν αποτελεσματικά με αυτούς τους παράγοντες. 20

21 Πίνακας 1: Δισδιάστατη ταξονομία νευρωνικών δικτύων που χρησιμοποιούνται για την αναγνώριση αντικειμένου [σύμφωνα με Egmont-Petersen et al. 2002, Howlett 1994, p.14] Data-flow Type Pixel-based Feature-based Feed-forward Recurrent Hybrid M ultilayer Perceptron (MLP) A uto-associative network Shared-weights network Radial B asis Function network Higher-order network N euro-fuzzy system Self-organising map (SO M ) H opfield network A ssociative mem ory N eocognitron Adaptive R esonance Theory (ART) Αυτήν η εργασία επικεντρώνεται στα δίκτυα εμπρόσθιας ροής και ειδικότερα στα multi-layer perceptrons (MLPs) και στα δίκτυα συναρτήσεων ακτινικής βάσης (radial basis function networks, RBFNs), επειδή ταιριάζουν σε εφαρμογές ταξινόμησης, χρησιμοποιώντας διανύσματα βασισμένα στην διανύσματα εισόδου χαρακτηριστικών γνωρισμάτων και εφαρμόζουν δύο διαφορετικές τακτικές για τον ορισμό των ορίων απόφασης προς το διαχωρισμό των κλάσεων των δεδομένων στο χώρο των χαρακτηριστικών γνωρισμάτων Νευρωνικά Δίκτυα Εμπρόσθιας Ροής Επί του παρόντος, στον κλάδο της αναγνώρισης μοτίβων, οι πιο ευρέως χρησιμοποιούμενοι τύποι νευρωνικών δικτύων είναι αυτοί της εμπρόσθιας ροής [Egmont-Petersen και λοιποί. 2002]. Οι παραπάνω ονομάζονται έτσι επειδή κατά τη διάρκεια της κανονικής τους λειτουργίας η κύρια πορεία των σημάτων οδηγεί από το επίπεδο εισόδου στο επίπεδο εξόδου χωρίς ανάδραση. Τα δίκτυα εμπρόσθιας ροής χρησιμοποιούνται συνήθως ως ταξινομητές. 21

22 2.5.4 Perceptron ενός επιπέδου (Single-Layer Perceptron, SLP) Το πρώτο είδος νευρωνικού δικτύου είναι το perceptron ενός επιπέδου, το οποίο αποτελείται από ένα ενιαίο επίπεδο κόμβων εξόδουλοι είσοδοι τροφοδοτούνται απευθείας στις εξόδους μέσω μιας σειράς βαρών. Κατά αυτόν τον τρόπο μπορεί να θεωρηθεί ως το απλούστερο είδος δικτύου εμπρόσθιας ροής. Το Rosenblatt [1957] ανέπτυξε το Perceptron, ένα πρότυπο νευρωνικού δικτύου με ένα επίπεδο για τον αμφιβληστροειδή του ματιού. Επινόησε έναν αλγόριθμο εκπαίδευσης για το δίκτυο με ένα επίπεδο και απέδειξε ότι θα καταλήξει σε μια σωστή λύση, εάν αυτή υπάρχει. Τα perceptrons μπορούν να εκπαιδευθούν από έναν απλό αλγόριθμο εκπαίδευσης που καλείται συνήθως εκπαιδευτικός κανόνας δέλτα [Stone 1986]. Υπολογίζει την απόκλιση μεταξύ της επεξεργασμένης εξόδου και των δειγμάτων των δεδομένων εξόδου και τη χρησιμοποιεί για να ρυθμίσει τα βάρη των νευρώνων, εφαρμόζοντας έτσι μια μορφή αλγορίθμου κλίσης καθόδου (gradient descent algorithm) [Baldi 1995]. Τα perceptrons είναι γραμμικοί ταξινομητές. Μπορούν μόνο να χωρίσουν τις συστάδες δεδομένων με μια ευθεία γραμμή, ένα επίπεδο ή ένα υπερεπίπεδο. Αυτό αποτελεί σημαντικό περιορισμό για το πεδίο εφαρμογής αυτής της έρευνας δεδομένου ότι οι κατηγορίες δεδομένων είναι πιθανό να μην είναι γραμμικά ευδιαχώριστες. Αυτό μπορεί να επιλυθεί με την προσθήκη μη γραμμικών στρωμάτων που οδηγεί σε ένα νευρωνικό πρότυπο perceptron πολλαπλών επιπέδων Perceptron με πολλαπλά επίπεδα (Multi-Layer Perceptron, MLP) Αυτή η κατηγορία δικτύων αποτελείται από πολλαπλά επίπεδα υπολογιστικών μονάδων, που διασυνδέονται συνήθως με εμπρόσθια ροή. Κάθε νευρώνας σε ένα επίπεδο κατευθύνει τις συνδέσεις στους νευρώνες του επόμενου επιπέδου. Σε πολλές εφαρμογές οι μονάδες αυτών των δικτύων εφαρμόζουν μια σιγμοειδή συνάρτηση ως συνάρτηση ενεργοποίησης. Το σχήμα 10 παρουσιάζει ένα απλό παράδειγμα ενός τέτοιου δικτύου. 22

23 Το καθολικό θεώρημα προσέγγισης (universal approximation theorem) για νευρωνικά δίκτυα υποστηρίζει ότι κάθε συνεχής συνάρτηση η οποία αντιστοιχίζει διανύσματα πραγματικών αριθμών σε κάποιο διάνυσμα εξόδου πραγματικών αριθμών μπορούν να προσεγγιστούν αυθαίρετα από perceptron πολλαπλών επιπέδων με μόνο ένα κρυφό επίπεδο [Tikk et al. 2001]. Αυτό το αποτέλεσμα ισχύει μόνο για περιορισμένες κατηγορίες συναρτήσεων ενεργοποίησης, π.χ. για σιγμοειδείς συναρτήσεις και συναρτήσεις εφαπτομένης. Εικόνα 3: Δίκτυο Perceptron πολλαπλών επιπέδων με 3 εισόδους, ένα ενιαίο κρυφό επίπεδο 4 νευρώνων και ένα ενιαίο επίπεδο εξόδου νευρώνων Έχει αποδειχθεί ότι η μορφή των ορίων απόφασης, που χωρίζουν οποιεσδήποτε κατηγορίες δεδομένων, εξαρτώνται από τον αριθμό κρυφών νευρώνων [Mirchandani & Cao 1989]. Ο Lippman [1987] απέδειξε ότι ένα δίκτυο με ένα ενιαίο κρυφό επίπεδο είναι επαρκές για να εσωκλείσει οποιαδήποτε κυρτή περιοχή. Δύο κρυφά επίπεδα συνδυάζουν έναν αριθμό κυρτών περιοχών σε ευρύτερες περιοχές που μπορούν να εμφανίζουν κοιλότητα. Όπου ένα αυθαίρετο τμήμα του διαστήματος εισόδου 23

24 απαιτείται, δύο κρυφά επίπεδα μπορούν θεωρητικά να απαιτηθούν. Εντούτοις, στα πειράματα που συγκρίνουν δίκτυα με ένα και δύο κρυφά επίπεδα που ταξινομούν τα αυθαίρετα δεδομένα, δε βρέθηκε καμία αξιόλογη διαφορά στις ικανότητες διάκρισης των δύο τύπων δικτύων [de Villiers & Barnard 1993]. Τα δίκτυα με δύο κρυφά επίπεδα βρέθηκαν να είναι δυσκολότερο να εκπαιδευθούν και πιθανότερο να βρεθούν σε τοπικά ελάχιστα των συναρτήσεων λάθους που χρησιμοποιήθηκαν για να καθορίσουν το τέλος της εκπαίδευσής τους. Επομένως, προτείνεται ότι τα perceptrons πολλαπλών επιπέδων με έναν κρυφό επίπεδο πρέπει να προτιμηθούν από perceptrons με περισσότερα κρυφά επίπεδα. Σε αυτήν την εργασία perceptrons πολλαπλών επιπέδων με ένα κρυφό επίπεδο χρησιμοποιούνται ως βασική μονάδα ταξινόμησης Εκπαίδευση με αλγόριθμο ανάστροφης μετάδοσης (Backpropagation Algorithm) Τα δίκτυα πολλαπλών επιπέδων χρησιμοποιούν ποικίλες τεχνικές εκπαίδευσης με δημοφιλέστερη αυτή της ανάστροφης μετάδοσης. Περιγράφηκε αρχικά από τον Paul Werbos [1974], και αναπτύχθηκε περαιτέρω από τους Rumelhart, Hinton και τον Williams [1986]. Εδώ οι τιμές παραγωγής συγκρίνονται με τη σωστή απάντηση για να υπολογίσουν την αξία κάποιας προκαθορισμένης συνάρτησης λάθους. Από τις διάφορες τεχνικές το λάθος ανατροφοδοτείται έπειτα μέσω του δικτύου. Χρησιμοποιώντας αυτές τις πληροφορίες, ο αλγόριθμος ρυθμίζει τα βάρη κάθε σύνδεσης προκειμένου να μειωθεί η αξία της συνάρτησης λάθους από κάποιο μικρό ποσό. Μετά την επανάληψη αυτής της διαδικασίας για έναν αρκετά μεγάλο αριθμό κύκλων εκπαίδευσης, το δίκτυο θα συγκλίνει συνήθως σε κάποια κατάσταση όπου το λάθος των υπολογισμών είναι μικρό. Σε αυτήν την περίπτωση θα μπορούσε να πει κανείς ότι το δίκτυο έχει μάθει μια ορισμένη συνάρτηση στόχου. Για να ρυθμιστούν τα βάρη κατάλληλα, η κάθοδος κλίσης μπορεί να εφαρμοστεί [Baldi 1995]. Για αυτό, το παράγωγο της συνάρτησης λάθους όσον αφορά τα βάρη δικτύων υπολογίζεται και τα βάρη αλλάζουν έτσι ώστε το λάθος να μειώνεται (ακολουθώντας έτσι καθοδική πορεία στην επιφάνεια της συνάρτησης λάθους). Για αυτό η ανάστροφη μετάδοση μπορεί μόνο να εφαρμοστεί στα δίκτυα με τις διαφοροποιημένες συναρτήσεις ενεργοποίησης. 24

25 Σε περιπτώσεις όπου μόνο πολύ περιορισμένοι αριθμοί δειγμάτων εκπαίδευσης είναι διαθέσιμοι, υπάρχει κίνδυνος το δίκτυο να απομνημονεύσει τα δεδομένα εκπαίδευσης και να αποτύχει να συλλάβει την αληθινή στατιστική διαδικασία που παράγει τα δεδομένα. Σε τέτοια περίπτωση, η έγκαιρη διακοπή της διαδικασίας εκπαίδευσης εξασφαλίζει συχνά ότι το δίκτυο θα γενικεύσει καλά στα παραδείγματα και όχι στα δεδομένα που χρησιμοποιήθηκαν για την εκπαίδευση. Άλλα τυπικά προβλήματα του αλγορίθμου ανάστροφης μετάδοσης είναι η ταχύτητα σύγκλισης και η πιθανότητα εγκλωβισμού σε ένα τοπικό ελάχιστο της συνάρτησης λάθους [Hush et al. 1992]. Σήμερα, υπάρχουν πρακτικές λύσεις που καταστούν την ανάστροφη μετάδοση για perceptrons πολλαπλών επιπέδων τη λύση επιλογής για πολλές εφαρμογές που απαιτούν την εκμάθηση μηχανών [Bishop 1995]. Oι LeCun et al. [1998] προσφέρουν μια ανάλυση των κοινών ανεπιθύμητων συμπεριφορών της ανάστροφης μετάδοσης και συμβουλές για το πώς να τις αντιμετωπίσουν. Στην παρούσα εργασία, η προαναφερθείσα τεχνική χρησιμοποιείται στην εποπτευόμενη εκπαίδευση των νευρωνικών ταξινομητών. Πιο συγκεκριμένα, χρησιμοποιείται για να εκπαιδεύσει MLP δίκτυα και τα τελικά εποπτευμένα επίπεδα των δικτύων συναρτήσεων ακτινικής βάσης Δίκτυα Συναρτήσεων Ακτινικής Βάσης (Radial Basis Function Network, RBFN) Η συνάρτηση ακτινικής βάσης (Radial Basis Function, RBF) είναι μια συνάρτηση της οποίας η τιμή εξαρτάται από την απόσταση από ένα κέντρο. Οι RBF έχουν εφαρμοστεί στον τομέα των νευρωνικών δικτύων, όπου μπορούν να χρησιμοποιηθούν ως αντικατάσταση των χαρακτηριστικών μεταφοράς των σιγμοειδών κρυφών επιπέδων σε perceptrons πολλαπλών επιπέδων. Το δίκτυο συναρτήσεων ακτινικής βάσης (RBFN) επινοήθηκε στην αρχική του μορφή από τους Moody και Darken [1989] αλλά αναπτύχθηκε και βελτιώθηκε από άλλους [Moody & Darken 1989Λ Howlett & Lawrence 1995bΛ Leonard et al. 1992]. Είναι ένα πρότυπο νευρωνικό δίκτυο [Bishop 1995, p.167] που δεν μοιάζει με το αντίστοιχο μαθηματικό πρότυπο των βιολογικών νευρώνων. Τα δίκτυα 25

26 RBF έχουν δύο επίπεδα επεξεργασίας: Στο πρώτο, το διάνυσμα εισόδου αντιστοιχίζεται σε κάθε RBF στο κρυφό επίπεδο. Το RBF που επιλέγεται είναι συνήθως μια γκαουσσιανή συνάρτηση κατανομής. Στις εφαρμογές παλινδρόμησης το επίπεδο εξόδου είναι επομένως ένας γραμμικός συνδυασμός των τιμών κρυφών επιπέδων που αντιπροσωπεύει τη μέση προβλεφθείσα έξοδο. Η ερμηνεία αυτής της τιμής του επιπέδου της εξόδου είναι το ίδιο με το μοντέλο παλινδρόμησης στη στατιστική. Στις εφαρμογές ταξινόμησης το επίπεδο εξόδου είναι τυπική σιγμοειδής συνάρτηση ενός γραμμικού συνδυασμού τιμών κρυφών επιπέδων προκειμένου να κρατηθεί το διάνυσμα εξόδου περιορισμένο σε ένα σταθερό εύρος [Duda et al. 2001, pp ]. Ένα απλό παράδειγμα τέτοιου δικτύου απεικονίζεται στο σχήμα 11. Ο Bishop [1995] εξηγεί ότι τα RBF δίκτυα έχουν το πλεονέκτημα να μην πέφτει κατά την εκπαίδευση τους η συνάρτηση σε τοπικά ελάχιστα με τον ίδιο τρόπο όπως τα perceptrons πολλαπλών επιπέδων. Αυτό είναι επειδή οι μόνες παράμετροι που ρυθμίζουν τη διαδικασία εκπαίδευσης είναι η γραμμική αντιστοίχηση από το κρυφό επίπεδο στο επίπεδο εξόδου. Η γραμμικότητα εξασφαλίζει ότι η επιφάνεια λάθους είναι τετραγωνική και επομένως έχει ένα μόνο εύκολα ευρέσιμο ελάχιστο. Κατά συνέπεια, με ένα κατάλληλα εκπαιδευμένο RBF δίκτυο κρυφού επιπέδου αυτής της δομής επιτυγχάνει πάντα τη βέλτιστη απόδοσή του. Τα RBF δίκτυα έχουν το μειονέκτημα της απαίτησης της καλής κάλυψης του διαστήματος εισόδου από τις συνάρτησης ακτινικής βάσης. Τα RBF κέντρα καθορίζονται σε σχέση με τη διανομή των δεδομένων εισόδου, αλλά χωρίς αναφορά στο στόχο ταξινόμησης [Haykin 1998]. Κατά συνέπεια, οι πόροι εκπροσώπησης μπορούν να σπαταληθούν σε περιοχές του χώρου εισόδου που είναι άσχετοι με το στόχο εκπαίδευσης. Παρ όλα αυτά, ο συγκεκριμένος τύπος δικτύων εκπαιδεύεται πολύ γρήγορα και με την επιλογή του κατάλληλου αλγόριθμου, που εξασφαλίζει το ότι τα Γκαουσιανά κέντρα των RBF είναι κοντά στις βέλτιστες τιμές τους, η απόδοση ταξινόμησής τους είναι πολύ υψηλή. Στη παρούσα εργασία οι συντεταγμένες των Γκαουσιανών κέντρων βρέθηκαν με τη χρήση της μεθόδου συστοιχιοποίησης Κ-μέσων (K-means clustering) [Duda et al. 2001, pp ]. 26

27 Εικόνα 4: Ένα Δίκτυο συναρτήσεων ακτινικής βάσης με 3 εισόδους, ένα κρυφό επίπεδο 4 νευρώνων και ένα μόνο επίπεδο εξόδου νευρώνων 2.6 Εφαρμογές νευρωνικών δικτύων στην οπτική αναγνώριση μοτίβων Στη βιβλιογραφία υπάρχει ένας τεράστιος αριθμός επιστημονικών άρθρων που ασχολείται με την εφαρμογή των Τεχνιτών Νευρωνικών Δικτύων σε εφαρμογές κατηγοριοποίησης. Αυτές οι μέθοδοι έχουν αναγνωριστεί για πολλά χρόνια ως ισχυρά εργαλεία για την επίλυση πραγματικών προβλημάτων επεξεργασίας εικόνας και κατηγοριοποίησης [Rama Chellappa 1998]. Σε αυτό το τμήμα της εργασίας παρουσιάζεται μια σύντομη επισκόπηση εφαρμογών νευρωνικών δικτύων με εφαρμογές στην κατηγοριοποίηση και στην όραση υπολογιστών (computer vision). Τα Multilayer Perceptrons (MLPs) είναι τα πιο ευρέως χρησιμοποιούμενα νευρωνικά δίκτυα σε εφαρμογές κατηγοριοποίησης [Egmont-Petersen et al. 2002]. Έχουν χρησιμοποιηθεί και σε προσεγγίσεις βασισμένες σε εικονοκύτταρα αλλά και χαρακτηριστικά γνωρίσματα. Οι προσεγγίσεις 27

28 βασισμένες σε εικονοκύτταρα προέρχονται από ευρύ φάσμα τεχνικών δημιουργίας εικόνας: Κατηγοριοποιητές εκπαιδευμένοι στο να είναι αμετάβλητοι σε περιστροφή [Fukumi et al. 1997] εφαρμοσμένοι στην αναγνώριση κερμάτων, εντοπισμός λευκοκυττάρων με τη χρήση οπτικού μικροσκοπίου υπό διαφορετικές συνθήκες φωτισμού [Egmont-Petersen et al. 2000] και εντοπισμός στόχου από εικόνες ραντάρ συνθετικού διαφράγματος (synthetic aperture radar, SAR) [Perlovsky et al. 1997]. Διαφορετικά παραδείγματα υπάρχουν επίσης και με τις προσεγγίσεις βασισμένες σε χαρακτηριστικά γνωρίσματα όπως η ταυτοποίηση υπογραφών [Armand et al. 2006; Nguyen et al. 2007; Huang & Yan 1997], κατηγοριοποίηση αστέρων και γαλαξιών [Andreon et al. 2000], καθώς και αναγνώριση προσώπου [Grudin 2000]. Τα δίκτυα συναρτήσεων ακτινικής βάσης (Radial Basis Function Networks, RBFNs) επίσης έχουν εφαρμοστεί με επιτυχία σε διάφορα προβλήματα κατηγοριοποίησης: οι Stubbings and Hutter [1999] χρησιμοποίησαν αυτό το κατηγοριοποιητή για να εξετάσουν τις κολλήσεις ατσαλιού και χρωμίου βασισμένοι σε ιστογράμματα εικόνων φασματογράφου μάζας δευτερεύοντος ιόντος (secondary ion mass spectrometer, SIMS). Η υλοποίηση ενός αλγόριθμου που συνδυάζει τα RBFNs με την τεχνική συστοιχιοποίησης Κ- μέσων (K-means clustering) για οπτικές εικόνες τηλεπισκόπισης (remote sensing) από τους Rollet et al. [1998] επηρέασαν τον τρόπο χρήσης αυτών των δικτύων σε αυτή την εργασία. Ο Foody [2004] εφάρμοσε κατηγοριοποιητές RBFNs για τον καθορισμό καλλιεργειών από εικόνες τηλεπισκόπισης και τα συνέκρινε με τα MLP δίκτυα. Και αυτό το άρθρο έδωσε επίσης χρήσιμες πληροφορίες για το σχεδιασμό κατηγοριοποιητών ως προς τη σύγκριση του χώρου χαρακτηριστικών γνωρισμάτων των κατηγοριοποιητών αυτών σε σχέση με την απόδοσή τους. Εκτός από τα δίκτυα MLP και τα RBF που χρησιμοποιούνται σε αυτήν την εργασία υπάρχουν και άλλα είδη νευρωνικών δικτύων που μπορούν να χρησιμοποιηθούν σε εφαρμογές κατηγοριοποίησης: 28

29 τα δίκτυα Hopfield, τα δίκτυα μνήμης τυχαίας προσπέλασης (RAM) τα δίκτυα αυτοοργανούμενου χάρτη (Self-Organising Map networks, SOMs) και τα νευροασαφή συστήματα (Neuro-Fuzzy systems, NFS) Τα δίκτυα Hopfield είναι μια μορφή ασύγχρονων δικτύων με ανάδραση που είναι σχεδόν σίγουρο ότι θα φτάσουν σε κατάσταση ευστάθειας κατά την εκπαίδευσή τους [Rojas 1996]. Αυτό το χαρακτηριστικό τα κάνει κατάλληλα για κατηγοριοποιητές στην όραση υπολογιστών. Μια δισδιάστατη τεχνική κατηγοριοποίησης αντικειμένων αναπτύχθηκε από τους Nasrabaldi και Li [1991] για να ταυτοποιεί και να εντοπίζει απομονωμένα ή επικαλυπτόμενα δισδιάστατα αντικείμενα σε κάθε θέση και προσανατολισμό. Μια άλλη προσέγγιση για αναγνώριση αντικειμένων αμετάβλητη ως προς τη θέση και τον προσανατολισμό προτάθηκε από τους Antonucci et al. [1994]. Τα δίκτυα Hopfield έχουν επίσης συνδυαστεί με φίλτρα Gabor για να κατηγοριοποιήσουν πολυφασματικές εικόνες για τηλεπισκόπιση [Raghu & Yegnanarayana 1997]. Παραλλαγές τους έχουν προταθεί για αυτόματη αναγνώριση στόχων [Young et al. 1998; Young et al. 1996; Young et al. 1997]. Τα RAM νευρωνικά δίκτυα είναι μια τάξη δικτύων με δυαδικά βάρη ή εντελώς αβαρή που είναι κατάλληλα για συστήματα αναγνώρισης μοτίβων. Το κύριο χαρακτηριστικό τους είναι οτι εκπαιδεύονται πολύ γρήγορα και εύκολα υλοποιούνται σε hardware [Austin 1998; Lorrentz et al. 2008]. συνήθων εκπαιδεύονται κατά την διάρκεια του σχεδιασμού τους και ύστερα μόνο η κατάσταση ανάκλησης τους μεταφέρεται σε microchip χρησιμοποιώντας VHDL ή Verilog [do Valle Simoes et al. 1996]. Αυτή η ιδιότητα τους τα κάνει χρήσιμα για εφαρμογές υψηλής ταχύτητας ή πραγματικού χρόνου: 29

30 οπτική καθοδήγηση για ρομπότ [Christensen et al. 1996], αναδόμηση εικόνων από τομογράφους ηλεκτρικής χωρητικότητας [Duggan & York 1995], και καταμέτρηση ανθρώπων από βιντεοσειρές ορισμένης οπτικής άποψης [Schofield et al. 1996]. Τα SOMs είναι νευρωνικά δίκτυα ειδικά για την ανάλυση και απεικόνιση πολυδιάστατων δεδομένων. Συναρτούν μη γραμμικές στατιστικές σχέσεις μεταξύ πολυδιάστατων δεδομένων σε απλές γεωμετρικές σχέσεις, συνήθως σε δισδιάστατα πλέγματα [Han & Shao 2002]. Διεξάγουν συστοιχισμό δεδομένων παρόμοιο με στατιστικούς αλγόριθμους χωρίς επιτήρηση όπου δεν προϋπάρχει γνώση των δεδομένων [Markou & Singh 2003]. Σε εφαρμογές όρασης υπολογιστών, συνήθων χρησιμοποιούνται για εξαγωγή χαρακτηριστικών γνωρισμάτων πριν από την αναγνώριση αντικειμένων: Διάγνωση καρκίνου του μαστού από εικόνες υπερηχογραφήματος [Zheng et al. 1997] και αναγνώριση προσώπου [Lawrence et al. 1997]. Σε κάποιες περιπτώσεις, έχουν χρησιμοποιηθεί και ως ο κύριος κατηγοριοποιητής [Strouthopoulos & Papamarkos 1998]. Τα νευροασαφή συστήματα είναι μια ιδιαίτερη τάξη κατηγοριοποιητών πού σχηματίζονται από τη μείξη ασαφών συστημάτων (Fuzzy Systems, FS) και νευρωνικών δικτύων. Αυτά τα υβριδικά συστήματα χαρακτηρίζονται από τον τρόπο που τα ασαφή συστήματα και τα νευρωνικά δίκτυα ενώνονται. Τα ασαφή συστήματα νευρωνικών δικτύων (Neural Network Fuzzy Systems, NNFS) αποτελούνται από ασαφή συστήματα σε τοπολογία νευρωνικών δικτύων, ενώ τα ασαφή νευρωνικά δίκτυα (Fuzzy Neural Networks, FNNs) είναι δομές νευρωνικών δικτύων με ένα αριθμό ασαφοποιημένων μελών [Malamas et al. 2003]. Στα NNFS, τα νευρωνικά δίκτυα παρέχουν στα ασαφή συστήματα έναν αυτόματο τρόπο ρύθμισης χωρίς αλλαγή στην λειτουργία τους. Αυτά χρησιμοποιούνται σε εφαρμογές αυτομάτου ελέγχου [Canuto 2001]. Στα FNNs, η ασαφοποίηση των μελών των νευρωνικών δικτύων βελτιώνει το συνολικό σύστημα με την προσφορά αυξημένης ελαστικότητας στον τρόπο αποθήκευσης και ανάκλησης πληροφοριών που επιταχύνει την εκπαίδευσή και την απόδοσή τους [Malamas et al. 2003]. Τα FNNs χρησιμοποιούνται κυρίως σε αναγνώριση 30