ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΕΛΟΠΟΝΝΗΣΟΥ, ΤΜΗΜΑ ΤΕΧΝΟΛΟΓΙΑΣ ΤΗΛΕΠΙΚΟΙΝΩΝΙΩΝ ΚΕΣ 3: ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ ΚΑΙ ΑΝΑΛΥΣΗ ΕΙΚΟΝΑΣ Ακαδημαϊκό Έτος 7 8, Χειμερινό Εξάμηνο Καθ.: Νίκος Τσαπατσούλης ΕΡΩΤΗΣΕΙΣ ΕΠΑΝΑΛΗΨΗΣ Το παρόν έντυπο αποτελεί υπόδειγμα τελικής εξέτασης για το μάθημα Αναγνώριση Προτύπων και Ανάλυση Εικόνας. Η εξέταση θα αποτελείται από δύο μέρη: Το πρώτο περιλαμβάνει ερωτήσεις πολλαπλής επιλογής και βαθμολογείται με 4 μονάδες. Κάθε ερώτηση έχει μόνο μία ορθή απάντηση και οι ορθές απαντήσεις πρέπει να μεταφερθούν στον πίνακα που θας δίνεται στην τελευταία σελίδα. Το δεύτερο μέρος περιλαμβάνει έξι ασκήσεις / θεωρητικές ερωτήσεις, από τις οποίες πρέπει να απαντήσετε δύο, και βαθμολογείται με 6 μονάδες. ΠΡΟΣΟΧΗ: Σε περίπτωση απάντησης περισσότερων από δύο ασκήσεων θα ληφθούν υπόψη οι δύο με τη χειρότερη βαθμολογία. ΔΙΑΡΚΕΙΑ ΕΞΕΤΑΣΗΣ: 3 ΩΡΕΣ ΟΝΟΜΑΤΕΠΩΝΥΜΟ: ΑΡΙΘΜΟΣ ΦΟΙΤΗΤΙΚΗΣ ΤΑΥΤΟΤΗΤΑΣ:... ΕΞΑΜΗΝΟ: ΜΕΡΟΣ Α ΒΑΘΜΟΛΟΓΙΑ ΜΕΡΟΣ Β ΣΥΝΟΛΟ
Τελική Εξέταση: Φεβρουάριος 8
Τελική Εξέταση: Φεβρουάριος 8 3 (Δ) ΜΕΡΟΣ Α: ΕΡΩΤΗΣΕΙΣ ΠΟΛΛΑΠΛΗΣ ΕΠΙΛΟΓΗΣ Ερώτηση Δίνεται το μητρώο, με Α. Σε ποια από τις παρακάτω κατηγορίες φίλτρων θα το κατατάσσατε; + 8 ), ( A y x h (Α). Φίλτρο απαλοιφής θορύβου (Β). Φίλτρο ανίχνευσης γραμμών (Γ). Φίλτρο εξομάλυνσης (Δ). Φίλτρο όξυνσης ακμών Ερώτηση Ποιο από τα παρακάτω φίλτρα (μητρώα h) θα χρησιμοποιούσατε για τον εντοπισμό διαγωνίων γραμμών όπως αυτή της εικόνας f(x,y) πιο κάτω: (Α). (Β). (Γ).. 8 Σχήμα Α: Εικόνα f(x,y) Ερώτηση 3 Η ανίχνευση γραμμών με χρήση φίλτρων είναι αποτελεσματικότερη όταν το πάχος των γραμμών είναι pxel. Ποιο από τα παρακάτω φίλτρα θα χρησιμοποιούσατε για την λέπτυνση (thnnng) οριζόντιων γραμμών,n παράθ κα pxel οριζόντια και κέντρο το υπό εξέταση pxel max μέγιστη τιμή στο παράθυρο, mn ελάχιστη τιμή στο παράθυρο): (Α).max([3,]) (Β). mn([3,]) (Γ). max([,3]) (Δ). mn([,3]) (ο συμβολισμός [m ] υποδηλώνει ένα υρο μεγέθους m pxel τακόρυφα και n
Τελική Εξέταση: Φεβρουάριος 8 Ερώτηση 4 Δίνεται η εικόνα Α(x,y) διαστάσεων [Μ,Ν][44,8] pxel. Η εικόνα παίρνει δύο μόνο διαφορετικές τιμές φωτεινότητας: 8 A( x, y) 6 N x N < x N Η μέση φωτεινότητα της εικόνας A(x,y) είναι: (Α). 8 (Β). (Γ). 36 (Δ). 4 Image A Σχήμα Α.4 Ερώτηση 5 Στην εικόνα του Σχήματος Α.4 εφαρμόζουμε το μητρώο h δημιουργώντας την εικόνα g(x,y) (g(x,y)a(x,y) h(x,y)). Θεωρήστε ότι πριν την εφαρμογή του μητρώου h η εικόνα επεκτείνεται γύρω από τα όρια της με επανάληψη των οριακών τιμών ( replcate ). Η μέγιστη τιμή φωτεινότητα της εικόνας g(x,y) θα είναι: h (Α). 8 (Β). (Γ). 4 (Δ). 55 Ερώτηση 6 Πόσες διαφορετικές τιμές φωτεινότητας θα περιέχει η εικόνα g(x,y) της ερώτησης 5: (Α). (Β). (Γ). 3 (Δ). 4 Ερώτηση 7 Ποια θα είναι η ελάχιστη τιμή φωτεινότητας της εικόνας g(x,y) της ερώτησης 5: (Α). (Β). 8 (Γ). (Δ). 6 Ερώτηση 8 Στην εικόνα του Σχήματος Α.4 εφαρμόζουμε το μητρώο h δημιουργώντας την εικόνα z(x,y) (z(x,y)a(x,y) h(x,y)). Θεωρήστε ότι πριν την εφαρμογή του μητρώου h η εικόνα επεκτείνεται γύρω από τα όρια της με επανάληψη των οριακών τιμών ( replcate ). Η μέση φωτεινότητα της εικόνας z(x,y) θα είναι: h 8 (Α). (Β). 8 (Γ). (Δ). Ερώτηση 9 Σε ποια από τις παρακάτω κατηγορίες φίλτρων θα κατατάσσατε το μητρώο h της ερώτησης 8; (Α). Φίλτρο ανίχνευσης ακμών (Β). Φίλτρο ανίχνευσης γραμμών (Γ). Φίλτρο εξομάλυνσης (Δ). Φίλτρο όξυνσης ακμών Ερώτηση Ποια θα είναι η μέγιστη τιμή φωτεινότητας της εικόνας z(x,y) της ερώτησης 8: (Α). (Β). 8 (Γ). 6 (Δ). 4 4
Τελική Εξέταση: Φεβρουάριος 8 Ερώτηση Ο κώδικας αλυσίδας ενός αντικειμένου είναι 7334435656677. Η περίμετρος του είναι περίπου ίση με: (Α). (Β). 6 (Γ). 7 (Δ). 76 Ερώτηση Για ένα πρότυπο x έχουν υπολογιστεί οι πιθανότητες p(x ω )., p(x ω )., p(x ω 3 ).3, p(x ω 4 ).. Αν είναι γνωστό ότι οι εκ των προτέρων πιθανότητες είναι P(ω ).3, P(ω ).5, P(ω 3 ).5 και P(ω 4 ).3. Ο βέλτιστος ταξινομητής Bayes θα ταξινομήσει το x στη κλάση: (Α). ω (Β). ω (Γ). ω 3 (Δ). ω 4 Ερώτηση 3 Στην ερώτηση, η πιθανότητα p( είναι ίση με: (Α). (Β)..8 (Γ)..3 (Δ)..85 Ερώτηση 4 Το Σχήμα Α.4 δείχνει τη μορφή της συνάρτησης διαχωρισμού g( κατά την m-στη επανάληψη του αλγόριθμου Perceptron. Η συνάρτηση g( δίνεται από τη σχέση (θεωρήστε ότι η κλάση ω αντιστοιχεί στα κυκλάκια): (Α). g(.5x +x -5x 3 (Β). g(.5x +x -5 (Γ). g( x +.5x -5 (Δ). g( x +.5x +5.5.5 x.5.5.5.5 x Σχήμα Α.4 Ερώτηση 5 Με τα δεδομένα της ερώτησης 4, η «απόσταση» του σημείου x [.8] Τ από την ευθεία g( είναι ίση με: (Α). -.9 (Β). -.8 (Γ). -.5 (Δ). 4. 5
Τελική Εξέταση: Φεβρουάριος 8 Ερώτηση 6 Το περιθώριο (margn) ανάμεσα στις κλάσεις ω, ω με βάση την τρέχουσα θέση της ευθείας g( (δεδομένα της ερώτησης 4) είναι ίσο με: (Α). -. (Β). (Γ)..3 (Δ)..5 Ερώτηση 7 Με την εφαρμογή του αλγόριθμου Perceptron οι παράμετροι της ευθείας g( (της ερώτησης 4) στη m+ επανάληψη δίνονται από τη σχέση: w(m+) w(m) + Δw. Αν ρ. η διόρθωση των βαρών Δw θα είναι ίση με: (Α). [-3 -.4 -] Τ (Β). [-.3 -.4 -.] Τ (Γ). [.3.4.] Τ (Δ). [. -. ] Τ Ερώτηση 8 Στην περίπτωση της ερώτησης 7 η τροποποιημένη συνάρτηση διαχωρισμού g( (m+ επανάληψη) θα είναι: (Α). g(.x -.x (Β). g(.8x +.4x -4.8x 3 (Γ). g( -x +.x -7 (Δ). g(.x +.86x -5. Ερώτηση 9 Η απόσταση του σημείου x [..4] T από τη διαχωριστική επιφάνεια g( της ερώτησης 7 είναι: (Α)..5 (Β)..44 (Γ)..5 (Δ)..8 Ερώτηση Μετά την τροποποίηση της συνάρτησης διαχωρισμού στην ερώτηση 7: (Α). Το περιθώριο μειώθηκε αλλά παράλληλα μειώθηκε και το σφάλμα ταξινόμησης (Β). Το περιθώριο μειώθηκε και το σφάλμα ταξινόμησης αυξήθηκε (Γ). Το περιθώριο αυξήθηκε και το σφάλμα ταξινόμησης μειώθηκε (Δ). Το περιθώριο αυξήθηκε αλλά παράλληλα αυξήθηκε και το σφάλμα ταξινόμησης 6
Τελική Εξέταση: Φεβρουάριος 8 ΜΕΡΟΣ Β: ΑΣΚΗΣΕΙΣ Άσκηση (3 μονάδες): Δίνεται η εικόνα f(x,y) του διπλανού σχήματος η οποία παίρνει τιμές φωτεινότητας στο διάστημα [ 7] με το να αντιστοιχεί στο μαύρο, το 7 να αντιστοιχεί στο λευκό και ενδιάμεσες τιμές να αντιστοιχούν σε αποχρώσεις του γκρι. (a) Να ορίσετε ένα κριτήριο ομοιότητας περιοχών το οποίο να μπορεί να χρησιμοποιηθεί αποτελεσματικά στη μέθοδο τεμαχισμού και συνένωσης (splt & merge) για την κατάτμηση της εικόνας. - (3 μονάδες) (b) Για την εικόνα f(x,y) ποιος είναι ο μέγιστος αριθμός επαναλήψεων οι οποίες θα απαιτηθούν για την κατάτμηση της εικόνας (με τη μέθοδο τεμαχισμού και συνένωσης ); Αιτιολογήστε την απάντηση σας. (3 μονάδες) Εικόνα f 6 7 7 6 7 7 7 7 7 7 7 7 6 7 7 7 Να εφαρμόσετε τη μέθοδο τεμαχισμού και συνένωσης στην εικόνα f(x,y). Σε κάθε επανάληψη και κάθε βήμα να υποδεικνύονται οι περιοχές οι οποίες τεμαχίζονται και οι περιοχές οι οποίες συνενώνονται. Επιπλέον να υποδεικνύονται οι περιοχές που υπάρχουν στο τέλος κάθε επανάληψης. (4 μονάδες) ------------------------------------------------------------------------------------------------------------------------------------------ Άσκηση (3 μονάδες): Στη εικόνα της Άσκησης εφαρμόζουμε ολική κατωφλίωση με Τ 3. (a) Να υπολογιστεί η εικόνα b(x,y) που προκύπτει μετά την κατωφλίωση. (4 μονάδες) (b) Να βρεθεί ο ανεξάρτητος από θέση, σημείο αρχής και κατεύθυνση κώδικας αλυσίδας του σχήματος που βρίσκεται στο προσκήνιο (b(x,y) ) της εικόνας του ερωτήματος (a). (8 μονάδες) (c) Με βάση το ερώτημα (b) αναφέρατε ένα πρόβλημα που παρουσιάζουν οι μέθοδοι εξαγωγής χαρακτηριστικών από περιγράμματα. Δώστε ένα παράδειγμα που να αναδεικνύει αυτό το πρόβλημα. (8 μονάδες) ------------------------------------------------------------------------------------------------------------------------------------------ Άσκηση 3 (3 μονάδες): Θεωρήστε ότι τα διανύσματα εκπαίδευσης ενός προβλήματος ταξινόμησης απεικονίζονται στο Σχήμα Β4.. (a) Να εκτιμηθούν οι πιθανότητες p(x ω ) και p(x ω ) για x [.6.8] T με τη μέθοδο k-nn για k5. ( μονάδες) (b) Να εφαρμοστεί ο κανόνας του Bayes για την ταξινόμηση του x με βάση τα αποτελέσματα του (a) αλλά και με εκτίμηση της εκ των προτέρων πιθανότητας. (5 μονάδες) (c) Να εφαρμοστεί ο κανόνας ταξινόμησης k-nn με k9 για ταξινόμηση του x. (5 μονάδες) (d) Θεωρώντας ότι τα δεδομένα της κλάσης ω (κόκκινα δεδομένα) ακολουθούν Γκαουσιανή κατανομή να υπολογίσετε τις παραμέτρους μ, και Σ με τη μέθοδο της μεγίστης πιθανοφάνειας. ( μονάδες) 7
Τελική Εξέταση: Φεβρουάριος 8 ------------------------------------------------------------------------------------------------------------------------------------------ Άσκηση 4 (3 μονάδες): Ένας απλός τρόπος προσέγγισης της συνάρτησης διαχωρισμού σύμφωνα με τη μεθοδολογία SVM προκύπτει αν καταφέρουμε να βρούμε πιθανά διανύσματα υποστήριξης (support vectors) και εφαρμόσουμε σε αυτά τη μέθοδο των ελαχίστων τετραγώνων. Για να εφαρμοστεί η μέθοδος χρειάζεται: Να επιλέξουμε διανύσματα υποστήριξης τουλάχιστον τόσα (N) όσα η διάσταση των διανυσμάτων εισόδου συν ένα (αν x є R l, N l+) Να επιλέξουμε διανύσματα υποστήριξης περίπου ισομερώς κατανεμημένα στις δύο κλάσεις. (a) Να βρείτε τη συνάρτηση διαχωρισμού g( για τη ταξινόμηση των προτύπων του Σχήματος Β4. χρησιμοποιώντας την ανωτέρω μεθοδολογία. (5 μονάδες) (b) Με βάση το αποτέλεσμα στο ερώτημα (a) να υπολογίσετε το περιθώριο (margn) ανάμεσα στα κλάσεις. (5 μονάδες) (c) Χρησιμοποιώντας τα αποτελέσματα των ερωτημάτων (a) και (b), να βρείτε τη συνάρτηση g( που αφήνει την ίδια απόσταση ανάμεσα στα πλησιέστερα διανύσματα υποστήριξης εκατέρωθεν της. ( μονάδες) Red color ω class, blue ω class.8.6.4. x.8.6.4..5.5.5 x Σχήμα Β4.: Δεδομένα για εύρεση του μέγιστου περιθωρίου ------------------------------------------------------------------------------------------------------------------------------------------ 8
Τελική Εξέταση: Φεβρουάριος 8 Άσκηση 5 (3 μονάδες): Για τα δεδομένα του Σχήματος Β5. (κόκκινα κλάση ω, μπλε κλάση ω ) να βρείτε μια μηχανή Perceptron δύο επιπέδων που να τα ταξινομεί σωστά. (a) Ποιος είναι o ελάχιστος αριθμός κόμβων p στο εσωτερικό επίπεδο που χρειάζονται για το διαχωρισμό των δύο κλάσεων. Αιτιολογήστε σχηματικά την απάντηση σας. (4 μονάδες) (b) Υπολογίστε τις συναρτήσεις διαχωρισμού g (,,,,p (x η είσοδος στο δίκτυο Perceptron). Σημειώνεται ότι οι λύσεις που θα δώσετε δεν είναι μοναδικές. (8 μονάδες) (c) Υπολογίστε τη συνάρτηση διαχωρισμού g(y) (y είναι η απόκριση των ενδιάμεσων κόμβων μετά την εφαρμογή κατωφλίου στις συναρτήσεις g (). (8 μονάδες).8.6.4 x. -. -.4..4.6.8. x Σχήμα Β5.: Δεδομένα διαχωρίσιμα με πολυεπίπεδες Perceptron ------------------------------------------------------------------------------------------------------------------------------------------ Άσκηση 6 (3 μονάδες): Κατά την εφαρμογή του αλγορίθμου back-propagaton στην m-στη επανάληψη έχουμε: Είσοδο το πρότυπο x [ 3] Τ το οποίο έχει επιθυμητή έξοδο d [ ] Τ Πίνακα βαρών στο πρώτο επίπεδο (δείτε και Σχήμα Β6.) W [w () w ()... w () p ] (η τελευταία γραμμή του πίνακα W αντιστοιχεί στα κατώφλια w () των κόμβων): 9
Τελική Εξέταση: Φεβρουάριος 8 W.6.......8.3.3.7.6 Πίνακα βαρών στο δεύτερο επίπεδο W [w () w () w k () ] (η τελευταία γραμμή του πίνακα W αντιστοιχεί στα κατώφλια w () των κόμβων) W.7.9.3.6.4.6.4.7.8.7 Θεωρήστε ότι η συνάρτηση ενεργοποίησης σε όλους τους κόμβους είναι: f ( + e x Σχήμα Β6.: Συμβολισμοί για την εφαρμογή του αλγορίθμου back-propagaton (d) Να σχεδιάσετε το δίκτυο βάζοντας το σωστό αριθμό εισόδων, κόμβων στο εσωτερικό επίπεδο, εξόδων καθώς και τα συναπτικά βάρη και κατώφλια. (4 μονάδες) (e) Να υπολογίσετε την έξοδο y του κρυφού επιπέδου για το πρότυπο x. (f) Να υπολογίσετε την έξοδο z για το πρότυπο x. (4 μονάδες) (4 μονάδες) (g) Να εφαρμόσετε τον αλγόριθμο back-propagaton για τον υπολογισμό του πίνακα W στην m+ επανάληψη (μετά την εφαρμογή της εισόδου. Για διευκόλυνση των πράξεων θεωρήστε μ (στην πράξη ισχύει <μ<). (8 μονάδες) Σημείωση: Για τη συνάρτηση ενεργοποίησης ισχύει f '( f ( ( f ( )
Τελική Εξέταση: Φεβρουάριος 8 ΠΙΝΑΚΑΣ ΑΠΑΝΤΗΣΕΩΝ Ερώτηση Α Β Γ Δ Σχόλια 3 Στα φίλτρα ανάδειξης ακμών το άθροισμα των στοιχείων του μητρώου είναι ίσο με μηδέν. Αν το άθροισμα είναι διάφορο του μηδέν και όλα τα στοιχεία του μητρώου ομόσημα τότε το φίλτρο είναι φίλτρο εξομάλυνσης ή φίλτρο απαλοιφής υψιπερατού θορύβου. Σε αντίθετη περίπτωση (άθροισμα μη μηδενικό και στοιχεία ετερόσημα) τότε το φίλτρο είναι ένα φίλτρο ανάδειξης ακμών. Η αλλαγή του προσήμου στα στοιχεία του μητρώου πρέπει να είναι κάθετη προς τις γραμμές τις οποίες θέλουμε να ανιχνεύσουμε και τα συνευθειακά στοιχεία πρέπει να είναι μη μηδενικά Η λέπτυνση επιτυγχάνεται με χρήση του τελεστή mn. Για λέπτυνση γραμμών το φίλτρο πρέπει να περιλαμβάνει περισσότερες από μια γραμμές. 4 5 Η εικόνα g(x,y) θα έχει παντού μηδενικές τιμές εκτός από τα σημεία που ανήκουν στην ακμή όπου θα έχει τιμή 4 6 Δύο διαφορετικές τιμές:, 4 7 8 Εφόσον το άθροισμα των στοιχείων του μητρώου είναι ίσο με μηδέν το ίδιο θα ισχύει και για τη μέση φωτεινότητα της εικόνας 9 Τα διαγώνια στοιχεία (αριθμοί,3,5,7) έχουν μήκος ενώ τα υπόλοιπα έχουν μήκος (οπότε P + ) x ω : P( ω > P( ω P( ω p( x ω ) P( ω ) p( j j 3 p( p( x ω ) P( ω ) p( x ω ) P( ω ) M 4
Τελική Εξέταση: Φεβρουάριος 8 4 Χρησιμοποιώντας τα σημεία [ ] Τ και [.5] Τ μπορούμε εύκολα να επαληθεύσουμε την απάντηση (Β) g( g( 5 d w w + w 6 Τα πλησιέστερα στη διαχωριστική επιφάνεια σημεία των κλάσεων ω και ω τα οποία έχουν ταξινομηθεί σωστά είναι τα: x A [..4] Τ και x Β [..6] Τ. Το άθροισμα των (κατά απόλυτη τιμή) αποστάσεων τους είναι περίπου.5. w( m + ) w( m) + Δw w( m) ρ δ x, Επομένως: x Y x 7 8 Δw ρ.6.4.3 x..6 +.8.4. δ x x Y.5.3. w ( m + ) w( m) + Δw.4.86 5. 5. g( g( 9 d w w + w Με τη διόρθωση των βαρών τα δύο πρότυπα που είχαν ταξινομηθεί λάθος ([.6.6] Τ, [.4.8] Τ ) τώρα ταξινομούνται ορθά, επομένως το σφάλμα ταξινόμησης έχει μειωθεί. Από το αποτέλεσμα της ερώτησης 9 φαίνεται ότι και το περιθώριο έχει μειωθεί.