Θεωρία Λήψης Αποφάσεων Ενότητα 3: Ασκήσεις Bayes Περιοχές Απόφασης Διακρίνουσες Συναρτήσεις Μπεληγιάννης Γρηγόριος Σχολή Οργάνωσης και Διοίκησης Επιχειρήσεων Τμήμα Διοίκησης Επιχειρήσεων Αγροτικών Προϊόντων & Τροφίμων (Δ.Ε.Α.Π.Τ.)
Ασκήσεις Bayes Περιοχές Απόφασης Διακρίνουσες Συναρτήσεις Υποενότητα 1
Σκοποί 1 ης υποενότητας Να μάθουν οι φοιτητές να επιλύουν ασκήσεις σχετικές με διακρίνουσες συναρτήσεις ταξινόμηση προτύπων με χρήση της Θεωρίας Απόφασης του Bayes καθορισμό περιοχών απόφασης 3
Περιεχόμενα 1 ης υποενότητας 1 η Άσκηση: Διακρίνουσες συναρτήσεις 2 η Άσκηση: Θεωρία Απόφασης του Bayes 3 η Άσκηση: Περιοχές απόφασης και πιθανότητα λάθους ταξινόμησης προτύπων 4 η Άσκηση: Θεωρία Απόφασης του Bayes και ταξινόμηση ελάχιστου λάθους 4
1 η Άσκηση (1/2) Υποθέστε ότι έχουμε ένα δισδιάστατο χώρο χαρακτηριστικών x=[x 1, x 2 ], δύο κατηγορίες/ενδεχόμενα ω 1 και ω 2 και ότι οι p(x 1,x 2 ω 1 ) και p(x 1,x 2 ω 2 ) ακολουθούν κανονική κατανοµή µε την ίδια μέση τιμή μ=[0, 0] και διασπορά σ 12 =4 και σ 22 =16, αντίστοιχα Έστω επίσης ότι P(ω 1 )=P(ω 2 ) 5
1 η Άσκηση (2/2) Αν χρησιµοποιήσουµε ένα «κατά Bayes» σύστημα λήψης απόφασης: 1. Ποιες είναι οι δύο συναρτήσεις απόφασης g 1 (x 1,x 2 ) και g 2 (x 1,x 2 ); 2. Ποιο είναι το σύνορο (όριο) απόφασης και τι μορφή έχει; 6
2 η Άσκηση (1/2) Έστω ότι παίζετε σε ένα τηλεοπτικό παιχνίδι και μπροστά σας υπάρχουν τρεις κουρτίνες Ο παρουσιαστής σας ενημερώνει ότι πίσω από µία από αυτές κρύβεται ένα αυτοκίνητο Έστω ότι επιλέγεται την κουρτίνα Α Ο παρουσιαστής ανοίγει την κουρτίνα Γ για να σας δείξει ότι το αυτοκίνητο δε βρίσκεται πίσω από αυτή Μήπως πρέπει να αλλάξετε γνώμη και να επιλέξετε την κουρτίνα Β ή θα επιμείνετε στην αρχική σας επιλογή; 7
2 η Άσκηση (2/2) Ορίστε το πρόβληµα χρησιµοποιώντας όρους από τη θεωρία απόφασης του Bayes Ποια είναι η εκ των προτέρων γνώµη σας και ποια η εκ των υστέρων, δηλαδή μετά από το άνοιγµα της κουρτίνας Γ, σύμφωνα με τον κανόνα απόφασης του Bayes; Ποια θα πρέπει να είναι η απόφασή σας αν ακολουθήσετε τον κανόνα απόφασης του Bayes; 8
3 η Άσκηση (1/3) Οι παρακάτω γραφικές παραστάσεις δείχνουν τις υπό συνθήκη πυκνότητες πιθανότητας (πιθανοφάνειες) για τρεις κατηγορίες (ενδεχόμενα) ω i (i=1,2,3) σε σχέση με την τιμή του μονοδιάστατου διανύσματος παρατήρησης x 9
3 η Άσκηση (2/3) 10
3 η Άσκηση (3/3) Βρείτε τις περιοχές απόφασης ελάχιστου λάθους και τις αντίστοιχες πιθανότητες λάθους, θεωρώντας ότι P(ω 1 )=0.25, P(ω 2 )=0.25 και P(ω 3 )=0.5 11
4 η Άσκηση (1/3) Έστω ένα πρόβλημα κατηγοριοποίησης σε C διαφορετικές κατηγορίες και ω max (x) είναι η κατάσταση της φύσης για την οποία P(ω max /x) >P(ω i /x) για κάθε i, όπου i=1,...,c Δηλαδή η ω max (x) είναι η πιο πιθανή κατάσταση 12
4 η Άσκηση (2/3) 1. Αποδείξτε ότι P(ω max /x) >1/C 2. Αποδείξτε ότι για τον κανόνα απόφασης ελαχίστου λάθους η μέση πιθανότητα λάθους δίνεται από 13
4 η Άσκηση (3/3) 3. Χρησιμοποιώντας τα παραπάνω αποτελέσματα δείξτε ότι 4. Περιγράψτε μια περίπτωση όπου 14
Τέλος Υποενότητας 1
Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στo πλαίσιo του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα στο Πανεπιστήμιο Πατρών» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους. 16
Σημειώματα
Σημείωμα Ιστορικού Εκδόσεων Έργου Το παρόν έργο αποτελεί την έκδοση 1.0. Έχουν προηγηθεί οι κάτωθι εκδόσεις: 18
Σημείωμα Αναφοράς Copyright Πανεπιστήμιο Πατρών, Γρηγόριος Μπεληγιάννης. «Θεωρία Λήψης Αποφάσεων. Ασκήσεις Bayes Περιοχές Απόφασης Διακρίνουσες Συναρτήσεις». Έκδοση: 1.0. Πάτρα 2015. Διαθέσιμο από τη δικτυακή διεύθυνση: https://eclass.upatras.gr/modules/document/document.php?course=deapt1 12. 19
Σημείωμα Αδειοδότησης Το παρόν υλικό διατίθεται με τους όρους της άδειας χρήσης Creative Commons Αναφορά, Μη Εμπορική Χρήση Παρόμοια Διανομή 4.0 [1] ή μεταγενέστερη, Διεθνής Έκδοση. Εξαιρούνται τα αυτοτελή έργα τρίτων π.χ. φωτογραφίες, διαγράμματα κ.λ.π., τα οποία εμπεριέχονται σε αυτό και τα οποία αναφέρονται μαζί με τους όρους χρήσης τους στο «Σημείωμα Χρήσης Έργων Τρίτων». [1] http://creativecommons.org/licenses/by nc sa/4.0/ Ως Μη Εμπορική ορίζεται η χρήση: που δεν περιλαμβάνει άμεσο ή έμμεσο οικονομικό όφελος από την χρήση του έργου, για το διανομέα του έργου και αδειοδόχο που δεν περιλαμβάνει οικονομική συναλλαγή ως προϋπόθεση για τη χρήση ή πρόσβαση στο έργο που δεν προσπορίζει στο διανομέα του έργου και αδειοδόχο έμμεσο οικονομικό όφελος (π.χ. διαφημίσεις) από την προβολή του έργου σε διαδικτυακό τόπο Ο δικαιούχος μπορεί να παρέχει στον αδειοδόχο ξεχωριστή άδεια να χρησιμοποιεί το έργο για εμπορική χρήση, εφόσον αυτό του ζητηθεί. 20