3 η Διάλεξη. Ενδεικτικές λύσεις ασκήσεων

Transcript

1 3 η Διάλεξη Ενδεικτικές λύσεις ασκήσεων

2 Περιεχόμενα η Άσκηση η Άσκηση η Άσκηση η Άσκηση... 8 Χρηματοδότηση... Σημείωμα Αναφοράς... 2 Σημείωμα Αδειοδότησης

3 Ενδεικτικές λύσεις ασκήσεων 3 ης Διάλεξης η Άσκηση Υποθέστε ότι έχουμε ένα δισδιάστατο χώρο χαρακτηριστικών x=[x, x 2 ], δύο κατηγορίες/ενδεχόμενα ω και ω 2 και ότι οι p(x,x 2 ω ) και p(x,x 2 ω 2 ) ακολουθούν κανονική κατανοµή µε την ίδια μέση τιμή μ=[0, 0] και διασπορά σ 2 =4 και σ 2 2 =6, αντίστοιχα Έστω επίσης ότι P(ω )=P(ω 2 ) Αν χρησιµοποιήσουµε ένα «κατά Bayes» σύστημα λήψης απόφασης:. Ποιες είναι οι δύο συναρτήσεις απόφασης g (x,x 2 ) και g 2 (x,x 2 ); 2. Ποιο είναι το σύνορο (όριο) απόφασης και τι μορφή έχει; Ενδεικτική λύση Οι συναρτήσεις απόφασης (διακρίνουσες συναρτήσεις) είναι οι εξής:, /,, /, /,, / Κανόνας απόφασης: Αν,, αποφάσισε ω, διαφορετικά αποφάσισε ω 2., 2 2, 2 4 Όριο απόφασης:,,

4 Το όριο απόφασης είναι ένας κύκλος της μορφής x 2 +y 2 =r 2 με 2. Για να βρούμε ποια περιοχή είναι η ω και ποια η ω 2 αρκεί να δοκιμάσουμε ένα σημείο. Δοκιμάζουμε λοιπόν το (0,0): 0,0 0, Ισχύει, άρα 0,0 0,0, δηλαδή το σημείο (0,0) ανήκει στην ω. 2 4,72 x 2 ω 2 ω x 4

5 2 η Άσκηση Έστω ότι παίζετε σε ένα τηλεοπτικό παιχνίδι και μπροστά σας υπάρχουν τρεις κουρτίνες. Ο παρουσιαστής σας ενημερώνει ότι πίσω από µία από αυτές κρύβεται ένα αυτοκίνητο. Έστω ότι επιλέγετε την κουρτίνα Α. Ο παρουσιαστής ανοίγει την κουρτίνα Γ για να σας δείξει ότι το αυτοκίνητο δε βρίσκεται πίσω από αυτή. Μήπως πρέπει να αλλάξετε γνώμη και να επιλέξετε την κουρτίνα Β ή θα επιμείνετε στην αρχική σας επιλογή; Ορίστε το πρόβληµα χρησιµοποιώντας όρους από τη θεωρία απόφασης του Bayes. Ποια είναι η εκ των προτέρων γνώµη σας και ποια η εκ των υστέρων, δηλαδή μετά από το άνοιγµα της κουρτίνας Γ, σύμφωνα με τον κανόνα απόφασης του Bayes; Ποια θα πρέπει να είναι η απόφασή σας αν ακολουθήσετε τον κανόνα απόφασης του Bayes; Ενδεικτική λύση Έστω ω{α, β, γ} το γεγονός ότι το αυτοκίνητο βρίσκεται πίσω από την κουρτίνα Α, Β και Γ αντίστοιχα. Έστω ότι x{α, Β, Γ} είναι το γεγονός να ανοίξει ο παρουσιαστής την κουρτίνα Α, Β και Γ, αντίστοιχα. Προφανώς ο παρουσιαστής δε μπορεί να ανοίξει την κουρτίνα στην οποία κρύβεται το αυτοκίνητο, αλλά ούτε την κουρτίνα Α που έχετε επιλέξει. Οι εκ των προτέρων πιθανότητες ισούνται με p(α)=p(β)=p(γ)=/3. Στη συνέχεια θα υπολογίσουμε ποια είναι η πιθανότητα να ανοίξει ο παρουσιαστής κάθε κουρτίνα, για κάθε περίπτωση πιθανής ύπαρξης του αυτοκινήτου πίσω από αυτή: Εάν ω=α, δηλαδή το αυτοκίνητο βρίσκεται πίσω από την κουρτίνα Α, έχουμε: p(x=α/α)=0, p(x=γ/α)=p(x=β/α)=/2 Εάν ω=β, δηλαδή το αυτοκίνητο βρίσκεται πίσω από την κουρτίνα Β, έχουμε: p(x=α/β)=p(x=β/β)=0, p(x=γ/β)= Εάν ω=γ, δηλαδή το αυτοκίνητο βρίσκεται πίσω από την κουρτίνα Γ, έχουμε: p(x=α/γ)=p(x=γ/γ)=0, p(x=β/γ)= Αφού ο παρουσιαστής ανοίγει την κουρτίνα Γ ισχύει το εξής: p(x=γ/α)=/2, p(x=γ/β)=, p(x=γ/γ)=0. p(α/x) = / p(β/x) = / p(γ/x) = / p(α/x)+p(β/x)+p(γ/x)=

6 Επομένως: p(α/x) = p(β/x) = p(γ/x) = 0 Άρα αν παίζατε με βάση τον κανόνα απόφασης του Bayes θα έπρεπε να αλλάξετε κουρτίνα και να επιλέξετε την κουρτίνα Β. 3 η Άσκηση Οι παρακάτω γραφικές παραστάσεις δείχνουν τις υπό συνθήκη πυκνότητες πιθανότητας (πιθανοφάνειες) για τρεις κατηγορίες (ενδεχόμενα) ω i (i=,2,3) σε σχέση με την τιμή του μονοδιάστατου διανύσματος παρατήρησης x. p(x/ω ) p(x/ω 2 ) p(x/ω 3 ) Βρείτε τις περιοχές απόφασης ελάχιστου λάθους και τις αντίστοιχες πιθανότητες λάθους, θεωρώντας ότι P(ω )=0.25, P(ω 2 )=0.25 και P(ω 3 )=0.5. Ενδεικτική λύση Διακρίνουσες συναρτήσεις: p(ω /x)=p(x/ω ) P(ω )=0,25 p(x/ω ) p(ω 2 /x)=p(x/ω 2 ) P(ω 2 )=0,25 p(x/ω 2 ) p(ω 3 /x)=p(x/ω 3 ) P(ω 3 )=0,5 p(x/ω 3 ) Κανόνας απόφασης: Αποφάσισε ω αν p(ω /x)>p(ω 2 /x) KAI p(ω /x)>p(ω 3 /x) Αποφάσισε ω 2 αν p(ω 2 /x)>p(ω /x) KAI p(ω 2 /x)>p(ω 3 /x) Αποφάσισε ω 3 αν p(ω 3 /x)>p(ω /x) KAI p(ω 3 /x)>p(ω 2 /x) 6

7 Πρώτα θα βρούμε την ευθεία y = ax + b που περνάει από τα σημεία A(,0) και B(0, 0,25). 0= a + b a= 0,25 0,25 = b b = 0,25 y = 0,25x + 0,25 Η 2 η ευθεία είναι η y = 0,25 Εξισώνοντας τις δύο ευθείες έχουμε: 0,25x + 0,25 = 0,25 x = 0,5 Επομένως, το σημείο τομής τους έχει συντεταγμένες x=0,5, y=0,25. Στη συνέχεια θα βρούμε την ευθεία y = ax + b που περνάει από τα σημεία Γ(,5, 0) και Δ(,75, 2). 0=,5a + b b=,5a b=,5a b= 2 2 =,75α +b 2 =,75a,5a 0,25a=2 a=8 y = 8x 2 Η 2 η ευθεία είναι η y = 0,25 Εξισώνοντας τις δύο ευθείες έχουμε: 8x 2 = 0,25 8x = 2,25 x =,56 Επομένως, το σημείο τομής τους έχει συντεταγμένες x=,56, y=0,25. Στη συνέχεια θα βρούμε την ευθεία y = ax + b που περνάει από τα σημεία E(2, 0) και Δ(,75, 2). 0= 2a + b b= 2a b= 2a b=6 2 =,75α +b 2 =,75a,5a 0,25a=2 a= 8 y = 8x + 6 Η 2 η ευθεία είναι η y = 0,25 Εξισώνοντας τις δύο ευθείες έχουμε: 8x + 6 = 0,25 8x = 5,875 x =,984 Επομένως, το σημείο τομής τους έχει συντεταγμένες x=,984, y=0,25. Περιοχές απόφασης: Αποφάσισε ω αν 0,75 x,56 ΚΑΙ x,984 Αποφάσισε ω 2 αν x,56 Αποφάσισε ω 3 αν,56 x,984 7

8 p(ω i /x) 2 p(ω 3 /x) p(ω 2 /x) 0,5 0,5 0,25 0,25 p(ω /x) 0,5,5 2 x ω 2 ω ω 3 ω R 2 R R 3 R Πιθανότητες λάθους: / / / /, / /,,,, /, /, / 0,25 0,5 0,25 0,5 0,25,56,5 0,252,984 0,25,984,56= 0,0625 0,0325 0,00 0,00 0,0585 0, η Άσκηση Έστω ένα πρόβλημα κατηγοριοποίησης σε C διαφορετικές κατηγορίες και ω max (x) είναι η κατάσταση της φύσης για την οποία P(ω max /x) > P(ω i /x) για κάθε i, όπου i=,...,c, δηλαδή η ω max (x) είναι η πιο πιθανή κατάσταση.. Αποδείξτε ότι P(ω max /x) > /C 8

9 2. Αποδείξτε ότι για τον κανόνα απόφασης ελαχίστου λάθους η μέση πιθανότητα λάθους δίνεται από / 3. Χρησιμοποιώντας τα παραπάνω αποτελέσματα δείξτε ότι / 4. Περιγράψτε μια περίπτωση όπου / Ενδεικτική λύση. Μας δίνεται ότι P(ω max /x) > P(ω i /x) για κάθε i, όπου i=,...,c. Παίρνουμε το άθροισμα και στα δύο μέλη: / / / / 2. Σύμφωνα με τον κανόνα απόφασης ελάχιστου λάθους / /. H ελάχιστη P(error/x) προκύπτει όταν αποφασίζουμε ότι ισχύει η σωστή κατάσταση να είναι η ω max, γιατί έτσι προκύπτει το minimum άθροισμα, δηλαδή το άθροισμα όλων των άλλων πιθανοτήτων εκτός της P(ω max /x). Άρα: / / () Στη σχέση () προσθέτουμε το P(ω max /x) και στα δύο μέλη και έχουμε: / / / / / / / Από τη θεωρία ισχύει το εξής: / / / 9

10 Δηλαδή, η πιθανότητα λάθους προκύπτει από την αφαίρεση της πιθανότητας που αντιστοιχεί στην πιο πιθανή κατάσταση. 3. Συνδυάζοντας τα προηγούμενα προκύπτει το εξής: 4. Η περίπτωση προκύπτει όταν: P(ω max /x) = P(ω /x) = P(ω 2 /x) = = P(ω c /x) = /C, δηλαδή όλες οι καταστάσεις είναι ισοπίθανες και επομένως είναι αδιάφορο το ποια απόφαση θα πάρουμε. Όλες οι αποφάσεις οδηγούν στην ίδια πιθανότητα λάθους. 0

11 Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στo πλαίσιo του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα στο Πανεπιστήμιο Πατρών» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους.

12 Σημείωμα Αναφοράς Copyright Πανεπιστήμιο Πατρών, Γρηγόριος Μπεληγιάννης. «Θεωρία Λήψης Αποφάσεων. 3 η Διάλεξη Ενδεικτικές λύσεις ασκήσεων». Έκδοση:.0. Πάτρα 205. Διαθέσιμο από τη δικτυακή διεύθυνση: 2

13 Σημείωμα Αδειοδότησης Το παρόν υλικό διατίθεται με τους όρους της άδειας χρήσης Creative Commons Αναφορά, Μη Εμπορική Χρήση Παρόμοια Διανομή 4.0 [] ή μεταγενέστερη, Διεθνής Έκδοση. Εξαιρούνται τα αυτοτελή έργα τρίτων π.χ. φωτογραφίες, διαγράμματα κ.λ.π., τα οποία εμπεριέχονται σε αυτό και τα οποία αναφέρονται μαζί με τους όρους χρήσης τους στο «Σημείωμα Χρήσης Έργων Τρίτων». [] nc sa/4.0/ Ως Μη Εμπορική ορίζεται η χρήση: που δεν περιλαμβάνει άμεσο ή έμμεσο οικονομικό όφελος από την χρήση του έργου, για το διανομέα του έργου και αδειοδόχο που δεν περιλαμβάνει οικονομική συναλλαγή ως προϋπόθεση για τη χρήση ή πρόσβαση στο έργο που δεν προσπορίζει στο διανομέα του έργου και αδειοδόχο έμμεσο οικονομικό όφελος (π.χ. διαφημίσεις) από την προβολή του έργου σε διαδικτυακό τόπο Ο δικαιούχος μπορεί να παρέχει στον αδειοδόχο ξεχωριστή άδεια να χρησιμοποιεί το έργο για εμπορική χρήση, εφόσον αυτό του ζητηθεί. 3