ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΕΛΟΠΟΝΝΗΣΟΥ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ ΚΑΙ ΤΗΛΕΠΙΚΟΙΝΩΝΙΩΝ Εισαγωγή στις Διακριτές Πιθανότητες ΜΔΕ Προηγμένα Τηλεπικοινωνιακά Συστήματα και Δίκτυα Νικόλαος Χ. Σαγιάς Επίκουρος Καθηγητής Webpage: http://eclass.uop.gr/courses/tst305/ e-mail: sagias@uop.gr
Συγγράμματα Μαθήματος Θεωρία Πιθανοτήτων A. Papoulisκαι S. U. Pillai, Πιθανότητες, τυχαίες μεταβλητές και στοχαστικές διαδικασίες, 4 η έκδοση, Τζιόλα, 007 Murray R. Spiegel, Πιθανότητες και Στατιστική (μετάφραση: Σωτήριος Κ. Περσίδης), ΕΣΠΙ, ΑΘΗΝΑ, 977 Πανεπιστήμιο Πελοποννήσου
Το σύνολο των δυνατών αποτελεσμάτων ενός πειράματος τύχης ονομάζεται δειγματόχωρος, Ω Κάθε υποσύνολο του δειγματόχωρου ονομάζεται γεγονός Έστω ένα γεγονός ΕÍΩτο οποίο αποτελείται από ισοπίθανα διακριτά σημεία από το σύνολο των σημείων του δειγματόχωρου Σύμφωνα με τον κλασσικό ορισμό της πιθανότητας, η πιθανότητα εμφάνισης του γεγονότος Ε είναι P Τιμές της πιθανότητας 0 P Όταν P (ή 00%), το γεγονός θα συμβεί με βεβαιότητα Όταν P 0(ή 0%), το γεγονός είναι απίθανο να συμβεί Ω E Παράδειγμα:Κατά τη ρίψη ζαριού, όπου Ω {,,,} και, η πιθανότητα να προκύψει άρτιος E {, 4, }με 3 είναι P 3/ 0.5 ή P 50% Πανεπιστήμιο Πελοποννήσου
Ένωση συνόλων È : Ω Ε ÈΕ ÈΕ 3 Η κοινή πιθανότητα (joit probability) των ενδεχομένων Ε και Ε είναι Pr{Ε ÈΕ } Pr{Ε } + Pr{Ε } Παράδειγμα ρίψης ζαριού Ε {,} και Ε {3,4} Pr{Ε ÈΕ } Pr{Ε } + Pr{Ε } / + / /3 Τομή συνόλων Ç: Ε ÇΕ Æ Η τομή των ενδεχομένων Ε και Ε είναι Pr{Ε ÇΕ } 0 E Ω Όταν ισχύει μία από τις παραπάνω εξισώσεις για τις πιθανότητες Pr{Ε ÈΕ } και Pr{Ε ÇΕ }, τα γεγονότα Ε και Ε ονομάζονται ανεξάρτητα E E 3 Πανεπιστήμιο Πελοποννήσου 3
Η κοινή πιθανότητα των ενδεχομένων Ε και Ε είναι Pr{Ε ÈΕ } Pr{Ε } + Pr{Ε } Pr{Ε ÇΕ } Παράδειγμα ρίψης ζαριού Ε {,,3} και Ε {3,4}: Pr{Ε ÈΕ } Pr{Ε } + Pr{Ε } Pr{Ε ÇΕ } 3/ + / / /3 Η τομή των ενδεχομένων Ε και Ε είναι Ε ÇΕ {3}. άρα Pr{Ε ÇΕ } / Όταν ισχύει Pr{Ε ÈΕ }¹Pr{Ε } + Pr{Ε } ή/και Pr{Ε ÇΕ }¹0, τότε τα γεγονότα Ε και Ε ονομάζονται εξαρτημένα E E Ω E 3 Πανεπιστήμιο Πελοποννήσου 4
Έστω ο δειγματόχωρος Ωαποτελούμενος από τα διακριτά γεγονότα {,,, } Κάθε γεγονός (,,,) χαρακτηρίζεται από πιθανότητα εμφάνισης Pr{ } με Χμια διακριτή τυχαία μεταβλητή (ΤΜ) με πεδίο τιμών το {,,, } Η Χ ( i ) Pr{ } ονομάζεται συνάρτηση πιθανότητας μάζας (ΣΠΜ)της Η ΣΠΜ πληροί τις ακόλουθες ιδιότητες Χ ( ) ³ 0, για κάθε åα ( ) Για κάθε ÎÂ, η αθροιστική συνάρτηση κατανομής ορίζεται F å ( ) ( ) Πανεπιστήμιο Πελοποννήσου 5
Παράδειγμα:Έστω η ρίψη ενός ζαριού. Ο δειγματόχωρος είναι Ω {,, 3, 4, 5, } με ίσες πιθανότητες, δηλαδή ( ) / Η ΣΠΜ της Χέχει το παρακάτω ραβδόγραμμα ( ) / H αθροιστική συνάρτηση κατανομής είναι ως εξής 5/ 4/ 3/ / / F () 3 4 5 3 4 5 Πανεπιστήμιο Πελοποννήσου
Η μέση τιμή της ΤΜ ορίζεται ως Γενικεύοντας, η μέση τιμή του ορίζεται ως Η διασπορά της μεταβλητής ορίζεται ως Πανεπιστήμιο Πελοποννήσου 7 ( ) å m ( ) å ( ) ( ) ø ö ç ç è æ - - å å s
Παράδειγμα:Έστω ότι κατά την ρίψη ενός ζαριού αν προκύψει περιττός E {, 3, 5}, κερδίζουμε μια ίση ποσότητα σε νομίσματα, ενώ αν προκύψει άρτιος E {, 4, }, χάνουμε μια ίση ποσότητα σε νομίσματα Δειγματόχωρος Ω {, -, 3, -4, 5, -} με ισοπίθανα στοιχεία και η ΤΜ τα νομίσματα Η μέση τιμή του είναι å Η μέση τιμή του είναι å + - b Η διασπορά της ΤΜ είναι ( ) - + 3-4 + 5 - -0. 5 ( ) ( ) + 3 + (- 4) + 5 + (- ) 5. 7 9 s - 5.7- (- 0.5) 4. 97 Πανεπιστήμιο Πελοποννήσου 8
Έστω ο δειγματόχωροςω αποτελούμενος από τα διακριτά γεγονότα {,,, } με πιθανότητες εμφάνισης Pr{ } Χ ( ) p με Χ ( )τη ΣΠΜ της διακριτής ΤΜ Χ Έστω ο δειγματόχωροςω Y αποτελούμενος από τα διακριτά γεγονότα {y, y,, y M } με πιθανότητες εμφάνισης Pr{Y y m } Y (y m ) q m με Y (y m )ΣΠΜ της διακριτής ΤΜ Y Πολύ συχνά απαιτείται η πιθανότητα της τομής των γεγονότων Ç Y y m Pr{, Y y m } Χ,Y (, y m ) w,m μεδισδιάστατο δειγματόχωροω,υ και Χ,Y ( i, y j )τηνκοινή ΣΠΜ των Χκαι Yκαι M åå m (, y ), Y m Οι Χ ( ) p και Y (y m ) q m ονομάζονται περιθώριεςσπμ με M å ( ) ( ) και, Y, ym å, Y(, ym) Y( ym) m Πανεπιστήμιο Πελοποννήσου 9
Η αθροιστική συνάρτηση κατανομής είναι åå ( Y y) ( y ) F,, Y,, Y y y m m y y y M,Y (, y ),Y (, y ),Y (, y M ) ( ),Y (, y ),Y (, y ),Y (, y M ) ( ),Y (, y ),Y (, y ),Y (, y M ) ( ) Y (y ) Y (y ) Y (y M ) M å, Y, m m ( y ) ( ) å, Y, m ( y ) ( y ) Y m M åå m (, y ), Y m Πανεπιστήμιο Πελοποννήσου 0
Παράδειγμα: Έστω η κοινή ΣΠΜτου ζεύγους ΤΜ και Υ Να βρεθούν: Η σταθερά c (, y ), Y i j ( ) ì ïc i + y j, i 0,, και y j 0,,,3 í ï î 0,αλλού Να υπολογιστεί η πιθανότητα εμφάνισης του ζεύγους γεγονότων {, Y } Η σταθερά cμπορεί εύκολα να υπολογιστεί με βάση των πιθανοτήτων εμφάνισης κάθε ζεύγους γεγονότων από τον παρακάτω πίνακα å å y 0 y y 3 y 4 3 0 0 c c 3 c c c 3 c 4 c 5 c 4 c 3 4 c 5 c c 7 c c 3 4 ( ) Δεδομένου ότι, y, προκύπτει ότι c /4 i j c 9 c c 5 c 4 c, Y i j Η πιθανότητα Pr{, Y } είναι το άθροισμα των πιθανοτήτων της γραμμοσκιασμένης περιοχής του παραπάνω πίνακα, δηλαδή Pr{, Y } 4 c 4/7 Πανεπιστήμιο Πελοποννήσου
Πολύ χρήσιμη είναι η γνώση της πιθανότητας για την ΤΜ Χνα πάρει την τιμή με δεδομένο ότι η ΤΜ Yέχει την τιμή y m Pr{ Y y m } Χ Y ( y m ) με Χ Y ( y m )τηνυπό συνθήκη ΣΠΜ της ΡΜ Χως προς Yκαι å ( y ) και ( y ) Y m Η υπό συνθήκη πιθανότητα σχετίζεται με την κοινή πιθανότητα όπως παρακάτω ( ) m, Y, ym και Y( ym) Y ( ym ) Y( ym) με τις ( )και Y (y m ) να ονομάζονται περιθώριες ΣΠΜ Αν οι και Y είναι μεταξύ τους ανεξάρτητες, τότε ισχύει ότι Χ,Y (, y m ) Χ ( ) Y (y m ) δηλαδή Χ Y ( y m ) Χ ( )και Y Χ (y m ) Y (y m ) M å Y m, Y (, ym) ( ) Πανεπιστήμιο Πελοποννήσου
Θεώρημα Bayes:Έστω ότι η ένωση των ασυμβίβαστων γεγονότων {,, } είναι ο δειγματόχωρος Ω(ένα και μόνο από τα γεγονότα θα πραγματοποιηθεί). Εάν το y m είναι ένα οποιοδήποτε γεγονός, τότε ισχύει ο εξής τύπος Πανεπιστήμιο Πελοποννήσου 3 ( ) ( ) ( ) ( ) ( ) å i i i m Y m Y m Y y y y
Για παράδειγμα, έστω τα κουτιά Α και Β τα οποία περιέχουν 3 κόκκινες & μπλε και κόκκινες & 8 μπλε σφαίρες, αντίστοιχα. Ρίχνουμε ένα νόμισμα και αν έρθει κεφάλι, τότε βγάζουμε σφαίρα από το κουτί Α, αλλιώς αν έρθει γράμματα, τότε βγάζουμε σφαίρα από το κουτί Β. Ποια η πιθανότητα να βγει κόκκινη σφαίρα; Χωρίς να ξέρουμε αν ήρθε κεφάλι ή γράμματα, ποια είναι η πιθανότητα για κεφάλι δεδομένου ότι η σφαίρα είναι κόκκινη; Κουτί, Σφαίρες, y m A K B M Η πιθανότητα να βγει κόκκινη σφαίρα είναι το άθροισμα των πιθανοτήτων να βγει από το κουτί Α ή από το Β, δηλαδή { } { } { } Pr y K Pr y K, A + Pr y K, B 3 Pr{ K A} Pr{ A} + Pr{ K B} Pr{ B} 0.5+ 0.5 0. 4 5 0 Η πιθανότητα να πάρουμε τη σφαίρα από το κουτί Α δεδομένου ότι η σφαίρα είναι κόκκινη είναι { y K, A} Pr{ y K} { y K A} Pr{ y K} Pr Pr Pr{ A y K} Pr A 3/5 0.4 { } 0.5 0. 75 Πανεπιστήμιο Πελοποννήσου 4