Μέρος ΙΙ. Τυχαίες Μεταβλητές

Transcript

1 Μέρος ΙΙ. Τυχαίες Μεταβλητές Ορισμοί Συναρτήσεις κατανομής πιθανότητας και πυκνότητας πιθανότητας Διακριτές τυχαίες μεταβλητές Ειδικές κατανομές διακριτών τυχαίων μεταβλητών Συνεχείς τυχαίες μεταβλητές Ειδικές κατανομές συνεχών τυχαίων μεταβλητών Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 1 ) 1

2 Τυχαίες Μεταβλητές Ορισμός Μία τυχαία μεταβλητή (τ.μ.) είναι μία συνάρτηση (ή μία μεταβλητή) η οποία καθορίζει αριθμητικές τιμές σε μία ποσότητα που σχετίζεται με το αποτέλεσμα ενός πειράματος, όπου μία (και μόνο) μία αριθμητική τιμή δίδεται σε κάθε αποτέλεσμα. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 2 ) 2

3 Τυχαία μεταβλητή Μία αριθμητική τιμή σε κάθε αποτέλεσμα ενός συγκεκριμένου πειράματος S Ω R Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 3 )

4 Ω αποτελέσματα Ω Χ μετρούμενος χώρος Οι τυχαίες μεταβλητές περιγράφουν μετρούμενες ποσότητες ενός τυχαίου πειράματος. Τυχαία μεταβλητή (τ.μ.) Χ : μία συνάρτηση Ω -> R P(X=) = P(ζ Ω : X(ζ)=) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 4 )

5 Συμβολισμός Συμβολίζουμε με κεφαλαία μια τυχαίας μεταβλητής π.χ. τ.μ. X ή τ.μ. Y ή τ.μ. Z Συμβολίζουμε με μικρά τις τιμές μιας μεταβλητής π.χ. έστω τ.μ. Χ με τιμές 1, 2, 3, P X PX, PX, 1 2 y, PZ z,... P Y Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 5 )

6 Παράδειγμα Τυχαίο πείραμα: ρίψη νομίσματος 3 φορές. Δειγματικός χώρος Ω={KKK,KΚΓ,ΚΓΚ,ΓΚΚ,ΚΓΓ,ΓΚΓ,ΓΓΚ,ΓΓΓ} Τυχαία μεταβλητή (τ.μ.) Χ: πλήθος φορές «Κορώνα». Σύνολο τιμών της μεταβλητής Ω X = {0,1,2,3} Υπολογισμός πιθανοτήτων: P(X=) = P(ζ Ω : X(ζ)=) P(X=0)=P(ΓΓΓ)=1/8 P(X=2)=P(KKΓ,ΚΓΚ,ΓΚΚ)=3/8 P(X=1)=P(ΚΓΓ,ΓΚΓ,ΓΓΚ)=3/8 P(X=3)=P(KKK)=1/8 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 6 )

13 Παράδειγμα (συν.) Τυχαία μεταβλητή (τ.μ.) Χ: πλήθος φορές «Κορώνα» σε 3 ρίψεις Τα ενδεχόμενα που αντιστοιχούν σε διάφορες τιμές της μεταβλητής είναι ασυμβίβαστα. Η ένωση αυτών των ενδεχομένων είναι ολόκληρος ο δειγματικός χώρος Ω. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 13 )

14 Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Ανάγκη: Μας ενδιαφέρει να αναπαριστούμε με ευκολία κάποια ενδεχόμενα και στη συνέχεια να υπολογίζουμε τις αντίστοιχες πιθανότητες π.χ. Έστω τ.μ. X που μετρά το πλήθος των επιτυχημένων μαθημάτων σε μία εξεταστική περίοδο. Ζητείται: «Πιθανότητα κάποιος να επιτύχει τουλάχ. δύο μαθήματα» δηλ. P(X 2) «Πιθανότητα να έχει περάσει το πολύ 5 μαθήματα» δηλ. P(Χ 5), «Πιθανότητα να έχει περάσει όχι λιγότερα από 2 μαθήματα και όχι περισσότερα από 5», δηλ. P(2 X 5). Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 14 )

21 Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Έστω τυχαία μεταβλητή (τ.μ.) X ορισμένη στο Ω X = { } Ορίζουμε την αθροιστική συνάρτηση κατανομής πιθανότητας (σ.κ.π.) ως: Η σ.κ.π. F() υπολογίζει την αθροιστική πιθανότητα του διαστήματος τιμών της μεταβλητής (-, ]. Χρησιμοποιείται για τον υπολογισμό της πιθανότητας οποιουδήποτε διαστήματος τιμών της μεταβλητής. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 21 )

22 Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Έστω τυχαία μεταβλητή (τ.μ.) X ορισμένη στο Ω X = { } Ορίζουμε την αθροιστική συνάρτηση κατανομής πιθανότητας (σ.κ.π.) ως: F PX PX, Η σ.κ.π. F() υπολογίζει την αθροιστική πιθανότητα του διαστήματος τιμών της μεταβλητής (-, ]. Χρησιμοποιείται για τον υπολογισμό της πιθανότητας οποιουδήποτε διαστήματος τιμών της μεταβλητής. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 22 )

23 Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Έστω τυχαία μεταβλητή (τ.μ.) X ορισμένη στο Ω X = { } Ορίζουμε την αθροιστική συνάρτηση κατανομής πιθανότητας (σ.κ.π.) ως: F PX PX, Η σ.κ.π. F() υπολογίζει την αθροιστική πιθανότητα του διαστήματος τιμών της μεταβλητής (-, ]. Χρησιμοποιείται για τον υπολογισμό της πιθανότητας οποιουδήποτε διαστήματος τιμών της μεταβλητής. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 23 )

24 Ιδιότητες της αθροιστικής συνάρτησης κατανομής πιθανότητας (σ.κ.π.) F PX PX, (1). 0 F() 1, εφόσον είναι πιθανότητα Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 24 )

25 Ιδιότητες της αθροιστικής συνάρτησης κατανομής πιθανότητας (σ.κ.π.) F PX PX, (1). 0 F() 1, εφόσον είναι πιθανότητα (2). lim F 1 lim F 0 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 25 )

26 (3). αν 1 < 2 τότε F( 1 ) F( 2 ) Απόδειξη Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 26 )

27 (3). αν 1 < 2 τότε F( 1 ) F( 2 ) Απόδειξη F( 2 ) = P(X 2 ) = P({X 1 } { 1 <X 2 ] ) = = P({X 1 }) + P({ 1 <X 2 ] ) = = F( 1 )+P({ 1 <X 2 ] ) F( 1 ) Συμπέρασμα: η σ.κ.π. F() είναι μη φθίνουσα συνάρτηση Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 27 )

31 Μορφές της συνάρτησης κατανομής πιθανότητας (σ.κ.π.) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 31 )

32 (4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 32 )

33 (4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 (5). Αν a b Pa X b F( b) Fa - a b + Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 33 )

34 (4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 (5). Αν a b Pa X b F( b) Fa Απόδειξη - a b + {X b} = {X a} {a < X b} άρα P(X b) = P(X a)+p(a<x b) => F(b)= F(a)+P(a<X b) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 34 )

35 (4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 (5). Αν a b Pa X b F( b) Fa Απόδειξη - a b + {X b} = {X a} {a < X b} άρα P(X b) = P(X a)+p(a<x b) => F(b)= F(a)+P(a<X b) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 35 )

36 P (6). H πιθανότητα P(X=a) υπολογίζεται ως: X a limp a h X a F( a) F a h F a F a h δηλ. η πιθανότητα σε ένα σημείο εκφράζει το άλμα της σ.κ.π. F() στο σημείο αυτό. Έτσι, αν η F() είναι σταθερή ή συνεχής γύρω από το a, τότε P(X=a)=0 Επίσης ισχύει ότι: P(a X b) = P({X=a}{a<X b}) = = P(X=a) + P(a<X b) = = P(a - < X b) = F(b) - F(a - ) (7). Ισχύει ότι P(X>) = 1- P(X ) = 1-F() Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 36 )

39 P (6). H πιθανότητα P(X=a) υπολογίζεται ως: X a limp a h X a F( a) F a h F a F a h δηλ. η πιθανότητα σε ένα σημείο εκφράζει το άλμα της σ.κ.π. F() στο σημείο αυτό. Έτσι, αν η F() είναι σταθερή ή συνεχής γύρω από το a, τότε P(X=a)=0 Επίσης ισχύει ότι: P(a X b) = P(a - < X b) = F(b) - F(a - ) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 39 )

40 P (6). H πιθανότητα P(X=a) υπολογίζεται ως: X a limp a h X a F( a) F a h F a F a h δηλ. η πιθανότητα σε ένα σημείο εκφράζει το άλμα της σ.κ.π. F() στο σημείο αυτό. Έτσι, αν η F() είναι σταθερή ή συνεχής γύρω από το a, τότε P(X=a)=0 Επίσης ισχύει ότι: P(a X b) = P(a - < X b) = F(b) - F(a - ) (7). Ισχύει ότι P(X>) = 1- P(X ) = 1-F() Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 40 )

41 Ιδιότητες σ.κ.π. F PX PX, (1). 0 F() 1 (2). lim F 1 lim F 0 (3). αν 1 < 2 τότε F( 1 ) F( 2 ) (4). (5). (6). F limf h F( ) Αν P h0 X b F( b Fa a b P a ) X a F a F a (7). P(X>) = 1- P(X ) = 1-F() Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 41 )

42 Θεώρημα Καραθεοδωρή ( ) Κάθε σ.κ.π. F() είναι: α) μη-φθίνουσα β) δεξιά συνεχής γ) lim F 1 Ισχύει και το αντίστροφο: Κάθε συνάρτηση που ικανοποιεί τις 3 παραπάνω συνθήκες είναι συνάρτηση κατανομής πιθανότητας (σ.κ.π.). Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 42 )

43 Διακριτές Τυχαίες Μεταβλητές Μία τυχαία μεταβλητή (τ.μ.) Χ είναι διακριτή εάν το σύνολο τιμών της είναι πεπερασμένο ή το πολύ απείρως αριθμήσιμο. Ω X = { 1, 2,, n } Η μεταβλητή έχει ποσό πιθανότητας μόνο πάνω στις τιμές PX : 0 PX : 0 P() Ισχύει ότι: 0 n i1 P X 1 i n-1 n Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 43 )

44 Διακριτές Τυχαίες Μεταβλητές Η σ.κ.π. F() = P( X ) είναι μη φθίνουσα, δεξιά συνεχής και κλιμακωτή με άλματα στις τιμές της μεταβλητής. F() 1 P(X= n )=F(X= n ) - F(X= n-1 ) P(X= 3 ) =F( 3 ) - F( 2 ) P(X= 1 )=F( 1 ) P(X= 2 )=F( 2 ) F( 1 ) n-1 n Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 44 )

45 Παράδειγμα 0 Μία ασφαλιστική εταιρεία προσφέρει 0.2 F k ασφάλειες ζωής ύψους Χ με τιμές 0.8 εκφρασμένες σε δεκάδες χιλιάδες ευρώ. 1 Η συνάρτηση κατανομής πιθανότητας του Χ είναι: α) Tι τιμές παίρνει το k? β) Να υπολογιστούν οι πιθανότητες στα σημεία {0, 1, 2, 3,5, 6, 12}, και στα διαστήματα τιμών: P(1 < X 6), P(1 X < 6), P(X 3) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 45 )

46 Η συνάρτηση πυκνότητας (ή μάζας) πιθανότητας (probability density (or mass) function pdf) Το σύνολο πιθανοτήτων των τιμών μιας διακριτής τ.μ. Χ ορίζει μία συνάρτηση: f X,,, ( ) P 2 X 1 n που ονομάζεται συνάρτηση πυκνότητας (ή μάζας) πιθανότητας (σ.π.π.) Ισχύουν: f ( ) 0 X n i1 f 1 i Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 46 )

47 Η σ.κ.π. F() είναι το άθροισμα όλων των τιμών της σ.π.π. f( i ) για τιμές μικρότερες τιμές του ( i ) : i i i i f X P X P F Σχέση συνάρτησης κατανομής (σ.κ.π.) F() και πυκνότητας πιθανότητας (σ.π.π.) f() σε διακριτούς χώρους Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 47 ) n-1 n 1 0 F()

48 Σχέση συνάρτησης κατανομής (σ.κ.π.) F() και πυκνότητας πιθανότητας (σ.π.π.) f() σε διακριτούς χώρους Η σ.κ.π. F() είναι το άθροισμα όλων των τιμών της σ.π.π. f( i ) για τιμές μικρότερες τιμές του ( i ) : F PX PX i f i Η τιμή της σ.π.π. f( i ) σε ένα σημείο i είναι το άλμα της σ.κ.π. F() στο σημείο αυτό: i i f PX F F i i i i1 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 48 )

49 Σημαντικό Για να μελετήσουμε μία τυχαία μεταβλητή θα πρέπει 1. Να βρούμε τις τιμές που παίρνει η μεταβλητή, Ω X 2. Να βρούμε έστω μία από τις συναρτήσεις πυκνότητας f() ή κατανομής πιθανότητας F() i i i i f X P X P F 1 i i i i F F X P f Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 49 )

50 Παράδειγμα Δίνεται η συνάρτηση κατανομής πιθανότητας μιας διακριτής τυχαίας μεταβλητής Χ: α) Να βρείτε την συνάρτηση πυκνότητας ή μάζας πιθανότητας β) Να υπολογίσετε τις πιθανότητες P(1/2 < X < 3/2), P(1 X <3) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 50 )

51 Χαρακτήρας Κώδικας a 0 b 10 c 110 d 111 Μία πηγή παράγει στοχαστικά διγράμματα (δηλ. ζεύγη χαρακτήρων) από ένα αλφάβητο αποτελούμενο από 4 χαρακτήρες {a, b, c, d}. Κάθε χαρακτήρας του διγράμματος παράγεται ανεξάρτητα με πιθανότητα: P(a)=1/2, P(b)=1/4, P(c)=P(d)=1/8. Στη συνέχεια εφαρμόζεται μία μέθοδο κωδικοποίησής τους σε δυαδικούς αριθμούς, όπως φαίνεται στον πάνω πίνακα. Έστω τ.μ. X που περιγράφει το μήκος (σε bits) ενός διγράμματος. α) Ποιο είναι το σύνολο τιμών ΩΧ της τυχαίας μεταβλητής Χ; β) Βρείτε την συνάρτηση πυκνότητας πιθανότητας της τ.μ. Χ. γ) Υπολογίστε και σχεδιάστε την συνάρτηση κατανομής F(). δ) Υπολογίστε τις πιθανότητες P(X > 1) και P(1 < X 4). Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 51 )