Μέρος ΙΙ. Τυχαίες Μεταβλητές

Μέρος ΙΙ. Τυχαίες Μεταβλητές Ορισμοί Συναρτήσεις κατανομής πιθανότητας και πυκνότητας πιθανότητας Διακριτές τυχαίες μεταβλητές Ειδικές κατανομές διακριτών τυχαίων μεταβλητών Συνεχείς τυχαίες μεταβλητές Ειδικές κατανομές συνεχών τυχαίων μεταβλητών Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 1 ) 1

Τυχαίες Μεταβλητές Ορισμός Μία τυχαία μεταβλητή (τ.μ.) είναι μία συνάρτηση (ή μία μεταβλητή) η οποία καθορίζει αριθμητικές τιμές σε μία ποσότητα που σχετίζεται με το αποτέλεσμα ενός πειράματος, όπου μία (και μόνο) μία αριθμητική τιμή δίδεται σε κάθε αποτέλεσμα. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 2 ) 2

Τυχαία μεταβλητή Μία αριθμητική τιμή σε κάθε αποτέλεσμα ενός συγκεκριμένου πειράματος S Ω R -3-2 -1 0 1 2 3 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 3 )

Ω αποτελέσματα Ω Χ μετρούμενος χώρος Οι τυχαίες μεταβλητές περιγράφουν μετρούμενες ποσότητες ενός τυχαίου πειράματος. Τυχαία μεταβλητή (τ.μ.) Χ : μία συνάρτηση Ω -> R P(X=) = P(ζ Ω : X(ζ)=) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 4 )

Συμβολισμός Συμβολίζουμε με κεφαλαία μια τυχαίας μεταβλητής π.χ. τ.μ. X ή τ.μ. Y ή τ.μ. Z Συμβολίζουμε με μικρά τις τιμές μιας μεταβλητής π.χ. έστω τ.μ. Χ με τιμές 1, 2, 3, P X PX, PX, 1 2 y, PZ z,... P Y Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 5 )

Παράδειγμα Τυχαίο πείραμα: ρίψη νομίσματος 3 φορές. Δειγματικός χώρος Ω={KKK,KΚΓ,ΚΓΚ,ΓΚΚ,ΚΓΓ,ΓΚΓ,ΓΓΚ,ΓΓΓ} Τυχαία μεταβλητή (τ.μ.) Χ: πλήθος φορές «Κορώνα». Σύνολο τιμών της μεταβλητής Ω X = {0,1,2,3} Υπολογισμός πιθανοτήτων: P(X=) = P(ζ Ω : X(ζ)=) P(X=0)=P(ΓΓΓ)=1/8 P(X=2)=P(KKΓ,ΚΓΚ,ΓΚΚ)=3/8 P(X=1)=P(ΚΓΓ,ΓΚΓ,ΓΓΚ)=3/8 P(X=3)=P(KKK)=1/8 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 6 )

Παράδειγμα (συν.) Τυχαία μεταβλητή (τ.μ.) Χ: πλήθος φορές «Κορώνα» σε 3 ρίψεις Τα ενδεχόμενα που αντιστοιχούν σε διάφορες τιμές της μεταβλητής είναι ασυμβίβαστα. Η ένωση αυτών των ενδεχομένων είναι ολόκληρος ο δειγματικός χώρος Ω. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 13 )

Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Ανάγκη: Μας ενδιαφέρει να αναπαριστούμε με ευκολία κάποια ενδεχόμενα και στη συνέχεια να υπολογίζουμε τις αντίστοιχες πιθανότητες π.χ. Έστω τ.μ. X που μετρά το πλήθος των επιτυχημένων μαθημάτων σε μία εξεταστική περίοδο. Ζητείται: «Πιθανότητα κάποιος να επιτύχει τουλάχ. δύο μαθήματα» δηλ. P(X 2) «Πιθανότητα να έχει περάσει το πολύ 5 μαθήματα» δηλ. P(Χ 5), «Πιθανότητα να έχει περάσει όχι λιγότερα από 2 μαθήματα και όχι περισσότερα από 5», δηλ. P(2 X 5). Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 14 )

Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Έστω τυχαία μεταβλητή (τ.μ.) X ορισμένη στο Ω X = { } Ορίζουμε την αθροιστική συνάρτηση κατανομής πιθανότητας (σ.κ.π.) ως: Η σ.κ.π. F() υπολογίζει την αθροιστική πιθανότητα του διαστήματος τιμών της μεταβλητής (-, ]. Χρησιμοποιείται για τον υπολογισμό της πιθανότητας οποιουδήποτε διαστήματος τιμών της μεταβλητής. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 21 )

Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Έστω τυχαία μεταβλητή (τ.μ.) X ορισμένη στο Ω X = { } Ορίζουμε την αθροιστική συνάρτηση κατανομής πιθανότητας (σ.κ.π.) ως: F PX PX, Η σ.κ.π. F() υπολογίζει την αθροιστική πιθανότητα του διαστήματος τιμών της μεταβλητής (-, ]. Χρησιμοποιείται για τον υπολογισμό της πιθανότητας οποιουδήποτε διαστήματος τιμών της μεταβλητής. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 22 )

Συνάρτηση κατανομής πιθανότητας (σ.κ.π.) Cumulative density function (cdf) Έστω τυχαία μεταβλητή (τ.μ.) X ορισμένη στο Ω X = { } Ορίζουμε την αθροιστική συνάρτηση κατανομής πιθανότητας (σ.κ.π.) ως: F PX PX, Η σ.κ.π. F() υπολογίζει την αθροιστική πιθανότητα του διαστήματος τιμών της μεταβλητής (-, ]. Χρησιμοποιείται για τον υπολογισμό της πιθανότητας οποιουδήποτε διαστήματος τιμών της μεταβλητής. Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 23 )

Ιδιότητες της αθροιστικής συνάρτησης κατανομής πιθανότητας (σ.κ.π.) F PX PX, (1). 0 F() 1, εφόσον είναι πιθανότητα Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 24 )

Ιδιότητες της αθροιστικής συνάρτησης κατανομής πιθανότητας (σ.κ.π.) F PX PX, (1). 0 F() 1, εφόσον είναι πιθανότητα (2). lim F 1 lim F 0 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 25 )

(3). αν 1 < 2 τότε F( 1 ) F( 2 ) Απόδειξη - 1 2 + Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 26 )

(3). αν 1 < 2 τότε F( 1 ) F( 2 ) Απόδειξη - 1 2 + F( 2 ) = P(X 2 ) = P({X 1 } { 1 <X 2 ] ) = = P({X 1 }) + P({ 1 <X 2 ] ) = = F( 1 )+P({ 1 <X 2 ] ) F( 1 ) Συμπέρασμα: η σ.κ.π. F() είναι μη φθίνουσα συνάρτηση Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 27 )

Μορφές της συνάρτησης κατανομής πιθανότητας (σ.κ.π.) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 31 )

(4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 32 )

(4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 (5). Αν a b Pa X b F( b) Fa - a b + Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 33 )

(4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 (5). Αν a b Pa X b F( b) Fa Απόδειξη - a b + {X b} = {X a} {a < X b} άρα P(X b) = P(X a)+p(a<x b) => F(b)= F(a)+P(a<X b) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 34 )

(4). Η σ.κ.π. F() είναι συνεχής από δεξιά (ή δεξιά συνεχής) F limf h F( ) h0 (5). Αν a b Pa X b F( b) Fa Απόδειξη - a b + {X b} = {X a} {a < X b} άρα P(X b) = P(X a)+p(a<x b) => F(b)= F(a)+P(a<X b) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 35 )

P (6). H πιθανότητα P(X=a) υπολογίζεται ως: X a limp a h X a F( a) F a h F a F a h δηλ. η πιθανότητα σε ένα σημείο εκφράζει το άλμα της σ.κ.π. F() στο σημείο αυτό. Έτσι, αν η F() είναι σταθερή ή συνεχής γύρω από το a, τότε P(X=a)=0 Επίσης ισχύει ότι: P(a X b) = P({X=a}{a<X b}) = = P(X=a) + P(a<X b) = = P(a - < X b) = F(b) - F(a - ) (7). Ισχύει ότι P(X>) = 1- P(X ) = 1-F() Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 36 )

P (6). H πιθανότητα P(X=a) υπολογίζεται ως: X a limp a h X a F( a) F a h F a F a h δηλ. η πιθανότητα σε ένα σημείο εκφράζει το άλμα της σ.κ.π. F() στο σημείο αυτό. Έτσι, αν η F() είναι σταθερή ή συνεχής γύρω από το a, τότε P(X=a)=0 Επίσης ισχύει ότι: P(a X b) = P(a - < X b) = F(b) - F(a - ) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 39 )

P (6). H πιθανότητα P(X=a) υπολογίζεται ως: X a limp a h X a F( a) F a h F a F a h δηλ. η πιθανότητα σε ένα σημείο εκφράζει το άλμα της σ.κ.π. F() στο σημείο αυτό. Έτσι, αν η F() είναι σταθερή ή συνεχής γύρω από το a, τότε P(X=a)=0 Επίσης ισχύει ότι: P(a X b) = P(a - < X b) = F(b) - F(a - ) (7). Ισχύει ότι P(X>) = 1- P(X ) = 1-F() Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 40 )

Ιδιότητες σ.κ.π. F PX PX, (1). 0 F() 1 (2). lim F 1 lim F 0 (3). αν 1 < 2 τότε F( 1 ) F( 2 ) (4). (5). (6). F limf h F( ) Αν P h0 X b F( b Fa a b P a ) X a F a F a (7). P(X>) = 1- P(X ) = 1-F() Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 41 )

Θεώρημα Καραθεοδωρή (1873-1950) Κάθε σ.κ.π. F() είναι: α) μη-φθίνουσα β) δεξιά συνεχής γ) lim F 1 Ισχύει και το αντίστροφο: Κάθε συνάρτηση που ικανοποιεί τις 3 παραπάνω συνθήκες είναι συνάρτηση κατανομής πιθανότητας (σ.κ.π.). Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 42 )

Διακριτές Τυχαίες Μεταβλητές Μία τυχαία μεταβλητή (τ.μ.) Χ είναι διακριτή εάν το σύνολο τιμών της είναι πεπερασμένο ή το πολύ απείρως αριθμήσιμο. Ω X = { 1, 2,, n } Η μεταβλητή έχει ποσό πιθανότητας μόνο πάνω στις τιμές PX : 0 PX : 0 P() Ισχύει ότι: 0 n i1 P X 1 i 1 2 3 4 n-1 n Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 43 )

Διακριτές Τυχαίες Μεταβλητές Η σ.κ.π. F() = P( X ) είναι μη φθίνουσα, δεξιά συνεχής και κλιμακωτή με άλματα στις τιμές της μεταβλητής. F() 1 P(X= n )=F(X= n ) - F(X= n-1 ) P(X= 3 ) =F( 3 ) - F( 2 ) P(X= 1 )=F( 1 ) P(X= 2 )=F( 2 ) F( 1 ) 0 1 2 3 4 n-1 n Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 44 )

Παράδειγμα 0 Μία ασφαλιστική εταιρεία προσφέρει 0.2 F k ασφάλειες ζωής ύψους Χ με τιμές 0.8 εκφρασμένες σε δεκάδες χιλιάδες ευρώ. 1 Η συνάρτηση κατανομής πιθανότητας του Χ είναι: 1 1 3 3 6 6 12 12 α) Tι τιμές παίρνει το k? β) Να υπολογιστούν οι πιθανότητες στα σημεία {0, 1, 2, 3,5, 6, 12}, και στα διαστήματα τιμών: P(1 < X 6), P(1 X < 6), P(X 3) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 45 )

Η συνάρτηση πυκνότητας (ή μάζας) πιθανότητας (probability density (or mass) function pdf) Το σύνολο πιθανοτήτων των τιμών μιας διακριτής τ.μ. Χ ορίζει μία συνάρτηση: f X,,, ( ) P 2 X 1 n που ονομάζεται συνάρτηση πυκνότητας (ή μάζας) πιθανότητας (σ.π.π.) Ισχύουν: f ( ) 0 X n i1 f 1 i Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 46 )

Η σ.κ.π. F() είναι το άθροισμα όλων των τιμών της σ.π.π. f( i ) για τιμές μικρότερες τιμές του ( i ) : i i i i f X P X P F Σχέση συνάρτησης κατανομής (σ.κ.π.) F() και πυκνότητας πιθανότητας (σ.π.π.) f() σε διακριτούς χώρους Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 47 ) 1 2 3 4 n-1 n 1 0 F()

Σχέση συνάρτησης κατανομής (σ.κ.π.) F() και πυκνότητας πιθανότητας (σ.π.π.) f() σε διακριτούς χώρους Η σ.κ.π. F() είναι το άθροισμα όλων των τιμών της σ.π.π. f( i ) για τιμές μικρότερες τιμές του ( i ) : F PX PX i f i Η τιμή της σ.π.π. f( i ) σε ένα σημείο i είναι το άλμα της σ.κ.π. F() στο σημείο αυτό: i i f PX F F i i i i1 Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 48 )

Σημαντικό Για να μελετήσουμε μία τυχαία μεταβλητή θα πρέπει 1. Να βρούμε τις τιμές που παίρνει η μεταβλητή, Ω X 2. Να βρούμε έστω μία από τις συναρτήσεις πυκνότητας f() ή κατανομής πιθανότητας F() i i i i f X P X P F 1 i i i i F F X P f Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 49 )

Παράδειγμα Δίνεται η συνάρτηση κατανομής πιθανότητας μιας διακριτής τυχαίας μεταβλητής Χ: α) Να βρείτε την συνάρτηση πυκνότητας ή μάζας πιθανότητας β) Να υπολογίσετε τις πιθανότητες P(1/2 < X < 3/2), P(1 X <3) Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 50 )

Χαρακτήρας Κώδικας a 0 b 10 c 110 d 111 Μία πηγή παράγει στοχαστικά διγράμματα (δηλ. ζεύγη χαρακτήρων) από ένα αλφάβητο αποτελούμενο από 4 χαρακτήρες {a, b, c, d}. Κάθε χαρακτήρας του διγράμματος παράγεται ανεξάρτητα με πιθανότητα: P(a)=1/2, P(b)=1/4, P(c)=P(d)=1/8. Στη συνέχεια εφαρμόζεται μία μέθοδο κωδικοποίησής τους σε δυαδικούς αριθμούς, όπως φαίνεται στον πάνω πίνακα. Έστω τ.μ. X που περιγράφει το μήκος (σε bits) ενός διγράμματος. α) Ποιο είναι το σύνολο τιμών ΩΧ της τυχαίας μεταβλητής Χ; β) Βρείτε την συνάρτηση πυκνότητας πιθανότητας της τ.μ. Χ. γ) Υπολογίστε και σχεδιάστε την συνάρτηση κατανομής F(). δ) Υπολογίστε τις πιθανότητες P(X > 1) και P(1 < X 4). Πιθανότητες & Στατιστική 2017 Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Παν. Ιωαννίνων Δ6 ( 51 )