Θεωρία Πιθανοτήτων και Στατιστική

Θεωρία Πιθανοτήτων και Στατιστική Δημήτρης Παναγόπουλος Προσοχή: Σημειώσεις για το Μάθημα Θεωρίας Πιθανοτήτων και Στατιστικής του Τμήματος Μηχανικών Πληροφορικής Τ.Ε. του ΤΕΙ Πελοπονήσου 1. οι σημειώσεις θα ανανεώνονται συνεχώς, 2. οι σημειώσεις μπορεί να περιέχουν λάθη, 3. οι σημειώσεις είναι αποκλειστικά για διευκόλυνση των φοιτητών και ΔΕΝ καλύπτουν κατ ανάγκη όλη την ύλη! 1

Περιεχόμενα 1 Εισαγωγή 3 2 Κλασικός ορισμός Πιθανότητας 3 3 Αξιωματικός ορισμός πιθανότητας 7 4 Δεσμευμένη πιθανότητα 9 5 Κατανομές - Τυχαίες μεταβλητές 11 6 Ειδικές περιπτώσεις διακριτών κατανομών 15 6.1 Κατανομή Bernoulli......................... 15 6.2 Διωνυμική κατανομή........................ 16 6.3 Γεωμετρική κατανομή....................... 16 6.4 Kατανομή Poisson......................... 16 7 Ειδικές περιπτώσεις συνεχών κατανομών 17 7.1 Ομοιόμορφη κατανομή....................... 17 7.2 Εκθετική κατανομή......................... 17 7.3 Κανονική κατανομή......................... 18 8 Εκτιμητική - Διαστήματα εμπιστοσύνης 18 2

1 Εισαγωγή Η έννοια του τυχαίου υπάρχει από αρχαιοτάτων χρόνων. Για παράδειγμα τυχερά παιχνίδια συναντώνται στους Αρχαίους Έλληνες και τους Ρωμαίους. Η συστηματική μελέτη των τυχαίων φαινομένων (και παιχνιδιών) ξεκίνησε τον 17ο αιώνα. Οι Gerolamo Cardano, Pierre de Fermat και Blaise Pascal σε μεταξύ τους αλληλογραφία το 1654 μελετούν το πως θα μοιραστούν τα κέρδη σε ένα τυχαίο τυχερό παιχνίδι που διακόπηκε στη μέση. Ακολουθούν μελέτες σπουδαίων μαθηματικών όπως οι Jacob Bernoulli, Abraham de Moivre, Carl Friedrich Gauss και άλλοι. Το 1931 ο Andrey Kolmogorov εξέδωσε (στα γερμανικά) το βιβλίο του Grundbegriffe der Wahrscheinlichkeitsrechnung όπου παρουσιάστηκε ο αξιωματικός ορισμός των πιθανοτήτων που χρησιμοποιούμε και σήμερα. Εικ. 1: Αρχαία ζάρια Σήμερα η Θεωρία Πιθανοτήτων και η Στατιστική είναι ένα επιστημονικό βασικό εργαλείο. Οι δύο αυτοί κλάδοι των Μαθηματικών αποτελούν βασικούς πυλώνες της (νεοεμφανιζόμενης;!;) επιστήμης της Ανάλυσης Δεδομένων. 2 Κλασικός ορισμός Πιθανότητας Ορισμός 2.1 Το σύνολο των δυνατών αποτελεσμάτων ενός τυχαίου πειράματος ονομάζεται δειγματικός χώρος. Τα υποσύνολά του ονομάζονται ενδεχόμενα. Ο δειγματικός χώρος συνήθως συμβολίζεται με το γράμμα Ω. O δειγματικός χώρος λέγεται και βέβαιο ενδεχόμενο. Το κενό σύνολο λέγεται και αδύνατο ενδεχόμενο. Σε γενικές γραμμές ο ορισμός μιας έννοιας πιθανότητας σε ένα σύνολο είναι μια διαδικασία μέσω της οποίας απιδίδουμε σε υποσύνολά του έναν αριθμό. Ο κλασικός ορισμός της πιθανότητας εφαρμόζεται σε πεπερασμένα σύνολα των οποίων 3

τα στοιχεία θεωρούμε πως είναι ισοπίθανα. Είναι δε η πιο απλή μέθοδος για να ορίσουμε πιθανότητα. Ορισμός 2.2 Έστω ένα πεπερασμένο, μη κενό σύνολο Ω. Ως πιθανότητα P (A) ενός υποσυνόλου του ορίζουμε το πηλίκο του πλήθους των στοιχείων του δια του πλήθους των στοιχείων του Ω. P (A) = πλήθος ευνοϊκών περιπτώσεων πλήθος δυνατών περιπτώσεων = N(A) N(Ω) Να σημειώσουμε εδώ ότι ο παραπάνω ορισμός απέχει πολύ από το να καλύπτει τις ανάγκες μας. Για παράδειγμα, δεν μπορεί να εφαρμοστεί όταν τα ενδεχόμενα δεν είναι ισοπίθανα π.χ. στην περίπτωση που ρίχνουμε ένα πειραγμένο ζάρι. Ή δεν εφαρμόζεται όταν ο δειγματικός χώρος δεν είναι πεπερασμένος π.χ. στην περίπτωση που ρίχνουμε ένα βελάκι σε ένα στόχο. Για να αντιμετωπίσουμε αυτές, αλλά και άλλες, περιπτώσεις θα χρειαστεί να γενικέυσουμε τον ορισμό στο επόμενο κεφάλαιο. Παράδειγμα 2.3 Έστω το τυχαίο πείραμα της ρίψης ενός ζαριού. Τότε, ο δειγματικός χώρος είναι ο Ω = {1, 2, 3, 4, 5, 6}. Αν A = {1, 2} είναι το ενδεχόμενο να φέρουμε αποτέλεσμα μικρότερο ή ίσο του 2 έχουμε: P (A) = 2 6 Παράδειγμα 2.4 Έστω το τυχαίο πείραμα της ρίψης δύο ζαριών. Τότε, ο δειγματικός χώρος αποτελείται από 36 στοιχεία και φαίνεται στον παρακάτω πίνακα. 1 2 3 4 5 6 1 (1,1) (1,2) (1,3 ) (1,4) (1,5) (1,6) 2 (2,1) (2,2) (2,3 ) (2,4) (2,5) (2,6) 3 (3,1) (3,2) (3,3 ) (3,4) (3,5) (3,6) 4 (4,1) (4,2) (4,3 ) (4,4) (4,5) (4,6) 5 (5,1) (5,2) (5,3 ) (5,4) (5,5) (5,6) 6 (6,1) (6,2) (6,3 ) (6,4) (6,5) (6,6) Αν A = {1, 2} είναι το ενδεχόμενο να φέρουμε μικρότερο του 5 έχουμε: P (A) = 3 36 4

Παράδειγμα 2.5 Έστω το τυχαίο πείραμα της ρίψης ενός νομίσματος δύο φορές. Τότε, ο δειγματικός χώρος είναι ο Ω = {KK, KΓ, ΓK, ΓΓ}. Αν A = {KΓ, ΓK} είναι το ενδεχόμενο να φέρουμε μία φορά κορώνα έχουμε: P (A) = 2 4 = 1 2 Εικ. 2: Τα αποτελέσματα της ρίψης ενός νομίσματος δύο φορές. Γίνεται άμεσα φανερό από τον ορισμό ότι για οποιοδήποτε δειγματικό χώρο Ω και ενδεχόμενό του A ισχύουν τα παρακάτω: 1. P (Ω) = 1, 2. P ( ) = 0, 3. 0 P (A) 1. Επίσης, εύκολα αποδεικνύεται (βλ. [2]) ότι για οποιοδήποτε δειγματικό χώρο Ω και ενδεχόμενά του A, B ισχύουν τα παρακάτω: 1. P (A B) = P (A) + P (B) αν τα A, B είναι ξένα (δηλ. A B = ), 2. P (A B) = P (A) + P (B) P (A B), 3. P (A ) = 1 P (A), 5

4. αν A B, τότε P (A) P (B). Για την κατανόηση των παραπάνω θα βοηθούσε αν βλέπατε τα ενδεχόμενα ως σχήματα μέσα σε ένα παραλληλόγραμμο εμβαδού μίας τετραγωνικής μονάδας και την πιθανότητά τους ως το εβαδόν αυτών των σχημάτων. Η σχέση αυτή μόνο τυχαία δεν είναι. Η θεωρία πιθανοτήτων και η θεωρία μέτρησης μηκών, εμβαδών, όγκων κ.λ.π. είναι πλευρές ενός γενικότερου κλάδου των μαθηματικών που λέγεται Θεωρία Μέτρου. Τέλος, να τονίσουμε εδώ ότι μπορεί να υπάρχει ενδεχόμενο που είναι μη κενό αλλά έχει πιθανότητα ίση με το μηδέν. Παράδειγμα 2.6 Έστω A, B δύο ενδεχόμενα ενός δειγματικού χώρου Ω. Αν P (A) = 0.6, P (B) = 0.7, P (A B) = 0.4 τότε, P (A B) = P (A) + P (B) P (A B) = 0.6 + 0.7 0.4 = 0.9 Εικ. 3: Η ένωση δύο ενδεχομένων Α και Β. Άσκηση 2.7 Έστω A, B δύο ενδεχόμενα ενός δειγματικού χώρου Ω. Αν P (A) = 0.6, P (B) = 0.7 τότε, 1. να δείξετε ότι τα A, B είναι ξένα, 2. να δείξετε ότι 0.3 P (A B) 0.6. Λύση. 1. Αν ήταν ξένα τότε θα είχαμε Άτοπο. P (A B) = P (A) + P (B) = 0.6 + 0.7 = 1.3 > 1 6

2. Είναι 1 P (A B) 1 P (A) + P (B) P (A B) P (A B) P (A) + P (B) 1 P (A B) 0.6 + 0.7 1 = 0.3 και A B A P (A B) P (A) = 0.6 3 Αξιωματικός ορισμός πιθανότητας Όπως αναφέρθηκε και πιο πάνω (βλ. σελ.2), ο κλασικός ορισμός δεν είναι αρκετά γενικός ώστε να καλύπτει αρκετές περιπτώσεις. Για το λόγω αυτό γενικεύουμε τον ορισμό αυτό. Η βασική ιδέα της πιθανότητας ενδεχόμενων ενός δειγματικού χώρου Ω είναι μια διαδικασία απόδοσης ενός αριθμού στα ενδεχόμενα αυτά. Ουσιαστικά, είναι μια συνάρτηση με πεδίο ορισμού τα υποσύνολα ενός δειγματικού χώρου και η οποία πρέπει να έχει κάποιες συγκεκριμένες ιδιότητες. Για τεχνικούς λόγους σε αρκετές περιπτώσεις δεν είναι δυνατό να ορίσουμε τη συνάρτηση αυτή για όλα τα υποσύνολα του δειγματικού χώρου. Έτσι περιοριζόμαστε σε κάποια οικογένεια των υποσυνόλων του δειγματικού χώρου για τα μέλη της οποίας ορίζουμε πιθανότητα. Βέβαια, θέλουμε η οικογένεια αυτή να ικανοποιεία ορισμένες ιδιότητες κλειστότητας. Αν για παράδειγμα ένα σλυνολο A ανήκει στην οικογένεια αυτή, ορίσουμε δηλαδή την πιθανότητα P (A), τότε να ορίζεται και η πιθανότητα του συμπληρώματος του A. Για το λόγο αυτό έχουμε τον παρακάτω ορισμό. Ορισμός 3.1 Μια μη κενή οικογένεια υποσυνόλων A ενός συνόλου Ω λέγεται σ- άλγεβρα αν ισχύουν οι παρακάτω δύο ιδιότητες: 1. αν A A, τότε και A A, 2. αν κάθε ένα από τα A 1, A 2,..., ανήκει στην A, τότε + i=1 A i A. Άμεση συνέπεια του ορισμού και των κανόνων De Morgan είναι τα παρακάτω: 1. αν κάθε ένα από τα A 1, A 2,..., ανήκει στην A, τότε + i=1 A i A, 2. αν κάθε ένα από τα A 1, A 2,..., A n ανήκει στην A, τότε n i=1 A i A, 7

3. αν κάθε ένα από τα A 1, A 2,..., A n ανήκει στην A, τότε n i=1 A i A, 4. Ω A, 5. A, Η σ-άλγεβρα ουσιαστικά είναι το πεδίο ορισμού της πιθανότητας. Έχουμε τον ακόλουθο αξιωματικό ορισμό. Ορισμός 3.2 Ένας χώρος πιθανότητας επί ενός συνόλου Ω λέγεται μια τριάδα (Ω, A, P ) όπου A είναι μια σ-άλγεβρα υποσυνόλων του Ω και P : A R μια πραματική συνάρτηση με πεδίο ορισμού τη σ-άλγεβρα ώστε να ισχύουν οι παρακάτω δύο ιδιότητες: 1. P (Ω) = 1, 2. αν τα υποσύνολα A 1, A 2,..., ανήκουν στη σ-άλγεβρα A και είναι ξένα ανά δύο, τότε ( + ) + P A i = P (A i ) i=1 Συνέπεια του ορισμόυ είναι ιδιότητες που είδαμε πριν στον κλασικό ορισμό της πιθανότητας (βλ. σελ.2). Συγκεκριμένα, αν τα A, B είναι υποσύνολα που ανήκουν στη σ-άλγεβρα : A,τότε 1. P ( ) = 0, i=1 2. P (A B) = P (A) + P (B) αν τα A, B είναι ξένα, 3. P (A B) = P (A) + P (B) P (A B), 4. P (A ) = 1 P (A), 5. αν A B, τότε P (A) P (B). Παράδειγμα 3.3 Έστω ο δειγματικός χώρος Ω = {x 1, x 2, x 3 } με P (x 2 ) = 2P (x 1 ), P (x 3 ) = 3P (x 1 ). Τότε, επειδή P (x 1 ) + P (x 2 ) + P (x 3 ) = 1 έχουμε P (x 1 ) + 2P (x 1 ) + 3P (x 3 ) = 1 και P (x 2 ) = 2 6, P (x 3) = 3 6. 6P (x 1 ) = 1 P (x 1 ) = 1 6 8

4 Δεσμευμένη πιθανότητα Υπάρχουν πολλές περιπτώσεις που μας ενδιαφέρει η πιθανότητα πραγματοποίησης ενός ενδεχομένου έχοντας ως γεγονός ότι έχει πραγματοποιηθεί ένα άλλο. Τέοια παραδείγματα έχουμε και στην καθημερινή μας ζωή όπως: η πιθανότητα να υποστεί κάποιος καρδιακή προσβολή με δεδομένο ότι είναι καπνιστής, η πιθανότητα χαλάσει ένα μηχάνημα δεδομένου ότι έχει ξεπεράσει το χρόνο που το κάλυπτε η εγγύησή του. Ας δούμε πως θα μπορούσαμε να υπολογίσουμε την πιθανότητα ενός ενδεχομένου Α δεδομένου ότι πραγματοποιείται ένα ενδεχόμενο Β (στο εξής θα τη συμβολίζουμε P (A B)) στην περίπτωση του κλασικού ορισμού της πιθανότητας. Αν A, B είναι δύο ενδεχόμενα τότε η πιθανότητα που αναζητούμε είναι το πλήθος των ευνοϊκών περιπτώσεων προς το πλήθος των δυνατών. Όμως, αφού έχουμε ως δεδομένο ότι πραγματοποιείται το Β: άρα, ευνοϊκές περιπτώσεις είναι πλέον τα στοιχεία της τομής A B, δυνατές περιπτώσεις είναι τα στοιχεία του Β. P (A B) = N(A B) N(B) Εννοείται, βέβαια ότι το ενδεχόμενο Β έχει στοιχεία! Γενικεύοντας, έχουμε τον παρακάτω ορισμό. Ορισμός 4.1 Έστω ένας χώρος πιθανότητας (Ω, A, P ) και δύο ενδεχόμενα A, B A με P (B) > 0. Ως δεσμευμένη πιθανότητα του Α με δεδομένο το Β P (A B) ορίζουμε το πηλίκο: P (A B) P (A B) = P (B) Δύο ενδεχόμενα A, B λέγονται ανεξάρτητα αν η πραγματοποίηση του ενός δεν επηρεάζει την πιθανότητα πραγματοποίησης του άλλου, ήτοι αν P (A B) = P (A) και P (B A) = P (B). Εύκολα βλέπει κανείς ότι αν P (B) > 0, τότε η σχέση P (A B) = P (A) είναι ισοδύναμη με την P (A B) = P (A)P (B). Έτσι έχουμε τον παρακάτω ορισμό. Ορισμός 4.2 Έστω ένας χώρος πιθανότητας (Ω, A, P ). 9

δύο ενδεχόμενα A, B A λέγονται ανεξάρτητα αν P (A B) = P (A)P (B), τα ενδεχόμενα A 1, A 2,... A λέγονται ανεξάρτητα αν P (A i1... A ik ) = P (A i1 ) P (A ik ) για οποιοδήποτε υποσύνολο δεικτών {i 1,..., i k } με τουλάχιστον δύο στοιχεία. Παράδειγμα 4.3 Έστω το τυχαίο πείραμα της ρίψης ενός ζαριού και Α το ενδεχόμενο να έρθει 6, Β το ενδεχόμενο να έρθει άρτιος αριθμός. Τότε, A = {6}, N(A) = 1 P (A) = 1 6 B = {2, 4, 6}, N(B) = 3 P (B) = 3 6 = 1 2 και A B = {6}, N(A B) = 1 P (A B) = 1 6 P (A B) = P (A B) P (B) = 1 6 1 2 = 1 3 Δύο πολύ σημαντικά αποτελέσματα σχετικά με τη δεσμευμένη πιθανότητα είναι το θεώρημα Ολικής Πιθανότητας και ο Νόμος του Bayes. Θεώρημα 4.4 (Θεώρημα Ολικής Πιθανότητας) Έστω ένας χώρος πιθανότητας (Ω, A, P ) και τα ξένα ανά δύο ενδεχόμενα A 1,..., A k A τέτοια ώστε k i=1 A i = Ω. Τότε για κάθε ενδεχόμενο B A έχουμε: P (B) = P (B A 1 )P (A 1 ) + + P (B A k )P (A k ) Θεώρημα 4.5 (Νόμος του Bayes) Έστω ένας χώρος πιθανότητας (Ω, A, P ) και τα ξένα ανά δύο ενδεχόμενα A 1,..., A k A τέτοια ώστε k i=1 A i = Ω. Τότε για κάθε ενδεχόμενο B A έχουμε: P (B) = P (B A 1 ) + + P (B A k ) Παράδειγμα 4.6 Έστω ότι η πιθανότητα να πάσχει κάποιος από μια σοβαρή ασθένεια είναι 1% και ότι ένα διαγνωστικό τέστ εντοπίζει σωστά έναν ασθενή με πιθανότητα 95% ενώ εμφανίζει ως ασθενή έναν υγιή με πιθανότητα 0.1%. Αν A είναι το ενδεχόμενο ένα άτομο να είναι ασθενής, 10

B είναι το ενδεχόμενο το τεστ να βγει θετικό δηλαδή να δείξει ότι το εξεταζόμενο άτομο είναι ασθενής. Τότε, P (A) = 0.01, P (B A) = 0.95, P (B A ) = 0.001. Άρα η πιθανότητα το τεστ να βγει θετικό (δηλ. να δείξει ότι ο εξεταζόμενος είναι ασθενής) είναι, σύμφωνα με το θεώρημα ολικής πιθανότητας, ίση με: P (B) = P (B A)P (A) + P (B A )P (A ) = P (B A)P (A) + P (B A )(1 P (A)) = 0.95 0.01 + 0.001 (1 0.01) = 0.95 0.01 + 0.001 0.99 = 0.01049 Η πιθανότητα ένα άτομο να πάσχει από την ασθένεια αν το τεστ βγει θετικό είναι, σύμφωνα με το νόμο του Bayes, ίση με: δηλ. περίπου 90.56%. P (B A)P (A) P (A B) = P (B) 0.95 0.01 = 0.01049 = 0.9056244 5 Κατανομές - Τυχαίες μεταβλητές Έστω, ένας δειγματικός χώρος Ω και μια σ-άλγεβρα A. Mε τον όρο κατανομή εννοούμε μια απεικόνιση που αντιστοιχεί στα σύνολα της σ-άλγεβρας πιθανότητες. Στο κεφάλαιο αυτό θα παρουσιάσουμε κάποιες κλασικές περιπτώσεις κατανομών. Για την παρουσίαση αυτή, θα χρειαστούμε κάποιους ορισμούς. Ορισμός 5.1 Έστω, ένας δειγματικός χώρος Ω και μια σ-άλγεβρα A. Τυχαία μεταβλητή αποκαλούμε μια συνάρτηση X : Ω R για την οποία ισχύει ότι X 1 ((, α)) := {ω Ω : X(ω) (, α)} A για κάθε πραγματικό αριθμό α. Παρατήρηση 5.2 1. Η τυχαία αυτή μεταβλητή λέγεται μονοδιάσταστη γιατί η εικόνα της είναι η ευθεία των πραγματικών αριθμών R. Αν η εικόνα της είναι το R n, n > 1, τότε λέγεται πολυδιάστατη. 11

2. Η ιδιότητα X 1 ((, α)) := {ω Ω : X(ω) (, α)} A για κάθε πραγματικό αριθμό α στη μαθηματική ορολογία λέει ότι η X : Ω R είναι μετρήσιμη. Η ιδέα πίσω από την εισαγωγή της έννοιας της τυχαίας μεταβλητής είναι ότι έτσι έχουμε ένα τρόπο ώστε από ένα τυχαίο δειγματικό χώρο να περνάμε στους πραγματικούς αριθμούς. Κάτι τέτοιο θα μας βοηθήσει να οργανώσουμε καλύτερα τη θεωρία μας. (Άλλωστε, μαθηματικά κάνουμε!). Ανάλογα με το σύνολο τιμών της μια τυχαία μεταβλητή X : Ω R κατατάσσεται σε τρεις κατηγορίες. διακριτή τυχαία μεταβλητή αν το σύνολο τιμών είναι της μορφής {x 1,..., x n } ή της μορφής {x 1,..., x n,...}, συνεχής τυχαία μεταβλητή αν το σύνολο τιμών είναι διάστημα ή ένωση διαστημάτων, μεικτή τυχαία μεταβλητή αν το σύνολο τιμών είναι ένωση συνόλων της μορφής {x 1,..., x n } και διαστημάτων. Να σημειώσουμε εδώ ότι έχουμε μια βασική διχοτομία μεταξύ διακριτών και συνεχών τυχαίων μεταβλητών (η περίπτωση των μεικτών αποτελεί ένα υβρίδιο των δύο περιπτώσεων και δε θα μας απασχολήσει εδώ). Η διχοτομία αυτή θα φανεί αμέσως μετά στους ορισμούς που ακολουθούν. Ένας καλός μνημονικός κανόνας είναι ότι στη διακριτή περίπτωση έχουμε αθροίσματα ενώ στη συνεχή ολοκληρώματα. Ορισμός 5.3 Έστω ένας χώρος πιθανότητας (Ω, A, P ) και μια τυχαία μεταβλητή X : Ω R. H συνάρτηση F : R R με F (x) = P (X 1 ((, x))) λέγεται αθροιστική συνάρτηση πιθανότητας. Ορισμός 5.4 Έστω X μια τυχαία μεταβλητή, συνάρτηση πυκνότητας πιθανότητας της X ονομάζουμε τη p(x) = P (X = x) αν η X είναι διακριτή τυχαία μεταβλητή, f(x) = F (x) αν η X είναι συνεχής τυχαία μεταβλητή. 12

Συνέπεια των παραπάνω είναι τα εξής: F (x) = x i x p(x i ) αν η X είναι διακριτή τυχαία μεταβλητή, F (x) = x αν η X είναι συνεχής τυχαία μεταβλητή. f(t)dt P (α < X β) = F (β) F (α) Στην περίπτωση της διακριτής τυχαίας μεταβλητής το αποτέλεσμα της συνάρτησης πυκνότητας πιθανότητας σε μια τιμή ισούται με την πιθανότητα η τυχαία μεταβλητή να ισούται με αυτήν τη τιμή. Κάτι τέτοιο δεν έχει νόημα στην περίπτωση της συνεχούς μεταβλητής μιας και η πιθανότητα η τυχαία μεταβλητή να ισούται με μια συγκεκριμένη τιμή θεωρείται ίση με μηδέν. (Θεωρήστε για παράδειγμα ότι η Χ είναι η απόσταση ενός βέλους από το κέντρο ενός στόχου. Ποιά η πιθανότητα η Χ δηλ. η απόσταση του βέλους από το κέντρο να ισούται με 2.34 cm;) Τέλος, να σημειώσουμε ότι ειδικά στην περίπτωση της διακριτής τυχαίας μεταβλητής η συνάρτηση πυκνότητας πιθανότητας ονομάζεται και συνάρτηση μάζας πιθανότητας. Ορισμός 5.5 Έστω X μια τυχαία μεταβλητή. H μέση τιμή E(X) αν η X είναι διακριτή τυχαία μεταβλητή με σύνολο τιμών το {x i : i I} ισούται με E(X) = xp(x i ) i I αν η X είναι συνεχής τυχαία μεταβλητή ισούται με E(X) = + xf(x)dx Γενικά, αν X είναι μια τυχαία μεταβλητή και ϕ : R R μια συνάρτηση ως E(ϕ(X)) ορίζουμε: 13

αν η X είναι διακριτή τυχαία μεταβλητή με σύνολο τιμών το {x i : i I} E(X) = i I ϕ(x i )p(x i ) αν η X είναι συνεχής τυχαία μεταβλητή E(X) = + Ειδικότερα, έχουμε τoυς παρακάτω ορισμούς. ϕ(x)f(x)dx Ορισμός 5.6 Έστω X μια τυχαία μεταβλητή. H ροπή τάξης r της τυχαίας μεταβλητής είναι αν η X είναι διακριτή τυχαία μεταβλητή με σύνολο τιμών το {x i : i I} ισούται με E(X r ) = x r p(x i ) i I αν η X είναι συνεχής τυχαία μεταβλητή ισούται με E(X) = + x r f(x)dx Ορισμός 5.7 Έστω X μια τυχαία μεταβλητή. H κεντρική ροπή τάξης r της τυχαίας μεταβλητής είναι αν η X είναι διακριτή τυχαία μεταβλητή με σύνολο τιμών το {x i : i I} ισούται με E((X µ) r ) = i I (x µ) r p(x i ) αν η X είναι συνεχής τυχαία μεταβλητή ισούται με όπου µ = E(X). E((X µ) r ) = + (x µ) r f(x)dx Να σημειώσουμε εδώ ότι δεν είναι βέβαιο ότι τα παραπάνω υπάρχουν όλα. Ιδιαίτερη σημασία έχει η κεντρική ροπή δεύτερης τάξης E((X µ) 2 ). Αυτή ονομάζεται διασπορά ή διακύμανση και συμβολίζεται V ar(x) ή σ 2. Η τετραγωνική της ρίζα συμβολίζεται με σ και καλείται τυπική απόκλιση. Σχετικά με τη μέση τιμή και τη διασπορά έχουμε τις παρακάτω ιδιότητες. 14

Θεώρημα 5.8 Αν η X, Y είναι τυχαίες μεταβλητές με μέση τιμή E(X), E(Y ) και διασπορά V ar(x), V ar(y ), τότε: 1. E(αX + b) = αe(x) + b, για κάθε πραγματικούς αριθμούς α, b. 2. E(X + Y ) = E(X) + E(Y ). 3. V ar(αx + b) = α 2 V ar(x), για κάθε πραγματικούς αριθμούς α, b. 4. V ar(x + Y ) = V ar(x) + V ar(y ) αν οι X και Y είναι ανεξάρτητες. 5. V ar(x) = E(X 2 ) + (E(X)) 2. Να σημειώσουμε εδώ ότι ο τελευταίος τύπος χρησιμοποιείται συνήθως γιατί με τη βοήθειά του είναι ευκολότερος ο υπολογισμός της διασποράς από ότι με τη χρήση του ορισμού. 6 Ειδικές περιπτώσεις διακριτών κατανομών Στην ενότητα αυτή θα παρουσιάσουμε κάποιες ειδικές περιπτώσεις διακριτών κατανομών. Αυτές είναι που εμφανίζονται αρκετά συχνά σε εφαρμογές και/ή αποτελούν τα πιο απλά παραδείγματα. 6.1 Κατανομή Bernoulli Είναι η κατανομή μιας τυχαίας μεταβλητής X με τιμές 0, 1 όπου P (X = 1) = p και P (X = 0) = q = 1 p. Κωδικοποιεί την περίπτωση ενός τυχαίου πειράματος με δύο ενδεχόμενα (αποτελέσματα). Παραδοσιακά αυτά ονομάζονται επιτυχία και αποτυχία. Στην επιτυχία αντιστοιχεί η τιμή 1 με πιθανότητα p, ενώ στην αποτυχία η τιμή 0 με πιθανότητα q. Η συνάρτηση πυκνότητας πιθανότητας είναι η { q, x = 0 p(x) = p, x = 1 Η αθροιστική συνάρτηση πιθανότητας είναι η 0, x < 0 F (x) = q, 0 x < 1 1, 1 x Η μέση τιμή είναι E(X) = p και η διασπορά V ar(x) = pq. 15

6.2 Διωνυμική κατανομή Περιγράφει ένα τυχαίο πείραμα με δύο δυνατά αποτελέσματα ( επιτυχία - αποτυχία ) το οποίο επαναλαμβάνεται n φορές. Η πιθανότητα επιτυχίας σε κάθε ξεχωριστή δοκιμή είναι p, ενώ αποτυχίας q = 1 p. Η τυχαία μεταβλητή μετρά τον αριθμό των επιτυχιών στις n δοκιμές. Συνεπώς, οι τιμές της τυχαίας μεταβλητής είναι 0, 1,..., n. Η συνάρτηση πυκνότητας πιθανότητας είναι η p(x) = ( n x ) p x q n x, x = 0, 1,..., n Η αθροιστική συνάρτηση πιθανότητας είναι η ( ) n F (x) = p x i q n x i, x = 0, 1,..., n x i x x i {0,1,...,n} Η μέση τιμή είναι E(X) = np και η διασπορά V ar(x) = npq. 6.3 Γεωμετρική κατανομή x i Περιγράφει ένα τυχαίο πείραμα με δύο δυνατά αποτελέσματα, επιτυχία - αποτυχία, το οποίο επαναλαμβάνεται μέχρι να έχει επιτυχία. Η πιθανότητα επιτυχίας σε κάθε ξεχωριστή δοκιμή είναι p, ενώ αποτυχίας q = 1 p. Η τυχαία μεταβλητή X μετρά τον αριθμό των προσπαθειών μέχρι και την πρώτη επιτυχία. Συνεπώς, οι τιμές της τυχαίας μεταβλητής είναι 1,..., n. Η συνάρτηση πυκνότητας πιθανότητας είναι η p(x) = pq x 1, x = 1, 2,..., n Η αθροιστική συνάρτηση πιθανότητας είναι η Η μέση τιμή είναι E(X) = 1 p 6.4 Kατανομή Poisson F (x) = 1 q x, x = 1, 2..., n και η διασπορά V ar(x) = q p 2. Εκφράζει την πιθανότητα να πραγματοποιηθεί ένας αριθμός X συμβάντων μέσα σε ένα συγκεκριμένο χρονικό διάστημα. Εξαρτάται από μια παράμετρο λ που είναι ο μέσος αριθμός συμβάντων στο διάστημα που μας ενδιαφέρει. Οι τιμές που παίρνει είναι οι 0, 1,.... Η συνάρτηση πυκνότητας πιθανότητας είναι η p(x) = λa x! e λ, x = 0, 1,... 16

Η αθροιστική συνάρτηση πιθανότητας είναι η x F (x) = e λ i=0 λ i, x = 0, 1,... i! Η μέση τιμή είναι E(X) = λ και η διασπορά V ar(x) = λ. 7 Ειδικές περιπτώσεις συνεχών κατανομών 7.1 Ομοιόμορφη κατανομή Η ομοιόμορφη κατανομή σέ ένα διάστημα [a, b] σχετίζεται με την επιλογή ενός αριθμού X στο διάστημα αυτό. Θεωρούμε ότι κάθε αριθμός στο διάστημα αυτό έχει την ίδια πιθανότητα με τους υπόλοιπους να επιλεγεί. Οι τιμές της τυχαίας μεταβλητής είναι οι αριθμοί στο διάστημα [a, b]. Η συνάρτηση πυκνότητας πιθανότητας είναι η { 1 f(x) = b a, x [a, b] 0, x / [a, b] Η αθροιστική συνάρτηση πιθανότητας είναι η 0, x < a x a F (x) = b a, a x b 1, b < x Μέση τιμή είναι E(X) = a+b 2 και η διασπορά V ar(x) = 1 12 (b a)2. 7.2 Εκθετική κατανομή Η εκθετική κατανομή περιγράφει το χρόνο X μεταξύ δύο γεγονότων μιας διαδικασίας Poisson, δηλ. μιας διαδικασίας όπου τα γεγονότα συμβαίνουν συνεχώς και με σταθερό μέσο ρυθμό λ. Οι τιμές της τυχαίας μεταβλητής είναι οι αριθμοί στο διάστημα [0, + ). Η συνάρτηση πυκνότητας πιθανότητας είναι η f(x) = λe λx, x [0, + )] Η αθροιστική συνάρτηση πιθανότητας είναι η { 1 e λx, 0 x F (x) = 0, x < 0 Μέση τιμή είναι E(X) = 1 λ και η διασπορά V ar(x) = 1 λ 2. Βασική ιδιότητα της εκθετικής κατανομής είναι η λεγόμενη ιδιότητα της αμνησίας η οποία διατυπώνεται στο παρακάτω. 17

Θεώρημα 7.1 Αν η τυχαία μεταβλητή X ακολουθεί την εκθετική κατανομή, τότε: 7.3 Κανονική κατανομή P (X > s + t X > s) = P (X > t), s, t 0 Είναι μια κατανομή που εμφανίζεται σε μια πληθώρα περιπτώσεων. Οι τιμές της τυχαίας μεταβλητής είναι όλοι οι πραγματικοί αριθμοί. Χαρακτηρίζεται από δύο παραμέτρους. Τη μέση τιμή µ και τη διασπορά σ 2. Η συνάρτηση πυκνότητας πιθανότητας είναι η f(x) = 1 σ (x µ) 2 2π e 2σ 2, x R Η αθροιστική συνάρτηση πιθανότητας είναι η F (x) = 1 σ 2π x e t2 2 dt Μέση τιμή είναι E(X) = mu και η διασπορά V ar(x) = σ 2. 8 Εκτιμητική - Διαστήματα εμπιστοσύνης Αντικείμενο της στατιστικής είναι η εξαγωγή συμπερασμάτων που αφορούν τον πληθυσμό με τη βοήθεια ενός τυχαίου δείγματος. Ορισμός 8.1 Το X 1,..., X n λέγεται τυχαίο δείγμα από την κατανομή F αν οι τυχαίες μεταβλητές X i ακολουθούν όλες την κατανομή F. Το n λέγεται μέγεθος του δείγματος. Για την εκτίμηση μιας παραμέτρου έχουμε η σημειακή εκτίμηση: ένας μόνο αριθμός, η εκτίμηση με διάστημα εμπιστοσύνης: ένα διάστημα μέσα στο οποίο περιέχεται η παράμετρος που μας ενδιαφέρει με κάποια πιθανότητα. Συγκεκριμένα, αν θ είναι η παράμετρος που θέλουμε να εκτιμήσουμε, τότε το (a, b) είναι διάστημα εμπιστοσύνης με συντελεστή εμπιστοσύνης α αν P (a < θ < b) = 1 α Τo 1 α λέγεται επίπεδο σημαντικότητας. 18

Θεώρημα 8.2 Αν το δείγμα είναι μεγάλο ή αν προέρχεται από την κανονική κατανομή και η διασπορά σ 2 είναι γνωστή, τότε το διάστημα εμπιστοσύνης για τη μέση τιμή σε επίπεδο σημαντικότητας 1 α είναι το ( x z 1 α 2 σ n, x + z 1 α 2 ) σ n όπου x είναι η δειγματική μέση τιμή και P (Z z 1 α 2 ) = 1 α 2. 19

Ευρετήριο αθροιστική συνάρτηση πιθανότητας, δες συνάρτηση πιθανότητας, αθροιστική12 δειγματικός χώρος, 3 διακύμανση, 14 διασπορά, 14 εδεχόμενο βέβαιο, 3 ενδεχόμενα, 3 ανεξάρτητα, 9 ξένα, 5 ενδεχόμενο αδύνατο, 3 θεώρημα ολικής πιθανότητας, 10 κατανομή, 11 Bernoulli, 15 Poisson, 16 γεωμετρική, 16 διωνυμική, 15 εκθετική, 17 κανονική, 17 ομοιόμορφη, 16 μέση τιμή, 13 νόμος του Bayes, 10 πιθανότητα αξωματικός ορισμός, 8 δεσμευμένη, 9 κλασικός ορισμός, 4 ροπή κεντρική τάξης r, 14 τάξης r, 13 σ-άλγεβρα, 7 συνάρτηση μάζας πιθανότητας, 13 συνάρτηση πιθανότητας αθροιστική, 12 συνάρτηση πυκνότητας πιθανότητας, 12 τυπική απόκλιση, 14 τυχαία μεταβλητή, 11 διακριτή, 12 μεικτή, 12 συνεχής, 12 20

Βιβλιογραφία [1] P.G. Hoel, S.C. Port, C.J. Stone, Introduction to Probability Theory, Cengage Learning, 2001. [2] Αδαμόπουλος Λ., Δαμιανού Χ., Σβέρκος Α., Μαθηματικά και Στοιχεία Στατιστικής, Ινστιτούτο Τεχνολογίας Υπολογιστών και Εκδόσεων Διόφαντος, Υπουργείο Παιδείας και Θρησκευμάτων Πολιτισμού και Αθλητισμού. 21