Μάθηµα 1 ο. Πιθανότητα-Έννοιες και Ορισµοί. Στο µάθηµα αυτό θα αναφερθούµε σε βασικές έννοιες και συµβολισµούς της θεωρίας πιθανοτήτων.

Transcript

1 Μάθηµα 1 ο Πιθανότητα-Έννοιες και Ορισµοί Στο µάθηµα αυτό θα αναφερθούµε σε βασικές έννοιες και συµβολισµούς της θεωρίας πιθανοτήτων. 1

2 Εισαγωγικά Βασικές Έννοιες Ross, σσ 35-57, Μπερτσεκάς-Τσιτσικλής σσ 6-19 ειγµατικός Xώρος-Ενδεχόµενο Ορισµός : Πείραµα τύχης, (random experiment), είναι µια ενέργεια που µπορεί να καταλήξει σε περισσότερα του ενός αποτελέσµατα, (outcomes). Παράδειγµα 1 : Η ρίψη ενός νοµίσµατος έχει δύο δυνατά αποτελέσµατα, κορώνα, Κ, ή γράµµατα, Γ. Η ρίψη ενός ζαριού έχει έξι (6) δυνατά αποτελέσµατα, τις ενδείξεις της πάνω επιφάνειας, δηλαδή, 1, 2, 3, 4, 5 ή

3 Εισαγωγικά Ορισµός : ειγµατικός χώρος, (sampling space), είναι το σύνολο των δυνατών αποτελεσµάτων ενός πειράµατος τύχης. Συνήθως συµβολίζεται µε Ω. Παράδειγµα 2 : Για ένα νόµισµα Ω= { K, Γ } Για ένα ζάρι Ω= { 1,2,3, 4,5,6}. 3

4 Εισαγωγικά Ορισµός : Ενδεχόµενο, (event), είναι κάθε υποσύνολο στοιχείων του δειγµατικού χώρου. Παράδειγµα 3 : Έστω Α το ενδεχόµενο να φέρουµε µε ένα ζάρι ζυγά. Γράφουµε { 2, 4, 6} { x/x άρτιος, x 6} Α= Στο παράδειγµα παρατηρούµε πως το ενδεχόµενο Α είναι ένα υποσύνολο-συλλογή-οµάδα απλών στοιχείων του Ω. Από τον ορισµό προκύπτει ότι κάθε απλό στοιχείο-δυνατό αποτέλεσµα του Ω, είναι ένα (απλό) ενδεχόµενο. Επίσης, τα και Ω είναι ενδεχόµενα. 4

5 Εισαγωγικά Συµβολισµοί και Υπολογισµοί Πιθανοτήτων Οι συµβολισµοί και οι υπολογισµοί πιθανότητας ενδεχοµένων ακολουθούν τους κανόνες της θεωρίας συνόλων. Όταν θέλουµε να συµβολίσουµε την πιθανότητα να συµβαίνει το A ή το B, γράφουµε P( A B). Όταν θέλουµε να συµβολίσουµε την πιθανότητα να συµβαίνουν συγχρόνως το A και το B, γράφουµε P( A B) ή πιο απλά ( ) P AB. 5

6 Ορισµοί Πιθανότητας Ορισµός Πιθανότητας Στη συνέχεια θα δώσουµε εναλλακτικούς ορισµούς για την έννοια της πιθανότητας,(probability). 6

7 Ορισµοί Πιθανότητας Επαναλαµβάνουµε n φορές ένα πείραµα τύχης που καταλήγει σε δύο δυνατά αποτελέσµατα, επιτυχία ή αποτυχία. Α = επιτυχία. Ορίζουµε το ενδεχόµενο { } Έστω X n ο αριθµός των επιτυχιών στις n προσπάθειες. Ορισµός : (Συχνοτικός, ΝΜΑ) Ορίζουµε ως πιθανότητα του ενδεχοµένου Α το όριο Xn P( Α ) = lim, n n 7

8 Ορισµοί Πιθανότητας Θεωρούµε πως ο δειγµατικός χώρος, Ω, αποτελείται από ένα πεπερασµένο αριθµό στοιχείων-απλών ενδεχοµένων, N, (# Ω = Ν ), και όλα τα στοιχεία έχουν την ίδια δυνατότητα να συµβούν, δηλαδή 1 N. Έστω Α το ενεχόµενο που αποτελείται από ν το πλήθος, ( απλά στοιχεία του Ω. #A = ν), Ορισµός : (Ισοπίθανων Ενδεχοµένων) Η πιθανότητα να συµβεί το Α είναι P( ) Α = ν N 8

9 Ορισµοί Πιθανότητας Παράδειγµα 4 : Λέµε ότι ένα 6-έδρο ζάρι είναι ιδανικό, (fair), όταν κάθε µία από τις έξι (6) πλευρές έχει ίση πιθανότητα, 1, να επιλεγεί. 6 Έστω το ενδεχόµενο A= { 1,5}. Να υπολογισθεί η πιθανότητα P( A ). Έχουµε Τότε Ω= { 1,2,3, 4,5,6} { } # 1,5 2 1 P( A) = P( { 1,5} ) = = =

10 Ορισµοί Πιθανότητας Έστω δειγµατικός χώρος Ω και A Ω. Ορισµός : (Αξιωµατικός) Ορίζουµε ως συνάρτηση κατανοµής πιθανότητας, σκπ, (probability distribution function), P( ), την Αξίωµα 1 ( ) 0 P A 1 Αξίωµα 2 P( Ω ) = 1 Αξίωµα 3 Έχουµε ένα διαµερισµό του δειγµατικού χώρου Ω, δηλαδή µια συλλογή A i, A =Ωκαι Ai A j =, i, j N, i N (αµοιβαία αποκλειόµενα). Τότε i P A i = P A i I i I ( ), i I, I Ν i 10

11 Ορισµοί Πιθανότητας Σηµείωση : Στον αξιωµατικό ορισµό, το σύνολο των δεικτών Ι µπορεί να έχει πεπερασµένο ή άπειρο πλήθος στοιχείων. Το Αξίωµα 3, ισχύει και στις δύο περιπτώσεις. 11

12 Προσθετικός Νόµος Χρήσιµες Ιδιότητες που Απορρέουν από τον Αξιωµατικό Ορισµό Όταν A 1, A2 Ω είναι αµοιβαία αποκλειόµενα, τότε ( ) = ( ) + ( ) P A A P A P A Όταν A ένα ενδεχόµενο και c A το συµπληρωµατικό του, ισχύει ( ) ( c = ) P A 1 P A 12

13 Προσθετικός Νόµος Η διαφορά δύο συνόλων A\B αποτελείται από τα όλα τα στοιχεία του A που δεν ανήκουν στο B. Ισχύει ( ) = ( c ) = ( ) ( ) PA\B P A B P A PA B (1) Προσθετικός Νόµος Αν A 1, A2 Ω, τότε, (βλ Φυλλάδιο 1, Άσκηση 1) ( ) = ( ) + ( ) P A A P A P A \ A ( ) ( c ) = P A + P A A ( ) ( ) ( ) = P A + P A P A A (2)

14 Προσθετικός Νόµος A, A Ω, A1 A2 Αν 1 2, τότε, από την (1), ( ) P( A ) P A 1 2 Γενικά, από την (2), ισχύει η ανισότητα ( ) ( ) + ( ) P A A P A P A

15 Προσθετικός Νόµος Γενίκευση του Προσθετικού Νόµου, (βλ Φυλλάδιο 1, Άσκηση 2) ( ) = ( ) + ( ) + ( ) P A A A P A P A \ A P A \ A A ( ) ( c ) ( c c ) = P A + P A A + P A A A ( ) ( ) ( ) = P A + P A + P A ( ) ( ) ( ) P A A P A A P A A ( ) + P A A A

16 Προσθετικός Νόµος Παράδειγµα 5 : Έχουµε ένα ιδανικό ζάρι. Έστω A { 1,5,6} 2 1 =, = { }. Να υπολογισθούν οι πιθανότητες P( A ), ( ) A 4,6 ( A ) και P( A A ) P A Έχουµε { } # 1,5,6 3 1 P( A1) = P( { 1,5,6} ) = = = { } # 4,6 2 1 P( A2) = P( { 4,6} ) = = = { } A A = 6 { } # 6 1 P( A1 A2) = P( { 6} ) = = 6 6 { } A A = 1,4,5, P A,

17 { } # 1,4,5,6 4 2 P( A1 A2) = P( { 1,4,5,6} ) = = = ή, χρησιµοποιώντας τον προσθετικό κανόνα, Προσθετικός Νόµος P( A1 A2) = P( A1) + P( A2) P( A1 A2) = + =

18 Συνδυαστική (Combinatorics) Συνδυαστική Η συνδυαστική µας βοηθά να υπολογίζουµε τα ν και Ν στον ορισµό των ισοπίθανων ενδεχοµένων. Ross, σσ 14-19, Μπερτσεκάς-Τσιτσικλής σσ

19 Αρχή της Αρίθµησης Συνδυαστική Ένα πείραµα τύχης διεξάγεται σε k διαδοχικά στάδια (διαδικασία). Στο στάδιο i, i= 2,,k, για κάθε ένα από τα αποτέλεσµα του προηγούµενου σταδίου i 1, έχουµε n i δυνατά αποτελέσµατα. Τότε, στο τέλος της διαδικασίας, ο συνολικός αριθµός των δυνατών αποτελεσµάτων είναι n n n 1 2 k 19

20 Συνδυαστική Παράδειγµα 6 : Οι αριθµοί τηλεφώνων στην περιοχή Θεσσαλονίκης αρχίζουν µε το 2310 και µετά ακολουθούν 6 ψηφία. Το πρώτο από τα 6 ψηφία δεν µπορεί να είναι 0 ή 1. Πόσους διαφορετικούς αριθµούς µπορούµε να έχουµε; Παράδειγµα 7 : Ένα σύνολο αποτελείται από n στοιχεία. Ποιος είναι ο αριθµός των υποσυνόλων, συµπεριλαµβανοµένου του αρχικού και του κενού. 20

21 ειγµατοληψία (Sampling) Συνδυαστική Λέµε ότι δειγµατολειπτούµε µε κάποιο κανόνα από ένα σύνολο (ή πληθυσµό), όταν από τα n το πλήθος αντικείµενα του συνόλου, επιλέγουµε διαδοχικά τα k, k< n. 21

22 Συνδυαστική ειγµατοληψία Mε Eπανατοποθέτηση (Sampling With Replacement) Το στοιχείο του συνόλου που επιλέγεται, επανατοποθετείται στο σύνολο πριν την επόµενη επιλογή. Αυτό συνεπάγεται, ότι: a. Το ίδιο στοιχείο µπορεί να επιλεγεί περισσότερες από µία φορές. b. Το πλήθος των στοιχείων του συνόλου είναι πάντα n. Άρα, σε κάθε επιλογή, η πιθανότητα να επιλέξουµε ένα συγκεκριµένο στοιχείο είναι πάντα 1 n. 22

23 ειγµατοληψία Χωρίς Eπανατοποθέτηση (Sampling Without Replacement) Συνδυαστική Το στοιχείο του συνόλου που επιλέγεται, δεν επανατοποθετείται στο σύνολο πριν την επόµενη επιλογή. Αυτό συνεπάγεται, ότι: a. Το ίδιο στοιχείο δεν µπορεί να επιλεγεί περισσότερες από µία φορές. b. Σε κάθε επιλογή, το πλήθος των στοιχείων του συνόλου µειώνεται κατά ένα. Άρα, στην πρώτη επιλογή η πιθανότητα να επιλέξουµε ένα στοιχείο είναι 1 n, στη δεύτερη 1 n 1, κ.ό.κ. 23

24 Συνδυαστική Όταν από ένα σύνολο n αντικειµένων επιλέγουµε k, τότε ο επόµενος πίνακας δίνει το πλήθος των δυνατών αποτελεσµάτων έχει σηµασία η σειρά (διακρίσιµα) µε επανατοποθέτηση µεταθέσεις '' '' r ( ) k = P n,k n χωρίς επανατοποθέτηση µεταθέσεις '' '' ( ) P n,k = n! ( ) n k! συνδυασµοί '' '' συνδυασµοί '' '' δεν έχει σηµασία η σειρά (µη-διακρίσιµα) r ( ) C n,k k + n 1 = k = ( + 1) ( 1) k n! k! n! ( ) Cn,k n = k = n! ( ) k! n k! 24

25 Βιβλιογραφία Πρόσθετη Βιβλιογραφία Μαθήµατος [1] Baron, M., Probability and Statistics for Computer Scientists, Chapman & Hall/CRC, 2007 [2] Grimmett, G. R. and D. R. Stirzaker, Probability and Random Processes, Oxford University Press,