Μάθηµα 1 ο Πιθανότητα-Έννοιες και Ορισµοί Στο µάθηµα αυτό θα αναφερθούµε σε βασικές έννοιες και συµβολισµούς της θεωρίας πιθανοτήτων. http://compus.uom.gr/inf267/index.php 1
Εισαγωγικά Βασικές Έννοιες Ross, σσ 35-57, Μπερτσεκάς-Τσιτσικλής σσ 6-19 ειγµατικός Xώρος-Ενδεχόµενο Ορισµός : Πείραµα τύχης, (random experiment), είναι µια ενέργεια που µπορεί να καταλήξει σε περισσότερα του ενός αποτελέσµατα, (outcomes). Παράδειγµα 1 : Η ρίψη ενός νοµίσµατος έχει δύο δυνατά αποτελέσµατα, κορώνα, Κ, ή γράµµατα, Γ. Η ρίψη ενός ζαριού έχει έξι (6) δυνατά αποτελέσµατα, τις ενδείξεις της πάνω επιφάνειας, δηλαδή, 1, 2, 3, 4, 5 ή 6. http://compus.uom.gr/inf267/index.php 2
Εισαγωγικά Ορισµός : ειγµατικός χώρος, (sampling space), είναι το σύνολο των δυνατών αποτελεσµάτων ενός πειράµατος τύχης. Συνήθως συµβολίζεται µε Ω. Παράδειγµα 2 : Για ένα νόµισµα Ω= { K, Γ } Για ένα ζάρι Ω= { 1,2,3, 4,5,6}. http://compus.uom.gr/inf267/index.php 3
Εισαγωγικά Ορισµός : Ενδεχόµενο, (event), είναι κάθε υποσύνολο στοιχείων του δειγµατικού χώρου. Παράδειγµα 3 : Έστω Α το ενδεχόµενο να φέρουµε µε ένα ζάρι ζυγά. Γράφουµε { 2, 4, 6} { x/x άρτιος, x 6} Α= Στο παράδειγµα παρατηρούµε πως το ενδεχόµενο Α είναι ένα υποσύνολο-συλλογή-οµάδα απλών στοιχείων του Ω. Από τον ορισµό προκύπτει ότι κάθε απλό στοιχείο-δυνατό αποτέλεσµα του Ω, είναι ένα (απλό) ενδεχόµενο. Επίσης, τα και Ω είναι ενδεχόµενα. http://compus.uom.gr/inf267/index.php 4
Εισαγωγικά Συµβολισµοί και Υπολογισµοί Πιθανοτήτων Οι συµβολισµοί και οι υπολογισµοί πιθανότητας ενδεχοµένων ακολουθούν τους κανόνες της θεωρίας συνόλων. Όταν θέλουµε να συµβολίσουµε την πιθανότητα να συµβαίνει το A ή το B, γράφουµε P( A B). Όταν θέλουµε να συµβολίσουµε την πιθανότητα να συµβαίνουν συγχρόνως το A και το B, γράφουµε P( A B) ή πιο απλά ( ) P AB. http://compus.uom.gr/inf267/index.php 5
Ορισµοί Πιθανότητας Ορισµός Πιθανότητας Στη συνέχεια θα δώσουµε εναλλακτικούς ορισµούς για την έννοια της πιθανότητας,(probability). http://compus.uom.gr/inf267/index.php 6
Ορισµοί Πιθανότητας Επαναλαµβάνουµε n φορές ένα πείραµα τύχης που καταλήγει σε δύο δυνατά αποτελέσµατα, επιτυχία ή αποτυχία. Α = επιτυχία. Ορίζουµε το ενδεχόµενο { } Έστω X n ο αριθµός των επιτυχιών στις n προσπάθειες. Ορισµός : (Συχνοτικός, ΝΜΑ) Ορίζουµε ως πιθανότητα του ενδεχοµένου Α το όριο Xn P( Α ) = lim, n n http://compus.uom.gr/inf267/index.php 7
Ορισµοί Πιθανότητας Θεωρούµε πως ο δειγµατικός χώρος, Ω, αποτελείται από ένα πεπερασµένο αριθµό στοιχείων-απλών ενδεχοµένων, N, (# Ω = Ν ), και όλα τα στοιχεία έχουν την ίδια δυνατότητα να συµβούν, δηλαδή 1 N. Έστω Α το ενεχόµενο που αποτελείται από ν το πλήθος, ( απλά στοιχεία του Ω. #A = ν), Ορισµός : (Ισοπίθανων Ενδεχοµένων) Η πιθανότητα να συµβεί το Α είναι P( ) Α = ν N http://compus.uom.gr/inf267/index.php 8
Ορισµοί Πιθανότητας Παράδειγµα 4 : Λέµε ότι ένα 6-έδρο ζάρι είναι ιδανικό, (fair), όταν κάθε µία από τις έξι (6) πλευρές έχει ίση πιθανότητα, 1, να επιλεγεί. 6 Έστω το ενδεχόµενο A= { 1,5}. Να υπολογισθεί η πιθανότητα P( A ). Έχουµε Τότε Ω= { 1,2,3, 4,5,6} { } # 1,5 2 1 P( A) = P( { 1,5} ) = = = 6 6 3 http://compus.uom.gr/inf267/index.php 9
Ορισµοί Πιθανότητας Έστω δειγµατικός χώρος Ω και A Ω. Ορισµός : (Αξιωµατικός) Ορίζουµε ως συνάρτηση κατανοµής πιθανότητας, σκπ, (probability distribution function), P( ), την Αξίωµα 1 ( ) 0 P A 1 Αξίωµα 2 P( Ω ) = 1 Αξίωµα 3 Έχουµε ένα διαµερισµό του δειγµατικού χώρου Ω, δηλαδή µια συλλογή A i, A =Ωκαι Ai A j =, i, j N, i N (αµοιβαία αποκλειόµενα). Τότε i P A i = P A i I i I ( ), i I, I Ν i http://compus.uom.gr/inf267/index.php 10
Ορισµοί Πιθανότητας Σηµείωση : Στον αξιωµατικό ορισµό, το σύνολο των δεικτών Ι µπορεί να έχει πεπερασµένο ή άπειρο πλήθος στοιχείων. Το Αξίωµα 3, ισχύει και στις δύο περιπτώσεις. http://compus.uom.gr/inf267/index.php 11
Προσθετικός Νόµος Χρήσιµες Ιδιότητες που Απορρέουν από τον Αξιωµατικό Ορισµό Όταν A 1, A2 Ω είναι αµοιβαία αποκλειόµενα, τότε ( ) = ( ) + ( ) P A A P A P A 1 2 1 2 Όταν A ένα ενδεχόµενο και c A το συµπληρωµατικό του, ισχύει ( ) ( c = ) P A 1 P A http://compus.uom.gr/inf267/index.php 12
Προσθετικός Νόµος Η διαφορά δύο συνόλων A\B αποτελείται από τα όλα τα στοιχεία του A που δεν ανήκουν στο B. Ισχύει ( ) = ( c ) = ( ) ( ) PA\B P A B P A PA B (1) Προσθετικός Νόµος Αν A 1, A2 Ω, τότε, (βλ Φυλλάδιο 1, Άσκηση 1) ( ) = ( ) + ( ) P A A P A P A \ A 1 2 1 2 1 ( ) ( c ) = P A + P A A 1 1 2 ( ) ( ) ( ) = P A + P A P A A (2) 1 2 1 2 http://compus.uom.gr/inf267/index.php 13
Προσθετικός Νόµος A, A Ω, A1 A2 Αν 1 2, τότε, από την (1), ( ) P( A ) P A 1 2 Γενικά, από την (2), ισχύει η ανισότητα ( ) ( ) + ( ) P A A P A P A 1 2 1 2 http://compus.uom.gr/inf267/index.php 14
Προσθετικός Νόµος Γενίκευση του Προσθετικού Νόµου, (βλ Φυλλάδιο 1, Άσκηση 2) ( ) = ( ) + ( ) + ( ) P A A A P A P A \ A P A \ A A 1 2 3 1 2 1 3 1 2 ( ) ( c ) ( c c ) = P A + P A A + P A A A 1 1 2 1 2 3 ( ) ( ) ( ) = P A + P A + P A 1 2 3 ( ) ( ) ( ) P A A P A A P A A 1 2 1 3 2 3 ( ) + P A A A 1 2 3 http://compus.uom.gr/inf267/index.php 15
Προσθετικός Νόµος Παράδειγµα 5 : Έχουµε ένα ιδανικό ζάρι. Έστω A { 1,5,6} 2 1 =, = { }. Να υπολογισθούν οι πιθανότητες P( A ), ( ) A 4,6 ( A ) και P( A A ) P A Έχουµε 1 2. 1 2 { } # 1,5,6 3 1 P( A1) = P( { 1,5,6} ) = = = 6 6 2 { } # 4,6 2 1 P( A2) = P( { 4,6} ) = = = 6 6 3 1 2 { } A A = 6 { } # 6 1 P( A1 A2) = P( { 6} ) = = 6 6 { } A A = 1,4,5,6 1 2 1 P A, 2 http://compus.uom.gr/inf267/index.php 16
{ } # 1,4,5,6 4 2 P( A1 A2) = P( { 1,4,5,6} ) = = = 6 6 3 ή, χρησιµοποιώντας τον προσθετικό κανόνα, Προσθετικός Νόµος 1 1 1 2 P( A1 A2) = P( A1) + P( A2) P( A1 A2) = + = 2 3 6 3 http://compus.uom.gr/inf267/index.php 17
Συνδυαστική (Combinatorics) Συνδυαστική Η συνδυαστική µας βοηθά να υπολογίζουµε τα ν και Ν στον ορισµό των ισοπίθανων ενδεχοµένων. Ross, σσ 14-19, Μπερτσεκάς-Τσιτσικλής σσ 49-57 http://compus.uom.gr/inf267/index.php 18
Αρχή της Αρίθµησης Συνδυαστική Ένα πείραµα τύχης διεξάγεται σε k διαδοχικά στάδια (διαδικασία). Στο στάδιο i, i= 2,,k, για κάθε ένα από τα αποτέλεσµα του προηγούµενου σταδίου i 1, έχουµε n i δυνατά αποτελέσµατα. Τότε, στο τέλος της διαδικασίας, ο συνολικός αριθµός των δυνατών αποτελεσµάτων είναι n n n 1 2 k http://compus.uom.gr/inf267/index.php 19
Συνδυαστική Παράδειγµα 6 : Οι αριθµοί τηλεφώνων στην περιοχή Θεσσαλονίκης αρχίζουν µε το 2310 και µετά ακολουθούν 6 ψηφία. Το πρώτο από τα 6 ψηφία δεν µπορεί να είναι 0 ή 1. Πόσους διαφορετικούς αριθµούς µπορούµε να έχουµε; Παράδειγµα 7 : Ένα σύνολο αποτελείται από n στοιχεία. Ποιος είναι ο αριθµός των υποσυνόλων, συµπεριλαµβανοµένου του αρχικού και του κενού. http://compus.uom.gr/inf267/index.php 20
ειγµατοληψία (Sampling) Συνδυαστική Λέµε ότι δειγµατολειπτούµε µε κάποιο κανόνα από ένα σύνολο (ή πληθυσµό), όταν από τα n το πλήθος αντικείµενα του συνόλου, επιλέγουµε διαδοχικά τα k, k< n. http://compus.uom.gr/inf267/index.php 21
Συνδυαστική ειγµατοληψία Mε Eπανατοποθέτηση (Sampling With Replacement) Το στοιχείο του συνόλου που επιλέγεται, επανατοποθετείται στο σύνολο πριν την επόµενη επιλογή. Αυτό συνεπάγεται, ότι: a. Το ίδιο στοιχείο µπορεί να επιλεγεί περισσότερες από µία φορές. b. Το πλήθος των στοιχείων του συνόλου είναι πάντα n. Άρα, σε κάθε επιλογή, η πιθανότητα να επιλέξουµε ένα συγκεκριµένο στοιχείο είναι πάντα 1 n. http://compus.uom.gr/inf267/index.php 22
ειγµατοληψία Χωρίς Eπανατοποθέτηση (Sampling Without Replacement) Συνδυαστική Το στοιχείο του συνόλου που επιλέγεται, δεν επανατοποθετείται στο σύνολο πριν την επόµενη επιλογή. Αυτό συνεπάγεται, ότι: a. Το ίδιο στοιχείο δεν µπορεί να επιλεγεί περισσότερες από µία φορές. b. Σε κάθε επιλογή, το πλήθος των στοιχείων του συνόλου µειώνεται κατά ένα. Άρα, στην πρώτη επιλογή η πιθανότητα να επιλέξουµε ένα στοιχείο είναι 1 n, στη δεύτερη 1 n 1, κ.ό.κ. http://compus.uom.gr/inf267/index.php 23
Συνδυαστική Όταν από ένα σύνολο n αντικειµένων επιλέγουµε k, τότε ο επόµενος πίνακας δίνει το πλήθος των δυνατών αποτελεσµάτων έχει σηµασία η σειρά (διακρίσιµα) µε επανατοποθέτηση µεταθέσεις '' '' r ( ) k = P n,k n χωρίς επανατοποθέτηση µεταθέσεις '' '' ( ) P n,k = n! ( ) n k! συνδυασµοί '' '' συνδυασµοί '' '' δεν έχει σηµασία η σειρά (µη-διακρίσιµα) r ( ) C n,k k + n 1 = k = ( + 1) ( 1) k n! k! n! ( ) Cn,k n = k = n! ( ) k! n k! http://compus.uom.gr/inf267/index.php 24
Βιβλιογραφία Πρόσθετη Βιβλιογραφία Μαθήµατος [1] Baron, M., Probability and Statistics for Computer Scientists, Chapman & Hall/CRC, 2007 [2] Grimmett, G. R. and D. R. Stirzaker, Probability and Random Processes, Oxford University Press, 1985 http://compus.uom.gr/inf267/index.php 25