Περιεχόμενα 1ης Διάλεξης 1 Χρησιμότητα και σκοπός του μαθήματος 2 Τρόπος διδασκαλίας και εξέτασης 3 Βασικές έννοιες 4 Είδη δειγματοχώρων 5 Πράξεις με

Πιθανότητες και Αρχές Στατιστικής (1η Διάλεξη) Σωτήρης Νικολετσέας, καθηγητής Τμήμα Μηχανικών Η/Υ & Πληροφορικής, Πανεπιστήμιο Πατρών Ακαδημαϊκό Ετος 2017-2018 Σωτήρης Νικολετσέας, καθηγητής 1 / 55

Περιεχόμενα 1ης Διάλεξης 1 Χρησιμότητα και σκοπός του μαθήματος 2 Τρόπος διδασκαλίας και εξέτασης 3 Βασικές έννοιες 4 Είδη δειγματοχώρων 5 Πράξεις με γεγονότα 6 Ορισμοί για την πιθανότητα 7 Αξιωματική θεμελίωση - Μαθηματική πιθανότητα 8 Παραδείγματα Σωτήρης Νικολετσέας, καθηγητής 2 / 55

1 Χρησιμότητα και σκοπός του μαθήματος 2 Τρόπος διδασκαλίας και εξέτασης 3 Βασικές έννοιες 4 Είδη δειγματοχώρων 5 Πράξεις με γεγονότα 6 Ορισμοί για την πιθανότητα 7 Αξιωματική θεμελίωση - Μαθηματική πιθανότητα 8 Παραδείγματα Σωτήρης Νικολετσέας, καθηγητής 3 / 55

1. Χρησιμότητα και σκοπός του μαθήματος Το μάθημα έχει μαθηματικό χαρακτήρα, αλλά είναι τεράστια και η πρακτική χρησιμότητα των Πιθανοτήτων, ιδιαίτερα στην Επιστήμη των Υπολογιστών. Απαραίτητο εργαλείο για: υψηλού επιπέδου Μηχανικό Η/Υ Μεταπτυχιακές σπουδές, έρευνα ιδιαίτερα στη σημερινή τεχνολογική εποχή Σωτήρης Νικολετσέας, καθηγητής 4 / 55

Χρησιμότητα και σκοπός του μαθήματος Βασικές αιτίες χρησιμότητας πιθανοτήτων: τυχαιότητα στην καθημερινότητα εγγενής τυχαιότητα φαινομένων στις υπολογιστικές και δικτυακές τεχνολογίες αποδοτικοί αλγόριθμοι: σχεδιασμός και ανάλυση μέσω πιθανοτήτων χρήση στατιστικής για data science και big data Σωτήρης Νικολετσέας, καθηγητής 5 / 55

Big data and data science Big data: τεράστια/πολύπλοκα/αδόμητα σύνολα δεδομένων (google search, genomics, smart cities, meteo data, facebook data etc.), every day 2.5 exabytes(2.5 10 18 ) of data are generated. Machine Learning: αλγόριθμοι μάθησης από τα δεδομένα Statistical Learning: μοντέλα και υπολογισμοί της προβλεψιμότητας Data Science: εξαγωγή γνώσης από δεδομένα, με ιδέες από mathematics, statistics, machine learning, computer science, engineering,... Σωτήρης Νικολετσέας, καθηγητής 6 / 55

Example: click-through rate for links Σωτήρης Νικολετσέας, καθηγητής 7 / 55

Example: recommender systems Σωτήρης Νικολετσέας, καθηγητής 8 / 55

Τυχαιότητα και Πιθανότητα τυχαιότητα: εγγενής έλλειψη προτύπου, τάξης και προβλεψιμότητας σε φαινόμενα και γεγονότα πιθανότητα: η σχετική συχνότητα εμφάνισης τυχαίων γεγονότων και φαινομένων λεπτή έννοια που είναι δύσκολο να κατανοηθεί, ενώ συχνά αντίκειται στην διαίσθηση και την κοινή λογική οι αρχαίοι Ελληνες ασχολήθηκαν με τις έννοιες αυτές χωρίς όμως να τις ποσοτικοποιήσουν τον 16ο αιώνα μαθηματικοί υπολόγισαν με ακρίβεια πιθανότητες για τυχερά παιχνίδια μόλις τον 20ο αιώνα αναπτύχθηκαν αυστηρές, μαθηματικές θεμελιώσεις για την πιθανότητα Σωτήρης Νικολετσέας, καθηγητής 9 / 55

Ενδεικτικές εφαρμογές πιθανοτήτων και στατιστικής ιατρική, βιολογία, γενετική (π.χ. εξάπλωση ιού, κληρονομικότητα) οικονομικές επιστήμες (εκτίμηση οικονομικών μεγεθών, ασφαλιστικά συμβόλαια κλπ) ανάλυση αξιοπιστίας συστημάτων (π.χ. πυρηνικά εργοστάσια, αεροδρόμια), δηλαδή της πιθανότητας να λειτουργούν ικανοποιητικά στο χρόνο υπό μεταβλητές συνθήκες μελέτη τεχνικών έργων (π.χ. αντοχή γεφυρών σε ανέμους, επίδραση κυμάτων και ανέμων σε πλατφόρμες εξόρυξης πετρελαίου) μελέτες της κοινής γνώμης (γκάλοπ, exit polls κλπ) έλεγχος ποιότητας βιομηχανικής παραγωγής μέσω στατιστικής δειγματοληψίας Σωτήρης Νικολετσέας, καθηγητής 10 / 55

Παραδείγματα εγγενούς τυχαιότητας υπολογιστικών φαινομένων (Ι) Αποφυγή συγκρούσεων σε δίκτυα σε δίκτυα υπολογιστών δημιουργούνται συγκρούσεις και χάνονται τα μηνύματα αν κόμβοι μεταδώσουν ταυτόχρονα μια λύση είναι η εκλογή ενός μοναδικού κόμβου αρχηγού που συντονίζει τις μεταδόσεις, με πιθανοτικό τρόπο (π.χ. κάθε κόμβος επιλέγει τυχαία έναν αριθμό-ταυτότητα και η μικρότερη ταυτότητα συνεπάγεται αρχηγό) άλλη λύση: οι κόμβοι στέλνουν ελεύθερα και σε περίπτωση σύγκρουσης αναμένουν ένα τυχαίο διάστημα πριν ξαναστείλουν. Σωτήρης Νικολετσέας, καθηγητής 11 / 55

Παραδείγματα εγγενούς τυχαιότητας υπολογιστικών φαινομένων (ΙΙ) Αξιόπιστος Υπολογισμός σε Δίκτυα Τυχαιότητα: βλάβες πόρων (nodes, links) ενός δικτύου. Αφαιρετικό μοντέλο: τυχαίοι γράφοι κορυφών (nodes) των οποίων οι ακμές (links) υπάρχουν με μια πιθανότητα p και όχι ντετερμινιστικά. Θεμελιώδη προβλήματα: εύρεση μέγιστης πιθανότητας λάθους στις ακμές ώστε να υπάρχουν: συνεκτικότητα (επικοινωνία μεταξύ 2 οποιωνδήποτε κόμβων) πολλά, σύντομα, ξένα μεταξύ τους μονοπάτια (επικοινωνία μέσω εναλλακτικών μονοπατιών) Σωτήρης Νικολετσέας, καθηγητής 12 / 55

Παραδείγματα εγγενούς τυχαιότητας υπολογιστικών φαινομένων (ΙΙΙ) Συστήματα Ουρών Αναμονής Πολλά φαινόμενα και συστήματα: εξυπηρετητές (servers, διόδια, ταμεία θεάτρου) jobs προς εξυπηρέτηση (emails,αυτοκίνητα, άνθρωποι) ουρές αναμονής Οι αφίξεις είναι απρόσμενες. Υποθέσεις τυχαιότητας για εργασίες: ρυθμός αφίξεων μήκη χρόνοι άφιξης π.χ. υποθέτουμε πιθανοτικές κατανομές Σωτήρης Νικολετσέας, καθηγητής 13 / 55

Παραδείγματα εγγενούς τυχαιότητας υπολογιστικών φαινομένων (III) Σημαντικές (πιθανοτικές και όχι ντετερμινιστικές) μετρικές απόδοσης: μέσος χρόνος εξυπηρέτησης (μέση τιμή μιας τυχαίας μεταβλητής) μέσα μήκη ουρών π.χ. μνήμη server Σωτήρης Νικολετσέας, καθηγητής 14 / 55

Παραδείγματα εγγενούς τυχαιότητας υπολογιστικών φαινομένων (IV) Εντονη χρήση πιθανοτήτων σε ψηφιακές επικοινωνίες και σήματα ο θόρυβος σε ένα κανάλι επικοινωνίας (λόγω περιβαλλοντικών επιδράσεων) συχνά θεωρείται ότι ακολουθεί κανονική κατανομή (Gaussian) η εξασθένηση ενός σήματος έχει πιθανοτικές συνιστώσες (ακολουθεί συγκεκριμένες πιθανοτικές κατανομές) στοχαστικά σήματα (τυχαία μεταβολή στον χρόνο) που μελετώνται ως προς τις στατιστικές ιδιότητές τους Σωτήρης Νικολετσέας, καθηγητής 15 / 55

Σχεδιασμός και Ανάλυση Αποδοτικών Αλγορίθμων Ανάλυση Μέσης Τιμής Worst case (χειρότερης περίπτωσης) χρόνοι εμφανίζονται σε ορισμένα/λίγα inputs π.χ. στο sorting: αριθμοί σε αντίστροφη διάταξη υποθέτουμε κατανομή στην είσοδο ανάλυση μέσης τιμής που θεωρείται πιο κοντά στην τυπική συμπεριφορά Παράδειγμα: average O(nlogn), worst case O(n 2 ) χρόνος για sorting Σωτήρης Νικολετσέας, καθηγητής 16 / 55

Σχεδιασμός και Ανάλυση Αποδοτικών Αλγορίθμων Πιθανοτικοί Αλγόριθμοι Τυχαίες επιλογές (π.χ. νοητή ρίψη ενός νομίσματος) πιο απλοί από ντετερμινιστικούς. Πιο γρήγοροι: trade-off (αντιστάθμιση): μικρή πιθανότητα λάθους πολύ καλύτεροι χρόνοι Σωτήρης Νικολετσέας, καθηγητής 17 / 55

2.1 Διδασκαλία και Φροντιστήριο 13 διαλέξεις σε 3 μεγάλες ενότητες πιθανότητες με στοιχειώδη μέσα: λεπτές έννοιες (αξιώματα πιθανοτήτων, απαρίθμηση, ανεξαρτησία, δεσμευμένη πιθανότητα) πιθανότητες με μαθηματικά εργαλεία (τυχαίες μεταβλητές, ροπές, ανισότητες, γεννήτριες, κατανομές) στατιστική (περιγραφική στατιστική, συσχέτιση δεδομένων, εκτιμήτριες συναρτήσεις, διαστήματα εμπιστοσύνης, παλινδρόμηση) Φροντιστήρια από τον Υπ. Δρ. Γιάννη Κατσιδήμα Ασκήσεις Συμπληρώματα θεωρίας Λύσεις παλιών θεμάτων Σωτήρης Νικολετσέας, καθηγητής 19 / 55

2.2 Σύγγραμμα και Σημειώσεις Σύγγραμμα Μαθήματος: Θεωρία Πιθανοτήτων Ι, Κουνιάς Στρατής και Μωυσιάδης Χρόνης Για Στατιστική οι σημειώσεις: Εισαγωγή στις Πιθανότητες και τη Στατιστική (Διδακτικές Σημειώσεις) Χ. Δαμιανού, Ν. Παπαδάτος, Χ. Α. Χαραλαμπίδης, Τμήμα Μαθηματικών Πανεπιστημίου Αθηνών, Αθήνα 2003 Σωτήρης Νικολετσέας, καθηγητής 20 / 55

Σύγγραμμα ποιοτικό βιβλίο ακριβώς στο πνεύμα του μαθήματος μαθηματική ακρίβεια και πληρότητα πολλά παραδείγματα και λυμένες ασκήσεις πολλές άλυτες ασκήσεις (με απαντήσεις) Σωτήρης Νικολετσέας, καθηγητής 21 / 55

2.3 Εξέταση του μαθήματος 1 Πρόοδος (προαιρετική) 2/3 της συνολικής ύλης (όλη πλην στατιστικής) για όλα τα έτη πριν τα Χριστούγεννα περίπου 2 Τελική εξέταση ασκήσεις μόνο - όχι θεωρία κλειστά βιβλία - 1 φύλλο Α4 με τύπους κλπ. εξεταστέα ύλη για όλα τα έτη: Πιθανότητες και Στατιστική μεγαλύτερη έμφαση στη στατιστική (2 θέματα) 3 Βαθμός Μαθήματος if Β. Προόδου > Β. Εξέτασης then Β. Μαθήματος = 30% Β. Προόδου + 70% Β. Εξέτασης else Β. Μαθήματος = Β. Εξέτασης Σωτήρης Νικολετσέας, καθηγητής 22 / 55

2.4 Αλλαγές στο μάθημα Τροποποιημένες διαλέξεις Μία επιπλέον διάλεξη στη Στατιστική (παλινδρόμηση) Ασκήσεις και συμπληρώματα θεωρίας στον πίνακα Πιο σύνθετα θέματα στην τελική εξέταση - πιο αυστηρή διόρθωση Φέτος όλα τα έτη εξετάζονται και στην Στατιστική Σωτήρης Νικολετσέας, καθηγητής 23 / 55

3. Βασικές έννοιες α) Πείραμα τύχης - Οχι γνωστό εκ των προτέρων αποτέλεσμα τυχαίο πείραμα (υλικό π.χ. ρίχνω ζάρια, ή νοητό π.χ. διαλέγω αριθμό στο [1,..., n]) φαινόμενο (καθημερινό π.χ. θερμοκρασία, ή τεχνολογικό π.χ. χρόνος παράδοσης email) Σωτήρης Νικολετσέας, καθηγητής 25 / 55

3. Βασικές έννοιες - Υπάρχει (ή, τουλάχιστον, την υποθέτουμε): δυνατότητα επανάληψης κάτω από ίδιες συνθήκες (στατιστική ομαλότητα). Για παράδειγμα: Υπάρχει: ρίψη ενός ζαριού Την υποθέτουμε: διάρκεια συνδιάλεξης: Μεγάλο εύρος χρόνου Μεγάλο πλήθος συνδιαλέξεων Διαφορετικοί συνομιλητές (λεπτό σημείο: η τυχαιότητα δεν είναι άγνοια ή αδυναμία υπολογισμού αλλά εγγενής ιδιότητα) Σωτήρης Νικολετσέας, καθηγητής 26 / 55

3. Βασικές έννοιες β) Δειγματοχώρος Ω (sample space) - Δειγματοχώρος Ω: Το σύνολο όλων των δυνατών αποτελεσμάτων ενός πειράματος τύχης π.χ. Ζάρι Ω = {1, 2,..., 6} -Απλό γεγονός ή αλλιώς, sample point (σημείο/στοιχείο του δειγματοχώρου) (simple event): το αποτέλεσμα ενός πειράματος τύχης -Γεγονός (event): σύνολο απλών γεγονότων υποσύνολο του δειγματοχώρου Σωτήρης Νικολετσέας, καθηγητής 27 / 55

3. Βασικές έννοιες -Πραγματοποίηση γεγονότος: όταν το πείραμα οδηγεί σε αποτέλεσμα (απλό γεγονός) που περιέχεται στο γεγονός -Παραδείγματα: τυχαία τοποθέτηση δύο διακριτών σφαιρών σε δύο διακριτά κελιά Σωτήρης Νικολετσέας, καθηγητής 28 / 55

3. Βασικές έννοιες -Πραγματοποίηση γεγονότος: όταν το πείραμα οδηγεί σε αποτέλεσμα (απλό γεγονός) που περιέχεται στο γεγονός -Παραδείγματα: τυχαία τοποθέτηση δύο διακριτών σφαιρών σε δύο διακριτά κελιά Ω = { (a,b), (ab,-), (-,ab), (b,a) } Σωτήρης Νικολετσέας, καθηγητής 28 / 55

3. Βασικές έννοιες -Πραγματοποίηση γεγονότος: όταν το πείραμα οδηγεί σε αποτέλεσμα (απλό γεγονός) που περιέχεται στο γεγονός -Παραδείγματα: τυχαία τοποθέτηση δύο διακριτών σφαιρών σε δύο διακριτά κελιά Ω = { (a,b), (ab,-), (-,ab), (b,a) } Α = υπάρχει άδειο κελί = { (ab,-), (-,ab) } Σωτήρης Νικολετσέας, καθηγητής 28 / 55

3. Βασικές έννοιες -Πραγματοποίηση γεγονότος: όταν το πείραμα οδηγεί σε αποτέλεσμα (απλό γεγονός) που περιέχεται στο γεγονός -Παραδείγματα: τυχαία τοποθέτηση δύο διακριτών σφαιρών σε δύο διακριτά κελιά Ω = { (a,b), (ab,-), (-,ab), (b,a) } Α = υπάρχει άδειο κελί = { (ab,-), (-,ab) } Β = το πρώτο κελί δεν είναι άδειο = { (a,b), (b,a), (ab,-) } Σωτήρης Νικολετσέας, καθηγητής 28 / 55

4. Είδη δειγματοχώρων Είδη δειγματοχώρων: πεπερασμένοι άπειροι αριθμήσιμοι Ν Σ αλγόριθμοι (πλήθος βημάτων) μη αριθμήσιμοι hardware επεξεργασία σημάτων Διακριτοί: πεπερασμένοι ή αριθμήσιμα άπειροι Συνεχείς: μη αριθμήσιμα άπειροι Σωτήρης Νικολετσέας, καθηγητής 30 / 55

4. Είδη δειγματοχώρων Παραδείγμα 1: Ρίχνω ένα νόμισμα μέχρι για πρώτη φορά το αποτέλεσμα να είναι Γράμματα. Σωτήρης Νικολετσέας, καθηγητής 31 / 55

4. Είδη δειγματοχώρων Παραδείγμα 1: Ρίχνω ένα νόμισμα μέχρι για πρώτη φορά το αποτέλεσμα να είναι Γράμματα. Ω = {Γ, ΚΓ, ΚΚΓ, ΚΚΚΓ,... } άπειρος αριθμήσιμος δειγματοχώρος λόγω αντιστοιχίας με τον αριθμό των απαιτούμενων ε- παναλήψεων 1, 2, 3, 4, Σωτήρης Νικολετσέας, καθηγητής 31 / 55

4. Είδη δειγματοχώρων Παραδείγμα 2: 3 παίχτες a, b, c : παιχνίδι 2 παιχτών (σκάκι): στην αρχή παίζουν οι a, b όποιος χάνει αντικαθίσταται παίζουν μέχρι κάποιος να κερδίσει δύο συνεχόμενα παιχνίδια Παρατήρηση: Σε κάθε βήμα μοναδικό αποτέλεσμα Ω = {τέλος σε 2 βήματα, 3 βήματα, 4 βήματα,... } Το παιχνίδι συνεχίζεται επ άπειρον Ω = { άπειρο αρχικά κερδίζει ο a, άπειρο αρχικά κερδίζει ο b, 2 βήματα αρχικά a, 2 βήματα αρχικά b, 3 βήματα αρχικά a, 3 βήματα αρχικά b,... } = { acbacb..., bcabca..., aa, bb, acc, bcc,... } άπειρος αριθμήσιμος δειγματοχώρος (διακριτός) Σωτήρης Νικολετσέας, καθηγητής 32 / 55

4. Είδη δειγματοχώρων Παραδείγματα συνεχών δειγματοχώρων: Ο χρόνος για να παραδοθεί ένα email Ο χρόνος ζωής μιας μπαταρίας Η διάρκεια μίας συνδιάλεξης Το ύψος ενός ανθρώπου Σωτήρης Νικολετσέας, καθηγητής 33 / 55

4. Είδη δειγματοχώρων Η σημασία σωστού υπολογισμού του δειγματοχώρου Ρίχνω δύο ζάρια, ποιά είναι η πιθανότητα να φέρω δύο άσσους Pr{ δύο άσσους } =? Σωτήρης Νικολετσέας, καθηγητής 34 / 55

4. Είδη δειγματοχώρων Η σημασία σωστού υπολογισμού του δειγματοχώρου Ρίχνω δύο ζάρια, ποιά είναι η πιθανότητα να φέρω δύο άσσους Pr{ δύο άσσους } =? Σωστή λύση 1 36 Σωτήρης Νικολετσέας, καθηγητής 34 / 55

4. Είδη δειγματοχώρων Η σημασία σωστού υπολογισμού του δειγματοχώρου Ρίχνω δύο ζάρια, ποιά είναι η πιθανότητα να φέρω δύο άσσους Pr{ δύο άσσους } =? Σωστή λύση 1 36 Λάθος λύση Ω = {0, 1, 2} Ισοπίθανα ) 1 3 Σωτήρης Νικολετσέας, καθηγητής 34 / 55

5. Πράξεις με γεγονότα Γεγονότα Σύνολα Πράξεις με γεγονότα Πράξεις με σύνολα Συμπλήρωμα A Τομή Ενωση Ερμηνεία A : Α Β : Α Β : δε συμβαίνει το Α και τα δύο γεγονότα συμβαίνουν ένα τουλάχιστον γεγονός συμβαίνει Σωτήρης Νικολετσέας, καθηγητής 36 / 55

5. Πράξεις με Γεγονότα - Α, Β ασυμβίβαστα (ξένα) Α Β = Ø - Α 1, Α 2, διαμέριση του Ω ασυμβίβαστα ανά δύο i j, Α i Α j = Ø η ένωσή τους είναι Ω Α 1 Α 2... = Ω - Διαφορά: συμβαίνει το Α δεν συμβαίνει το Β Αποδεικνύεται ότι Α - Β = Α B - Συμμετρική διαφορά (ακριβώς ένα): Α Β = (Α - Β) (Β - Α) = Α B A Β Σωτήρης Νικολετσέας, καθηγητής 37 / 55

5. Πράξεις με Γεγονότα Ιδιότητες 1 Ταυτοδυναμία: Α Α = Α Α Α = Α 2 Ταυτοτικές: Α Ω = Ω Α Ω = Α 3 Συμπληρώματος: Α A = Ω Α A = Ø 4 Αντιμεταθετικές: Α Β = Β Α Α Β = Β Α 5 Προσεταιριστικές: (Α Β) C = Α (Β C ) (Α Β) C = Α (Β C ) 6 Επιμεριστικές: Α (Β C ) = Α Β Α C Α (Β C ) = (Α Β) (Α C ) Σωτήρης Νικολετσέας, καθηγητής 38 / 55

6.1 Ορισμοί για την πιθανότητα Ιστορική Εξέλιξη Πρακτικές Φιλοσοφικές παράμετροι α. Ορισμός κλασσικής πιθανότητας (De Moivre, 1711) (Laplace, 1812) Πειράματα Πεπερασμένο πλήθος σημείων δειγματοχώρου Ισοπίθανα δυνατά αποτελέσματα P(A) = N(A) N πλήθος ευνοϊκών για το Α αποτελεσμάτων = πλήθος δυνατών αποτελεσμάτων Παράδειγμα: Ρίξιμο ζαριού: Α = Αποτέλεσμα περιττό = {1, 3, 5} P(A) = 3 6 χρήσιμος στην πράξη περιοριστικές υποθέσεις Σωτήρης Νικολετσέας, καθηγητής 40 / 55

6.2 Οριο σχετικής συχνότητας P(A) = lim N N(A) N Πολλές επαναλήψεις, μεγάλα μεγέθη σύγκλιση σε μια τιμή (πιθανότητα) Παράδειγμα: Συμμετρικό νόμισμα Ω = {Κ, Γ} Α = {Κ} Σωτήρης Νικολετσέας, καθηγητής 41 / 55

6.2 Οριο σχετικής συχνότητας Εχει εγκαταλειφθεί ως προσπάθεια θεμελίωσης της έννοιας της πιθανότητας. Πειραματικός έλεγχος πιθανότητας γεγονότος (π.χ. του ισοπίθανου) όταν υπάρχει υπάρχει αμφισβήτηση (π.χ. με προσομοίωση σε υπολογιστή). Σωτήρης Νικολετσέας, καθηγητής 42 / 55

7. Αξιωματική Θεμελίωση - Μαθηματική Πιθανότητα (Kolmogorov, 1933) Ορισμός Πιθανότητα = συνολοσυνάρτηση: υποσύνολα του Ω πραγματικούς αριθμούς: δηλαδή γεγονότα πιθανότητες Παρατήρηση: Η εκλογή των συγκεκριμένων αξιωμάτων είναι (προφανώς) αυθαίρετη! Ωστόσο, βολεύει. Σωτήρης Νικολετσέας, καθηγητής 44 / 55

7. Αξιωματική Θεμελίωση - Μαθηματική Πιθανότητα (Kolmogorov, 1933) Ορισμός Πιθανότητα = συνολοσυνάρτηση: υποσύνολα του Ω πραγματικούς αριθμούς: δηλαδή γεγονότα πιθανότητες Αξιώματα 1 o Αξίωμα : P(A) 0 2 o Αξίωμα : P(Ω)= 1 3 o Αξίωμα : A B = Ø P(A B) = P(A) + P(B) Παρατήρηση: Η εκλογή των συγκεκριμένων αξιωμάτων είναι (προφανώς) αυθαίρετη! Ωστόσο, βολεύει. Σωτήρης Νικολετσέας, καθηγητής 44 / 55

7. Αξιωματική Θεμελίωση - Μαθηματική Πιθανότητα Ιδιότητες 1 0 P(A) 1 2 P(A) + P(A) = 1 3 P(A B) = P(A) + P(B) - P(A B) 4 P( i A i ) P (A i ) Ανισότητα του Boole, άνω φράγμα για i πιθανότητα ένωσης γεγονότων Σωτήρης Νικολετσέας, καθηγητής 45 / 55

7. Αξιωματική Θεμελίωση - Μαθηματική Πιθανότητα Απόδειξη: 3) P(A B) = P(A) + P(B) - P(A B) Απ. Εκφράζω το Α Β ως δύο ξένα σύνολα: A B = A B A Pr{A B} = Pr{A} + Pr{B A} (1) Τώρα εκφράζω το Β ως 2 ξένα σύνολα: B = B Ω = B (A A) B = B A A B Pr{B} = Pr{B A} + Pr{A B} Pr{B A} = Pr{B} - Pr{A B} (2) Σωτήρης Νικολετσέας, καθηγητής 46 / 55

8. Παράδειγμα 1 α) Γεγονότα A, B, C : Ακριβώς 2 συμβαίνουν: Σωτήρης Νικολετσέας, καθηγητής 48 / 55

8. Παράδειγμα 1 α) Γεγονότα A, B, C : Ακριβώς 2 συμβαίνουν: A B C A B C A B C Σωτήρης Νικολετσέας, καθηγητής 48 / 55

8. Παράδειγμα 1 α) Γεγονότα A, B, C : Ακριβώς 2 συμβαίνουν: A B C A B C A B C β) Γεγονότα A, B, C : Οχι περισσότερα από 2 συμβαίνουν Σωτήρης Νικολετσέας, καθηγητής 48 / 55

8. Παράδειγμα 1 α) Γεγονότα A, B, C : Ακριβώς 2 συμβαίνουν: A B C A B C A B C β) Γεγονότα A, B, C : Οχι περισσότερα από 2 συμβαίνουν όχι 3 ABC = A B C (διαφορετικά, τουλάχιστον ένα δεν συμβαίνει) Σωτήρης Νικολετσέας, καθηγητής 48 / 55

8. Παράδειγμα 2 Να αποδείξετε ότι A B Pr{A} Pr{B} Απόδειξη: Σωτήρης Νικολετσέας, καθηγητής 49 / 55

8. Παράδειγμα 2 Να αποδείξετε ότι A B Pr{A} Pr{B} Απόδειξη: A B B = A B A Pr{B} = Pr{A} + Pr{B A} Pr{B} Pr{A} Σωτήρης Νικολετσέας, καθηγητής 49 / 55

8. Παράδειγμα 3 Να δειχθεί: P(A 1 A 2... A n ) P(A 1 )+P(A 2 )+...+P(A n ) Απόδειξη: Σωτήρης Νικολετσέας, καθηγητής 50 / 55

8. Παράδειγμα 3 Να δειχθεί: P(A 1 A 2... A n ) P(A 1 )+P(A 2 )+...+P(A n ) Απόδειξη: Α 1 Α 2... Α n = Α 1 Α 2 A 1 Α 3 A 1 A 2 Pr(A 1 A 2... A n ) = Pr{A 1 }+Pr{A 2 A 1 }+Pr{A 3 A 1 A 2 } + Αλλά A B Pr{A} Pr{B} και αρκεί να δούμε ότι A 2 A 1 A 2 κ.ο.κ. Σωτήρης Νικολετσέας, καθηγητής 50 / 55

8. Παράδειγμα 4 ν.δ. ότι η πιθανότητα να συμβεί ένα μόνο από τα γεγονότα E, F είναι P(E) + P(F) - 2 P(EF) Σωτήρης Νικολετσέας, καθηγητής 51 / 55

8. Παράδειγμα 4 ν.δ. ότι η πιθανότητα να συμβεί ένα μόνο από τα γεγονότα E, F είναι P(E) + P(F) - 2 P(EF) Απάντηση: Pr{ένα μόνο} = Pr{EF EF } Αλλά EF EF = E P r{ef } = P r{e} P r{ef } και EF EF = F P r{ef } = P r{f } P r{ef } Σωτήρης Νικολετσέας, καθηγητής 51 / 55

8. Παράδειγμα 5 Το δοχείο Α έχει 3 κόκκινες και 3 μαύρες μπάλες, ενώ το δοχείο Β 4 κόκκινες και 6 μαύρες. Τραβάμε τυχαία μια μπάλα από κάθε δοχείο. Ποια η πιθανότητα οι δυο μπάλες να έχουν το ίδιο χρώμα; Σωτήρης Νικολετσέας, καθηγητής 52 / 55

8. Παράδειγμα 5 Το δοχείο Α έχει 3 κόκκινες και 3 μαύρες μπάλες, ενώ το δοχείο Β 4 κόκκινες και 6 μαύρες. Τραβάμε τυχαία μια μπάλα από κάθε δοχείο. Ποια η πιθανότητα οι δυο μπάλες να έχουν το ίδιο χρώμα; Λύση: P r{το ίδιο χρώμα} = P r{k M} = P r{k} + P r{m} (Κ = ίδιο χρώμα κόκκινο, Μ = ίδιο χρώμα μαύρο ) = P r{k A K B } + P r{m A M B } (K A : η μπάλα που τραβάμε από το Α είναι κόκκινη, κ.ο.κ.) Σωτήρης Νικολετσέας, καθηγητής 52 / 55

8. Παράδειγμα 5 Το δοχείο Α έχει 3 κόκκινες και 3 μαύρες μπάλες, ενώ το δοχείο Β 4 κόκκινες και 6 μαύρες. Τραβάμε τυχαία μια μπάλα από κάθε δοχείο. Ποια η πιθανότητα οι δυο μπάλες να έχουν το ίδιο χρώμα; Λύση: P r{το ίδιο χρώμα} = P r{k M} = P r{k} + P r{m} (Κ = ίδιο χρώμα κόκκινο, Μ = ίδιο χρώμα μαύρο ) = P r{k A K B } + P r{m A M B } (K A : η μπάλα που τραβάμε από το Α είναι κόκκινη, κ.ο.κ.) = 3 4 6 10 + 3 6 6 10 = 1 2 Σωτήρης Νικολετσέας, καθηγητής 52 / 55

8. Παράδειγμα 6 Στο κύκλωμα του σχήματος κάθε διακόπτης είναι κλειστός με πιθανότητα P, ανεξάρτητα από τους υπόλοιπους. Πόση η πιθανότητα να ανάψει ο λαμπτήρας; Σωτήρης Νικολετσέας, καθηγητής 53 / 55

8. Παράδειγμα 6 (συνέχεια) Λύση: Εστω A K, B K, C K D K τα γεγονότα Είναι κλειστός ο διακόπτης A, B, C, D αντίστοιχα. Σωτήρης Νικολετσέας, καθηγητής 54 / 55

8. Παράδειγμα 6 (συνέχεια) Λύση: Εστω A K, B K, C K D K τα γεγονότα Είναι κλειστός ο διακόπτης A, B, C, D αντίστοιχα. Ο λαμπτήρας ανάβει με πιθανότητα Σωτήρης Νικολετσέας, καθηγητής 54 / 55

8. Παράδειγμα 6 (συνέχεια) Λύση: Εστω A K, B K, C K D K τα γεγονότα Είναι κλειστός ο διακόπτης A, B, C, D αντίστοιχα. Ο λαμπτήρας ανάβει με πιθανότητα P r{a K B K (C K D K )} = Σωτήρης Νικολετσέας, καθηγητής 54 / 55

8. Παράδειγμα 6 (συνέχεια) Λύση: Εστω A K, B K, C K D K τα γεγονότα Είναι κλειστός ο διακόπτης A, B, C, D αντίστοιχα. Ο λαμπτήρας ανάβει με πιθανότητα P r{a K B K (C K D K )} = = P r{a K B K } + P r{c K D K } P r{a K B K (C K D K )} = Σωτήρης Νικολετσέας, καθηγητής 54 / 55

8. Παράδειγμα 6 (συνέχεια) Λύση: Εστω A K, B K, C K D K τα γεγονότα Είναι κλειστός ο διακόπτης A, B, C, D αντίστοιχα. Ο λαμπτήρας ανάβει με πιθανότητα P r{a K B K (C K D K )} = = P r{a K B K } + P r{c K D K } P r{a K B K (C K D K )} = = p p + (p + p p 2 ) p 2 (p + p p 2 ) = p 4 2p 3 + 2p Σωτήρης Νικολετσέας, καθηγητής 54 / 55

8. Παράδειγμα 7 Κάποιος ψωνίζει τυχαία κοστούμι με πιθανότητα 0.22, πουκάμισο με 0.3 και γραβάτα με 0.28, και κοστούμι και πουκάμισο με 0.11, και κοστούμι και γραβάτα με 0.14, και πουκάμισο και γραβάτα με 0.10, ενώ με πιθανότητα 0.06 και τα τρία είδη. Ποια η πιθανότητα να ψώνισε ακριβώς ένα είδος; Σωτήρης Νικολετσέας, καθηγητής 55 / 55

8. Παράδειγμα 7 Κάποιος ψωνίζει τυχαία κοστούμι με πιθανότητα 0.22, πουκάμισο με 0.3 και γραβάτα με 0.28, και κοστούμι και πουκάμισο με 0.11, και κοστούμι και γραβάτα με 0.14, και πουκάμισο και γραβάτα με 0.10, ενώ με πιθανότητα 0.06 και τα τρία είδη. Ποια η πιθανότητα να ψώνισε ακριβώς ένα είδος; Λύση: Ω = {κανένα είδος 1 είδος 2 είδη} P r{1 είδος} = 1 - P r{κανένα είδος} - P r{ 2 είδη} (1) Αλλά P r{κανένα} Σωτήρης Νικολετσέας, καθηγητής 55 / 55

8. Παράδειγμα 7 Κάποιος ψωνίζει τυχαία κοστούμι με πιθανότητα 0.22, πουκάμισο με 0.3 και γραβάτα με 0.28, και κοστούμι και πουκάμισο με 0.11, και κοστούμι και γραβάτα με 0.14, και πουκάμισο και γραβάτα με 0.10, ενώ με πιθανότητα 0.06 και τα τρία είδη. Ποια η πιθανότητα να ψώνισε ακριβώς ένα είδος; Λύση: Ω = {κανένα είδος 1 είδος 2 είδη} P r{1 είδος} = 1 - P r{κανένα είδος} - P r{ 2 είδη} (1) Αλλά P r{κανένα} = 1 - P r{τουλάχιστον ένα} = 1 - P r{k Π Γ} = =1 - P r{k} P r{π} P r{γ} + P r{kπ} + P r{πγ} + P r{kγ} P r{kπγ}(2) Επίσης P r{ 2} Σωτήρης Νικολετσέας, καθηγητής 55 / 55

8. Παράδειγμα 7 Κάποιος ψωνίζει τυχαία κοστούμι με πιθανότητα 0.22, πουκάμισο με 0.3 και γραβάτα με 0.28, και κοστούμι και πουκάμισο με 0.11, και κοστούμι και γραβάτα με 0.14, και πουκάμισο και γραβάτα με 0.10, ενώ με πιθανότητα 0.06 και τα τρία είδη. Ποια η πιθανότητα να ψώνισε ακριβώς ένα είδος; Λύση: Ω = {κανένα είδος 1 είδος 2 είδη} P r{1 είδος} = 1 - P r{κανένα είδος} - P r{ 2 είδη} (1) Αλλά P r{κανένα} = 1 - P r{τουλάχιστον ένα} = 1 - P r{k Π Γ} = =1 - P r{k} P r{π} P r{γ} + P r{kπ} + P r{πγ} + P r{kγ} P r{kπγ}(2) Επίσης P r{ 2} = P r{kπ ΠΓ KΓ} = P r{kπ} + P r{πγ} + +P r{kγ} P r{kπγ} P r{kπγ} P r{kπγ} + P r{kπγ} (3) Σωτήρης Νικολετσέας, καθηγητής 55 / 55