Πιθανότητες και Στοχαστικές ιαδικασίες Θόρυβος µετρήσεων είκτης Χρηµατιστηρίου Σήµα Πληροφορίας (φωνή, data) Ατµοσφαιρικός Θόρυβος Πως δηµιουργείται

Transcript

1 Πιθανότητες και Στοχαστικές ιαδικασίες Θόρυβος µετρήσεων είκτης Χρηµατιστηρίου Σήµα Πληροφορίας (φωνή, data) Ατµοσφαιρικός Θόρυβος Πως δηµιουργείται το τυχαίο I do not believe that God rolls dice Μακροσκοπική άποψη πολύπλοκου φαινόµενου Αδυναµία µέτρησης/υπολογισµού όλων των παραγόντων Μελέτη Τυχαίων Φαινοµένων (Στοχαστικά Μοντέλα) Πρόβλεψη/Μοντέλα Απόκριση Συστήµατος σε Τυχαίο Σήµα Φασµατικές Ιδιότητες Τυχαίου Σήµατος Επίδραση Θορύβου στη µετάδοση δεδοµένων στις τηλεπικοινωνίες Βέλτιστος Αλγόριθµος Λήψης στο έκτη

2 Πιθανότητες Παριστάνουν το σχετικό βάρος των διάφορων δυνατών αποτελεσµάτων (ενδεχοµέν-ων) ενός τυχαίου πειράµατος Χρήσιµοι ορισµοί θεωρίας συνόλων Τα σύνολα παριστάνουν στη µελέτη πιθανοτήτων τα ενδεχόµενα αποτελέσµατα ενός τυχαίου πειράµατος Κενό σύνολο Βέβαιο ενδεχόµενο (δειγµατόχωρος) Ω Ασυµβίβαστα γεγονότα

3 Ορισµός Μιά συλλογή από ενδεχόµενα {A ι } αποτελούν ιαµερισµό εάν: Χρήσιµη Ιδιότητα Αν {A ι } αποτελούν διαµερισµό, τότε ένα ενδεχόµενο µπορεί να γραφτεί

4 Χώρος Πιθανοτήτων Για τον ορισµό ενός τυχαίου πειράµατος (χώρου πιθανοτήτων) απαιτούνται: Βέβαιο Ενδεχόµενο Ω Σώµα ενδεχοµένων: µη κενό σύνολο υποσυνόλων του δειγµατόχωρου, που για κάθε στοιχείο του περιέχει το συµπλήρωµα του και είναι κλειστό υπό την αριθµήσιµη ένωση Μέτρο Πιθανότητας: Είναι συνάρτηση µε πεδίο ορισµού όλα τα ενδεχόµενα στο σώµα ενδεχοµένων. ίνει την πιθανότητα (σχετικό βάρος) ενός ενδεχοµένου P(A) = N A / N = ποσοστό των αποτελεσ- µάτων που ανήκουν στο A

5 Αξιωµατικός ορισµός πιθανοτήτων Το µέτρο πιθανότητας πρέπει να ικανοποι-εί τα εξής αξιώµατα γιά όλα τα ενδεχόµενα F στο σώµα ενδεχοµένων 1. P(F) 2. P(Ω) 3. Αν F ι είναι αµοιβαία ασυµβίβαστα, τότε P( U N F i i = 1 ) =

6 Ορισµός πιθανοτήτων µε σχετικές συχνότητες Υποθέστε οτι ένα τυχαίο πείραµα επαναλαµβάνεται n φορές. Αν το ενδεχόµενο Α εµφανιστεί ως αποτέλεσµα n A φορές, τότε η πιθανότητα P(A) ορίζεται ως το όριο της σχετικής συχνότητας n A / n καθώς το n τείνει στο άπειρο:

7 Κλασσικός Ορισµός πιθανοτήτων Με βάση τον κλασσικό ορισµό, η πιθανότητα υπολογίζεται χωρίς πειραµατισµό. Η εφαρµογή του προϋποθέτει ότι είναι γνωστά όλα τα βασικά πιθανά αποτελέσµατα του πειράµατος, και για κάθε ενδεχόµενο µπορεί να υπολογιστεί ο αριθµός αυτών των βασικών αποτελεσµάτων. Αν Ν είναι ο αριθµός των βασικών αποτελεσµάτων και Ν A ο αριθµός των βασικών αποτελεσµάτων του ενδεχοµένου Α, τότε η πιθανότητα P(A) ορίζεται ως ο λόγος Ν A / Ν:

8 Παράδειγµα: ιπλή ρίψη νοµίσµατος

9 Ιδιότητες 1. P( ) 2. P(F) 3. P (F ) = 4. Α Β 5. P(Α Β)= 6. Α 1, Α 2,,Α ν διαµερισµός P(B) =

10 Απο Κοινού Πιθανότητες (Joint Probability) Η πιθανότητα να συµβούν δύο ενδεχόµενα Α και Β ταυτόχρονα ορίζεται ως η από κοινού πιθανότητα: P(Α Β) Οριακές Πιθανότητες Εαν είναι γνωστές οι από κοινού πιθανότητες ενός ενδεχοµένου µε τα στοιχεία ενός διαµερισµού, µπορεί να υπολογιστεί η οριακή πιθανότητα (marginal probability) του ενδεχοµένου, όπως θα δούµε παρακάτω.

11 Υπό Συνθήκη Πιθανότητα (Conditional Probability) Η πιθανότητα του ενδεχοµένου Α δεδοµέ-νου ότι έχει συµβεί το ενδεχόµενο Β δίδεται από P(A B) = εδοµένου ότι έχει συµβεί το ενδεχόµενο Β, ο χώρος πιθανών αποτελεσµάτων αλλάζει και οι πιθανότητες πρέπει να κανο-νικοποιηθούν. Χρησιµοποιώντας σχετικές συχνότητες: P(A B) = Παράδειγµα: 3 λευκές, 2 κόκκινες σφαίρες σε κουτί, αφαιρούµε 2 διαδοχικά (χωρίς επανατοποθέτηση). Πιθανότητα η πρώτη λευκή και η δεύτερη κόκκινη:

12 ύο Βασικοί Νόµοι Πιθανοτήτων 1. Κανόνας Ολικής Πιθανότητας Α 1, Α 2,,Α ν διαµερισµός P(B) = 2. Θεώρηµα του Bayes P(A j B) =

13 Παράδειγµα: Εχουµε τις ακόλουθες στατιστικές µετρήσεις σχετικά µε την κλάση ελλατωµατικών εξαρτηµάτων σε µια σειρά από εργοστάσια παραγωγής: Κατηγορία ελλατώµατος Εργοστάσιο Β 1 Β 2 Β 3 Β 4 Β 5 Σύνολο Μ Μ Μ Μ Σύνολο Υπολογίστε την πιθανότητα ένα εξάρτηµα, επιλεγ - µένο τυχαία από τα 530, Α) να έχει κατασκευαστεί από το Μ 2 και να χαρακτηριστεί Β 1 Β) να χαρακτηριστεί Β 2 Γ) να έχει κατασκευαστεί από το Μ 1 ) να χαρακτηριστεί Β 2 δεδοµένου οτι έχει κατασκευαστεί στο Μ 2 Ε) να έχει κατασκευστεί στο Μ 1 δεδοµένου οτι έχει χαρακτηριστεί Β 2

14 Παράδειγµα: Εχουµε ένα συµµετρικό δυαδικο τηλεπικοινωνιακό δίαυλο Ι=0 Ο=0 Ι=1 Ο=1 β = P(O=0 I=1) =P(O=1 I=0) P(I=0) = p, P(I=1) = 1-p α) Ποιά η πιθανότητα να ληφθεί 1 β) Ποιά η πιθανότητα να µεταδόθηκε το 1 δεδοµένου οτι λάβαµε 1