ΣΤΟΧΑΣΤΙΚΑ ΣΥΣΤΗΜΑΤΑ & ΕΠΙΚΟΙΝΩΝΙΕΣ 1o Τμήμα (Α - Κ): Αμφιθέατρο 3, Νέα Κτίρια ΣΗΜΜΥ Θεωρία Πιθανοτήτων & Στοχαστικές Ανελίξεις - 1

Transcript

1 ΣΤΟΧΑΣΤΙΚΑ ΣΥΣΤΗΜΑΤΑ & ΕΠΙΚΟΙΝΩΝΙΕΣ 1o Τμήμα (Α - Κ): Αμφιθέατρο 3, Νέα Κτίρια ΣΗΜΜΥ Θεωρία Πιθανοτήτων & Στοχαστικές Ανελίξεις : Εισαγωγή 5.2: Πιθανότητες 5.3: Τυχαίες Μεταβλητές καθ. Βασίλης Μάγκλαρης maglaris@netmode.ntua.gr /11/2016

2 5.1 Εισαγωγή Τυχαίο σήμα: Άγνοια δέκτη για ακριβή πληροφορία προς μετάδοση Τυχαία παρεμβολή: Θόρυβος από παράλληλες μεταδόσεις, κλιματικές συνθήκες, ακτινοβολίες, θερμικό θόρυβο συσκευών Μέθοδοι εκτίμησης στατιστικών χαρακτηριστικών: Προκύπτουν από την φύση του τυχαίου σήματος/παρεμβολής και αντίστοιχες μετρήσεις στο παρελθόν των σχετικών τυχαίων μεταβλητών (random variables) και ιδιοτήτων χρονικής εξέλιξης στοχαστικών ανελίξεων (time series, stochastic processes) των σημάτων και παρεμβολών Πρόβλεψη με βάση στατιστικές ιδιότητες: Μέση τιμή (mean), διασπορά (variance), ιστόγραμμα κατανομής τυχαίας μεταβλητής (histogram of random variable distribution), συσχέτιση (correlation) και φασματική κατανομή (power spectral density) των μοντέλων στοχαστικών ανελίξεων

3 5.2 Πιθανότητες (1/3) Βασικοί Ορισμοί Τυχαίο πείραμα (random experiment) με πιθανά ενδεχόμενα (outcomes) που ανήκουν στο υπερσύνολο ενδεχομένων S Αντιστοίχηση ενδεχομένων σε διακριτά ή συνεχή δείγματα (sample points) s k του χώρου δειγμάτων (sample space) S, s k S Συμβάν (event): Υποσύνολο δειγμάτων A = s 1, s 2, A S Σχετική συχνότητα δείγματος ή συμβάντος (relative frequency): Αριθμός εμφανίσεων m δείγματος s k ή του υποσυνόλου δειγμάτων ενός συμβάντος A σε n επαναλήψεις του τυχαίου πειράματος Μέτρο Πιθανότητας (probability measure): Συνάρτηση A P A, 0 P A 1 Στοιχειώδες γεγονός (elementary event) αποτελούμενο από ένα απλό δείγμα A = s k, P A = lim (σχετική συχνότητα δείγματος s k) m n n Βέβαιο γεγονός (certain event) E = S, P S = 1 Μηδενικό γεγονός (null event) E =, P = 0 Αμοιβαία αποκλειόμενα γεγονότα (mutually exclusive events) A S, B S, A B =, P A B = P A + P[B]

4 5.2 Πιθανότητες (2/3) Αξιωματικός Ορισμός (Kolmogorov) Συμβάν (event): Υποσύνολο δειγμάτων A = s 1, s 2, A S, s k S (sample space) Μέτρο Πιθανότητας (probability measure): Συνάρτηση A P A 0 που ικανοποιεί τα τρία αξιώματα του Kolmogorov: 1. 0 P A 1 2. P S = 1 3. Αν A S, B S και A B = (mutually exclusive events) P A B = P A + P[B] Συνεπαγόμενες ιδιότητες: 1. P A = 1 P A, A A = S, A A = 2. P A B = P A + P B P[A B] 3. Αν A 1 A 2 A m = S, A i A j = i, j τότε P A 1 + P A P A m = 1

5 5.2 Πιθανότητες (3/3) Πιθανότητα υπό Συνθήκη Πιθανότητα B υπό την συνθήκη Α: P B A = P[A B] P[A] και P A B = P B A P A = P A B P B P B A = P A B P B P A Κανόνας Bayes Αν P B A = P B τότε τα γεγονότα A και B είναι στατιστικά ανεξάρτητα (independent) και P A B = P[A]P B Αν οι συνθήκες A i είναι γεγονότα ξένα μεταξύ τους και καλύπτουν τον χώρο S = A 1 A 2 A m m τότε P B = i=1 P B A i P[A i ] (Νόμος Συνολικής Πιθανότητας) Δυαδικός συμμετρικός δίαυλος (Memoryless Binary Symmetric Channel) Ο πομπός στέλνει σειριακά και χωρίς μνήμη δυαδικά ψηφία 0,1 (γεγονότα A 0, A 1 ) με εκ των προτέρων πιθανότητες (a priori probabilities) P A 0 = p 0, P A 1 = p 1 = 1 p 0 Ο δέκτης ερμηνεύει λήψεις ψηφίων 0,1 (γεγονότα B 0, B 1 ) με πιθανότητα λάθους λόγω παραμορφώσεων του διαύλου ίση με P B 1 A 0 = P B 0 A 1 = p Οι πιθανότητες ορθής μετάδοσης είναι P B 0 A 0 = P B 1 A 1 = 1 p Η πιθανότητα λήψης ψηφίου 0 είναι P B 0 = P B 0 A 0 P A 0 + P B 0 A 1 P A 1 = 1 p p 0 + pp 1 Ομοίως P B 1 = P B 1 A 0 P A 0 + P B 1 A 1 P A 1 = pp 0 + (1 p)p 1 Από τον κανόνα του Bayes προκύπτουν οι εκ των υστέρων πιθανότητες (a posteriori probabilities) ορθής μετάδοσης όταν ο δέκτης ερμηνεύει 0 ή 1 (γεγονότα B 0, B 1 ) είναι: P A 0 B 0 = P B 0 A 0 P A 0 P B 0 = 1 p p 0 1 p p 0 + pp 1, P A 1 B 1 = P B 1 A 1 P A 1 P B 1 = 1 p p 1 pp p p 1

6 5.3 Τυχαίες Μεταβλητές (1/3) Ορισμοί Τυχαία Μεταβλητή (Random Variable - RV): Αντιστοίχηση (συνάρτηση) ενδεχομένων s k S σε πραγματικούς αριθμούς (παραμέτρου) x: X s k = x (, ) Γεγονότα A S απεικονίζονται σε σύνολα διακριτών σημείων ή/και σε συνεχή υποδιαστήματα της παραμέτρου x με στοιχεία τις τυχαίες μεταβλητές X s ή X των ενδεχομένων s A Συνάρτηση Αθροιστικής Κατανομής (Cumulative Distribution Function, CDF): F X x = P X x Για < x <, 0 F X x 1 Μονότονη μη φθίνουσα συνάρτηση της παραμέτρου x: F X x 1 F X x 2 αν x 1 < x 2 Ισχύει lim F X x = 0, lim F X x = 1 χ χ Αν η CDF είναι συνεχώς παραγωγίσιμη, ορίζω την Συνάρτηση Πυκνότητας Πιθανότητας (Probability Density Function, PDF) ως f x x = d F x dx X x, F X x = f X y dy Ισχύει P x 1 < X x 2 = P X x 2 P X x 1 = F X x 2 F X x 1 και εφόσον ορίζεται η PDF x P x 1 < X x 2 = 2 f X y dy x 1 Αν ορίζεται η PDF, f X x dx = 1 Σε περίπτωση διακριτών ενδεχομένων s k : Συνάρτηση Μάζας Πιθανότητας (Probability Mass Function) P X = x k P k, k ακέραιος n αριθμός και F X x = P X x = k= P k για όλα τα k n που ικανοποιούν την ανισότητα x k x Σε περίπτωση συνεχών ενδεχομένων: lim P x Δx < X x = Δx 0 lim f X x Δx Δx 0 = lim Δx 0 {F X x F X (x Δx)} = 0

7 5.3 Τυχαίες Μεταβλητές (2/3) Ομοιόμορφη Κατανομή (Uniform Distribution) f X x = 0, x a 1 b a, a < x b 0, x > b F X x = 0, x a x a b a, a < x b 0, x > b PDF Πολλές Τυχαίες Μεταβλητές Joint CDF: F X,Y x, y = P[X x, Y y], ( < X x, < Y y) Joint PDF: f X,Y x, y = 2 F X,Y x,y x y 0 εφόσον ορίζονται οπότε f X,Y ξ, η dξ dη = 1 Οριακές Marginal CDF, PDF: F X x = F X,Y x, = [ f X,Y ξ, η dξ]dη, f X x = f X,Y x, η dη x CDF Υπό Συνθήκη Conditional PDF: f Y y x = f X,Y x,y f X (x) εφόσον f X x > 0, f Y y x dx Αν οι X, Yείναι ανεξάρτητες R.V. f Y y x = f Y y και f X,Y x, y = f X x f Y y = 1 Ολοκλήρωμα Stieltjes: P x 1 < X x 2 = F X x 2 F X x 1 = lim n 2 1 F X Δx 0, x 1 =(n 1 Δx), x 2 =(n 2 Δx) n + 1)Δx F X nδx n=n 1 } x και P x 1 < X x 2 = 2 df X (y) (Ολοκλήρωμα Stieltjes) x 1 x Αν ορίζεται η f X x, df X x = df X x dx = P x < X x + dx οπότε P x 1 < X x 2 = 2 f X y dy x 1

8 5.3 Τυχαίες Μεταβλητές (3/3) Διωνυμική Τυχαία Μεταβλητή (Binomial R.V.) Θεωρούμε τυχαίο πείραμα N ανεξαρτήτων επαναλαμβανόμενων δοκιμών Bernoulli Trials π.χ. ρίψεις νομισμάτων με δύο ενδεχόμενα: H(heads, κορώνα) και T (tails, γράμματα). Έστω X n τυχαία μεταβλητή με δύο δυνατές τιμές στα ενδεχόμενα H 1 και T 0 κατά την δοκιμή n, n = 1,2,, N P H = p, P T = 1 p Διωνυμική Τυχαία Μεταβλητή (Binomial R.V.): Y = n=1 X n (αριθμός από ενδεχόμενα H σε N ανεξάρτητες δοκιμές Bernoulli) N Πιθανότητα καταγραφής γεγονότος με Y = y ενδεχόμενα Heads και N y ενδεχόμενα Tails σε N δοκιμές Bernoulli με συγκεκριμένη σειρά εμφάνισης: p y 1 p N y Αριθμός συνδυασμών y Heads, N y Tails ανεξάρτητα από σειρά εμφάνισης: N y = N! y! N y! Διωνυμική Κατανομή, N = 20, p = 0.5 Πιθανότητα εμφάνισης y Heads σε N ανεξάρτητες δοκιμές Bernoulli: P y = N y py 1 p N y