ΣΤΟΧΑΣΤΙΚΑ ΣΥΣΤΗΜΑΤΑ & ΕΠΙΚΟΙΝΩΝΙΕΣ 1o Τμήμα (Α - Κ): Αμφιθέατρο 4, Νέα Κτίρια ΣΗΜΜΥ Θεωρία Πιθανοτήτων & Στοχαστικές Ανελίξεις - 2

Transcript

1 ΣΤΟΧΑΣΤΙΚΑ ΣΥΣΤΗΜΑΤΑ & ΕΠΙΚΟΙΝΩΝΙΕΣ 1o Τμήμα (Α - Κ): Αμφιθέατρο 4, Νέα Κτίρια ΣΗΜΜΥ Θεωρία Πιθανοτήτων & Στοχαστικές Ανελίξεις - 5.4: Στατιστικοί Μέσοι Όροι 5.5 Στοχαστικές Ανελίξεις (Stochastic Processes) καθ. Βασίλης Μάγκλαρης maglaris@netmode.ntua.gr Τρίτη 6/3/019

2 5.4 Στατιστικοί Μέσοι Όροι (1/5) Μέση Τιμή (Expected Value, Mean): μ X E X = xf X x dx Γενίκευση: Μέση Τιμή Συνάρτησης Τυχαίας Μεταβλητής - RV (Random Variable) Y = g X E Y = τf Y τ dτ, E g X = g τ f X τ dτ Παράδειγμα: Y = g X = sin X + θ, X oμοιόμορφη RV: f X x = π E Y = sin(τ + θ) 1 π dτ = 0 π (κέντρο βάρους της PDF) 1 π, π < x < π 0, x π A. Papoulis, Probability, Random Variables, and Stochastic Processes, nd Ed., Figure 5.14 Μέση Τιμή Γραμμικού Μετασχηματισμού RV: Z = ax + by + c E Z = ae X + be Y + c

3 5.4 Στατιστικοί Μέσοι Όροι (/5) Ροπές (Moments): E X n = x n f X x dx Κεντρικές Ροπές (Central Moments): E (X μ X ) n = (x μ X ) n f X x dx Διασπορά (Variance): σ X = E X μ Χ = E X E X μ X + μ X σ X = E X μ X 0 Αν μ X = 0 σ X = E X, αν σ X = 0 E X = μ X και X = μ X (σταθερή «τυχαία μεταβλητή») Τυπική Απόκλιση (Standard Deviation): σ X Διασπορά Γραμμικού Μετασχηματισμού RV: Z = ax + c σ Z = a σ X Z = ax + by + c E Z = a E X + b E Y + c + abe X Y + ace X + bce[y] Αν X, Yανεξάρτητες RV, E X Y = E X E[Y] και σ Z = a σ X + b σ Y Ανισότητα Chebyshev: P[ X μ X ε] σ X ε

4 5.4 Στατιστικοί Μέσοι Όροι (3/5) Χαρακτηριστική Συνάρτηση (Characteristic Function - CF) φ X υ = E exp jυx = f X x exp jυx dx όπου υ πραγματική μεταβλητή Η φ X υ είναι ο Μετασχηματισμός Fourier της PDF με υ πf και κατ αναλογία: f X x = 1 φ π X υ exp jυx dυ Σχέση με Ροπές: d n φ dυ n X υ = j n x n f X x dx υ=0 E X n = j n dn dυ n φ X υ Ροπογεννήτρια Συνάρτηση (Moment Generating Function - MGF) Για συνεχείς RV, X x με PDF f X x : M X s = φ X js = E exp sx = [1 + sx + sx + sx 3 + ]f X x dx = E[X m ] m=0 M X 0 = 1, E X n = dn ds n M X s s=0 Για διακριτές RV, X x m με Συνάρτηση Μάζας Πιθανότητας P m = P[X = x m ]: M X s = φ X js = m=0 exp (sx m ) P m = m=0 E[X m ] s m m! υ=0 s m m! M X 0 = 1, E X n = dn ds n M X s s=0

5 Ομοιόμορφη Κατανομή (-1,1) 5.4 Στατιστικοί Μέσοι Όροι (4/5) f X x = 1, 1 < x < 1 0, x 1 CF: φ X υ = E exp jυx = 1 exp jυx dx = cos υ + jsin υ cos υ jsin( υ) sin υ = = jυ υ MGF: M X s = φ X js = 1 1 exp s exp ( s) s exp jυ exp ( jυ) jυ = Τυχαία Μεταβλητή Gauss: X με μέση τιμή μ X και διασπορά σ X PDF: f X x = 1 exp x μ X πσ X σ X CF: φ X υ = exp (jυμ X 1 υ σ X ), < x < MGF: M X s = φ X js = exp (sμ X + 1 s σ X ) Moments: E X μ X n = n 1 σ X, n άρτιο 0, n περιτό

6 5.4 Στατιστικοί Μέσοι Όροι (5/5) Συνδυασμένες Ροπές (Joint Moments): E X i Y k = x i y k f X,Y x, y dxdy Συσχέτιση (Correlation): E[XY] Συνδιακύμανση (Covariance): cov X, Y = E[ X μ X Y μ Y ] = E XY μ X μ Y Συντελεστής Συσχέτισης (Correlation Coefficient): ρ = cov[x,y] σ X σ Y Ασυσχέτιστες (Uncorrelated) RV X, Y: cov X, Y = 0 Ανεξάρτητες (Independent) RV X, Y: cov X, Y = E X μ X Y μ Y = E X μ X E Y μ Y = 0 INDEPENDENT UNCORRELATED (το ανάστροφο δεν ισχύει) Ορθογώνιες (Orthogonal) RV X, Y: E XY = 0 {ORTHOGONAL & μ X μ X = 0} UNCORRELATED {UNCORRELATED & μ X μ X = 0} ORTHOGONAL Κατανομή Δοκιμής Bernoulli με παράμετρο p PDF: P X = 0 = 1 p, P X = 1 = p CF: φ X υ = E exp jυx = 1 p + p exp (jυ) Moments: μ X = 0 1 p + 1 p = p, E X = p, σ X = E X μ X = p p Ανεξάρτητες Δοκιμές Bernoulli με ίδια παράμετρο p Συνδυασμένες Ροπές (Joint Moments) E X j X k = E X j E X k = p, j k E X j = p, j = k

7 5.5 Στοχαστικές Ανελίξεις (Stochastic Processes) Στοχαστική ή Τυχαία Διαδικασία - Ανέλιξη (Stochastic Process - SP ή Random Process) Τυχαίο πείραμα με Υλοποιήσεις (Δείγματα) s j Χρονικές Συναρτήσεις ή Χρονοσειρές (Time-Series), στοιχεία Δειγματικού Χώρου S Παραδείγματα: Επικοινωνιακά σήματα σε χρονικό διάστημα παρατήρησης [ T, T] του Δέκτη Τυχαίες παρεμβολές, Θόρυβος Ορισμός: Η Στοχαστική Ανέλιξη (SP) X(t) ορίζεται σαν ένα σύνολο χρονικών συναρτήσεων (κυματομορφών) που αντιστοιχούν σε τυχαίες υλοποιήσεις (δείγματα) ενός τυχαίου πειράματος Υλοποιήσεις (δείγματα) του SP {X t, s } X(t): s j X t, s j x j t, T t T Τιμές δειγμάτων s j κατά τη χρονική στιγμή t k : Τυχαίες Μεταβλητές (Random Variables, RV) X t k, s j x 1 t k, x t k,, x n t k = {X t k, s 1, X t k, s,, X t k, s n }