ΣΤΟΧΑΣΤΙΚΑ ΣΥΣΤΗΜΑΤΑ & ΕΠΙΚΟΙΝΩΝΙΕΣ 1o Τμήμα (Α - Κ): Αμφιθέατρο 3, Νέα Κτίρια ΣΗΜΜΥ Θεωρία Πιθανοτήτων & Στοχαστικές Ανελίξεις - 3 5.6: Μέση Τιμή, Συναρτήσεις Συσχέτισης & Συνδιασποράς 5.7: Μετάδοση Στοχαστικής Ανέλιξης μέσω Γραμμικού Φίλτρου καθ. Βασίλης Μάγκλαρης maglaris@netmode.ntua.gr www.netmode.ntua.gr 5/11/016
5.5 Στοχαστικές Ανελίξεις (Stochastic Processes) (επανάληψη) Στοχαστική ή Τυχαία Διαδικασία - Ανέλιξη (Stochastic Process - SP ή Random Process) Τυχαίο πείραμα με Υλοποιήσεις (Δείγματα) s j Χρονικές Συναρτήσεις ή Χρονοσειρές (Time-Series), στοιχεία Δειγματικού Χώρου S Παραδείγματα: Επικοινωνιακά σήματα σε χρονικό διάστημα παρατήρησης [ T, T] του Δέκτη Τυχαίες παρεμβολές, Θόρυβος Ορισμός: Η Στοχαστική Ανέλιξη (SP) X(t) ορίζεται σαν ένα σύνολο χρονικών συναρτήσεων (κυματομορφών) που αντιστοιχούν σε τυχαίες υλοποιήσεις (δείγματα) ενός τυχαίου πειράματος Υλοποιήσεις (δείγματα) του SP {X t, s } X(t): s j X t, s j x j t, T t T Τιμές δειγμάτων s j κατά τη χρονική στιγμή t k : Τυχαίες Μεταβλητές (Random Variables, RV) X t k, s j x 1 t k, x t k,, x n t k = {X t k, s 1, X t k, s,, X t k, s n }
5.6: Μέση Τιμή, Συναρτήσεις Συσχέτισης (Correlation) & Συνδιασποράς (Covariance) (1/4) Μέση Τιμή της X t τη χρονική στιγμή t (Ensemble Average): μ X t = E X t = xf X t x dx 1 st Order Stationarity (SP στατικό 1 ης τάξης): F X t1 x = F X t x (t 1, t ) μ X t = μ X, t και γενικά η ροπή E X n t είναι ανεξάρτητη της χρονικής στιγμής t Αυτοσυσχέτιση (Autocorrelation): R X t 1, t = E X t 1 X t = x 1 x f X t1,x t x 1, x dx 1 dx nd Order Stationarity (SP στατικό ης τάξης): F X t1,x t x 1, x = F X t1 +Δt,X t +Δt x 1, x, (t 1, t, Δt) R X t 1, t = R X t t 1 = R X τ, τ = (t t 1 ), (t 1, t ) Αυτοδιασπορά (Autocovariance): C X t 1, t = E (X t 1 μ X )(X t μ X ) = R X t t 1 μ X Wide-sense Stationarity (SP στατικό με την ευρεία έννοια): μ X t = μ X, t, R X t 1, t = R X t t 1 = R X τ, τ = (t t 1 ), (t 1, t ) Strict-sense Stationarity (SP στατικό με τη στενή έννοια): (n, t 1, t,, t n, Δt) F X t1,x t,,x t n x 1, x,, x n = F X t1 +Δt,X t +Δt,,X t n +Δt x 1, x,, x n Ιδιότητες Αυτοσυσχέτισης Wide-sense Stationary SP: R X τ = E X t + τ X t = E X(t)X t τ R X 0 = E X t > 0 R X τ = R X τ R X τ R X 0 : E X t + τ ± X t 0, E X t + τ ± E X t + τ X t + E X t = R X 0 ± R X τ 0 R X 0 ±R X τ Η αυτοσυσχέτιση δίνει μια μετρική του βαθμού εξάρτησης των τιμών της X t σαν συνάρτηση της χρονικής τους απόστασης ή της επιρροής της X t στην X t + τ
5.6: Μέση Τιμή, Συναρτήσεις Συσχέτισης (Correlation) & Συνδιασποράς (Covariance) (/4) Παράδειγμα: Ημιτονοειδές Σήμα Τυχαίας Φάσης X t = Acos(πf c t + Θ) όπου A, f c σταθερές και Θ RV ομοιόμορφα κατανεμημένη στο ( π, π) R X τ = E X t + τ X t = E[A cos (πf c t + πf c τ + Θ)cos(πf c t + Θ)] = A π π 1 π = A E[A cos (4πf c t + πf c τ + Θ)]+ A cos πf cτ cos (4πf c t + πf c τ + θ)dθ + A cos πf cτ = 0 + A cos πf cτ R X τ = A cos πf cτ
5.6: Μέση Τιμή, Συναρτήσεις Συσχέτισης (Correlation) & Συνδιασποράς (Covariance) (3/4) Παράδειγμα: Τυχαίο Δυαδικό Σήμα Ακολουθία 0,1 οδηγεί SP X t παλμών με τιμές ±A σε σταθερά διαστήματα T Τα 0,1 αντιστοιχούν σε ανεξάρτητες δοκιμές Bernoulli με ίσες πιθανότητες 1 Οι μεταβάσεις ξεκινούν με τυχαία αρχική καθυστέρηση t d, ομοιόμορφα κατανεμημένη μεταξύ [0, T]: 1 f Td t d =, 0 t T d T 0, t d > T Εφόσον οι παλμοί παίρνουν τις τιμές ±A με ίσες πιθανότητες, E X t = A A = 0 Αν τ > T τότε οι X t, X t + τ μπορεί να ανήκουν σε διαφορετικούς ανεξάρτητους παλμούς ±A: R X t, t + τ = E X t X t + τ = E X t E[X t + τ ] = 0, τ > T Αν τ T τότε οι X t, X t + τ μπορεί να ανήκουν στην ίδιο παλμό και να δίνουν γινόμενο A εφόσον t d < T τ, αλοιώς ανήκουν σε διαδοχικούς ανεξάρτητους παλμούς με γινόμενο 0: E X t X t + τ t d = A, t d < T τ 0, t d T τ και R T τ X t, t + τ = A f Td t d dt d = A (1 τ ), τ T 0 T
5.6: Μέση Τιμή, Συναρτήσεις Συσχέτισης (Correlation) & Συνδιασποράς (Covariance) (4/4) Συναρτήσεις Αλληλοσυσχέτισης (Cross-correlation Functions) X t, R X t, u και Y t, R Y t, u : R XY t, u = E[X t Y t ] Αν οι X t, Y t στατικές με την ευρεία έννοια και συνδυαστικά (jointly) στατικές με την ευρεία έννοια: R XY t, u = R XY t u = R XY τ Ιδιότητα: R XY τ = R YX ( τ) (δεν ισχύουν κατ ανάγκη οι ιδιότητες αρτιότητας και μέγιστου για τ = 0) Ορθογωνικά Διαμορφωμένες Ανελίξεις (Quadrature-Modulated Processes) σε Φέρουσα Συχνότητα f c X 1 t = X t cos πf c t + Θ X t = X t sin πf c t + Θ όπου Θ ομοιόμορφα κατανεμημένη RV στο (0,π): f Θ θ = 1, 0 θ < π και ανεξάρτητη του X t Έχουμε R 1, τ = E X 1 t X t τ = E[X t X t τ cos πf c t + Θ sin πf c t πf c τ + Θ ] και R 1, τ = 1 R X τ E sin 4πf c t πf c τ + Θ sin πf c τ π = 1 R X τ sin 4πf c t πf c τ + θ 1 π dθ sin πf c τ 0 π = 1 R X τ sin (πf c τ) R 1, 0 = E X 1 t X t = 0 ή οι X 1 t και X t είναι ορθογώνιες κατά την ίδια χρονική στιγμή t Εργοδικότητα ως προς την Μέση Τιμή (Mean-Ergodic Stochastic Process) Η τιμή της X t για την στιγμή t = t k αποτελεί τυχαία μεταβλητή X t k x i (t k ) με μέσο όρο μ X t k = E X t k που υπολογίζεται ως ensemble average των εμφανίσεων x i (t k ) της X t μετρούμενων στο χρόνο t k : E X t k = μ X t k = lim 1 n n n i=1 x i (t k ) Ανέλιξη στατική με την ευρεία έννοια είναι εργοδική ως προς την μέση τιμή αν η μ X συγκλίνει με τον 1 T χρονικό μέσο (time average) μοναδικής εμφάνισης της X t : E X t = μ X t = μ X = lim T T T x t dt
5.7: Μετάδοση Στοχαστικής Ανέλιξης μέσω Γραμμικού Φίλτρου μ X t, R X t, u μ Y t, R Y t, u μ Y t = E Y t = E h τ X t τ dτ αν E X t < t Αν η X t είναι στατική με την ευρεία έννοια: = h τ E[X t τ ]dτ = h τ μ X t τ dτ μ Y t = μ X h τ dτ = μ X H(0) και R Y t, u = E Y t Y u = E h τ 1 X t τ 1 dτ 1 h τ X u τ dτ h τ 1 h(τ )E[X t τ 1 X u τ ]dτ 1 dτ = h τ 1 h τ R X t τ 1, u τ dτ 1 dτ αν E X t < t = Αν η X t είναι στατική με την ευρεία έννοια, τότε: R Y τ = h τ 1 h τ R X τ τ 1 + τ dτ 1 dτ και η Y t είναι επίσης στατική με την ευρεία έννοια