Στοχαστικές Ανελίξεις (2) Αγγελική Αλεξίου alexiou@unipi.gr 1
Στοχαστικές Διαδικασίες 2
Στοχαστική Διαδικασία Στοχαστικές Ανελίξεις Α. Αλεξίου 3
Στοχαστική Διαδικασία ως συλλογή από συναρτήσεις χρόνου Στοχαστικές Ανελίξεις Α. Αλεξίου 4
Στοχαστική Διαδικασία ως συλλογή τυχαίων μεταβλητών Η σ.δ. X t (s) ονομάζεται διακριτής κατάστασης αν οι τιμές της είναι διακριτές (αριθμήσιμες), διαφορετικά ονομάζεται συνεχούς κατάστασης. Στοχαστικές Ανελίξεις Α. Αλεξίου 5
Στοχαστική Διαδικασία ορισμός Μία στοχαστική ανέλιξη είναι συνάρτηση της παραμέτρου t T και του δειγματικού σημείου s S, όπου S ο δειγματικός χώρος για κάθε X t. Είναι δηλαδή X(t)=X(t,s), t T, s S Για κάθε t σταθερό η X(t,.) είναι μια τυχαία μεταβλητή ενώ για κάθε s σταθερό η X(.,s) είναι μια συνάρτηση του t που καλείται πραγματοποίηση ή δειγματοσυνάρτηση της στοχαστικής ανέλιξης. Ορίζουμε λοιπόν μία Στοχαστική Ανέλιξη σαν ένα σύνολο χρονικών συναρτήσεων μαζί με ένα πιθανοτικό κανόνα που αποδίδει μία πιθανότητα σε κάθε γεγονός συνδεόμενο με την παρατήρηση μίας από αυτές τις συναρτήσεις. Στοχαστικές Ανελίξεις Α. Αλεξίου 6
Στοχαστική Διαδικασία παράδειγμα Έστω μία μηχανή που επεξεργάζεται κάποιο εξάρτημα και έχει δεδομένη πιθανότητα να πάθει βλάβη και να τεθεί υπό επισκευή. X t (s) είναι η συνολική παραγωγή από τη στιγμή της επισκευής μέχρι τη στιγμή t έως ότου πάθει βλάβη η μηχανή. X t (s 1 ) X t (s 2 ) Στοχαστικές Ανελίξεις Α. Αλεξίου 7
Στοχαστική Διαδικασία ορισμός (2) Η διαφορά μεταξύ μίας τυχαίας μεταβλητής και μίας στοχαστικής διαδικασίας είναι ότι Για μία τυχαία μεταβλητή η έκβαση ενός πειράματος απεικονίζεται με έναν αριθμό ενώ Για μία στοχαστική ανέλιξη η έκβαση απεικονίζεται με μία κυματομορφή που είναι χρονική συνάρτηση Στοχαστικές Ανελίξεις Α. Αλεξίου 8
Στατιστική Στοχαστικών Διαδικασιών Θεωρούμε το γεγονός {X t x} που ορίζεται στο χώρο (S,B,P), δηλαδή {X t x} B. Αυτό το γεγονός συνίσταται από όλα τα εξαγόμενα s i τέτοια ώστε {X t (s i ) x} Στοχαστικές Ανελίξεις Α. Αλεξίου 9
Στατιστική Στοχαστικών Διαδικασιών (2) Στοχαστικές Ανελίξεις Α. Αλεξίου 10
Στατιστική Στοχαστικών Διαδικασιών (3) Στοχαστικές Ανελίξεις Α. Αλεξίου 11
Στατιστική Στοχαστικών Διαδικασιών- παράδειγμα Στοχαστικές Ανελίξεις Α. Αλεξίου 12
Στατιστική Στοχαστικών Διαδικασιών- παράδειγμα (2) Στοχαστικές Ανελίξεις Α. Αλεξίου 13
Στοχαστική Διαδικασία περιγραφή Στοχαστικές Ανελίξεις Α. Αλεξίου 14
Στοχαστική Διαδικασία περιγραφή (παράδειγμα) Συνάρτηση Πυκνότητας Πιθανότητας Κανονική κατανομή Αθροιστική Συνάρτηση Πιθανότητας Κανονική κατανομή Στοχαστικές Ανελίξεις Α. Αλεξίου 15
Στατιστική Στοχαστικών Διαδικασιών- Πρώτη ροπή Στοχαστικές Ανελίξεις Α. Αλεξίου 16
Στατιστική Στοχαστικών Διαδικασιών- Πρώτη ροπή(2) Στοχαστικές Ανελίξεις Α. Αλεξίου 17
Στατιστική Στοχαστικών Διαδικασιών- Πρώτη ροπή(3) παράδειγμα Στοχαστικές Ανελίξεις Α. Αλεξίου 18
Στατιστική Στοχαστικών Διαδικασιών- Δεύτερες ροπές Αυτοσυσχέτιση Στοχαστικές Ανελίξεις Α. Αλεξίου 19
Στατιστική Στοχαστικών Διαδικασιών- Δεύτερες ροπές Αυτοσυσχέτιση - παράδειγμα Στοχαστικές Ανελίξεις Α. Αλεξίου 20
Στατιστική Στοχαστικών Διαδικασιών- Δεύτερες ροπές Συνδιασπορά (covariance) Cov(t 1,t 2 )= C Διασπορά (variance): Στοχαστικές Ανελίξεις Α. Αλεξίου 21
Ανεξαρτησία και συσχέτιση Στοχαστικές Ανελίξεις Α. Αλεξίου 22
Στασιμότητα Οι στοχαστικές διαδικασίες διακρίνονται σε: ΜΗ-στάσιμες αν οι στατιστικές ιδιότητες τους αλλάζουν με το χρόνο, και Στάσιμες αν παραμένουν χρονικά σταθερές. Οι στάσιμες διαδικασίες διακρίνονται σε: 1. Αυστηρά στάσιμες (strictly stationary) 2. Στάσιμες με την ευρεία έννοια (wide-sense stationary) αν μόνο η μέση τιμή και η συνάρτηση αυτοσυσχέτισης δε μεταβάλλονται με το χρόνο Στοχαστικές Ανελίξεις Α. Αλεξίου 23
Μέση τιμή στάσιμου σήματος Στοχαστικές Ανελίξεις Α. Αλεξίου 24
Μέση τιμή στάσιμου σήματος - παράδειγμα Στοχαστικές Ανελίξεις Α. Αλεξίου 25
Αυτοσυσχέτιση στάσιμου σήματος Στοχαστικές Ανελίξεις Α. Αλεξίου 26
Αυτοσυσχέτιση στάσιμου σήματος - ιδιότητες Στοχαστικές Ανελίξεις Α. Αλεξίου 27
Αυτοσυσχέτιση στάσιμου σήματος - παράδειγμα Στοχαστικές Ανελίξεις Α. Αλεξίου 28
Αυτοσυσχέτιση στάσιμου σήματος παράδειγμα (2) Στοχαστικές Ανελίξεις Α. Αλεξίου 29
Στασιμότητα με την ευρεία έννοια Στοχαστικές Ανελίξεις Α. Αλεξίου 30
Στασιμότητα - ιδιότητες Στοχαστικές Ανελίξεις Α. Αλεξίου 31
Εργοδικότητα Στην ανάλυση / μελέτη της συμπεριφοράς συστημάτων (πχ τηλεπικοινωνιακών δικτύων) στόχος μας είναι ο προσδιορισμός των ιδιοτήτων μίας στοχαστικής διαδικασίας μέσα από πειραματικά δεδομένα. Στοχαστικές Ανελίξεις Α. Αλεξίου 32
Εργοδικότητα (2) Για μία στάσιμη σ.δ. μπορούμε να ορίσουμε δύο τύπους μέσης τιμής παραμέτρων. Παρατηρούμε πολλές συναρτήσεις-δείγματα της σ.δ. και παίρνουμε τη μέση τιμή σε δεδομένη χρονική στιγμή t 0 (στατιστική μέση τιμή). Βρίσκουμε τη μέση τιμή μιας συνάρτησης-δείγματος (χρονική μέση τιμή). Αν οι στατιστικές και χρονικές μέσες τιμές συμπίπτουν η σ.δ. ονομάζεται εργοδική. Για μια εργοδική σ.δ. αρκεί να έχουμε μια συνάρτηση δείγμα για να βρούμε τη μέση τιμή της. Στοχαστικές Ανελίξεις Α. Αλεξίου 33
Χρονικές μέσες τιμές Στοχαστικές Ανελίξεις Α. Αλεξίου 34
Χρονικά μέση αυτοσυσχέτιση Στοχαστικές Ανελίξεις Α. Αλεξίου 35
Εκτίμηση μέσης τιμής Στοχαστικές Ανελίξεις Α. Αλεξίου 36
Εργοδικότητα ως προς τη μέση τιμή Στοχαστικές Ανελίξεις Α. Αλεξίου 37
Εκτίμηση αυτοσυσχέτισης Στοχαστικές Ανελίξεις Α. Αλεξίου 38
Εργοδικότητα ως προς την αυτοσυσχέτιση Στοχαστικές Ανελίξεις Α. Αλεξίου 39
Πολλαπλές σ.δ. Στα τηλεπικοινωνιακά συστήματα η είσοδος και η έξοδος ενός συστήματος μπορεί να είναι σ.δ. που ορίζονται στον ίδιο χώρο πιθανοτήτων. Έτσι χρειάζεται να ορίσουμε την ανεξαρτησία ή την αλληλοσυσχετιση 2 ή περισσοτέρων σ.δ. Επίσης μπορούμε να ορίσουμε την από κοινού στασιμότητα Για παράδειγμα, έστω Χ(t) μία σ.δ. που διέρχεται μέσα από ένα γραμμικό χρονικά αμετάβλητο σύστημα (LTI). Για κάθε δυνατή είσοδο (συνάρτηση δείγμα) x(t) υπάρχει μία αντίστοιχη έξοδος y(t)=x(t)*h(t), οπού h(t) είναι η κρουστική απόκριση του γραμμικού συστήματος. Τα δύο σήματα x(t) και y(t) είναι συναρτήσεις-δείγματα δύο σ.δ. X(t) και Y(t) που ορίζονται στον ίδιο χώρο πιθανοτήτων Στοχαστικές Ανελίξεις Α. Αλεξίου 40
Από κοινού στασιμότητα Η συνάρτηση (αλληλο)συσχέτισης μεταξύ δύο σ.δ. X(t) και Y(t) ορίζεται ως Ισχύει ότι: Δύο σ.δ. X(t) και Y(t) είναι από κοινού στάσιμες αν και οι δύο είναι στάσιμες και η συνάρτηση αλληλοσυσχέτισης R XY (t 1,t 2 ) εξαρτάται μόνον από τη διαφορά τ=t 1 -t 2, Στοχαστικές Ανελίξεις Α. Αλεξίου 41
Παράδειγμα σήμα με προσθετικό θόρυβο Σε μία συσκευή αναγνώρισης δεδομένων θεωρούμε ότι ο θόρυβος μπορεί να μοντελοποιηθεί ως προσθετικός. Το τελικό σήμα y(n) θα δίνεται από το άθροισμα του αρχικού σήματος x(n) και του θορύβου w(n): y(n)=x(n)+w(n) Υποθέτουμε ότι ο προσθετικός θόρυβος έχει μηδενική μέση τιμή και είναι ασυσχέτιστος με το σήμα. Τότε: r y (k,l)=e{y(k)y*(l)}= E{[x(k)+w(k)][x(l)+w(l)]*}= =E{x(k)x*(l)}+ E{w(k)w*(l)}+ E{x(k)w*(l)}+ E{w(k)x*(l)} = E{x(k)x*(l)}+ E{w(k)w*(l)} Η αυτοσυσχέτιση του παρατηρούμενου σήματος ισούται με το άθροισμα των αυτοσυσχετίσεων του αρχικού σήματος και του θορύβου. Στοχαστικές Ανελίξεις Α. Αλεξίου 42