Επεξεργασία Στοχαστικών Σημάτων

Επεξεργασία Στοχαστικών Σημάτων Σεραφείμ Καραμπογιάς Σχολή Θετικών Επιστημών Τμήμα Πληροφορικής και Τηλεπικοινωνιών

Η Έννοια της τυχαίας Διαδικασίας Η έννοια της τυχαίας διαδικασίας βασίζεται στην επέκταση της έννοιας της τυχαίας μεταβλητής ώστε να συμπεριλάβει το χρόνο. Σε κάθε αποτέλεσμα s k ενός πειράματος τύχης αντιστοιχούμε σύμφωνα με κάποιο κανόνα τη χρονική συνάρτηση k. Η οικογένεια όλων αυτών των συναρτήσεων καλείται τυχαία διαδικασία και δηλώνεται με. Σεραφείμ Καραμπογιάς δειγματικός χώρος s 4 s s 3 s 3 Με άλλα λόγια μια τυχαία διαδικασία είναι μια απεικόνιση του δειγματοχώρου S σε ένα σύνολο από συναρτήσεις που ονομάζονται δείγμα συνάρτησης ή μέλος συνόλου ή πραγματοποίηση της διαδικασίας.

Η Έννοια της τυχαίας Διαδικασίας Σεραφείμ Καραμπογιάς δειγματικός χώρος s 3 s s 4 s ; s3 ; s ; s4 ; s 3-3

Από την τυχαία διαδικασία στην τυχαία μεταβλητή Για τη χρονική στιγμή ορίζεται η τυχαία μεταβλητή με στοιχεία 3 4 με συνάρτηση πυκνότητας πιθανότητας Σεραφείμ Καραμπογιάς f... 3 Η μέση τιμή της είναι E [ ] m f d 4 3 3 Όμοια για τη χρονική στιγμή ορίζεται η τυχαία μεταβλητή με στοιχεία 3 4... m 4 4 με συνάρτηση πυκνότητας πιθανότητας Η μέση τιμή της είναι f m E E [ ] m f d 3-4

Ταξινόμηση των τυχαίων διαδικασιών Συνεχής τυχαία διαδικασία Αν ο χρόνος λαμβάνει τιμές σε ένα τμήμα ή σε όλη την ευθεία των πραγματικών αριθμών και η τυχαία μεταβλητή λαμβάνει οποιαδήποτε τιμή. Συνεχής τυχαία ακολουθία Αν το πεδίο ορισμού είναι κάποιο διακριτό σύνολο π.χ. T = [ 0 ] και η τυχαία μεταβλητή λαμβάνει οποιαδήποτε τιμή. Διακριτή τυχαία ακολουθία Αν η ανεξάρτητη μεταβλητή και η τυχαία μεταβλητή λαμβάνουν διακριτές τιμές. 3-5

Έστω ότι Ω B P δηλώνει το δειγματοχώρο που αντιστοιχεί στο πείραμα τύχης ρίξιμο ενός ζαριού. Προφανώς στην περίπτωση αυτή Ω={3456}. Η ω i = ω i e u για όλα τα ω i δηλώνει μία τυχαία διαδικασία. Επομένως Χ είναι μία τυχαία μεταβλητή που λαμβάνει τιμές e e 3e 4e 5e 6e καθεμία με πιθανότητα /6. ; ; 0 3 4 3 ; 3 0 3 4 0 3 4 Δείγματα συναρτήσεων Στο παράδειγμα αυτό παρουσιάστηκε ο πρώτος τρόπος θεώρησης τυχαίων διαδικασιών 3-6

Η τυχαία διαδικασία = A cos π f 0 + Θ ; Acos f0 Σεραφείμ Καραμπογιάς ; Acos f0 0 ; ; 3 Acos f0 3 0 ; ; 4 Acos f0 4 3 0 ; 4 0 ; 0 3-7

Έστω ότι ω i δηλώνει την έκβαση ενός πειράματος τύχης που αποτελείται από ανεξάρτητες επιλογές από μία Gaussian τυχαία μεταβλητή κατανεμημένη σύμφωνα με το N0. Έστω η τυχαία διαδικασία διακριτού χρόνου που ορίζεται ως και n. για όλα τα. n n n { n } n0 0 0 Από τις βασικές ιδιότητες των Gaussian τυχαίων μεταβλητών προκύπτει ότι για όλα τα i { } j i j και i < j η είναι ένα Gaussian διάνυσμα με διάσταση j i +.. n Στο παράδειγμα αυτό παρουσιάστηκε ο δεύτερος τρόπος θεώρησης ο οποίος είναι πιο κατάλληλος. Με τον τρόπο αυτό οι τυχαίες διαδικασίες ερμηνεύονται ως συλλογή από τυχαίες μεταβλητές. 3-8

Περιγραφή Τυχαίων Διαδικασίων Μία τυχαία διαδικασία ή στοχαστική διαδικασία ή ένα τυχαίο σήμα περιγράφονται με δύο τρόπους Ο ένας τρόπος είναι να θεωρήσουμε μία τυχαία διαδικασία ως μια συλλογή από χρονικές συναρτήσεις η σήματα που αντιστοιχούν στις διαφορετικές εκβάσεις ενός πειράματος τύχης. Για τις τυχαίες διαδικασίες που συναντάμε στην πράξη είναι σχεδόν βέβαιο ότι δεν μπορεί να δοθεί μια τέτοια περιγραφή. Εναλλακτικά μπορούμε να θεωρήσουμε τα τυχαία σήματα στις χρονικές στιγμές ή γενικά για όλα τα που ανήκουν στο σύνολο των πραγματικών αριθμών ως μία συλλογή από τυχαίες μεταβλητές { } ή γενικά { }. Μία τυχαία διαδικασία παριστάνεται ως μία συλλογή από τυχαίες μεταβλητές που αριθμοδεικτούνται από κάποιο σύνολο δεικτών. Αν το σύνολο των δεικτών είναι το σύνολο των πραγματικών αριθμών τότε η διαδικασία καλείται μία τυχαία διαδικασία συνεχούς χρόνου ενώ αν το σύνολο είναι το σύνολο των ακεραίων τότε η διαδικασία καλείται τυχαία διαδικασία διακριτού χρόνου. 3-9

Συναρτήσεις Κατανομής και Πυκνότητας Η πρώτης τάξης αθροιστική συνάρτηση κατανομής της τυχαίας διαδικασίας ορίζεται ως ; P F F Η δεύτερης τάξης συνδυασμένη αθροιστική συνάρτηση κατανομής της τυχαίας διαδικασίας ορίζεται ως ; P F F Σεραφείμ Καραμπογιάς 3-0

Οι συναρτήσεις πυκνότητας πιθανότητας της τυχαίας διαδικασίας βρίσκονται από τις κατάλληλες παραγώγους των αντιστοίχων αθροιστικών συναρτήσεων κατανομής ; ; d df f Η πρώτης τάξης συναρτήση πυκνότητας πιθανότητας είναι ; ; F f και η δεύτερης τάξης συνάρτηση πυκνότητας πιθανότητας είναι Σεραφείμ Καραμπογιάς 3-

Περιγραφή Τυχαίων Διαδικασίων Μία πλήρης στατιστική περιγραφή της τυχαίας διαδικασίας είναι γνωστή αν για κάθε ακέραιο n και για κάθε επιλογή n n δίνεται η συνδυασμένη PDF των n δηλαδή η f...... n n Μία τυχαία διαδικασία περιγράφεται από τις στατιστικές της Μ-στης τάξης αν για κάθε ακέραιο n M και για κάθε επιλογή n n δίνεται η συνδυασμένη PDF των [ n ] Μία ειδική περίπτωση στη μελέτη των συστημάτων επικοινωνίας είναι η περίπτωση όπου M = στην οποία είναι γνωστές οι στατιστικές της δεύτερης τάξης. Αυτό απλά σημαίνει ότι σε κάθε χρονική στιγμή έχουμε τη συνάρτηση πυκνότητας πιθανότητας f της και για όλες τις επιλογές δίνεται η συνδυασμένη συνάρτηση πυκνότητας πιθανότητας f των [ ]. 3-

3 4 m 0 3 0 0 0 0 4 0 m 0 Στατιστικές Mέσες Τιμές Για τη χρονική στιγμή 0 μεταβλητή 0 με στοιχεία Η μέση τιμή συνόλου ή η στατιστική μέση τιμή μίας τυχαίας διαδικασίας είναι μία νομοτελειακή συνάρτηση του χρόνου m η οποία σε κάθε χρονική στιγμή 0 είναι ίση με τη μέση τιμή της τυχαίας μεταβλητής 0 m ορίζεται η τυχαία 0 0 0 3 0 4 0 με συνάρτηση πυκνότητας πιθανότητας f ; 0 ή 0... 0 E[ 0] f ; 0 f d 3-3

Στατιστικές Mέσες Τιμές Σεραφείμ Καραμπογιάς Εξετάζοντας μία επί μέρους πραγματοποίηση της τυχαίας διαδικασίας έχουμε μία νομοτελειακή συνάρτηση του χρόνου την k ή την ; ω k. k k k ίσα εμβαδά k Βασιζόμενη στη συνάρτηση αυτή μπορούμε να βρούμε τη χρονική μέση τιμή της τυχαίας διαδικασίας ; ω k ως A A T ; T k d T ; k lim Η χρονική μέση τιμή συμβολίζεται και ως ; k ; k ; k Ak k Η χρονική μέση τιμή είναι ένας πραγματικός αριθμός ανεξάρτητος του χρόνου αλλά ενγένει εξαρτάται από την επιμέρους πραγματοποίηση η οποία επιλέχθηκε. T 3-4

3 4 3 4 Συναρτήσεις Συσχέτισης Τυχαίας Διαδικασίας 3 4 Για τις χρονικές στιγμές και ορίζoνται οι τυχαίες μεταβλητές και με στοιχεία Η συνάρτηση αυτοσυσχέτισης συνόλου τυχαίας διαδικασίας ορίζεται ως ή 3 4 3 4 E...... η δεύτερης τάξης συνάρτηση πυκνότητας πιθανότητας είναι f ή f ; E 3-5

Η συνάρτηση αυτοσυσχέτισης συνόλου τυχαίας διαδικασίας ορίζεται ως Συναρτήσεις Συσχέτισης Τυχαίας Διαδικασίας E ή E Σεραφείμ Καραμπογιάς Η συνάρτηση αυτοσυσχέτισης τυχαίας διαδικασίας είναι μία νομοτελειακή συνάρτηση των δύο μεταβλητών και και δίνεται από τη f d d Η συνάρτηση αυτοσυσχέτισης συμβολίζεται συνήθως για συντομία ως. Η συνάρτηση αυτοσυσχέτισης όπως θα δούμε περιγράφει πλήρως τη φασματική πυκνότητα ισχύος μιας μεγάλης κατηγορίας τυχαίων διαδικασιών. 3-6

Η συνάρτηση διασυσχέτισης δύο τυχαίων διαδικασιών και Y ορίζεται ως Y E Y Η μέση χρονική συνάρτηση αυτοσυσχέτισης που αφορά την πραγματοποίηση k της τυχαίας διαδικασίας ορίζεται ως A k k k Συναρτήσεις Συσχέτισης Τυχαίας Διαδικασίας Εξετάζοντας μία επί μέρους πραγματοποίηση της τυχαίας διαδικασίας έχουμε μία νομοτελειακή συνάρτηση του χρόνου την k ή την ; ω k. Σεραφείμ Καραμπογιάς 3-7 Ο πίνακας συσχέτισης δύο τυχαίων διαδικασιών και Y ορίζεται ως YY Y Y Y T T k k T d T lim

Παρατηρούμε E E C Παρατηρούμε E Y E C Y Y Η συνάρτηση συμμεταβολής τυχαίας διαδικασίας ορίζεται από τη σχέση E C Η αμοιβαία συνάρτηση συμμεταβολής δύο τυχαίων διαδικασιών και Y ορίζεται από τη σχέση Y Y E C Y Συναρτήσεις Συμμεταβολής Τυχαίας Διαδικασίας Σεραφείμ Καραμπογιάς 3-8

Στατικές Διαδικασίες Μία τυχαία διαδικασία ονομάζεται στατική πρώτης τάξης αν για κάθε τιμή του χρόνου και για όλα τα Δ ισχύει f ; f ; Η μέση τιμή της στατικής πρώτης τάξης διαδικασίας είναι σταθερή E σταερη Μία αυστηρά στατική διαδικασία είναι η διαδικασία στην οποία για όλα τα n για όλα τα n και για όλα τα Δ ισχύει f n f ; n n ; n Μία τυχαία διαδικασία καλείται στατική Μ-στης τάξης αν η παραπάνω συνθήκη ισχύει για κάθε n M. 3-9

Στατικές Διαδικασίες Μία τυχαία διαδικασία είναι στατική με την ευρεία έννοια WSS Wide Sense Saionary ή απλά στατική όταν E σταθερή E Μία τυχαία διαδικασία με μέση τιμή m και συνάρτηση αυτοσυσχέτισης + τ ονομάζεται κυκλοστατική όταν m T0 m T T0 0 Για όλα τα και τ. 3-0

Εργοδικές Διαδικασίες Εργοδικές είναι οι διαδικασίες για τις οποίες ισχύουν Δηλαδή αν όλες οι χρονικές μέσες τιμές είναι ίσες με τις αντίστοιχες στατιστικές μέσες τιμές τότε η διαδικασία είναι εργοδική. Η σχέση μεταξύ τυχαίων στατικών και εργοδικών διαδικασιών παριστάνεται στο σχήμα: Τυχαίες διαδικασίες Στατικές διαδικασίες Εργοδικές διαδικασίες 3-

Δύο τυχαίες διαδικασίες και Y λέμε ότι είναι από κοινού στατικές με την ευρεία έννοια εάν κάθε μία είναι στατική με την ευρεία έννοια και Y Y E Y και πίνακας συσχέτισης των δύο τυχαίων διαδικασιών και Y γράφετε ως Y Y Y YY Δύο τυχαίες διαδικασίες και Y καλούνται ορθογώνιες όταν Y Δύο τυχαίες διαδικασίες και Y καλούνται ασυσχέτιστες όταν C Y 0 0 3-

Ιδιότητες της συνάρτησης αυτοσυσχέτισης τυχαίας διαδικασίας. 0 Είναι φραγμένη ως προς την αρχή της. 3. Έχει άρτια συμμετρία 0 E Είναι η ισχύς της τυχαίας διαδικασίας 4. Εάν για κάποιο T 0 έχουμε T 0 = 0 τότε για όλους τους ακεραίους k ισχύει k T0 0 5. Εάν η τυχαία διαδικασία έχει περιοδική συνιστώσα τότε η τ έχει περιοδική συνιστώσα με την ίδια περίοδο. 6. Εάν E[] = Χ 0 και η είναι εργοδική διαδικασία η οποία δεν έχει περιοδική συνιστώσα τότε log 7. Εάν η είναι εργοδική τυχαία διαδικασία με μηδενική μέση τιμή και δεν έχει περιοδική συνιστώσα τότε log 0 3-3

Ιδιότητες της συνάρτησης διασυσχέτισης για τυχαίες διαδικασίες που είναι στατικές με την ευρεία έννοια.. Y Y. Y 0 YY 0 3. Y 0 YY 0 3-4

Η ενέργεια E i και η ισχύς P i κάθε συνάρτησης δείγμα ω i τυχαίας διαδικασίας ορίζεται ως Ισχύς και Ενέργεια Τυχαίας Διαδικασίας E i i d P i lim T i d T T T Δηλώνουμε με Δηλώνουμε με E P την τυχαία μεταβλητή που έχει τιμές τις E i E lim T T T T d την τυχαία μεταβλητή που έχει τιμές τις P i P d Η ενέργεια E και η ισχύς P της τυχαίας διαδικασίας oρίζονται ως E EE P EP 3-5

Από τους παραπάνω ορισμούς έχουμε E E d E d d και T P E lim d T T T T T lim E T T d lim T T T T d Αν η διαδικασία είναι στατική με την ευρεία έννοια έχουμε P 0 και E 0 d 3-6

Υπολογισμός των συναρτήσεων συσχέτισης Στη πράξη ποτέ δεν μπορούμε να υπολογίσουμε τις πραγματικές συναρτήσεις συσχέτισης δύο τυχαίων διαδικασιών γιατί ποτέ δεν έχουμε όλες τις συναρτήσεις δείγματα του συνόλου στη διάθεσή μας y Α Β Καθυστέρηση T Καθυστέρηση T Πολλαπλασιαστής T T d 0 T Σύστημα προσδιορισμού της συνάρτησης διασυσχέτισης - αυτοσυσχέτισης 3-7

Τυχαίες Διαδικασίες και Γραμμικά Συστήματα Σεραφείμ Καραμπογιάς Υποθέτουμε ότι μία στατική διαδικασία είναι η είσοδος στο γραμμικό χρονικά αναλλοίωτο σύστημα που έχει κρουστική απόκριση h και η τυχαία διαδικασία εξόδου δηλώνεται με Y h Y h d Για τη μέση τιμή συνόλου της εξόδου έχουμε m h m m h d Y Για τη συνάρτηση διασυσχέτισης εισόδου-εξόδου έχουμε Y h Παρατηρούμε ότι η συνάρτηση διασυσχέτισης εξαρτάται μόνο από το τ. 3-8

Για τη συνάρτηση αυτοσυσχέτισης εξόδου έχουμε h YY h h Η συνάρτηση αυτοσυσχέτισης της εξόδου εξαρτάται μόνο από το τ επομένως η διαδικασία εξόδου είναι στατική. Δεδομένου ότι και η συνάρτηση διασυσχέτισης των διαδικασιών εισόδου-εξόδου εξαρτάται μόνο από το τ οι διαδικασίες είναι και συνδυασμένες στατικές. Για τη μέση τιμή του τετραγώνου της εξόδου έχουμε E Y h h d d 3-9

Τέλος Ενότητας 3-30

Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στο πλαίσιο του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα στο Πανεπιστήμιο Αθηνών» έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του εκπαιδευτικού υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση Ευρωπαϊκό Κοινωνικό Ταμείο και από εθνικούς πόρους. 3-3

Σημειώματα 3-3

Σημείωμα Ιστορικού Εκδόσεων Έργου Το παρόν έργο αποτελεί την έκδοση.0. Έχουν προηγηθεί οι κάτωθι εκδόσεις: Έκδοση διαθέσιμη εδώ. 3-33

Σημείωμα Αναφοράς Copyrigh Εθνικόν και Καποδιστριακόν Πανεπιστήμιον Αθηνών Σεραφείμ Καραμπογιάς 05. Σεραφείμ Καραμπογιάς. «Επεξεργασία στοχαστικών σημάτων..». Έκδοση:.0. Αθήνα 05. Διαθέσιμο από τη δικτυακή διεύθυνση: hp://opencourses.uoa.gr/courses/di3. 3-34

Σημείωμα Αδειοδότησης Το παρόν υλικό διατίθεται με τους όρους της άδειας χρήσης Creaive Commons Αναφορά Μη Εμπορική Χρήση Παρόμοια Διανομή 4.0 [] ή μεταγενέστερη Διεθνής Έκδοση. Εξαιρούνται τα αυτοτελή έργα τρίτων π.χ. φωτογραφίες διαγράμματα κ.λ.π. τα οποία εμπεριέχονται σε αυτό και τα οποία αναφέρονται μαζί με τους όρους χρήσης τους στο «Σημείωμα Χρήσης Έργων Τρίτων». [] hp://creaivecommons.org/licenses/by-nc-sa/4.0/ Ως Μη Εμπορική ορίζεται η χρήση: που δεν περιλαμβάνει άμεσο ή έμμεσο οικονομικό όφελος από την χρήση του έργου για το διανομέα του έργου και αδειοδόχο που δεν περιλαμβάνει οικονομική συναλλαγή ως προϋπόθεση για τη χρήση ή πρόσβαση στο έργο που δεν προσπορίζει στο διανομέα του έργου και αδειοδόχο έμμεσο οικονομικό όφελος π.χ. διαφημίσεις από την προβολή του έργου σε διαδικτυακό τόπο Ο δικαιούχος μπορεί να παρέχει στον αδειοδόχο ξεχωριστή άδεια να χρησιμοποιεί το έργο για εμπορική χρήση εφόσον αυτό του ζητηθεί. 3-35

Διατήρηση Σημειωμάτων Οποιαδήποτε αναπαραγωγή ή διασκευή του υλικού θα πρέπει να συμπεριλαμβάνει: το Σημείωμα Αναφοράς το Σημείωμα Αδειοδότησης τη δήλωση Διατήρησης Σημειωμάτων το Σημείωμα Χρήσης Έργων Τρίτων εφόσον υπάρχει μαζί με τους συνοδευόμενους υπερσυνδέσμους. 3-36