Στοχαστικά σήµατα Έννοια του στοχαστικού σήµατος Θερούµε ένα µονοδιάστατο γραµµικό δυναµικό σύστηµα που περιγράφεται από τις σχέσεις: & α Γνρίζουµε µε απόλυτη βεβαιότητα (µε πιθανότητα ένα), ότι η αρχική κατάσταση είναι (0)3 ΜΠ (µε πιθανότητα ), η παράµετρος α όµς µπορεί να πάρει τρεις διαφορετικές τιµές ή ή 3 µε αντίστοιχες πιθανότητες εµφανίσες τν τιµών αυτών ίσες µε 05 ή 0375 ή 0375 Είναι φανερό ότι αν παρατηρήσουµε πολλές φορές (θερητικά άπειρες) την κατάσταση του συστήµατος τότε θα έχουµε: () 3e 3e 3e 3 µε πιθανότητα 05 µε πιθανότητα 0375 µε πιθανότητα 0375 Την κατάσταση του συστήµατος µπορούµε να την συµβολίσουµε µε (,) όπου είναι η χρονική µεταβλητή που ανήκει στο σύνολο [0, ) και ανήκει στο
Κεφάλαιο Ω {,, 3 } οποίν οι πιθανότητες εµφανίσες είναι αντιστοίχς P( ) 0 5 P( ) 0 375, P( 3 ) 0 375 Έτσι: που είναι ένα σύνολο αποτελεσµάτν κάποιου πειράµατος τν, (, ) 3e 3e 3e 3, αν, αν, αν 3 () και η κατάσταση του συστήµατος µπορεί να παρασταθεί όπς φαίνεται στο σχήµα Έτσι, σε αντίθεση µ' ένα ντετερµινιστικό σύστηµα, στην περίπτση του συστήµατος που εξετάζουµε όταν µιλάµε για την κατάσταση του συστήµατος δεν αναφερόµαστε σε µια συνάρτηση του χρόνου αλλά σε µια οικογένεια συναρτήσεν (,), σε κάθε µέλος της οποίας αντιστοιχούµε και µια τιµή πιθανότητας Η (,) είναι αυτό που ονοµάζουµε στοχαστικό σήµα (sochasic signal) ή στoχαστική διαδικασία (sochasic process) (, ) (, ) (, 3 ) Σχήµα : Το στοχαστικό σήµα () Μετά από τα προηγούµενα, θα µπορούσαµε να πούµε ότι ένα στοχαστικό σήµα (,) είναι µια απεικόνιση από το σύνολο τν αποτελεσµάτν Ω ενός πιθανοτικού χώρου (Ω,Q,P) σ' ένα σύνολο συναρτήσεν Αυτός ο ορισµός όµς, αν και ευκόλς κατανοητός, δηµιουργεί προβλήµατα σε ότι αφορά την µαθηµατική αυστηρότητα µε τη οποία θα µπορούσαν να ορισθούν µεγέθη που έχουν σχέση µε την έννοια του µέτρου (measure) Γι' αυτόν το λόγο, αντί να θερούµε το στοχαστικό σήµα σαν µια οικογένεια συναρτήσεν του χρόνου µε παράµετρο τη µεταβλητή -που ανήκει στο Ω-, ορίζουµε το στοχαστικό σήµα σαν µια οικογένεια τυχαίν µεταβλητών µε παράµετρο την µεταβλητή που ανήκει σε ένα σύνολο χρόνου Τ Η αντιστοιχία µεταξύ τν δύο ορισµών φαίνεται στα παρακάτ σχήµατα που αφορούν τo στοχαστικό σήµα (,) που ορίζεται στην ()
Στοχαστικά σήµατα 3 () (α) 0,375 0,75 0,375 0,75 (γ) (β) Σχήµα : (α) Το στοχαστικό σήµα () και (β), (γ) οι συναρτήσεις κατανοµής, Στο σχήµα α το στοχαστικό σήµα παριστάνεται σαν µια οικογένεια τριών συναρτήσεν του χρόνου, που κάθε µια αντιστοιχεί σε κάποιο από τα,, 3 Στα σχήµατα β και γ3 φαίνονται οι συναρτήσεις κατανοµής τν τυχαίν µεταβλητών, που αντιστοιχούν στις τιµές, της παραµέτρου Είναι φανερό ότι αν η παράµετρος έχει µια καθορισµένη τιµή τότε η (,) είναι µια τυχαία µεταβλητή, ενώ αν είναι η καθορισµένη τότε η (,) είναι ένα ντετερµινιστικό σήµα Τέλος, αν καµµία από τις δύο µεταβλητές δεν έχει καθορισµένη τιµή, η (,) είναι ένα στοχαστικό σήµα Περιγραφή στοχαστικών σηµάτν Όπς και στην περίπτση τν τυχαίν µεταβλητών, έτσι και στην περίπτση τν στοχαστικών σηµάτν στην πράξη ενδιαφερόµαστε για τις τιµές που αυτή παίρνει για συγκεκριµένες τιµές της παραµέτρου και όχι για τον πιθανοτικό χώρο στον οποίο αυτή ορίζεται Για τον λόγο αυτό τα στοχαστικά σήµατα περιγράφονται συνήθς από τις συναρτήσεις κατανοµής, πιθανότητας, ή πυκνότητας πιθανότητας Συνάρτηση κατανοµής
4 Κεφάλαιο Γενικά εξαρτάται από την χρονική παράµετρο Η συνάρτηση κατανοµής πρώτης τάξες ( s order disribuion funcion) ορίζεται από την σχέση ( ) P[ { Ω : (, ) }] Αν τώρα θερήσουµε δύο χρονικές στιγµές και, τότε ορίζουµε την συνάρτηση κατανοµής δευτέρας τάξες από την σχέση όπου ( ) { Ω : (, ) } (, ) P[ ( ) ( )] i i i i Μια πλήρης περιγραφή του στοχαστικού σήµατος (,) απαιτεί τη γνώση της συναρτήσες κατανοµής n-στης τάξες: n (,, ) P[ ( ) ( ) ( )] n για οποιοδήποτε n Είναι φανερό ότι αν γνρίζουµε την συνάρτηση κατανοµής (ΣΚ) n- τάξες, µπορούµε να προσδιορίσουµε οποιαδήποτε ΣΚ µικρότερης τάξες Για παράδειγµα, αν είναι γνστή η ΣΚ n-τάξες µε n> τότε η ΣΚ δεύτερης τάξες προσδιορίζεται από τη σχέση: n (, ) (,, +,, + ) n Παράδειγµα Θερούµε την τυχαία µεταβλητή Α() µε συνάρτηση κατανοµής: ( a) as( a) ( a ) s( a ) όπου s(α) είναι η µοναδιαία βηµατική συνάρτηση Σχηµατικά έχουµε: (a) n a Ορίζουµε ένα στοχαστικό σήµα (,) από τη σχέση (, ) ( )
Στοχαστικά σήµατα 5 Η συνάρτηση κατανοµής πρώτης τάξες ( ) της Χ(,) υπολογίζεται από τη σχέση: ( ) ( ) [ ] : P Ω ( ) : P Ω s s Για την συνάρτηση κατανοµής β τάξες ( ), έχουµε: ( ) ( ) ( ) [ ] : P, Ω ( ) ( ) : P Ω ( ), min : P Ω, min Η σχέση ( ) ( ),+ επαληθεύεται γιατί, min + Συνάρτηση πυκνότητας πιθανότητας
6 Κεφάλαιο Η έννοια της συναρτήσες πυκνότητας πιθανότητας (ΣΠΠ) ενός στοχαστικού σήµατος είναι ανάλογη µε την ΣΠΠ µιας τυχαίας µεταβλητής θα ονοµάζεται συνάρτηση πυκνότητας πιθανότητας p Η συνάρτηση ( ) πρώτης τάξες (probabiliy densiy funcion) του στοχαστικού σήµατος (,) αν ισχύει ( ) p ( ) τ ( ) 0 τ d τ p R R Η συνάρτηση πυκνότητας πιθανότητας δευτέρας τάξες p (, ) ορίζεται ανάλογα από τις σχέσεις: (, ) 0 p, R, R ( ), p (, ) d d τ τ τ τ τ τ 3 Αναµενόµενες τιµές Όλες οι έννοιες οι σχετικές µε τις αναµενόµενες τιµές τυχαίν µεταβλητών, µεταφέρονται αναλόγς και στην περίπτση τν στοχαστικών σηµάτν όπου όµς είναι συναρτήσεις του χρόνου Έτσι η αναµενόµενη (epeced) ή µέση τιµή (mean value) ενός στοχαστικού σήµατος ()( * ) συµβολίζεται µε m () ή E { ( ) } και ορίζεται από τη σχέση: m () E{ () } p ( ) d m είναι γενικώς µια (ντετερµινιστική) συνάρτηση του χρόνου και εκφράζει την µέση τιµή της τυχαίας µεταβλητής που ορίζεται από το στοχαστικό σήµα στην στιγµή Η διασπορά (variance) βαθµτού στοχαστικού σήµατος ορίζεται από τη σχέση: Είναι φανερό ότι η µέση τιµή ( ) var ( ( ) ) E ( ( ) m ( ) ) * Στην συνέχεια, για να απλουστευθεί η παρουσίαση, θα συµβολίζουµε µια στοχαστική διαδικασία (,) µε ()
Στοχαστικά σήµατα 7 ενώ για ένα διανυσµατικό τυχαίο στοχαστικό σήµα ( ) [ ( ) ( )] n διασποράς V ( ) δίδεται από τη σχέση V ( ) E [ ( ) m ( ) ][ ( ) m ( ) ] η µήτρα µήτρα Ας θερήσουµε τώρα δύο n-διάστατα στοχαστικά σήµατα () και y() Η V y (, ) E ( ( ) m ( ))( y( ) m ( )) Y () ονοµάζεται µήτρα συνδιασποράς (covariance mari) τν (), y(), η δε µήτρα V (, ) E ( ( ) m ( ))( ( ) m ( )) ονοµάζεται µήτρα αυτοδιασποράς (auocovariance mari) του () Στην ειδική περίπτση βαθµτών στοχαστικών σηµάτν (), y() οι συναρτήσεις V y (, ) και V (, ) είναι βαθµτά µεγέθη και ονοµάζονται συνδιασπορά και αυτοδιασπορά αντιστοίχς Από την () προκύπτει ότι: V y (, ) P (, ) m ( ) m ( ) y Y (3) όπου ετέθη y (, ) E ( ) y ( ) P Η µήτρα (, ) mari) τν (), y() η δε µήτρα: P ονοµάζεται µήτρα ετεροσυσχετίσες (cross-correlaion y (, ) E ( ) ( ) P, ονοµάζεται µήτρα αυτοσυσχετίσες (auo correlaion mari) της () 4 Στάσιµα στοχαστικά σήµατα
8 Κεφάλαιο Ας θερήσουµε ένα στοχαστικό σήµα (), όπου είναι ένα σύνολο κλειστό ς προς την πράξη της πρoσθέσες, δηλαδή αν, τότε και + Το στοχαστικό σήµα (,) ονοµάζεται αυστηρώς στάσιµο ή στάσιµο µε την ευρεία έννοια (saionary in he sric sense) αν έχει τον ίδιο πιθανοτικό νόµο µε το η στοχαστικό σήµα (+τ,) για οποιοδήποτε τ τέτοιο ώστε + τ Συµφώνς προς τον ορισµό αυτό ένα στοχαστικό σήµα είναι στάσιµο µε την αυστηρή έννοια αν και µόνο αν p (,, ) p(,, ) +τ N +τ N για οποιοδήποτε πεπερασµένο σύνολο {,, }, και οποιοδήποτε τ Αυτό N σηµαίνει ότι τα στατιστικά χαρακτηριστικά του (,) δεν µεταβάλλονται µε οποιαδήποτε πεπερασµένη χρονική µετατόπιση Έτσι, αν θερήσουµε την συνάρτηση πυκνότητας πιθανότητας πρώτης τάξες, τότε: απ όπου προκύπτει ότι ( ) p( ) p, + τ +τ [ (, )] m( ) m( + τ) m E, Συνεπώς η αναµενόµενη τιµή ενός στάσιµου, µε την αυστηρή έννοια, στοχαστικού σήµατος είναι σταθερή και ανεξάρτητη του χρόνου Εξ' άλλου για ένα αυστηρώς στάσιµο στοχαστικό σήµα ισχύει η σχέση: p (, ) p(, ) +τ +τ Αυτή η συνθήκη ισχύει µόνο αν η τιµή της (, ),, τ p δεν εξαρτάται ξεχριστά από τα και, αλλά µόνο από την διαφορά τους Συνεπώς, αν ένα στοχαστικό σήµα είναι αυστηρώς στάσιµο, τότε η αντίστοιχη συνάρτηση αυτοσυσχετίσες p (, ) εξαρτάται µόνο από την διαφορά τ (να αποδειχθεί) Για τον έλεγχο της αυστηρής στασιµότητας απαιτείται στην γενική περίπτση να γνρίζουµε τα πλήρη στατιστικά χαρακτηριστικά του στοχαστικού σήµατος, πράγµα αρκετά δύσκολο Για τον λόγο αυτό ορίζουµε µια ασθενέστερη έννοια στασιµότητας Ενα στάσιµο στοχαστικό σήµα θα ονοµάζεται ασθενώς στάσιµο ή στάσιµο µε την ευρεία έννοια (saionary in he wide sense) αν η µέση τιµή τους είναι σταθερή και η αντίστοιχη συνάρτηση αυτοσυσχετίσες P (, ) εξαρτάται µόνο από την διαφορά Είναι φανερό ότι ένα αυστηρώς στάσιµο
Στοχαστικά σήµατα 9 στοχαστικό σήµα είναι και ασθενώς στάσιµο χρίς γενικώς να αληθεύει και το αντίστροφο 5 Η φασµατική πυκνότητα Είναι γνστό ότι στη µελέτη γραµµικών ντετερµινιστικών συστηµάτν η χρησιµοποίηση µετασχηµατισµών Laplace ή ourier δίνει λύσεις σε πολλά προβλήµατα Κάτι ανάλογο συµβαίνει και µε τα στοχαστικά συστήµατα όπου χρησιµοποιείται ευρές ο µετασχηµατισµός ourier τν συναρτήσεν αυτοσυσχετίσες Στην παράγραφο αυτή θερούµε στοχαστικά σήµατα που είναι στάσιµας τουλάχιστον µε την ευρεία έννοια Από τον ορισµό της στασιµότητας προκύπτει ότι η συνάρτηση αυτοσυσχετίσες ενός τέτοιου στοχαστικού σήµατος εξαρτάται µόνο από την διαφορά τ ή n k k και µπορεί να συµβολισθεί µε R(τ) ή R(n) στις περιπτώσεις σήµατος συνεχούς ή διακριτού χρόνου αντιστοίχς Ορισµός Ο µετασχηµατισµός ourier Φ() της συναρτήσες αυτοσυσχετίσες R ενός στάσιµου στοχαστικού σήµατος ονοµάζεται φασµατική πυκνότητα () τ Σύµφνα µε τον ορισµό αυτό, η φασµατική πυκνότητα (specral densiy) ενός στάσιµου στοχαστικού σήµατος συνεχούς χρόνου, ορίζεται από την σχέση: από την οποία προκύπτει ότι: R jτ ( ) R( τ ) e dτ, Φ j e τ d π ( τ ) Φ ( ) Κατ' αναλογία, για ένα στάσιµο στοχαστικό σήµα διακριτού χρόνου, έχουµε τις παρακάτ σχέσεις: και n ( ) R( n) Φ e jn
30 Κεφάλαιο R π π ( τ ) Φ ( ) π e jτ d 6 Ο λευκός θόρυβος Θερούµε ένα βαθµτό στάσιµο στοχαστικό σήµα () Όπς προαναφέραµε, η συνάρτηση αυτοσυσχετίσες της P (, ) E{ ( ) ( )} δεν εξαρτάται από καθεµιά από τις χρονικές παραµέτρους, αλλά από την διαφορά τους τ Έτσι έχουµε: και για την φασµατική πυκνότητα: R ( τ ) E{ ( + τ ) ( )} Φ ( ) I ( τ ) R Το στάσιµο στοχαστικό σήµα συνεχούς χρόνου () θα ονοµάζεται λευκός θόρυβος (whie noise) αν όπου q είναι µια σταθερά Φ ( ) q Συµφώνς προς τον ορισµό αυτό, αν () είναι ένας λευκός θόρυβος τότε: ( τ ) qδ ( τ ) R ή { ( τ ) ( )} qδ ( τ ) E + Συνεπώς αν () είναι ένας λευκός θόρυβος, τότε οι τυχαίες µεταβλητές ( +τ ) ( ) και είναι ασυσχέτιστες για κάθε τ 0 Κάτ από ορισµένες υποθέσεις η ισχύς p () στοχαστικού σήµατος () ισούται µε
Στοχαστικά σήµατα 3 και αν πρόκειται για στάσιµο σήµα Αλλά Αν () είναι ένας λευκός θόρυβος τότε R p () E ( ) p () ( 0) R j ( ) Φ ( ) 0 0 e d π Φ ( ) d π ( ) R 0 qd, π δηλαδή η ισχύς ενός λευκού θορύβου είναι άπειρη γι' αυτό ο λευκός θόρυβος δεν είναι πραγµατοποιήσιµος Τα παραπάν γενικεύονται και στην περίπτση n-διάστατν στοχαστικών σηµάτν () Αν το σήµα () είναι στάσιµο και ισχύει ότι Φ όπου Q είναι µία διαγώνια µήτρα, τότε { Q ( ) I{ ( τ )} I E ( + τ ) ( ) R { ( + τ ) ( )} Qδ ( τ ) E και το σήµα () ονοµάζεται λευκός θόρυβος Ας δούµε τώρα την µορφή που παίρνουν οι έννοιες αυτές στην περίπτση στοχαστικών σήµατν διακριτού χρόνου Ενα βαθµτό στάσιµο διακριτού χρονου (k) θα ονοµάζεται λευκός θόρυβος αν Φ ( ) q ή, υπολογίζοντας τον αντίστοιχο µετασχηµατισµό ourier, αν
3 Κεφάλαιο Άρα αν (k) είναι λευκός θόρυβος τότε; R ( n) E{ ( k + n) ( k) } sin nπ R ( n) q nπ q αν 0 αν δηλαδή οι τυχαίες µεταβλητές ( k ) και ( k ) k k n 0 n ±, ±, είναι ασυσχέτιστες για κάθε