EΦΑΡΜΟΓΕΣ ΤΗΣ ΨΗΦΙΑΚΗΣ ΕΠΕΞΕΡΓΑΣΙΑΣ ΣΗΜΑΤΩΝ Γραµµική Εκτίµηση Τυχαίων Σηµάτων

Transcript

1 EΦΑΡΜΟΓΕΣ ΤΗΣ ΨΗΦΙΑΚΗΣ ΕΠΕΞΕΡΓΑΣΙΑΣ ΣΗΜΑΤΩΝ Γραµµική Εκτίµηση Τυχαίων Σηµάτων Εµµανουήλ Ζ. Ψαράκης Πολυτεχνική Σχολή Τµήµα Μηχανικών Η/Υ & Πληροφορικής

2 Εκτίµηση Τυχαίων Σηµάτων othig i atue is adom A thig appeas adom oly though the icompleteess of ou owledge. I do ot believe that God olls dice. Spioza, Ethics I attibuted to Eistei 2

3 Εκτίµηση Τυχαίων Σηµάτων Το πρόβληµα που θέλουµε να λύσουµε είναι το ακόλουθο: χ Μας διατίθεται ένα στοχαστικό σήµα { } µε τη βοήθεια του οποίου καλούµαστε να εκτιµήσουµε ένα άλλο στοχαστικό σή- µα { }. ς χ Η διαδικασία εκτίµησης του σήµατος { } από το σήµα { }, στην ορολογία της επεξεργασίας σηµάτων, καλείται φιλτράρισµα του σήµατος { } και το σύστηµα φίλτρο. χ ς 3

4 Εκτίµηση Τυχαίων Σηµάτων Αν χρησιµοποιήσουµε σαν κριτήριο το Μέσο Τετραγωνικό Σφάλµα όπου η εκτίµηση { }, δηλαδή χ ςˆ Ε{ ς ˆ ς ( ) 2 } θα πρέπει να είναι συνάρτηση του σήµατος ˆ ς..., χ, χ0, χ,...} = Φ{ τότε, η βέλτιστη µη γραµµική εκτίµηση της ακολουθίας { } είναι η ακολουθία των δεσµευµένων µέσων όρων: Ε{ ˆ ς = ς..., χ, χ0, χ,...} ς 4

5 Εκτίµηση κάθε όρου ςˆ της ακολουθίας { } από γραµµικό συνδυασµό των δειγµάτων του σήµατος { }. Δηλαδή: d h, χ + h χ ˆ ς = d, όπου { } και { } ντετερµινιστικές ακολουθίες τις οποίες και θα πρέπει να προσδιορίσουµε. ς 5

6 Διανυσµατικοί Χώροι και η Αρχή της Ορθογωνιότητας Έστω Διανυσµατικός χώρος Hilbet, όπου <Χ, Υ > συµβολίζου- µε το εσωτερικό γινόµενο των διανυσµάτων X, Y ν. Έστω τώρα Ω ένας υποχώρος του και X ν. Ενδιαφερόµαστε να βρού- ν µε το Y Ω το οποίο είναι η λύση του ακόλουθου προβλήµατος βελτιστοποίησης ή προσέγγισης: ν mi Y Ω X Y 2 2 6

7 Η βέλτιστη λύση του προβλήµατος βελτιστοποίησης : mi Y Ω X Y 2 2 Είναι η κάθετη προβολή Xˆ του διανύσµατος X στον υπόχωρο Ω. Είναι φανερό ότι για κάθε στοιχείο Ζ του υπόχωρου Ω θα ισχύει η ακόλουθη συνθήκη ορθογωνιότητας: < X Xˆ, Z >= 0, Z Ω 7

8 Αν χρησιµοποιήσουµε σαν κριτήριο το Μέσο Τετραγωνικό Σφάλµα Ε{ ς ( ˆ ς ) 2 } ˆ ς = d, + h χ και την ιδέα των γραµµικών εκτιµητών, τότε το κριτήριο γράφεται: Ε {( ς d h, ) 2 } χ και η βέλτιστη λύση έγκειται στον προσδιορισµό των ντετερµινιστικών ακολουθιών { d } και { } που ελαχιστοποιούν το παραπάνω κριτήριο, δηλαδή: { d mi },{ h h, d h χ 2 } {( ς, ) Ε, } 8

9 Οµοιότητα προβληµάτων βελτιστοποίησης { d mi Y Ω ˆ ς X Y 2 2 { mi Ε ( ς d h },{ h, }, ) 2 } χ Άραγε µπορούµε να εφαρµόσουµε την Αρχή της Ορθογωνιότητας στο Πρόβληµα 2; mi Ε{ ( ς ˆ ς ) 2 } (Πρ. ) (Πρ. 2) 9

10 Έστω ο Διανυσµατικός χώρος Hilbet, των τυχαίων µεταβλητών στον οποίο ανήκουν και τα δείγµατα των δύο ακολουθιών { χ } και { ς }. Οι τυχαίες µεταβλητές, χ, χ,, ορίζουν τον υπόχωρο Ω του και εποµένως για να µπορούµε να εφαρµόσουµε ν 2 την Αρχή της Ορθογωνιότητας ν αρκεί να ορίσουµε την πράξη του εσωτερικού γινοµένου στο χώρο αυτό. 0

11 Η πράξη < χ, ψ >= E{ χψ } αποτελεί εσωτερικό γινόµενο και εποµένως, 2 ς ˆ ς = Ε{ ( ς 2 ˆ ς ) 2 }

12 Για τον προσδιορισµό του θα πρέπει ςˆ από την Αρχή της Ορθογωνιότητας Ε{ ( ς ˆ ς ) ζ} = 0, ζ Ω δηλαδή για κάθε ζ που αποτελεί γραµµικό συνδυασµό των,, ή ισοδύναµα: χ, A Ε { ( ς d h χ ) } A, = Ε{ ( ς d h χ ) } = 0 m A, χm, A 0 2

13 Η πρώτη συνθήκη Ορθογωνιότητας δίνει: d = Ε{ ς } h, A Ε{ χ } και άρα : ˆ ς = Ε{ ς } + h ( { })}, χ Ε χ A A και µε την αντικατάστασή της σε κάθε µια από τις υπόλοιπες συνθήκες Ορθογωνιότητας, παίρνουµε: Ε{( } ς Ε{ ς } + h ( χ Ε{ χ })) = 0, m, χm A 3

14 Στη συνέχεια θα θεωρήσουµε ότι 0 ς 0 χ = ς Ε{ ς }!" (! m,) = # h,!! (! m,! ), $m " A "A = χ Ε{ χ } Στην περίπτωση αυτή οι συνθήκες Ε{( } ς Ε{ ς } + h ( χ Ε{ χ })) = 0, m A γράφονται ισοδύναµα ως:, χm Οι παραπάνω συνθήκες είναι γνωστές σαν εξισώσεις Wiee-Hopf. A 4

15 Οι εξισώσεις Wiee-Hopf!" (! m,) = # h,!! (! m,! ), $m " A "A στη γενική περίπτωση, είναι πολύ δύσκολο να λυθούν. Για αυτόν το λόγο καταφεύγουµε στην ειδική περίπτωση που τα δύο στοχαστικά σήµατα είναι από κοινού ασθενώς στάσιµα. Σ αυτήν την περίπτωση οι εξισώσεις Wiee-Hopf γίνονται:!" (m) = # h,!! (m! ), $m " A "A 5

16 Οι εξισώσεις Wiee-Hopf απλοποιούνται περαιτέρω στις:!" (m) = # h!! (m! ), $m " A "A και εποµένως οι εκτιµήσεις µας είναι της µορφής 0 h ςˆ = χ A 0 6

17 Η λύση των εξισώσεων Wiee-Hopf για µερικές επιλογές του συνόλου. A = {...,,0,,... } Z Μη αιτιατό φίλτρο Wiee Eξισώσεις Wiee-Hopf "!" (m) = # h!! (m! ), $m % Z =!" Βέλτιστο ντετερµινιστικό φίλτρο H (e j! ) =! "# (e j! )! "" (e j! ) 7

18 Βέλτιστο ντετερµινιστικό φίλτρο Wiee: H (e j! ) =! "# (e j! )! "" (e j! ) Ποια ή σχέση του µε τα κλασσικά Φίλτρα; 8

19 FIR φίλτρα: A = { 0,,..., } Εξισώσεις Wiee-Hopf!!" (m) = " h!! (m! ), #m $ A =0 Το Βέλτιστο φίλτρο προκύπτει από τη λύση ενός Toeplitz γραµµικού συστήµατος. Η λύση του Συστήµατος µπορεί να υπολογιστεί µε τον Αλγόριθµο του Leviso. 9

20 FIR φίλτρα: Ορίζουµε τις ποσότητες: q h A = { 0,,..., } = [!" (0)!" ()!!" (!)] t = [h 0 h!h! ] t R = ( (0) () ) () (0) () ( ) () (0) Εξισώσεις Wiee-Hopf: R h = q 20

21 Ο Αλγόριθµος του Leviso Εξισώσεις Wiee-Hopf: R h = q, =, 2,..., R = ( (0) () ) () (0) () ( ) () (0) = R p t p (0) R h R = p p h (0) = p 0 t t 0 h q 2

22 Ο Αλγόριθµος του Leviso Άρα: =, ) ( ) 0 ( t h p 0 h h R ς χ = = 0 (0) 0 t t h p q h p p R h R = ε 0 a R Γενική µορφή Συστηµάτων: t a a ] () ) ( [ = a 22 Γραµµική Εκτίµηση Τυχαίων Σηµάτων

23 A = {0,,...} Αιτιατό φίλτρο Wiee Εξισώσεις Wiee-Hopf!" (m) = # h!! (m! ), $m % =0 Βέλτιστο αιτιατό ντετερµινιστικό φίλτρο " # H (e j! ) = [! (e j! )] + & "# % ( $ %[! "" (e j! )] " '( + [! "" (e j! )] + 23