Στοχαστικά Σήµατα και Εφαρµογές

Transcript

1 Στοχαστικά Σήµατα & Εφαρµογές Μοντελοποίηση Σήµατος ιδάσκων: Ν. Παπανδρέου (Π.. 47/8) Πανεπιστήµιο Πατρών ΤµήµαΜηχανικώνΗ/Υ και Πληροφορικής CEID 7-8 Εισαγωγή ιατύπωση προβλήµατος Έστω ότι γνωρίζουµε ένα σύνολο από τιµές - δείγµατα ενός σήµατος (n): (), (), ( N ) Ηθεωρίαµοντελοποίησης σήµατος (signal modeling) έχει σαν στόχο τη σχεδίαση ενός κατάλληλου µοντέλου, το οποίο να αναπαριστά µε ακρίβεια το σήµα (n). Εφαρµογές: Συµπίεση σήµατος δεδοµένων (comression) Πρόβλεψη σήµατος (etraolation) Παρεµβολή σήµατος (interolation) CEID 7-8

2 Εισαγωγή Βήµα : Εύρεση ενός κατάλληλου παραµετρικού µοντέλου un ( ) n ˆ( ) n ( ) ε( n) k bk ( ) k + ak ( ) k k Αιτιατό ΓΧΑ Σύστηµα Συνάρτηση Συστήµατος Άρα, η µοντελοποίηση του σήµατος περιλαµβάνει τον υπολογισµό των συντελεστών α(k) και b(k), καθώς και τον προσδιορισµό της κατάλληλης εισόδου u(n). Βήµα : Βέλτιστος υπολογισµός των παραµέτρων του µοντέλου - εξαρτάται από το κριτήριο, π.χ.: ε n ε ( n), για n,,, N n min ( ) Μέθοδος Ελαχίστων Τετραγώνων Μέθοδος Padé CEID 7-8 Η προσέγγιση Padé Εξετάζουµε τοπρόβληµα µοντελοποίησης ενός ντετερµινιστικού σήµατος (n) ως η κρουστική απόκριση ενός ΓΧΑ φίλτρου µε την παρακάτω συνάρτηση συστήµατος H(). ηλαδή, θεωρούµε ότι αν η είσοδος του συστήµατος είναι η κρουστική συνάρτηση u(n) δ(n), τότε η έξοδος (κρουστική απόκριση) µοντελοποιεί το σήµα (n). n ( ) k un ( ) n ˆ( ) ε( n) bk ( ) k k + ak ( ) k Σύµφωνα µετηµέθοδο Padé, επιβάλουµε η έξοδος του φίλτρου να ταυτίζεται µε το σήµαενδιαφέροντος, δηλαδή h(n) (n), για + + τιµές του n. ηλαδή, για τόσες τιµές του n, όσοιείναικαιοιβαθµοί ελευθερίας του συστήµατος H(), δηλαδή ο αριθµός των συντελεστών a (k) και b (k). CEID 7-8

3 Η προσέγγιση Padé Παράδειγµα για ένα φίλτρο all-ole πρώτης τάξης: b() για n hn ( ) + a() hn ( ) b() δ ( n) για n > b() + a () Απαίτηση: hn ( ) ( n) γι α n, () + a() ( ) b() b() () () + a() () a( ) ( ) / () () () () Υποθέτουµε ότι: () CEID 7-8 Η προσέγγιση Padé Παράδειγµα για ένα φίλτρο δεύτερης τάξης µεένα πόλο και ένα µηδενικό: Απαίτηση: b() + b() + a() b() για n hn ( ) + a() hn ( ) b() δ ( n) + b() δ( n ) b() για n για n > hn ( ) n ( ) γ ια n,, () + a() ( ) b() b() () () + a() () b() b() () () () / () () + a() () a() ()/ () () () + () () () () () Υποθέτουµε ότι: () CEID 7-8

4 Η προσέγγιση Padé Γενικά για ένα σύστηµα µε πόλους και µηδενικά µπορούµεναγράψουµε: H k k bk ( ) bk ( ) B ( ) a() και + ak ( ) a( k) k k ( ) όπου k k A ( ) k k ΜΖ ΜΖ ΜΖ { } { } { } hn ( ) an ( ) A ( ) bn ( ) B ( ) n n n ΑΜΖ ΑΜΖ ΑΜΖ Άρα: B( ) H ( ) A( ) B( ) h( n) a( n) b( n) A ( ) συνέλιξη CEID 7-8 Η προσέγγιση Padé Συνέχεια: + hn ( ) an ( ) bn ( ) amhn ( ) ( m) bn ( ) m amhn ( ) ( m) bn ( ) m a() hn ( ) + amhn ( ) ( m) bn ( ) m m hn ( ) + amhn ( ) ( m) bn ( ) όπου h(n) για n < και b(n) για n < και n >. Άρα, θέτοντας h(n) (n) για n,,, +, προκύπτει: bn ( ) για n,,, n ( ) + amn ( ) ( m) m για n +,, + CEID 7-8

5 Η προσέγγιση Padé Καταλήξαµε σεένασύνολο + + γραµµικών εξισώσεων: bn ( ) για n,,, n ( ) + amn ( ) ( m) m για n +,, + n : () b() n : () + a() ( ) b() n : () + a() () + a() () + + b() n : ( ) + a() ( ) + a() ( ) + + a( ) ( ) b( ) n + : ( + ) + a() ( ) + a( ) ( ) + + a( ) ( + ) n + : ( + ) + a() ( + ) + a() ( + ) + + a( ) ( ) CEID 7-8 Η προσέγγιση Padé Σε µορφή πινάκων γράφουµε: () b() () () b() () () () b() a() a() ( ) ( ) ( ) ( ) b( ) ( ) ( ) ( ) ( ) + + a( ) ( + ) ( + ) ( + ) ( ) + Ηεπίλυσητουσυστήµατος γίνεται σε δύο βήµατα: αρχικά ως προς τους συντελεστές α(k), k,,, του παρονοµαστή και στη συνέχεια ως προς τους συντελεστές b(k), k,,, του αριθµητή. CEID 7-8

6 Η προσέγγιση Padé Βήµα πρώτο: ( ) + ( + ) ( ) ( ) ( + ) ( + ) ( + ) ( ) ( + ) a() ( + ) ( + ) ( + ) ( ) a( ) ( ) ( ) ( ) ( + ) a() ( + ) ( + ) ( ) ( ) ( + ) a() ( + ) ( + ) ( + ) ( + 3) ( ) a( ) ( + ) Toelit Xa a X + + ιερεύνηση αν υπάρχει ο: X CEID 7-8 Η προσέγγιση Padé Βήµαδεύτερο: ( ) ( + ) + () b() () () a() b() () () () a() b() ( ) ( ) ( ) ( ) a( ) b( ) b Xa όπου a, a T bn ( ) n ( ) + amn ( ) ( m) για n,,, m CEID 7-8

7 Η προσέγγιση Padé Μέθοδος Padé Συλλέγουµε τις ++ τιµές του σήµατος (n) για n,,..., +. Κατασκευάζουµε τον πίνακα + το διάνυσµα. X και X ( ) ( + ) ( + ) ( + ) ( + ) ( ) [ ] ( ) ( ) T Επιλύουµε τοσύστηµα Xa βρίσκουµε τους συντελεστές του + παρονοµαστή α(k), k,,. και [ ] a () () ( ) T a a a Υπολογίζουµε τους συντελεστές του αριθµητή b(k), k,,, από τις εξισώσεις: b Xa bn ( ) n ( ) + amn ( ) ( m) m για n,,, CEID 7-8 Η προσέγγιση Padé ιερεύνηση του συστήµατος: Xa (Σ) + Περίπτωση : Ο πίνακας X είναι µηιδιάζων(nonsingular), δηλαδή υπάρχει ο X αντίστροφος πίνακας. Στην περίπτωση αυτή το σύστηµα (Σ) έχει µοναδική λύση: a X + Περίπτωση : Ο πίνακας X αντίστροφος πίνακας είναι ιδιάζων (singular), δηλαδή δεν υπάρχει ο X, και το σύστηµα (Σ) έχει λύση. Στην περίπτωση αυτή η λύση του σύστηµα (Σ) δεν είναι µοναδική. Πράγµατι, αφού ο πίνακας X είναι ιδιάζων, το οµογενές σύστηµα X O έχει άπειρες (µη-µηδενικές) λύσεις. Κατά συνέπεια, αν είναι µία λύση του συστήµατος (Σ), τότε και η a + είναι λύση, όπου ικανοποιεί το οµογενές σύστηµα. a CEID 7-8

8 Η προσέγγιση Padé Περίπτωση 3: Ο πίνακας αντίστροφος πίνακας X X είναι ιδιάζων (singular), δηλαδή δεν υπάρχει ο, και το σύστηµα (Σ) δεν έχει λύση. Στην περίπτωση αυτή, αφού το σύστηµα (Σ) δεν έχει λύση, δηλαδή δεν υπάρχουν τιµές α(k), k,, που να ικανοποιούν τις εξισώσεις Xa +, σηµαίνει k ότι το πολυώνυµο A( ) δεν έχει τη µορφή A( ) + a( k) (για την k οποία οδηγηθήκαµε στο σύστηµα (Σ)). ηλαδή, µπορούµε να γράψουµεότι k A( ) a( k). Τότε, το σύστηµα (Σ) γίνεται Xa O και αφού ο k πίνακας είναι ιδιάζων υπάρχει µία µηδενική λύση. X CEID 7-8 Η προσέγγιση Padé Ειδική περίπτωση για all-ole φίλτρο ( ): Οι εξισώσεις για τον παρονοµαστή γράφονται: b() + ak ( ) k k () a() () () () a() () ( ) ( ) ( 3) () a( ) ( ) Κάτω τριγωνικός και Toelit Xa Οι εξισώσεις για τον αριθµητή γράφονται: b() () CEID 7-8

9 Η προσέγγιση Padé Ειδική περίπτωση για moving average φίλτρο ( ): Οι εξισώσεις για τους συντελεστές γράφονται: H ( ) b( k) k k () b() b() () () () b() b() () ( ) ( ) ( ) ( ) b ( ) b ( ) ( ) hn ( ) b() δ ( n) + b() δ( n ) + + b ( ) δ( n ) hn ( ) () δ ( n) + () δ( n ) + + ( ) δ( n ) n ( ) για n,,, hn ( ) αλλού Εφαρµογή τετραγωνικού παραθύρου στα δεδοµένα CEID 7-8 Η προσέγγιση Padé Βασικά χαρακτηριστικά της µεθόδου Padé: Το µοντέλο H() που υπολογίζει η µέθοδος επιτυγχάνει απόλυτο ταίριασµα των δεδοµένων στο διάστηµα [, + ], εφόσον ο πίνακας αντιστρέψιµος. είναι Επειδή, τα δεδοµένα εκτός του διαστήµατος [, + ] δεν λαµβάνονται υπόψη από τη διαδικασία της µοντελοποίησης, δεν υπάρχει εγγύηση ότι το µοντέλο θα είναι ακριβές και για n > +. Σαν αποτέλεσµα, το φίλτρο που παράγεται µπορεί να είναι ασταθές. X CEID 7-8

10 Η προσέγγιση Padé Παράδειγµα: Θεωρούµετοσήµα (n) για το οποίο γνωρίζουµε τις πρώτες 6 τιµές: [ ] T. Με βάση τη µέθοδο Padé, να κατασκευαστεί ένα µοντέλο του σήµατος (a) all-ole δεύτερης τάξης, (b) moving average δεύτερης τάξης και (c) µεέναµηδενικό και έναν πόλο..5 amlitude samles CEID 7-8 Η προσέγγιση Padé Μοντέλο all-ole (, ): b() + a() + a() Οι εξισώσεις για τον παρονοµαστή γράφονται: () a() () a() ()/ () a().5 () () a() () a() [ () () ()]/ () a( ) +.5 Οι εξισώσεις για τον αριθµητή γράφονται: b( ) () b() Άρα: CEID 7-8

11 Η προσέγγιση Padé Μοντέλο moving average (, ): b() + b() + b() b() + b() + b() A ( ) Οι εξισώσεις για τους συντελεστές (αριθµητής) γράφονται: () b() () b() b() () b() () () b() () b() b() () b().5 () () () b() () b() b() () b().75 Άρα: H ( ) CEID 7-8 Η προσέγγιση Padé Μοντέλο µεέναµηδενικό και έναν πόλο (, ): b() + b() + a() Οι εξισώσεις για τον παρονοµαστή γράφονται: () a() () a() () / ( ) a().5 Οι εξισώσεις για τον αριθµητή γράφονται: () b() b() () b() +. () () a() b() b() () + a() ( ) b( ) +. Άρα: +.5 CEID 7-8

12 Η προσέγγιση Padé Και για τα τρία µοντέλα έχουµε +, άρα η έξοδος του φίλτρου θα ταυτίζεται σε κάθε περίπτωση µε τις πρώτες + τιµές του σήµατος, δηλαδή ˆ( n) ( n) για n,,. δ( n) H ( ) ˆ( n) Θέλουµεναελέγξουµετηνακρίβεια µοντελοποίησης και για τις υπόλοιπες τιµές του σήµατος, δηλαδή για n 3,4,5. CEID 7-8 Η προσέγγιση Padé Μοντέλο all-ole (, ): ˆ( n).5 ˆ( n ) +.5 ˆ( n ) δ( n).5 ˆ() ˆ().5 ˆ().75 ˆ(3).5 ˆ(4).85 ˆ(5).533 amlitude signal, CEID samles

13 Η προσέγγιση Padé Μοντέλο moving average (, ): H ( ) ˆ( n) δ ( n) +.5 δ( n ) +.75 δ( n ).5 ˆ() ˆ().5 ˆ().75 ˆ(3) ˆ(4) ˆ(5) amlitude signal,, CEID samles Η προσέγγιση Padé Μοντέλο µεέναµηδενικό και έναν πόλο (, ): +.5 ˆ( n).5 ˆ( n ) δ ( n) +δ( n ).5 ˆ() ˆ().5 ˆ().75 ˆ(3).375 ˆ(4).875 ˆ(5).938 amlitude signal,,, CEID samles

14 Η προσέγγιση Padé Παράδειγµα: Θεωρούµετοσήµα (n) για το οποίο γνωρίζουµε τις πρώτες 5 τιµές: [ 4 3] T. Με βάση τη µέθοδο Padé, να κατασκευαστεί ένα µοντέλο του σήµατος δεύτερης τάξης µε και amlitude samles CEID 7-8 Η προσέγγιση Padé Μοντέλο δεύτερης τάξης (, ): B( ) b() + b() + b() A( ) + a() + a() Οι εξισώσεις για τον παρονοµαστή γράφονται: () () a() (3) 4 a() (3) () a() ( 4) a( ) 3 (Σ) 4 4 det 4 Συνεπώς, δεν υπάρχει ο αντίστροφος λύση. Άρα, θέτουµε α(), δηλαδή X και επιπλέον το σύστηµα (Σ) δεν έχει A ( ) a() + a() και το (Σ) γίνεται: 4 a() a() c a() a() a() + a() c/ a() a() CEID 7-8

15 Η προσέγγιση Padé Οι εξισώσεις για τον αριθµητή γράφονται: Αφού θέσαµε α(), το στοιχείο του πίνακα από γίνεται από. () b() b() b() () () a() b() 4 b() b() () () () a() b() 4 b() b( ) 7 Άρα: ( ) + + H.5 ηλαδή, καταλήξαµεσεέναφίλτροµικρότερης τάξης από αυτό που απαιτήθηκε αρχικά, όπου,. CEID 7-8 Η προσέγγιση Padé Αφού καταλήξαµεσεµοντέλο µε, η έξοδος θα ταυτίζεται για τις τιµές n,, + +. Ελέγχουµετηνακρίβειαµοντελοποίησης και για τις υπόλοιπες τιµές του σήµατος: ˆ( n).5 ˆ( n ) δ ( n) δ( n ) ˆ() ˆ() 4 ˆ() ˆ(3) ˆ(4).5 amlitude signal, CEID samles

16 Η προσέγγιση Padé Παράδειγµα (M. Hayes 4.): ίνεται το παρακάτω µοντέλο σήµατος 3ης τάξης, το οποίο έχει προκύψει µεβάσητηµέθοδο Padé. Ποια πληροφορία σχετικά µετο σήµα ενδιαφέροντος(n) µπορούµεναεξάγουµεαπόαυτότοµοντέλο? Το µοντέλο της µεθόδου είναι ένα all-ole φίλτρο 3ης τάξης, δηλαδή 3 και. Ηγενικήµορφή του µοντέλου είναι: b() ak ( ) 3 + k k b() και a(), a(), α (3) 3 Σύµφωνα µετηµέθοδο Padé, ηέξοδοςτουµοντέλου ταυτίζεται ακριβώς µετις πρώτες + + τιµές του σήµατος. Εποµένως, για την περίπτωση µας, θα ισχύει h(n) (n) για n,,,3. CEID 7-8 Η προσέγγιση Padé Συνεπώς από τις εξισώσεις της µεθόδου Padé, µπορούµε να υπολογίσουµετις4 πρώτες τιµές του σήµατος. Για το µοντέλο της άσκησης, οι εξισώσεις γράφονται: () b() () () a() () () () a() (3) () () () a(3) + () () () () () () (3) () () () 3 () () + () + + () + () + () + (3) + () + () + 3() CEID 7-8

17 Η προσέγγιση Padé () () () () () () ( 3) 3() () () () () () 3 (3) 7 Άρα, οι πρώτες 4 τιµές του σήµατος είναι: 8 [ 3 7] T amlitude samles CEID 7-8 Η προσέγγιση Padé Παράδειγµα (M. Hayes 4.3): Έστω το ντετερµινιστικό σήµα (n) για το οποίο γνωρίζουµε πωςηγενικήτουµορφή είναι: όπου c k και λ k σταθερές. K n ( n) c λ u( n) k k k (α) Να εξεταστεί αν είναι δυνατή η εκτίµηση των παραµέτρων c k και λ k µέσω της µεθόδου Padé. (β) Αν γνωρίζουµεότι K 3 και ότι οι πρώτες 8 τιµές του σήµατος (n) είναι [ 3, 6, 8,, 8, 33, 64.5, 8.5] T να υπολογιστούν οι παράµετροι c k και λ k. CEID 7-8

18 Η προσέγγιση Padé Θεωρούµεέναφίλτροµε πόλους και µηδενικά και είσοδο την κρουστική συνάρτηση δ(n). Η συνάρτηση συστήµατος Η() είναι: k bk ( ) k + ak ( ) k Με βάση τη µέθοδο Padè, επιβάλουµε η έξοδος του φίλτρου, δηλαδή η κρουστική απόκριση του φίλτρου, να ταυτίζεται µε τις πρώτες + + τιµές του σήµατος που θέλουµε ναµοντελοποιήσουµε, δηλαδή hn ( ) n ( ) για n,,, +. k ˆ( n) δ( n) H ( ) ˆ( n) h( n) CEID 7-8 Η προσέγγιση Padé Ο µετασχηµατισµός Z της εξόδου h(n) είναι η συνάρτηση συστήµατος H(). O µετασχηµατισµός Z του σήµατος (n), το οποίο θέλουµε να ταυτίζεται µετην έξοδο h(n) για n,,, + υπολογίζεται ως εξής: + + K K + n n n n n X( ) ( n) ckλ ku( n) ck λkun ( ) n n k k n K K k ck k k λ k λk c c K λ λ λ K c c c ( λ ( λ ) ( λk ) ) λ λk c( λ ) ( λk ) + + ( ) ( ) ( λ )( λ ) ( λ ) K CEID 7-8

19 Η προσέγγιση Padé Άρα: Q ( ) X( ) P ( ) όπου Q() και P() πολυώνυµα βαθµού K- και Κ αντίστοιχα. X( ) () + () + () + + ( K ) ( K ) K + () + () + + ( K) όπου οι συντελεστές (k) και (k) εξαρτώνται από τις τιµές c k και λ k. K k k ( ) k X( ) K + k ( ) k k CEID 7-8 Η προσέγγιση Padé Παρατηρείστε τους µετασχηµατισµούς Z της εξόδου h(n) και του σήµατος (n): k bk ( ) B ( ) k H ( ) A ( ) + ak ( ) k k Q ( ) X( ) P ( ) + K k K k ( ) k k k ( ) k Άρα, µετηµέθοδο Padè, µπορούµε να κατασκευάσουµετοµοντέλο H(), και να K K εκτιµήσουµεταπολυώνυµα Q() και P(), αρκεί και. CEID 7-8

20 Η προσέγγιση Padé 3 Για Κ 3, το µοντέλο της µεθόδου Padè πρέπει να έχει και. 3 Επιλέγουµε και : b() + b() + b() + a() + a() + a(3) 3 Οι εξισώσεις Padè είναι: () b() () () b() () () () a() b() (3) () () () a() (4) (3) () () a(3) (5) (4) (3) () + CEID 7-8 Η προσέγγιση Padé Οι εξισώσεις για τους συντελεστές του παρονοµαστή είναι: (3) () () () a() (4) (3) () () a() (5) (4) (3) () a( 3) a() 8 6 a() a() 3 33 det X 48 > Άρα ο πίνακας είναι µη ιδιάζων a() a() a(3) a() a() a(3) a().5 a().75 a(3).375 CEID 7-8

21 Η προσέγγιση Padé Οι εξισώσεις για τους συντελεστές του αριθµητή είναι: () b() a() () () b() a() () () () b() a(3) 3 ().5 b 6 3 b() b(). 375 b() 3 b() 3 b () 4 Συνεπώς, ησυνάρτησηh() είναι: CEID 7-8 Η Μέθοδος Prony Εξετάζουµε τοπρόβληµατηςµοντελοποίησης ενός ντετερµινιστικού σήµατος (n) ως η κρουστική απόκριση ενός αιτιατού ΓΧΑ φίλτρου, το οποίο έχει συνάρτηση µεταφοράς H() µε πόλους και µηδενικά. δ( n) hn ( ) n ( ) ε( n) k bk ( ) B ( ) k A ( ) + ak ( ) k k Το σφάλµα µοντελοποίησης είναι: ε ( n) ( n) h( n) MZ E( ) X( ) X( ) B( ) A( ) CEID 7-8

22 Η Μέθοδος Prony Μπορούµε να γράψουµε: B( ) E( ) X( ) E( ) A( ) X( ) A( ) B( ) A ( ) Άρα: E( ) E ( ) XA ( ) ( ) B ( ) ΑMZ en ( ) n ( ) an ( ) bn ( ) όπου (n) για n < και b(n) για n < και n >. συνέλιξη Τελικά: en ( ) ( n) + a( k) ( n k) b( n) n,,, k n + akn k n + ( ) ( ) ( ) k CEID 7-8 Η Μέθοδος Prony bn ( ) n ( ) A( ) ( n) a( n) en ( ) Στη µέθοδο Padè, το κριτήριο για τον υπολογισµό των συντελεστών είναι: en ( ) n ( ) an ( ) bn ( ) για n,,, + Στη µέθοδο Prony, το κριτήριο είναι: min E min e( n), a( k) a( k ) n + Παρατηρήστε ότι το σφάλµα E, εξαρτάται µόνο από τους συντελεστές α(k). CEID 7-8

23 Η Μέθοδος Prony Επίλυση µεθόδου Prony: min E min e( n), a( k) a( k) n + E, a ( k) για k,,, Ισχύει το παρακάτω θεώρηµα (M. Hayes. 48-5): f(, ) f(, ) f(, ) f(, ) ως προς ή ως προς ίση µετοµηδέν. Αν είναι πραγµατική συνάρτηση ως προς τις µιγαδικές µεταβλητές και και επιπλέον η είναι αναλυτική ως προς και, τότε τα στάσιµασηµεία της µπορούν να βρεθούν θέτοντας την παράγωγο της CEID 7-8 Η Μέθοδος Prony Αναλυτικά: E, en ( ) ene ( ) ( n) a ( k) a ( k) n + a ( k) n + en ( ) ( n) a ( m) ( n m) a ( k) + n + m + en ( ) ( n) en ( ) a( m ) ( n m) a ( k) n + n + m a ( k) en ( ) ( n) + a ( m) e( n) ( n m) m n n + + en ( ) ( n k) n + Η µεταβλητή k έχει µία από τις τιµές του αθροίσµατος ως προς m. CEID 7-8

24 Η Μέθοδος Prony Τελικά: E, για a ( k) n + en ( ) ( n k) k,,, Το αποτέλεσµα αυτόείναιγνωστόωςαρχή της ορθογωνιότητας (orthogonality rincile). Στην ουσία µας δηλώνει ότι το σφάλµα e(n) και το σήµα (n) πρέπει να είναι ορθογώνια. Θεωρείστε τα διανύσµατα απείρου µήκους: T [ e ( ) e ( ) e ( 3) ] [ ] e ( k) ( k) ( k) ( 3 k) Το παραπάνω άθροισµα σηµαίνει ότι το εσωτερικό γινόµενο ( k) r H ( k) r είναι µηδέν, δηλαδή τα διανύσµατα είναι ορθογώνια. T CEID 7-8 Η Μέθοδος Prony Συνέχεια: en ( ) ( n k) n ( ) + aln ( ) ( l) ( n k) l n + n + ( n) ( n k) + a( l) ( n l) ( n k) n + n + l al ( ) n ( l ) ( n k) n ( ) ( n k) l n + n + r (, ) k l r ( k,) Ορίζουµετηνντετερµινιστική συνάρτηση αυτοσυσχέτισης r (k,l), η οποίαέχει συζυγή συµµετρία, δηλαδή: r ( k, l) r ( l, k) CEID 7-8

25 Η Μέθοδος Prony Τελικά, προκύπτει ένα σύστηµα γραµµικών εξισώσεων ως προς τους συντελεστές α(k) γνωστό ως κανονικές εξισώσεις (normal euations) της µεθόδου Prony: l alr () ( kl,) r( k,) για k,,, k : k : a() r (,) + a() r (,) + + a( ) r (, ) r (,) a() r (,) + a() r (,) + + a( ) r (, ) r (,) k : a() r (,) + a( ) r (,) + + a( ) r (, ) r (,) r(,) r(, ) r(, ) a() r(, ) r(,) r(,) r(, ) a() r(,) r(,) r(,) r(, ) a( ) r(,) Hermitian πίνακας. Ra r CEID 7-8 Η Μέθοδος Prony Εναλλακτική διατύπωση των κανονικών εξισώσεων: Έστω ο παρακάτω πίνακας δεδοµένων µε στήλες και άπειρες γραµµές: X ( ) ( ) ( + ) ( + ) ( ) ( + ) ( + ) ( + ) ( + 3) και το διάνυσµα δεδοµένων µε άπειρα στοιχεία: [ + ] ( ) ( + + ) ( + 3) R Παρατηρούµε ότι ο πίνακας και το διάνυσµα µπορούν να εκφραστούν ως: T r R X X H και r X H + CEID 7-8

26 Η Μέθοδος Prony X H + ( ) ( + ) ( + ) ( + ) ( ) ( ) ( ) ( ) + + ( + 3) ( + ) ( + ) ( + 3) m m ( + m) ( + + m) ( + m) ( + + m) ( n ) ( n) n + r (,) ( n ) ( n) r (,) n + r r (,) ( + + m) ( + + m) ( n ) ( n) m n + Αλλαγή µεταβλητών: (, ) ( ) r k l n l ( n k ) + m n - n + CEID 7-8 Η Μέθοδος Prony Άρα, οι κανονικές εξισώσεις γράφονται: H H Ra r ( X X) a ( X + ) R Αν ο πίνακας είναι µηιδιάζων, τότε οι συντελεστές a(k) που ελαχιστοποιούν το σφάλµα E, είναι: a R r H H ( ) ( + ) a X X X CEID 7-8

27 Η Μέθοδος Prony Το ελάχιστο σφάλµα µοντελοποίησης υπολογίζεται ως εξής: min E, e( n) e( n) e ( n) e( n) ( n) + a ( k) ( n k) n + n + n + k en ( ) ( n) + e( n) a ( k) ( n k) n + n + k n ( ) + akn ( ) ( k) ( n) + a ( k) e( n ) ( n k) n + k k n + n ( ) ( n) + ak ( ) n ( k ) ( n) n + k n + r (,) + a( k) r (, k) k Από αρχή ορθογωνιότητας k,, CEID 7-8 Η Μέθοδος Prony Ακόµα µία εναλλακτική διατύπωση των κανονικών εξισώσεων: Ra r r(,) r(, ) r(, ) a() r(, ) r(,) r(,) r(, ) a() r(,) r(,) r(,) r(, ) a( ) r(,) CEID 7-8 ( + ) ( + ) ( + ) r (,) r(,) r(, ) r(, ) a() r (,) r(,) r(,) r(, ) a() r (, ) (, ) (,) (, ) ( ) r r r a min r(,) r(,) r(,) r(, ) E, r(,) r(,) r(, ) r(, ) a() r(,) r(,) r(,) r(, ) a() r(,) r(,) r (,) r (, ) a( )

28 Η Μέθοδος Prony Τελικά, Ra όπου: E, u a [ () () ( )] T a a a [ ] u T Οι παραπάνω εξισώσεις είναι γνωστές ως επαυξηµένες κανονικές εξισώσεις. Η ανάλυση που προηγήθηκε αφορούσε τους συντελεστές α(k) του παρονοµαστή. Γιαναυπολογίσουµετους συντελεστές b(k) του αριθµητή, θέτουµε τοσφάλµα e(n) για n,,,: n ( ) + akn ( ) ( k) bn ( ) για n,,, k bn ( ) n ( ) + akn ( ) ( k) για n,,, k ηλαδή, οι συντελεστές του αριθµητή υπολογίζονται όπως και στη µέθοδο Padè. CEID 7-8 Η Μέθοδος Shanks Η µέθοδος του Shanks προσπαθεί να ελαχιστοποιήσει το τετραγωνικό σφάλµα µοντελοποίησης ε(n) σε όλο το διάστηµαδεδοµένων, δηλαδή για n,,,... δ( n) hn ( ) n ( ) ε( n) k bk ( ) B ( ) k A ( ) + ak ( ) Σε πρώτο βήµα, η µέθοδος υπολογίζει τους συντελεστές του παρονοµαστή όπως ακριβώς και η µέθοδος Prony: k k min E min e( n), a( k) a( k) n + l alr () ( kl,) r( k,) για k,, όπου r (, ) k l η ντετερµινιστική αυτοσυσχέτιση: (, ) ( ) r ( ) k l n l n k n + CEID 7-8

29 Η Μέθοδος Shanks Σε δεύτερο βήµα γράφουµετοσύστηµα µοντελοποίησης στη µορφή: δ( n) A( ) gn ( ) B ( ) hn ( ) n ( ) ε( n) k bk ( ) B ( ) k A ( ) + ak ( ) Έχοντας υπολογίσει τους συντελεστές a(k), βρίσκουµετηνέξοδοg(n): k { ( )} { δ } Z g n A( ) k Z ( n) ak ( ) + ΑMZ k k k gn ( ) + akgn ( ) ( k) δ( n) Τέλος, υπολογίζουµε τους συντελεστές b(k) µεβάσητοκριτήριο: s b( k ) bk ( ) n k g(n) για n < min E min ε( n) όπου ε ( n) ( n) b( k) g( n k) CEID 7-8 Η Μέθοδος Shanks Εύρεση των συντελεστών b(k) του παρονοµαστή: min E min ε( n) s bk ( ) bk ( ) n E s b ( k) για k,,, Τελικά, προκύπτει το παρακάτω σύστηµα γραµµικών εξισώσεων: l blr () ( kl,) r ( k) για k,,, g g όπου rg ( k, l) η ντετερµινιστική αυτοσυσχέτιση: r ( k, l) g( n l) g ( n k) g n και rg ( k) η ντετερµινιστική ετεροσυσχέτιση: ( ) ( ) r ( ) g k n g n k n CEID 7-8

30 Η Μέθοδος Shanks Παρατηρούµεότι: r ( k, l) g( n l) g ( n k) g n r ( k + m, l+ m) g( n l m) g ( n k m) g n r ( k + m, l+ m) g( i l) g ( i k) g i m r ( k + m, l+ m) g( i l) g ( i k) + g( i l) g ( i k) g i m για kl, i g g g n r ( k + m, l+ m) g( n l) g ( n k) r ( k, l) r ( k l) Αλλαγή µεταβλητών: n - m i g(n) για n < για kl, Επιπλέον: r ( k, l) r ( l, k) r ( k l) r ( l k) g g g g CEID 7-8 Η Μέθοδος Shanks Σε µορφή πινάκων γράφουµε: k : k : k : l blr () ( k l) r ( k) για k,,, b() r () + b() r ( ) + + b( ) r ( ) r () g g g g b() r () + b() r () + + b ( ) r ( ) r () g g g g b() r ( ) + b() r ( ) + + b( ) r () r ( ) g g g g g g r ( ) r ( ) g g r () () ( ) () g rg rg b( ) rg r () () ( ) () g () g rg r r g b r ( ) ( ) ( ) ( ) rg ( ) g rg rg b Rb r g g Hermitian πίνακας (+) (+). Το ελάχιστο σφάλµα µοντελοποίησης είναι: min s E ( n) b( k) r ( k) n k g CEID 7-8

31 Συγκριτικό Παράδειγµα Παράδειγµα: ίνεται το σήµα (n) το οποίο αποτελείται από ένα µοναδιαίο παλµό µήκους N δειγµάτων, δηλαδή: για n,,, N n ( ) αλλού Να κατασκευαστεί το µοντέλο του σήµατος για και µεβάσητις µεθόδους Padè, Prony και Shanks. Το µοντέλο του σήµατος είναι της µορφής: n ( ) δ( n) hn ( ) ε( n) B ( ) b() + b() A( ) + a() CEID 7-8 Συγκριτικό Παράδειγµα Μέθοδος Prony: A) Υπολογισµός των συντελεστών του παρονοµαστή: Οι κανονικές εξισώσεις για γράφονται: l al ( ) r ( k, l) r ( k,) για k,, a () r (,) r (, ) όπου: (, ) ( ) r ( ) k l n l n k n + CEID 7-8 r (,) ( n ) ( n ) N n n N N r (, ) ( n ) ( n ) N n n N a() N

32 Συγκριτικό Παράδειγµα Β) Υπολογισµός των συντελεστών του αριθµητή: en ( ) n ( ) an ( ) bn ( ) Θέτουµε τοσφάλµα ίσο µε µηδέν για n,,, : b( n) n ( ) + akn ( ) ( k) για n,,, k bn ( ) ( n) + a() ( n ) για n, b() () + a() ( ) b() () + a() () N Άρα, το µοντέλο της µεθόδου Prony είναι: + ( N ) ( N )( N ) CEID 7-8 Συγκριτικό Παράδειγµα Το σφάλµα µοντελοποίησης είναι: E r (,) a( k) r (, k) + min, k E r a r min, (,) + () (,) όπου: N r (,) ( n) ( n) N n n N r (,) ( n ) ( n) N n n E min, N N Μέθοδος Shanks: A) Υπολογισµός των συντελεστών του παρονοµαστή (ίδιος µετηµέθοδος Prony): N a() N CEID 7-8

33 Συγκριτικό Παράδειγµα B) Υπολογισµός των συντελεστών του αριθµητή: Γράφουµετοσύστηµα των γραµµικών εξισώσεων: l b() l r ( k l) r ( k); k,,, g g b() r () + b() r () r () g g g b() r () + b() r () r () g g g Υπολογίζουµετησυνάρτησηg(n): G ( ) Z{ g( n) } G ( ) A( ) + a() Z{ δ ( n) } + a() ΑMZ n N gn ( ) [ a() ] un ( ) un ( ) N n CEID 7-8 Συγκριτικό Παράδειγµα Υπολογίζουµετιςτιµές r g (n): r ( k l) g( n l) g( n k) g n N rg () g( n) g( n) n n N N N n n m+ N N N rg () g( n) g( n ) rg () n n N m N N Υπολογίζουµετιςτιµές r g (n) : r ( k) ( n) g( n k) g n N n N N rg () ( n) g( n) ( N ) n n N N N CEID 7-8

34 Συγκριτικό Παράδειγµα N N N rg () ( n) g( n ) ( N ) n n N m N N N n N m N Λύνουµε τοσύστηµα: b() r () + b() r () r () g g g b() r () + b() r () r () g g g b () N N b() ( N ) + N N N To σφάλµα µοντελοποίησης είναι: N N+ min s g g g n k E ( n) b( k) r ( k) N b() r () b() r () CEID 7-8 Συγκριτικό Παράδειγµα Μέθοδος Padé: () b() () () b() a( ) () () + N b() b() a() Άρα, το µοντέλο της µεθόδου Padé είναι: a () b () b () CEID 7-8

35 Συγκριτικό Παράδειγµα signal rony shanks ade 4 E e n n ( ) amlitude samles.8.6 E r 4.43 E sh 3.68 E a rony shanks ade.4. error CEID samles Μοντελοποίηση πόλων (all-ole) Το µοντέλο είναι ένα σύστηµα all-ole µεσυνάρτησηµεταφοράς H(): δ( n) hn ( ) n ( ) ε( n) b() + ak ( ) k k Υπολογίζουµε τους συντελεστές του παρονοµαστή µετηµέθοδο Prony. min E min e( n), a( k) a( k) n όπου: n ( ) + akn ( ) ( k) bn ( ) n k + en ( ) n ( ) an ( ) bn ( ) n ( ) akn ( ) ( k) n k CEID 7-8

36 Μοντελοποίηση πόλων (all-ole) Στον ορισµό τουσφάλµατος Ε, το σήµα e(n) είναι: en ( ) n ( ) + ak ( ) n ( k), n k Παρατηρούµε ότι αν θέσουµε στην παραπάνω έκφραση n, το αποτέλεσµα δεν εξαρτάται από τους συντελεστές α(k). Συνεπώς, το κριτήριο µπορεί να γραφεί: min E min ( n) + a( k) ( n k), a( k) a( k) n k Η λύση του προβλήµατος δίνεται από τις κανονικές εξισώσεις: l alr () ( kl,) r( k,) για k,,, όπου r (, ) k l η ντετερµινιστική αυτοσυσχέτιση: r ( k, l) ( n l) ( n k) n CEID 7-8 Μοντελοποίηση πόλων (all-ole) r ( k, l) r ( k + m, l+ m) r ( k l) Ισχύει: για k, l r ( k, l) r ( l, k) Οι κανονικές εξισώσεις παίρνουν τη µορφή: l alr () ( k l) r( k) για k,,, r () () ( ) () () r r a r r () () ( ) () r () r r a r ( ) ( ) () a( ) r ( ) r r Ra r Συνολικά χρειαζόµαστε µόνο + τιµές αυτοσυσχέτισης Hermitian & Toelit ( ) CEID 7-8

37 Μοντελοποίηση πόλων (all-ole) Το σφάλµα µοντελοποίησης είναι: min, + k E r () a( k) r ( k) Α) Υπολογίζουµε το συντελεστή του αριθµητή µε τηµέθοδο Prony: e() b() () Β) Υπολογίζουµε το συντελεστή του αριθµητή έτσι ώστε η ενέργεια του σήµατος (n) να ισούται µε την ενέργεια του µοντέλου, δηλαδή: r () r () h Στην περίπτωση αυτή, επιλέγουµε: b min () E, CEID 7-8 LS Αντίστροφο Φίλτρο FIR Το πρόβληµα που εξετάζουµε είναι το ακόλουθο: οθέντος ενός αιτιατού φίλτρου g(n), θέλουµενασχεδιάσουµεένα"αντίστροφο" φίλτρο FIR µήκους N, τέτοιο ώστε: g( n) h ( n) δ( n) N GH ( ) ( ) H ( ) G ( ) Το πρόβληµα αυτό βρίσκει ευρεία εφαρµογή στις επικοινωνίες όπου έχουµε µετάδοση σήµατος µέσω ενός καναλιού. Θεωρώντας ότι το κανάλι είναι γραµµικό µεσυνάρτησηµεταφοράς G(), η σχεδίαση του αντίστροφου συστήµατος H() είναι γνωστή ως ισοστάθµιση (eualiation) καναλιού. ( ) G ( ) IN n OUT ( n) IN ( n) GH ( ) ( ) CEID 7-8

38 LS Αντίστροφο Φίλτρο FIR Για την επίλυση του προβλήµατος θα εφαρµόσουµε το κριτήριο των ελαχίστων τετραγώνων (LS: Least Suares). ηλαδή, αναζητούµε τους συντελεστές h(n) για n,,,n-, για τους οποίους ελαχιστοποιείται το παρακάτω σφάλµα: min E min ε( n) N hk ( ) h( k ) n, όπου ε ( n) d( n) g( n) h ( n) N gn ( ) gn ( ) hn ( n) dn ( ) ε( n) και dn ( ) δ( n) δ( n) A( ) gn ( ) gn ( ) bn ( ) B ( ) n ( ) ε( n) Παρατηρούµε ότι το παραπάνω πρόβληµα είναι ίδιο µετοπρόβληµα µοντελοποίησης του Shanks. CEID 7-8 LS Αντίστροφο Φίλτρο FIR Άρα, η λύσητουπροβλήµατος είναι το σύστηµα γραµµικών εξισώσεων: N l h () l r ( k l) r ( k) για k,,, N N g dg όπου r ( k l) g η ντετερµινιστική αυτοσυσχέτιση: r ( k l) g( n l) g ( n k) r ( l k) g n g και r ( ) dg k η ντετερµινιστική ετεροσυσχέτιση: g () για k rdg ( k) d( n) g ( n k) g ( k) n για k > δ( n) CEID 7-8

39 LS Αντίστροφο Φίλτρο FIR Σε µορφή πινάκων γράφουµε: rg() rg() rg( N ) hn () g () rg() rg() rg( N ) hn () rg( N ) rg( N ) rg( ) hn ( N ) Rh g N g () u Hermitian πίνακας Ν Ν Το σφάλµα µοντελοποίησης είναι: N min N δ N dg n k E ( n) h ( k) r ( k) E h () g () min * N N CEID 7-8 LS Αντίστροφο Φίλτρο FIR a Παράδειγµα: g(n) δ(n) - αδ(n-), όπου πραγµατικός αριθµός. gn ( ) δ( n) aδ( n ) G ( ) a r ( k l) g( n l) g( n k) g n [ δ( n k) aδ( n k )][ δ( n l) aδ( n l )] n + a για k l + a για n a για k l+ rg ( n) a για n a για k l για n,, N αλλού CEID 7-8

40 LS Αντίστροφο Φίλτρο FIR Η λύση του προβλήµατος LS inverse filtering είναι: rg() rg() rg( N ) hn () g() rg() rg() rg( N ) hn () rg( N ) rg( N ) rg () hn ( N ) + a a hn () hn ( ) a a + a hn ( N ) + + ( a ) hn() ahn() ah n + ( + a ) h n ah n+ ) για n,,, N N( ) N( ) N( ah N + ( + ) h N ) N( ) a N( CEID 7-8 LS Αντίστροφο Φίλτρο FIR Ηεξίσωση ah ( n ) + ( +a ) h ( n) ah ( n+ ) N N N h N( n+ ) a ( + a ) hn( n) + hn( n ) είναι µια οµογενής εξίσωση διαφορών δεύτερης τάξης µε σταθερούς συντελεστές και χαρακτηριστικό πολυώνυµο: a a ( + ) + Η διακρίνουσα είναι [( a ) / a] άρα το πολυώνυµο έχειπραγµατικές λύσεις. Για >, δηλαδή α ±, προκύπτει: a και a CEID 7-8

41 LS Αντίστροφο Φίλτρο FIR Η λύση της εξίσωσης διαφορών είναι: h N ( n) c + c n n ( ) n n hn n ca + ca για n,,, N n h ( n) ( ca + ca )[ u( n) u( n N) ] N n a a H ( ) c + c a a N N N N όπου c και c είναι σταθερές, οι οποίες υπολογίζονται από τις οριακές συνθήκες: + + ah N + + a h N a + ( a ) hn() ahn() c a c N N ( ) ( ) N ( ) c c c c a a a N N N+ /( ) a a a N N N+ /( ) h N n N N n a a ( n) για n,., N N N+ a a CEID 7-8 LS Αντίστροφο Φίλτρο FIR Το σφάλµα µοντελοποίησης είναι: E h () g() min N N E a a a a N N+ min N N N+ Ηαπαίτηση gn ( ) h( n) δ( n) θαµπορούσε να τεθεί: N gn ( ) h( n) δ( n n) N όπου n µικρότερο από N. Στην περίπτωση αυτή η ντετερµινιστική ετεροσυσχέτιση r ( ) γράφεται: dg k g ( n k) για k,..., n rdg ( k) δ( n n ) g ( n k) g ( n k) n για k > n CEID 7-8

42 LS Αντίστροφο Φίλτρο FIR Συνεπώς: g ( n ) rg() rg() rg( N ) hn ( ) rg() rg() rg( N ) hn () g () r g( N ) rg( N ) rg() hn ( N ) Το σφάλµα µοντελοποίησης είναι: n min N δ N dg n k E ( n n ) h ( k) r ( k) n + N n min N n E h ( k) g ( n k) k N CEID 7-8 Άµεση Μέθοδος Εξετάζουµε τοπρόβληµα µοντελοποίησης ενός ντετερµινιστικού σήµατος (n) ως η κρουστική απόκριση ενός αιτιατού ΓΧΑ φίλτρου, το οποίο έχει συνάρτηση µεταφοράς H() µε πόλους και µηδενικά. n ( ) bk ( ) hn ( ) ε( n) B ( ) k δ( n) A ( ) + ak ( ) k k k ε ( n) ( n) h( n) MΦ Χ jω jω E( e ) X( e ) jω B( e ) jω A( e ) Κριτήριο ελαχίστων τετραγώνων: min E min ε( n) LS a( k), b( k) a( k), bk ( ) n CEID 7-8

43 Άµεση Μέθοδος Άµεση (direct) µέθοδος: min E min ε( n) LS a( k), b( k) a( k), bk ( ) n ELS για k,,, a ( k) KAI ELS για k,,, b ( k) Από θεώρηµα Parseval: n jω ε ( n) ( e ) dω π E π π π jω ELS ( e ) dω π E π CEID 7-8 Άµεση Μέθοδος Άρα: ΜΗ ΓΡΑΜΜΙΚΕΣ ΕΞΙΣΩΣΕΙΣ π { } π jω jω jω E { E E } ELS ( e ) dω ( e ) ( e ) dω a ( k) π a ( k) π a ( k) π π jω jω jω Be ( ) jω B( e ) X( e ) X ( e ) d jω jω ω π a ( k) Ae ( ) A( e ) π π π jω jω Be ( ) jω X( e ) B ( e ) jω jω π Ae ( ) d ω a ( k) A( e ) π π jω jωk jω Be ( ) jω e X( e ) B ( e ) dω jω π Ae ( ) jω π A ( e ) για k,,, π jω jωk ELS jω B( e ) e X( e ) dω jω jω b ( k) π A( e ) A ( e ) π για k,,, CEID 7-8

44 Μέθοδος Αυτοσυσχέτισης (all-ole) Ας υποθέσουµε ότι το σήµα (n) είναι γνωστό µόνο σε ένα διάστηµα [,Ν] και έστω ότι θέλουµεναµοντελοποιήσουµε (προσεγγίσουµε) το σήµα µέσω ενός allole µοντέλου. Στην περίπτωση αυτή, κατασκευάζουµεένανέο σήµα ( n) εφαρµόζοντας ένα τετραγωνικό παράθυρο στο αρχικό σήµα (n): για n,,, N n ( ) nw ( ) R( n) όπου wr( n) αλλού Με τον τρόπο αυτό, υποθέτουµεότιτοσήµα (n) είναι µηδέν εκτός του διαστήµατος [,Ν]. Στη συνέχεια, χρησιµοποιώντας τη µέθοδο Prony κατασκευάζουµεέναall-ole µοντέλο για το σήµα ( n). CEID 7-8 Μέθοδος Αυτοσυσχέτισης (all-ole) Υπολογισµός συντελεστών παρονοµαστή: l a() l r ( k l) r ( k) για k,,, ντετερµινιστική αυτοσυσχέτιση: ( ) ( ) ( ) ( ) r ( ) k n n k n n k n N n k min, + k E r () a( k) r ( k) Υπολογισµός συντελεστή αριθµητή: b min () E, Η παραπάνω µέθοδος ονοµάζεται ΜΕΘΟ ΟΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ. CEID 7-8

45 Μέθοδος Αυτοσυσχέτισης (all-ole) Στη µέθοδο Prony είχαµεορίσει(γενικά για ero-ole µοντέλα): ( ) ( ) ( + ) ( + ) ( + ) ( ) ( + ) ( + ) X + ( + ) ( + ) ( + 3) ( + 3) και είχαµε δείξει ότι οι κανονικές εξισώσεις γράφονται: H H ( X X) a ( X + ) CEID 7-8 Μέθοδος Αυτοσυσχέτισης (all-ole) Για τη µέθοδο αυτοσυσχέτισης προκύπτει: ( ) () () ( ) ( ) () X N ( ) N ( ) N ( ) N ( ) N ( ) N ( + ) N ( ) N ( + ) ( N + ) N ( ) () () (3) N ( ) N ( ) ( N + ) CEID 7-8

46 Μέθοδος Συνδιασποράς (all-ole) Στην µέθοδο αυτή, δεν κάνουµεκαµία υπόθεση για το σήµα εκτόςτου διαστήµατος [,N], αλλά τροποποιούµε το κριτήριο εντός του διαστήµατος: N min E min n ( ) + akn ( ) ( k), a( k) a( k) n k Υπολογισµός συντελεστών παρονοµαστή: Παρατηρείστε ότι µόνο για τιµές στο διάστηµα [,N] το σφάλµα εξαρτάται από γνωστές τιµές του σήµατος (n). l a() l r ( k, l) r ( k,) για k,,, ντετερµινιστική αυτοσυσχέτιση: C { } E r (,) a( k) r (, k) +, min k N r ( k, l) ( n l) ( n k) n CEID 7-8 Μέθοδος Συνδιασποράς (all-ole) Υπολογισµός συντελεστή αριθµητή: b min () E, Η παραπάνω µέθοδος ονοµάζεται ΜΕΘΟ ΟΣ ΣΥΝ ΙΑΣΠΟΡΑΣ. Για τη µέθοδο συνδιασποράς ισχύει: X ( N + ) ( ) ( ) () ( ) ( ) () ( N ) ( N ) ( N ) ( ) ( + ) ( N + ) ( N) Παρατηρείστε ότι οι πίνακες είναι ίδιοι µε τους υποπίνακες της µεθόδου αυτοσυσχέτισης, οι οποίοι αντιστοιχούν σε γραµµικές εξισώσεις που δεν χρειάζονται τιµές του σήµατος (n) έξω από το διάστηµα [,Ν]. CEID 7-8

47 Σύγκριση µεθόδων για µοντέλα all-ole Παράδειγµα: ίνεται το σήµα (n) για το οποίο γνωρίζουµετις πρώτες τιµές: [, -,, -,,, -]. Θέλουµε να κατασκευάζουµεέναµοντέλο all-ole µε χρησιµοποιώντας τις µεθόδους αυτοσυσχέτισης και συνδιασποράς. Το µοντέλο του σήµατος είναι: b() + a() + a() Παρατηρείστε ότι : n ( ) ( ) n για n,,, n CEID 7-8 Σύγκριση µεθόδων για µοντέλα all-ole Μέθοδος αυτοσυσχέτισης: Κατασκευάζουµετοσήµα: Γράφουµε τις κανονικές εξισώσεις: n ( ) για n,,,9 n ( ) αλλού l a() l r ( k l) r ( k) ; k, όπου: 9 r( k) nn ( ) ( k) n k r() r() a() r() 9 a() 9 a().9744 r() r() a() r() 9 a() 8 a().56 min, () + ( ) ( ).9487 k b. E r a k r k.396 Τελικά: ( ) 9487 CEID 7-8

48 Σύγκριση µεθόδων για µοντέλα all-ole Μέθοδος συνδιασποράς: Γράφουµε τις κανονικές εξισώσεις: l όπου: a( l r ( k, l) r ( k,) ; k, ) r(,) r(, ) a() r(,) 8 8 a() 8 r(,) r(,) a() r(,) 8 8 a() 8 9 r ( k, l) ( n l) ( n k) det Το αποτέλεσµαδηλώνειότιθαµπορούσαµε να κατασκευάσουµεέναµοντέλο χαµηλότερης τάξης:. Θέτουµε α(), οπότε α(). C { }, min Τελικά: + n E r (,) + a() r (,) b () CEID 7-8 Σύγκριση µεθόδων για µοντέλα all-ole Μέθοδος αυτοσυσχέτισης: Οι κανονικές εξισώσεις σε µορφή πινάκων διατηρούν τη δοµή Toelit, και συνεπώς µπορούν να επιλυθούν µε µεθόδους χαµηλής πολυπλοκότητας. Η παραθύρωση των δεδοµένων µειώνει την ακρίβεια του µοντέλου, αλλά διασφαλίζει την ευστάθεια. Ηακρίβειαµοντελοποίησης µπορεί να βελτιωθεί µετηνεφαρµογή διαφορετικού τύπου παραθύρου, ώστε να µειωθεί η επίδραση της ασυνέχειας (edge effect) του τετραγωνικού παραθύρου στα όρια του διαστήµατος. Μέθοδος συνδιασποράς: Οι κανονικές εξισώσεις σε µορφή πινάκων δεν έχουν δοµή Toelit. Το µοντέλο είναι πιο ακριβές, αλλά δεν εξασφαλίζεται η ευστάθεια. CEID 7-8

49 Μοντέλα ARMA Εξετάζουµε το πρόβληµα µοντελοποίησης ενός WSS στοχαστικού σήµατος (n) ως η κρουστική απόκριση ενός αιτιατού ΓΧΑ φίλτρου µεσυνάρτησηµεταφοράς H(), µε πόλους και µηδενικά, και είσοδο µια διαδικασία λευκού θορύβου µε µοναδιαία διασπορά. n ( ) k bk ( ) un ( ) n ˆ( ) ε( n) B ( ) k A ( ) + ak ( ) σ u k k Ηέξοδοςτουµοντέλου είναι µια διαδικασία ARMA(,), όπου η ακολουθία αυτοσυσχέτισης ικανοποιεί τις εξισώσεις Yule-Walker: ( ) + ( ) ( ) σu ( ) l r k a l r k l c k CEID 7-8 Μοντέλα ARMA k ( ) ( ) ; όπου: ( ) bk+ lh l k { ( ) r και ck ( ) k E n ( n k ) } l ; k > Για k > οι εξισώσεις Yule-Walker γράφονται σε µορφή πινάκων: ( ) ( + ) r( + ) r( ) r( + ) r( + ) r( + ) r( + ) a() r( + ) r( + ) r( ) a( ) ( ) ( ) r( ) r( + ) a() r( + ) r( + ) r( + ) a() r( + ) r( + ) r( ) a ( ) r( + ) Οι παραπάνω εξισώσεις ονοµάζονται Τροποποιηµένες Εξισώσεις Yule-Walker. CEID 7-8

50 Μοντέλα ARMA Από τις MYWE (modified Yule-Walker euations) µπορούµε να υπολογίσουµε τους συντελεστές του παρονοµαστή αν γνωρίζουµετιςτιµές της αυτοσυσχέτισης. Όταν η ( ) { ( ) r k E n ( n k ) } δεν είναι γνωστή, τότε µπορούµενατην εκτιµήσουµεαπόταδείγµατα του σήµατος: N rˆ ( k) ( n) ( n k) N n Έχοντας υπολογίσει τις τιµές α(k), γράφουµε τις εξισώσεις Yule-Walker σε µορφή πινάκων για k και λύνουµεωςπροςc(k): ( + ) ( + ) r() r( ) r( ) c() r() r() r( + ) a() c() r( ) r( ) r( ) a( ) c ( ) CEID 7-8 Μοντέλα ARMA Για την ακολουθία c(k) γνωρίζουµεόλεςτιςτιµές για k. ΟρίζουµετουςMZ για το αιτιατό και το µη αιτιατό τµήµα της ακολουθίας c(k): [ C] k + [ C] k ( ) ck ( ) ( ) ck ( ) k k Από τον ορισµό: ck ( ) bk ( ) h( k) C ( ) BH ( ) (/ ) B (/ ) C ( ) B ( ) A (/ ) CA ( ) (/ ) B ( ) B ( ) P ( ) / y [ ( )] C A (/ ) Παρατηρούµε ότι και έχουν µόνο θετικές δυνάµεις του : [ ] [ ] [ ] Py ( ) C ( ) A(/ ) + C ( ) A(/ ) Py ( ) C ( ) A(/ ) CEID 7-8

51 Μοντέλα ARMA Συνεπώς, απότοαιτιατότµήµα της ακολουθίας c(k) και τους συντελεστές α(k), µπορούµε να υπολογίσουµετοαιτιατό τµήµα P ( ) y. + Από την ιδιότητας της συµµετρίας του φάσµατος, µπορούµε στη συνέχεια να υπολογίσουµετιςτιµές P y () για κάθε. Py ( ) B( B ) (/ ) Φάσµα µιας MA διαδικασίας Τελικά εφαρµόζοντας παραγοντοποίηση φάσµατος στη συνάρτηση P y () βρίσκουµετοπολυώνυµο B() και άρα τους συντελεστές του αριθµητή b(k) για k,,,. CEID 7-8 Μοντέλα ARMA Παράδειγµα: Να βρεθεί το µοντέλο ARMA(,) µιας στοχαστικής διαδικασίας µεπραγµατικές τιµές, όταν r () 6, r () 7 και r () 3.5. Το µοντέλο της διαδικασίας είναι: b() + b() + a() Οι εξισώσεις Yule-Walker γράφονται: r() r() c() r() r() c() a() r() r( ) Το υποσύστηµα MYWE είναι : r () + a() r () a(). 5 Στη συνέχεια, λύνουµε τις εξισώσεις YW για k,,,: r( ) r() c() c().5 r() r() a() c() c() 6 CEID 7-8

52 Μοντέλα ARMA Ορίζουµε το αιτιατό τµήµατουmz της ακολουθίας c(k): [ ( )] ( ) k C ck c() + c() k A (/ ) Υπολογίζουµετοµέγεθος : A( ) + a() A( ).5 A (/ ).5 Υπολογίζουµε το αιτιατό τµήµα της συνάρτησης P y (): [ ] Py ( ) C( ) A (/ ) (.5 6 )(.5 ) Από τη συµµετρία του φάσµατος προκύπτει: P ( ) y + CEID 7-8 Μοντέλα ARMA Με παραγοντοποίηση έχουµε: P y ( ) 4(.5 )(.5 ) B( B ) (/ ) B ( ) 4(.5 ) Συνεπώς: b() + b() a().5 CEID 7-8

53 Μοντέλα AR Στην περίπτωση αυτή, ησυνάρτησηµεταφοράς H() έχει πόλους και µηδενικά. n ( ) b() un ( ) n ˆ( ) ε( n) k +ak ( ) k σ u Ηέξοδοςτουµοντέλου είναι µια διαδικασία AR(), καιοιεξισώσειςyule- Walker γράφονται: r ( k) + a( l) r ( k l) b() δ( k) ; k l Αν γνωρίζουµετιςτιµές της αυτοσυσχέτισης, λύνουµε το παραπάνω σύστηµα για k,,, και βρίσκουµε τους συντελεστές του παρονοµαστή α(k). Κατόπιν, για k υπολογίζουµετοσυντελεστήb(). CEID 7-8 Μοντέλα ΜΑ Στην περίπτωση αυτή, ησυνάρτησηµεταφοράς H() έχει πόλους και µηδενικά. n ( ) n ˆ( ) ε( n) k un ( ) b( k) k σ u Ηέξοδοςτουµοντέλου είναι µια διαδικασία MA(), καιοιεξισώσειςyule- Walker γράφονται: k r ( k) b( k) b ( k) b( l+ k ) b ( l) l Οι παραπάνω εξισώσεις είναι µη γραµµικές. CEID 7-8

54 Μοντέλα ΜΑ Η διαδικασία n ˆ( ) είναι MA διαδικασία και ως τέτοια έχει φάσµα: P ( ) B( ) B (/ ) όπου B( ) b( k) ˆ k Επίσης, από τις εξισώσεις YW προκύπτει ότι r (k) για k >. Συνεπώς το φάσµαείναιπολυώνυµοτηςµορφής: k + k k k ˆ ( ) ( ) () ( βk ) ( βk ) k k k P r k b Εφαρµόζοντας παραγοντοποίηση φάσµατος µπορούµεναγράψουµε: k ˆ σ σ γ k γ k k k k P ( ) Q( ) Q(/ ) ( ) ( ) H ( ) σq( ) CEID 7-8 Παράδειγµα: Εκτίµηση Φάσµατος Παράδειγµα: Έστω ότι γνωρίζουµε N δείγµατα για την AR(4) διαδικασία (n)µετουςπαρακάτωσυντελεστές. Θέλουµεναεκτιµήσουµετοφάσµατης διαδικασίας (n). un ( ) σ u AR(4) n ( ) ak ( ) k a().7348; a().88; a(3).775; a(4).885; k amlitude samles CEID 7-8

55 Παράδειγµα: Εκτίµηση Φάσµατος Υπολογίζουµε την αυτοσυσχέτιση r (n): N rˆ ( k) nn ( ) ( k) N n A) Υπολογίζουµε το ΜΦ Χ της αυτοσυσχέτισης: N + ˆ ( jω P e ) r ( k ) e k N+ jωk ˆ ( jω ) ( jω P e XN e ) N Περιοδόγραµµα (eriodogram) B) Μοντελοποιούµετοσήµα (n) ως µιας διαδικασία AR(4), δηλαδή από το σύστηµα εξισώσεων Yule-Walker, προσπαθούµεναεκτιµήσουµετους συντελεστές b(), α()-α(4) και στη συνέχεια να εκτιµήσουµετοφάσµα: bˆ() ˆ ( jω ) + ˆ k P e ak ( ) k CEID 7-8 Παράδειγµα: Εκτίµηση Φάσµατος Κατασκευάζουµε τις εξισώσεις Yule-Walker: 4 r ( k) + al () r ( k l) b( ) δ( k) ; k l Λύνουµετοσύστηµαγιαk,, και βρίσκουµετουςσυντελεστέςα(k): r() r() r() r(3) a() r() r() r() r() r() a() r() r() r() r() r() a(3) r(3) r(3) r() r() r( ) a(4) r(4) R a r Για k υπολογίζουµετοσυντελεστήb(k): T b() r () +ra CEID 7-8

56 Παράδειγµα: Εκτίµηση Φάσµατος 4 4 ideal N 8 N 8 eriodogram 3 3 ideal YW Magnitude (db) Magnitude (db) Freuency (units of i) N 4 ideal N 4 eriodogram Freuency (units of i) ideal YW Magnitude (db) Magnitude (db) Freuency (units of i) CEID Freuency (units of i) Μοντελοποίηση Σήµατος Άσκηση 4.7 (M. Hayes): Θέλουµενασχεδιάσουµεέναµοντέλο της µορφής H() B()/A() για το άγνωστο σύστηµα S, σύµφωνα µετηµέθοδο του Σχήµατος. Να υπολογιστούν οι συντελεστές α(k) και b(k) οι οποίοι ελαχιστοποιούν το σφάλµα E e( n). n n ( ) S yn ( ) A( ) en ( ) n ( ) B ( ) CEID 7-8

57 Μοντελοποίηση Σήµατος min E min e( n) a( k), b( k) a( k), b( k ) n E για k,,, a ( k) KAI E για k,,, b ( k) Το σήµα e(n) γράφεται: en ( ) yn ( ) an ( ) n ( ) bn ( ) en ( ) yn ( ) + ak ( ) yn ( k) bkn ( ) ( k) k k E( ) Y( ) A( ) X( ) B( ) MΖ όπου A( ) a( k) + k k και B ( ) bk ( ) k k CEID 7-8 Μοντελοποίηση Σήµατος Άρα: E en ( ) ene ( ) ( n) a ( k) a ( k) n a ( k) n en ( ) { e( n) } eny ( ) ( n k) a ( k) n l n n yn ( ) + alyn ( ) ( l) bmn ( ) ( m) y( n k) n l m yny ( ) ( n k) + al ( ) yn ( l) y ( n k) b( m) ( n m) y ( n k) n m n r (,) y k ry ( k, l) ry ( k, m) CEID 7-8

58 Μοντελοποίηση Σήµατος Οµοίως: E b ( k) en ( ) ( n k) n yn ( ) + alyn ( ) ( l) bmn ( ) ( m) ( n k) n l m y( n) ( n k) + a( l) y( n l) ( n k) b( m) ( n m) ( n k) n l n m n r (,) y k r (, ) y k l r (, ) k m CEID 7-8 Μοντελοποίηση Σήµατος Τελικά: E r ( k,) + a() l r ( k, l) b( m) r ( k, m) a ( k) k,,, y y y l m για E r ( k,) + a() l r ( k, l) b( m) r ( k, m) b ( k) k,,, y y l m για όπου r (, ) u k l η ντετερµινιστική αυτοσυσχέτιση: (, ) ( ) r ( ) u k l u n l u n k n και r ( ) uv k η ντετερµινιστική ετεροσυσχέτιση: ( ) ( ) r ( ) uv k u n v n k n CEID 7-8

59 Μοντελοποίηση Σήµατος Το ελάχιστο σφάλµα είναι: Emin e( n) e ( n) e( n) y ( n) + a ( k) y ( n k) b ( k) ( n k) n n k k eny ( ) ( n) + en ( ) a( k) y( n k) en ( ) b( k) ( n k) n n k n k en ( ) y ( n) + a ( k) e( n) y ( n k) n k n k n yn ( ) + ak ( ) yn ( k) bkn ( ) ( k) y( n) n k k n k n k n y y y k k b ( k) e( n) ( n k) y( n) y ( n) + a( k) y( n k) y ( n) b( k) ( n k) y ( n) r(,) + akr ( ) (, k) bkr ( ) (, k) CEID 7-8