EΦΑΡΜΟΓΕΣ ΤΗΣ ΨΗΦΙΑΚΗΣ ΕΠΕΞΕΡΓΑΣΙΑΣ ΣΗΜΑΤΩΝ. Γραµµική Εκτίµηση Τυχαίων Σηµάτων

Transcript

1 EΦΑΡΜΟΓΕΣ ΤΗΣ ΨΗΦΙΑΚΗΣ ΕΠΕΞΕΡΓΑΣΙΑΣ ΣΗΜΑΤΩΝ Γραµµική Εκτίµηση Τυχαίων Σηµάτων Εµµανουήλ Ζ. Ψαράκης Πολυτεχνική Σχολή Τµήµα Μηχανικών Η/Υ & Πληροφορικής

2 Γραµµική Εκτίµηση Τυχαίων Σηµάτων FIR φίλτρα: Ορίζουµε τις ποσότητες: q A { 0,1,..., N 1} N [ χ, ς χ, ς χ, ς t N [ 0 1 N 1] r (0) r (1) r ( N 1)] t R N r xx r r xx xx ( N (0) (1) 1) r r xx xx (1) (0) r xx (1) r xx ( N 1) rxx (1) rxx (0) Εξισώσεις Wieer-Hopf: R N N q N 2

3 Τι γίνεται όταν τα στοχαστικά σήµατα δεν είναι από κοινού ασθενώς στάσιµα; Για την ίδια περίπτωση ο γραµµικός εκτιµητής θα είναι της µορφής: + 1 0, ˆ N d χ ς Όταν τα στοχαστικά σήµατα είναι από κοινού ασθενώς στάσιµα Για την περίπτωση, για παράδειγµα, των FIR φίλτρων ο γραµµικός εκτιµητής θα είναι της µορφής: ˆ N d χ ς Γραµµική Εκτίµηση Τυχαίων Σηµάτων 3

4 Γραµµική Εκτίµηση Τυχαίων Σηµάτων Δηλαδή, η ντετερµινιστική ακολουθία { σχέση: θα είναι χρονικά µεταβαλλόµενη, και η λύση του προβλήµατος βελτιστοποίησης: { d πολύ δύσκολη!!! ˆ ς d + N 1 0,, χ { mi Ε ( ς d },{, } } που υπεισέρχεται στη, ) 2 } χ 4

5 Προσαρµοστικά Φίλτρα Μπορούµε να απλοποιήσουµε το πρόβληµα αν κάνουµε άρση της απαιτήσεώς µας η ακολουθία {, } να ελαχιστοποιεί το ΜΤΣ κάθε χρονική στιγµή και αντ αυτού να απαιτήσουµε οι όροι της ντετερµινιστικής ακολουθίας να ενηµερώνονται από την ακόλουθη αναδροµική σχέση : 1,, + δ,, 0,1,, 1 + N δ, όπου η διόρθωση του -οστού συντελεστή της κρουστικής απόκρισης του φίλτρου τη χρονική στιγµή. Διανυσµατική µορφή Αναδροµικής σχέσης: +1 + Δ 5

6 Προσαρµοστικά Φίλτρα Απαιτήσεις: 1. Στην περίπτωση των από κοινού ασθενώς στάσιµων σηµάτων lim µε τη λύση Wieer 2. Θα θέλαµε να µην είναι αναγκαία η γνώση των στατιστικών των σηµάτων στον υπολογισµό των διορθώσεων 3. Στην περίπτωση στασιµότητας θα θέλαµε το φίλτρο να µπορεί να παρακολουθεί τις αλλαγές των στατιστικών των σηµάτων. 6

7 2 o J( ) Ε{ ε } Ε{( ς ˆ ς ) } Ε{( ς χ Προσαρµοστικά Φίλτρα Το φίλτρο της απότοµης κατάβασης Θέλουµε να λύσουµε το ακόλουθο πρόβληµα ελαχιστοποίησης: o 2 o o t ) 2 } mi J( ) ή ισοδύναµα: J( ) 0 7

8 Το φίλτρο της απότοµης κατάβασης 1, 1,2,, ) (,,, 1 + N J µ } { ) ( 2 J ε Ε όπου Δ + Ε + Ε + + } { } ) ˆ {( 1 Χ Χ ε µ ς ς µ ή ισοδύναµα: Αναδροµή: 8 Προσαρµοστικά Φίλτρα

9 Προσαρµοστικά Φίλτρα ς χ H (z) ςˆ ε ς ˆ ς ΔH (z) Προσαρµοστικός Αλγόριθµος 9

10 Προσαρµοστικά Φίλτρα ς χ H(z) ςˆ ε ς ˆ ς 10

11 Προσαρµοστικά Φίλτρα 1. Στην περίπτωση των από κοινού ασθενώς στάσιµων σηµάτων lim µε τη λύση Wieer + µ Ε{( ς ˆ ς ) } + µ ( rχ, ς + 1 Χ Rχχ ) 11

12 Αναδροµικοί Αλγόριθµοι Γενική µορφή Αναδροµικών Αλγορίθµων: µ H ( 1, x 1 ) όπου: : x : H (.,.) µ : : Ποσότητα που θέλουµε να εκτιµήσουµε. Δεδοµένα (τυχαία). Μη γραµµική διανυσµατική συνάρτηση της ποσότητας που θέλουµε να εκτιµήσουµε και των δεδοµένων. Βήµα, συνήθως µια πολύ µικρή ποσότητα. 12

13 Αναδροµικοί Αλγόριθµοι Θεωρήστε το ακόλουθο πρόβληµα ελαχιστοποίησης: όπου Φ(.) mi Φ ( ) γνωστή συνάρτηση. Η λύση του προβλήµατος είναι τα σηµεία εκείνα στα οποία: Φ( ) 0 13

14 Αναδροµικοί Αλγόριθµοι Ας ορίσουµε τη ντετερµινιστική αναδροµική σχέση: 1 µ Φ( 1) όπου ντετερµινιστικές ποσότητες. Αν η παραπάνω αναδροµική σχέση συγκλίνει µε κάποια έννοια, τότε: lim και εποµένως. Δηλαδή, το είναι η λύση του προ- βλήµατος ελαχιστοποίησης. µ Φ( Φ( ) 0 ) 14

15 Αναδροµικοί Αλγόριθµοι Ας υποθέσουµε τη ντετερµινιστική αναδροµική σχέση: 1 µ Ψ( 1) όπου ντετερµινιστικές ποσότητες. Τα ερωτήµατα στα οποία θα πρέπει να δώσουµε απάντηση είναι: 1. Ποια είναι τα πιθανά σηµεία σύγκλισης; 2. Είναι ευσταθή, ολικά, τοπικά; 3. Ποια η ταχύτητα σύγκλισης της αναδροµής στα σηµεία αυτά; 15

16 Αναδροµικοί Αλγόριθµοι 1. Ποια είναι τα πιθανά σηµεία σύγκλισης; Τα πιθανά σηµεία σύγκλισης είναι τα σηµεία ισορροπίας της συνάρτησης, δηλαδή τα σηµεία στα οποία. Ψ(.) Ψ( ) Στη συνέχεια θα δώσουµε απάντηση στα υπόλοιπα ερωτήµατα διακρίνοντας τις ακόλουθες περιπτώσεις: Α. Η διανυσµατική συνάρτηση είναι γραµµική συνάρτηση του. Β. Η διανυσµατική συνάρτηση είναι µη γραµµική συνάρτη- ση του. Ψ(.) Ψ(.) 0 16

17 Αναδροµικοί Αλγόριθµοι Α. Η διανυσµατική συνάρτηση Ψ(.) είναι γραµµική συνάρτηση του Ψ ( R 1 1) και εποµένως το επιθυµητό σηµείο ισορροπίας ικανοποιεί την Ψ( ) 0 R Κάτω από ποιες προϋποθέσεις το σηµείο σηµείο ισορροπίας; Κάτω από ποιες προϋποθέσεις το µείο ισορροπίας; 0 0 είναι το µοναδικό δεν είναι το µοναδικό ση- 17

18 Αναδροµικοί Αλγόριθµοι Ας υποθέσουµε ότι το µητρώο R είναι αντιστρέψιµο. Στην περίπτωση αυτή µας ενδιαφέρει να δούµε κάτω από ποιες προϋποθέσεις η αναδρο- µική σχέση συγκλίνει στο µοναδικό σηµείο ισορροπίας 0. Άρα θέλουµε να δούµε κάτω από ποιες προϋποθέσεις: 1 lim lim( I µ R) lim( I µ R) 0 Αν υποθέσουµε επιπλέον ότι το µητρώο R είναι Ερµιτιανό και θετικά ορισµένο, τότε R UΛU και εποµένως θέλουµε να δούµε κάτω από ποιες προϋποθέσεις το: lim( Λ µ ) ˆ 0 0 H I 18 0

19 Αναδροµικοί Αλγόριθµοι lim( Λ I µ ) ˆ 0 0 Άρα θέλουµε : max 1 µλ < 1 i 2 ή ισοδύναµα: 0 < µ <, µε λ max max{ λi}. λ i max Ορίζουµε τώρα σαν εκθετική ταχύτητα σύγκλισης το όριο: i u lim l( ) umi l( 1 µλ και εποµένως:, µε λ mi{ λ }. mi ) mi i i 19

20 Β. Η διανυσµατική συνάρτηση Ψ(.) είναι µη γραµµική συνάρτηση του, και ας υποθέσουµε ότι: Άρα η αναδροµική σχέση: Αναδροµικοί Αλγόριθµοι 1 + Δ 1 Δηλαδή βρισκόµαστε κοντά στο σηµείο ισορροπίας. Τότε Ψ( ) Ψ( + Δ 1) Ψ( ) + Ψ( ) Δ Ψ ( 1 ) Ψ( ) Δ ή ισοδύναµα: 1 1 µ Ψ( 1)... γράφεται ως Δ ˆ) ( I µ R Δ 1 20

21 Εφαρµογές Προσαρµοστικών Αλγορίθµων Καταστολή Παρεµβολής χ Προσαρµοστικό Φίλτρο ςˆ ε ς ˆ ς ς 21

22 Εφαρµογές Προσαρµοστικών Αλγορίθµων Πρόβλεψη χ Καθυστέρηση Προσαρµοστικό Φίλτρο ςˆ ε ς ˆ ς ς 22

23 Εφαρµογές Προσαρµοστικών Αλγορίθµων Αντίστροφη Μοντελοποίηση χ Άγνωστο Σύστηµα Προσαρµοστικό Φίλτρο ς ε ς ˆ ς Καθυστέρηση ςˆ 23

24 Εφαρµογές Προσαρµοστικών Αλγορίθµων Ταυτοποίηση Αγνώστου Συστήµατος χ Άγνωστο Σύστηµα ε ς ς ˆ ς Προσαρµοστικό Φίλτρο ςˆ 24