Προσαρµοζόµενα Φίλτρα

Προσαρµοζόµενα Φίλτρα (adaptive filters) 8.1 Εισαγωγικά Τα ψηφιακά φίλτρα έχουν µία τροµερά µεγάλη διάδοση και εφαρµογή. Χαρακτηριστικές περιπτώσεις είναι η απόρριψη ή ενίσχυση φασµατικών περιοχών, µεταβολή σε ρυθµούς µετάδοσης απόρριψη θορύβου κ.α. Η ιδέα να γίνεται προσαρµογή στα ψηφιακά φίλτρα δηλαδή να µεταβάλλονται οι συντελεστές σύµφωνα µε κάποιο αλγόριθµο αντιµετωπίζει τις περιπτώσεις που δεν γνωρίζουµε εκ των προτέρων την επιζητούµενη επεξεργασία η οποία όµως εµφανίζεται ταυτόχρονα µε την εµφάνιση του σήµατος. Τα προσαρµοζόµενα φίλτρα ρυθµίζονται στο «άγνωστο» περιβάλλον και παρακολουθούν τα µεταβαλλόµενα χαρακτηριστικά του σήµατος.

Προσαρµοζόµενα Φίλτρα 8.1.1 Πρώτη προσέγγιση Τα προσαρµοζόµενα φίλτρα (και τα αντίστοιχα συστήµατα) είναι (συνήθως) FIR φίλτρα µε µεταβαλλόµενους συντελεστές. Οι συντελεστές h() µεταβάλλονται συνήθως σε κάθε χρονική στιγµή µε τέτοιο τρόπο ώστε να ελαττώσουν κάποια συνάρτηση κόστους - σφάλµατος. x() Η (z) y() Σχήµα 8. 1 Ενα "adaptive" σύστηµα. Οι συντελεστές h (k) εξαρτώνται από την χρονική στιγµή. Βασικό στοιχείο σε ένα adaptive σύστηµα είναι η ύπαρξη µίας επιθυµητής απόκρισης. Ο όρος επιθυµητή δεν συνεπάγεται ότι γνωρίζουµε την απόκριση αυτή. Σε κάθε όµως περίπτωση το σήµα εισόδου συγκρίνεται µε κάποιο επιθυµητό σήµα και προκύπτει ένα σφάλµα e µε βάση το οποίο γίνεται η προσαρµογή των συντελεστών h (k). Συνήθως (για λόγους ευστάθειας) τα προσαρµοζόµενα φίλτρα είναι FIR φίλτρα και υλοποιούνται µε άµεση ή δικτυωτή (lattice) δοµή. Επιθυµητή απόκριση d() Είσοδος x() Η (z) απόκριση y() _ + σφάλµα e Σχήµα 8. Λεπτοµέρειες ενός adaptive συστήµατος. Ένα σφάλµα e προκύπτει από την διαφορά του σήµατος εισόδου και του επιθυµητού σήµατος. Το σήµα αυτό e χρησιµοποιείται για την προσαρµογή των συντελεστώνh(k) Ας παρακολουθήσουµε την διαδικασία ελαχιστοποίησης του σφάλµατος. Η έξοδος y() ενός σήµατος (Μ+1 σηµείων) σε κάθε χρονική στιγµή βρίσκεται σαν η συνέλιξη του σήµατος x() µε τους συντελεστές h(k): N 1 y() = h(k)x( k) =,...,M k= Η διαφορά µε το επιθυµητό (ιδανικό) σήµα d() δίνει το σφάλµα e(): e (8.1) = d() y() (8.)

Προσαρµοζόµενα Φίλτρα 3 x() z -1 z -1 z -1 z -1 h() h(1) h() h(3) Σ y() Προσαρµογή των συντελεστών Σχήµα 8. 3 Το φίλτρο αυτό έχει 5 συντελεστές που σε κάθε χρονική στιγµή µεταβάλλονται ώστε να επιτευχθεί η ελαχιστοποίηση του σφάλµατος Oι συντελεστές h(k) βρίσκονται µε την ελαχιστοποίηση του τετραγωνικού σφάλµατος e για όλα τα σηµεία του σήµατος και αυτό βέβαια οδηγεί στην ελαχιστοποίηση του αθροίσµατος του τετραγωνικού σφάλµατος: J = M e = (8.3) Από το σφάλµα αυτό ορίζεται ουσιαστικά η συνάρτηση µε παραµέτρους (µεταβλητές) τους h(k) που για κάποια τιµή των παραµέτρων έχει ένα ελάχιστο που είναι και το ζητούµενο. M M 1 N J = e = d( ) h( k) x( k) = = = k= M N 1 = ( ) h( k) rdx ( k) + = k= όπου r dx = ετεροσυσχέτιση µεταξύ d και x: και r xx = αυτοσυσχέτιση του x: N 1 N 1 d h( k) h( l) r ( k l) (8.4) k= l= M dx (k) = d()x( k) k N 1 = r (8.4α) M xx (k) = x()x( k) k N 1 = r (8.4β) J Η ελαχιστοποίηση του J δηλ. = m N 1 συνεπάγεται: h( m) xx N 1 k= h(k)r xx (k m) = r dx (m) m N 1 (8.5)

Προσαρµοζόµενα Φίλτρα 4 Αυτό το σύνολο των Ν εξισώσεων δίνει τους βέλτιστους συντελεστές h(k) του φίλτρου και αντιστοιχούν βέβαια στο ελάχιστο της συνάρτησης (κόστους) J (8.3) Σηµείωση: Η (8.5) φέρεται και µε την ονοµασία εξίσωση (ή λύση) Wieer-Hopf 8.1. Στατιστική θεώρηση Η τελευταία σχέση (8.4) αναφέρεται στις τιµές Μ του σήµατος x(). Εάν διαιρέσουµε όλους τους όρους µε Μ έχουµε ουσιαστικά µέσες τιµές: του e του d της r dx και r xx Ας προχωρήσουµε ένα ακόµη βήµα και ας θεωρήσουµε τα αντίστοιχα στατιστικά µεγέθη αναµενόµενες τιµές (expectatio values). Στο σηµείο αυτό θα επαναλάβουµε την προηγούµενη διαδικασία υπολογισµού του σφάλµατος και ελαχιστοποίηση µε ταυτόχρονη βελτίωση του στο φορµαλισµού των εξισώσεων. Η αρχική σχέση (8.1) γράφεται ως εξής: y()=η Χ όπου Χ =[x x -1 x -(N-1) ] Τ και Η=[h() h(1).. h(n-1)], (Τ= ανάστροφος). Αντίστοιχα το σφάλµα e γράφεται: e =y()-d()= Η Χ -d() Από αυτό υπολογίζεται το κόστος ή ακριβέστερα το τετραγωνικό σφάλµα: e = d () d() X H + H XX H Στη σχέση αυτή λαµβάνοντας αναµενόµενες τιµές Ε (expectatios) στις δύο πλευρές και έχουµε 1 : J = E{e } = E{d ()} E{d() X = σ P H + H RH H} + E{ H X X H} = όπου : σ είναι η διακύµανση του d(), P=E{d()X } είναι το Ν διαστάσεων διάνυσµα ετεροσυσχέτισης µεταξύ d() και Χ δηλ. P=[r dx (), r dx (1)...r dx (N-1)] και R ο ΝxN πίνακας αυτοσυσχέτισης : R=E{X X } ηλ. R ij =r xx (i-j) 1 ιατηρούµε το ίδιο σύµβολο J που είχαµε και για το συνολικό τετραγωνικό σφάλµα στην (8.3)

Προσαρµοζόµενα Φίλτρα 5 Η συνάρτηση κόστους J παριστάνει µία επιφάνεια και επειδή η συνάρτηση αυτή είναι τετραγωνική έχει ένα και µοναδικό ελάχιστο. Σύµφωνα µε τον προηγούµενο συµβολισµό η βάθµωση του J είναι: = dj dh = P + RH από αυτή βρίσκουµε το ελάχιστο που είναι 1 H opt = R P ηλαδή όταν οι παράµετροι (συντελεστές) Η πάρουν την τιµή Η opt τότε το σφάλµα J γίνεται ελάχιστο (βλ και κατωτέρω σχήµα 8.4). Ας σηµειώσουµε ότι η σχέση αυτή είναι αντίστοιχη της (8.4) µε µόνη διαφορά στη στατιστική (µέση τιµή) θεώρηση των µεγεθών. 8. Ο αλγόριθµος LMS (Least Mea Squares) 8..1 Περιγραφή Η παραπάνω διαδικασία προϋποθέτει ότι γνωρίζουµε τις συναρτήσεις αυτοσυσχέτισης r xx, ετεροσυσχέτισης r dx. Για πεπερασµένη διάρκεια του σήµατος µπορούµε βέβαια να τις υπολογίσουµε. Αυτό βέβαια δεν είναι πάντα εφικτό Ο αλγόριθµος LMS δίνει µία άλλη προσέγγιση στο πρόβληµα ευρέσεως του ελαχίστου που περιγράφηκε παραπάνω και βρίσκει ουσιαστικά το ελάχιστο του σφάλµατος (κόστους) J µε διαδοχικά βήµατα που βασίζονται στην παράγωγο (βάθµωση) της συνάρτησης J ( J). J J h h f (k) h o (k) Σχήµα 8. 4 Η συνάρτηση σφάλµατος J έχει ένα ελάχιστο h f (k) που µπορεί να βρεθεί από την (8.5) αλλά µπορεί να προσεγγισθεί και σταδιακά αρχίζοντας από µία τιµή h o (k) και ακολουθώντας την αντίθετη κατεύθυνση της παραγώγου

Προσαρµοζόµενα Φίλτρα 6 Η θεώρηση αυτή προϋποθέτει ότι το σύστηµα είναι στατικό δηλ. δεν µεταβάλλονται οι στατιστικές του παράµετρες και εποµένως ούτε η συνάρτηση κόστους. Η συνάρτηση αυτή (κόστους) επειδή είναι τετραγωνική έχει ένα ελάχιστο που αντιστοιχεί σε κάποια συγκεκριµένη τιµή των παραµέτρων h(k). Λόγω της στατικότητας το ελάχιστο αυτό στη διαδικασία σταδιακής προσέγγισης δεν µεταβάλλεται. Η υπόθεση στατικότητας είναι γενικά αποδεκτή. Επιπλέον θεωρούµε ότι οι τιµές (παράµετροι) h(k) διορθώνονται σε κάθε χρονική στιγµή προκειµένου σταδιακά να καταλήξουν στις τελικές βέλτιστες τιµές που αντιστοιχούν στο ελάχιστο του J. Εποµένως εξαρτώνται από την στιγµή : h (k). Για την υλοποίηση του αλγορίθµου: Αρχίζουµε µε µία αυθαίρετη επιλογή h o (k) αρχικών τιµών για τους συντελεστές (παραµέτρους) h(k). Αυτές µπορεί να είναι και οι µηδενικές: h o (k) = <k<n-1. Στη συνέχεια για κάθε καινούριο δείγµα x() υπολογίζεται η έξοδος y() και το σφάλµα e =d()-y(). Με χρησιµοποίηση του σφάλµατος αυτού γίνεται διόρθωση των N τιµών h(k) σύµφωνα µε την σχέση : h (k) = h -1 (k) + µ e x(-k) k N-1 =,1, Μ (8.6) µ είναι το βήµα, µία παράµετρος που καθορίζει την ταχύτητα σύγκλισης και e()x(-k) είναι µία προσέγγιση (του αρνητικού) της βάθµωσης ( J). Μεγάλη τιµή του µ οδηγεί σε γρήγορη ενώ µικρή τιµή σε αργή σύγκλιση προς το ελάχιστο του σφάλµατος. Η µεγάλη τιµή όµως µπορεί να οδηγήσει σε αστάθεια Για να εξασφαλισθεί ευστάθεια η τιµή του µ πρέπει να ικανοποιεί την σχέση : 1 <µ< (8.7) 1NP x όπου Ν είναι το µήκος του φίλτρου και P x η ισχύς του σήµατος εισόδου x() που µπορεί να προσεγγισθεί ως : P x = 1 1+ M () 1 M xx x () = = M + r (8.8) 8.. ιαδικασία µέγιστης βάθµωσης Στη διαδικασία που περιγράφεται από την (8.6) γίνεται ουσιαστικά χρήση του αλγορίθµου µεγίστης βάθµωσης (steepest decet algorithm). ηλαδή σε κάθε χρονική στιγµή υπολογίζεται η βάθµωση (gradiet) και οι τιµές h(k) διορθώνονται σύµφωνα µε την (αντίθετη) κατεύθυνση της βάθµωσης.

Προσαρµοζόµενα Φίλτρα 7 Θέτοντας Η ={h (k) k=, N-1} Τ έχουµε: J Όπου = H Η +1 = Η µ (8.9) J J =,,.. h () h (1) h J (N 1) Στη διαδικασία του LMS αλγορίθµου που περιεγράφει παραπάνω ο υπολογισµός της βάθµωσης δεν γίνεται από την συνάρτηση σφάλµατος (8.3) αλλά από µία προσέγγιση όπου µόνο το στιγµιαίο σφάλµα e λαµβάνεται υπόψη. ηλ J= e. Εποµένως γίνεται µία εκτίµηση της βάθµωσης βάσει του σφάλµατος ) e e (d y ) y = = e = e = e = e X H H H H e που είναι: (8.1) όπου Χ ={x(), x(-1),.x(-n+1)} Τ. Άρα η (8.9) γίνεται: Η +1 = Η + e µ X και ενσωµατώνοντας το στο µ έχουµε Η +1 = Η + e µ X (8.11) Η σχέση (8.11) είναι ουσιαστικά η διανυσµατική έκφραση της (8.6) και αποτελεί ταυτόχρονα και την εξήγηση της. Η ανωτέρω σχέση (8.11) και η αντίστοιχη µέθοδος φέρεται µε την ονοµασία αλγόριθµος Widrow-Hopf 8.3 Εφαρµογές Οι εφαρµογές των προσαρµοζόµενων συστηµάτων (φίλτρων) είναι πολλές. Στη συνέχεια θα αναφερθούµε στις πιο χαρακτηριστικές. 8.3.1 Ανάδειξη (φασµατικής) γραµµής (lie ehacer) Η εφαρµογή αυτή αναφέρεται σε ένα ηµιτονικό σήµα (φασµατική γραµµή) που βρίσκεται µέσα σε θόρυβο ευρέως φάσµατος και ασυσχέτιστο µε το σήµα. Σκοπός είναι η ανάδειξη του σήµατος. Η συγκεκριµένη διαδικασία προσαρµογής δεικνύεται διαγραµµατικά στο επόµενο σχήµα 8.5. Οι συντελεστές h (k) προσαρµόζονται ώστε να ελαχιστοποιείται το σφάλµα e δηλαδή d() και y() προσεγγίζουν όσο είναι δυνατόν, και εποµένως εξασθενούν στο µέγιστο βαθµό τον θόρυβο.

Προσαρµοζόµενα Φίλτρα 8 x() x(- ) z - H (z) e + _ Σ d() y() Σχήµα 8. 5 Ανάδειξη «φασµατικής γραµµής». Με καθυστέρηση σηµείων το σήµα εισόδου x(- ) αποσυσχετίζεται από το επιθυµητό σήµα d()=x() Παράδειγµα 8.1 ίνεται το σήµα x()=si(π/5) +oise() όπου ο θόρυβος oise() είναι Gaussia µορφής σ =1 ασυσχέτιστος από το ηµιτονικό σήµα. Θέτουµε =1 και εφαρµόζουµε τον LMS αλγόριθµο για µ=.1 και Ν= Το σήµα x() που παριστάνεται στο σχήµα 8.6α καταλήγει στο σήµα του σχήµατος 8.6β όπου είναι εµφανής η ανάδειξη του ηµιτόνου (διακεκοµµένη γραµµή) 5 πλάτος -5 5 1 15 5 3 35 4 45 5 (α) (β) - 5 1 15 5 3 35 4 45 5 χρόνος Σχήµα 8. 6 Το ηµιτονικό σήµα στο (α) έχει προσθετικό θόρυβο σ =1. Στο (β) δεικνύεται η βελτιωµένη έξοδος του lie ehacer. Οι παράµετρος σύγκλισης έχει τιµή.1 και το FIR φίλτρο έχει µήκος Ν=. Η καθυστέριση =1

Προσαρµοζόµενα Φίλτρα 9 8.3. Ταυτοποίηση συστήµατος (system idetificatio) Στην εφαρµογή αυτή γίνεται µοντελοποίηση (ταυτοποίηση) ενός συστήµατος µε προσαρµογή (adaptive) σε αντίθεση µε τις κλασσικές τεχνικές προσέγγισης όπως η µέθοδος των ελαχίστων τετραγώνων. Η διαδικασία αυτή είναι ιδιαίτερα χρήσιµη σε περιπτώσεις πραγµατικού χρόνου που το άγνωστο σύστηµα δεν είναι σταθερό αλλά µεταβάλλεται για κάποιο διάστηµα. Η βασική δοµή ενός τέτοιου προσαρµοζόµενου συστήµατος ταυτοποίησης (adaptive system idetificatio) δεικνύεται στο διάγραµµα του σχήµατος 8.6 Αγνωστο σύστηµα d() Γεννήτρια Θορύβου x() + _ e Adaptive FIR filter y() σήµα σφάλµα Σχήµα 8. 7 Βασική δοµή ταυτοποίησης προσαρµοζόµενου συστήµατος (adaptive system idetificatio). Το άγνωστο σύστηµα θα βρεθεί µε το adaptive FIR filter. Στο διάγραµµα αυτό φαίνεται ότι όταν ελαχιστοποιηθεί το σφάλµα e τότε το άγνωστο σύστηµα θα ταυτίζεται ή καλύτερα θα προσεγγίζεται από το FIR φίλτρο. Στη διαδικασία αυτή πρέπει να ικανοποιούνται οι εξής δύο συνθήκες: Το σήµα x() πρέπει να ενεργοποιεί όλους τους τρόπους λειτουργίας (modes) του αγνώστου συστήµατος. Ένας τρόπος για να επιτευχθεί αυτό είναι η χρήση σήµατος που είναι ακολουθία λευκού θορύβου ευρέως φάσµατος. Το FIR που είναι το προσαρµοζόµενο φίλτρο (σύστηµα) πρέπει να έχει αρκετούς βαθµούς ελευθερίας ώστε να είναι σε θέση να περιγράψει το άγνωστο σύστηµα. Αν πχ. το άγνωστο σύστηµα είναι ένα IIR φίλτρο τότε τo FIR φίλτρο πρέπει να είναι πολύ υψηλής τάξεως ώστε να προσεγγίζει ικανοποιητικά το άγνωστο IIR φίλτρο.

Προσαρµοζόµενα Φίλτρα 1 8.3. Εξάλειψη θορύβου µε προσαρµογή (Adaptive oise caceler) Στην περίπτωση αυτή το σύστηµα κάνει εκτίµηση του θορύβου που βρίσκεται στο σήµα. Στην διαδικασία αυτή το σήµα θεωρείται ασυσχέτιστο µε τον θόρυβο του οποίου ένα τµήµα εισέρχεται στο σύστηµα προσαρµογής και ταυτόχρονα παρευρίσκεται και στο σήµα από όπου που θέλουµε να το εξαλείψουµε. Στο επόµενο σχήµα 8.8 δεικνύεται ένα τέτοιο σύστηµα. Σήµα s() y() Σήµα+θόρυβος + _ e Θόρυβος x() Adaptive FIR filter xˆ() σήµα Σχήµα 8. 8 Εξάλειψη θορύβου µε προσαρµογή (Adaptive oise caceler) Η έξοδος του συστήµατος είναι: Υψώνοντας στο τετράγωνο έχουµε e =y()- xˆ () = s()+x()- xˆ () (8.1) e = s () + [x() xˆ()] + s()[x() xˆ()] (8.13) Λαµβάνοντας µέσες (αναµενόµενες) τιµές έχουµε: E{e } = E{s ()} + E{x() xˆ()} + E{s()[x() xˆ()]} (8.14) Επειδή το σήµα s() είναι ασυσχέτιστο µε τον θόρυβο x() ο τελευταίος όρος είναι = Αρα E{e } )} = E{s ()} + E{x() xˆ( (8.15) Από την τελευταία αυτή σχέση (και επειδή ο όρος E{s ()} δεν εξαρτάται από την προσαρµογή) φαίνεται ότι η καλύτερη εκτίµηση του σήµατος γίνεται όταν οι παράµετροι h(k) του (adaptive FIR) φίλτρου είναι τέτοιοι που να ελαχιστοποιείται ο τελευταίος όρος E{s()[x() xˆ()]}. ηλαδή mi E{e = E{s ()} + mi E{x() xˆ( (8.16) } )} Και η καλύτερη εκτίµηση του σήµατος e γίνεται όταν γίνει η καλύτερη εκτίµηση του θορύβου x().

Προσαρµοζόµενα Φίλτρα 11 Παράδειγµα 8. Εξάλειψη παρεµβολών δικτύου s+acos(ω ο t+φ) + _ Bcos(ω ο t+ψ) x 1 () 9 ο h (1) + Âcos( ω t ˆ o + φ) x () h () προσαρµογή e Σχήµα 8. 9 Εξάλειψη παρεµβολών δικτύου. o ηµιτονικό σήµα του δικτύου Acos(ω ο t+φ) προστίθεται στο σήµα s. Στο (adaptive) σύστηµα του σχήµατος το σήµα s έχει αλλοιωθεί από παρεµβολές του δικτύου Acos(ω ο t+φ) και το αρχικό σήµα είναι : d=s+acos(ω ο t+φ) όπου η φάση φ και το πλάτος Α είναι άγνωστα Η συχνοτητα ω ο µεταβάλλεται γύρω από την κανονική τιµή της. Για να χρησιµοποιηθεί η διαδικασία της εξάλειψης του θορύβου αυτού µε προσαρµογή λαµβάνουµε ένα σήµα αναφοράς x 1 (t)=bcos(ω ο t+ψ), όπου B, ω ο και ψ είναι άγνωστα. ηµιουργούµε επίσης ένα δεύτερο σήµα αναφοράς x µε διαφορά 9 ο από το προηγούµενο. Mε συνδυασµό (FIR φίλτρο) των δύο αυτών σηµάτων κάνουµε εκτίµηση του σήµατος παρεµβολής Acos(ω ο t+φ). Η µεθοδος αυτή εφαρµόζεται σε σήµατα EEG, EKG, και άλλα ιατρικά σήµατα.

Προσαρµοζόµενα Φίλτρα 1 ΒΙΒΛΙΟΓΡΑΦΙΑ 1 Simo Hayki: «Adaptive Filter heory», hird Editio, Pretice-Hall, Ic., Upper Saddle River, NJ, 1996. Berard Widrow ad Samuel D. Stears: ``Adaptive Sigal Processig'', Pretice- Hall, Ic., Upper Saddle River, NJ, 1985. 3 Edward A. Lee ad David G. Messerschmitt: ``Digital Commuicatio'', Kluwer Academic Publishers, Bosto, 1988. 4 Steve M. Kay: ``Fudametals of Statistical Sigal Processig--Detectio heory'', Volume, Pretice-Hall, Ic., 1998 5. V.K.Igle ad J.Proakis Digital Sigal Processig PWS Publishig Compay, 1997 6. S. Stears ad R. David Sigal Processig Algorithms Pretice Hall Ic. Eglewood Cliffs, New Jersey, 1988 7. Α. Cohe Biomedical Sigal Processig CRC Press Ic, 1986